En una audiencia federal en Oakland, exempleados y miembros de la junta testificaron que la presión por comercializar modelos de IA pudo debilitar prácticas de seguridad en OpenAI;
En una audiencia federal en Oakland, testigos vinculados a OpenAI afirmaron que la transición de la empresa hacia un enfoque más comercial erosionó prácticas de seguridad y gobernanza; ese reclamo es eje de la demanda de Elon Musk, que pretende desmantelar la estructura vigente. El enfrentamiento legal importa porque podría cambiar cómo se revisan despliegues y decisiones ejecutivas en desarrolladores de IA avanzada.
Rosie Campbell declaró que se incorporó al equipo de AGI readiness en 2021 y salió en 2024 tras la disolución de su unidad, y sostuvo que la cultura interna pasó de «muy enfocada en investigación» a orientarse hacia productos. También señaló que el Super Alignment team, otro grupo dedicado a seguridad, fue cerrado en ese mismo periodo.
Campbell describió un incidente operativo: una versión de GPT‑4 implementada por Microsoft en India a través de Bing se puso en producción antes de que la Deployment Safety Board (DSB) de OpenAI la evaluara. Aclaró que el modelo en sí no representó un riesgo mayor, pero subrayó la importancia de «establecer precedentes fuertes» a medida que la tecnología gana potencia.
El despliegue en India fue citado como uno de los factores que motivaron a la junta sin fines de lucro a despedir brevemente al CEO Sam Altman en 2023. Testigos relataron que empleados como Ilya Sutskever y la entonces CTO Mira Murati expresaron que el estilo de gestión de Altman generaba fricciones; Tasha McCauley testificó que la junta perdió confianza por falta de información y transparencia.
Durante el juicio se recordó que OpenAI publica evaluaciones y un marco de seguridad de forma pública, aunque la compañía declinó comentar su enfoque actual de alineamiento de AGI en la causa. La empresa contrató a Dylan Scandinaro, proveniente de Anthropic, en febrero; Altman dijo que la incorporación le permitiría «dormir mejor esta noche». Campbell añadió, en una observación calificada como especulativa, que el enfoque de seguridad de OpenAI es superior al de xAI.
Los abogados del caso vincularon decisiones de despliegue y la estructura con fines de lucro con la misión fundacional de asegurar beneficios para la humanidad frente a una IA de nivel AGI. Un fallo que favorezca a Musk podría intensificar el escrutinio regulatorio, presionar por procesos de evaluación como la DSB y afectar la confianza en los límites entre investigación y comercialización.
Fuentes
Respuestas (0)
Aún no hay respuestas en este tema.
