Una declaración en video de Mira Murati, exdirectora de tecnología de OpenAI, fue reproducida en el tribunal el miércoles durante el juicio en curso de Musk contra Altman. En la grabación, Murati testifica bajo juramento que el CEO Sam Altman le dio información errónea sobre si un nuevo modelo de IA estaba sujeto a la junta de seguridad de la compañía para su despliegue.

"¿Decía la verdad?"

Según The Verge, a Murati se le preguntó directamente en la declaración si creía que Altman decía la verdad cuando afirmó que el departamento legal de OpenAI había evaluado que el modelo en cuestión no necesitaba ser revisado por la junta de seguridad de despliegue de la compañía. Su respuesta fue inequívocamente negativa.

Murati, quien dejó OpenAI en 2024 después de ser una de las figuras de liderazgo más centrales de la compañía, explicó que después del incidente, ya no podía tomar la palabra de Altman al pie de la letra. Este es un testimonio particularmente contundente dada la posición anterior de Murati y su conocimiento de la vida interna de la compañía.

Ella explicó que, después del incidente, ya no podía tomar la palabra de Altman al pie de la letra

¿Qué es la junta de seguridad de despliegue?

OpenAI ha tenido un proceso de seguridad estructurado para el despliegue de nuevos modelos de IA, pero el marco ha cambiado con el tiempo. La compañía tenía anteriormente una «Junta de Seguridad de Despliegue» (DSB) conjunta con Microsoft, que debía evaluar los nuevos modelos en cuanto a riesgos antes del lanzamiento.

Se sabe que modelos como GPT-4 fueron probados públicamente en al menos una ocasión sin la aprobación requerida de la DSB, lo que ya había creado malestar interno mucho antes del testimonio de Murati.

El colapso de Superalignment como telón de fondo

El testimonio de Murati no llega en un vacío. En mayo de 2024, el equipo de Superalignment de OpenAI — dedicado a resolver los problemas técnicos centrales relacionados con la superinteligencia segura — fue disuelto después de que ambos colíderes, Ilya Sutskever y Jan Leike, renunciaran a la empresa.

Leike declaró en su partida que el equipo había «navegado contra la corriente» y luchado con el acceso a los recursos de datos necesarios. No ocultó su creencia de que la cultura y los procesos de seguridad habían sido despriorizados en favor de nuevos lanzamientos de productos — una característica que ahora parece más grave a la luz del testimonio de Murati.

Uno por uno, los propios arquitectos de seguridad de OpenAI han hablado — y las historias apuntan en la misma dirección

El juicio que golpea el núcleo

El juicio de Musk contra Altman, en la superficie, trata sobre disputas legales y contractuales, pero en la práctica se ha convertido en una arena donde los conflictos internos de OpenAI sobre seguridad, gobernanza y confianza en el liderazgo se exponen al público. Murati no es la primera figura de alto rango de OpenAI en haber expresado preocupación por la dirección de la empresa.

Según The Verge, OpenAI o Altman aún no han emitido respuestas públicas a las acusaciones específicas que Murati hace en la declaración. 24AI sigue el juicio.