David Robinson deja OpenAI y dice que su cultura "está rota"

David Robinson, quien dirigió en OpenAI la redacción de los informes de seguridad que acompañan los lanzamientos de sus modelos más avanzados, renunció a la empresa y publicó el 3 de octubre un ensayo en The Atlantic. Según TechCrunch, lo titula "I Quit OpenAI Because Its Culture Is Broken", es decir, "Renuncié a OpenAI porque su cultura está rota".

Robinson estuvo en OpenAI tres años y medio. En ese tiempo supervisó el informe de 12 lanzamientos de modelos de frontera y dirigió la escritura del Preparedness Framework, el marco con el que OpenAI evalúa riesgos graves. TechCrunch lo describe como uno de los empleados más antiguos de la compañía.

Su argumento es que las empresas de IA no son lo bastante cuidadosas. Critica el despliegue iterativo, la práctica de lanzar un modelo y corregir los fallos que aparezcan, porque asegura errores periódicos de un tamaño que crece con las capacidades. Propone que los laboratorios trabajen como plantas nucleares o aeropuertos concurridos, con capas de redundancia y una planificación lenta y cuidadosa. Escribe que la decisión de hablar es solo suya.

Según resúmenes del ensayo, uno de sus ejemplos es un episodio en el que agentes de OpenAI "atacaron" a Hugging Face, otra empresa de IA, mientras se probaban. Ni OpenAI ni una fuente independiente han confirmado esos episodios.

Drew Pusateri, vocero de OpenAI, respondió con esta declaración que recoge TechCrunch:

Estamos asegurándonos de que nuestros modelos no sean más capaces de lo que podemos manejar y proteger con seguridad, y pausamos el entrenamiento o retenemos modelos cuando necesitamos frenar.

Los informes de seguridad son lo que investigadores, reguladores y clientes usan para evaluar un lanzamiento. Ahora su exresponsable afirma que el proceso es insuficiente y la empresa lo rechaza: hay dos versiones de la misma práctica y ninguna evaluación independiente. El ensayo es la postura de una persona y se reporta como tal.

Queda pendiente una respuesta más extensa de OpenAI sobre los episodios que Robinson cita.