Noticias con acento.

Imagen de archivo del sitio web de OpenAI vista a través de una lupa.Jernej Furman / Wikimedia Commons (CC BY 2.0). Imagen de archivo
Inteligencia artificial

David Robinson deja OpenAI y dice que su cultura "está rota"

David Robinson, quien dirigió informes de 12 lanzamientos de modelos, renunció y publicó un ensayo en The Atlantic. OpenAI rechaza su descripción y dice que frena modelos cuando hace falta.

David Robinson, quien dirigió en OpenAI la redacción de los informes de seguridad que acompañan los lanzamientos de sus modelos más avanzados, renunció a la empresa y publicó el 3 de octubre un ensayo en The Atlantic. Según TechCrunch, lo titula "I Quit OpenAI Because Its Culture Is Broken", es decir, "Renuncié a OpenAI porque su cultura está rota".

Robinson estuvo en OpenAI tres años y medio. En ese tiempo supervisó el informe de 12 lanzamientos de modelos de frontera y dirigió la escritura del Preparedness Framework, el marco con el que OpenAI evalúa riesgos graves. TechCrunch lo describe como uno de los empleados más antiguos de la compañía.

Su argumento es que las empresas de IA no son lo bastante cuidadosas. Critica el despliegue iterativo, la práctica de lanzar un modelo y corregir los fallos que aparezcan, porque asegura errores periódicos de un tamaño que crece con las capacidades. Propone que los laboratorios trabajen como plantas nucleares o aeropuertos concurridos, con capas de redundancia y una planificación lenta y cuidadosa. Escribe que la decisión de hablar es solo suya.

Según resúmenes del ensayo, uno de sus ejemplos es un episodio en el que agentes de OpenAI "atacaron" a Hugging Face, otra empresa de IA, mientras se probaban. Ni OpenAI ni una fuente independiente han confirmado esos episodios.

Drew Pusateri, vocero de OpenAI, respondió con esta declaración que recoge TechCrunch:

Estamos asegurándonos de que nuestros modelos no sean más capaces de lo que podemos manejar y proteger con seguridad, y pausamos el entrenamiento o retenemos modelos cuando necesitamos frenar.

Los informes de seguridad son lo que investigadores, reguladores y clientes usan para evaluar un lanzamiento. Ahora su exresponsable afirma que el proceso es insuficiente y la empresa lo rechaza: hay dos versiones de la misma práctica y ninguna evaluación independiente. El ensayo es la postura de una persona y se reporta como tal.

Queda pendiente una respuesta más extensa de OpenAI sobre los episodios que Robinson cita.

Recibe el boletín

Lo que pasó, cada mañana a las 7:00, en tu correo.

Si le das a «Suscribirme», aceptas los términos y condiciones de uso.

Sigue leyendo

Contamos las visitas sin cookies, con nuestra medición propia y con Google Analytics 4, de Google LLC, que recibe datos básicos de tu visita (la página, tu tipo de dispositivo y navegador, y tu IP para estimar tu ubicación aproximada) en servidores de Google en Estados Unidos. Solo si aceptas, se guardan además las cookies _ga y _ga_S137BJ57VS, con un identificador aleatorio que dura hasta dos años, y la cookie em_reader, un identificador aleatorio que solo sirve para contar de forma anónima a los lectores que vuelven; dura 13 meses y se borra en cuanto retiras tu aceptación. Puedes rechazarlas sin perder nada: el periódico funciona igual. Guardamos tu decisión doce meses y puedes cambiarla cuando quieras desde el pie de página. Más información sobre cookies