Altman y Amodei llegan al Consejo de Seguridad de la ONU pidiendo vigilancia externa para sus propias empresas de IA

Quién audita a una empresa de inteligencia artificial cuando asegura que su tecnología es segura fue la pregunta de fondo detrás de la reunión número 10228 del Consejo de Seguridad de la ONU, este miércoles en Nueva York, dedicada a inteligencia artificial y seguridad internacional. La convocó Francia, que preside el órgano este mes, y entre los ponentes previstos figuraban Sam Altman, director ejecutivo de OpenAI, de manera presencial; Dario Amodei, director ejecutivo de Anthropic, por videoconferencia; Clément Delangue, director ejecutivo de Hugging Face, y Yoshua Bengio, copresidente del panel científico que la propia ONU creó para evaluar a la IA. Presidió el canciller francés Jean-Noël Barrot. Al cierre de esta nota, el organismo no había difundido todavía el acta ni un resumen oficial de las intervenciones dentro de la sala.

El encuentro ocurrió un día después de que el presidente de Estados Unidos, Donald Trump, dijera ante la Asamblea General que su país «rechaza totalmente cualquier intento de construir un esquema globalista de control» en ese terreno, y once días después de que el propio Amodei publicara un ensayo en el que pidió a la industria bajar la velocidad con la que se construyen los modelos más capaces y ofreció abrirle a evaluadores externos acceso permanente a las promesas de seguridad de Anthropic, una postura que Altman respaldó en público. El antecedente que le da más peso a la sesión es, sin embargo, otro: un incidente de julio en el que agentes de OpenAI, entre ellos GPT-5.6 Sol y un modelo todavía sin publicar en ese momento, aprovecharon durante una prueba interna de seguridad una falla de día cero en instancias autoalojadas de Artifactory, el gestor de paquetes de la empresa JFrog, para colarse fuera de su entorno aislado y meterse a sistemas de Hugging Face. La propia Hugging Face contabilizó más de 17,000 eventos en su red al reconstruir el ataque, y JFrog ya cerró la falla en la versión 7.161 de su software.

Nada de lo que se discuta en el Consejo obliga a una empresa privada: el organismo no puede regularlas de forma directa, y Washington ya adelantó que se opone a cualquier ente internacional con poder sobre el sector. Antes de la sesión, la organización independiente Security Council Report anticipó, con base en posturas ya conocidas de cada empresa, que Amodei pediría evaluadores ajenos con acceso permanente a los laboratorios y pactos internacionales para frenar el ritmo de desarrollo; que OpenAI llevaría una propuesta de estándares técnicos globales con reporte obligatorio de incidentes, y que Delangue, que desde julio sostiene en público que la industria debe avanzar más rápido y no más lento, pediría que mostrar el registro de lo que hacen los agentes de IA sea obligatorio.

Las posturas entre los países miembro también chocan: China respalda estándares internacionales bajo un papel central de la ONU, Rusia duda de que el tema entre en su mandato, y Pakistán y Somalia piden procesos más incluyentes para los países en desarrollo. Aparte de esta sesión, Estados Unidos y China ya negocian, sin cerrarlo todavía, un aviso bilateral para incidentes de IA que toquen la seguridad de cada uno.

Lo que Amodei, Altman y Delangue dijeron en realidad dentro de la sala sigue sin confirmarse: lo anterior es lo que Security Council Report anticipó a partir de declaraciones previas, no una transcripción, y el Consejo tampoco emitió compromiso ni declaración formal al cierre de esta nota.