OpenAI, Anthropic y Google alistan un ente para vigilar la IA
Las tres empresas negocian desde julio un esquema de pruebas de seguridad para sus modelos más avanzados, sin que ninguna autoridad las obligue a seguirlo.
Quien use ChatGPT, Claude o Gemini podría depender pronto de un esquema de seguridad diseñado y vigilado por las mismas compañías que fabrican esos productos, sin que ninguna ley las obligue a someterse a él. OpenAI, Anthropic y Google llevan reuniéndose desde julio para armar un organismo que sometería a prueba, antes de su salida al mercado, la tecnología de punta que construye cada una, según reportó el sitio especializado BankInfoSecurity a partir de una investigación previa de The Information.
Ninguna de las tres compañías lo ha confirmado por su cuenta: la información completa se sostiene en fuentes que ni BankInfoSecurity ni The Information identificaron por nombre. El organismo ya tendría, de todas formas, un nombre de trabajo: Standards Authority for Frontier AI (SAFA).
Un modelo tomado de las finanzas
Quien puso el proyecto sobre la mesa en julio fue Demis Hassabis, cofundador de Google DeepMind: su propuesta fue calcar a la Autoridad Reguladora de la Industria Financiera de Estados Unidos, un organismo que hoy vigila a corredores y firmas de inversión sin ser parte del gobierno. Bajo ese modelo, SAFA respaldaría pruebas independientes antes de que un modelo salga al mercado, definiría qué deben reportar los laboratorios cuando ocurre un incidente de seguridad y certificaría a los auditores externos que revisen ese trabajo.
Las tres empresas ya se habrían acercado a nombres para dirigirlo, como el exasesor presidencial en temas de IA Sriram Krishnan y la ex secretaria de Estado Condoleezza Rice, sin que se sepa todavía si esas personas dijeron que sí o solo recibieron la llamada. PYMNTS reporta que el lanzamiento se esperaría para finales de este año o inicios de 2027.
No es la primera vez, y no todos están de acuerdo
Estas mismas empresas, más Microsoft, ya mantienen algo similar desde 2023: el Frontier Model Forum, un grupo sin ánimo de lucro que no dejaría de operar aunque SAFA se concrete. Un intento previo de armar una asociación público-privada con el mismo fin se quedó estancado durante el gobierno de Donald Trump.
Sam Altman, director ejecutivo de OpenAI, defendió la idea ante Tech Xplore diciendo que a la industria le conviene «tener el tiempo suficiente para hacer esto con seguridad». Pero Cohere, que no participa en las conversaciones, ya cuestionó en público que las mismas empresas que se supone deben vigilarse redacten sus propias reglas. Su director ejecutivo, Aidan Gomez, lo plantea así:
La inteligencia artificial necesita reglas. Nadie discute eso, y nunca se discutió. Lo que se discute es quién las redacta y quién tiene un lugar en la mesa.
PYMNTS agrega que la preocupación se extiende a desarrolladores de código abierto y a competidores más chicos, que quedarían fuera de un organismo escrito por los tres laboratorios más grandes del mercado. Tampoco se sabe todavía quién financiaría a SAFA en la práctica ni si tendría forma de sancionar a un laboratorio que incumpla sus compromisos, más allá de que estos sean voluntarios.
