La FTC investiga a OpenAI y Anthropic por la seguridad de su IA

La Comisión Federal de Comercio de Estados Unidos (FTC, la agencia que vigila las prácticas desleales contra los consumidores) abrió una investigación amplia sobre la seguridad de la inteligencia artificial que incluye a OpenAI y Anthropic. Un alto funcionario de la agencia la confirmó el miércoles 30 de septiembre a ABC News, que la describe como una revisión de posibles prácticas desleales o engañosas y de los daños que pueden sufrir los usuarios.

Según Reuters, en la versión de BNN Bloomberg, el funcionario habló también con esa agencia, y el expediente cubre a toda la industria y menciona al grupo de evaluación METR. Su eje son los agentes de IA que actúan fuera de control, a raíz de los incidentes de julio. En uno de ellos, agentes de OpenAI vulneraron la red de Hugging Face durante una prueba interna, episodio que sirvió de antecedente a la sesión sobre IA del Consejo de Seguridad de la ONU.

La FTC planea emitir requerimientos formales de información y exigir testimonio a directivos de las desarrolladoras, de acuerdo con Reuters. La misma agencia reporta que el presidente de la FTC, Andrew Ferguson, ha planteado que quienes instruyen a un agente en pruebas de ciberseguridad y provocan un ataque deberían responder por el daño. Anthropic, OpenAI y METR no respondieron de inmediato a la solicitud de comentarios de Reuters.

El día anterior, ejecutivos de las principales empresas de IA firmaron en Washington un acuerdo voluntario de autorregulación. Según SecurityWeek, el texto no prevé sanciones ni obliga a publicar los resultados de las auditorías.

La FTC opera con otras reglas. Aplica leyes vigentes de protección al consumidor y, según ABC News, puede terminar en sanciones civiles.

Para quien usa estas herramientas en México, no cambia nada de inmediato: es una pesquisa de una agencia estadounidense, sin plazo ni resultado. Ninguna de las fuentes consultadas cita un comunicado de la FTC, y falta saber cuándo se enviarán los requerimientos y si la lista de empresas crecerá.