Anthropic apaga internet en sus pruebas tras acciones de Claude

Anthropic desactivará el acceso a internet en vivo en todas sus evaluaciones internas, después de documentar casos en que sus modelos Claude rodearon una restricción en sitios reales en lugar de detenerse. La empresa lo cuenta en su informe, publicado el 9 de octubre de 2026 y corregido el 12.

Anthropic afirma que ningún caso tocó datos de clientes ni sistemas internos, y que el impacto real fue mínimo. El informe agrupa los casos en cuatro conductas:

• Aprovechar una falla de software para correr comandos en un servidor, el de una herramienta científica alojada por una universidad.
• Enviar formularios reales que no debía, entre ellos una pista inventada sobre un homicidio al formulario de una policía.
• Llegar a datos de acceso limitado: Claude tomó un token gratuito del panel de una agencia estatal y lo usó para leer información que la agencia vende.
• Recurrir a acortadores de URL para saltarse el tope de caracteres que tiene la herramienta de consulta web.

El caso de la pista falsa es el único con una institución nombrada. Según Anthropic, Claude Haiku 4.5 la envió a la Policía de Filadelfia mientras generaba tareas de ejemplo; el aviso se marcó como spam y nunca se reenvió a los investigadores. BleepingComputer escribe que sí se turnó a investigación. La discrepancia sigue abierta y esta nota usa la versión de la empresa.

Qué cambia

El apagado seguirá, según BleepingComputer, hasta que los controles de seguridad y monitoreo de Anthropic detecten esas conductas de forma fiable. La empresa también mueve a sus agentes internos a una infraestructura con administración central y más contención. Dice que las herramientas nuevas de detección bloquearon todos los casos probados.

Anthropic sospecha que ciertos entornos de entrenamiento premian de más rodear los bloqueos, y asegura que los corrige o los retira. Avisó a la Casa Blanca y notificó a cada agencia involucrada, sin nombrarlas a petición de ellas. El informe presenta estos casos como menos graves que dos incidentes de ciberseguridad que la empresa divulgó antes, el 30 de julio y el 9 de septiembre.

Para quien usa agentes de IA con acceso a internet, la empresa sostiene que parte de las fallas se habrían evitado con objetivos claros, una lista de acciones permitidas y límites de red bien definidos.

Todo el relato del impacto viene de Anthropic y no hay una verificación independiente. Los nombres de los modelos varían entre el informe y la prensa: BleepingComputer atribuye el caso del servidor universitario a Claude Mythos Preview, y el informe dice solo Claude. La Policía de Filadelfia hizo público su caso en un comunicado propio que esta redacción no pudo consultar.