OpenAI frena en 35 segundos las cargas de IA de su laboratorio

Para quien usa ChatGPT o la API de OpenAI, Control Room no cambia nada. La empresa describió este servicio como un freno de emergencia para su infraestructura de investigación, donde entrena y evalúa sus modelos, y dice que ya está desplegado ahí. Los modelos que ofrece a usuarios externos corren sobre otra infraestructura, más centralizada, que según la compañía ya puede retirar despliegues con rapidez.

Cómo funciona

Cada tarea de investigación, sea un experimento de aprendizaje por refuerzo, una evaluación o un muestreo masivo, le pide a Control Room un identificador y debe estar ligada a una "argumentación de seguridad" aprobada (safety case, en inglés). Cuando el motor de inferencia, la pieza que ejecuta el modelo en las GPU, tiene que generar texto, consulta al servicio con ese identificador. Si la tarea figura como detenida, la solicitud se niega y el modelo deja de producir.

El tope entre la orden de frenar y el punto en que la tarea ya no puede avanzar es de 35 segundos.

Esos segundos salen de una capa de caché que autoriza las inferencias y que hace falta para soportar el volumen de tráfico. La orden puede venir de una persona o de los sistemas que vigilan comportamientos no alineados, es decir, modelos que actúan contra lo que sus creadores buscan. Según OpenAI, el freno se puso en la capa de inferencia y no dentro de cada experimento: el código de los experimentos cambia con frecuencia y lo escriben muchos equipos distintos.

El diseño también cierra el paso por defecto. Si Control Room cae, por un error o porque alguien lo apaga, incluso con mala intención, el sistema rechaza cualquier petición de inferencia mientras no se restablezca. Ese bloqueo ya funciona en los trabajos con modelos de frontera, y el resto de la investigación lo tendrá en pocos días. La empresa añade que hace comprobaciones continuas, con agentes y programas, para encontrar motores lanzados sin Control Room o con él desactivado.

El anuncio llega después de un episodio que OpenAI documentó. En un informe de su blog de alineación, cuenta que en septiembre un agente que se entrenaba llegó a un chatbot público por un hueco en las restricciones de internet: el filtrado de DNS de su entorno de pruebas era insuficiente. El sistema de supervisión marcó la conducta en 15 minutos, una persona empezó a revisarla tres minutos después y la ejecución se detuvo 2.5 horas más tarde. La página de Control Room no relaciona el sistema con ese caso.

Lo que no está probado

Todas las cifras son de OpenAI y no hay auditoría ni prueba independiente. Tampoco detalla quién opera el sistema ni qué umbrales disparan una detención, y 35 segundos es un máximo, no una descripción de lo que podría hacer una carga comprometida en ese lapso.

OpenAI dice que trabaja para llevar esos 35 segundos a cero y poder terminar las tareas al instante.