OpenAI despliega Control Room, un sistema central para detener la producción de sus modelos de investigación en 35 segundos
OpenAI describe Control Room, un servicio que monitoriza todas las tareas de investigación que utilizan sus modelos y puede cortar su producción en un máximo de 35 segundos tras una orden de parada, decidida por una persona o por un sistema de vigilancia. El dispositivo se sitúa en la capa de inferencia y pasa a modo seguro en caso de fallo.
¿Qué hacer si un modelo en pleno entrenamiento empieza a hacer algo indebido? OpenAI presentó el 9 de noviembre Control Room, un servicio centralizado que registra todas las tareas de investigación que recurren a sus modelos y puede cortar su producción en un máximo de 35 segundos tras una orden de parada. El sistema ya está desplegado en la infraestructura de investigación de la empresa.
Un botón de parada situado en la inferencia
El principio consta de tres piezas. La tarea (un experimento de aprendizaje por refuerzo, una evaluación, un procesamiento masivo de datos) solicita al arrancar un identificador a Control Room; si realiza inferencia agéntica, debe estar vinculada a un expediente de seguridad aprobado. El motor de inferencia, que ejecuta el modelo en las GPU, comprueba ante Control Room, antes de cada petición, que dicha tarea continúe autorizada. Por último, el servicio Control Room mantiene el registro de las tareas activas y detenidas.
Cuando una persona o un sistema de supervisión ordena la parada, Control Room marca la tarea como detenida. El motor rechaza la siguiente petición: el programa de investigación puede seguir ejecutándose, pero ya no recibe ninguna salida del modelo, sin importar el motor o el modelo al que recurra.
OpenAI justifica esta decisión arquitectónica: el código de los experimentos cambia constantemente y pertenece a equipos de investigadores, por lo que no constituye un punto adecuado para una protección crítica. En cambio, existe un número muy reducido de rutas de código de inferencia en toda la investigación de OpenAI. Al situar el bloqueo en este punto, la empresa sostiene que obtiene la garantía de que toda inferencia de investigación pase por un control, y ejecuta comprobaciones continuas para detectar motores iniciados sin Control Room.
35 segundos y seguridad por defecto
El margen de 35 segundos procede de una capa de caché de autorizaciones, necesaria para asumir el volumen de peticiones; OpenAI asegura estar trabajando para reducirlo a cero. Esta cifra solo mide el tiempo transcurrido entre la orden de parada y el corte efectivo, no el tiempo necesario para detectar el problema.
El sistema está diseñado para fallar cerrado: si Control Room se cae, ya sea por error, desactivación o sabotaje, los motores rechazan todas las peticiones hasta que el servicio se restablezca. Este modo ya funciona para todas las tareas de investigación con modelos punteros y está previsto extenderlo al resto de la investigación en los días siguientes. OpenAI recuerda también que todas sus tareas punteras de aprendizaje por refuerzo van acompañadas de un monitor, otro modelo que observa al modelo en entrenamiento y puede solicitar por sí mismo la interrupción.
Control Room no afecta a los modelos que se sirven al público (ChatGPT, API): según OpenAI, dicha infraestructura ya está centralizada y dispone de sus propios mecanismos de retirada rápida.
Nuestro análisis
Esta publicación es, ante todo, una admisión de contexto: OpenAI considera ahora lo bastante probable que un modelo en entrenamiento deba detenerse de urgencia como para construir un dispositivo específico, vinculado a sus monitores de comportamientos no alineados. La elección de cortar a nivel de la inferencia, y bloquear por defecto si el control desaparece, es la idea más sólida: no depende de la buena voluntad del código experimental. Las limitaciones son las propias de un comunicado corporativo: no hay código, ni auditoría externa, ni cifras sobre paradas ya ejecutadas. Además, una parada rápida solo sirve si la detección es eficaz, un factor que Control Room no mide.
Fuentes
- OpenAI — Control Room: A central system to track and stop model workloads across our research infrastructure (9 de noviembre de 2026) Fuente primaria
- OpenAI — sección de Seguridad del blog (fecha de publicación) Fuente primaria
- Cointelegraph — OpenAI builds kill switch to stop rogue agents within 35 seconds (10 de noviembre de 2026) Fuente secundaria
Una fuente primaria procede directamente de la empresa, el laboratorio o la organización implicados. Una fuente secundaria recoge la información sin ser su autora: la señalamos como tal. ¿Has visto un error? Consulta nuestra política de correcciones.
