OpenAI lanza el sistema Control Room, capaz de interrumpir la salida de los modelos en 35 segundos

OpenAI ha lanzado recientemente un sistema de supervisión centralizado denominado Control Room, diseñado para rastrear en tiempo real las cargas de trabajo de diversos modelos dentro de su infraestructura de investigación y detener inmediatamente las tareas correspondientes al identificar riesgos de seguridad o protección. Actualmente, este sistema se aplica de forma integral a todas las actividades de investigación internas de OpenAI, incluidos los experimentos de entrenamiento de modelos, las evaluaciones de rendimiento y el procesamiento de datos. A medida que las capacidades de los modelos siguen avanzando, los riesgos asociados en materia de seguridad y protección también se intensifican progresivamente; OpenAI subraya que, en este contexto, la capacidad de identificar eficazmente posibles vulnerabilidades y detener con decisión la ejecución de los modelos se ha convertido en una competencia fundamental para garantizar la seguridad del proceso de investigación. Desde el punto de vista técnico, Control Room asigna un identificador único a cada tarea de investigación; antes de generar cualquier salida, el modelo debe someter dicho identificador a una verificación realizada por el motor de inferencia. Una vez que se activa una orden de parada —ya sea mediante intervención humana o a través de sistemas automatizados de monitoreo—, Control Room revoca inmediatamente los permisos de ejecución de esa tarea, interrumpiendo así todo el flujo subsiguiente de salidas.