OpenAI meluncurkan sistem Control Room yang mampu memutus output model dalam waktu 35 detik

OpenAI baru-baru ini meluncurkan sistem pemantauan terpusat bernama Control Room, yang dirancang untuk melacak secara real-time berbagai beban kerja model di infrastruktur penelitiannya—dan segera menghentikan tugas terkait begitu mendeteksi risiko keamanan atau keselamatan. Saat ini, sistem ini telah diterapkan sepenuhnya dalam seluruh aktivitas penelitian internal OpenAI, mencakup eksperimen pelatihan model, evaluasi kinerja, serta pemrosesan data. Seiring peningkatan kemampuan model, risiko keamanan dan keselamatan pun turut meningkat—OpenAI menekankan bahwa dalam konteks ini, kemampuan mengidentifikasi potensi bahaya secara efisien dan menghentikan operasi model secara tegas menjadi kunci utama dalam menjaga keamanan proses pengembangan. Dari sisi implementasi teknis, Control Room memberikan identifikasi unik pada setiap tugas penelitian; sebelum model menghasilkan keluaran apa pun, *inference engine* harus memverifikasi identifikasi tersebut. Begitu perintah penghentian diaktifkan—baik melalui intervensi manusia maupun sistem pemantauan otomatis—Control Room langsung mencabut izin eksekusi tugas tersebut, sehingga seluruh alur keluaran berikutnya terputus sepenuhnya.