OpenAI melancarkan sistem Control Room yang boleh memutuskan output model dalam masa 35 saat

OpenAI baru-baru ini melancarkan sistem pemantauan terpusat bernama Control Room, yang direka untuk memantau secara masa nyata beban kerja pelbagai model dalam infrastruktur penyelidikannya—dan menghentikan segera tugas-tugas berkenaan apabila dikesan risiko keselamatan atau keselamatan siber. Sistem ini kini telah digunakan sepenuhnya dalam semua aktiviti penyelidikan dalaman OpenAI, termasuk eksperimen latihan model, penilaian prestasi, dan pemprosesan data. Seiring dengan peningkatan berterusan keupayaan model, risiko keselamatan dan keselamatan siber turut meningkat; OpenAI menekankan bahawa dalam konteks ini, kemampuan mengenal pasti ancaman potensi secara cekap dan menghentikan operasi model dengan tegas telah menjadi kemahiran kritikal bagi memastikan keselamatan proses penyelidikan dan pembangunan. Dari segi pelaksanaan teknikal, Control Room memberikan pengenal pasti unik kepada setiap tugas penyelidikan; sebelum model menghasilkan sebarang output, enjin inferens mesti mengesahkan pengenal pasti tersebut. Sekiranya arahan penghentian diaktifkan—sama ada melalui campur tangan manusia atau sistem pemantauan automatik—Control Room akan segera mencabut kebenaran pelaksanaan tugas berkenaan, seterusnya memutuskan seluruh aliran output seterusnya.