OpenAI представила систему Control Room, позволяющую отключать вывод модели за 35 секунд

OpenAI недавно представила централизованную систему мониторинга под названием Control Room, предназначенную для отслеживания в реальном времени рабочих нагрузок различных моделей в исследовательской инфраструктуре компании и немедленной остановки соответствующих задач при обнаружении угроз безопасности или защиты. В настоящее время система полностью внедрена во внутренние исследовательские процессы OpenAI — включая эксперименты по обучению моделей, оценку их производительности и обработку данных. По мере роста возможностей моделей растут и связанные с ними риски в области безопасности и защиты; OpenAI подчёркивает, что в этих условиях способность оперативно выявлять потенциальные угрозы и решительно останавливать работу моделей становится критически важным компонентом обеспечения безопасности исследований. С технической точки зрения Control Room присваивает каждой исследовательской задаче уникальный идентификатор, а перед генерацией любого вывода модель должна пройти проверку этого идентификатора через движок вывода (inference engine). Как только команда на остановку активируется вручную или автоматизированной системой мониторинга, Control Room немедленно отзывается разрешение на выполнение задачи, тем самым полностью прекращая все последующие этапы генерации вывода.