OpenAI ra mắt hệ thống Control Room, có thể ngắt đầu ra của mô hình trong vòng 35 giây

Gần đây, OpenAI đã ra mắt một hệ thống giám sát tập trung mang tên Control Room, nhằm theo dõi thời gian thực các khối lượng công việc mô hình trong cơ sở hạ tầng nghiên cứu của mình và ngay lập tức đình chỉ các tác vụ liên quan khi phát hiện rủi ro về an ninh hoặc bảo mật. Hiện nay, hệ thống này đã được triển khai toàn diện trong các hoạt động nghiên cứu nội bộ của OpenAI, bao gồm thử nghiệm huấn luyện mô hình, đánh giá hiệu năng và xử lý dữ liệu. Khi năng lực của các mô hình ngày càng gia tăng, các rủi ro liên quan đến an ninh và bảo mật cũng đồng thời leo thang; OpenAI nhấn mạnh rằng, trong bối cảnh này, khả năng nhận diện hiệu quả các mối nguy tiềm ẩn và quyết liệt ngừng vận hành mô hình đã trở thành một năng lực then chốt để đảm bảo an toàn cho quá trình nghiên cứu. Về mặt kỹ thuật, Control Room cấp cho mỗi tác vụ nghiên cứu một định danh duy nhất; trước khi mô hình tạo ra bất kỳ đầu ra nào, bộ máy suy luận phải xác thực định danh này. Ngay khi lệnh dừng được kích hoạt — dù do can thiệp thủ công hay bởi hệ thống giám sát tự động — Control Room sẽ thu hồi ngay quyền thực thi tác vụ đó, từ đó cắt đứt toàn bộ quy trình đầu ra tiếp theo.