Những người ủng hộ quan điểm này đang vận động Quốc hội: Nếu mô hình đó gặp phải tổn thất hơn 1 tỷ đô la Mỹ hoặc có nguy cơ khiến 50 người thiệt mạng, thì chính phủ mới có thể quyết định dừng việc triển khai mô hình đó.

Tin tức về việc Beating AI: Anthropic đang tiến hành thương lượng riêng với các thành viên Quốc hội Hoa Kỳ liên quan đến một dự thảo luật an ninh AI tiên phong. Theo báo cáo của Politico, dự thảo luật này đề xuất việc đặt ra các tiêu chuẩn nghiêm ngặt cho việc chính phủ can thiệp vào các mô hình AI. Dự thảo quy định rằng chính phủ chỉ có thể yêu cầu dừng hoạt động của các mô hình AI khi chúng gặp phải những rủi ro cụ thể và khả năng xảy ra cao – như gây ra tổn thất hơn 1 tỷ đô la hoặc khiến hơn 50 người chết hoặc bị thương nặng. Các điều kiện để chính phủ can thiệp được quy định trong dự thảo là ba loại rủi ro: việc sử dụng mô hình AI trong việc phát triển hoặc lây lan vũ khí sinh học, mô hình rơi vào tay người không thuộc quyền kiểm soát của nhà phát triển, hoặc mô hình gây ra các cuộc tấn công mạng. Luật này cũng yêu cầu các nhà phát triển AI phải thực hiện các bài kiểm tra minh bạch và chịu sự đánh giá từ các bên thứ ba độc lập. Nếu các cơ quan đánh giá phát hiện ra các rủi ro liên quan, họ phải báo cáo cho Bộ Thương mại Hoa Kỳ trong vòng 72 giờ, và Bộ Thương mại có thể yêu cầu tòa án liên bang tạm dừng hoạt động của mô hình đó. Sau đó, quyết định sẽ do tòa án đưa ra. Ngoài ra, dự thảo còn đề xuất việc cấm các bộ phận khác của chính phủ Hoa Kỳ và các quan chức can thiệp độc lập vào việc phát triển, triển khai hoặc sử dụng nội bộ các mô hình AI. Anthropic cho biết, đề xuất này bắt nguồn từ framework AI tiên tiến mà công ty đã công bố vào đầu năm nay, nhằm yêu cầu các nhà phát triển phải trải qua các bài đánh giá an ninh, đồng thời trao quyền cho chính phủ trong việc ngăn chặn việc triển khai các mô hình nguy hiểm. Hiện tại, dự thảo này vẫn đang ở giai đoạn thương lượng và chưa trở thành luật pháp. Nếu các điều khoản liên quan được thông qua, quyền lực của chính phủ Hoa Kỳ trong việc can thiệp khẩn cấp vào các mô hình AI tiên tiến có thể sẽ bị hạn chế đáng kể.