CEO của Anthropic đăng bài viết dài phản hồi các lo ngại về an ninh, nhấn mạnh cần duy trì vị thế dẫn đầu về công nghệ

Gần đây, tổ chức thúc đẩy an toàn AI của Mỹ – Anthropic – đã phản bác dự thảo luật an toàn AI do các nghị sĩ Quốc hội Mỹ đề xuất. Dự thảo này đặt ra ngưỡng rất cao để chính phủ có thể khẩn cấp đình chỉ các mô hình AI nguy hiểm: chỉ khi rủi ro liên quan đến vũ khí sinh học, tấn công mạng hoặc mất kiểm soát AI, đồng thời gây thiệt hại ít nhất 50 người chết hoặc bị thương, hoặc tổn thất kinh tế vượt mức 1 tỷ USD, thì mới được phép can thiệp. Ngoài ra, một số điều khoản trong dự thảo còn có nguy cơ làm suy yếu quyền quản lý của chính quyền các tiểu bang.

Sau đó, ông Nathan Calvin – Giám đốc Chiến lược của tổ chức an toàn AI Encode AI – đã tổng hợp hệ thống các quyết sách trọng yếu của Anthropic trong vòng một năm qua. Theo đó, vào tháng Hai năm nay, công ty này đã điều chỉnh chính sách an toàn nghiêm ngặt trước đây: trước đây Anthropic cam kết “sẽ tạm dừng huấn luyện hoặc phát hành mô hình nếu các biện pháp an toàn không theo kịp tốc độ phát triển năng lực của mô hình”, nhưng chính sách mới không còn yêu cầu doanh nghiệp tự ý ngừng nghiên cứu ở giai đoạn rủi ro cao hơn, với lý do lo ngại đối thủ sẽ tận dụng cơ hội này để bắt kịp và vượt mặt về mặt công nghệ.