Anthropic cảnh báo: AI có thể sớm bước vào giai đoạn tự tăng tốc, và khi con người nhận ra thì có thể đã quá muộn

Trong bản cáo bạch IPO cập nhật ngày 2 tháng 11, Anthropic đưa ra cảnh báo: trí tuệ nhân tạo (AI) có thể nhanh chóng vượt qua ngưỡng then chốt của “cải tiến tự thân đệ quy” (RSI), từ đó đẩy mạnh đáng kể tốc độ phát triển chính nó. Trong lịch sử, đã nhiều lần xảy ra tình huống tiến triển nghiên cứu âm thầm tăng tốc—đến khi mức độ tăng tốc trở thành hiện thực thì mới được nhận diện rõ ràng. Hiện tại, Claude đã thực sự tham gia vào các khâu cốt lõi trong quy trình nghiên cứu—như viết mã, thực hiện thí nghiệm và xử lý dữ liệu huấn luyện—giúp trực tiếp phát triển các mô hình thế hệ tiếp theo mạnh mẽ hơn; trong khi những mô hình mới này lại tiếp tục thúc đẩy hiệu suất nghiên cứu ở các giai đoạn sau, tạo nên một vòng lặp tích cực không ngừng gia tốc.

Theo chính sách an toàn hiện hành của Anthropic, “vượt qua ngưỡng then chốt” được định nghĩa cụ thể là một trong hai trường hợp sau đây xảy ra:
1. AI có khả năng tự chủ thực hiện toàn bộ quy trình nghiên cứu AI với chi phí tương đương hoặc gần bằng một đội ngũ con người;
2. Tốc độ tiến bộ công nghệ AI tăng ít nhất gấp đôi—nghĩa là những bước tiến vốn cần hai năm để đạt được giờ đây sẽ được hoàn tất trong vòng một năm.

Khi mức độ tham gia của AI vào chính quy trình nghiên cứu của nó ngày càng sâu rộng, tốc độ tiến hóa về năng lực của AI có thể đã bắt đầu vượt xa nhịp độ cập nhật các đánh giá an toàn, nghiên cứu đảm bảo tính phù hợp (alignment) và cơ chế phòng vệ. Anthropic nhấn mạnh rằng, đến thời điểm hiện tại, chưa có mô hình nào hiện hữu bị xác định là đã đạt tới ngưỡng nói trên; cảnh báo lần này chủ yếu dựa trên các suy luận kỹ thuật nội bộ và dự báo tiên lượng về năng lực của các mô hình trong tương lai. Để ứng phó với các rủi ro tiềm tàng, công ty đang thận trọng xem xét các phương án điều chỉnh chính sách an toàn, với mục tiêu cốt lõi là đảm bảo quyền giám sát và kiểm soát của con người luôn được duy trì ở mọi khâu nghiên cứu then chốt.