Jensen Huang vạch lằn ranh đỏ về an toàn AI: Nếu khách hàng phát triển phần mềm không an toàn, NVIDIA có thể ngừng cung cấp chip

Tin tức về việc phát triển trí tuệ nhân tạo: Giám đốc điều hành của NVIDIA, Yang Henxun, gần đây đã nói trong một cuộc phỏng vấn với Bloomberg tại London rằng, trong trường hợp khách hàng phát triển phần mềm AI không an toàn, NVIDIA có thể ngừng cung cấp chip cho họ; tuy nhiên, trước khi hành động, công ty sẽ liên lạc với khách hàng trước. Yang Henxun cũng nhấn mạnh rằng, công nghệ mà NVIDIA cung cấp là công nghệ tổng quát, và công ty có những giới hạn nhất định trong việc quyết định cách khách hàng sử dụng công nghệ này.

Đồng thời, NVIDIA cam kết trong vòng năm năm tới sẽ cung cấp nguồn lực tính toán trị giá 250 triệu đô la Mỹ cho Anh, để hỗ trợ nghiên cứu về bảo mật trí tuệ nhân tạo. Những nguồn lực này bao gồm các bài kiểm tra bảo mật cho các hệ thống trí tuệ nhân tạo, với giá trị hàng năm khoảng 50 triệu đô la Mỹ. Các dự án được hỗ trợ bao gồm dự án BOLD do Đại học Oxford dẫn đầu, cùng với các nghiên cứu liên quan từ Đại học Imperial College London và Đại học London.

Yang Henxun đề xuất cần thúc đẩy việc tích hợp các công nghệ kiểm soát và giám sát an ninh vào hệ thống trí tuệ nhân tạo, và ông cho rằng khả năng của trí tuệ nhân tạo cùng với an ninh phải được phát triển song song. Theo báo cáo, việc giám sát an ninh trí tuệ nhân tạo có thể ảnh hưởng đến nhu cầu chip của NVIDIA: Nếu các quy định giám sát làm tăng chi phí phát triển các mô hình mới, điều này có thể làm giảm nhu cầu mua máy chủ trí tuệ nhân tạo; tuy nhiên, việc tăng cường nghiên cứu về an ninh cũng giúp thúc đẩy việc triển khai công nghệ trí tuệ nhân tạo một cách đáng tin cậy hơn.