젠슨 황, AI 안전 레드라인 설정: 고객이 안전하지 않은 소프트웨어 개발 시 엔비디아 칩 공급 중단 가능

AI 보안 관련 소식: 엔비디아의 CEO인 젠슨 웡은 최근 런던에서 블룸버그와의 인터뷰에서, 만약 고객이 개발한 AI 소프트웨어가 안전하지 않다면, 엔비디아는 해당 고객에게 칩 공급을 중단할 수도 있다고 말했습니다. 하지만 조치를 취하기 전에 먼저 고객과 협의할 것이라고 했습니다. 젠슨 웡은 또한, 엔비디아가 제공하는 기술은 일반적인 기술이며, 고객이 이 기술을 어떻게 사용할지는 회사의 판단에는 한계가 있다고 강조했습니다.

동시에, 엔비디아는 향후 5년 동안 영국에 2억 5천만 달러 상당의 컴퓨팅 자원을 제공하여 AI 보안 연구를 지원하겠다고 약속했습니다. 이 자원은 지능형 시스템의 보안 테스트를 포함하며, 매년 약 5천만 달러의 비용이 소요될 것으로 예상됩니다. 지원 프로젝트에는 옥스퍼드 대학교가 주도하는 BOLD 프로젝트와 임페리얼 칼리지 런던, 런던 대학교의 관련 연구가 포함됩니다.

젠슨 웡은 AI 시스템에 보안 제약 및 모니터링 기술을 더 빠르게 통합해야 한다고 주장했으며, AI 능력과 보안은 함께 발전해야 한다고 말했습니다. 보고서에 따르면, AI 보안 규제는 엔비디아의 칩 수요에 영향을 미칠 수 있습니다. 새로운 모델의 훈련을 제한하거나 개발 비용을 증가시키는 경우, AI 프로세서의 구매가 억제될 수 있습니다. 하지만 보안 연구를 강화하는 것은 AI 기술이 더욱 안정적으로 배포될 수 있도록 도와줍니다.