Anthropic CEO가 보안 우려에 대한 장문의 입장문을 발표하며, 기술적 선두를 유지해야 한다고 밝혔다.

미국 AI 안전 전문 기업 앤트로픽(Anthropic)이 최근 국회의원들에게 제출된 AI 안전 법안 초안에 대해 이의를 제기했다. 이 초안은 정부가 위험한 AI 모델을 긴급 중단할 수 있는 조건을 높은 수준으로 설정했는데, 생물학 무기 개발, 사이버 공격, AI 통제 상실 등 특정 위험 상황에서만 개입이 허용되며, 그로 인해 50명 이상의 사상자 또는 10억 달러 이상의 경제적 손실이 발생해야 한다는 조건을 명시했다. 또한 일부 조항은 주정부의 규제 권한을 약화시킬 가능성도 있다. 이에 따라 AI 안전 단체 엔코드 AI(Encode AI)의 전략 담당 책임자 네이선 캘빈(Nathan Calvin)은 앤트로픽이 지난 1년간 내린 주요 결정들을 체계적으로 정리했다. 올해 2월, 이 회사는 기존의 엄격한 안전 정책을 수정했는데, 이전에는 “모델 능력 발전 속도에 비해 안전 조치가 뒤처질 경우 훈련 또는 출시를 즉시 중단하겠다”고 공언했으나, 새 정책에서는 더 높은 위험 단계에 도달했을 때 기업이 자율적으로 연구를 중단할 의무를 없앴다. 이는 경쟁사가 이를 계기로 기술 격차를 좁힐 것을 우려한 결과다.