Anthropic, 의회에 비공개 로비: 모델이 10억 달러 이상 손실 또는 50명 사상자 위험에 직면해야 정부가 중단 가능

동찰 Beating AI 속보: Anthropic이 미국 의회 의원들을 대상으로 프런티어 AI 안전 법안 초안에 대해 비공개 로비를 진행하고 있다. Politico 보도에 따르면, 이 초안은 정부가 AI 모델에 개입할 수 있는 엄격한 기준을 설정하려 한다. 초안은 정부가 예측 가능하고 임박한 특정 위험, 즉 10억 달러 이상의 손실을 초래하거나 50명 이상의 사망 또는 중상을 유발할 수 있는 경우에만 모델 중단을 신청할 수 있도록 규정하고 있다. 규제 발동 조건은 초안에서 세 가지 위험으로 한정된다: AI 모델이 생물무기 개발 또는 확산에 사용되는 경우, 모델이 개발자의 통제를 벗어나는 경우, 모델이 사이버 공격을 유발하는 경우다. 법안은 또한 AI 개발사에 투명한 테스트 실시와 독립 제3자 평가 수용을 요구하며, 평가 기관이 관련 위험을 발견하면 72시간 이내에 미국 상무부에 보고해야 하고, 상무부는 연방법원에 모델 운영 중단을 신청할 수 있으며 최종 판결은 법원이 내린다. 또한 초안은 다른 미국 정부 부처와 관리들이 독자적으로 AI 모델의 개발, 배포 또는 내부 사용을 중단하는 것을 금지하려 한다. Anthropic은 관련 제안이 올해 초 발표한 자사의 첨단 AI 프레임워크에서 비롯된 것으로, 개발사가 안전 평가를 받도록 요구하는 동시에 정부에 위험한 모델 배포를 저지할 수 있는 권한을 부여하는 것을 목표로 한다고 밝혔다. 현재 이 초안은 여전히 로비 단계에 있으며 아직 법률로 제정되지 않았다. 관련 조항이 최종 통과될 경우, 미국 정부가 프런티어 AI 모델에 대해 긴급 개입을 할 수 있는 권한은 현저히 제한될 수 있다.