Anthropic秘密遊說國會：模型須面臨超10億美元損失或50人傷亡風險，政府才能叫停

動察 Beating AI 快訊：Anthropic 正在私下遊說美國國會議員，對象是一項前沿 AI 安全法案草案；據 Politico 報道，該草案擬為政府干預 AI 模型設定嚴格門檻。草案規定，政府只有在模型面臨可預見且迫在眉睫的特定風險——可能造成超過 10 億美元損失，或導致 50 人以上死亡或重傷——時，才可申請叫停。監管觸發條件被草案限定為三類風險：AI 模型被用於生物武器研發或擴散、模型脫離開發者控制、模型引發網絡攻擊。法案還要求 AI 開發商開展透明化測試並接受獨立第三方評估；評估機構若發現相關風險，須在 72 小時內向美國商務部報告，商務部則可向聯邦法院申請暫停模型運營，最終由法院裁決。此外，草案擬禁止其他美國政府部門及官員獨立叫停 AI 模型的開發、部署或內部使用。Anthropic 表示，相關提案源自其今年早些時候發佈的先進 AI 框架，旨在要求開發商接受安全評估，同時賦予政府阻止危險模型部署的能力。目前該草案仍處於遊說階段，尚未成為法律。若相關條款最終通過，美國政府對前沿 AI 模型採取緊急干預的權限可能受到顯著限制。