Anthropic秘密游说国会：模型须面临超10亿美元损失或50人伤亡风险，政府才能叫停

动察 Beating AI 快讯：Anthropic 正在私下游说美国国会议员，对象是一项前沿 AI 安全法案草案；据 Politico 报道，该草案拟为政府干预 AI 模型设定严格门槛。草案规定，政府只有在模型面临可预见且迫在眉睫的特定风险——可能造成超过 10 亿美元损失，或导致 50 人以上死亡或重伤——时，才可申请叫停。监管触发条件被草案限定为三类风险：AI 模型被用于生物武器研发或扩散、模型脱离开发者控制、模型引发网络攻击。法案还要求 AI 开发商开展透明化测试并接受独立第三方评估；评估机构若发现相关风险，须在 72 小时内向美国商务部报告，商务部则可向联邦法院申请暂停模型运营，最终由法院裁决。此外，草案拟禁止其他美国政府部门及官员独立叫停 AI 模型的开发、部署或内部使用。Anthropic 表示，相关提案源自其今年早些时候发布的先进 AI 框架，旨在要求开发商接受安全评估，同时赋予政府阻止危险模型部署的能力。目前该草案仍处于游说阶段，尚未成为法律。若相关条款最终通过，美国政府对前沿 AI 模型采取紧急干预的权限可能受到显著限制。