Anthropic、議会への秘密工作：モデルが10億ドル超の損失または50人の死傷リスクに直面しない限り、政府は停止できない

動察 Beating AI 速報：Anthropic は現在、米国連邦議会議員に対して、前沿 AI 安全法案の草案に関する非公開のロビー活動を行っている。Politico の報道によると、同草案は政府による AI モデルへの介入に厳格なハードルを設けることを想定している。草案では、政府がモデルの停止を申請できるのは、モデルが予見可能かつ差し迫った特定のリスクに直面している場合に限られると規定されている。具体的には、10 億ドルを超える損失を引き起こす可能性がある場合、または 50 人以上の死亡もしくは重傷を招く可能性がある場合である。規制の発動条件は草案により三種類のリスクに限定されている。すなわち、AI モデルが生物兵器の開発や拡散に使用されること、モデルが開発者の制御を離れること、モデルがサイバー攻撃を引き起こすことである。法案はまた、AI 開発事業者に対し透明性のあるテストの実施と独立した第三者評価の受入れを求めている。評価機関が関連するリスクを発見した場合、72 時間以内に米国商務省へ報告しなければならず、商務省は連邦裁判所にモデルの運用停止を申請でき、最終的には裁判所が判断を下す。さらに草案は、他の米国政府機関および当局者が独自に AI モデルの開発、展開、または内部利用を停止することを禁止する見通しである。Anthropic は、関連する提案は今年前半に公表した先進 AI フレームワークに由来し、開発事業者に安全評価の受入れを求めると同時に、政府に危険なモデルの展開を阻止する能力を与えることを目的としていると述べている。現在、同草案は依然としてロビー活動の段階にあり、まだ法律にはなっていない。関連条項が最終的に可決された場合、米国政府が前沿 AI モデルに対して緊急介入を行う権限は著しく制限される可能性がある。