Anthropic CEOが長文を投稿し、セキュリティに関する懸念に応じ、「技術の最前線を維持する必要がある」と述べた。

アメリカのAIセキュリティ企業Anthropicは、先ごろ議会議員に提出されたAIセキュリティ法案草案に対して疑義を呈した。この草案では、政府が危険なAIモデルの開発を緊急停止するためのハードルを高く設定しており、生物兵器・サイバー攻撃・AIの暴走といった特定のリスクのみを対象とし、かつそれらが50人以上の死傷者または10億米ドルを超える経済的損失を引き起こす可能性がある場合にのみ、介入が可能とされている。さらに、一部の条項は州政府の規制権限を弱体化させる可能性もある。その後、AIセキュリティ団体Encode AIの戦略責任者であるネイサン・カルビン氏が、Anthropicが過去1年間に下した主要な意思決定を体系的に整理した。今年2月、同社は従来の厳格なセキュリティ方針を見直し、当初「モデルの能力向上に比べて安全対策が遅れた場合には、訓練またはリリースを直ちに中止する」と明言していたが、新方針では、より高いリスク段階において企業が単独で研究開発を中止することを義務付けず、その理由として競合他社による技術的追い上げを懸念していると説明している。