黄仁勲がAI安全の一線を画す：顧客が安全でないソフトウェアを開発すれば、NVIDIAはチップ供給を停止する可能性

動察 Beating AI 速報：NVIDIAの最高経営責任者（CEO）ジェンスン・フアン氏は最近、ロンドンでBloombergの取材に応じ、仮定の話として、顧客が開発するAIソフトウェアが安全でない場合、NVIDIAはその顧客へのチップ供給を停止する可能性があると述べた。ただし、行動を起こす前に顧客とコミュニケーションを取るという。フアン氏は同時に、NVIDIAが提供するのは汎用技術であり、顧客がこの技術をどのように使用するかについて、同社の判断には一定の限界があると強調した。

一方、NVIDIAは今後5年間で英国に2億5000万ドル相当の計算リソースを提供し、AI安全性研究を支援すると約束した。重点にはエージェントの安全性テストが含まれ、関連リソースの価値は年間約5000万ドル。支援対象プロジェクトにはオックスフォード大学が主導するBOLDプロジェクトや、インペリアル・カレッジ・ロンドン、ユニバーシティ・カレッジ・ロンドンの関連研究が含まれる。

フアン氏は、安全制約と監視技術をAIシステムに統合する取り組みを加速すべきだと主張し、AIの能力と安全性は共に推進しなければならないと述べた。報道によると、AI安全規制はNVIDIAのチップ需要に影響を与える可能性がある。規制が新モデルのトレーニングを制限したり、開発コストを押し上げたりすれば、AIプロセッサの調達を抑制する可能性がある。しかし、安全研究の強化はAI技術のより信頼性の高い展開を促進するのにも役立つ。