ウルトラマンが従業員に、安全な開発のためのスーパーアーティフィシャル・インテリジェンス（AI）実現に向けた3つのアプローチを紹介

上週、OpenAI 首席執行官奥特マンは、社員に向けて安全に超人工知能（AGI）を開発するための3つのアプローチを体系的に説明した。最初のアプローチは、国際原子力機関（IAEA）に似たグローバルな規制機関を設立し、高度なAIモデルの審査を行い、各社の安全対策を独立して監査することを主張している。関係者によると、奥特曼自身はこの道筋に明確な傾向を示しているという。

2番目のアプローチは、欧州核研究機構（CERN）のモデルを参考にし、主要なAI研究所が連携して単一の組織を形成するか、統合された調整機関の下で共同研究を進めることを提案している。これにより、現在の各社が独自に競い合い、突破を目指す状況を置き換える狙いがある。

3番目のアプローチは最も過激で、奥特曼はこれを「Eliezerプラン」と命名した。あるAI企業がまず再帰的自己改善能力を達成し、そこから得られる圧倒的な経済的優位性を活用して演算リソースを独占し、他の開発者が追いつくことを完全に断つというものだ。奥特曼はこれを「他社のすべてのGPUを溶かす」と例えて説明し、この道筋は「非常にまずい」とし、議論の完全性のためにのみ挙げたと強調している。この比喩はAI安全分野の関連論議に由来する。