奧特曼向員工介紹安全開發超級 AI 三條路徑

上周，OpenAI 首席執行官奧特曼向公司員工系統闡述了三種用於安全開發超級 AI 的路徑。第一種方案主張設立一個全球性監管機構，其職能與國際原子能機構類似，負責對先進 AI 模型開展審查，並對各公司的安全實踐進行獨立審計；據知情人士透露，奧特曼本人對該路徑持明顯傾向性。第二種方案則借鑒歐洲核子研究中心（CERN）模式，提議由主要 AI 實驗室聯合組建單一實體，或依託統一協調機構開展協同研發，從而取代當前各自為政、競相突破的局面。第三種方案最為激進，被奧特曼命名為「Eliezer 方案」：即某家 AI 公司率先達成遞歸自我改進能力，繼而利用由此產生的壓倒性經濟優勢壟斷算力資源，徹底阻斷其他開發者的追趕可能；他以「熔毀其他所有公司的 GPU」形象化描述該設想，並明確指出這一路徑「非常糟糕」，僅出於完整性考量才將其納入討論——該比喻源自 AI 安全領域相關論述。