奥特曼向员工介绍安全开发超级 AI 三条路径

上周，OpenAI 首席执行官奥特曼向公司员工系统阐述了三种用于安全开发超级 AI 的路径。第一种方案主张设立一个全球性监管机构，其职能与国际原子能机构类似，负责对先进 AI 模型开展审查，并对各公司的安全实践进行独立审计；据知情人士透露，奥特曼本人对该路径持明显倾向性。第二种方案则借鉴欧洲核子研究中心（CERN）模式，提议由主要 AI 实验室联合组建单一实体，或依托统一协调机构开展协同研发，从而取代当前各自为政、竞相突破的局面。第三种方案最为激进，被奥特曼命名为「Eliezer 方案」：即某家 AI 公司率先达成递归自我改进能力，继而利用由此产生的压倒性经济优势垄断算力资源，彻底阻断其他开发者的追赶可能；他以「熔毁其他所有公司的 GPU」形象化描述该设想，并明确指出这一路径“非常糟糕”，仅出于完整性考量才将其纳入讨论——该比喻源自 AI 安全领域相关论述。