오타만, 직원들에게 초고급 AI의 안전한 개발을 위한 세 가지 경로 소개

지난주, OpenAI의 최고경영자인 샘 알트먼은 회사 직원들에게 초지능 AI를 안전하게 개발하기 위한 세 가지 전략을 체계적으로 설명했다. 첫 번째 전략은 국제원자력기구(IAEA)와 유사한 기능을 수행하는 글로벌 규제 기관을 설립하는 것을 제안하며, 이 기관은 첨단 AI 모델에 대한 검토와 각 기업의 안전 관행에 대한 독립 감사를 담당하게 된다. 소식통에 따르면, 알트먼 본인은 이 경로에 대해 명확한 선호를 나타냈다. 두 번째 전략은 유럽입자물리학연구소(CERN) 모델을 차용해 주요 AI 연구실들이 공동으로 단일 실체를 구성하거나, 통합 조정 기관 아래에서 협력 연구를 수행함으로써 현재처럼 분산되고 경쟁적인 돌파 시도가 벌어지는 상황을 대체하려는 것이다. 세 번째 전략은 가장 급진적이며, 알트먼이 ‘엘리저 방안’이라 명명한 것으로, 특정 AI 기업이 먼저 재귀적 자기 개선 능력을 확보한 후, 이로 인해 발생하는 압도적인 경제적 우위를 바탕으로 해시레이트 자원을 독점해 다른 개발자의 추격 가능성을 완전히 차단하는 방안이다. 그는 이 구상을 ‘다른 모든 기업의 GPU를 녹여버리는 것’이라고 생동감 있게 묘사했으며, 이 경로는 “매우 나쁘다”고 분명히 밝히면서도, 논의의 완전성을 위해 포함시켰다고 언급했다. 이 비유는 AI 안전 분야의 관련 논의에서 유래한 것이다.