Altman Memperkenalkan Tiga Jalan untuk Pembangunan Super AI yang Selamat kepada Kakitangan

Minggu lalu, CEO OpenAI Sam Altman menerangkan tiga pendekatan untuk membangun super AI secara selamat kepada kakitangan syarikat tersebut. Pendekatan pertama mencadangkan penubuhan sebuah badan pengawalseliaan global—yang berfungsi seperti Agensi Tenaga Atom Antarabangsa (IAEA)—untuk mengkaji model AI canggih dan menjalankan audit keselamatan bebas terhadap amalan keselamatan setiap syarikat; sumber dalaman melaporkan bahawa Altman sendiri jelas lebih cenderung kepada pendekatan ini. Pendekatan kedua mengambil inspirasi daripada model Pusat Penyelidikan Nuklear Eropah (CERN), dengan mencadangkan pembentukan satu entiti tunggal oleh makmal-makmal AI utama, atau kerjasama penyelidikan di bawah sebuah badan koordinasi pusat—sebagai alternatif kepada keadaan semasa di mana setiap pihak beroperasi secara berasingan dan bersaing untuk mencapai terobosan. Pendekatan ketiga pula paling radikal: Altman menamakannya “Rancangan Eliezer”, iaitu satu syarikat AI berjaya mencapai kemampuan penambahbaikan diri secara rekursif, lalu menggunakan kelebihan ekonomi yang dominan akibatnya untuk memonopoli sumber tenaga pengiraan—dan dengan itu sepenuhnya menghalang mana-mana pembangun lain daripada mengejar. Altman menggambarkan rancangan ini secara metaforis sebagai “meleburkan semua GPU syarikat lain”, serta secara tegas menyatakan bahawa ia “sangat buruk”, dan hanya dimasukkan dalam perbincangan demi kelengkapan—metafora ini diambil daripada perbincangan dalam komuniti keselamatan AI.