CEO Anthropic menerbitkan artikel panjang menanggapi kekhawatiran keamanan, menyatakan bahwa perusahaan harus tetap berada di garis terdepan teknologi

Anthropic, perusahaan keamanan AI asal Amerika Serikat, baru-baru ini mengkritik rancangan undang-undang keamanan AI yang diajukan kepada anggota Kongres. Rancangan tersebut menetapkan ambang tinggi bagi intervensi pemerintah dalam menghentikan model AI berbahaya secara mendadak: intervensi hanya dapat dilakukan jika risiko terkait senjata biologis, serangan siber, atau kehilangan kendali atas AI—dan berpotensi menyebabkan korban jiwa atau luka berat lebih dari 50 orang, atau kerugian ekonomi melebihi USD 1 miliar. Selain itu, sejumlah ketentuan dalam rancangan itu berpotensi melemahkan kewenangan regulasi pemerintah negara bagian. Tak lama kemudian, Nathan Calvin, Direktur Strategi Encode AI—organisasi keamanan AI—mengulas secara sistematis sejumlah keputusan kunci Anthropic selama satu tahun terakhir. Pada Februari tahun ini, perusahaan tersebut merevisi kebijakan keamanannya yang sebelumnya sangat ketat: semula Anthropic berkomitmen untuk “menghentikan pelatihan atau peluncuran model jika langkah-langkah keamanan tertinggal dari perkembangan kemampuan model”, namun kebijakan baru tidak lagi mewajibkan perusahaan menghentikan pengembangan secara sepihak pada tahap risiko yang lebih tinggi, dengan alasan khawatir pesaing akan memanfaatkan celah tersebut untuk mengejar ketertinggalan teknologi.