Anthropic melobi secara rahsia di Kongres: model hanya boleh dihentikan oleh kerajaan jika berisiko kerugian melebihi AS$1 bilion atau 50 kematian

Berita Pantas Beating AI: Anthropic sedang melobi secara tertutup ahli Kongres Amerika Syarikat berhubung satu draf rang undang-undang keselamatan AI termaju; menurut laporan Politico, draf tersebut bercadang menetapkan ambang ketat untuk campur tangan kerajaan terhadap model AI. Draf itu menetapkan bahawa kerajaan hanya boleh memohon untuk menghentikan operasi model apabila model berhadapan dengan risiko tertentu yang boleh dijangka dan hampir berlaku—yang mungkin menyebabkan kerugian melebihi AS$1 bilion, atau mengakibatkan kematian atau kecederaan serius kepada lebih 50 orang. Syarat pencetus pengawalseliaan dihadkan oleh draf kepada tiga kategori risiko: model AI digunakan untuk pembangunan atau penyebaran senjata biologi, model terlepas daripada kawalan pembangun, dan model mencetuskan serangan siber. Rang undang-undang itu juga mewajibkan pembangun AI menjalankan ujian secara telus dan menerima penilaian pihak ketiga bebas; institusi penilai yang menemui risiko berkaitan mesti melaporkannya kepada Jabatan Perdagangan AS dalam tempoh 72 jam, dan Jabatan Perdagangan boleh memohon kepada mahkamah persekutuan untuk menggantung operasi model, dengan keputusan akhir dibuat oleh mahkamah. Selain itu, draf itu bercadang melarang jabatan dan pegawai kerajaan AS yang lain daripada menghentikan secara bebas pembangunan, penggunaan atau penggunaan dalaman model AI. Anthropic menyatakan bahawa cadangan berkenaan berpunca daripada rangka kerja AI termaju yang diterbitkannya awal tahun ini, bertujuan mewajibkan pembangun menerima penilaian keselamatan, sekali gus memberi kerajaan keupayaan untuk menghalang penggunaan model berbahaya. Pada masa ini draf tersebut masih dalam peringkat melobi dan belum menjadi undang-undang. Jika peruntukan berkenaan akhirnya diluluskan, kuasa kerajaan AS untuk campur tangan kecemasan terhadap model AI termaju mungkin akan terhad dengan ketara.