Anthropic diam-diam melobi Kongres: model harus menghadapi risiko kerugian lebih dari 1 miliar dolar AS atau 50 korban jiwa sebelum pemerintah dapat menghentikannya

Beating AI News Flash: Anthropic sedang melobi secara tertutup anggota Kongres AS terkait rancangan undang-undang keamanan AI frontier; menurut laporan Politico, RUU tersebut berencana menetapkan ambang batas ketat bagi intervensi pemerintah terhadap model AI. Rancangan tersebut menetapkan bahwa pemerintah hanya dapat mengajukan permintaan penghentian ketika model menghadapi risiko spesifik yang dapat diprediksi dan mendesak—yang berpotensi menyebabkan kerugian lebih dari 1 miliar dolar AS, atau menyebabkan kematian atau cedera serius pada lebih dari 50 orang. Pemicu regulasi dibatasi oleh rancangan tersebut menjadi tiga jenis risiko: model AI digunakan untuk pengembangan atau penyebaran senjata biologis, model lepas kendali dari pengembang, dan model memicu serangan siber. RUU tersebut juga mewajibkan pengembang AI melakukan pengujian transparan dan menerima evaluasi pihak ketiga independen; lembaga evaluasi jika menemukan risiko terkait, harus melaporkan ke Departemen Perdagangan AS dalam waktu 72 jam, dan Departemen Perdagangan dapat mengajukan permohonan ke pengadilan federal untuk menangguhkan operasional model, dengan keputusan akhir diambil oleh pengadilan. Selain itu, rancangan tersebut berencana melarang departemen dan pejabat pemerintah AS lainnya untuk secara independen menghentikan pengembangan, penerapan, atau penggunaan internal model AI. Anthropic menyatakan bahwa proposal terkait berasal dari kerangka AI canggih yang dirilisnya awal tahun ini, yang bertujuan mewajibkan pengembang menerima evaluasi keamanan, sekaligus memberikan kemampuan kepada pemerintah untuk mencegah penerapan model berbahaya. Saat ini rancangan tersebut masih dalam tahap lobi dan belum menjadi undang-undang. Jika ketentuan terkait akhirnya disahkan, kewenangan pemerintah AS untuk melakukan intervensi darurat terhadap model AI frontier mungkin akan dibatasi secara signifikan.