CEO Anthropic terbitkan artikel panjang untuk menanggapi persoalan keselamatan, menyatakan bahawa syarikat perlu kekal di garis hadapan teknologi

Anthropic, sebuah syarikat keselamatan AI Amerika Syarikat, baru-baru ini mengkritik draf rangka undang-undang keselamatan AI yang dikemukakan kepada ahli Kongres. Draf tersebut menetapkan halangan tinggi bagi tindakan kecemasan kerajaan untuk menghentikan model AI berbahaya: intervensi hanya dibenarkan apabila risiko melibatkan senjata biologi, serangan siber atau kehilangan kawalan terhadap AI—dan hanya jika ancaman itu boleh menyebabkan lebih daripada 50 kematian atau kecederaan, atau kerugian ekonomi melebihi USD1 bilion. Selain itu, beberapa klausa dalam draf itu juga berpotensi melemahkan kuasa peraturan kerajaan negeri.

Tidak lama kemudian, Nathan Calvin, Ketua Strategi Encode AI—sebuah organisasi keselamatan AI—mengulas secara sistematik keputusan utama Anthropic dalam tempoh setahun kebelakangan ini. Pada Februari tahun ini, syarikat itu mengubah dasar keselamatan ketat asalnya: sebelum ini, Anthropic berjanji akan “menghentikan latihan atau pelancaran model sekiranya langkah keselamatan tertinggal di belakang perkembangan kapasiti model”; namun dasar baharu tidak lagi mewajibkan syarikat menghentikan penyelidikan dan pembangunan secara unilateral pada fasa risiko yang lebih tinggi, dengan alasan kebimbangan bahawa pesaing boleh memanfaatkan situasi ini untuk mengejar kemajuan teknologi.