📢 Berita
Anthropic memperingatkan: Kecerdasan buatan mungkin segera memasuki fase percepatan mandiri—saat manusia menyadarinya, bisa jadi sudah terlambat
Anthropic dalam prospektus IPO yang diperbarui pada 2 November memberikan peringatan: kecerdasan buatan (AI) berisiko melewati ambang kritis “peningkatan diri rekursif” (RSI) dalam waktu dekat—sehingga mempercepat secara signifikan proses pengembangan dirinya sendiri. Dalam sejarah, telah beberapa kali terjadi percepatan diam-diam dalam kemajuan riset, hingga percepatan itu baru disadari setelah benar-benar terjadi. Saat ini, Claude sudah secara nyata terlibat dalam tahapan inti pengembangan AI—mulai dari penulisan kode, pelaksanaan eksperimen, hingga pemrosesan data pelatihan—dan secara langsung mendukung pengembangan model generasi berikutnya yang lebih canggih; model-model baru ini, pada gilirannya, akan semakin mempercepat efisiensi riset di tahap-tahap selanjutnya, menciptakan siklus positif yang terus-menerus menguat.
Menurut kebijakan keamanan saat ini milik Anthropic, “mencapai ambang kritis” secara spesifik mengacu pada terpenuhinya salah satu dari dua kondisi berikut:
1. AI mampu menyelesaikan seluruh rangkaian pekerjaan riset AI secara mandiri dengan biaya yang mendekati biaya tim manusia;
2. Laju kemajuan teknologi AI meningkat minimal dua kali lipat—artinya, kemajuan yang semula membutuhkan waktu dua tahun kini dapat dicapai dalam satu tahun.
Seiring meningkatnya keterlibatan AI dalam proses pengembangan dirinya sendiri, laju evolusi kemampuannya berpotensi telah melampaui kecepatan iterasi penilaian keamanan, penelitian alignment, serta mekanisme perlindungan yang ada. Anthropic secara tegas menyatakan bahwa hingga saat ini, belum ada satu pun model yang dinilai telah mencapai ambang kritis tersebut; peringatan ini didasarkan terutama pada simulasi teknis internal dan proyeksi proaktif terhadap kemampuan model masa depan. Untuk mengantisipasi risiko potensial, perusahaan sedang secara hati-hati mengevaluasi opsi revisi kebijakan keamanannya—dengan tujuan utama memastikan pengawasan dan kendali manusia tetap berada di pusat setiap tahapan kritis pengembangan.
Menurut kebijakan keamanan saat ini milik Anthropic, “mencapai ambang kritis” secara spesifik mengacu pada terpenuhinya salah satu dari dua kondisi berikut:
1. AI mampu menyelesaikan seluruh rangkaian pekerjaan riset AI secara mandiri dengan biaya yang mendekati biaya tim manusia;
2. Laju kemajuan teknologi AI meningkat minimal dua kali lipat—artinya, kemajuan yang semula membutuhkan waktu dua tahun kini dapat dicapai dalam satu tahun.
Seiring meningkatnya keterlibatan AI dalam proses pengembangan dirinya sendiri, laju evolusi kemampuannya berpotensi telah melampaui kecepatan iterasi penilaian keamanan, penelitian alignment, serta mekanisme perlindungan yang ada. Anthropic secara tegas menyatakan bahwa hingga saat ini, belum ada satu pun model yang dinilai telah mencapai ambang kritis tersebut; peringatan ini didasarkan terutama pada simulasi teknis internal dan proyeksi proaktif terhadap kemampuan model masa depan. Untuk mengantisipasi risiko potensial, perusahaan sedang secara hati-hati mengevaluasi opsi revisi kebijakan keamanannya—dengan tujuan utama memastikan pengawasan dan kendali manusia tetap berada di pusat setiap tahapan kritis pengembangan.
