Jensen Huang menetapkan garis merah keamanan AI: Jika pelanggan mengembangkan perangkat lunak yang tidak aman, Nvidia mungkin menghentikan pasokan chip

Berita Kilat Beating AI: CEO Nvidia, Jensen Huang, dalam wawancara dengan Bloomberg di London baru-baru ini menyatakan bahwa dalam skenario hipotetis, jika perangkat lunak AI yang dikembangkan pelanggan tidak aman, Nvidia mungkin menghentikan pasokan chip kepada mereka; namun sebelum mengambil tindakan, pihaknya akan berkomunikasi terlebih dahulu dengan pelanggan. Huang juga menekankan bahwa Nvidia menyediakan teknologi general-purpose, sehingga perusahaan memiliki keterbatasan tertentu dalam menilai bagaimana pelanggan menggunakan teknologi tersebut.

Sementara itu, Nvidia berkomitmen menyediakan sumber daya komputasi senilai 250 juta dolar AS kepada Inggris selama lima tahun ke depan untuk mendukung penelitian keselamatan AI, dengan fokus antara lain pada pengujian keamanan agen, di mana sumber daya terkait bernilai sekitar 50 juta dolar AS per tahun. Program yang didukung mencakup proyek BOLD yang dipimpin Universitas Oxford, serta penelitian terkait di Imperial College London dan University College London.

Huang mendorong percepatan integrasi batasan keamanan dan teknologi pemantauan ke dalam sistem AI, dan menyatakan bahwa kemampuan AI dan keamanan harus dikembangkan secara bersamaan. Laporan menyebutkan bahwa regulasi keselamatan AI dapat memengaruhi permintaan chip Nvidia: jika regulasi membatasi pelatihan model baru atau meningkatkan biaya pengembangan, hal ini dapat menekan pembelian prosesor AI; namun penguatan penelitian keselamatan juga membantu mendorong penerapan teknologi AI yang lebih andal.