Jensen Huang menetapkan garis merah keselamatan AI: Jika pelanggan membangunkan perisian tidak selamat, NVIDIA mungkin menghentikan bekalan cip

Berita Pantas Beating AI: Ketua Pegawai Eksekutif Nvidia, Jensen Huang, baru-baru ini dalam temu bual dengan Bloomberg di London menyatakan bahawa dalam senario andaian, jika perisian AI yang dibangunkan oleh pelanggan tidak selamat, Nvidia mungkin menghentikan bekalan cip kepada mereka; namun sebelum mengambil tindakan, pihaknya akan berkomunikasi dengan pelanggan terlebih dahulu. Jensen Huang juga menegaskan bahawa Nvidia menyediakan teknologi tujuan umum, dan syarikat mempunyai batasan tertentu dalam menilai bagaimana pelanggan menggunakan teknologi tersebut.

Pada masa yang sama, Nvidia komited untuk menyediakan sumber pengkomputeran bernilai 250 juta dolar AS kepada United Kingdom dalam tempoh lima tahun akan datang bagi menyokong penyelidikan keselamatan AI, dengan tumpuan termasuk ujian keselamatan ejen, dan sumber berkenaan bernilai kira-kira 50 juta dolar AS setahun. Projek yang disokong merangkumi projek BOLD yang diketuai oleh Universiti Oxford, serta penyelidikan berkaitan di Imperial College London dan University College London.

Jensen Huang berpendapat bahawa kekangan keselamatan dan teknologi pemantauan perlu dipercepatkan integrasinya ke dalam sistem AI, dan menyatakan bahawa keupayaan AI dan keselamatan mesti bergerak seiring. Laporan menyebut bahawa pengawalseliaan keselamatan AI mungkin mempengaruhi permintaan cip Nvidia: jika pengawalseliaan mengehadkan latihan model baharu atau meningkatkan kos pembangunan, ia mungkin menyekat perolehan pemproses AI; namun pengukuhan penyelidikan keselamatan juga membantu menggalakkan penggunaan teknologi AI dengan lebih boleh dipercayai.