Jensen Huang traza la línea roja de la seguridad en la IA: si un cliente desarrolla software inseguro, Nvidia podría dejar de suministrarle chips

Noticias sobre el desarrollo de tecnologías de inteligencia artificial: El CEO de Nvidia, Jensen Huang, en una entrevista con Bloomberg en Londres, afirmó que, en condiciones hipotéticas, si los software desarrollados por los clientes no son seguros, Nvidia podría dejar de suministrar chips a dichos clientes. Sin embargo, antes de tomar medidas concretas, Nvidia se pondrá en contacto con los clientes para discutir la situación. Huang también destacó que las tecnologías ofrecidas por Nvidia son de carácter general, y que la empresa tiene ciertas limitaciones en cuanto a cómo utilizar estas tecnologías por parte de los clientes.

Al mismo tiempo, Nvidia ha comprometido proporcionar recursos de computación valorados en 250 millones de dólares durante los próximos cinco años en el Reino Unido, con el objetivo de apoyar la investigación en seguridad de la inteligencia artificial. Estos recursos incluirán pruebas de seguridad para sistemas inteligentes, con un valor anual de aproximadamente 50 millones de dólares. Los proyectos apoyados por Nvidia incluyen el proyecto BOLD liderado por la Universidad de Oxford, así como investigaciones relacionadas con la Universidad de Imperial y la Universidad de Londres.

Huang aboga por acelerar la integración de tecnologías de supervisión y control de seguridad en los sistemas de inteligencia artificial, y señala que las capacidades de la inteligencia artificial deben avanzar junto con la seguridad. Según los informes, la regulación de la seguridad de la inteligencia artificial podría afectar la demanda de chips por parte de Nvidia: si las restricciones regulatorias impiden el entrenamiento de nuevos modelos o aumentan los costos de desarrollo, esto podría disminuir la adquisición de procesadores de inteligencia artificial. Sin embargo, fortalecer la investigación en seguridad también contribuye a hacer que la tecnología de inteligencia artificial se despliegue de manera más confiable.