Llamamiento encubierto de los humanistas al Congreso: Los modelos deben enfrentar una pérdida superior a 1 mil millones de dólares o el riesgo de que haya 50 muertos, antes de que el gobierno pueda detenerlos.

Noticias sobre el control de la inteligencia artificial: Anthropic está negociando en privado con miembros del Congreso de los Estados Unidos en relación con un proyecto de ley de seguridad para la inteligencia artificial. Según informa Politico, el proyecto de ley pretende establecer límites estrictos para la intervención gubernamental en los modelos de inteligencia artificial. El texto del proyecto de ley estipula que el gobierno solo puede solicitar la suspensión del funcionamiento de un modelo cuando existan riesgos específicos previsibles y inminentes, como la posibilidad de causar pérdidas superiores a 1 mil millones de dólares, o provocar la muerte o lesiones graves de más de 50 personas. Las condiciones para la intervención gubernamental se limitan a tres tipos de riesgos: el uso de modelos de inteligencia artificial en el desarrollo o difusión de armas biológicas, la desconexión del modelo por parte del desarrollador, y el modelo que provoque ataques cibernéticos. El proyecto de ley también exige que los desarrolladores de inteligencia artificial realicen pruebas transparentes y se sometan a evaluaciones independientes por parte de terceros. Si las entidades evaluadoras detectan riesgos relevantes, deben informar al Departamento de Comercio de los Estados Unidos dentro de 72 horas. El Departamento de Comercio podría solicitar al tribunal federal la suspensión del funcionamiento del modelo, y la decisión final estaría en manos del tribunal. Además, el proyecto de ley pretende prohibir que otros departamentos gubernamentales y funcionarios de los Estados Unidos puedan suspender de forma independiente el desarrollo, la implementación o el uso interno de modelos de inteligencia artificial. Anthropic indica que la propuesta proviene de su marco avanzado de inteligencia artificial, lanzado earlier este año. El objetivo es exigir que los desarrolladores sometan sus productos a evaluaciones de seguridad, al mismo tiempo que otorga al gobierno la capacidad de impedir la implementación de modelos peligrosos. Actualmente, el proyecto de ley se encuentra en etapa de negociación y aún no se ha convertido en ley. Si las disposiciones relacionadas se aprueban, la autoridad del gobierno de los Estados Unidos para intervenir de manera urgente en los modelos de inteligencia artificial podría verse significativamente limitada.