El CEO de Anthropic publica un extenso artículo en respuesta a las preocupaciones sobre seguridad, afirmando que es fundamental mantenerse a la vanguardia tecnológica.

El grupo estadounidense de seguridad en inteligencia artificial AI Safety Party cuestionó recientemente el borrador del proyecto de ley sobre seguridad en IA presentado por Anthropic a los miembros del Congreso. Dicho borrador establece un umbral elevado para que el gobierno pueda detener de forma urgente modelos de IA peligrosos: la intervención solo podría activarse cuando los riesgos involucren armas biológicas, ataques cibernéticos o pérdida de control sobre la IA, y causen más de 50 muertes o heridos, o pérdidas económicas superiores a 1 000 millones de dólares estadounidenses; además, ciertas disposiciones podrían debilitar la autoridad reguladora de los gobiernos estatales. Posteriormente, Nathan Calvin, director estratégico de la organización de seguridad en IA Encode AI, realizó un análisis sistemático de las decisiones clave adoptadas por Anthropic durante el último año: en febrero de este año, la empresa modificó su política de seguridad anteriormente rigurosa; hasta entonces, se había comprometido a «detener el entrenamiento o la publicación si las medidas de seguridad quedaban rezagadas respecto al desarrollo de las capacidades del modelo», mientras que la nueva política ya no exige que la empresa suspenda unilateralmente la investigación y el desarrollo en etapas de mayor riesgo, aduciendo preocupaciones sobre la posibilidad de que competidores aprovechen dicha pausa para alcanzar ventajas tecnológicas.