Генеральный директор Anthropic опубликовал развёрнутое эссе в ответ на вопросы, касающиеся безопасности, заявив, что компания должна оставаться на передовой технологий.

Американская организация по безопасности ИИ Anthropic недавно подвергла сомнению проект закона о безопасности ИИ, представленный конгрессменам. Согласно этому проекту, для вмешательства правительства в разработку потенциально опасных моделей ИИ устанавливаются высокие пороговые требования: вмешательство допускается только в случае, если риски связаны с биологическим оружием, кибератаками или потерей контроля над ИИ, а также могут привести к гибели или ранениям более чем 50 человек либо к экономическим потерям свыше 1 млрд долларов США. Кроме того, отдельные положения документа могут ограничить регуляторные полномочия штатов. Вскоре после этого Нейтан Калвин (Nathan Calvin), стратегический директор по вопросам безопасности ИИ в организации Encode AI, провёл системный анализ ключевых решений Anthropic за последний год. В феврале текущего года компания пересмотрела свою ранее действовавшую строгую политику безопасности: если раньше она обязывалась «приостанавливать обучение или выпуск моделей в случае, когда меры безопасности отстают от развития возможностей моделей», то новая политика больше не требует от компании односторонней приостановки исследований и разработок на этапах повышенного риска — в качестве обоснования указывается опасение, что конкуренты могут воспользоваться этим для технологического форсирования.