Антропические лоббисты обращаются в Конгресс с просьбой: модели должны нести риск потери более 1 миллиарда долларов или гибель 50 человек, прежде чем правительство сможет приостановить их работу.

Антропик ведет переговоры с американскими конгрессменами по поводу проекта закона о безопасности передовых ИИ-моделей. По сообщениям Politico, проект закона предусматривает строгие условия для вмешательства правительства в работу ИИ-моделей. Согласно проекту, правительство может запросить приостановку работы моделей только в случае предсказуемных и неотложных рисков – причем эти риски должны приводить к убыткам на сумму более 1 миллиарда долларов или к гибели более 50 человек или серьезным травмам. Условия регулирования определяются как три категории рисков: использование ИИ-моделей в разработке биологического оружия или распространении его; отход моделей от контроля разработчиков; а также возникновение угроз из-за ИИ-моделей в виде киберзаграздов. Закон также требует, чтобы разработчики ИИ-моделей проводили прозрачные тестирования и подвергались независимой оценке со стороны третьих лиц. Если оценочная организация обнаружит какие-либо риски, она должна сообщить об этом Министерству коммерции США в течение 72 часов. Министерство, в свою очередь, может обратиться в федеральный суд с просьбой приостановить работу моделей. В завершение, суд будет принимать решение по данному вопросу. Кроме того, проект закона предусматривает запрет на действия других американских государственных органов и чиновников по приостановке разработки, развертывания или внутреннего использования ИИ-моделей. Антропик заявляет, что данное предложение основано на их передовом ИИ-фреймворке, выпущенном ранее в этом году. Целью является требование к разработчикам прохождения оценки безопасности, а также предоставление правительству возможности останавливать развертывание опасных моделей. На данный момент проект находится на стадии переговоров и еще не стал законом. Если соответствующие положения будут приняты, право американского правительства на экстренное вмешательство в работу передовых ИИ-моделей может быть значительно ограничено.