Правительство США потребовало от Anthropic заблокировать доступ к передовым моделям искусственного интеллекта Fable 5 и Mythos 5 для всех иностранных пользователей, сославшись на соображения национальной безопасности. Компания получила соответствующее распоряжение от американского органа экспортного контроля в пятницу и начала отключение доступа, оспаривая меру как необоснованную. Anthropic также сталкивается с вопросами по поводу использования её моделей в военных целях и подготовки к выходу на биржу. Amazon AWS оказала содействие в блокировке доступа.
По словам Anthropic, компания не получила конкретных деталей о риске, на который ссылается американская сторона — представителям были предоставлены лишь устные указания на возможное наличие уязвимости. Компания считает, что подобная проблема не оправдывает отзыв недавно выпущенных моделей, и называет «резкое отключение» самых передовых моделей для всех пользователей несоответствующим принципам справедливого, основанного на доказательствах регулирования.
Указанная причина — сообщённый джейлбрейк, который якобы позволяет выявлять уязвимости в коде и теоретически угрожать кибербезопасности США. После запуска новых моделей появилось несколько отчётов о различных проблемах.
Компания «работает над уточнением ситуации»
Anthropic заявила, что стремится прояснить ситуацию и восстановить доступ к моделям Fable и Mythos как можно скорее. Любопытно, что всего за два дня до выхода распоряжения сама компания публично призывала к более строгому надзору за ИИ, допуская блокировку моделей, которые считаются слишком опасными.
Директор по информации Пентагона Кирстен Дейвис заявила, что национальная безопасность должна иметь приоритет — некоторые аспекты важнее доходов компаний, внимания СМИ или оценок перед листингом на бирже.
Решение принято в момент, когда отношения между Anthropic и администрацией США, казалось, начали улучшаться после напряжённого периода. По данным компании, конфликт начался после её отказа разрешить армии США использовать модели для внутреннего наблюдения и автономных систем вооружения, после чего правительство включило Anthropic в чёрный список — мера, пока не вступившая в силу.
Anthropic основана исследователями, покинувшими OpenAI из-за опасений недостаточного контроля над ИИ. В прошлом месяце компания подала документы для выхода на биржу.
В начале этой недели Anthropic выпустила модель Claude Fable 5, считающуюся очень производительной, но запрограммированную с ограничениями на использование в рискованных областях, включая кибербезопасность. Эксперты предупреждали, что модели класса Mythos могут значительно ускорить сложные кибератаки в руках злоумышленников — особенно в таких секторах, как банковский, с его сложной и устаревшей ИТ-инфраструктурой.
Amazon Web Services сообщила в пятницу вечером, что Anthropic попросила отозвать доступ к обеим моделям для всех пользователей во всех регионах, включая американцев. Кроме того, несколько ключевых сотрудников Anthropic родились за пределами США, однако компания не уточнила, могут ли они потерять доступ к затронутым моделям.