Anthropic полностью прекратила доступ к моделям искусственного интеллекта Fable 5 и Mythos 5 в соответствии с распоряжением правительства США по экспортному контролю. Ограничение распространяется на всех иностранных граждан, независимо от того, находятся ли они на территории США или за их пределами, включая иностранных сотрудников компании.

По заявлению компании, для выполнения распоряжения правительства не было возможности технически отсоединить от системы только иностранных пользователей. По этой причине Fable 5 и Mythos 5 были отключены сразу для всех клиентов. В работе других моделей ИИ от Anthropic изменений не будет.

Anthropic сообщила, что получила письмо от правительства 12 июня в 17:21 по восточному времени США. В документе не раскрываются точные детали угрозы национальной безопасности. Пониманию компании, правительство получило информацию о методе, позволяющем обходить защитные ограничения — совершать «джейлбрейк» (jailbreak) модели Fable 5.

Утверждается, что данный метод позволял модели анализировать программный код и находить в нем уязвимости. Изучив продемонстрированный случай, Anthropic отметила, что модель выявила несколько небольших программных уязвимостей, которые были известны ранее.

Однако компания подчеркивает, что такая возможность не является уникальной чертой Fable 5 или Mythos 5. Anthropic утверждает, что те же самые уязвимости могут быть обнаружены другими общедоступными моделями ИИ без необходимости обхода специальной защиты.

Компания заявила, что перед запуском Fable 5 её системы безопасности тестировались в течение тысяч часов правительством США, Институтом безопасности ИИ Великобритании (AI Security Institute), независимыми компаниями и внутренними группами. Anthropic отмечает, что до сих пор не было найдено универсального метода «джейлбрейка», который бы массово взламывал защиту модели.

Тем не менее, компания признала, что на данный момент может быть невозможно полностью защитить любую модель ИИ от всех способов обхода. По этой причине в Fable 5 использовалось несколько уровней защиты, постоянный мониторинг и система обнаружения подозрительной активности.

Anthropic также ввела требование хранить данные пользователей Fable 5 в течение 30 дней для изучения нарушений безопасности. Компания заявляет, что, хотя эта политика вызвала недовольство у некоторых клиентов, она необходима для выявления и предотвращения потенциальных атак.

Anthropic заявила, что соблюдает распоряжение правительства, но не согласна с его основаниями. Компания подчеркнула, что полное отключение коммерческой модели, доступной сотням миллионов пользователей, из-за одного потенциального «джейлбрейка», работающего в узком кругу и не приведшего к вредоносным результатам, является чрезмерно радикальной мерой.

По мнению компании, если этот критерий будет применяться ко всей индустрии ИИ одинаково, выпуск новых моделей ведущими разработчиками может практически прекратиться. Anthropic заявила, что поддерживает полномочия правительства по блокировке опасных моделей ИИ, но такие решения должны приниматься прозрачно, справедливо и на основе четких технических доказательств.

На данный момент подробные технические обоснования распоряжения правительства США не раскрыты. Anthropic расценивает ситуацию как «недоразумение» и сообщила, что ведет переговоры с правительством для восстановления доступа к Fable 5 и Mythos 5.

Власти США вынудили Anthropic отключить две мощнейшие модели ИИ