Дмитрий Новиков
Anthropic отключила доступ к Fable 5 и Mythos 5 для всех клиентов после требования правительства США, сославшегося на нацбезопасность.
Anthropic временно закрыла доступ ко всем клиентам к своим моделям Fable 5 и Mythos 5 после распоряжения правительства США. Компания заявила, что получила требование 12 июня и исполнила его для соблюдения предписания, связанного с вопросами национальной безопасности. Остальные модели Anthropic и чат-бот Claude, по словам компании, не затронуты.
Суть требования, как утверждает Anthropic, заключалась в приостановке доступа иностранных граждан к новым моделям. Ограничение должно было касаться как пользователей за пределами США, так и иностранцев, находящихся внутри страны, включая сотрудников самой Anthropic. При этом власти не раскрыли конкретные риски, на которые ссылаются.
В компании предполагают, что поводом мог стать возможный способ jailbreak-атаки на Fable 5. Эта модель была представлена 9 июня и должна была перенести часть возможностей Mythos в более широкий публичный доступ. Mythos, в свою очередь, описывается как продвинутая модель для задач кибербезопасности, доступная только партнёрам проекта Glasswing.
Anthropic подчёркивает, что перед запуском Fable 5 внедрила жёсткие ограничения, чтобы снизить риск использования модели для вредоносных киберзадач. По словам компании, защитные механизмы оказались настолько строгими, что часть пользователей жаловалась на их чрезмерную широту. Однако Anthropic признаёт, что ни один разработчик ИИ не может гарантировать абсолютную устойчивость модели к jailbreak.
По версии компании, власти предоставили устные сведения об одном потенциальном узком способе обхода защиты, которым с чиновниками поделилась неназванная сторона. Anthropic пообещала раскрыть больше деталей позднее, но уже заявила, что не согласна с тем, что один возможный jailbreak сам по себе должен становиться основанием для отзыва коммерческой модели.
Позиция Anthropic выглядит особенно заметной на фоне того, что компания обычно выступает за более строгий надзор над искусственным интеллектом. В этот раз она раскритиковала сам порядок принятия решения: по мнению Anthropic, государство должно иметь возможность блокировать опасные внедрения ИИ, но только в рамках прозрачной, справедливой и технически обоснованной процедуры. Компания считает, что нынешнее распоряжение этим принципам не соответствует.