Anthropic отключает новейшие нейросети по требованию властей США

Американская компания Anthropic объявила о приостановке работы двух своих передовых моделей искусственного интеллекта — Claude Fable 5 и Mythos 5. Данное решение было принято после получения экстренного предписания от правительства США по экспортному контролю, в котором чиновники сослались на угрозы национальной безопасности.

Масштаб ограничений и конфликт с администрацией

По информации разработчиков, правительственное распоряжение требует закрыть доступ к технологиям для любых иностранных граждан, независимо от того, находятся ли они в США или за пределами страны. Под действие документа подпадают даже иностранные сотрудники самой компании. Чтобы гарантированно соблюсти жесткие требования регулятора, руководство Anthropic приняло решение полностью отключить указанные модели для всех пользователей без исключения.

Этот инцидент стал новым витком конфликта между технологическим стартапом и администрацией Дональда Трампа. Ранее в этом году Министерство обороны США внесло Anthropic в реестр рисков для цепочки поставок. Это произошло после того, как создатели Claude попытались ограничить использование своих технологий американскими военными ведомствами. Новый статус фактически заблокировал госучреждениям и подрядчикам доступ к продуктам компании, из-за чего Anthropic подала судебные иски против правительства.

Технические особенности моделей и причины блокировки

Релиз модели Claude Fable 5 состоялся в минувший вторник. Она представляет собой модификацию ИИ-платформы Mythos со встроенными фильтрами безопасности, которые не позволяют ей отвечать на вопросы, связанные с кибербезопасностью, биологией и химией. Ранее, в апреле, компания проводила ограниченное тестирование базовой модели Mythos Preview совместно с государственными структурами, чтобы помочь организациям усилить защиту от хакерских атак.

В официальном сообщении Anthropic отмечается, что письменное предписание от властей поступило в пятницу вечером без предоставления конкретных деталей о характере угрозы национальной безопасности.

По мнению представителей компании, американские спецслужбы обнаружили способ обхода защитных барьеров модели Fable 5 (так называемый джейлбрейк). Разработчики изучили предоставленный сценарий и пришли к следующим выводам:

• Выявленный метод обхода защиты позволяет находить лишь небольшое количество уже известных и простых уязвимостей в программном обеспечении.
• Другие общедоступные нейросети способны находить подобные ошибки в коде без необходимости применения каких-либо специальных методов обхода ограничений.
• Правительство предоставило лишь устные свидетельства гипотетического взлома системы безопасности, который сводился к просьбе к модели проанализировать код и исправить в нем программные ошибки.

Нарушение принципов прозрачности

Ранее на этой неделе генеральный директор Anthropic Дарио Амодеи заявлял о поддержке открытого и структурированного процесса государственного надзора, который мог бы блокировать выпуск потенциально опасных моделей искусственного интеллекта. Однако в компании подчеркивают, что нынешние поспешные действия американских властей полностью противоречат принципам прозрачного регулирования отрасли.

Представители Белого дома и Министерства торговли США пока не прокомментировали ситуацию.