Глава Amazon мог спровоцировать блокировку новых ИИ-моделей Anthropic

Генеральный директор Amazon Энди Джесси, по всей видимости, стал ключевым источником информации о проблемах с безопасностью, которые привели к внезапному ограничению доступа к новейшим разработкам стартапа Anthropic. В минувшую пятницу разработчик заблокировал доступ к двум своим перспективным моделям искусственного интеллекта по всему миру.

Предупреждение от главного инвестора

По сообщениям делового издания The Wall Street Journal, руководитель Amazon Энди Джесси лично уведомил министра финансов США Скотта Бессента и других высокопоставленных чиновников о потенциальной угрозе. Исследователи Amazon провели тестирование ИИ-модели и выяснили, что с ее помощью можно получить инструкции для проведения масштабных кибератак. Под экспортные ограничения американского правительства попали две версии нейросети:

• Claude Fable 5
• Mythos 5

Представители Amazon не стали опровергать факт переговоров, заявив лишь, что правительство регулярно обращается к ним за экспертной оценкой угроз безопасности, однако детали подобных дискуссий компания не раскрывает. Информацию о причастности Amazon к блокировке также подтвердили Reuters и The Information, указав на статус корпорации как крупнейшего инвестора Anthropic.

Конфликт из-за уязвимости

Дополнительные детали инцидента раскрыл сопредседатель Президентского консультативного совета по науке и технологиям Дэвид Сакс. По его словам, авторитетный партнер Anthropic и американского правительства сообщил чиновникам о наличии критической уязвимости, позволяющей обходить встроенные защитные фильтры нейросети (джейлбрейка).

Как утверждает Сакс, администрация Белого дома официально потребовала от генерального директора Anthropic Дарио Амодеи оперативно исправить найденную уязвимость или временно отключить модели от сети для доработки. Руководитель стартапа ответил отказом, после чего правительство США ввело экспортный запрет, вынудивший разработчиков принудительно остановить работу систем.