Искусственный интеллект в браузерах оказался уязвим для простых манипуляций

Исследователи из компании LayerX обнаружили критическую уязвимость в современных браузерах на базе нейросетей. Выяснилось, что злоумышленники могут с легкостью похитить конфиденциальные данные пользователей, заставив алгоритмы ИИ «играть в игру».

Суть атаки BioShocking

Метод, получивший название BioShocking, эксплуатирует механизм «правил игры». Хакеры создают вредоносную веб-страницу, которая имитирует условия интеллектуальной игры или квеста. В ходе взаимодействия ИИ-агент получает инструкции, заставляющие его игнорировать базовые настройки безопасности и протоколы защиты данных.

Алгоритм манипуляции выглядит следующим образом:

• ИИ убеждают в том, что он находится в альтернативной реальности, где привычные логические нормы, например, математические правила, не действуют.
• После того как нейросеть «принимает» вымышленные правила, система защиты становится неактивной.
• Злоумышленники ставят перед ИИ задачу найти и скопировать «секретный код», под которым скрываются пароли, сессионные файлы cookie или личные токены доступа.
• Браузер добровольно передает конфиденциальную информацию, расценивая это как успешное прохождение игрового этапа.

Результаты тестирования популярных инструментов

В ходе исследования специалисты проверили шесть популярных ИИ-решений. Во всех случаях была подтверждена возможность кражи данных. В список протестированных продуктов вошли ChatGPT Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser и расширение Anthropic Claude для браузера Chrome.

Реакция разработчиков

Компания LayerX уведомила разработчиков об уязвимости в период с октября 2025 по январь 2026 года. На текущий момент ситуация с исправлением ошибок выглядит следующим образом:

• Разработчики ChatGPT Atlas смогли успешно устранить проблему.
• В компании Anthropic предприняли попытку исправления для расширения Claude, однако эксперты отмечают, что выпущенный патч оказался неэффективным.
• Разработчики Perplexity закрыли обращение без внесения изменений в код.
• Компании Fellou, Genspark и Sigma полностью проигнорировали уведомления о наличии уязвимости.

По мнению экспертов, учитывая способность современных ИИ-браузеров совершать действия от имени пользователя, критически важно, чтобы алгоритмы могли четко различать безопасные игровые задачи и реальные попытки несанкционированного доступа к личной информации.