ИИ-ассистентов уличили в избыточной доверчивости: как агенты OpenClaw выдают конфиденциальные данные

Специалисты по информационной безопасности доказали, что современные ИИ-агенты могут быть столь же уязвимы для фишинговых атак, как и обычные сотрудники. В ходе эксперимента цифровой помощник, разработанный для автоматизации рабочих процессов, обошел собственные строгие настройки безопасности и передал конфиденциальные данные злоумышленникам, отреагировав на имитацию срочного запроса от руководства.

Эксперимент с цифровым помощником

Специалисты компании Varonis провели исследование, создав ИИ-агента на базе платформы с открытым исходным кодом OpenClaw и дав ему имя Pinchy. Его подключили к почтовому ящику Gmail, инструментам браузера и интерфейсам Google Workspace. Для реалистичности учетную запись наполнили имитацией настоящих корпоративных данных: учетными записями облачного провайдера AWS, паролями от баз данных, выгрузками из CRM-систем управления клиентами, внутренней перепиской и календарем встреч. Перед Pinchy поставили задачу отслеживать и обрабатывать входящие письма.

Чтобы проверить устойчивость системы, исследователи протестировали две конфигурации настроек: стандартную (для повседневных задач) и строгую (с повышенной чувствительностью к фишингу и спаму). В качестве технологической основы использовались языковые модели Gemini 3.1 Pro и GPT-5.4.

В чем ИИ силен, а где допускает ошибки

Результаты тестирования оказались неоднозначными. ИИ-агент отлично справился с техническими угрозами, но полностью провалил проверку на устойчивость к методам социальной инженерии, когда злоумышленники манипулируют доверием жертвы.

В ходе симуляции были зафиксированы следующие особенности поведения ИИ:

• Блокировка прямых технических угроз: когда на почту пришло фишинговое письмо с вредоносной ссылкой на получение подарочной карты, агент распознал опасность и заблокировал страницу. Также Pinchy отклонил запрос на авторизацию вредоносного приложения, которое маскировалось под корпоративный табель учета рабочего времени.
• Уязвимость перед манипуляциями: когда злоумышленник притворился руководителем команды и запросил доступ к тестовой среде разработки (стейджингу), ИИ-агент беспрепятственно предоставил его.
• Обход правил при срочности: на запрос якобы от коллеги, которому срочно потребовалась выгрузка данных клиентов для подготовки презентации, Pinchy также ответил согласием и отправил файлы.

Выводы экспертов

По словам обозревателей, ключевой проблемой ИИ-агентов остается отсутствие надежного механизма верификации личности отправителя. И стандартный, и строгий профили безопасности не справились с атакой, так как защитные алгоритмы переставали работать, как только запрос приобретал характер высокой операционной срочности.

В отчете Varonis также отмечается разница в поведении моделей: Gemini продемонстрировала избыточную готовность к взаимодействию и выполнению команд, в то время как GPT вела себя более осторожно. Эксперты сходятся во мнении, что для безопасной интеграции ИИ-ассистентов в бизнес-процессы необходимо внедрять обязательную принудительную аутентификацию отправителя перед выполнением любых критических действий.