Mozilla раскрывает, как ИИ выявил сотни уязвимостей в Firefox

Заявление технического директора Mozilla в прошлом месяце о том, что искусственный интеллект (ИИ) в обнаружении уязвимостей означает “нулевые дни сочтены” и “защитники наконец-то имеют шанс решительно победить”, вызвало значительный скептицизм. Многие восприняли это как часть знакомой схемы: выборочно представить несколько впечатляющих результатов ИИ, умолчать о нюансах, способных дать более полную картину, и позволить волне хайпа набрать обороты.

Учитывая подобный скептицизм, Mozilla в четверг представила подробности использования модели ИИ Anthropic Mythos для выявления уязвимостей программного обеспечения. За два месяца с её помощью было обнаружено 271 брешь в безопасности браузера Firefox. В своём сообщении инженеры Mozilla заявили, что достигнутый ими прорыв, наконец готовый к массовому применению, стал результатом двух основных факторов:

• улучшения самих моделей ИИ;
• разработки Mozilla уникального “адаптера” (harness), который поддерживает Mythos при анализе исходного кода Firefox.

Преодоление проблем с ложными срабатываниями

Инженеры Mozilla отметили, что их ранние попытки использования ИИ для обнаружения уязвимостей часто приводили к появлению “лишних данных”. Обычно модель получала команду на анализ блока кода, после чего генерировала правдоподобно выглядящие отчёты об ошибках, часто в беспрецедентных масштабах. Однако при дальнейшем расследовании разработчики-люди неизменно обнаруживали, что значительная часть деталей была вымышленной или ошибочной. В итоге специалистам приходилось тратить много времени на обработку отчётов об уязвимостях традиционным способом.

По словам выдающегося инженера Mozilla Брайана Гринстеда, работа компании с Mythos отличалась. Ключевым отличием стало использование управляющей оболочки (адаптера агента) — фрагмента кода, который «оборачивает» большую языковую модель (БЯМ) и направляет её через серию конкретных задач. Чтобы такой адаптер был полезен, требуются значительные ресурсы для его настройки под специфическую семантику проекта, используемые инструменты и процессы.

Гринстед описал разработанный его командой адаптер как «код, который управляет БЯМ для достижения поставленной цели. Он даёт модели инструкции (например, ‘найди ошибку в этом файле’), предоставляет ей инструменты (например, возможность читать/записывать файлы и оценивать тестовые случаи), а затем запускает её в цикле до завершения задачи». Этот адаптер предоставил Mythos доступ к тем же инструментам и конвейеру, которые используют разработчики Mozilla, включая специальную сборку Firefox для тестирования.