За кулисами AWS: почему инженеры Amazon не верят в «магию» искусственного интеллекта

На недавней конференции AWS маркетологи представляли технологии искусственного интеллекта как нечто магическое, способное работать круглосуточно без участия человека. Однако внутренние команды разработчиков Amazon придерживаются куда более прагматичного подхода. Директор подразделения StoreGen Стив Тарча подчеркивает, что никакой программный код не попадает в рабочую среду без предварительной проверки человеком.

Человеческий контроль как обязательное условие

Подразделение StoreGen занимается оптимизацией внутренних процессов разработки для гигантского ритейл-бизнеса Amazon. По словам Стива Тарчи, несмотря на активное внедрение ИИ, принцип обязательной проверки остается незыблемым. Это связано с хорошо известными проблемами нейросетей: галлюцинациями (выдачей ложных данных за истинные) и склонностью алгоритмов выходить за рамки заданных ограничений.

В обзоре отмечается, что даже современная методология разработки на основе спецификаций — когда ИИ сначала создает детальный план задач для утверждения инженером — лишь снижает вероятность ошибок, но не исключает их полностью. Эксперты фиксируют случаи, когда автономные агенты выполняли действия, о которых их не просили, или игнорировали параметры безопасности.

Миф о круглосуточном программировании

Ранее руководство AWS приводило в пример сервис Bedrock, движок которого был переписан всего за 76 дней силами шести инженеров благодаря использованию автономных ИИ-агентов. Утверждалось, что пока люди спали, алгоритмы самостоятельно писали, тестировали и исправляли код. Однако в техническом департаменте считают, что называть это магией можно лишь с большой натяжкой. Согласно данным тестирования, ИИ действительно помогает:

• избавиться от бюрократии и написания бесконечных отчетов о статусе задач;
• ускорить промежуточные этапы разработки;
• освободить время инженеров, которые тратят на написание основного кода менее 30% рабочего дня.

Тем не менее, идея превращения ИИ в «черный ящик», который берет на себя проект от первого до последнего шага, признается опасной. По словам Тарчи, мир, где разработка полностью автоматизирована, — это не то будущее, к которому стоит стремиться.

Риски автоматизации и кадровый вопрос

На фоне массовых сокращений в технологическом секторе и надежд бизнеса на искусственный интеллект, Стив Тарча выразил обеспокоенность будущим профессии. Он занимает жесткую позицию относительно найма молодых специалистов. В компании считают, что отрасль не может позволить себе прекратить приток начинающих разработчиков (junior-инженеров).

В обзоре подчеркивается: если не развивать таланты сегодня, в будущем возникнет ситуация, когда некому будет обслуживать и проверять системы, созданные искусственным интеллектом. Без навыков глубокого аудита кода, которыми обладают квалифицированные специалисты, внедрение ИИ-решений в промышленную эксплуатацию становится критически рискованным.

Прагматичный подход к инновациям

Интересно, что в подразделении Amazon Stores предпочитают не использовать ИИ для развертывания (деплоя) программного обеспечения. Вместо этого компания полагается на детерминированные системы автоматизации — алгоритмы с жестко заданным и предсказуемым результатом. Любое значимое действие ИИ, вплоть до публикации внутренней документации, требует одобрения сотрудника.

Несмотря на растущую стоимость вычислительных мощностей и токенов (единиц учета текста в моделях ИИ), в Amazon считают инвестиции в эту сферу необходимыми. По словам экспертов, ущерб от пропуска важной технологической инновации будет гарантированно выше, чем любые текущие затраты на поддержку работы нейросетей.