ЮАР отозвала проект политики в сфере искусственного интеллекта из-за вымышленных источников

Министерство связи и цифровых технологий Южно-Африканской Республики приняло решение об отзыве проекта национальной политики в области искусственного интеллекта. Причиной стало обнаружение в документе ссылок на несуществующие источники, сгенерированные чат-ботом.

Кризис доверия к государственному документу

Проект, который ранее был одобрен кабинетом министров и направлен на публичное обсуждение, содержал ряд ссылок на статьи и доклады, которых не существует в действительности. Министр связи и цифровых технологий Солли Малатси подтвердил, что после проведения внутренней проверки информация о наличии фальшивых цитат подтвердилась. В ведомстве подчеркнули, что подобные ошибки подрывают авторитет и надежность всей стратегии.

• Министерство начало служебное расследование для выявления лиц, ответственных за подготовку и утверждение текста.
• В официальном заявлении ведомства отмечено, что к причастным сотрудникам будут применены дисциплинарные меры.
• Руководство министерства признало необходимость усиления контроля над использованием алгоритмов генеративного искусственного интеллекта при подготовке государственных документов.

Последствия для разработки ИИ-регулирования

Эксперты отмечают, что выявленные ошибки являются классическим примером галлюцинаций искусственного интеллекта, когда нейросеть создает внешне убедительный, но фактически недостоверный контент. Изначально документ позиционировался как прогрессивная рамочная основа для обеспечения технологического прогресса, однако теперь он стал примером недопустимой халатности.

Парламентский комитет, осуществляющий надзор за министерством, потребовал немедленного изъятия документа из публичного доступа во избежание дальнейших репутационных рисков. Представители комитета призвали власти отказаться от делегирования ключевой аналитической работы чат-ботам и не искать оправданий в технологических сбоях.

Мировой контекст проблемы

Ситуация в ЮАР не является уникальным инцидентом. Подобные проблемы с использованием инструментов ИИ при подготовке официальных отчетов уже фиксировались в других странах. В частности, государственным органам Австралии ранее приходилось привлекать сторонних аудиторов для исправления отчета, в котором нейросеть сгенерировала фальшивые цитаты из судебных решений.

Случай в ЮАР подчеркивает актуальность проблемы: прежде чем доверять искусственному интеллекту регулирование технологий, государственным структурам необходимо обеспечить строгую верификацию результатов его работы. На данный момент очевидно, что автоматизированные системы не способны самостоятельно определять достоверность источников без участия человека.