OpenAI внедряет новые инструменты для идентификации сгенерированных нейросетями изображений

На фоне повсеместного распространения инструментов для генерации графического контента проблема аутентичности визуальной информации становится всё более острой. Компания OpenAI представила комплекс мер, направленных на борьбу с дезинформацией и повышение прозрачности происхождения изображений.

Двухуровневая система защиты

Новая стратегия OpenAI опирается на сочетание открытых стандартов и технологий цифровых меток. Это позволит пользователям и системам распознавания точнее определять, был ли файл создан искусственным интеллектом.

• Принятие стандарта C2PA: внедрение специальных метаданных в файлы, которые открыто указывают на генерацию изображения нейросетью.
• Интеграция SynthID: использование невидимых «водяных знаков», разработанных Google. Данная технология отличается высокой устойчивостью к попыткам удаления, изменения размера или создания скриншотов.

Инструменты для проверки подлинности

Разработчик анонсировал запуск общедоступного сервиса для верификации контента. Система будет анализировать метаданные и скрытые маркеры, определяя источник изображения. На начальном этапе инструмент будет работать исключительно с контентом, созданным продуктами OpenAI, однако в будущем планируется расширение поддержки сторонних решений.

Особенности применяемых технологий

Стандарт C2PA, продвигаемый одноименной некоммерческой организацией, направлен на снижение негативного влияния дипфейков и сгенерированных изображений на общественные дискуссии. Несмотря на то что данные метаданные легко считываются, они уязвимы к преднамеренному изменению. Именно поэтому технология SynthID выполняет роль защитного барьера: она сохраняет свою структуру даже при попытках программной манипуляции.

По данным OpenAI, использование двух методов одновременно значительно повышает надежность системы. Метаданные предоставляют подробную информацию о файле, а устойчивые водяные знаки обеспечивают защиту в случаях, когда метаданные могут быть повреждены или удалены.

* — деятельность компании запрещена на территории РФ