Парадокс истины: WIRED отозвал отрывок книги об ИИ из-за подозрения в использовании нейросетей

В начале текущего месяца журнал WIRED опубликовал отрывок из новой книги Стива Розенбаума «Будущее истины», посвященной влиянию искусственного интеллекта на восприятие реальности. Вскоре после этого газета The New York Times сообщила, что книга содержит более полудюжины вымышленных или неверно приписанных цитат. В ответном заявлении Розенбаум, обладатель магистерской степени по «истине» Нью-Йоркского университета, признал, что «случайно» включил «несколько неверно атрибутированных или синтетических» цитат. По иронии судьбы, достоверность книги о влиянии ИИ на правду оказалась под сомнением из-за методов использования автором самих технологий искусственного интеллекта.

Проверка WIRED и подозрения в применении нейросетей

После публикации материала The New York Times редакция WIRED провела повторный анализ отрывка книги объемом в 1450 слов. Хотя отдел фактчекинга ранее подтвердил точность цитат и фактов, редакционная политика WIRED категорически запрещает публикацию текстов, полностью или частично сгенерированных и отредактированных искусственным интеллектом. Письмо читателя, в котором отрывок был назван «явно написанным ИИ», вызвало дополнительные вопросы о масштабах использования Розенбаумом инструментов ИИ. В разделе благодарностей своей книги автор упоминает, что ChatGPT, Claude, NaturalReaders, ProWritingAid и Grammarly помогли ему «уточнить и улучшить изложение идей». Что именно это означало, предстояло выяснить.

Издание пропустило отрывок через несколько сервисов по выявлению контента, созданного ИИ, включая Pangram, GPTZero и ZeroGPT. Каждый из них показал высокую вероятность того, что текст был либо полностью сгенерирован ИИ, либо значительно обработан. Однако, поскольку инструменты для обнаружения ИИ не всегда точны и могут давать ложные срабатывания, глава исследовательского отдела WIRED направил Розенбауму прямой запрос с вопросом о том, как и в какой степени он использовал ИИ при написании отрывка.

Ответ автора: «Идеи и аргументы принадлежат мне»

В ответном письме Розенбаум заявил: «Как и многие современные авторы, я использовал инструменты ИИ на различных этапах исследовательского и редакторского процессов для книги, включая поиск источников, мозговой штурм, получение обратной связи по структуре и уточнение формулировок». Однако он подчеркнул, что «идеи, журналистская работа, аргументы и окончательное авторство принадлежат ему, и отрывок для WIRED не был сгенерирован ИИ и просто опубликован как есть». Он призвал редакторов WIRED осторожно относиться к инструментам обнаружения ИИ, указывая на возможность ложных срабатываний.

Изучение всей книги и нежелание автора обсуждать детали

После этого старшие редакторы WIRED поручили одному из обозревателей, который с 2024 года освещает проблему низкопробного контента, созданного ИИ (так называемого «AI slop»), провести более детальное расследование. Первым шагом стала проверка полного текста книги с помощью инструмента Pangram. Несмотря на ограничения всех систем обнаружения ИИ и возможность ложных срабатываний, Pangram считается одним из наиболее точных инструментов на сегодняшний день. Результаты показали, что книга на 53 процента, вероятно, была сгенерирована ИИ, а еще 9 процентов текста могли быть созданы с помощью ИИ. Представитель издания связался с Розенбаумом, чтобы получить подробное описание его работы с ИИ и узнать, оспаривает ли он результаты Pangram. Издательство BenBella Books, опубликовавшее «Будущее истины», не ответило на запросы о комментариях, а Simon & Schuster, дистрибьютор книг BenBella в США, отказалось от комментариев.

Розенбаум не захотел комментировать точность результатов Pangram. Более того, он вообще отказался обсуждать этот вопрос, заявив: «Я не участвую в таких разговорах. Это все равно что спросить, бьете ли вы свою жену? Это одно из тех обвинений, на которые нет ответа».

Методы работы с ИИ: от поисковика до соавтора?

Вместо детального обсуждения результатов Розенбаум предложил в общих чертах объяснить свой редакторский процесс. Он утверждает, что на начальном этапе написания книги использовал инструменты ИИ как поисковые системы, помогающие находить информацию для разделов, требующих глубоких исследований. Чтобы продемонстрировать это, он попросил ChatGPT описать обозревателя WIRED, а затем вслух зачитал результаты. Поиск ИИ более или менее точно описал некоторые из предыдущих материалов журналиста, включая работы о «зомби-медиасайтах» – ресурсах, полностью или почти полностью генерирующих контент с помощью ИИ.

Когда Розенбаума прямо спросили, использовал ли он ИИ для написания или редактирования каких-либо отрывков книги, он ответил уклончиво: «Нет, так не пишут. Ответ таков: вы берете материал – например, тот ответ о Кейт, который я только что получил; если бы я писал о вас, что бы я сделал? Взял бы я его, вставил в Google Docs, а потом дописал бы вокруг него и немного отредактировал? Использовал бы я слова ‘зомби-медиасайты’ в кавычках? Возможно. Но я бы не сказал: о, отлично, это решило мой писательский вопрос о Кейт, я просто вставлю это в свой документ и отправлю издателю».

На уточняющий вопрос: «Но вы бы скопировали и вставили, а затем отредактировали?», автор ответил: «Вероятно». «Вы так поступали в этой книге?» – последовал вопрос. «Не помню. Вы ищете неопровержимое доказательство, а его нет».

В защиту ИИ: страх авторов и риски для демократии

По словам Розенбаума, авторы, «которые просыпаются утром, желая генерировать идеи», теперь «живут в страхе, и это нездорово для демократии». Прежде чем журналист успел уточнить, что именно это означает, Розенбаум продолжил: «Сегодня утром я разговаривал с другим автором, у которой буквально через месяц выходит книга, она отправляет ее издателю, и она чертовски напугана».

На вопрос, связано ли это с использованием ИИ в процессе написания книги, Розенбаум ответил: «Конечно. Вы говорите это с обвинительным тоном, будто она использовала инструмент для жульничества». Он сослался на отчет, согласно которому 82 процента журналистов используют ИИ. Розенбаум считает, что политика WIRED в отношении генеративного ИИ слишком ограничительна, и предположил, что авторы издания, вероятно, тайно применяют ИИ. Он подтвердил свою личную приверженность ИИ, отметив, что продолжает использовать его ежедневно. «Если единственный способ для меня никогда больше не допускать ошибок – это буквально прекратить использовать ИИ, то это нереалистично. Если ответ заключается в том, чтобы перестать писать, то это не исключено», – заявил он. На вопрос, предпочтет ли он прекратить писать, чем отказаться от использования ИИ в своем творческом процессе, Розенбаум ответил утвердительно.

Противоречия в использовании ИИ и меняющиеся стандарты в медиа

Розенбаум метался между признанием того, что использование ИИ может создавать проблемы («Я не понимаю, почему моя работа как автора состоит в том, чтобы играть в догонялки с многомиллиардной компанией, которая вводит галлюцинации в свою ленту как бизнес-практику») и настойчивым утверждением, что ИИ незаменим, называя его своим лучшим «партнером по написанию текстов». Таким образом, он одновременно подтвердил основную идею своей книги – ИИ явно вызывал разногласия относительно того, что является подлинным, а что нет, – и подорвал ее авторитет.

Когда журналист WIRED выразил сомнения в точности и качестве книги из-за методов использования ИИ, Розенбаум снова упомянул исследование о принятии ИИ журналистами. «Если 82 процента журналистов ежедневно используют ИИ, то вы, по сути, говорите, что испытываете беспокойство по поводу точности и надежности всего, что существует в современной медиасистеме», – заявил он. Действительно, редакция годами освещала рост низкопробного контента, созданного ИИ, в интернете. Это явление повсеместно, и скептицизм в данном случае рационален. Однако исследование, на которое ссылался Розенбаум (от фирмы MuckRack, занимающейся PR-софтом), учитывает использование ИИ для транскрипции и поиска информации через ChatGPT, что существенно отличается от скрытого включения сгенерированных ИИ предложений в черновик. По запросу WIRED о более подробном анализе данных об использовании ИИ журналистами, MuckRack уточнила, что только четверть опрошенных авторов использовали инструменты ИИ для помощи в написании. Большая часть авторов пока не достигла такого уровня использования.

Границы допустимого использования ИИ постоянно пересматриваются. Обозреватель WIRED использует ИИ для транскрипции и применял Claude для составления запросов согласно Закону о свободе информации. Некоторые авторы, выступающие против ИИ, считают такие случаи неприемлемыми. Розенбаум – серийный медиапредприниматель, который предвидел важность цифрового видео и пользовательского контента в интернете. Возможно, его подход однажды станет нормой.

Мнения об искусственном интеллекте в медиаиндустрии уже склоняются к большему принятию. Ранее в этом году WIRED общался с техническими журналистами, которые открыто используют ИИ для написания и редактирования материалов. Независимый журналист Алекс Хитт передает свои рабочие заметки и другие документы ИИ-агенту, который затем создает первый черновик. Некоторые издания полностью погружены в этот процесс: например, Fortune активно поощряет одного из своих репортеров соавторствовать с чат-ботами, а Business Insider позволяет своим авторам использовать такие инструменты, как ChatGPT, для черновиков статей. Через десять лет редакции, настаивающие на том, чтобы люди выполняли всю работу, могут показаться такими же старомодными, как доставка журнала в печатном виде.

• Fortune активно поощряет соавторство репортеров с чат-ботами.
• Business Insider разрешает своим авторам использовать ChatGPT для черновиков статей.
• Независимый журналист Алекс Хитт использует ИИ для создания первых черновиков на основе своих заметок.

Активное сопротивление: отмена публикаций и разрыв контрактов

Тем не менее, пока существует определенное сопротивление. В этом году издательство Hachette отменило планы по выпуску романа в США после того, как Pangram показал, что книга была в значительной степени сгенерирована ИИ, несмотря на отрицания автора. The New York Times разорвала отношения с фрилансером за использование ИИ. А недавно шквал критики обрушился на литературный журнал, опубликовавший рассказы, которые, по мнению критиков, также были созданы искусственным интеллектом.

WIRED также активно пересматривал свои редакционные правила в отношении ИИ. Одним из неизменных принципов остается запрет на публикацию материалов, написанных с помощью ИИ. Учитывая неопределенность в процессе работы Розенбаума, отрывок из его книги был отозван в пятницу днем.