Автор книги The Future of Truth признал наличие синтетических цитат, но не откажется от ИИ

Стивен Розенбаум признал, что в его книге The Future of Truth попали «несколько неправильно приписанных или синтетических цитат», о чём сообщили журналисты, обратившие на это внимание. В числе претензий — цитата, которую журналистка Кара Свишер указала как «никогда не говорившую» эти слова, и отрывки, которые профессор Лиза Фельдман Барретт из Северо‑Восточного университета сочла отсутствующими или неточными. Розенбаум рассказал, что при подготовке книги использовал инструменты искусственного интеллекта для «выявления идей, поиска статей, суммаризации тем и определения людей или работ для изучения», помечая в собственных заметках фрагменты, найденные через ИИ, пометкой «this came from AI». Среди названных им инструментов — OpenAI ChatGPT и Anthropic Claude.

По словам автора, отмеченные ИИ‑фрагменты затем проходили внешнюю проверку фактов и проверку двумя корректурными редакторами, предоставленными издателем. В книге заявлено 285 внешних ссылок; журналисты выделили шесть проблемных цитирований, включая три так называемых «синтетических цитаты», для которых не удалось найти первоисточник. Розенбаум называет допущение ошибкой и признаёт, что проверка «не прошла на сто процентов». это требует дополнительных процедур подтверждения происхождения фрагментов и встроенных механизмов трассировки источников и метаданных. Для разработчиков инструментов и лабораторий инцидент служит сигналом о необходимости прозрачной идентификации происхождения контента, чтобы облегчить последующую верификацию.

Розенбаум объявил о полном «аудите цитирования» и сообщил о готовности сотрудничать с редакторами для внесения исправлений в будущие издания книги. При этом он не планирует полностью отказаться от использования ИИ: называет его «магическим» инструментом, который помогает связывать идеи и открывать новые пути мышления, но теперь намерен относиться к результатам машинной генерации «гораздо более подозрительно» и применять более строгую проверку. Автор также отметил, что случаи поддельных цитат среди книг писателей в целом редки, однако обнаруженные примеры демонстрируют уязвимость процессов при масштабном использовании ИИ и подчёркивают необходимость изменений в практике проверки фактов.