Участники подпольных форумов жалуются на наплыв низкокачественного контента, сгенерированного ИИ

Хакеры и мошенники на подпольных форумах массово жалуются на автоматизированные публикации и ответы, сгенерированные ИИ, которые портят дискуссии, подрывают репутацию продавцов и снижают трафик специализированных площадок, следует из исследования и сообщений

Пользователи подпольных форумов, где обсуждаются кражи данных, взломы и мошеннические схемы, всё чаще высказывают раздражение из‑за автоматизированных постов и ответов, сгенерированных ИИ. В сообщениях встречаются прямые жалобы — например, «Stop posting AI shit» — и призывы администраторов не внедрять «AI garbage», поскольку участники требуют «улучшений сайта» без платного функционала. Такие жалобы задокументированы и количественно: исследование Бена Коллиера (Ben Collier) совместно с коллегами из University of Edinburgh, University of Cambridge и University of Strathclyde проанализировало 97 895 обсуждений, связанных с ИИ, на киберпреступных форумах с момента запуска ChatGPT в 2022 году до конца прошлого года. Авторы отмечают всплеск низкокачественных публикаций и распространение «bullet‑point» объяснений базовых концепций кибербезопасности.

Исследователи фиксируют, что массовые автоматические публикации меняют поведение пользователей: наличие AI‑резюме в результатах поиска снижает приток посетителей на специализированные форумы и влияет на экономику площадок — упрощённые ответы в поиске вытесняют глубокие обсуждения и уменьшают аудиторию авторских материалов. применения генеративного ИИ в преступных схемах сохраняют разнообразие: часть участников пытается автоматизировать атаки, создавать фишинговые рассылки и подмены лиц с помощью face‑swap, а другие остаются скептически настроены к массовым автоматическим публикациям и отказываются от их использования. Ian Gray из Flashpoint подчёркивает различие между подготовленными и менее подготовленными злоумышленниками: более продвинутые акторы понимают ограничения коммерческих моделей с «guardrails» и умеют их обходить, тогда как менее опытные создают «шлак», вредящий репутации площадок и усложняющий модерацию.

Социальная динамика подпольных рынков под давлением ИИ меняется: форумы исторически полагались на репутацию, личные связи и конкурсы контента, чтобы отличать «надёжных» продавцов и исполнителей. Массовая генерация контента позволяет легко имитировать экспертность, подрывает сигналы доверия и вызывает призывы к модерации и запрету ИИ‑постов. Для разработчиков ИИ и операторов платформ эти жалобы указывают на несколько практических задач: улучшать качество генеративного вывода, усиливать методы обнаружения автоматически сгенерированного спама и учитывать социальные стимулы, которые поощряют фальшивую экспертность. Авторы исследования считают, что обратная связь от самих сообществ важна для проектирования инструментов модерации и мониторинга угроз.