Программы bug‑bounty завалены низкокачественными отчётами ИИ-компании приостанавливают и меняют схемы

С распространением генеративного ИИ вырос поток автоматизированных и ошибочных отчётов в программы bug‑bounty: количество заявок резко увеличилось, многие оказались ложными, участники рынка приостанавливают программы и внедряют новые фильтры и проверки.

Программы вознаграждений за нахождение уязвимостей (bug‑bounty) столкнулись с резким ростом низкокачественных, часто сгенерированных ИИ отчётов, что перегружает проверяющие команды и вынуждает организаторов приостанавливать или пересматривать условия. Компания Bugcrowd заявила, что за трёхнедельный период в марте число поступивших отчётов увеличилось более чем в четыре раза, при этом большинство оказались ложными; среди клиентов Bugcrowd названы OpenAI, T‑Mobile и Motorola. В январе инструмент curl временно приостановил платную программу bug‑bounty, объяснив это «взрывом отчётов‑мусора от ИИ» и снижением качества заявок.

Специалисты по кибербезопасности отмечают, что развитие генеративных моделей меняет экономику программ: ИИ помогает опытным исследователям находить уязвимости быстрее, но одновременно снижает порог входа и провоцирует поток автоматических или ошибочных отправок, которые компании вынуждены вручную отсеивать. Росс МакКерчар, главный специалист по информационной безопасности в Sophos, заявил, что резкий рост низкокачественных отчётов «быстро превращается в серьёзную проблему» и что bug‑bounty «останутся, но им придётся измениться».

По словам МакКерчара, к наплыву низкокачественных заявок причастны как новички, пытающиеся впервые найти баги, так и опытные исследователи, которых иногда вводят в заблуждение агенты ИИ. Он также выделил «третью когорту» — опытных создателей ИИ, которые разработали автоматизированные «end‑to‑end» системы сканирования и отправки отчётов, что, по его словам, «создаёт абсолютный хаос». Создатель curl Даниэль Стенберг в блоге описал «никогда не кончающийся мусор», который «нанёс серьёзный моральный урон при управлении и иногда требовал много времени на опровержение». Программа компании Nextcloud была приостановлена в апреле «из‑за массового роста некачественных отчётов»; компания рассчитывает возобновить её после внедрения эффективных фильтров.

масштабов отрасли остаётся важным: программы bug‑bounty растут с начала 2000‑х и предлагают шестизначные выплаты за крупнейшие находки. Так, Google выплатил в прошлом году в сумме 17 млн долларов, тогда как в 2021‑м компания выплатила 7,5 млн; крупнейшая единичная премия в 605 000 долларов была выдана в 2022 году пользователю, обнаружившему уязвимость в Android.

В ответ на волну ИИ‑отчётов компании уже вводят более строгие проверки бекграунда участников и одновременно начинают применять собственные ИИ‑агенты для первичной сортировки и триажа поступающих заявок. Параллельно разработчики кибер‑ИИ также предлагают инструменты для поиска уязвимостей: в прошлом месяце Anthropic представила модель Mythos, заявившую о способности находить дефекты быстрее человека. Это вынудит организаторов программ ужесточить валидацию и активнее внедрять автоматическую фильтрацию, чтобы сохранить эффективность вознаграждений и качество выявляемых уязвимостей.