Багбаунти захлебнулось в ИИ-отчетах: число репортов выросло на 200%, а отклоненных заявок — на 250%

Российские платформы багбаунти (bug bounty, награда за поиск уязвимостей) столкнулись с радикальным ростом числа поступающих отчетов — багхантеры массово осваивают ИИ. Технология, с одной стороны, существенно ускоряет и упрощает работу — и умение использовать её оказывается серьезным конкурентным преимуществом. С другой стороны, платформы говорят об увеличении числа «ложных» отчетов — полных ошибок, галлюцинаций ИИ и выдуманных уязвимостей. Тренд доходит до разворота от багбаунти — инструмента, долгое время считавшегося крайне полезным в создании безопасных продуктов.

Чтобы узнать, какую роль играют алгоритмы в багхантинге и разборе вала репортов, SecPost побеседовал с владельцами российских платформ багбаунти, багхантерами и экспертами в сфере ИБ.

«Достоверно назвать долю отчетов, подготовленных с ИИ, мы не можем»

Представители российских багбаунти-платформ отмечают рост числа приходящих репортов, однако вместе с этим увеличилось и число отклоненных отчетов. ИИ-артефакты стали обычным явлением в стандартном отчете.

Руководитель Standoff Bug Bounty Роман Приходько рассказал, что в последнее время число поступающих отчетов выросло на 200%, в то время как число отклоненных — на 250%. При этом, как заявил эксперт, в отчетах чаще стали появляться неподтвержденные дубли и находки.

«Достоверно назвать долю отчетов, подготовленных с ИИ, мы не можем: одни исследователи используют его для оформления, другие — для поиска уязвимостей, а отчет пишут самостоятельно», — объяснил собеседник, при этом заметив, что определить присутствие ИИ по итоговому тексту не всегда можно.

Приходько помимо этого отметил, что в компании часто встречают отчеты с непроверенными предложениями, невоспроизводимыми шагами и преувеличенным описанием импакта. Тем не менее, по мнению собеседника, такие ошибки сами по себе не доказывают использование ИИ, поэтому оценивается только техническое содержание.

Руководитель продукта BI.ZONE Bug Bounty Андрей Левкин рассказал, что компания столкнулась с ростом числа ИИ-отчетов. При этом, по оценкам BI.ZONE, около 70% отчетов сделано при помощи ИИ.

ИИ «десятикратно поднимает человеческие возможности» в багхантинге

Багхантеры считают, что ИИ хоть и понижает порог входа в отрасль, все равно не обеспечивает качественную и точную работу без соответствующего человеческого контроля.

Независимый исследователь безопасности сервисов, пентестер Олег «Brain» Уланов в комментарии SecPost указал, что в багбаунти-программах ИИ используется совершенно по-разному: один использует его для анализа кода мобильных приложений, другой — для анализа API и написания отчетов.

Эксперт выделил: достаточно взглянуть на статистику выплат за первые кварталы на багхантер-площадках, чтобы понять, насколько нейросети — хороший инструмент: нейросети, по сути, сформировали резкий рост выплат исследователям. Уланов уточнил, что для него использование ИИ в багбаунти позволяет экономить огромное количество времени, позволяя строить новые гипотезы: «Я считаю нейросеть хорошим мультитулом со специалистом уровня джун/мидл в комплекте».

Другой багхантер, Иван «Nihil» Пешков, объяснил, что сейчас ИИ применяется почти во всех аспектах багбаунти: от рекона и до полностью автоматического поиска и эксплуатации уязвимостей.

«Конечно, в некоторых местах он до сих пор проигрывает человеку, но ИИ стоит рассматривать как инструмент, и в этом плане он десятикратно поднимает человеческие возможности», — объяснил эксперт.

Уланов же подчеркнул, что конкуренция после внедрения нейросетей в багхантинг выросла: это видно как по количеству новых исследователей в программах, так и по статистике отчетов и выплат на площадках. «Теперь скорость старта анализа программы после ее выхода еще больше определяет успех участия в ней, потому что со сбором „низковисящих фруктов“ ИИ справляется более чем хорошо», — подчеркнул багхантер.

С точки же зрения конкуренции, в том числе и на приватных ивентах, по мнению собеседника, все по-прежнему определяется прежде всего личными качествами специалиста: «Просто теперь к этому добавилась и некоторая „гонка вооружений“ — модели, их количество, верификации, бюджет токенов».

Пешков же считает, что фокус переместился с того, найдешь ли ты уязвимость, на то, кто сделает это быстрее: «Теперь нужно быть не только самым изобретательным и технически подкованным, но и быстро соображать».

Рассуждая о перспективах использования ИИ в отрасли, Уланов заявил, что багхантеры не исчезнут из-за нейросетей в ближайшем будущем: «На мой взгляд, сейчас не та степень зрелости ИБ, чтобы жертвовать хантерами в угоду ИИ в любых смыслах». Тем не менее эксперт уточнил, что в будущем ИИ и вайтбокс вполне могут заменить обычных исследователей. Однако это, по заявлению собеседника, не коснется багов в смежных областях, где использование ИИ будет трудным даже с точки зрения организации: теневые активы, старые недокументированные API, хосты и сервисы.

«Изменятся баги, на которые охотятся исследователи, изменится багбаунти, но багхантеры были и будут всегда», — считает эксперт.

Как багхантинг-платформы отсеивают невалидные отчеты

По мнению Приходько, ИИ в Bug Bounty помогает автоматизировать отдельные этапы по типу поиска уязвимостей и обработки отчетов. «На стороне триажа это поиск вероятных дублей, анализ кодовой базы и частичная проверка воспроизводимости в контролируемой среде», — отметил эксперт.

Также собеседник выделил, что ИИ помогает исследователям доводить до результата сложные находки, которые раньше требовали слишком много времени. «При анализе отчетов ИИ может помогать искать дубли, выявлять недостающие доказательства и частично проверять воспроизводимость», — подчеркнул пользу нейросетей для багхантеров Приходько.

Тем не менее эксперт выделил, что окончательная оценка критичности, последствий для бизнеса и приоритетов исправления остается за человеком. ИИ, как считает Приходько, может предложить оценку, однако специалист должен проверить ее с учетом конкретной системы и проконтролировать безопасность самой проверки.

Левкин из BI.ZONE подчеркнул, что компания уже ввела соответствующие меры. С начала года доля отсеиваемых отчетов на багбаунти-платформе компании плавно снижается — около 8 процентных пунктов относительно исходного значения в 60%.

Например, были введены ограничения на отправку отчетов для новых и неверифицированных багхантеров, а также стали отдельно разъясняться требования к качеству отчетов.

Левкин выделил еще одну меру — внедрение собственного ИИ-помощника BI.ZONE Cubi, который проводит предварительный анализ отчетов до полноценного рассмотрения триажерами. По мнению собеседника, это позволяет снизить нагрузку на команды.

Кейс Google и опыт российских исследователей

За рубежом проблему снижения качества отчетов при их значительном увеличении решают по-разному. Так, 4 октября Google приостановил программу вознаграждений за поиск уязвимостей в собственном open-source ПО с 1 октября. Причиной был назван резкий рост автоматизированных заявок, связанных с использованием ИИ. Об этом пишет TechCrunch.

Компания заявила, что большая часть подобных заявок была недействительна. Из-за потока ИИ-сообщений инженеры Google оказались перегружены. В заявках же были найдены сообщения, вызванные «галлюцинациями» искусственного интеллекта. Обновление по программе пообещали дать в первом квартале 2027 года. Компания порекомендовала обратить внимание на другие bug bounty-программы от Google.

Разработчик российской экосистемы ИИ-инструментов Kodik Рафаэль Гильмурахманов подчеркнул, что российские ИБ-исследователи также используют генеративный ИИ, например для разбора незнакомой кодовой базы, поиска подозрительных паттернов, подготовки черновиков PoC и оформления отчетов.

Тем не менее эксперт отметил, что факт использования нейросетей еще не говорит о качестве находки: «Модель может уверенно описать несуществующую уязвимость, а исследователь — обнаружить ошибку до отправки». Поэтому Гильмурахманов считает, что при оценке ситуации на рынке РФ важно не смешивать все отклоненные заявки с ошибками ИИ: среди них бывают и дубликаты, и находки за пределами программы.

Руководитель отдела внешнего развития департамента аудита DSEC by Solar Михаил Дрягунов заявил, что ИИ сейчас используют как исследователи, так и специалисты, которые проверяют сообщения об уязвимостях от исследователей. Для самих исследователей, по мнению эксперта, порог вхождения снижается благодаря ИИ, также ускоряется поиск уязвимостей и написание баг-репортов.

«Вследствие этого на багбаунти-программы сыплется большой поток заявок, и они сами начинают использовать ИИ в триаже, чтобы отсеять невалидные репорты, при этом ИИ может иногда отсеивать и валидные сообщения об уязвимостях», — объяснил Дрягунов.

В результате, уточнил собеседник, репортов становится больше, но теряется их качество.

Инженер по безопасности мобильных приложений Swordfish Security Арина Зайцева заявила, что тот, кто игнорирует подобные генеративные инструменты, рискует отстать от индустрии. При этом эксперт подчеркнула, что частота ошибок напрямую зависит от степени контроля исследователя над выводом нейросети.

ИИ, по мнению собеседника SecPost, часто ошибается со ссылками, выдумывает несуществующие методы, команды или логику работы систем. «Если просто копировать сгенерированный текст, не проверяя его, в отчет могут попасть ИИ-галлюцинации. Но если ИИ используется как ассистент с обязательной ручной проверкой, ошибки можно исключить», — подчеркнула Зайцева.

Гильмурахманов заметил, что главная асимметрия состоит в скорости подготовки отчета и трудоемкости его проверки. «ИИ позволяет быстро составить убедительное сообщение, но установить, есть ли за ним реальная уязвимость, по-прежнему требует времени и квалификации», — объяснил эксперт.

Если же автор не проверяет находку, затраты перекладываются уже на принимающую команду. Гильмурахманов подчеркнул: история Google демонстрирует именно такой риск, поскольку проверка становится узким местом, когда поток непроверенных заявок растет быстрее.

Что будет с багхантингом дальше: прогнозы платформ и исследователей

Приходько из Standoff Bug Bounty обозначил, что стоит ожидать роста конкуренции в нише и числа новых специалистов: ИИ как поможет привлечь новых исследователей, так и одновременно усилит конкуренцию за вознаграждения. Эксперт уточнил, что языковые модели снижают порог входа и помогают быстрее учиться и проверять больше гипотез.

Также собеседник объяснил, что вместе с конкуренцией усиливается и значимость качественной проверки результатов. По мнению Приходько, риск того, что компания-заказчик, имеющая желание пройти багхантинг, разочаруется в подобных услугах, также существует, если заказчик получает большой поток неподтвержденных сообщений и тратит слишком много ресурсов на разбор.

Собеседник отметил, что доступ к инструменту не гарантирует успех: преимущество будет в руках у тех, кто умеет выбирать перспективные направления, проверять результаты и показывать реальное влияние уязвимости на бизнес.

Гильмурахманов же заявил, что ИИ хоть и снижает порог входа, но не отменяет требования к пониманию.

«Без предметных знаний новичку сложнее отличить реальную уязвимость от галлюцинации модели, поэтому отправка результатов без проверки создает риск дополнительных бесполезных отчетов», — заключил эксперт.

Левкин выделил, что кейс Google стоит воспринимать как пример того, что платформы вынуждены адаптировать процессы к изменению качества входящего потока. Эксперт предположил, что в ближайшей перспективе ИИ продолжит снижать порог вхождения в поиск уязвимостей и упрощать отдельные этапы. Это, по словам эксперта, хоть и привлечет в багбаунти новых участников и увеличит число отчетов, но не будет означать приход к сопоставимому росту количества подтвержденных уязвимостей.