Утечки данных в ИИ-модели за год выросли в 30 раз
Российский бизнес всё чаще сталкивается с рисками утечек через ИИ: количество инцидентов с передачей данных в публичные LLM-модели за 2025 год выросло в 30 раз. Однако только 8,1% компаний могут подтвердить такие случаи, тогда как 42,4% лишь подозревают их. Исследование УЦСБ и «Солара» также выявило, что 33,3% организаций не используют специализированную защиту ИИ, а 63,6% считают приоритетом обучение сотрудников, а не технологические меры.
С утечками конфиденциальных данных через ИИ-инструменты уже столкнулись 8,1% российских компаний, еще 42,4% сообщили о подозрениях без подтвержденных случаев. При этом растут риски, связанные с передачей данных в публичные языковые модели. Количество утечек данных в этой сфере в 2025 году выросло в 30 раз. Об этом SecPost сообщили в УЦСБ по итогам совместного исследования с ГК «Солар».
Всего в опросе участвовали 102 компании из телекоммуникаций, промышленности, финансов, госсектора, энергетики, транспорта, логистики, торговли, медицины и строительства.
В исследовании говорится, что число компаний, которые подозревают утечки через ИИ-инструменты, заметно превышает число организаций с подтвержденными инцидентами. Это, как указано в материале, может говорить о недостаточной зрелости средств мониторинга, расследования и контроля использования ИИ-инструментов.
Самым частым запросом компаний в области безопасности ИИ стало обучение сотрудников и разработка внутренних правил AI Security. Такой вариант выбрали 63,6% участников исследования. Технологические меры респонденты называли реже: специализированные LLM для безопасности приложений отметили 45,5%, построение MLSecOps — 39,4%, аудит безопасности, red teaming и пентест ИИ-систем — 37,4%, внедрение AI-файрволов — 35,4%.
Часть компаний уже использует специализированные механизмы защиты ИИ. По данным исследования, AI/LLM-файрволы или аналогичные фильтры запросов и ответов есть у 39,4% организаций. Процессы MLSecOps внедрили 23,2%, а 17,2% защищают весь цикл разработки ML- и LLM-систем, включая данные, пайплайны и модели.
Треть опрошенных организаций, 33,3%, не применяет специальных мер защиты ИИ. В исследовании говорится, что эти данные показывают неоднородность подходов к безопасности ИИ: часть компаний уже использует отдельные инструменты, а часть пока не внедрила специализированные механизмы.
Контролировать передачу данных в ИИ-сервисы могут средства анализа трафика, указано в исследовании. Они отслеживают запросы, проверяют передаваемый контент и блокируют попытки отправки чувствительной информации. В качестве примера такого класса решений в материале названы SWG-системы, или Secure Web Gateway.
Ранее SecPost писал, что более половины российских банков до сих пор эксплуатируют унаследованные системы собственной разработки, которые не обновляются и не соответствуют текущим требованиям ИБ. При этом 70% кредитных организаций не проверяют уровень защищенности ИТ-компаний, имеющих прямой доступ к их инфраструктурам, — а через подрядчиков в 2025 году был реализован каждый третий крупный взлом.
