Интеллектуальный подход: как меняется российский рынок решений Guardrails

Сегодня IT-бизнес в России и в мире проявляет все больший интерес к генеративному ИИ из-за его возможности сокращать издержки и повышать производительность труда. Это общемировая тенденция: согласно исследованию Stanford AI Index, в 2025 году генеративный ИИ применяли хотя бы в одной бизнес-функции 70% опрошенных организаций, говорит в беседе с SecPost руководитель центра искусственного интеллекта и перспективных технологий BI.ZONE Александр Балабанов.

Согласно данным BI.ZONE, признаки использования искусственного интеллекта нашли в корпоративной инфраструктуре почти у 72% российских организаций. При этом в исследовании OpenAI за 2025 год опрошенные сотрудники сообщали об экономии 40–60 минут рабочего времени в день благодаря ИИ-технологиям.

«В России дополнительным стимулом выступает дефицит квалифицированных специалистов, поэтому ИИ рассматривают не столько как замену сотрудников, сколько как инструмент повышения эффективности существующих команд», — отмечает Александр Балабанов.

В то же время активное проникновение ИИ в IT-бизнес влечет за собой целый ряд рисков. По словам инженера по разработке правил обнаружения IT-компании «Уральский центр систем безопасности» (УЦСБ) Владимира Кальбина, вместе с запросами сотрудников во внешние сервисы могут попадать внутренние отчеты, персональные данные клиентов, коммерческие тайны или фрагменты исходного кода собственных продуктов компаний. Причем сами сотрудники не всегда воспринимают такую передачу как потенциальную утечку.

Анатомия угроз

Согласно данным исследования Harmonic, примерно 8,5% сотрудников отправляют в ИИ конфиденциальные данные. Использование сторонних ИИ-сервисов внутри компаний создало новый риск для информационной безопасности.

«Сотрудники загружают в публичные нейросети рабочие документы, фрагменты кода, отчеты или переписку, чтобы ускорить анализ, подготовку текстов или обработку данных», — отмечали специалисты компании.

По словам экспертов, ключевая опасность состоит в том, что многие ИИ-платформы просто не предназначены для работы с конфиденциальной информацией. В результате внутренняя информация — например, данные клиентов, заявки или документы — может передаваться за пределы корпоративной инфраструктуры и оказываться вне прямого контроля бизнеса. При этом еще одна угроза — теневой ИИ (Shadow AI), использование сторонних ИИ-сервисов без согласования с IT и ИБ-командами.

«В таких условиях компании часто даже не знают, какие данные сотрудники передают во внешние системы и какие инструменты используют в работе. Это требует дополнительных внутренних мер обеспечения кибербезопасности, связанных с контролем использования внешних сервисов и обработкой конфиденциальных данных», — подчеркивалось в исследовании Harmonic.

В 2025 году объем данных, утекших из российских компаний через публичные ИИ-сервисы, такие как ChatGPT и Google Gemini, вырос в 30 раз — об этом сообщалось в исследовании ИБ-компании «Солар», результаты которого были представлены в минувшем феврале. Прогноз CNews к середине 2026 года связывал каждое пятое инцидентное событие утечки с теневым ИИ против примерно 12% годом ранее. При этом средний ущерб от таких инцидентов примерно на 670 тысяч долларов выше, чем от традиционных утечек, отмечает технический директор компании «Стахановец», эксперт в области ИБ и ITСергей Щербаков.

Механизмы защиты

Постепенный переход генеративного искусственного интеллекта от экспериментальных проектов к полноценному использованию в корпоративных информационных системах порождает заметный спрос к решениям категории Guardrails как в России, так и за рубежом, говорит в беседе с SecPost эксперт исследовательского центра IT-компании УЦСБ Залина Русинова.

«Если первоначально основное внимание уделялось функциональным возможностям языковых моделей, то сегодня компании все чаще рассматривают вопросы их безопасности, управляемости и защиты конфиденциальной информации», — отмечает эксперт.

По данным специалистов Cloud.ru, первые продукты класса Guardrails появились за рубежом в 2023 году и используются примерно 3,5 года. В России опыт использования подобных решений меньше — последние 1,5–2 года.

По словам Александра Балабанова, Guardrails — это защитный слой между пользователем, корпоративными данными и искусственным интеллектом, который позволяет контролировать, какую информацию получает модель и что она выдает в ответ. Например, NVIDIA NeMo Guardrails предусматривает проверку запросов, загружаемых документов, ответов модели и обращений к внешним инструментам.

Особенность таких решений — это сочетание обычных правил с анализом содержания запроса с помощью моделей: одного списка запрещенных слов здесь недостаточно. В Guardrails могут сочетаться жесткие правила и дополнительные модели, которые оценивают смысл текста, в том числе ищут попытки заставить ИИ обойти ограничения.

«На мировом рынке сегмент подобных решений уже сформировался: по оценкам аналитиков, рынок AI Firewall в 2025 году составлял около $260 млн и к 2032 году может вырасти примерно втрое», — отмечает инженер технологий машинного обучения R-Vision Артем Борисов.

Стоит отметить, что AI Firewall — это отдельный инфраструктурный слой, прокси-сервер, который размещается между приложением (или пользователем) и LLM-провайдером. Его задача — перехватывать и фильтровать весь трафик, идущий к модели и от нее. При этом Guardrails, набор политик и фильтров, ограничивающих допустимый ввод и вывод модели, являются более широким понятием, поскольку эти политики и фильтры можно встроить прямо в код приложения, а не выносить в отдельный прокси-слой. 

Между тем в России рынок решений категории Guardrails находится на более ранней стадии развития, однако динамика спроса уже достаточно заметна, говорит Залина Русинова. Согласно совместному исследованию Б1, ГК «Солар», Ассоциации ФинТех и HiveTrace, опубликованному в сентябре 2026 года, специализированные решения сторонних разработчиков для обеспечения безопасности ИИ используют пока только 16% опрошенных компаний, однако еще 46% рассматривают возможность их применения в ближайшее время. При этом 53% организаций планируют увеличить расходы на защиту ИИ.

Между тем ответом на растущий спрос на решения класса Guardrails со стороны российских IT-компаний стал Guardrails Filter — инструмент для более безопасной работы с генеративным ИИ, который компания Cloud.ru представила на конференции GoCloud 2026 в минувшем апреле.           

Российский инструмент

Основная задача Guardrails Filter — не дать конфиденциальным данным случайно утечь в большую языковую модель. Схема работы выглядит так: сервис проверяет текст запроса, ищет в нем конфиденциальные данные — например, персональные сведения, банковские реквизиты, API-ключи и другие секреты, — затем маскирует их и только после этого отправляет обезличенный запрос в модель. Когда модель возвращает ответ, система подставляет реальные значения обратно. 

Иначе говоря, пользователь получает нормальный результат, но сами чувствительные данные не уходят за пределы корпоративного контура в исходном виде. Как отмечали в Cloud.ru, появление такого инструмента хорошо вписывается в общий тренд: компании все активнее используют генеративный ИИ, но тема утечек данных остается одной из главных причин, почему внедрение идет не так быстро, как хотелось бы.

«Особенно это чувствительно для отраслей, где много персональной и служебной информации, — например, для здравоохранения, ретейла и госсектора», — подчеркнули в компании.

Три месяца спустя, в минувшем июле, Cloud.ru опубликовала исходный код Guardrails Filter. К тому моменту инструмент использовался в цифровой среде AI Factory для защиты запросов к сервису Foundation Models. Он применялся в пилотных и коммерческих проектах клиентов, а также в собственных проектах Cloud.ru. Однако открытие исходного кода позволило российским компаниям бесплатно развернуть сервис в собственной инфраструктуре и использовать его с ИИ-моделями любых провайдеров.

«Спрос на генеративный ИИ быстро растет, но требования к безопасности по-прежнему остаются одним из главных барьеров для его внедрения. Guardrails Filter создавался как часть нашей собственной ИИ-платформы именно для таких сценариев. Теперь мы открываем исходный код проекта, чтобы компании могли быстрее построить безопасную инфраструктуру для работы с языковыми моделями в собственном IT-контуре», — сообщал генеральный директор Cloud.ru Михаил Лобоцкий.

Перспективы развития

Сегодня основными факторами роста для решений класса Guardrails становятся риски утечек конфиденциальной информации, появление новых способов атак на языковые модели и расширение применения ИИ-агентов, взаимодействующих с внутренними информационными системами организаций, рассказывает в беседе с SecPost Залина Русинова.

«Таким образом, можно говорить о постепенном переходе от точечных механизмов защиты к комплексному обеспечению безопасности ИИ-систем. В ближайшие годы Guardrails, вероятно, будут все чаще внедряться непосредственно в архитектуру корпоративных ИИ-решений, а не добавляться после их разработки», — считает эксперт.

В то же время, по мнению Александра Балабанова, развитие Guardrails будет связано прежде всего с переходом от проверки текстов к контролю действий ИИ-агентов: какие документы они читают, какие операции выполняют и куда отправляют информацию. Значительная часть таких функций войдет в состав платформ для разработки ИИ-агентов и комплексных систем информационной безопасности.

В России развитие, вероятно, будет связано прежде всего с адаптацией решений, которые можно развернуть внутри корпоративного контура и интегрировать с существующими системами средств защиты информации (СЗИ), прогнозирует специалист.

«В России рынок Guardrails только формируется, и одним из ключевых драйверов его развития становится регулирование. В частности, приказ ФСТЭК №117, который вступил в силу с 1 марта 2026 года, впервые закрепил требования к защите ИИ в государственных системах», — дополняет Артем Борисов.

По словам эксперта, проект поправок к нему предусматривает с 1 марта 2027 года фильтрацию входных запросов и выходных данных моделей при работе с информацией ограниченного доступа. Таким образом, для госсектора Guardrails могут превратиться из дополнительной меры защиты в инструмент выполнения регуляторных требований, а вслед за ним технология получит распространение и в коммерческом секторе.

«Второй важный тренд связан с развитием ИИ-агентов. Защищать потребуется не только текстовые запросы и ответы, но и действия ИИ, включая вызовы инструментов и доступ к корпоративным системам. Таким образом, рынок движется к формированию единой точки контроля корпоративного ИИ», — заключает собеседник SecPost.