Cloud.ru запустил фильтр для защиты данных при работе с AI
Cloud.ru анонсировал инструмент Guardrails Filter для безопасной работы с генеративными ИИ-моделями. Как сообщили SecPost в компании, это первый подобный инструмент среди российских облачных провайдеров.
Инструмент сканирует текст запроса к LLM, выделяет чувствительные элементы (персональные данные, реквизиты, API-ключи, секреты), маскирует их и передаёт обезличенный запрос в модель. После получения ответа маскировщик возвращает синтетические данные обратно в реальные значения, сохраняя семантическую целостность. Как пояснили в компании, это позволяет конечному пользователю получить полноценный результат, при этом чувствительные данные не покидают корпоративный ИТ-контур.
Guardrails Filter предназначен для работы с моделями из сервиса Cloud.ru Foundation Models, где доступно более 20 языковых моделей, включая text-to-text, audio-to-text и image-text-to-text. Механизм также будет доступен бизнесу для внедрения в режиме on-premise.
С момента коммерческого запуска Foundation Models в ноябре 2025 года модели обработали 450 млрд токенов. Наиболее востребованы сценарии применения генеративного AI клиентами Cloud.ru: клиентская поддержка, разработка, продажи, создание контента. Как отмечается в сообщении, инструмент наиболее актуален для здравоохранения, ритейла и госсектора.
Кроме того, Cloud.ru добавил в Foundation Models LLM-модель российской компании HiveTrace со встроенным Guardrails-механизмом. Как сообщили в компании, модель минимизирует промпт-инъекции, утечку системных инструкций, некорректную обработку выходных данных и риск введения ИИ-агента в заблуждение.
Читайте также
