Cloud.ru открыл код Guardrails Filter для защиты конфиденциальных данных в запросах к ИИ-моделям
Cloud.ru опубликовал исходный код Guardrails Filter — инструмента для защиты чувствительных данных при работе с большими языковыми моделями. Как сообщили SecPost в компании, опенсорс-версия не привязана к платформе Cloud.ru и может использоваться с моделями любых провайдеров, а также развертываться в собственной инфраструктуре бизнеса.
Guardrails Filter работает как прослойка между корпоративными приложениями и ИИ-моделью. Сервис автоматически проверяет пользовательские запросы и ответы модели: перед отправкой он заменяет персональные данные, API-ключи, пароли и другую конфиденциальную информацию на синтетические значения, а после получения ответа восстанавливает исходные данные. В опенсорс-версии доступны стандартные правила обнаружения, а также возможность создания собственных правил, например, для внутренних номеров договоров или идентификаторов клиентов. Кроме того, в сервис добавлены журналирование событий безопасности и тестовый режим Ghost Mode.
Как сообщили в компании, высокое качество работы Guardrails Filter подтверждено на публичном бенчмарке pii-bench: инструмент набрал 93,1 балла по метрике F1, точность срабатываний составила 99,9%. Исходный код доступен на GitHub и GitVerse в версиях Standalone и ExtProc.
Кто и как защищает КИИ в транспортных компаниях России. Инфографика и разбор SecPost
Поставщики и продукты
