Orion soft выпустил StarGuard AI 1.2 с анализом безопасности LLM и корпоративных файлов

Компания Orion soft представила новую версию платформы безопасности для работы с большими языковыми моделями StarGuard AI 1.2. Обновление обеспечивает глубокий анализ угроз, гибкую настройку политик безопасности, а также повышает производительность и отказоустойчивость системы. Об этом SecPost рассказали в компании.

В версии 1.2 добавлена возможность сканирования данных антивирусом и анализатором сериализованных моделей, а также стресс-тестирования LLM на устойчивость к prompt-injection, jailbreak и утечкам. Как сообщили в компании, эти функции предназначены для защиты от «отравления» моделей и внедрения вредоносного кода.

Расширены возможности защиты данных: появилась опция создания собственных детекторов для проверки запросов и ответов, а также выбор конкретных классов данных для маскирования. Это позволяет учитывать специфику конфиденциальных данных инфраструктуры и отраслевые стандарты при настройке сервиса.

Продолжение ниже

Начиная с версии 1.2 StarGuard AI поддерживает режим работы в формате классического HTTP Proxy с DPI. Как отмечается в сообщении, это позволяет настроить систему на уровне сети без перестройки существующей инфраструктуры с прозрачным контролем трафика. Администраторы могут использовать решение как общий шлюз для всей компании, при этом сеть автоматически перенаправляет весь трафик через StarGuard AI для анализа запросов.

Также реализована нативная поддержка файлов для OpenAI API и Anthropic API и возможность выбора fail-open/fail-close сценария при недоступности отдельных сервисов при проверке. При техническом сбое можно либо полностью заблокировать доступ ради безопасности, либо оставить его открытым, чтобы не останавливать работу сотрудников.