«СберТех» выводит на рынок шлюз для защиты ИИ

«СберТех» представил шлюз, который обеспечивает централизованный контроль запросов и ответов от искусственного интеллекта (ИИ), а также его управление доступом и защиту данных, решение назвали Platform V SOWA AI. В компании утверждают, что многие организации не контролируют какой именно ИИ используют их сотрудники, что приводит к формированию так называемого «теневого ИИ». Это усложняет соблюдение требований ИБ, увеличивает поверхность атак и создает неконтролируемые зоны риска в безопасности ИТ-инфраструктуры.

Подробнее о «теневом ИИ» и защите искусственного интеллекта в подкасте с SecPost рассказывал CISO «СберТеха» Всеслав Соленик. Ранее SecPost сообщал, что «теневые нейросети» начали активно распространяться в даркнете, они, в отличии от легитимного ИИ, обучены на слитых базах данных и способны лучше проводить пентест. Однако «белым хакерам» зачастую запрещено использование «теневого ИИ».
 
Утверждается, что Platform V SOWA AI вместо разрозненных интеграций предлагает единый контур управления LLM-моделями и ИИ-агентами, который обеспечивает полный контроль за их поведением, передаваемыми данными и соблюдением корпоративных политик. Решение, по заявлению «СберТеха», ориентированно на потребности крупного бизнеса из сектора финтеха, телекоммуникаций, ритейла и др.

Сообщается, что в основу нового продукта заложены механизмы контроля поведения ИИ. Система позволяет задавать глобальные политики использования моделей, пресекать попытки обхода ограничений нежелательные сценарии использования и выявлять аномальную активность. «Platform V SOWA AI обладает гибкостью в интеграции сторонних инструментов защиты и выступает в качестве оркестратора безопасности ИИ, компании могут объединять как собственные разработки в области безопасности, так и внешние решения, создавая централизованную экосистему управления рисками», — говорится в сообщении «СберТеха».

Продолжение ниже

Мнение CISO

Появление решений, которые сейчас относят к направлению AI Gateway, было ожидаемым — рынок приходит к формированию отдельного корпоративного уровня управления ИИ-взаимодействием, делится мнением с SecPost директор по информационной безопасности Сервиса «Грузовичкоф» Дмитрий Ляхов. По его словам речь уже не идет о «прокси с проверкой регулярных выражений» поверх популярных ИИ-сайтов.

«Если смотреть глубже, подобные решения превращаются в полноценный слой управления взаимодействием с сервисами: маршрутизацию запросов, анализ контекста, DLP-функции, аудит действий, управление политиками доступа, логирование, а также отслеживание того, как ИИ принимает решения и с какими данными взаимодействует», — подчеркивает Ляхов.

По словам CISO «Грузовичкоф», данное решение актуально на фоне внедрения ИИ-агентов, которые имитируют деятельность сотрудников: получают доступ к CRM, ERP, внутренним базам знаний, почте, мессенджерам. «В такой архитектуре без централизованного уровня управления компания быстро теряет понимание того, куда уходят данные, какие действия выполняются автоматически и как именно ИИ принимает решения», — поясняет эксперт.

Кто и как защищает КИИ в транспортных компаниях России. Инфографика и разбор SecPost

Поставщики и продукты

Однако среди рисков использования AI Gateway Ляхов отмечает, что подобные продукты и сами в итоге становятся критической точкой инфраструктуры. «Его компрометация открывает доступ ко всему потоку запросов, данным и логике взаимодействия ИИ-систем. Кроме того, неизбежны попытки обхода корпоративных политик через локальные модели, сторонние агенты и нестандартные каналы взаимодействия», — говорит он, при этом добавляя, что подобные AI-шлюзы со временем станут стандартным элементом корпоративной инфраструктуры.