iTPROTECT запустил направление по защите искусственного интеллекта
Компания iTPROTECT, специализированный интегратор в области информационной безопасности, объявила о запуске нового направления — защиты искусственного интеллекта. Направление включает пять классов решений и услугу: AI Firewall, автопентест AI/LLM-моделей, защиту ИИ-агентов, внедрение безопасных корпоративных ИИ-агентов и тестирование LLM. Суммарно портфель состоит из 15 вендорских продуктов и услуги пентестеров iTPROTECT. Об этом SecPost рассказали в компании.
По данным опроса iTPROTECT, 40% руководителей по информационной безопасности в компаниях, внедряющих ИИ в рабочие процессы, рассматривают новые средства и услуги защиты нейросетей. Среди рисков респонденты отмечают утечки данных, раскрытие конфиденциальной информации из-за проблем с разграничением доступа и промпт-инъекции. Почти каждая четвертая российская компания (24%) уже активно использует ИИ в рабочих процессах или рассматривает его внедрение как приоритетное направление, как сообщили в компании.
Угрозы подтверждаются практическими исследованиями. По данным отчета Harmonic Security за первую половину 2026 года, чувствительные данные содержались в 26,4% всех файлов, загружаемых сотрудниками предприятий в ИИ-приложения. Риски связаны как с передачей данных сотрудниками внешним ИИ-сервисам, так и с безопасностью самих моделей и приложений на их основе.
Безопасность ИИ также входит в регуляторную повестку. В июне 2026 года Банк России опубликовал методические рекомендации по информационной безопасности при использовании ИИ в финансовом секторе. Требования приказа ФСТЭК №117 предусматривают меры защиты информации при использовании ИИ в информационных системах государственных учреждений.
Как сообщили в iTPROTECT, AI Firewall контролирует обращения к внешним и внутренним ИИ-сервисам, блокирует нелегитимные запросы и ответы, находит и маскирует чувствительные данные, разграничивает доступ сотрудников и фильтрует ответы языковых моделей. AI/ML-автопентест проверяет большие языковые модели и GenAI-системы на устойчивость к более чем 40 видам атак и выявляет уязвимости ИИ-приложения до запуска в эксплуатацию. Инструменты защиты ИИ-агентов контролируют их работу в реальном времени с учетом привилегий и политик безопасности, отслеживают действия агента, источники и цепочку рассуждений, блокируют опасные команды и инъекции, выявляют аномалии в запросах.
В рамках направления специалисты iTPROTECT внедряют в защищенном контуре заказчика корпоративных ИИ-агентов на базе специализированной платформы. Платформа использует механизм RAG для работы с базами знаний компании и поддерживает более 100 языковых моделей. Тестирование LLM проводится для оценки специфических для ИИ угроз: проверяется устойчивость модели к джейлбрейкам, многошаговым атакам и обходу защитных механизмов, возможность извлечения конфиденциальной информации, риски несанкционированного доступа к данным, злоупотребления инструментами и эскалации прав, а также безопасность API и ключей, журналирование событий и риски неконтролируемого расходования вычислительных ресурсов.
По оценке компании, спрос на защиту ИИ в России будет расти вслед за внедрением корпоративных ассистентов, ИИ-агентов и использованием локальных и распространенных ИИ-моделей.
Читайте также
