CISO Цифровых активов «Газпром-Медиа Холдинга»: защита ИИ-моделей в кибербезопасности требует ограниченных полномочий и контроля действий

28 октября, 2026, 12:00

Алексей Жуков CISO Цифровых активов «Газпром-Медиа Холдинга» заявил, что компрометация ИИ-моделей в кибербезопасности грозит утечкой данных и неразрешенными действиями, а кража модели позволяет искать способы ее обхода. По его словам, ИИ требует контроля, ограниченных полномочий и возможности отключения. Он также отметил, что минимизацию персональных данных нужно предусматривать до обучения, поскольку удаление сведений из базы не гарантирует их устранения из модели.

Сайт «Газпром-Медиа Холдинг» // gazprom-media.com/ru/
Сайт «Газпром-Медиа Холдинг» // gazprom-media.com/ru/

Директор по информационной безопасности Цифровых активов «Газпром-Медиа Холдинга» Алексей Жуков на SOC FORUM в ходе дискуссии «Антифрод с ИИ: безопасность без вторжения в приватность» заявил, что использование искусственного интеллекта в кибербезопасности требует защиты самих моделей. Их компрометация может привести к утечке данных и выполнению неразрешенных пользователем действий.

ИИ помогает выявлять аномалии, ускорять реагирование на инциденты и снижать нагрузку на специалистов, но та же технология используется атакующими для масштабирования DDoS-атак, фишинговых кампаний, создания поддельного синтетического аудио- и видеоконтента и поиска уязвимостей.  «Кража защитной модели позволяет злоумышленникам изучать ее слабые места и подбирать способы обхода», — отметил Жуков. По его словам, скрытая компрометация опасна тем, что система может сохранять обычное поведение до появления определенного условия, после чего выдавать ошибочные или опасные результаты. Чем больше полномочий получает ИИ, тем серьезнее могут быть последствия и риски для бизнеса.

«ИИ в кибербезопасности следует рассматривать не как универсальное решение, а как инструмент, который требует контроля, настройки и постоянной валидации», — подчеркнул эксперт. Он пояснил, что защитным системам необходимы ограниченные полномочия, контроль действий и возможность отключения, а самые критичные решения должны оставаться управляемыми человеком.

Продолжение ниже

Для видеосервисов эти требования непосредственно связаны с доступностью контента для пользователей и инструментов для авторов. Платформы с многомиллионной аудиторией, такие как RUTUBE, опираются на масштабную серверную инфраструктуру и сложные технологические зависимости, отметил Жуков.

Отдельное внимание эксперт уделил данным, используемым при обучении ИИ. «Удаление сведений из исходной базы не гарантирует устранения информации, которую могла запомнить модель», — сказал он. Поэтому минимизацию персональных данных и проверку возможности их восстановления необходимо предусматривать еще до обучения.