Сбер опубликовал обновленную модель угроз для систем искусственного интеллекта
ПАО «Сбербанк» опубликовало в открытом доступе обновленную версию модели угроз кибербезопасности для систем искусственного интеллекта. Как сообщили SecPost в компании, документ размещен на портале «Кибрарий» в разделе для экспертов.
Обновленная модель описывает 37 видов угроз и 51 способ их реализации. Для каждой угрозы в документе определены возможные последствия, нарушаемые свойства информации, связанные объекты и этапы жизненного цикла ИИ-решений. В числе возможных последствий реализации угроз — утечка или искажение данных, нарушение доступности и логики работы систем, компрометация моделей и инфраструктуры, а также выполнение ИИ-агентами нелегитимных действий.
Как сообщили в компании, перечень объектов защиты в новой версии расширен за счет компонентов, которые ранее не рассматривались, но в текущих условиях стали критическими точками атак. Угрозы и способы их реализации соотнесены с видами потенциальных нарушителей, различающихся по уровню осведомленности, техническим возможностям и доступу к компонентам ИИ-решений.
Модель предназначена для разработчиков, MLOps-инженеров, архитекторов и специалистов по кибербезопасности, а также для руководителей, отвечающих за управление рисками. В компании отмечают, что документ базируется на анализе актуальных угроз, мировых практиках и собственном опыте Сбера в области обеспечения кибербезопасности инфраструктуры разработки, обучения и эксплуатации ИИ.
