Swordfish Security представила AI Security фреймворк для российского рынка
Новый фреймворк AI Security от Swordfish Security нацелен на противодействие таким угрозам, как промпт-инъекции и отравление данных, на фоне роста числа инцидентов с участием ИИ в бизнес-среде.
Swordfish Security разработали собственный AI Security фреймворк, который включает возможные риски и дорожную карту безопасной разработки в области ИИ. Это первая система рекомендаций, которая опирается на международные карты угроз и стандарты разработки с применением ИИ, но ориентированная на российский рынок. В новом фреймворке учли отечественную регуляторику и особенности рынка.
25% крупнейших финансовых компаний уже столкнулись с инцидентами с участием ИИ – такие результаты показало исследование, которое Ассоциация Финтех провела совместно с Swordfish Security.
В ТОП-3 угроз, которые могут быть реализованы с помощью ИИ вошли промпт-инъекции, повреждение или «отравление данных» и раскрытие чувствительной информации моделью ИИ.
