NGR Softlab добавила в SIEM Alertix правило для выявления атак с использованием LLM

Компания NGR Softlab сообщила о добавлении в SIEM-систему Alertix нового правила корреляции, предназначенного для обнаружения активности, связанной с использованием коммерческих языковых моделей (LLM) в ходе кибератак. Разработка учитывает сценарий компрометации, при котором вредоносное ПО обращается к нейросетям через легитимные API для определения дальнейших действий в атакуемой инфраструктуре. Об этом SecPost рассказали в компании.

Подобный механизм был описан исследователями Cisco Talos на примере вредоносного ПО CLOSEDQUORUM. В отличие от сценариев, когда искусственный интеллект используется для написания вредоносного кода, в данном случае языковые модели задействуются непосредственно в процессе компрометации. Вредоносная программа передает модели информацию об атакуемой инфраструктуре и использует полученные ответы для выбора последующих действий.

Как отмечается, особенность подхода заключается в том, что взаимодействие с LLM происходит через легитимные API коммерческих сервисов. Обращения к ChatGPT, DeepSeek, Gemini и другим моделям могут быть частью обычных корпоративных процессов, поэтому сами по себе такие запросы не позволяют однозначно определить вредоносную активность, а их блокировка может повлиять на работу бизнес-приложений.

Продолжение ниже

Для обнаружения подобных угроз аналитический центр NGR Softlab разработал правило корреляции «Обращение процесса к API LLM перед доступом к LSASS», вошедшее в коробочный набор экспертизы SIEM Alertix. Правило анализирует последовательность действий программ: сначала фиксируется обращение процесса к API языковой модели, затем отслеживаются попытки этого же процесса получить доступ к памяти системного процесса Windows, где могут находиться учетные данные пользователей.

Согласно сообщению компании, такой подход позволяет выявлять потенциально опасную активность на основании сочетания нескольких событий. Обнаружение не зависит от уникальных признаков конкретного вредоносного файла, поэтому правило может применяться и к другим сценариям атак, в которых взаимодействие с внешними LLM сопровождается попытками доступа к чувствительным данным операционной системы.

Новое правило доступно в составе коробочного набора экспертизы Alertix. Для его работы требуется сбор телеметрии Sysmon с контролируемых Windows-хостов.