«Даркнет-GPT»: стоит ли «белым хакерам» разрешить использовать теневые нейронки

Темное братство

Теневые нейросети стали привычными помощниками для преступников. Один из первых таких ИИ под названием WormGPT появился на хакерских форумах даркнета еще в 2023 году. В отличие от обычного ChatGPT у «криминального чат-бота» не было никаких моральных ограничений, он готов был поделиться любой опасной информацией – например, мог написать часть кода, позволяющего красть связки логинов и паролей из браузеров.

Сейчас в даркнете представлено примерно 5-10 подобных популярных моделей. Среди них FraudGPT, DarkBERT, Nytheon AI, рассказывает SecPost руководитель направления кибербезопасности RTM Group Артем Бруданин. Функционал у них у всех похожий, хотя они работают и на основе разных языковых моделей. Так, Nytheon AI построен на Llama и Gemme, у которых предварительно сняты этические ограничения. DarkBERT на нейросети RoBERTa – улучшенной версии модели BERT, выпущенной  Facebook AI (принадлежит Meta, которая признана в России экстремистской организацией и запрещена – ред.).

У этих инструментов есть десятки клонов на даркнет-форумах вроде Russian Market, рассказывает Артем Бруданин. Другие похожие нейросетки – HackerGPT, Escape GPT, Black Hat GPT, Loop GPT, DarkBARD, DarkGPT, XXXGPT и WolfGPT.

Раньше они активно продвигались в виде ботов и в Telegram, однако сейчас почти все они оттуда удалены, хотя у некоторых и остаются небольшие закрытые группы, где, очевидно, продают к ним доступ. Стоимость подписки на них – от 100 до 300 долларов в месяц.

По словам Михаила Сергеева, ведущего инженера CorpSoft24, некоторые из этих нейросеток более продвинутые, у них нет вообще никаких фильтров. Другие попроще, у них есть частичные ограничения на выдачу контента. Отличия между ними также есть в базах данных – в актуальности содержащейся в них информации, поясняет эксперт.

Все нейросети обучались, в том числе, на утечках корпоративных переписок и отчетов, хакерских базах и вредоносном коде. Например, некоторым из них «скармливали» программный код различных фреймворков, известных уязвимостей, деталях их эксплуатации, обсуждаемых на хакерских форумах. В итоге даркнет-нейросети научились анализировать код приложений, конфигурации их системного окружения и предлагать готовые векторы атак для конкретной найденной уязвимости, поясняет бизнес-партнер по информационной безопасности 1С-Битрикс Леонид Плетнев. Также эти нейросети умеют совершенствовать зловредов, обфусцировать вирусный код (изменять так, что потом его становится трудно понять, это позволяет скрыть его от антивирусных программ – ред.), оптимизируя затраты хакера на проведение атаки.

Даркнет-нейросети могут использоваться для подготовки фишинга. Они анализируют данные утечек и учатся имитировать культуру общения конкретных компаний. В результате получаются качественные поддельные письма, не отличимые от оригинала. Также темные нейросети помогают хакерам находить нужные слитые базы данных, в них выделять необходимые логины-пароли и другую важную информацию. Эти функции используются хакерами при проведении атак на проникновение в ИТ-периметр организации.

Черные хакеры используют даркнет-нейронки как «черный ящик»: они задают вопросы или дают описание цели и получают идеи, гипотезы и тактические подсказки для атак, а это дает им преимущество в скорости поиска обходов и нестандартных векторов, резюмирует Михаил Сергеев.

Полностью заменить живого человека такие нейронки пока не могут, добавляет CEO агентства белых хакеров Singleton Security и центра киберэкспертизы CyberED Егор Богомолов. Выстраивание сценария атаки и реальная эксплуатация уязвимости остается за хакерами, хотя AI-агенты постепенно уже могут помогать и с этим.

Имея в распоряжении «темные нейросети», хакеры начинают ощущать себя владельцами «кольца всевластия» из трилогии Толкиена «Властелин колец». Они могут значительно быстрее готовить атаки – по словам опрошенных SecPost специалистов по кибербезопасности, время подготовки кибернападений начинает исчисляться уже не днями, а часами.

Пентесты из недр даркнета

Законодательно в России даркнет-нейронки напрямую как инструмент не запрещены. Но в крупных корпорациях, особенно из финансового сектора и ИТ, их использование не разрешается и за этим следят строго, говорят опрошенные SecPost эксперты. Слишком велик риск утечек данных, а также потеря репутации компаний.  К примеру, в компании 1С-Битрикс заявили SecPost, что пентестеры, с которыми они сотрудничают, не пользуются такими нейронками.

Официально пентесты выполняются сертифицированными утилитами и на согласованных стендах, с отчетностью и аудитом, говорит Михаил Сергеев. Но некоторые пентестеры и Red-team (команды пентестеров в штате компаний – ред.), Blue-team (специалисты по кибербезопасности остальных отделов, следящие за безопасностью компании – ред.) негласно экспериментируют с «хакерскими» моделями для симуляции реальных атак. Особенно активно ими пользуются белые хакеры на фрилансе или те, которые сами тестируют компании без их разрешений на свой страх и риск и потом продают выявление уязвимости, говорят специалисты по кибербезопасности.

По мнению Артема Бруданина, даркнет-нейронки позволяют белым хакерам уравнять шансы с злоумышленниками и могут помочь найти уязвимости, а также новые TTPs (Tactics, techniques, and procedures, т.е. новые тактики и техники безопасности – ред.). Даркнет-нейронки позволяют лучше симулировать угрозы, быстрее обнаруживать угрозу 0Day (недавно найденные уязвимости в системе безопасности – ред.), многократно ускорять разработки отчетов и плейбуков – руководств по реагированию на киберинциденты.

Правда, и риски от них тоже достаточно велики. Егор Богомолов отмечает, что создатели даркнет-нейронок могут намеренно собирать и анализировать чаты своих пользователей в поисках дополнительного источника наживы. Также модели могут давать ложные и небезопасные рекомендации, могут генерировать готовые эксплойты. Правда, риски от использования и легальных нейронок тоже есть – не случайно некоторые компании запрещают пентестерам использовать даже их. Логи и конфигурации могут быть украдены из любой модели нейросети, если она не является внутренней, объясняет Егор Богомолов.

Использовать даркнет-нейронки можно, но только как вспомогательные с обязательной проверкой человека и строгим контролем доступа, резюмируют специалисты по кибербезопасности.

Мнение экспертов о том, стоит ли законодательно разрешить белым хакерам использовать эти инструменты, разделились. Так, ряд специалистов говорит, что сделать это можно, но только при строгом контроле и законодательной ответственности.

«На уровне закона полезно прописать разрешенные случаи использования в нормативных документах и профессиональных стандартах, а также предусмотреть ответственность за злоупотребления», — говорит Михаил Сергеев. Он считает, что лучше давать доступ к таким нейронкам через лицензированные платформы или внутренние «песочницы» в компаниях, когда модель не будет видеть реальных данных, а все запросы будут логироваться.

Вместе с тем старший партнер IT-интегратора «Энсайн» Алексей Постригайло, наоборот, считает, что разрешить даркнет-нейронки – это плохая идея.  «Правильный путь — легальные, изолированные модели под письменно согласованный периметр тестов, когда используются on-prem (модель развертывания ПО, когда оно официально устанавливается на сервисы компании поставщиками – ред.) или все происходит в сертифицированном облаке, с логами промптов и инструментов (записями текстовых запросов, которые пользователь отправляет нейросети, и инструментов, которые он использует – ред.). Должны быть запреты на внешние вызовы нейросети без прокси (промежуточных серверов-посредников, через которые проходит соединение – ред.), четкое описание результатов в отчетах», — подчеркивает эксперт.

Постригайло считает, что нужен не отдельный закон «про даркнет-ИИ», а методические рекомендации от ФСТЭК (Федеральная служба по техническому и экспортному контролю – ред.) и ФСБ. И отраслевой стандарт, где будет указано как хранить запросы, артефакты, как оформлять согласие заказчика и как обеспечивать цепочку сохранения доказательств.