MessiahGPT и DarkGPT: криминальный ИИ для автоматизации кибератак

MessiahGPT представляет собой предполагаемую криминальную генеративную AI-платформу, которую продвигают на BreachForums, через сайт messiahgpt[.]de и каналы в Телеграм. Trellix относит сервис к хакерской группировке Dabial Leaks.

Операторы рекламируют MessiahGPT как модель без фильтров, способную создавать инструменты для различных этапов атак. При этом технические заявления о происхождении и возможностях платформы не получили независимого подтверждения. Сам сервис и его продвижение, по имеющимся сообщениям, наблюдаемы.

Заявленные возможности MessiahGPT

Платформу позиционируют как инструмент для генерации:

• программ-вымогателей;
• фишинговых наборов;
• программ-крадущих информацию;
• криптеров;
• рутkitов;
• контента для социальной инженерии;
• скриптов для эксплуатации утечек данных.

Операторы утверждают, что модель обучалась без фильтров информационной безопасности на основе неограниченных руководств, архивов даркнета, утечек документов и интернет-данных. Независимого подтверждения этим заявлениям нет.

По имеющимся данным, сервис использует архитектуру Mixture-of-Experts с 128 экспертами. Для обработки каждого токена активируются 16 из них.

Среди заявленных уровней моделей упоминаются:

• JinnatGPT, предназначенная для базового административного скриптинга;
• ParaohaGPT, рассчитанная на продвинутое рассуждение и многофайловое ревью кода;
• MessiahGPT 2.0, предназначенная для анализа документов, веб-скрапинга и обработки больших наборов данных.

Монетизация и возможное применение

Сообщается, что платформа предоставляет ограниченный бесплатный доступ и подписки на основе криптовалюты без верификации личности. Такая модель потенциально позволяет неопытным злоумышленникам автоматизировать отдельные этапы жизненного цикла разработки ВПО и производства фишинга.

Рекламируемые сценарии использования охватывают несколько этапов атаки, включая:

• анализ украденных баз данных;
• генерацию компилируемого вымогательского ПО;
• разработку фишинговой инфраструктуры;
• создание кастомных хакерских скриптов.

Другие AI-сервисы без цензуры

В отчете также описывается DarkGPT, еще один AI-сервис без цензуры, который продвигают через русскоязычные каналы в Телеграм. Его фактическую реализацию, будь то дообученная модель или обертка вокруг существующей LLM, подтвердить не удалось.

Почему обнаружение атак усложняется

Распространение подобных услуг создает дополнительные сложности для информационной безопасности. Фишинговый контент, созданный с помощью AI, может существенно варьироваться и не содержать типичных грамматических или шаблонных индикаторов.

ВПО, созданное или модифицированное с использованием автоматизированных систем, также способно обходить статические сигнатуры за счет частой вариативности кода.

Защитные меры, согласно отчету, должны включать:

• поведенческое обнаружение;
• мониторинг аномалий;
• охоту за угрозами;
• контроль DNS и видимость DNS-активности;
• контроль исходящего трафика;
• отслеживание соединений с известной инфраструктурой криминального AI;
• ограничение использования несанкционированных внешних AI-сервисов;
• применение правил YARA или эквивалентных правил анализа содержимого в сочетании с телеметрией конечных точек и сети.

Заявления о конкретных возможностях MessiahGPT и DarkGPT, объемах атак и будущем воздействии этих сервисов следует считать неподтвержденными, если они не подкреплены независимыми техническими доказательствами.

Отчет получен из сервиса CTT Report Hub. Права на отчет принадлежат его владельцу.

Ознакомиться подробнее с отчетом можно по ссылке.