Хакеры начали переживать, что искусственный интеллект оставит без заработка даже киберпреступный мир

Исследование Sophos Counter Threat Unit зафиксировало любопытный парадокс в теневом сегменте интернета. Участники даркнет-форумов и закрытых Telegram-каналов всерьёз обсуждают, не отнимут ли у них хлеб нейросети, которые они сами активно внедряют в свою криминальную работу.

Специалисты Sophos проанализировали обширный массив дискуссий на нелегальных площадках и зафиксировали смену отношения к генеративным моделям. Ещё недавно злоумышленники относились к ИИ как к забавной игрушке, теперь же воспринимают технологии в качестве полноценного рабочего инструмента. Подпольные маркетплейсы заполняются предложениями по автоматизации атак, генерации зловредного кода и подготовке мошеннических схем под ключ.

Продавцы криминальных сервисов обещают покупателям радикальное ускорение всех этапов противоправной работы. В рекламных описаниях встречаются:

• решения для составления убедительных фишинговых сообщений;
• инструменты массовых рассылок с автоматической персонализацией;
• генераторы программ для проникновения в чужие системы;
• модули управления действиями внутри уже скомпрометированных сетей;
• сервисы автоматического перевода переписки с жертвами на десятки языков.

Для криминального рынка происходящее выглядит очередным витком автоматизации тех процессов, которые раньше требовали серьёзной квалификации и долгого обучения.

Способность генеративных моделей стирать языковые границы вызывает у обитателей подпольных форумов особый энтузиазм. Аналитики наткнулись на ветки, где преступники делились лайфхаками по применению нейросетей для разговоров с жертвами на разных языках, тиражирования мошеннического контента и оперативной обработки входящих сообщений от попавшихся людей. Географический барьер, который раньше серьёзно ограничивал охват атак, многие участники форумов теперь считают практически снятым.

Отмечается, что языковой фактор десятилетиями оставался естественным фильтром, защищавшим целые регионы от массового онлайн-мошенничества, и его исчезновение меняет правила игры для всего теневого рынка.

Тема дипфейков обсуждается не менее активно. Часть пользователей рассказывала о применении искусственного интеллекта для производства убедительных голосовых и видеозаписей. Цифровые личности с поддельной внешностью и голосом находят применение в схемах романтического мошенничества, где злоумышленники месяцами выстраивают доверительные отношения с человеком перед попыткой выманить деньги. Современные генеративные системы заметно сокращают ручную работу и ускоряют запуск подобных кампаний.

На теневых витринах рекламируются продукты, которые по заверениям продавцов умеют самостоятельно собирать вредоносные программы. Такие инструменты вызывают любопытство у новичков без глубоких технических знаний, и опытные участники криминального мира воспринимают эту тенденцию с нескрываемой тревогой за собственное положение.

По данным Sophos, далеко не все представители подпольной экономики встречают эпоху ИИ овациями. В дискуссиях звучат опасения по поводу перераспределения ролей внутри теневого бизнеса. Часть пользователей убеждена, что автоматизированные сервисы обесценивают труд специалистов, годами набивавших руку на ручной разработке зловредного кода.

Преступники по сути столкнулись с тем же набором вопросов, который сейчас обсуждается в легальном ИТ-секторе. Раз нейросеть выполняет часть задач быстрее и дешевле живого человека, возникает резонный вопрос о будущем профессии. На форумах появляются посты, авторы которых открыто говорят о падении спроса на услуги разработчиков вредоносного ПО.

Единства мнений в криминальной среде не наблюдается. Многие скептически относятся к громким заявлениям о революции в области генеративных моделей и сомневаются в нескольких моментах:

• что современные нейросети могут полноценно заменить опытного кодера;
• что автоматика справится со сложными техническими задачами без участия человека;
• что качество автоматически собранных инструментов окажется достаточным для серьёзных атак;
• что вокруг технологий нет искусственно раздутого ажиотажа.

Стоит обратить внимание, что подобные сомнения по структуре полностью повторяют аргументы скептиков ИИ из легальной индустрии разработки, где идут точно такие же споры о пределах автоматизации.

Запуск Claude Mythos Preview от компании Anthropic спровоцировал отдельную волну обсуждений. После публикации сведений о способностях системы обнаруживать уязвимости в защите цифровых ресурсов активность разговоров об искусственном интеллекте на подпольных площадках резко выросла. Новая разработка стала одной из самых горячих тем среди обитателей теневых форумов.

Часть комментаторов отнеслась к новинке с откровенным недоверием. По мнению ряда участников дискуссий, вокруг подобных моделей раздут чрезмерный шум, а реальные возможности заметно уступают ожиданиям рынка. Руководители компаний, как считают эти пользователи, нередко переоценивают и угрозу, и перспективы свежих разработок.

Противоположная позиция тоже хорошо представлена. Другая группа пользователей продолжает беспокоиться о том, как дальнейшее развитие нейросетей перекроит криминальный рынок. Звучат предположения, что массовая автоматизация не только обрушит заработки авторов вредоносного ПО, но и приведёт к снижению качества конечных продуктов из-за наплыва посредственных автоматически сгенерированных инструментов.

Исследователи отмечают, что публичные споры отражают лишь верхушку айсберга. Самые громкие сторонники и противники технологии охотно лезут в дискуссии, тогда как значительная часть злоумышленников предпочитает помалкивать. Вместо публичных дебатов они в тишине проверяют возможности новых систем и изучают практическое применение генеративных моделей на собственных задачах.

Специалисты Sophos напоминают организациям, что зацикливаться исключительно на громких разговорах о нейросетях не стоит. Фундаментальные меры защиты сохраняют свою результативность независимо от моды на ИИ. В отчёте говорится о необходимости:

• своевременной установки обновлений на все компоненты инфраструктуры;
• внедрения многофакторной аутентификации для учётных записей;
• соблюдения качественной парольной политики на всех уровнях;
• мониторинга подозрительной активности внутри корпоративных сетей;
• раннего выявления отклонений до перерастания в крупный инцидент.

Ранее мы писали о том, что компании всё чаще сталкиваются с неожиданно высокими расходами на проекты в сфере искусственного интеллекта. Согласно исследованию Asana, 82% британских ИТ-руководителей за последний год сообщили о непрогнозируемом росте затрат на внедрение и эксплуатацию ИИ-решений. Исследование показало, что проблема затрагивает не отдельные организации, а практически весь корпоративный сектор, который оказался вынужден тратить на искусственный интеллект значительно больше средств, чем планировалось изначально.

Эксперты редакции CISOCLUB уверены, что страхи и одновременный энтузиазм в криминальной среде по поводу ИИ — индикатор глубокой трансформации рынка киберпреступности. Автоматизация снижает порог входа в нелегальный бизнес и одновременно бьёт по доходам тех, кто долго специализировался на ручной работе. Корпоративный сектор должен учитывать обе тенденции, потому что одновременно растёт и масштаб массовых атак, и число малоопытных исполнителей с мощным инструментарием в руках. Гонка вооружений вокруг генеративных моделей продолжит ускоряться, и преимущество получат те защитники, кто внедряет автоматизацию в свои процессы быстрее нападающих. Базовые меры защиты при этом остаются обязательным минимумом, ниже которого опускаться нельзя ни при каких обстоятельствах.