Microsoft подала в суд на хакеров, использовавших Azure AI для генерации вредоносного контента
Image: Matthew Manuel (unsplash)
Корпорация Microsoft инициировала судебное разбирательство против группы злоумышленников, организовавших нелегальную платформу по обходу систем защиты её облачных сервисов. По данным подразделения DCU, отвечающего за борьбу с цифровыми преступлениями, неизвестные разработали сложное программное обеспечение, которое опиралось на скомпрометированные учётные данные пользователей, собранные с открытых источников.
С его помощью они осуществляли подбор данных для входа, стараясь получить несанкционированный доступ к генеративным ИИ-сервисам, а также намеренно вносили в них изменения.
По информации компании, эти технологии применялись в теневом сегменте рынка для создания вредоносных материалов. Группа монетизировала разработку, предоставляя доступ посторонним лицам и снабжая их детальными инструкциями по эксплуатации инструментов для генерации запрещённого контента. В Microsoft уточнили, что впервые зафиксировали подобную деятельность летом 2024 года.
После обнаружения угрозы корпорация заблокировала доступ хакеров к своим сервисам, усилила механизмы защиты и ввела дополнительные меры, предотвращающие повторение подобных атак. Также удалось добиться судебного постановления о конфискации домена, использовавшегося в преступных схемах.
Развитие генеративного ИИ открывает новые возможности не только для бизнеса, но и для преступного мира. Эксперты Microsoft подчёркивают, что злоумышленники активно адаптируют современные технологии под свои задачи, от манипуляции информацией до автоматизации кибератак. Аналитики уже фиксировали попытки представителей хакерских сообществ из Китая, Ирана, Северной Кореи и России использовать ИИ-инструменты для разведки, перевода документов и распространения дезинформации.
В материалах суда указано, что в организации схемы участвовало не менее трёх человек, использовавших похищенные API-ключи Azure и данные идентификации клиентов Entra ID для доступа к сервисам Microsoft. В том числе они генерировали изображения, нарушающие правила допустимого использования DALL-E. Кроме того, было выявлено ещё семь участников, которые применяли полученные инструменты в аналогичных целях.
В Microsoft отметили, что похищенные API-ключи, принадлежащие американским пользователям облачных сервисов, позволили злоумышленникам создать платформу «взлом как услуга». Её инфраструктура базировалась на доменах «rentry.org/de3u» и «aitism.net» и была настроена специально для эксплуатации возможностей облачного хостинга корпорации.
