Microsoft разоблачила хакеров, использующих ИИ для обхода защитных механизмов
Изображение: recraft
Компания Microsoft выявила хакеров, проживающих в США и ряде других стран, которые находили способы обхода защитных механизмов в генеративных системах искусственного интеллекта. Они использовали уязвимости в сервисах, в том числе в Azure OpenAI, чтобы создавать и распространять запрещённый контент, в том числе интимные изображения знаменитостей без их согласия и другие материалы откровенного характера.
По данным Microsoft, злоумышленники похищали данные пользователей, извлекая их из открытых источников, а затем применяли эти сведения для получения доступа к облачным платформам, использующим модели OpenAI. В дальнейшем они модифицировали функционал ИИ-инструментов и продавали доступ к ним другим преступным группировкам, снабжая их инструкциями по созданию вредоносного контента.
В корпорации отметили, что выявленные хакеры действуют в Иране, Великобритании, Гонконге и Вьетнаме. Microsoft связывает их с международной киберпреступной сетью, которую обозначает как Storm-2139.
Кроме того, двое злоумышленников находятся во Флориде и Иллинойсе, однако их личности не раскрываются в интересах следствия. Компания уже подготовила материалы для передачи в правоохранительные органы США и других государств.
Расследование проводится на фоне роста популярности генеративного ИИ и опасений, связанных с его использованием для создания незаконного контента, в том числе фальшивых изображений известных личностей и материалов, пропагандирующих сексуальное насилие.
Microsoft и OpenAI запрещают подобные действия и внедряют технологии для их предотвращения, однако преступные группировки продолжают искать лазейки для несанкционированного доступа.
Стивен Масада, занимающий должность помощника генерального юрисконсульта в подразделении Microsoft по борьбе с цифровыми преступлениями, подчеркнул, что компания осознаёт серьёзность последствий распространения подобных материалов для пострадавших. Он отметил, что Microsoft продолжит внедрять усиленные меры безопасности, чтобы защитить пользователей и предотвратить распространение запрещённого контента в своих сервисах.
