AU10TIX: синтетические селфи с использованием искусственного интеллекта становятся новой формой мошенничества

В своём новом отчёте компания AU10TIX рассказала, что злоумышленники активно создают синтетические селфи с использованием искусственного интеллекта, которые становятся новой популярной формой мошенничества. Развитие подобных технологий представляет собой тревожный сдвиг, поскольку проверка селфи исторически была одним из наименее используемых методов мошенничества.

Мошенники теперь создают полностью синтетические «селфи», которые могут обходить автоматизированные системы проверки личности, что знаменует собой значительную эволюцию в методах мошенничества с идентификацией, согласно новому исследованию AU10TIX, глобального поставщика услуг проверки личности.

Исследование показало, что количество атак автоматизированных ботов, нацеленных на платформы социальных сетей, резко возросло в третьем квартале 2024 года, составив 28% всех атак по сравнению с 3% в первом квартале. Многие из этих атак включали в себя передовые рандомизированные генеративные элементы ИИ для избежания обнаружения, особенно в попытках создания поддельных аккаунтов в социальных сетях в больших масштабах перед президентскими выборами в США.

При этом уточняется, что в секторе платежей уровень мошенничества снизился с 52% до 39% по сравнению с предыдущим кварталом. Мошенники переключили своё внимание на менее регулируемые отрасли, и на рынок криптовалют пришлось 31% атак в третьем квартале. Исследование также выявило 20%-ное увеличение атак «шаблонов изображений», когда преступники используют ИИ для быстрого создания вариаций синтетических идентификаторов.

«Мошенники развиваются быстрее, чем когда-либо, используя ИИ для масштабирования и осуществления своих атак, особенно в секторах социальных сетей и платежей. В то время как компании используют ИИ для усиления безопасности, преступники используют ту же технологию в качестве оружия для создания синтетических селфи и поддельных документов, что делает обнаружение практически невозможным», — заявил Дэн Йерушалми, генеральный директор AU10TIX.

Полная версия отчёта представлена по ссылке.