Российских пользователей предупредили о вероятном росте мошенничества с применением ИИ
Изображение: Zac Wolff (unsplash)
Технологический прогресс в сфере искусственного интеллекта открывает не только новые возможности, но и создаёт серьёзные угрозы. Появление таких продвинутых моделей, как китайская OmniHuman-1, способных генерировать реалистичные видеоизображения, может привести к всплеску мошеннических схем, основанных на дипфейках.
Об этом предупредил технический лидер направления антиспуфинга MTS AI Станислав Приходько, сообщают РИА Новости.
ByteDance, известная прежде всего благодаря социальной сети TikTok, представила новую ИИ-систему OmniHuman-1, способную создавать высококачественные дипфейк-видео. Эксперт отметил, что подобные технологии значительно повышают риски для частных пользователей и корпоративных клиентов.
Возможности искусственного интеллекта позволяют воспроизводить движения, мимику и голос с такой точностью, что даже современные инструменты для распознавания фальсификаций могут оказаться неэффективными.
Одним из главных преимуществ OmniHuman-1 является способность создавать видеоролики всего на основе одной фотографии и качественной аудиодорожки.
На демонстрации работы системы были показаны впечатляющие примеры: американская певица Тейлор Свифт, исполняющая песню на японском языке, и физик Альберт Эйнштейн, читающий лекцию. По словам Станислава Приходько, подобные технологии создают беспрецедентные возможности для злоумышленников, позволяя им обманывать жертв с помощью убедительных подделок.
Помимо визуальных фальсификаций, стремительно развивается и технология создания поддельных голосов. Для её работы достаточно всего нескольких секунд аудиозаписи, после чего нейросеть способна точно воспроизвести интонации и тембр оригинального голоса.
Как пояснил эксперт, генерация звуковых подделок технически проще, чем воссоздание реалистичной мимики, однако и та, и другая технологии продолжают совершенствоваться. Чем выше вычислительная мощность алгоритмов, тем сложнее отличить подделку от реального видео.
Как отметил Станислав Приходько, уже в 2025 году можно ожидать, что специализированное программное обеспечение позволит генерировать дипфейки в режиме реального времени. Причём подобные атаки фиксируются не только за рубежом, но и в России. Злоумышленники активно используют новые технологии для телефонного и видеомошенничества, направленного на хищение крупных денежных сумм. Взломщики могут убеждать пользователей перевести средства или раскрыть конфиденциальные данные, подделывая голоса их знакомых или руководителей.
