Эксперт предупредил россиян, что хороший дипфейк уже способен обмануть даже внимательного зрителя

Современные технологии генерации видео и аудио подтянули качество подделок настолько, что по одному изображению или голосу бывает почти невозможно понять, настоящая перед человеком запись или искусственная. Заметные артефакты чаще остаются у недорогих фейков, а материалы, созданные с помощью продвинутых платных моделей, могут смотреться совершенно естественно, рассказал Zvezdanews руководитель программы магистратуры «Проектирование и разработка систем ИИ» Университета ИТМО Александр Кугаевских.

При создании качественной подделки используются ресурсы и модели, которые убирают привычные визуальные и звуковые огрехи, пояснил Александр Кугаевских. Ещё недавно дипфейк можно было вычислить почти детективным способом, присмотревшись к лицу, движениям губ или плавности ролика, но теперь такой метод работает прежде всего против простых и дешёвых генераций.

У менее совершенных подделок остаются характерные дефекты, на которые указал Александр Кугаевских:

• мимика слегка расходится с произносимыми словами;
• изображение иногда воспроизводится с небольшими рывками;
• повторяющиеся разрывы видеосигнала появляются примерно каждые пять-семь кадров;
• сгенерированная речь внезапно прерывается, отстаёт от изображения или звучит менее естественно;
• заметны необычные паузы и сбои при переходе между словами.

Превращать поиск таких артефактов в универсальный тест уже не получается, потому что чем качественнее исходник и совершеннее инструменты, тем меньше зацепок. Когда подделку делали не на скорую руку в случайном бесплатном сервисе, а на мощных платных моделях, обычный зритель может не найти ничего странного ни в лице, ни в голосе, ни в движениях, и привычное правило «если лицо не плывёт и губы двигаются правильно, значит видео настоящее» перестаёт работать.

Отсутствие заметных артефактов больше не доказывает подлинность записи, а качество изображения и звука само по себе стало слабым аргументом. Если серьёзное решение принимается по видеозвонку, голосовому сообщению или записи, одной визуальной проверки может не хватить, тем более когда материал используется для подтверждения личности или передачи распоряжений. Дешёвые дипфейки пока оставляют цифровые следы вроде рывков изображения, странной мимики, рассинхрона голоса и движений или неестественных пауз, но по мере развития моделей даже эти ориентиры становятся всё менее заметными.

Ранее сообщалось, что мошенники прячут трояны под видом обновлений «Госуслуг» и ЕМИАС. IT-эксперт Александр Токаренко отметил, что вредонос добирается до банковских сервисов и аккаунта на «Госуслугах», а украденный доступ используют для кредитов.