Эксперт рассказал россиянам, как распознать дипфейк собеседника на видеозвонке
изображение: grok
Видеозвонок с хорошо знакомым человеком больше не гарантирует, что на экране действительно он. Нейросети умеют подменять лицо и голос собеседника в реальном времени, а раскрыть подделку помогают мелкие детали вроде странного моргания, неестественных движений губ или слишком гладкой кожи. Об этом рассказал RT Никита Карагодин из НИУ ВШЭ.
Первый сигнал стоит искать в районе рта — если движения губ заметно расходятся с произносимой речью, перед пользователем, скорее всего, не живой человек, а сгенерированное изображение, синхронизировать которое со звуком нейросетям удаётся не всегда. Никита Карагодин, преподаватель онлайн-магистратуры «Искусственный интеллект» ФКН НИУ ВШЭ и ML-инженер команды речевых технологий SberDevices, обратил внимание и на другие визуальные странности:
- слишком гладкая кожа без обычных неровностей;
- размытые или неестественные контуры волос;
- необычная частота моргания, слишком редкого или частого;
- мелкие сбои вокруг лица при резком движении.
Есть и простой способ проверить собеседника прямо во время разговора — попросить его резко повернуть голову или сделать любое непредусмотренное движение.
По словам Никиты Карагодина, многие модели не успевают перестроить изображение под такое действие, из-за чего на лице появляются визуальные сбои. Если человек хорошо знаком, ещё надёжнее работает личный вопрос, ответ на который знают только два участника разговора — скопировать внешность нейросеть уже научилась, а общее прошлое двух людей повторить ей заметно сложнее.
Отдельная головоломка — голос. Синтез речи ушёл далеко вперёд, и одного ощущения, что голос звучит «как настоящий», уже недостаточно. Нейросеть способна точно скопировать тембр знакомого человека, но с его манерой говорить справляется хуже — насторожить способны металлический оттенок, неправильное произношение слов, смещённые ударения и подозрительно ровная интонация, будто человек читает заранее подготовленный текст.
Живая речь редко бывает стерильной — в ней есть паузы, заминки и слова-паразиты, которых в синтезированном голосе часто не хватает.
Если возникает ощущение, что собеседник выглядит или звучит как-то не так, переигрывать мошенника самостоятельно не стоит. Никита Карагодин советует не передавать персональные данные и любую информацию, которую можно использовать против аккаунта или денег, контакт прекратить, а переписку, скриншоты и запись звонка сохранить — они пригодятся при обращении в поддержку сервиса или в полицию, если дошло до попытки хищения.
У дипфейков есть и другая сторона — жертвой способен оказаться не только тот, кому звонит мошенник, но и человек, чью внешность или голос преступники решили позаимствовать. Уменьшить количество материала для будущей подделки реально — стоит ограничивать открытый доступ к личным фото и видео в соцсетях и не передавать незнакомцам чувствительные данные.
Универсального признака дипфейка не существует — полезнее оценивать изображение и звук в комплексе. Если одновременно странно двигаются губы, кожа выглядит слишком гладкой, голос звучит механически, а собеседник говорит непривычно ровно и без обычных пауз, лучше сделать паузу и проверить, кто на самом деле на другом конце связи.
Ранее мы писали об уловке, где мошенники пугают россиян сообщениями о подозрительных людях у подъезда и подсовывают вредоносные файлы под видом записи с камеры.
