Видеодипфейки позволяют мошенникам выдавать себя за директоров и похищать деньги компаний

Поддельные видеоролики и трансляции с участием сгенерированных ИИ людей становятся новым инструментом финансового мошенничества, ведь злоумышленники копируют внешность руководителей организаций, чтобы убедить сотрудников перевести крупные суммы, а обычных пользователей атакуют фальшивыми видеосообщениями и инвестиционными предложениями. Даже автоматические системы распознавания дипфейков не гарантируют полной защиты от обмана, рассказал «Известиям» руководитель направления исследования данных «Лаборатории Касперского» Дмитрий Аникин.

Для коммерческих организаций самая серьёзная опасность связана с подменой руководителей при денежных операциях, потому что преступники используют искусственные изображения и видеозаписи, чтобы представиться директором или другим сотрудником с нужными полномочиями, и, получив убедительное подтверждение личности, работники могут выполнить распоряжение о переводе значительных сумм на подконтрольные аферистам счета.

По словам Дмитрия Аникина, уже известны крупные случаи, когда преступники применяли такую имитацию для незаконного получения корпоративных средств, а для частных лиц угрозы не ограничиваются переводами, ведь поддельные ролики могут распространять ложные сведения, рекламировать сомнительные инвестиционные проекты или приходить короткими видеосообщениями в мессенджерах, и пользователь получает привычный формат общения, хотя изображение человека на экране может быть полностью искусственным.

Для выявления подделок специалисты применяют такие инструменты:

• алгоритмы машинного обучения, которые анализируют визуальные черты видеозаписей;
• изучение метаданных файлов, где могут быть сведения о происхождении и обработке материала.

Эти инструменты помогают находить признаки искусственной генерации, но абсолютной гарантии достоверности не дают, и Дмитрий Аникин считает ошибкой полагаться только на программные средства проверки, ведь для защиты от подмены личности нужны не только возможности алгоритмов, но и правила принятия решений в организациях, например внутренние процедуры подтверждения финансовых распоряжений, чтобы одного видеозвонка или сообщения от якобы руководителя не хватало для отправки крупной суммы.

Отдельная техническая задача — распознавание подмены прямо во время видеозвонка, и принципиальной разницы между анализом заранее записанного ролика и прямой трансляции для алгоритмов нет, ведь в обоих случаях ПО получает видеоданные и ищет признаки искусственного происхождения изображения, но в видеосвязи возникают новые сложности, потому что проверяющую систему нужно встроить в процесс общения, а значит, она получает доступ к информации, которая может быть конфиденциальной, и это требует внимания к правилам обработки пользовательских данных и защите приватности участников разговора.

Развитие средств распознавания дипфейков должно идти вместе с совершенствованием корпоративных процедур и механизмов информационной безопасности, ведь даже сильный детектор не заменит подтверждения личности, если собеседник требует срочно перевести деньги или выполнить необычное распоряжение, и в эпоху искусственных двойников проверка того, кто находится по другую сторону экрана, не менее нужна, чем проверка самого содержания сообщения.