Россиян предупредили о мошенниках, которые клонируют голоса детей

Мошенники всё активнее используют искусственный интеллект для обмана детей и родителей, создавая поддельные голосовые и видеосообщения. С помощью пары материалов из соцсетей преступники способны сымитировать ребёнка, а затем позвонить родителям с рассказом о срочной проблеме и выманить деньги. Об этом «Известиям» рассказал руководитель группы мониторинга и реагирования SOC UserGate Factor Иван Костыря.

По словам Костыри, ИИ заметно упростил работу злоумышленникам — нейросети помогают создавать убедительные письма, генерировать вредоносный код и автоматизировать рутинные действия во время атак.

Фишинговые сообщения при этом стали гораздо аккуратнее — ошибки и неуклюжая вёрстка, по которым раньше можно было быстро вычислить подделку, встречаются реже. ИИ позволяет массово создавать сообщения на разных языках и подстраивать их под конкретную аудиторию.

Привлекательной целью остаётся школьная тематика. В начале учебного года родители получают массу сообщений о классах, расписании, дневниках, оплате питания и других школьных делах, поэтому письмо якобы от учителя или администрации редко вызывает подозрения.

Злоумышленники способны сгенерировать сообщение в нужном стиле, добавить имя родителя или ребёнка и указать класс, если эти сведения уже попали в открытый доступ или утекли из какого-либо сервиса:

• жертву отправляют на поддельную страницу входа в электронный дневник;
• или на фальшивую форму оплаты школьных услуг;
• целью становятся логины, пароли и платёжные данные.

Иногда достаточно заставить родителя один раз перейти по ссылке и ввести данные, чтобы школьное уведомление превратилось в полноценную фишинговую атаку.

Отдельная проблема — подделка голоса и изображения. Мошенники уже используют клонирование голоса ребёнка, чтобы позвонить родителям с просьбой срочно перевести деньги из-за якобы возникших неприятностей.

Для такой атаки не нужна длинная и безупречная запись. Мошенникам хватает короткого фрагмента, который вызывает сильную эмоциональную реакцию и не оставляет времени спокойно проверить информацию.

Дипфейки способны использоваться и против школьников — становиться инструментом травли или вымогательства, а сгенерированные материалы способны разойтись среди одноклассников. Опасность постепенно перемещается и в школьные мессенджеры, где боты маскируются под одноклассников или родителей, собирают ссылки и данные, а затем используют их для новых атак.

Отдельный риск — сервисы, которые предлагают детям решить домашнее задание с помощью нейросети. Внешне они выглядят как обычные учебные помощники, но за оболочкой иногда скрываются фишинговые страницы или программы для кражи паролей.

Костыря отметил, что школьники здесь оказываются и жертвами, и источником материала для дипфейков сразу — чем больше ребёнок публикует фото, видео и голосовых сообщений, тем больше данных получают злоумышленники.

ИИ в этом сюжете не изобрёл мошенничество с нуля. Он выдал старым схемам ускоритель — письмо можно сделать грамотнее, подделку собрать быстрее, а голос знакомого человека сымитировать достаточно убедительно, чтобы на несколько секунд заставить родителя забыть о здравом смысле.

Ранее сообщалось, что снизить риск кибербуллинга помогает осторожность с личными данными в сети и правильная реакция на начавшийся конфликт.