Матвиенко предупредила, что мошенники активно используют ИИ против молодёжи
Изображение: Thomas Park (unsplash)
Искусственный интеллект превращается в инструмент в руках мошенников, которые применяют современные технологии для обмана граждан и вовлечения молодых людей в противоправную деятельность. Об этом председатель Совета Федерации Валентина Матвиенко заявила «НЬЮМ ТАСС» на полях Петербургского международного экономического форума. Особую обеспокоенность вызывает уязвимость детей и подростков.
Молодому поколению необходимо понимать, что нейросетевые технологии сегодня применяются не только в образовании, бизнесе и науке, но и в преступной среде. Современные алгоритмы позволяют злоумышленникам создавать более убедительные мошеннические схемы, вводить людей в заблуждение и похищать денежные средства.
Председатель Совета Федерации отметила, что искусственный интеллект используется преступниками для обмана граждан, кражи денежных средств и психологического воздействия на людей. Подобные технологии применяются для вовлечения молодёжи в незаконные действия, а дети и подростки нередко оказываются наиболее уязвимой категорией пользователей.
Часть молодых пользователей поддаётся подобному влиянию, не всегда осознавая реальные последствия своих действий. Поэтому особое значение приобретает системная разъяснительная работа, направленная на повышение цифровой грамотности и понимания принципов работы современных мошеннических схем.
Молодым людям требуется объяснять не только возможности искусственного интеллекта, но и потенциальные риски его использования. Необходимо понимать, как взаимодействовать с подобными технологиями, какие угрозы скрываются за убедительными сообщениями или видеозаписями и почему нельзя безоговорочно доверять информации, созданной с помощью ИИ.
Преступники применяют ИИ в нескольких направлениях:
- генерация убедительных сообщений от имени банков и государственных органов;
- синтез речи для имитации голосов родственников и руководителей;
- создание дипфейк-видео для подтверждения личности «сотрудников» компаний;
- персонализация атак на основе данных из утечек и социальных сетей;
- автоматизация массовых фишинговых рассылок.
Раньше мошеннические звонки распознавались по шаблонным фразам или явным ошибкам, а современные нейросетевые технологии позволяют преступникам создавать персонализированные обращения с учётом конкретных данных о потенциальной жертве. Подобные инструменты значительно повышают эффективность методов социальной инженерии.
Валентина Матвиенко также сообщила, что законопроект о государственном регулировании искусственного интеллекта, проходящий общественное обсуждение, может быть принят в ближайшее время. Развитие технологий требует формирования соответствующей нормативной базы, которая будет учитывать как преимущества ИИ, так и связанные с ним риски.
