Вежливые ИИ-боты обманывают людей в соцсетях заметно чаще агрессивных троллей

Юзеры соцсетей выявляют ботов на базе ИИ лишь в 40% случаев, с остальными алгоритм легко сходит за живого человека. Такой вывод сделали аналитики Surfshark после эксперимента с 1722 участниками из разных стран, которым показывали комментарии в стилизованной соцсети и просили угадать, кто их написал. Самыми правдоподобными оказались не токсичные тролли, а вежливые и спокойные собеседники, которые просто поддакивают и ведут диалог.

В среднем участники ошибались чаще, чем угадывали правильно, пропуская шесть ботов из десяти. Агрессивные аккаунты с провокационными репликами спалили в 50,2% случаев, а стоило боту перейти на дружелюбный тон и начать соглашаться с собеседником, точность падала до 38%.

Из результатов эксперимента можно выделить несколько цифр:

• боты в целом оставались нераспознанными в 60% случаев;
• агрессивные и токсичные аккаунты вычисляли в 50,2% случаев;
• дружелюбные и спокойные боты спалили лишь в 38% случаев;
• позитивные боты на теме миграции оказались самыми сложными для обнаружения среди всех условий эксперимента.

Чем серьёзнее тема разговора, тем хуже люди отличают человека от программы. В лёгких спорах вроде вечного холивара про ананас на пицце ботов вычисляли без особых проблем, а вот при переходе к правам женщин или миграции точность заметно снижалась. Пользователи одновременно пропускали больше ботов и чаще принимали настоящих людей за автоматизированные аккаунты.

Похожая динамика заметна и в русскоязычном сегменте. Боты в Telegram и ВКонтакте тоже подстраиваются под тему разговора и звучат вполне по-человечески в спорных ветках комментариев.

Самым надёжным маркером ИИ оказались вовсе не логические ошибки и не странные обороты речи, а эмодзи. Боты, которые активно лепили смайлики, спалили больше чем в 60% случаев, а вот тексты почти без эмодзи проходили проверку куда спокойнее, их вычисляли примерно в 35% случаев.

Отказ от эмодзи почти вдвое повышает шансы бота остаться незамеченным, хотя интуитивно кажется, что смайлики должны выдавать машину быстрее, а не наоборот.

В Surfshark посчитали, что дружелюбные ИИ-аккаунты создают куда больше рисков для приватности пользователей, чем привычные тролли. Когда собеседник производит впечатление разумного и спокойного человека, люди охотнее продолжают переписку, переходят в личные сообщения, делятся контактами или кликают по ссылкам, которые советует незнакомый аккаунт.

Для русскоязычных пользователей риски ничуть не меньше. Мошеннические связки в Telegram и ВКонтакте нередко строятся по такой же схеме, от вежливого диалога до просьбы перейти по ссылке или скинуть код из смс.

Уточняется, что подобные аккаунты годятся не только под мошенничество, но и под скрытые кампании по формированию общественного мнения, когда десятки ботов массово поддерживают одну и ту же позицию и создают иллюзию большинства.

Возраст участников сильно влиял на результаты. Молодые пользователи справлялись заметно лучше, а вот люди старше 50 лет чаще путали ИИ с человеком и наоборот. Привычки использования соцсетей тоже сказывались на итоге:

• пользователи младше 30 лет распознавали ботов заметно лучше остальных групп;
• люди старше 50 лет чаще всего путали ИИ с живым собеседником;
• активные юзеры соцсетей вычисляли примерно половину ботов;
• те, кто почти не сидит в соцсетях, замечали лишь треть автоматизированных аккаунтов.

Точность также отличалась по площадкам. Пользователи Threads (социальная сеть, принадлежащая запрещённой в России и признанной экстремистской американской корпорации Meta) показали лучший результат, хотя выборка там была небольшой, следом расположился X. Хуже всего боты вычислялись на TikTok и Facebook (социальная сеть, принадлежащая запрещённой в России и признанной экстремистской американской корпорации Meta), что исследователи связали с визуальным форматом контента, который оставляет меньше текстовых подсказок.

Рост числа ИИ-ботов подтверждают и более широкие отраслевые данные:

• автоматизированный трафик впервые превысил человеческий и составил 51% всего веб-трафика по данным Imperva Bad Bot Report 2025;
• из этого объёма 37% приходится на вредоносных ботов, это максимум за все годы наблюдений;
• по данным Thales, объём AI-driven бот-трафика за 2025 год вырос почти вдвое;
• больше половины организаций столкнулись с атаками, где использовались генеративные модели для обхода защиты.

Специалисты отметили, что боты давно ушли от топорных схем, которые раньше вычисляли с первого взгляда:

• старые боты публиковали однотипные посты и спамили ссылками;
• новые версии поддерживают контекст беседы на несколько реплик вперёд;
• алгоритм умеет соглашаться с собеседником и менять тон под ситуацию;
• отдельные боты подстраивают лексику под конкретную тему обсуждения.

Главным выводом исследователи Surfshark назвали не низкую точность пользователей, а смену самой стратегии ботов. Самыми убедительными становятся не громкие тролли, а максимально вежливые и ничем не выделяющиеся собеседники, которых большинство воспринимает как обычных участников дискуссии.

В CISOCLUB отметили, что рост числа дружелюбных ИИ-аккаунтов недооценивать не стоит, потому что такие боты работают на доверие, а не на конфликт. Схема с постепенным вовлечением в переписку остаётся рабочей, потому что жертва сама не замечает момент, когда обычный диалог превращается в атаку. Лучшей защитой для рядового пользователя остаётся не оценка тона переписки, а банальная проверка ссылок, номеров счетов и обещаний, которые звучат слишком выгодно.

Спокойный и грамотный собеседник вполне может оказаться скриптом, если разговор быстро сворачивает к деньгам, инвестициям или переходу на другую платформу. В любой соцсети стоит относиться к незнакомым аккаунтам с одинаковой долей осторожности, вне зависимости от того, насколько вежливо и логично они пишут. Простым, но рабочим способом снизить шанс попасться на удочку бота остаётся регулярная проверка профиля и ленты публикаций подозрительного аккаунта.

Ранее сообщалось, что пользователи всё чаще сталкиваются в интернете с утечками персональных данных, потоком низкокачественного ИИ-контента и проблемой определения того, какие материалы созданы людьми, а какие сгенерированы машинами. Исследование Incogni показало, что 63% пользователей опасаются утечки своих данных, а 48% уже не всегда понимают, что в сети является настоящим, а что создано ИИ. При этом доля бот-трафика впервые превысила человеческий и составила 57% против 43%. Ещё несколько лет назад пользователи соглашались на cookies, рекламу и сбор данных в обмен на информацию, общение и развлечения, тогда как теперь такое взаимодействие воспринимается менее выгодным.

Facebook — социальная сеть, принадлежащая запрещённой в России и признанной экстремистской американской корпорации Meta.