«Лаборатория Касперского» нашла в даркнете 3000 сообщений с обсуждением чат-ботов на основе нейросетей
Изображение: Om siva Prakash (unsplash)
В теневом сегменте интернета специалисты «Лаборатории Касперского» обнаружили свыше 3000 сообщений, которые касались применения чат-ботов, функционирующих на базе искусственного интеллекта. Информацию об этом распространили представители команды Kaspersky Digital Footprint Intelligence.
Аналитики «Лаборатории Касперского» провели тщательный анализ сообщений в теневом сегменте интернета, которые были посвящены использованию хакерами чат-бота ChatGPT и других аналогичных решений, основанных на больших языковых моделях. Исследование показало, что в 2023 году в даркнете и на специализированных Telegram-каналах было зафиксировано примерно 2890 постов на эту тему, причём максимальный пик активности злоумышленников по теме чат-бота ChatGPT и его аналогов пришёлся на апрель того же года. В этот период эксперты «Лаборатории Касперского» отметили 509 сообщений.
Среди наиболее обсуждаемых тем злоумышленниками выделялись так называемые джейлбрейки. Это специальные наборы команд, расширять функциональные возможности чат-ботов, позволяя большим языковым моделям выдавать в том числе запрещенную информацию. Так, за прошедший 2023 год аналитики «Лаборатории Касперского» обнаружили 249 предложений, касающихся распространения и реализации подобных команд.
Кроме того, в течение 2023 года киберпреступники и пользователи специализированных форумов теневого сегмента интернета активно обменивались разнообразными способами применения языковых моделей. Целью таких обменов было усовершенствование вредоносного ПО и повышение эффективности хакерских атак. Например, специалисты «Лаборатории Касперского» обнаружили сообщения, в которых обсуждалось программное обеспечение для операторов вредоносных программ. Это ПО использовало нейросетевые технологии для обеспечения безопасности операторов и автоматического переключения доменов, чтобы избежать перекрытия.
Важно отметить, что в 2023 году «Лаборатории Касперского» также зафиксировала активное распространение так называемых аналогов ChatGPT. Были созданы и представлены проекты, такие как WormGPT, XXXGPT, FraudGPT, которые позиционировались как альтернативы популярным языковым моделям, но с расширенными функциональными возможностями и снятыми ограничениями.
