Новая ИИ-модель Lovable AI оказалась находкой для хакеров и интернет-мошенников
изображение: recraft
Платформа Lovable, работающая на базе генеративного искусственного интеллекта, привлекла внимание специалистов в сфере кибербезопасности. Этот сервис позволяет разрабатывать полноценные веб-приложения, ориентируясь всего лишь на текстовое описание задачи. Простота и мощность сервиса сделали его привлекательным инструментом в арсенале злоумышленников, осваивающих приёмы социальной инженерии и создания фальшивых сайтов.
Исследователь Нати Тал из Guardio Labs сообщил изданию The Hacker News, что возможности Lovable вызывают серьёзные опасения. Он отметил, что инструмент не ограничивает действия пользователя и может использоваться для создания поддельных страниц с точной визуальной копией оригинала. При этом платформа предоставляет всё необходимое: размещение, способы обхода систем защиты и даже административную панель для управления похищенной информацией.
В отчёте указывается, что техника получила название VibeScamming — от термина «vibe-кодирование». Так обозначают способ, при котором достаточно описать намерения в нескольких предложениях, чтобы получить программный продукт на выходе. Этот метод опирается на возможности больших языковых моделей, заточенных под генерацию кода.
Применение языковых моделей и ИИ-ботов в целях, выходящих за рамки этики и закона, наблюдается не впервые. За последние недели аналитики зафиксировали случаи, когда подобные платформы — в том числе ChatGPT от OpenAI и Gemini от Google — использовались для разработки вредоносного программного обеспечения, сбора информации и написания текстов с сомнительным содержанием.
Исследования также показали, что модели вроде DeepSeek подвержены так называемым атакам с подсказками. Речь идёт о приёмах, получивших названия Bad Likert Judge, Crescendo и Deceptive Delight. С их помощью можно обойти внутренние фильтры и барьеры, встроенные в модели, и получить на выходе материалы, нарушающие правила: от фишинговых писем до программ-шпионов и вымогательского софта. В отдельных случаях для этого требуются дополнительные уточнения и отладка.
Кроме того, в прошлом месяце специалисты компании Symantec, входящей в состав Broadcom, опубликовали анализ, в котором подробно разобрали, как инструмент Operator от OpenAI может быть использован в недобросовестных целях. Это агент, работающий на базе ИИ и способный выполнять действия в интернете от имени пользователя. По словам экспертов, его можно задействовать для сбора адресов электронной почты, генерации скриптов PowerShell, извлекающих системную информацию и сохраняющих её в облаке, а затем — для подготовки рассылки, призванной побудить получателей запустить вредоносный код.
