Россиянам рассказали, как расширение браузера может незаметно переписать запрос к нейросети
изображение: grok
Обычное расширение браузера способно изменить запрос к нейросети до того, как он дойдёт до ИИ-модели. Схема называется Man-in-the-Prompt, и при ней дополнение читает введённый текст, дописывает собственные инструкции или подменяет содержимое. Об этом «Газете.Ru» рассказала специалист по информационной безопасности компании «Киберпротект» Екатерина Киприянова.
Пользователь при этом остаётся на настоящем сайте ИИ-сервиса, страница привычная, запрос уходит, ответ приходит как обычно, так что заметить вмешательство самому непросто. Киприянова пояснила, что расширению хватает разрешения на работу с содержимым страниц, после чего оно читает запрос и незаметно правит его перед отправкой модели. В итоге нейросеть может выдать ответ с подставленной ссылкой или добавить сведения, о которых человек не спрашивал. Взламывать сам ИИ-сервис для этого не нужно, проблема сидит на компьютере пользователя, если расширение получило слишком широкие права.
Другая угроза связана с утечкой. Если в запрос вставлены фрагменты документов, переписки или код, расширение с нужными правами получит к ним доступ. Последствия проявляются позже, когда:
- непроверенная ссылка уходит коллегам;
- ошибочная инструкция попадает в рабочий документ;
- небезопасный фрагмент кода оказывается внутри программного продукта;
Риск растёт при работе с ИИ-агентами, ведь такой инструмент в отличие от обычного чат-бота работает с файлами, почтой и другими сервисами, а порой действует от имени пользователя. Подменённая инструкция грозит последствиями далеко за пределами текста в окне чата.
Киприянова порекомендовала начать с проверки расширений в рабочем браузере, лишние удалить, а у оставшихся изучить список разрешений. Если простое дополнение требует доступа ко всем посещаемым сайтам, стоит выяснить, зачем ему такие широкие права. В запросы к нейросетям не стоит без нужды добавлять персональные и конфиденциальные сведения, а ссылки, код и рабочие инструкции от ИИ лучше проверять перед использованием, если нейросеть имеет доступ к корпоративным данным или может действовать сама.
Ранее сообщалось, что мошенники создают фейковые магазины с заниженными ценами и через поддельные страницы оплаты доставки выманивают данные карт, а вместе с ними CVV и код из СМС.
