«Лаборатория Касперского»: нейросети выдают хакеров, которые ими пользуются
Изображение: Om siva Prakash (unsplash)
Эксперты по кибербезопасности «Лаборатории Касперского» провели анализ выявленных специалистами фишинговых и мошеннических ресурсов и обнаружили, какие артефакты оставляют популярные большие языковые модели на поддельных веб-страницах. Разговор в этом случае идёт о признаках, которые указывают, что фейковый ресурс создан хакерами с использованием инструментов на базе ИИ.
В лаборатории Касперского заявляют, что присутствие подобных маркеров объясняется прежде всего развитием защитных механизмов ИИ-решений, автоматизацией процесса разработки фишинговых ресурсов и сравнительно малым уровнем технических навыков многих хакеров.
Эксперты по кибербезопасности заявляют, что на поддельных сайтах часто встречаются фразы о том, что большая языковая модель не способна выполнить те или иные запросы. Это является одним из наиболее чётких признаков использования нейросетей киберпреступниками.
Помимо этого, большие языковые модели часто обладают предпочтениями по определённым словам. К примеру, нейросети от компании OpenAI часто применяют слово delve (переводится как — погружаться, вникать во что-то). Также ИИ-модели в своих текстах часто применяют стандартные конструкции, например in the ever-evolving/ever-changing world/landscape (в изменчивом/развивающемся мире/ландшафте).
При этом в лаборатории Касперского указывают на то, что артефакты могут присутствовать не только в текстовых данных, но и в мета-тегах, элементах кода, который содержит сведения о сайте. В них также часто бывают характерные фразы с извинениями нейросети в ответ на запрос или иные маркеры.
Глава группы исследований и разработки технологий машинного обучения «Лаборатории Касперского» Владислав Тушканов рассказал, что хакеры активно применяют в последние годы большие языковые модели в различных сценариях автоматизации, но при исследовании кибератак можно обнаружить, что они часто допускают ошибки. Подход, который базируется на установлении фейковой страницы по наличию тех или иных маркеров нейросетей, не является на данный момент надёжным. В связи с этим пользователям необходимо максимально внимательно относиться к любой информации в интернете, обращая внимание на подозрительные признаки, к примеру, на ошибки в логике повествования или опечатки.
