Университет Бари: ИИ помогает пользователям точнее распознавать фишинговые письма, но сложные методы обучения не всегда эффективнее простых
Изображение: recraft
Фишинг по-прежнему остаётся одним из самых распространённых и эффективных инструментов кибератак, поэтому любая возможность усилить защиту пользователей вызывает интерес у исследователей. В новом исследовательском проекте Университета Бари был проверен потенциал обучения на основе генеративного ИИ, в частности, с использованием больших языковых моделей (LLM), для повышения устойчивости к фишинговым атакам.
Авторы работы изучили, может ли адаптированный ИИ-контент повысить способность людей отличать вредоносные письма от безопасных.
В рамках двух контролируемых экспериментов с участием 480 человек были протестированы различные методы подачи обучающего материала. Во всех случаях содержание генерировалось с использованием языковой модели и включало пошаговые объяснения признаков фишинга, а также упражнения для закрепления навыков.
Особенность подхода заключалась в использовании подсказок с элементами персонализации. В одном из сценариев в подсказку модели включались краткие результаты анкетирования участников: профессия, базовый уровень технической подготовки, поведенческие паттерны. Это позволяло ИИ адаптировать стиль подачи и использовать примеры ближе к реальному опыту пользователя. Другие форматы основывались на структурированных таблицах, рекомендациях или шаблонах без прямой персонализации.
Результаты показали, что во всех группах обучение с помощью контента, сгенерированного ИИ, повысило способность участников распознавать фишинговые письма. Особенно заметный рост наблюдался в показателе полноты распознавания (recall) — пользователи начали обнаруживать больше фишинговых сообщений. Одновременно улучшилась точность (precision), что означает снижение количества ложных срабатываний. Итоговый показатель F1, сочетающий оба параметра, также показал рост, подтверждая общую эффективность подхода.
Интересным выводом стало то, что простой метод подсказки с использованием анкетных данных оказался не менее эффективным, чем более сложные форматы. Это позволяет предполагать, что для практического внедрения достаточно относительно лёгких в реализации решений, не требующих дополнительной логики или структур.
Исследователи уточняют, что несмотря на отсутствие статистически значимых различий между форматами, наилучшие результаты были достигнуты при минимальной персонализации. Это делает такой подход перспективным для использования в корпоративных программах повышения осведомлённости, где важно соблюсти баланс между эффективностью и масштабируемостью.
