Хакеры заинтересовались использованием DeepSeek и Alibaba LLM для разработки вредоносного ПО
Изображение: Solen Feyissa (unsplash)
Мощные языковые модели DeepSeek и Alibaba привлекли внимание не только специалистов по искусственному интеллекту, но и киберпреступников. По словам Сергея Шикевича, руководителя группы анализа угроз в Check Point, преступные сообщества активно исследуют китайские LLM, стремясь использовать их для создания и усовершенствования вредоносного программного обеспечения.
Сергей Шикевич отметил, что, несмотря на меньшую известность Qwen LLM от Alibaba по сравнению с DeepSeek, именно её киберпреступники изучают наиболее активно. До этого специалисты в сфере кибербезопасности заявляли, что такие модели чаще всего применяются для фишинговых атак и мошенничества, а не для разработки вредоносного кода.
Как подчеркнул Сергей Шикевич, современные LLM пока не демонстрируют высокой эффективности в создании вредоносного ПО, но разработчики, включая OpenAI, инвестируют значительные ресурсы в расширение возможностей своих технологий. По его мнению, по мере совершенствования языковых моделей они будут востребованы не только в бизнесе, но и среди киберпреступников.
По словам Сергея Шикевича, поставщики коммерческих LLM, вероятно, внедрят механизмы защиты, предотвращающие их использование в злонамеренных целях. Но он указал, что модели с открытым исходным кодом, включая DeepSeek R1, Alibaba Qwen и Meta Llama, могут стать удобным инструментом для разработчиков вредоносного ПО.
Исследователь безопасности искусственного интеллекта в WithSecure Consulting Донато Капителла высказал критику в адрес DeepSeek R1, заявив, что у модели отсутствуют базовые механизмы защиты от атак с мгновенным внедрением команд. Он отметил, что этот недостаток проявляется при тестировании модели в Simple Prompt Injection Kit for Evaluation and Exploitation (Spikee) — системе анализа безопасности, созданной WithSecure.
Донато Капителла также сообщил, что сейчас ведётся аналогичное исследование модели Qwen от Alibaba, результаты которого могут пролить свет на её уязвимости.
