Эксперт Павлович предупредил о небезопасности использования иностранных чат-ботов
Изображение: Zac Wolff (unsplash)
Использование зарубежных чат-ботов может представлять серьёзную угрозу для безопасности данных, поскольку механизмы их управления остаются непрозрачными. Такое мнение выразил генеральный директор интегратора искусственного интеллекта INTO Иван Павлович.
Эксперт пояснил, что персональная информация пользователей рискует оказаться в открытом доступе, что существенно увеличивает вероятность утечек. Он порекомендовал воздержаться от передачи личных данных при взаимодействии с подобными сервисами, чтобы минимизировать возможные угрозы. Об этом он сообщил «Известиям».
По мнению специалиста, более надёжным решением остаётся размещение моделей на собственных серверах, особенно в корпоративном сегменте, где защита информации играет первостепенную роль.
Иван Павлович также напомнил о недавних инцидентах, связанных с безопасностью китайского чат-бота DeepSeek. В начале февраля ряд стран выразили обеспокоенность по поводу его системы защиты и направили соответствующие запросы в компанию-разработчика. Однако ответы так и не были получены, что привело к блокировке сервиса в нескольких государствах, включая Италию, Тайвань, США и Австралию.
Ранее стало известно, что крупные языковые модели, разработанные DeepSeek и Alibaba, привлекли внимание не только специалистов по искусственному интеллекту, но и киберпреступных сообществ. Сергей Шикевич, возглавляющий группу анализа угроз в Check Point, сообщил, что хакеры активно изучают возможности китайских LLM, стремясь адаптировать их для создания и совершенствования вредоносных программ.
Сергей Шикевич отметил, что, несмотря на меньшую популярность Qwen LLM от Alibaba по сравнению с DeepSeek, именно она вызывает наибольший интерес у злоумышленников. Ранее эксперты в области кибербезопасности уже заявляли, что подобные технологии чаще всего используются для фишинговых атак и мошеннических схем, а не для разработки сложного вредоносного кода.
Специалист подчеркнул, что современные языковые модели пока не обладают достаточной эффективностью для создания вредоносного ПО. Однако ведущие разработчики, среди которых OpenAI, активно вкладывают ресурсы в развитие этих технологий. По его мнению, дальнейшее совершенствование LLM приведёт к их востребованности не только в коммерческом секторе, но и среди киберпреступников.
