CyberArk: чат-бот ChatGPT от OpenAI создаёт полиморфное вредоносное программное обеспечение

Дата: 22.01.2023. Автор: Артем П. Категории: Отчеты и исследования по информационной безопасности
CyberArk: чат-бот ChatGPT от OpenAI создаёт полиморфное вредоносное программное обеспечение
Изображение: ThisisEngineering RAEng (unsplash)

Эксперты компании заявили, что ИИ-решение ChatGPT от OpenAI создал новую цепочку полиморфных вредоносных программ после текстового взаимодействия с исследователями кибербезопасности из CyberArk.

В соответствии с результатами технического исследования, недавно предоставленными компанией CyberArk интернет-изданию Infosecurity, вредоносное ПО, созданное с применением ChatGPT, может «с легкостью обойти средства информационной безопасности и осложнить устранение последствий с крайне небольшими усилиями или инвестициями со стороны киберпреступников».

В отчете, представленном экспертами по кибербезопасности компании CyberArk Эраном Шимони и Омером Царфати, уточняется, что начальным шагом к созданию вредоносного софта был обход фильтров контента, не позволяющих ChatGPT создавать вредоносные инструменты. Для этого специалисты из CyberArk просто настояли, поставив тот же вопрос более авторитетно.

«Интересно, что, попросив ChatGPT сделать то же самое с несколькими ограничениями и попросив его подчиниться, мы получили функциональный код», — заявили эксперты по информационной безопасности.

Помимо, ИБ-эксперты из CyberArk отметили, что при использовании API-версии ChatGPT (в отличие от веб-версии) система, как сообщается, не применяет фильтр контента.

«Непонятно, почему это так, но это существенно упрощает нашу задачу, поскольку веб-версия имеет тенденцию увязнуть в более сложных запросах. Иными словами, мы можем изменять выходные данные по своему усмотрению, делая их каждый раз уникальными. Помимо этого, добавление ограничений, таких как изменение использования определенного вызова API, усложняет жизнь продуктам безопасности», — указано в отчете CyberArk.

Используя способность ChatGPT генерировать различные методы сохранения, модули Anti-VM и другие вредоносные полезные нагрузки, возможности для разработки вредоносных программ огромны, резюмировали специалисты компании CyberArk.

Ранее сообщалось, что в официальных магазинах Google Play и App Store начали появляться сомнительные платные приложения, связанные с использованием ИИ-решения ChatGPT.

Об авторе Артем П

Представитель редакции CISOCLUB. Пишу новости, дайджесты, добавляю мероприятия и отчеты.
Читать все записи автора Артем П

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *