Компания Forrester в своём отчёте сообщила, что «безудержное» использование генеративного ИИ приведёт к киберинцидентам и штрафам в 2024 году.
Аналитики компании прогнозируют, что неограниченное использование технологий генеративного искусственного интеллекта в следующем году с высокой долей вероятности повлечёт за собой серьёзные утечки конфиденциальной информации. Также ожидаются значительные штрафы для разработчиков приложений со стороны регуляторов в разных странах мира, применяющих эти технологии ИИ в своей деятельности.
Старший аналитик компании Forrester Алла Валенте подчеркнула, что на данный момент многие профильные компании используют генеративный ИИ недостаточно осмотрительно. В частности, особенно опасны так называемые TuringBots, работающие на основе ИИ-технологий и помогающие в создании кода. Это связано с тем, что разработчики зачастую не проводят тщательную проверку сгенерированного кода на наличие потенциальных уязвимостей.
Эксперты по информационной безопасности из Forrester также выражают беспокойство по поводу отсутствия должных защитных механизмов вокруг кода, созданного с помощью ИИ, в том числе и TuringBots.
В 2024 году, по их мнению, разработчики из крупных стран мира могут столкнуться с многочисленными обвинениями в утечках данных, вызванных недостатками безопасности в самом коде или из-за уязвимостей, допущенных искусственным интеллектом и самими разработчиками, которые не проверяли сгенерированный код.
В компании Forrester также указывают на потенциальные проблемы с регулированием использования приложений, работающих на основе генеративного ИИ, например, того же чат-бота ChatGPT.
При этом Алла Валенте акцентирует внимание на том, что американская компания OpenAI, вероятно, располагает всеми необходимыми техническими и финансовыми ресурсами для того, чтобы минимизировать риски серьёзных штрафов со стороны регуляторов. В то же время пользователи сторонних приложений, работающих на базе технологии чат-ботов, таких как ChatGPT, могут не иметь подобных ресурсов, что повышает их уязвимость перед лицом возможных финансовых санкций.
С полной версией отчета можно ознакомиться здесь.
