ExtraHop: большая часть компаний мира ничего не знают об угрозах безопасности GenAI
Изображение: dall-e
В своем новом отчете компания ExtraHop сообщила, что большая часть организаций мира ничего не знают об угрозах безопасности GenAI.
По словам аналитиков ExtraHop, современные организации сталкиваются сейчас с новой киберугрозой, потому что многие из них не осознают опасности, которые несёт в себе генеративный искусственный интеллект (GenAI) в отношении информационной безопасности и конфиденциальности данных.
Согласно отчету американской компании по кибербезопасности ExtraHop, основное беспокойство при использовании инструментов GenAI сотрудниками различных компаний заключается в получении ими неточных или вовсе неправдоподобных ответов. При этом 36% респондентов отметили, что опасаются возможной утечки важных данных из-за того, что сотрудники компании используют на рабочем месте технологии ИИ.
В ExtraHop уточняют, что хотя многие компании запретили инструменты вроде ChatGPT, проведенное исследование показало, что эффективность таких запретов оставляет желать лучшего. В частности, только 5% участников опроса заявили, что их сотрудники вообще не используют эти ИИ-инструменты на работе.
Главный аналитик GlobalData, Стивен Шухарт, подчеркивает, что, несмотря на сложности, GenAI приносит больше преимуществ бизнесу, но только в том случае, если компании придерживаются правил кибергигиены и этики. Эксперт также отмечает, чт требуется разработать строгие законы о правильном использовании AI, подчеркивая необходимость защиты личных данных.
Стивен Шухарт также призывает к прозрачности и аудиту AI, обращая внимание на проблему «черных ящиков» в разработке AI, когда происхождение обучающих данных остается неясным.
В ExtraHop подсчитали, что всего лишь 46% компаний имеют политику управления AI, и только 42% обучают своих сотрудников работе с этими инструментами. В то время как, согласно исследованиям GlobalData, 17% предприятий уже активно интегрировали AI в свою повседневную работу.
Полная версия отчета компании ExtraHop представлена по следующей ссылке.
