IO: 26% компаний в Великобритании и США сталкивается с атаками на ИИ‑модели через отравление обучающих данных
Изображение: recraft
По данным из нового отчета компании IO, примерно 26% организаций в Великобритании и США стали жертвами атак, направленных на отравление обучающих данных искусственного интеллекта. Этот тип киберугрозы, долгое время считавшийся в основном теоретическим, начал активно применяться на практике и уже влияет на деятельность бизнеса по обе стороны Атлантики.
В рамках исследования специалисты по информационной безопасности и регуляторному соответствию опросили 3000 руководителей ИТ-служб. Результаты были опубликованы в третьем ежегодном отчёте о состоянии цифровой безопасности. Особое внимание в документе уделено новым вызовам, связанным с эксплуатацией уязвимостей в системах ИИ, а также с растущим объёмом несанкционированного использования генеративных инструментов.
Атаки на этапе обучения моделей представляют собой одну из наиболее тревожных тенденций последних лет. Злоумышленники встраивают искажённые или вредоносные данные в обучающий массив, что позволяет им незаметно повлиять на поведение модели. В результате искусственный интеллект может начинать генерировать некорректные ответы, снижать точность работы защитных механизмов или даже помогать хакерам обходить системы кибербезопасности.
Как говорятэксперты IO, эти вмешательства могут быть использованы для саботажа — особенно в компаниях, зависящих от автоматизации, моделей прогнозирования или ИИ‑детекторов вредоносной активности. Особенно уязвимыми считаются системы обнаружения угроз, механизмы фильтрации и модели, отвечающие за принятие управленческих решений.
Параллельно с этим в отчёте зафиксировано, что 37% компаний сталкиваются с использованием сотрудниками генеративных ИИ‑инструментов без разрешения или одобрения со стороны ИТ-отделов.
Такой «теневой ИИ» может привести к утечкам конфиденциальных данных, нарушениям законодательства о защите информации и серьёзным инцидентам, если используемые решения содержат уязвимости.
В документе также упоминается случай с компанией DeepSeek, в флагманской языковой модели которой (R1) были обнаружены множественные уязвимости. Помимо этого, разработчик допустил несанкционированное раскрытие базы данных, содержавшей истории чатов пользователей и другую чувствительную информацию. Этот инцидент стал ещё одним подтверждением того, насколько опасным может быть использование ИИ без оценки рисков и контроля за его внедрением.
