Риски безопасности ИИ формируются культурой, данными и неравномерным развитием
Изображение: recraft
Международная группа учёных опубликовала исследование, в котором утверждается, что значительная часть рисков безопасности искусственного интеллекта связана не с уязвимостями кода или архитектуры, а с более глубокими факторами — культурными различиями, асимметрией развития регионов и структурными пробелами в данных. Авторы подчёркивают, что эти элементы напрямую влияют на поведение ИИ-систем, характер их сбоев и распределение негативных последствий между различными группами пользователей.
Работа подготовлена при участии исследователей из университетов, институтов этики и международных организаций, в том числе Мюнхенский университет имени Людвига Максимилиана, Мюнхенский технический университет и Африканский союз. Анализ проводится через призму международного права прав человека, что придаёт выводам практическое значение для руководителей служб безопасности, отвечающих за внедрение ИИ в разных странах и социальных контекстах.
В исследовании говорится, что предположения, заложенные в ИИ-системы, формируются на каждом этапе их жизненного цикла. Обучающие наборы данных отражают доминирующие языки, экономические реалии, социальные нормы и исторический опыт, характерные прежде всего для технологически развитых регионов. Проектные решения, в свою очередь, кодируют ожидания относительно доступности инфраструктуры, моделей поведения пользователей и ценностных установок.
Авторы отмечают, что такие предпосылки напрямую влияют на точность и устойчивость ИИ. Языковые модели демонстрируют высокие показатели на распространённых языках, но резко теряют качество при работе с языками с ограниченными цифровыми ресурсами.
Аналогичная картина наблюдается в системах компьютерного зрения и автоматизированного принятия решений. Алгоритмы, обученные в индустриальных или урбанизированных условиях, часто ошибочно интерпретируют поведение людей в регионах с иными транспортными потоками, социальной организацией или уровнем инфраструктуры.
С точки зрения кибербезопасности исследование предлагает рассматривать эти эффекты как системные уязвимости. Они формируют предсказуемые режимы отказов, которые различаются в зависимости от региона и группы пользователей. Такие режимы расширяют поверхность атаки и создают неравномерную подверженность рискам, когда одни категории пользователей сталкиваются с ошибками и ущербом значительно чаще других.
