Prismatic: видеонаблюдение с ИИ убивает конфиденциальность

Рост применения систем видеонаблюдения на базе искусственного интеллекта вызывает тревогу у экспертов и правозащитников. Эти технологии способны распознавать лица, отслеживать перемещения и анализировать поведение в реальном времени, создавая инфраструктуру, в которой традиционные представления о конфиденциальности стремительно теряют актуальность.

По данным аналитиков, в 2024 году глобальный рынок видеонаблюдения оценивался в 73,75 млрд долларов, а к 2030 году может превысить 147 млрд. Камеры всё чаще устанавливаются на улицах, в магазинах, на вокзалах и стадионах. Системы, использующие алгоритмы ИИ, расширили возможности видеонаблюдения далеко за пределы простого видеозаписывания — теперь они анализируют обстановку и формируют поведенческие модели.

Эксперты говорят, что системы ИИ могут объединять визуальные данные с другими источниками информации — например, данными мобильных операторов или социальных сетей. Это создаёт риск формирования цифровых профилей пользователей без их ведома. При этом остаётся неясным, кто контролирует объёмы собираемой информации, где она хранится и в чьих интересах используется.

Руководитель службы информационной безопасности компании Prismatic Базз Хиллестад предупредил, что повсеместное внедрение ИИ в системы наблюдения связано с целым рядом этических проблем. В числе наиболее острых — предвзятость алгоритмов, отсутствие прозрачности, автоматизация принятия решений без участия человека и слабая подотчётность. По его словам, необходимо тщательно соотносить цели безопасности с соблюдением прав граждан.

Особую обеспокоенность вызывает то, как быстро подобные системы внедряются без общественного обсуждения или правового регулирования. В некоторых странах уже выстроены полноценные модели государственного наблюдения с использованием ИИ — от слежки за митингующими до оценки поведения на рабочем месте. По мнению аналитиков, эти практики могут постепенно проникать и в другие государства под предлогом повышения безопасности.