Камера решила, что вы преступник — власти Великобритании требуют от полиции контроля над ИИ

Управление комиссара по информации ICO обязало полицейские подразделения Англии и Уэльса переделать работу с персональными данными при использовании систем распознавания лиц в реальном времени. Проверка 5 ведомств вскрыла провалы в контроле руководства, обучении сотрудников, ведении документации, происхождении фотографий и проверке точности алгоритмов. Регулятор дал понять, что технология давно вышла за пределы лабораторных экспериментов и работает прямо на улицах британских городов.

Системы LFR перестали быть для британской полиции диковинкой из лаборатории. Всё больше подразделений ставят камеры и запускают алгоритмы для поиска людей в общественных местах, причём часть из них раньше вообще не работала с подобной техникой. Правоохранители обкатывают и новые режимы, где сотрудник сам инициирует проверку человека прямо на тротуаре.

Эмили Кини, заместитель комиссара по вопросам регулирования ICO, признала за распознаванием лиц понятную пользу для полиции. По её словам, с помощью LFR правоохранители быстрее находят разыскиваемых и раскрывают преступления, но цена промаха запредельная, ведь ложное совпадение способно привести к вмешательству полиции в жизнь совершенно непричастного человека вплоть до задержания.

По итогам аудита ICO зафиксировало разброс в соблюдении закона о защите данных во всех 5 проверенных подразделениях. Инспекторы отметили и удачные примеры организации работы, но общего уровня не хватило, так что полиции предстоит переделать многое.

Проверка вскрыла несколько слабых мест:

• контроль со стороны руководства и понятная система ответственности;
• подготовка сотрудников, работающих с технологией;
• ведение документации по всему пути персональных данных;
• происхождение фотографий и сроки их хранения;
• регулярная оценка точности алгоритмов.

Отдельный интерес у регулятора вызвало так называемое инициированное оператором распознавание. Полицейский сам выбирает человека для проверки, наводит оборудование и получает сопоставление лица со списком наблюдения. Сотруднику это удобно, а вот с точки зрения защиты персональных данных вопросов становится в разы больше.

Стоит обратить внимание, что каждое срабатывание алгоритма превращается в цепочку решений о конкретном человеке, и восстановить эту цепочку задним числом получается далеко не всегда.

Список открытых вопросов у ICO получился внушительным:

• кто и по какой причине запускает проверку;
• какие изображения берутся для сравнения и откуда они получены;
• сколько времени хранятся результаты сопоставления;
• что происходит при ошибке системы;
• кто отвечает за решение после срабатывания алгоритма.

Российских пользователей эти проблемы касаются напрямую, ведь камеры с распознаванием давно работают в московском метро, на улицах и на массовых мероприятиях, а биометрия граждан копится в государственных и коммерческих базах. Ложное совпадение или утечка такого слепка бьют по человеку так же, как в британском примере, только оспорить результат в российских условиях зачастую труднее.

По оценке ICO, системы реального времени соблюдают требования лучше ретроспективных RFR, которые ищут совпадения по уже отснятым материалам. Полиции всё равно придётся усилить надзор руководителей, наладить обучение персонала и научиться документировать весь путь персональных данных, от исходной фотографии до итогового решения сотрудника.

Требования к документированию звучат прозаично, но строго:

• фиксировать, какие сведения используются и с какой целью;
• указывать источник каждого изображения;
• отмечать, кому данные могут передаваться;
• удалять материалы, как только нужда в них отпадает.

Самая чувствительная часть претензий связана с точностью распознавания. Даже при хорошем снимке лица алгоритм не превращается в безошибочного цифрового детектива, и ICO потребовало регулярно оценивать точность систем и снижать риск несправедливых результатов и алгоритмической предвзятости.

В декабре 2025 года британское Министерство внутренних дел опубликовало исследование ретроспективного распознавания и нашло признаки расовой предвзятости в применяемых полицией системах. При некоторых условиях алгоритм с большей вероятностью ошибочно заносил представителей отдельных демографических групп в результаты поиска.

Примечательно, что для технологии, способной стать поводом для остановки человека на улице, подобная предвзятость превращается из статистической погрешности в прямую угрозу для конкретных людей.

ICO связывает качество работы с данными не только с исполнением закона, но и с общественным доверием. Камеры с распознаванием могут стать полезным инструментом, но общество должно понимать правила их работы, иначе доверие быстро рассыпается. Когда человек не знает, почему его фотография попала в базу и кто получил доступ к результату проверки, спокойствия у него не прибавляется.

Регулятор ждёт от полиции не косметических правок, а системных изменений:

• последовательное управление технологией на уровне руководства;
• прозрачные процедуры вместо устных договорённостей;
• обучение сотрудников правилам обращения с биометрией;
• регулярные проверки точности и разбор ошибок.

Правозащитные организации продолжают требовать юридических гарантий до массового распространения технологии, опасаясь превращения обычного видеонаблюдения в инструмент автоматической идентификации всех подряд. Использование полицией LFR в общественных местах во многом ограничено и положениями европейского закона об искусственном интеллекте, так что власти разных стран пытаются нащупать баланс между возможностями компьютерного зрения и правом человека не быть постоянно отслеживаемым объектом.

Ранее сообщалось, что русскоговорящие хакеры массово подключаются к плохо защищённым IP-камерам в европейских странах и на Украине, чтобы отслеживать военные перевозки, работу портов и логистических узлов. Совместное консультативное сообщение 10 июля опубликовали разведывательные службы Нидерландов AIVD и MIVD. Речь идёт о длительной операции, которая затрагивает десятки тысяч сетевых устройств и опирается на банальную небрежность их владельцев.

Эксперты CISOCLUB отметили, что британский кейс показателен для любой страны, где биометрию собирают быстрее, чем прописывают правила её обработки. По их оценке, распознавание лиц само по себе не хорошо и не плохо, а угроза рождается на стыке слабого контроля, непрозрачных источников фотографий и необученного персонала.

Специалисты обратили внимание, что ложное совпадение обходится не государству, а конкретному человеку, которого могут остановить или задержать по ошибке машины. Они указали, что порядок с документированием и оценкой точности стоит наводить до расширения парка камер, а не после первых громких сбоев. Для российских пользователей выводы ICO звучат как понятное предупреждение, ведь отечественная биометрия растёт стремительно, а публичного разбора её ошибок почти не проводится.