Эксперт предупредил россиян, что ИИ нельзя давать право удалять файлы без спроса
изображение: grok
ИИ-агентам, которые сами наводят порядок на компьютере, не стоит разрешать окончательно стирать файлы без подтверждения владельца. Проблема не только в возможной ошибке нейросети, но и в том, какие личные данные открываются модели при проверке содержимого накопителя, рассказал РИАМО эксперт по информационной и экологической безопасности Илья Рыбальченко.
По мнению Ильи Рыбальченко, безопаснее выстроить процесс в несколько этапов. Сначала программа изучает диск, определяет потенциально ненужные объекты и показывает пользователю список, а финальное решение остаётся за человеком, при этом сами файлы на первом этапе разумнее отправлять в корзину, а не уничтожать окончательно.
Такой вариант оставляет шанс отыграть неудачную уборку. Если алгоритм решил, что семейный архив, рабочий документ или папка с фотографиями давно никому не нужны, пользователь вернёт данные обратно, а при полностью автоматическом удалении подобная ошибка превращается из мелкого сбоя интерфейса в потерю информации.
У ИИ-уборщика есть и менее заметная проблема. Чтобы понять, что лежит на диске и насколько файл полезен, агенту иногда нужен доступ к содержимому документов, и вместе с функцией очистки пользователь фактически разрешает программе заглядывать в личные данные. Илья Рыбальченко обратил внимание на разницу между чтением информации моделью и её отправкой разработчику. Сам факт, что ИИ получил возможность посмотреть файлы, ещё не означает, что документы автоматически куда-то загружаются или идут на обучение нейросети. Ответ зависит от устройства конкретного сервиса:
- одни решения анализируют содержимое прямо на компьютере;
- другие отправляют часть информации на удалённую инфраструктуру для обработки;
- многое определяют параметры приложения и правила обращения с пользовательскими данными.
Перед выдачей агенту широких разрешений стоит разобраться, где проходит анализ и что потом происходит с информацией. Парадокс в том, что пользователь хочет поручить ИИ простую уборку диска и не тратить время на ручной поиск мусора, а взамен потенциально открывает алгоритму доступ к гораздо более ценным данным, поэтому удобство автоматизации разумнее сочетать с человеческим контролем — ИИ может составить список кандидатов на удаление, но последняя кнопка должна остаться у владельца компьютера.
Ранее сообщалось, что мошенника в переписке от имени друга можно вычислить с помощью выдуманной встречи. Эксперт по защите персональных данных Александр Келлерманн посоветовал спросить о событии, которого не было, и проверить получателя в банковском приложении.
