Эксперт предупредил о риске потери фото из-за ИИ-агентов в смартфонах

Умные помощники, которые самостоятельно выполняют команды на смартфоне, способны превратить обычную ошибку в реальную потерю данных. Неправильно понятая команда может привести к удалению фотографий, документов и других файлов, причём проблема способна затронуть и сведения, синхронизированные с облаком. Об этом ТАСС рассказал эксперт по кибербезопасности «Контур.Эгиды» и Staffcop Даниил Бориславский.

До появления ИИ-агентов ошибка нейросети чаще всего заканчивалась неправильным ответом на экране — пользователь видел странный результат и просто задавал вопрос заново. Теперь цифровой помощник получает возможность не только рассуждать, но и самостоятельно нажимать нужные кнопки, а значит, ошибка способна привести к реальным последствиям на устройстве.

Даниил Бориславский привёл ТАСС бытовой пример — человек хочет освободить память смартфона и просит помощника разобраться с лишними данными. Сам пользователь, скорее всего, сначала откроет хранилище, посмотрит список файлов и приложений, оценит их ценность и только потом решит, что отправить в цифровой мусорный бак.

ИИ-агент может проделать ту же работу самостоятельно, и здесь появляется пространство для ошибки — если система неправильно определит, какие данные больше не нужны, под удаление способны отправиться файлы, которые владелец телефона вовсе не собирался терять. Удалённый на смартфоне файл может быть связан с облачным хранилищем, и тогда действие помощника способно выйти далеко за пределы памяти конкретного устройства.

Проблема не ограничивается удалением данных. По словам Даниила Бориславского, ИИ-помощник способен правильно найти нужную информацию, но ошибиться уже на следующем шаге — выбрать другой документ, неверно понять задачу или отправить сообщение не тому адресату. Заметный риск возникает, когда одна программа используется для поиска информации, а действие выполняется уже в другой — на каждом переходе между сервисами появляется возможность неверной интерпретации.

Даниил Бориславский указал, что владельцу смартфона стоит заранее понимать границы возможностей своего помощника:

• к каким файлам, приложениям и функциям у ассистента есть доступ;
• в каких ситуациях система обязана остановиться и попросить подтверждение;
• какие операции сложно отменить после выполнения;
• как проверить журнал действий помощника за последнее время;

Даниил Бориславский уточнил, что это в первую очередь актуально для операций, после которых вернуть прежнее состояние будет сложно — удаление файлов, отправка сообщений, изменение настроек или работа с данными в облаке далеко не те задачи, где лишняя самостоятельность помощника всегда оказывается преимуществом.

Развитие подобных функций уже становится частью обычных обновлений мобильных платформ — 14 сентября Apple начала распространять iOS 27, где появились новые возможности Siri на основе искусственного интеллекта. Для пользователя это означает постепенный переход от привычного голосового ассистента к более самостоятельному цифровому помощнику, который получает возможность взаимодействовать с содержимым устройства и выполнять последовательность действий без постоянного участия владельца.

Пока ИИ только предлагает способ освободить место на смартфоне, максимум неприятностей — несколько неудачных советов. Когда он получает право самостоятельно это место освобождать, цена неправильного понимания команды уже может измеряться потерянными фотографиями, документами и данными из облака.

Ранее сообщалось о том, что россияне от 14 до 24 лет составили 22% участников опроса, сообщивших о столкновении с мошенниками, несмотря на ак