Исследователи восстановили удалённые чаты локальных ИИ на Android
Изображение: OpenAI
Исследователи Технологического института Джорджии разработали инструмент ORISA для восстановления удалённых чатов с локальными ИИ-помощниками на Android, сообщает Android Authority. Он использует фрагменты переписки, оставшиеся в памяти устройства, и, по данным исследователей Технологического института Джорджии, позволяет воссоздать помощника, который помнит часть прежних сведений.
Локальные помощники обрабатывают переписку на самом устройстве, без отправки на удалённые серверы. Однако удаление чата не обязательно стирает все его следы из памяти телефона.
В одном эксперименте восстановленный помощник вспомнил 26 фактов о вымышленном проекте, хотя до удаления чата ИИ мог вспомнить только 14. Исследователи передали помощнику 100 вымышленных фактов, но диалог превысил лимит памяти, и часть сведений стала ему недоступна.
Всего исследователи проверили ORISA в 60 конфигурациях 10 Android-приложений с тремя моделями ИИ. Инструмент извлекал сведения из разговоров, которые сохранялись в памяти.
Для восстановления требуется криминалистический доступ к данным устройства. Работа не доказывает, что удалённые разговоры с облачными чат-ботами можно восстановить таким же способом.
Как отмечает издание, ORISA может помочь экспертам выяснить, что пользователь сообщал ИИ-помощнику и какие рекомендации получал, даже если историю чата уже удалили.
