МВД предупредило, что ChatGPT может собрать цифровое досье на своих пользователей

УБК МВД России предупредило об угрозах приватности при использовании ChatGPT, ведь, по мнению специалистов ведомства, сведения, которые пользователи оставляют в памяти ИИ-сервиса, могут постепенно складываться в подробный цифровой портрет человека. Даже если собеседник общается под вымышленным именем, сочетание информации о работе, заработке, здоровье и личной жизни способно помочь установить его настоящую личность.

В управлении обратили внимание, что опасна не только передача отдельных конфиденциальных сведений, но и накопление разрозненных фактов, ведь по отдельности упоминание места работы, финансовых обстоятельств или личных переживаний кажется безобидным, а в совокупности такие детали позволяют составить представление о конкретном человеке. Угрозу в МВД видят и в манипуляциях памятью искусственного интеллекта, когда злоумышленники внедряют ложные инструкции в документы, которые затем обрабатывает нейросеть, и ИИ получает нежелательные указания из загруженных материалов, а пользователь может не подозревать, что файл содержит посторонние команды.

В УБК МВД порекомендовали следующее:

• внимательнее относиться к настройкам памяти и персонализации ИИ-платформ;
• не передавать чат-ботам внутреннюю документацию организаций и другие материалы с закрытыми сведениями;
• убирать из запросов настоящие имена, адреса и другие детали, по которым можно установить личность;
• использовать временные чаты при обсуждении вопросов, затрагивающих частную жизнь;
• периодически проверять сведения, которые ИИ-сервис сохранил о пользователе.

Отдельно в управлении сослались на исследование The Algorithmic Self-Portrait о формировании цифровых портретов пользователей OpenAI, и согласно приведённым данным, почти 96% записей создавались без согласия пользователей на сохранение сведений, в 91% учётных записей нашли персональную информацию, среди которой были настоящие имена, социальное и экономическое положение и адреса, у 54% пользователей в памяти обнаружили сведения о здоровье и личных убеждениях, а в 97% записей сохранялись данные о целях, планах, предпочтениях и привычках.

Приведённые показатели требуют внимания к методологии исследования и условиям сбора данных, ведь наличие сохранённых сведений не значит, что они становятся общедоступными или используются посторонними, а утверждение о нарушении политики конфиденциальности OpenAI в сообщении МВД представлено как вывод исследования, а не как установленный факт нарушения закона.

Взаимодействие с ИИ-помощниками выходит за рамки обычного обмена вопросами и ответами, и чем больше пользователь рассказывает нейросети о себе, тем богаче её контекст, поэтому контроль над сохранённой информацией, настройками персонализации и содержимым загружаемых файлов становится отдельной задачей цифровой гигиены, ведь даже удобному чат-боту не обязательно знать всё о собеседнике.

Ранее сообщалось, что МВД предупредило об уголовной ответственности за покупку данных через сервисы «пробива». Филипп Немов рассказал, что ответственность грозит и тем, кто обращается к таким площадкам ради информации за деньги.