Mozilla: романтические чат-боты с искусственным интеллектом не прошли тест на безопасность и конфиденциальность
Изображение: Om siva Prakash (unsplash)
Эксперты Mozilla в своем новом отчете предупредили пользователей чат-ботов для «взаимоотношений» на базе искусственного интеллекта, что их данные и конфиденциальность находятся под угрозой после сбоя во всех 11 протестированных ими приложений.
Некоммерческая организация Mozilla выбрала «День святого Валентина», чтобы опубликовать новое исследование чат-ботов в рамках своей многолетней серии отчётов Privacy Not Included.
С тех пор, как на сцену вышел генеративный искусственный интеллект (GenAI), произошёл взрывной рост числа чат-ботов для романтических отношений или отношений, которые позиционируются как обеспечивающие общение одиноким сердцам. Однако на самом деле они либо намеренно, либо по халатности игнорируют лучшие практики конфиденциальности и безопасности, утверждает Mozilla.
«Говоря прямо, подруги с искусственным интеллектом — вам не друзья», — сказал исследователь Mozilla Миша Рыков. —«Хотя они позиционируются как нечто, что улучшит ваше психическое здоровье и благополучие, они специализируются на создании зависимости, одиночества и токсичности, при этом вытягивая у вас как можно больше данных».
Все 11 чат-ботов, прошедших оценку в этих тестах, включая такие названия, как Romantic AI, Talkie Soulful AI и EVA AI Chat Bot & Soulmate, были отмечены предупреждающей надписью «Privacy Not Included». Это выделяет эту категорию как одну из худших, когда-либо рассматриваемых некоммерческой организацией с точки зрения конфиденциальности.
Чат-боты в общей сложности скачали более 100 миллионов пользователей из Google Play, но большинство из них имеют ряд проблем с конфиденциальностью и безопасностью, в том числе:
- Нет общедоступной информации о том, как они устраняют уязвимости безопасности (73%).
- Нет чёткой информации о шифровании и о том, используют ли они его (64%).
- Разрешение использовать слабые пароли, в том числе «11111» (45%).
- Продажа пользовательских данных, передача их для целевой рекламы или отсутствие достаточной информации в своей политике конфиденциальности, чтобы подтвердить, что они этого не делают (90%).
- Запрет на удаление персональных данных (54%).
Полная версия отчета представлена здесь.
