Zendesk: компании не готовы к управлению рисками ИИ, несмотря на его массовое внедрение в клиентский сервис
Изображение: dall-e
В отчёте компании Zendesk AI Trust Report 2025 сказано, что правовая неготовность к использованию искусственного интеллекта стала серьёзной бизнес-проблемой. Хотя ИИ активно внедряется в сферу обслуживания клиентов, только 23% компаний чувствуют, что способны эффективно контролировать связанные с ним риски. В документе говорится, что конфиденциальность и предвзятость моделей остаются важными вопросами, но в центре внимания стоит доверие. Когда пользователи не понимают, как именно применяется ИИ, или не ощущают безопасности при взаимодействии с ним, уровень вовлечённости резко падает.
Согласно отчёту Zendesk, без надлежащей инфраструктуры ИИ-инструменты могут привести к юридическим, репутационным и операционным потерям. Проблему усугубляет отсутствие единых норм: хотя европейский Закон об ИИ задаёт глобальный ориентир, компании вынуждены одновременно учитывать фрагментированные правила разных стран и штатов США, часто противоречащие друг другу.
В отчёте указано, что лишь 20% компаний имеют зрелую стратегию управления генеративным ИИ. Остальные организации сталкиваются с трудностями в получении согласия на обработку данных, проверке моделей, обеспечении прозрачности и аудируемости. Во многих случаях процессы запускаются до проведения полноценной юридической экспертизы, что может привести к нарушениям нормативных требований.
Как подчёркивается в документе, позднее вовлечение специалистов по ИБ и юристов повышает вероятность того, что критические аспекты — например, выбор провайдера или архитектура решений — будут утверждены без должной проверки. Это создаёт опасность как с точки зрения регулирующих органов, так и с точки зрения пользовательского доверия.
По словам главного юриста Zendesk Шаны Симмонс, компания строит систему управления ИИ на универсальных принципах: защита данных и безопасности по умолчанию, объяснимость, прозрачность и контроль со стороны клиента. Она заявила, что специфические элементы управления ИИ встроены в продуктовый цикл разработки, что помогает выявлять и снижать риски на ранних этапах, минимизируя административные барьеры при внедрении.
