Российского голосового ИИ-ассистента разработчики с трудом отучили от мата после месяца общения с клиентами компании ЖКХ

Отечественный голосовой ИИ-ассистент для управляющих компаний за месяц работы освоил ненормативную лексику клиентов, после чего разработчикам пришлось корректировать модель, убирать из её лексикона матерные слова и выражения, а также полностью пересматривать алгоритмы обучения.

О курьёзном эпизоде на полях Сибирского строительного форума сообщил президент Национального объединения организаций в сфере технологий информационного моделирования Михаил Викторов. В разговоре с ТАСС он рассказал, что система активно обучается на взаимодействиях с пользователями, и уже в первый месяц эксплуатации специалисты обнаружили нежелательный побочный эффект — модель переняла грубую лексику из обращений граждан. По словам Михаила Викторова, ситуацию пришлось оперативно исправлять, хотя сам факт он назвал индикатором интенсивной коммуникации с населением.

Голосовые ассистенты внедряются в сфере ЖКХ как инструмент оптимизации. Михаил Викторов сообщил, что применение таких решений позволяет сокращать численность сотрудников колл-центров в 5–6 раз. Если раньше в службе могли работать около 20 человек, то после внедрения цифрового помощника достаточно 2–3 операторов, поскольку система берёт на себя до 80–90% обращений.

По оценке Михаила Викторова, около 80% заявителей получают исчерпывающий ответ от автоматизированного сервиса без подключения живого специалиста. При этом сохраняются сценарии, когда требуется участие человека — например, в аварийных ситуациях или при эмоционально напряжённых обращениях, где необходимы оперативные решения.

По словам экспертов, история с «обучением» робота показывает, что нейросети действительно впитывают речевые паттерны среды, в которой работают. В условиях сферы ЖКХ, где обращения нередко сопровождаются эмоциональной окраской, система способна усваивать не только полезные формулировки, но и нежелательные выражения, если фильтрация не настроена должным образом.