Эксперт Ледяева: ошибки искусственного интеллекта могут дорого обойтись бизнесу
изображение: recraft
Алина Ледяева, эксперт компании StopPhish, прокомментировала для CISOCLUB судебный иск стартапа MeetingTV к Koi Security и Palo Alto Networks из-за ошибочного исследовательского отчёта, подготовленного с использованием искусственного интеллекта. По мнению эксперта, подобные случаи демонстрируют, насколько серьёзными могут быть последствия ошибочных выводов ИИ для компаний.
Она отметила, что одно некорректное заключение способно привести не только к репутационным потерям, но и к реальным проблемам в работе бизнеса.
«Этот случай показывает, что ошибки искусственного интеллекта обходятся бизнесу слишком дорого. Одно неверное заключение способно привести к блокировке сервисов, потере клиентов и серьезному репутационному ущербу», — заявила Алина Ледяева.
По её словам, ситуация становится особенно опасной, когда результаты работы ИИ автоматически используются средствами защиты без участия человека.
«Ситуация становится критической, если выводы ИИ автоматически попадают в системы защиты и начинают распространяться без проверки», — отметила эксперт.
Алина Ледяева подчеркнула, что искусственный интеллект уже доказал свою эффективность при выполнении рутинных задач и обработке больших массивов информации, однако принимать окончательные решения без участия специалистов он пока не должен.
«ИИ отлично помогает автоматизировать рутину, быстрее анализировать большие объемы данных и находить подозрительные связи, но принимать окончательные решения он пока не способен», — рассказала она.
По мнению эксперта, любые выводы, способные повлиять на безопасность пользователей или деловую репутацию организаций, должны проходить обязательную экспертную проверку.
«Любые выводы, от которых зависит репутация компании или безопасность пользователей, требуют обязательной проверки экспертами», — подчеркнула Алина Ледяева.
Она также обратила внимание, что современные модели искусственного интеллекта по-прежнему могут допускать так называемые галлюцинации, выдавая недостоверную информацию за достоверную.
«Доверять ИИ на сто процентов нельзя, так как алгоритмы все еще склонны к галлюцинациям и могут выдавать за правду несуществующие факты», — заявила эксперт.
В завершение Алина Ледяева отметила, что критическое мышление и внимательная проверка результатов работы искусственного интеллекта остаются необходимыми как для рядовых сотрудников, так и для специалистов, принимающих решения на основе данных, подготовленных ИИ.
«Осведомленность и критическое мышление необходимы не только сотрудникам компаний, которые используют ИИ в работе и делятся с ним корпоративными данными, но и специалистам, принимающим решения на основе его выводов», — заключила Алина Ледяева.
