Профессор Нелюб: эпоха безусловного доверия к искусственному интеллекту закончилась
Изображение: recraft
Владимир Нелюб, управляющий партнер АСТРА ИИ КОД, член Правления, директор по науке и ИИ ПАО «Группа Астра», д.т.н., профессор, прокомментировал для CISOCLUB судебный иск стартапа MeetingTV к Koi Security и Palo Alto Networks из-за ошибочного исследовательского отчёта, подготовленного с использованием искусственного интеллекта. По мнению эксперта, этот процесс демонстрирует, что ошибки ИИ уже становятся источником не только репутационных, но и прямых финансовых потерь.
Он отметил, что происходящее должно привлечь внимание не только юристов, но и руководителей компаний, принимающих решения о внедрении технологий искусственного интеллекта.
«Этот иск — звонок не только для юристов, но и для CEO и CIO. Мы входим в фазу, когда ошибка ИИ стоит и репутации, и прямых денег, потерянных в ходе судебных исков», — заявил Владимир Нелюб.
По словам эксперта, рынок постепенно отказывается от безоговорочного доверия нейросетям. Теперь конкурентное преимущество получают организации, которые не просто используют ИИ, а выстраивают механизмы контроля за его работой.
«На наш взгляд, эпоха «священной веры» в нейросети закончилась. Теперь побеждает не тот, кто внедрил ИИ первым, а тот, кто внедрил контроль над ИИ и продумал систему его безопасного использования», — отметил он.
Владимир Нелюб считает, что единственным эффективным способом снизить подобные риски остаётся обязательная проверка результатов работы искусственного интеллекта человеком, особенно если речь идёт о материалах, затрагивающих чувствительные данные или способных повлиять на репутацию организаций.
«Единственная страховка от таких судебных разбирательств — тотальное человеко-машинное согласование на каждом этапе, особенно при работе с чувствительными данными. Суды над алгоритмами — это новая реальность», — заключил Владимир Нелюб.
