С советами ИИ люди почти перестают отвечать «не знаю», даже когда ИИ ошибается
Изображение: OpenAI
Люди, у которых под рукой есть советы ИИ, почти перестают признаваться, что не знают ответа, и ошибаются заметно чаще, хотя ИИ в основном подсказывает неверно. В одном из опытов доля ответов «не знаю» упала с 35% до 1%, пишет The Decoder об исследовании, где участники отвечали на вопросы о кино.
С ИИ участники оценивали свою уверенность в 75,9 балла из 100 против 29,6 без него, а верных ответов давали почти втрое меньше: 10% против 27,6%. По выводу авторов, доступ к ИИ превратил часть ответов, которые были бы верными, в ошибки. Списать это на разумное доверие надёжному инструменту нельзя, потому что советы ИИ в опытах в основном были неверными.
Авторы называют эффект эпистемией: человек принимает ответ ИИ, потому что тот звучит убедительно, а не потому что проверил его. Языковая модель обязана что-то ответить и не останавливается, даже когда не знает, и люди, передавая ей своё суждение, могут перенять эту безоглядность, пишут исследователи.
Деньги почти не помогли. Когда за верный ответ платили 10 центов, а за неверный столько же списывали, участники чуть чаще говорили «не знаю», но всё равно намного реже, чем без ИИ. Даже с оплатой, если ИИ показывал ответ сам, без запроса, доля «не знаю» падала примерно с 39% до 7%. Исследователи сравнивают это с ИИ-сводками в поисковиках и подсказками помощников для письма, которые появляются без спроса.
Так ли силён эффект за пределами вопросов о кино, пока неясно. Но ответы ИИ появляются всё чаще и без запроса, и готовность сказать «не знаю» может стать одной из первых потерь от работы людей с ИИ, предупреждают авторы.
