Учёные предупредили о рисках когнитивной зависимости от ИИ

Международная группа исследователей из Испании, Италии и США предложила рассматривать массовую зависимость от ИИ как своеобразный когнитивный вирус. С помощью эпидемиологической модели учёные описали, как общество может перейти от самостоятельного мышления к привычке делегировать умственные задачи нейросетям. Предварительную версию работы разместили на портале arXiv.

Исследование носит теоретический характер и не представляет собой эксперимент, напрямую доказывающий ухудшение когнитивных способностей из-за ИИ. Авторы использовали математический аппарат, применяемый для изучения распространения инфекций, и сопоставили его с уже опубликованными научными данными о влиянии чрезмерной зависимости от ИИ на мышление человека.

В предложенной модели общество проходит несколько состояний, от полной независимости человека без обращения к ИИ, через привязанность, когда модель регулярно помогает рассуждать, искать информацию или принимать решения, до зависимости, при которой значительная часть умственной работы уже передаётся нейросети.

Процесс, по мнению исследователей, не заканчивается на уровне отдельного пользователя:

• человек, получивший заметную выгоду от нейросети, начинает рекомендовать её окружающим;
• чем больше людей передают ИИ собственные когнитивные задачи, тем сильнее среда воспринимает такую практику как норму;
• со временем эффект приобретает уже не индивидуальный, а системный характер.

Авторы проводят аналогию с вирусом не случайно. В их представлении ИИ сам по себе не вреден, но устойчивая привычка отдавать машине работу, которую человек раньше выполнял самостоятельно, способна постепенно снижать потребность в собственных интеллектуальных усилиях.

При этом исследователи не призывают отказаться от искусственного интеллекта. Нейросети способны усиливать человеческое мышление, если не забирают его функции полностью, и могут помогать с анализом, поиском информации и обучением. Главный вопрос, по мнению авторов, не в самом факте использования ИИ, а в характере взаимодействия с ним, ведь если пользователь постепенно перестаёт анализировать информацию сам и принимает готовые ответы без проверки, происходит обратный процесс.

Авторы связывают эти выводы с ранее опубликованными исследованиями о влиянии автоматизации умственной работы на когнитивные способности. Когда человек систематически передаёт машине задачи, которые раньше требовали самостоятельного мышления, у него становится меньше практики в соответствующих навыках, а в долгосрочной перспективе это способно ослаблять способность решать похожие задачи.

Работа не доказывает, что ИИ неизбежно приводит к когнитивной деградации. Учёные построили теоретическую модель и описали возможный механизм распространения зависимости от нейросетей, поэтому выводы стоит воспринимать как гипотезу о поведении общества, а не как результат эксперимента над людьми. Своеобразным иммунитетом становится сохранение собственной умственной работы, ведь чем реже человек думает самостоятельно, тем выше риск превратить помощника в замену собственному мышлению.

Ранее сообщалось, что европейское агентство ENISA получило доступ к кибермодели Anthropic Mythos 5, но пока не может протестировать более новую версию Mythos 5.1 из-за ограничений США.