Ученые опасаются, что инструменты искусственного интеллекта могут привести к гибели астрофизики

Искусственный интеллект меняет работу астрофизиков быстрее, чем учёные успевают осмыслить последствия. Языковые модели за считаные минуты решают задачи, на которые исследовательские группы тратили годы, и часть научного сообщества всерьёз обсуждает риск утраты тех навыков, на которых десятилетиями держалась академическая карьера. Дискуссия о роли человека в будущих открытиях, связанных с галактиками, чёрными дырами и сверхновыми, выходит за пределы узкого круга специалистов.

Скорость прогресса вызывает у части исследователей растущее беспокойство. Современные модели справляются с расчётами и анализом за минуты, тогда как раньше на похожие задачи уходили месяцы кропотливой работы. Это смещает привычный баланс между интеллектуальным трудом учёного и возможностями вычислительных систем, и многие пока не понимают, как реагировать на подобные перемены.

В крупных астрономических центрах нейросети уже встроены в повседневную работу. Большие языковые модели применяются для решения самых разных задач:

• написание программного кода для обработки наблюдений;
• анализ массивов данных с телескопов;
• подготовка черновиков научных публикаций;
• оформление заявок на гранты;
• систематизация результатов экспериментов.

Объём информации, поступающей с современных обсерваторий, растёт настолько стремительно, что без автоматизированных инструментов её разбор фактически невозможен. Долгое время внедрение машинного обучения в астрофизику воспринималось как естественный шаг развития дисциплины.

Стоит обратить внимание, что энтузиазм первых лет постепенно сменяется тревогой — учёные всё чаще спрашивают себя, не подменяет ли удобный помощник сам процесс научного мышления.

В Гарвардском центре астрофизики демонстрировались системы, способные строить математические модели, писать код и формировать тексты, внешне неотличимые от полноценных научных работ. Несколько лет назад подобные возможности относили скорее к области фантастики, а сейчас их обсуждают на профильных семинарах. Один из исследователей рассказал, что ChatGPT за пару минут разобрался с задачей о движении галактик, над которой научные группы бились несколько лет.

Ситуация развивается стремительнее, чем предполагали многие специалисты, считает Дэвид Хогг из Нью-Йоркского университета, занимающийся вычислительной астрофизикой. Среди его коллег уже сформировалось ощущение, что остановить процесс практически нереально, и научному миру остаётся лишь подстраиваться под новую реальность.

Молодые учёные оказываются в самом уязвимом положении. На ранних этапах карьеры формируются навыки программирования, математического анализа и научной интуиции, которые потом используются десятилетиями. Если эту работу начнёт выполнять алгоритм, остаётся открытым вопрос, где новое поколение будет нарабатывать компетенции.

Аспирант Родриго Кордова Росадо видит в происходящем начало масштабных перемен для всей академической среды. Чрезмерная зависимость от автоматизированных инструментов, по его словам, способна постепенно подорвать математическую подготовку и программистские навыки, которые традиционно считались фундаментом исследовательской работы.

Похожую позицию занимает космолог Минас Караманис, акцентируя внимание на самом процессе поиска решения. Работа над сложной задачей сопровождается периодами неопределённости, ошибок и тупиковых направлений, и через эти этапы рождается глубокое понимание предмета. Часы, проведённые над трудной проблемой, Караманис называет тренировкой мышления, и когда нейросеть мгновенно выдаёт готовый ответ, значительная часть образовательного опыта просто пропадает.

Отмечается, что главная угроза заключается не в самих моделях, а в исчезновении той интеллектуальной борьбы, через которую раньше формировался настоящий исследователь.

Отдельный пласт проблем связан с академической публикацией. Космолог Кембриджского университета Натали Хогг ранее писала о трудностях научного сообщества с объективной оценкой собственной работы, и распространение ИИ способно усугубить эту ситуацию. Редакторы профильных журналов фиксируют рост числа поступающих рукописей после появления доступных языковых моделей, причём качество значительной их части оставляет желать лучшего.

Главный редактор Американского астрономического общества Итан Вишняк рассказал о растущих сложностях при поиске рецензентов. Поток публикаций увеличивается, а число специалистов, готовых тратить время на проверку чужих работ, остаётся ограниченным. Большой массив низкокачественных материалов создаёт серьёзную нагрузку на систему рецензирования, и академическому сообществу, по словам Вишняка, придётся искать новые механизмы контроля качества:

• расширение круга рецензентов за счёт международных экспертов;
• разработка автоматизированных фильтров для первичного отбора;
• ужесточение требований к раскрытию использования нейросетей;
• введение специальных правил для статей с ИИ-генерацией;
• создание репутационных индексов для авторов.

Не все настроены пессимистично. Современные языковые модели по-прежнему испытывают серьёзные трудности при работе с фундаментальной теоретической физикой. Астрофизик Гарвардского университета Сесилия Гарраффо отмечает, что при попытках решать задачи, связанные с гравитационными уравнениями и глубокой математической интерпретацией физических процессов, нейросети показывают весьма посредственные результаты, а в ряде тестов буквально проваливаются.

Опасность видится не в полном вытеснении исследователей, а в постепенном изменении самой модели научной работы. Пока ИИ остаётся мощным помощником, ускоряющим вычисления и подготовку материалов, но если темпы развития сохранятся, академической среде придётся заново определить:

• какие навыки должны оставаться исключительно человеческими;
• какие задачи допустимо передавать алгоритмам;
• как сохранить классическую подготовку молодых учёных;
• каким образом оценивать вклад исследователя в работу с нейросетью.

Редакция CISOCLUB убеждена, что наблюдаемые процессы в астрофизике станут показательными для всех остальных наук. Эксперты издания считают, что в ближайшие годы научному сообществу придётся выработать чёткие правила взаимодействия с языковыми моделями, иначе под угрозой окажется сама традиция передачи знаний от поколения к поколению.

По мнению редакции, разумный путь лежит между двумя крайностями — отказом от инструментов ИИ и полной передачей им исследовательских функций. Учёным предстоит научиться использовать нейросети так, чтобы они усиливали мышление, а не заменяли его. Только такой подход позволит сохранить и научную строгость, и человеческий вклад в открытия о Вселенной.