GPT-6 Astra улучшила другую нейросеть без дообучения
Изображение: OpenAI
Исследователи Массачусетского технологического института нашли первые признаки того, что ИИ может улучшить работу другой нейросети без дообучения, напрямую изменив её веса. Об эксперименте сообщает The Register.
Модель OpenAI GPT-6 Astra изменила лишь 0,016% весов — числовых параметров — модели Qwen3.5-0.8B. После этого результат Qwen в математическом тесте MATH-500 вырос до шести раз, а оценка в тесте на следование инструкциям IFEval — примерно втрое. Qwen также стала реже зацикливаться в рассуждениях.
По описанию авторов, Astra рассуждала о том, что вычисляют отдельные части нейросети или что они должны вычислять, и на этой основе меняла веса. При этом обычное обучение методом градиентного спуска не проводилось.
В отдельном опыте исследователи попросили Astra с нуля создать веса нейросети для игры в Breakout. По их данным, модель выполнила задание без примеров решения.
Аспирант Массачусетского технологического института Rikiya Takehi считает подход перспективным для улучшения моделей без катастрофического забывания, когда добавление новых знаний приводит к потере прежних. Авторы также видят в нём возможный способ уменьшить склонность моделей поддакивать пользователю и сделать их поведение понятнее для исследователей.
Следующим шагом команда планирует создать тест и набор инструментов для проверки прямого редактирования весов языковых моделей. Исследователи рассчитывают получить воспроизводимую методику, которая позволит измерять прогресс в этой области.
