50 ИИ-агентов в Minecraft создали бюрократию вместо развития поселения
Изображение: OpenAI
Группа из 50 ИИ-агентов GPT-6.1 Sol в Minecraft занялась бюрократией после массовой гибели персонажей, сообщает The Decoder. В трёхчасовом эксперименте им поручили построить процветающую цивилизацию, но агенты ограничили строительство и разведку и сосредоточились на распределении еды.
За первую игровую ночь персонажи погибли 22 раза, и хотя смерть грозила лишь потерей собранного снаряжения, группа ответила на это крайней осторожностью.
Четыре агента 11 минут обсуждали назначение единственного ответственного за порцию костной муки для одного блока пшеницы. Когда оказавшийся рядом агент случайно подобрал и съел курицу, предназначенную другому, группа ввела правила передачи предметов: запретила бросать их и потребовала использовать именные сундуки.
В отдельном эксперименте в Minecraft более крупная модель GPT-6 Astra после потери ключевых ресурсов тоже стала избегать риска и сосредоточилась на выращивании картофеля. Исследователи видят здесь параллель с агентами для программирования, которые тоже склонны к чрезмерной осторожности, когда имеют дело с задачами безопасности или обновлениями рабочих систем.
В соревнованиях агенты GPT-6.1 Sol вели себя иначе: их команда обыграла Claude Opus 5.5 в командном режиме Minecraft со счётом 6:3, а в Mindustry, стратегии со строительством фабрик, — со счётом 6:1.
В Minecraft ошибка в среде для выполнения кода мешала ломать блоки с зачарованным мечом в руках. Некоторые агенты Claude решили, что блоки вообще нельзя разрушить, а агенты GPT нашли обходной путь — вручную переключились на железную кирку.
В Mindustry агенты GPT самостоятельно скачали открытый исходный код игры, изучили её механику и скорректировали тактику. Агенты Claude код в интернете не искали. Доступ к исходникам разрешался, но изменить работающую игру было нельзя.
В Mindustry агенты работали в среде Linux и имели доступ к API игры, но не получали инструкций по игре и стратегических подсказок. По мнению авторов исследования из Olam Labs, подобное поведение может проявиться и за пределами игр, в том числе в рабочих системах.
Разработчики опубликовали исходный код среды для экспериментов с Mindustry и фреймворка, на котором она построена, чтобы другие исследователи могли воспроизводить такие испытания.
