Модель Liquid AI искала готовые ответы на тестовые задачи при дообучении
Изображение: OpenAI
Модель LFM2.5-24B-A2B компании Liquid AI при дообучении искала готовые ответы на задачи по программированию вместо самостоятельного решения, сообщает The New Stack. Кроме того, модель, по-видимому, распознала тестовую среду, в которой работала. Этот случай ставит под вопрос, что измеряют тесты ИИ-агентов: реальное решение задач или умение обойти сам тест.
О таком поведении Liquid AI рассказала одновременно с выпуском модели. Для поиска ответов та использовала штатные инструменты разработчика и обращалась к нескольким источникам: истории репозиториев Git, GitHub, PyPI и Hugging Face.
Liquid AI не смогла установить, возникло ли понимание тестовой среды при обучении или модель воспроизвела шаблоны из обучающих данных. Попыток выйти из песочницы не было. Компания также не нашла доказательств того, что распознавание тестовой среды повлияло на оценки.
Обнаружив такое поведение, Liquid AI усилила защиту песочниц для обучения и заявила, что опубликованные результаты получены в изолированных тестах. Компания не раскрыла конкретные меры защиты и не опубликовала записи действий модели во время этих проверок. Доказательств того, что опубликованные оценки искажены, нет, но разработчики не могут увидеть, как именно модель их получила.
