ModelBest выпустила открытую ИИ-модель MiniCPM-V 4.7 для смартфонов и ПК
Изображение: OpenAI
Компания ModelBest выпустила мультимодальную модель MiniCPM-V 4.7 для смартфонов и ПК, сообщает Pandaily. Компания опубликовала веса, код и документацию версий 35B-A3B и 1B в репозитории OpenBMB на GitHub под лицензией Apache-2.0.
В практических тестах издания QbitAI модель анализировала диаграммы и преобразовывала научные статьи в Markdown на телефоне без подключения к интернету. Такой сценарий рассчитан на локальную работу с конфиденциальными документами.
Версия 35B-A3B стала первой в серии MiniCPM-V моделью с архитектурой «смеси экспертов» (MoE): при обработке каждого токена она активирует около 3 млрд параметров. По заявлению ModelBest, на iPhone 17 Pro Max ей требуется около 3 ГБ памяти при скорости генерации более 13 токенов в секунду. Компания связывает этот результат с новым методом ускорения работы модели и утверждает, что модель работает на устройстве без потери качества.
Вместе с MiniCPM-V 4.7 компания опубликовала методику дообучения. Она должна помочь разработчикам с небольшими затратами добавлять новые возможности и уменьшать потерю уже освоенных навыков.
