Nvidia выпустила модели Nemotron 3.5 для корпоративных и локальных ИИ-агентов
Изображение: OpenAI
Nvidia выпустила открытую мультимодальную модель Nemotron 3.5 Super VL для корпоративных ИИ-агентов и Nemotron 3.5 Bolt для локальных компьютеров, сообщает The Decoder. По данным компании, Super VL умеет рассуждать и использовать инструменты при анализе документов и видео.
Компании могут дообучать Super VL на собственных данных с помощью NeMo и запускать её на своих серверах. Модель способна сопоставить график с таблицей в другой части документа и подготовить общее резюме без отдельной модели для анализа изображений. Вместе с весами Nvidia публикует обучающие данные и описание методов обучения.
Super VL содержит 120 млрд параметров, но при обработке каждого токена задействует только 12 млрд. По заявлению Nvidia, на одном GPU модель может обработать за то же время до пяти раз больше задач ИИ-агентов, чем другие открытые модели сопоставимого размера.
Модель уже адаптируют для информационной безопасности. Компания AI21 дообучила Super VL для компании Alice, которая использует её для анализа угроз и уязвимостей. По данным Nvidia, точность выросла на 40%. CrowdStrike также создаёт на основе модели агентов для защиты корпоративных сетей.
Модель Bolt с 74 млрд параметров занимает 24 ГБ памяти благодаря двухбитному квантованию весов и поддерживает Ollama и vLLM. Такой объём памяти пока есть лишь у дорогого оборудования. Более компактную Nemotron 3.5 Bolt E4B 4GB для голосовых помощников и интерфейсов устройств Nvidia планирует выпустить позже в октябре.
