Nvidia сформировала альянс по открытой защите ИИ, но без OpenAI, Google и Anthropic

Nvidia вместе с 36 компаниями запустила Open Secure AI Alliance для разработки открытых инструментов защиты ИИ-систем. В состав вошли Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palo Alto Networks, Red Hat и другие игроки рынка, но среди учредителей не оказалось трёх главных создателей закрытых моделей — OpenAI, Google и Anthropic. Коалиция намерена строить защиту вокруг открытых стандартов, а не проприетарных решений.

Получилась смешанная компания из производителей железа, облачных платформ, разработчиков ПО и специалистов по киберзащите. Вместо очередной гонки за самой мощной нейросетью участники решили сосредоточиться на другой задаче — как сделать ИИ-инструменты проверяемыми и управляемыми в момент, когда цифровые агенты начинают самостоятельно выполнять всё больше операций внутри корпоративных систем. За основу взяли инициативу Akrites от Linux Foundation и разработки сообщества OpenSSF.

Интересно, что коалиция формируется без участия трёх компаний, которые фактически задают темп всей отрасли генеративного ИИ.

Планируемый набор инструментов охватит разные уровни работы ИИ-агентов. В него войдут:

• механизмы идентификации агентов и сервисов;
• изоляция процессов и разграничение прав;
• безопасные форматы хранения весов моделей;
• одновременная проверка нескольких моделей;
• защищённые процессы создания программного кода.

Каждый участник принёс в проект собственные наработки. Nvidia открыла на GitHub фреймворк NOOA для тестирования поведения ИИ-агентов и аудита их действий. HPE развивает стандарты SPIFFE и SPIRE, связанные с zero-trust-идентификацией — они позволяют проверять цифровую личность сервисов и агентов, чтобы к корпоративным ресурсам получали доступ только разрешённые процессы. Hugging Face передала в PyTorch Foundation формат Safetensors для более безопасного обмена параметрами нейросетей, снижающий риски выполнения нежелательного кода при загрузке моделей.

IBM и Red Hat развивают проект Lightwell, добавляющий цифровую подпись обновлений и исправлений в цепочку поставки ПО. Microsoft отдала MDASH — платформу для проверки ИИ-агентов, где несколько специализированных систем ищут уязвимости и анализируют найденные проблемы. SpaceXAI открыла исходный код терминального ИИ-агента Grok Build для работы с программированием и объявила о планах публикации весов моделей линейки Grok.

Аргументация сторонников открытого подхода строится вокруг простой мысли — защиту невозможно возводить исключительно вокруг закрытых решений. Открытые системы дают большему числу специалистов возможность искать ошибки, разбирать внутреннее устройство и адаптировать защиту под конкретные задачи. Для российских пользователей и компаний это тоже прямой сигнал: часть западных ИИ-сервисов давно недоступна, и открытые модели остаются одним из немногих способов получить проверяемую технологию без привязки к закрытому поставщику.

В Nvidia не скрывают обратную сторону вопроса — открытые модели могут применяться и во вред. Однако сама компания настаивает, что закрытый формат угрозы не устраняет, потому что атакующие всё равно ищут способы обхода ограничений. Одним из примеров в пользу открытости в альянсе называют недавний инцидент с Hugging Face, когда закрытые ИИ-инструменты не смогли отличить действия защитников от действий атакующих и заблокировали работу аналитиков.

Стоит обратить внимание, что после инцидента Hugging Face развернула модель с открытыми весами GLM 5.2 на собственной инфраструктуре — система помогла изучить более 17 тысяч действий агента и провести расследование.

Отдельное обращение коалиция направила регуляторам. Компании предлагают воспринимать открытые модели, инструменты управления агентами и средства защиты не как угрозу, а как элемент обороны цифровой инфраструктуры. В Nvidia считают, что чрезмерные ограничения для открытых ИИ-систем приведут к обратному эффекту — зависимость от нескольких крупных закрытых поставщиков вырастет, а возможности независимой проверки технологий снизятся. Для российских организаций такой поворот несёт свои риски — если открытая экосистема ослабнет, доступ к проверяемым инструментам сократится ещё сильнее.

Участники Open Secure AI Alliance намерены развивать общую инфраструктуру защиты. В неё войдут:

• наборы данных для проверки моделей;
• системы оценки качества и устойчивости;
• симуляторы атак на ИИ-агентов;
• инструменты командных проверок безопасности;
• механизмы аудита действий цифровых агентов.

Отдельно в альянсе напоминают, что ИИ-агент — это не одна языковая модель. Реальная система состоит из множества элементов: самой модели, программной оболочки, правил доступа, журналов действий и механизмов контроля. Безопасность придётся выстраивать вокруг всей цепочки, а не только вокруг вопроса о том, открыт или закрыт код модели. Nvidia рассчитывает, что открытые исследования ускорят разработку новых средств защиты, и передаёт в проект модели, данные и наработки, связанные с созданием ИИ-агентов для задач кибербезопасности.

Ранее сообщалось, что Япония совместно с Nvidia запускает промышленную ИИ-платформу FRONTia, ориентированную на создание национальной инфраструктуры искусственного интеллекта. В проект планируется вложить до одного триллиона иен, а вычислительной основой станет центр Vera Rubin AI Factory. Разработчики намерены создать мультимодальные модели, способные работать не только с данными, но и управлять физическими объектами — роботами, транспортными системами и промышленным оборудованием. Эксперты отмечают, что появление подобных платформ формирует новые технологические центры влияния и может определить развитие промышленной робототехники в ближайшие годы.

По мнению редакции CISOCLUB., появление Open Secure AI Alliance выглядит как разумный ответ на быстрое распространение автономных ИИ-агентов в корпоративной среде. Экспертная редакция обращает внимание на любопытный расклад сил — тройка лидеров рынка закрытых моделей осталась за бортом коалиции, и это заметный политический сигнал.

Открытые инструменты защиты действительно повышают прозрачность и снижают зависимость от одного поставщика, что критично и для российских команд по кибербезопасности. Одновременно нельзя забывать, что открытые модели облегчают работу и атакующим, поэтому баланс придётся искать долго. По этому поводу редакция считает, что реальный успех проекта покажет только практика первых внедрений и качество совместной работы участников альянса.