Пентагон хочет получить от OpenAI ИИ, который вообще не будет отклонять запросы

Рассекреченные в суде документы показали, что Пентагон обсуждал версию ИИ от OpenAI с минимальным количеством отказов на военные запросы. OpenAI и министерство обороны США заявили, что спорная формулировка была в черновике документа и не попала в подписанный контракт. Всплыло всё это после запроса издания The Intercept, поданного по закону о свободе информации.

Материалы касались соглашений между Пентагоном и разработчиками ИИ, и один из опубликованных вариантов описывал работу по тестированию, оценке и доработке моделей OpenAI под оборонные задачи. Речь шла не о готовом продукте, а о промежуточной версии документа, которую ведомство составило до финальных правок.

В черновике фигурировала идея отдельных моделей для государственных и национальных задач, которые:

• получали специализированную настройку под запросы военного характера;
• должны были заметно реже отклонять обращения от пользователей внутри ведомства;
• описывались формулировкой «минимальный уровень отказов» прямо в тексте документа;
• предполагали отдельный цикл тестирования и доработки под нужды Минобороны США.

Для обычного чат-бота такая формулировка звучит примерно как просьба выключить внутреннего цензора и фигачить всё, что попросят, без лишних вопросов. Публичные модели годами тренируют на прямо противоположном поведении, поэтому подобная идея сразу считывается айтишной аудиторией как редкий кейс, а не рутинная строчка в техзадании.

Стоит обратить внимание, что подобная формулировка на деле означала фактический отказ от базовых ограничений безопасности, встроенных в большинство публичных моделей, и поэтому черновик вызвал такой отклик после публикации.

Представитель OpenAI Нейт Эванс заявил, что компания никогда не принимала условие о минимальном уровне отказов и подобного требования нет в подписанном соглашении. По его словам, опубликованный материал оказался более ранним черновиком Минобороны, подготовленным до того, как OpenAI внесла собственные правки. Компания подтвердила, что спорную формулировку отклонила на этапе согласования, поэтому в окончательный договор она не попала.

Позиция OpenAI после публикации сводится к нескольким пунктам:

• компания не соглашалась на условие о минимальном уровне отказов;
• опубликованный текст представляет собой более раннюю редакцию Минобороны;
• в подписанном соглашении спорной формулировки нет;
• полный текст контракта компания публично так и не раскрыла.

Пентагон подтвердил ту же версию событий. Представитель ведомства Тревор Тидеман сказал, что словосочетание «минимальный уровень отказов» отсутствует в действующих контрактах, а разночтения могли возникнуть из-за путаницы между рабочими материалами и окончательными соглашениями. Колорита добавил юрист оборонного ведомства, который сначала подтвердил подлинность и содержание спорного документа, а затем отозвал собственное заявление, что для подобных судебных бумаг случай нечастый.

Для российских разработчиков нейросетей вся эта возня вокруг одной фразы любопытна сама по себе. Она показала, что даже крупные западные оборонные структуры не готовы публично признавать снятие ограничений с ИИ, хотя явно к этому склоняются на уровне черновиков и рабочих переписок.

Тидеман также говорил, что собирается выяснить, каким образом спорный документ прошёл внутренние процедуры проверки и оказался среди материалов, переданных по запросу. Сам запрос The Intercept изначально был направлен на получение завершённых соглашений по военным ИИ-контрактам, а не промежуточных версий. После публикации в Пентагоне заявили, что выданный материал мог быть одной из предыдущих редакций, а не итоговым текстом договора.

Спор вокруг одной формулировки поднял вопросы куда шире конкретного контракта:

• сколько контроля разработчик коммерческой модели сохраняет после того, как она уходит в военную инфраструктуру;
• где заканчивается гражданский ИИ с фильтрами и начинается военный ИИ без них;
• как черновые утечки влияют на доверие к оборонным сделкам с техкомпаниями;
• получат ли другие поставщики моделей похожие условия от того же заказчика.

Обычные коммерческие системы, с которыми все сталкиваются каждый день, оснащены ограничениями, которые не дают им помогать с рядом опасных задач. Публичные чат-боты отказываются от запросов, связанных с подготовкой взрывчатки, написанием вредоносного кода или продвижением экстремистских материалов, и делают это независимо от формулировки просьбы.

Обычно публичная модель отказывается вот от чего:

• инструкций по изготовлению взрывчатых веществ и оружия;
• вредоносного кода, эксплойтов и инструментов для атак на инфраструктуру;
• материалов, продвигающие экстремизм и насилие;
• попыток обхода собственных систем защиты и модерации модели.

Отмечается, что этот набор ограничений и предлагалось смягчить для версии модели, работающей в интересах оборонного ведомства, а это и стало главным поводом для резонанса вокруг черновика.

Российские компании, которые работают с зарубежными ИИ-провайдерами через партнёров и реселлеров, тоже следят за подобными случаями. Прецедент с Пентагоном способен задать тон будущим требованиям к моделям от государственных заказчиков далеко за пределами США.

Эксперты CISOCLUB посчитали, что споры вокруг формулировок в черновиках неизбежны при переходе коммерческого ИИ в оборонную сферу, поскольку сами контракты редко публикуются целиком. Они отметили, что отзыв первоначального заявления юриста Пентагона случается нечасто в подобных судебных материалах и может говорить о внутренних разногласиях в ведомстве.

По их мнению, полная прозрачность подобных соглашений вряд ли появится в ближайшее время, ведь оборонные контракты традиционно закрыты для широкой публики. Специалисты добавили, что интерес к теме сохранится, пока OpenAI и другие крупные разработчики не раскроют более подробные условия сотрудничества с военными структурами. Они также допустили, что похожие требования могут появиться у других поставщиков моделей, работающих с государственными заказчиками по всему миру.

Ранее сообщалось, что Пентагон разрабатывает новую киберстратегию, которая впервые официально может разрешить частным компаниям участвовать в наступательных операциях американских военных. По словам источников, знакомых с проектом документа, подрядчики смогут не только защищать инфраструктуру, но и совместно с государственными структурами атаковать хакерские группировки. Новый подход может существенно изменить соотношение ролей военных и бизнеса в киберпространстве.