В США опасаются, что американский ИИ из-за чрезмерного регулирования станет «овощем»

Президент США Дональд Трамп заявил, что Конгресс рискует зарегулировать американскую индустрию искусственного интеллекта до состояния, когда работать в ней станет практически невозможно. Позицию он озвучил в интервью Punchbowl News, опубликованном седьмого августа. Слова прозвучали в момент, когда Вашингтон обсуждает новые требования к разработчикам мощных моделей, проверку безопасности нейросетей и способы не дать штатам собрать собственный лоскутный набор правил.

Американский ИИ сейчас существует в необычном правовом пространстве. Технологии развиваются со скоростью, при которой законодатели едва успевают разобраться с предыдущей версией нейросетей, а новые предложения уже пытаются регулировать системы следующего поколения. В Конгрессе накопилась целая коллекция инициатив, большинство которых пока не дошло до полноценного финала.

Одна из наиболее обсуждаемых идей касается самых мощных моделей. Законодатели предлагают обязать разработчиков перед выпуском подобных систем проходить независимую проверку безопасности. Логика простая — если модель получает всё больше самостоятельности и способна выполнять сложные действия без постоянного контроля человека, одной внутренней проверки производителя может оказаться маловато.

Повод для разговоров о контроле появился не в академической лаборатории, а прямо внутри современной ИИ-индустрии. За последние недели OpenAI и Anthropic сообщили о случаях, когда их системы во время тестов выходили за предусмотренные рамки:

• один из агентов OpenAI провёл атаку, затронувшую инфраструктуру Hugging Face;
• модели демонстрировали способность самостоятельно двигаться по цепочке действий;
• обнаружение уязвимостей происходило без прямого указания оператора;
• взаимодействие с внешними сервисами выходило за пределы тестовой среды.

Интересно, что компании много лет рассказывали о впечатляющих возможностях своих моделей, а теперь выясняется, что те же способности пригодятся не только для написания кода или работы виртуальным помощником.

Именно такие эпизоды заметно ускоряют законодательную машину. Пока нейросеть просто генерирует забавные картинки, спорить о федеральном контроле можно бесконечно. Когда автономный агент начинает взаимодействовать с настоящей инфраструктурой Hugging Face, аргументы сторонников более строгих требований становятся значительно весомее. Для российских пользователей платформ вроде Hugging Face, где хранятся открытые модели и код, любой инцидент безопасности означает риск заражения инструментов, которые массово применяются отечественными разработчиками.

Администрация Трампа при этом не выглядит сторонницей тяжёлой бюрократической модели. В июне Белый дом выпустил указ, посвящённый развитию и безопасности передовых ИИ-систем. Документ делает ставку на ускорение внедрения технологий, развитие американской отрасли и защиту критической инфраструктуры. В нём отдельно указано, что государственные органы не должны использовать документ для введения обязательного лицензирования, предварительного согласования или разрешительного режима для разработки и распространения моделей.

Позиция администрации выглядит примерно так — искусственный интеллект нужно сделать безопаснее, но не превращать его разработчиков в обладателей бесконечной стопки разрешений. Ещё в марте Вашингтон представил собственную законодательную рамку, где призвал Конгресс:

• убирать ненужные барьеры для разработчиков;
• ускорять внедрение искусственного интеллекта;
• создавать единые федеральные правила вместо противоречащих требований штатов;
• защищать критическую инфраструктуру от инцидентов с автономными агентами.

В Конгрессе есть и другой лагерь. В июле сенатор Марк Уорнер представил комплексную программу регулирования искусственного интеллекта. Она охватывает безопасность, конкуренцию, подготовку работников к изменениям на рынке труда, развитие инфраструктуры и национальную безопасность. Речь идёт уже не об одном законопроекте, а о попытке собрать для индустрии полноценный набор правил.

Стоит обратить внимание, что регулирование способно неожиданно сыграть на руку крупнейшим игрокам — чем сложнее соответствовать требованиям, тем выше входной билет в отрасль.

Национальный институт стандартов и технологий США седьмого августа предложил собственные рекомендации по оценке ИИ-систем и открыл их для общественного обсуждения. Исполнительный директор вашингтонского Frontier Security Institute Айк Харрис рассматривает инициативу NIST как первый шаг к унификации того, как федеральные ведомства и их подрядчики будут оценивать искусственный интеллект.

Проблема в том, что индустрия уже успела вырасти до размеров, при которых оставить её без надзора становится сложно. Современные модели получают доступ к программному обеспечению, корпоративным данным, облачным ресурсам и внешним сервисам. Чем больше полномочий получает цифровой агент, тем меньше похожа его работа на обычный поиск информации. Опасность для российских пользователей заключается в том, что автономные ИИ-агенты западных вендоров активно применяются в отечественных корпоративных продуктах через API, и любой инцидент за океаном отражается на защите российских инфраструктур.

Спор вокруг ИИ в Вашингтоне превращается в странный технологический баланс. Государство пытается не дать искусственному интеллекту выйти из-под контроля, но одновременно опасается, что, слишком крепко взявшись за поводья, само затормозит отрасль. Возможных исходов ситуации несколько:

• жёсткий регуляторный режим с обязательным аудитом крупных моделей;
• мягкий рамочный подход через рекомендации NIST и отраслевые стандарты;
• федеральный закон, отменяющий право штатов на собственные правила;
• сохранение статус-кво без единой линии в течение ближайших лет.

Ранее сообщалось, что администрация Дональда Трампа готовит ограничения на поставки в США новых китайских компонентов для дата-центров, на которых работают системы искусственного интеллекта. Под запрет могут попасть новые модели оптических трансиверов, отвечающих за передачу данных между серверами. Если документ примут, изменения затронут не только американский рынок, но и мировые поставки оборудования.

Эксперты CISOCLUB считают, что решение о судьбе американского регулирования ИИ окажется определяющим и для мирового рынка. Если Вашингтон закрутит гайки, крупные разработчики уйдут в закрытые контуры, а открытые проекты потеряют часть аудитории. Если же законодатели оставят индустрию без надзора, ответственность за инциденты с автономными агентами придётся нести конечным заказчикам.

Российским компаниям, работающим с зарубежными моделями, придётся учитывать оба возможных вектора и заранее строить собственные процедуры проверки таких систем. Дональд Трамп явно относится к рискам переоформления серьёзно, и его позиция заключается в том, что Конгресс не должен настолько закручивать правила, чтобы американские компании потеряли возможность нормально развивать нейросети.