В ООН призвали ввести правила для ИИ, но Трамп намерен развивать нейросети ещё быстрее

Генеральный секретарь ООН Антониу Гутерриш призвал государства заключить международное соглашение о правилах развития искусственного интеллекта и отдельно предупредил об опасности автономных вооружений. На Генеральной ассамблее ООН он заявил, что передовые модели развиваются быстрее, чем страны успевают разбираться с последствиями, а рычаги влияния всё активнее перетекают к частным компаниям.

Скорость апдейтов у топовых ИИ-лабораторий сейчас такая, что регуляторы физически не поспевают за релизами. Гутерриш связал этот разгон с более широким сдвигом баланса сил в мире, где разработка самых мощных моделей сосредоточена у горстки корпораций и отдельных миллиардеров, а не у государств.

По словам генсека ООН, странам стоит договориться о нескольких вещах сразу, чтобы не остаться в стороне от процесса:

• сохранить прозрачность разработки самых мощных моделей;
• выстроить каналы для переговоров между странами и вендорами;
• закрепить ответственность за странами с наибольшими возможностями в ИИ;
• не допустить превращения гонки моделей в гонку без правил.

Заявление Гутерриша появилось следом за целой серией предупреждений от исследователей и глав крупнейших ИИ-компаний. Специалисты обсуждают не только влияние нейросетей на рынок труда, но и риск того, что автономные системы начнут действовать так, как разработчики не планировали, и это нельзя будет откатить одним патчем.

В понедельник OpenAI тоже высказалась за международные стандарты безопасного развития ИИ. Компания, запустившая текущую волну хайпа вокруг генеративных моделей после релиза ChatGPT в 2022 году, назвала общие правила одним из инструментов снижения рисков.

Для российских пользователей это не заокеанская возня чиновников. Локальные сервисы и чат-боты в основном работают поверх тех же зарубежных моделей или их клонов, и любые новые международные нормы рано или поздно долетят и до рунета.

В тот же день экспертная группа ООН по искусственному интеллекту опубликовала доклад о рисках автономных моделей, их возможном несоответствии заданным целям и потере человеческого контроля над системой. Авторы разобрали в документе инцидент с OpenAI и Hugging Face как отдельный кейс.

Дискуссия о правилах для ИИ сейчас идёт сразу по нескольким трекам:

• более 20 стран и Евросоюз предложили обязательные проверки безопасности топовых моделей;
• обсуждается создание отдельной международной структуры для надзора за самыми мощными системами;
• ООН уже выпустила доклад о рисках автономных моделей и их возможном несоответствии целям;
• в докладе разобран инцидент с OpenAI и Hugging Face как отдельный пример.

Тема автономного оружия давно выбралась за пределы научной фантастики и легла на стол мировых лидеров. В мае папа Лев призвал не превращать ИИ в инструмент, способный угрожать человечеству. Похожие опасения ранее озвучивали премьер-министр Канады Марк Карни и президент Франции Эммануэль Макрон.

Стоит обратить внимание, что список опасений с 2017 года вырос в разы, а сам разговор о нейросетях давно вышел за рамки чат-ботов и офисных помощников.

Самым заметным исключением из общего хора остаётся президент США Дональд Трамп. Он выступает против торможения разработки ИИ и считает технологическое первенство США критичным для соперничества с Китаем.

В понедельник Трамп заявил в своей соцсети, что страна опережает Китай и другие государства и намерена удержать это положение. Слишком жёсткие ограничения отрасли, по его логике, просто отдадут преимущество конкурентам.

Госсекретарь США Марко Рубио во вторник объяснил позицию администрации необходимостью оставаться впереди в технологической гонке. По его словам, раз развитие ИИ продолжится в любом случае, США должны получать от этого процесса экономические и стратегические плюсы, а не наблюдать со стороны.

Инвестиционный бум вокруг ИИ уже разогнал часть американской экономики. Огромные вложения в инфраструктуру под нейронки поддержали рост ВВП и подтолкнули фондовый рынок США перед промежуточными выборами в ноябре. России в этой гонке инфраструктуры отводится роль скорее наблюдателя, но санкционные ограничения на чипы и облака бьют по локальным дата-центрам ничуть не менее чувствительно, чем гипотетические будущие нормы ООН.

Позиция Вашингтона держится на нескольких аргументах:

• США считают лидерство в ИИ частью соперничества с Китаем;
• Трамп выступает против новых ограничений разработки моделей;
• Рубио связывает отказ от гонки с потерей экономических и стратегических выгод;
• инвестиции в инфраструктуру ИИ уже разгоняют рост экономики и рынков.

Гутерриш предупреждает об опасностях ИИ практически с первого дня на посту генсека. В 2017 году на своей первой Генассамблее он говорил, что технология ускорит развитие, но заденет рынок труда, международную безопасность и устройство общества.

За 9 лет список опасений заметно расширился. Разговор давно вышел за пределы автоматизации профессий и роста неравенства, а в фокусе оказались автономные модели, применение ИИ в кибератаках и потенциальное использование технологии при разработке биологического оружия.

Круг рисков, который сейчас держит в уме ООН, охватывает сразу несколько направлений:

• автоматизация профессий и рост неравенства на рынке труда;
• применение ИИ в кибератаках и таргетированных операциях;
• потенциальное использование моделей при разработке биологического оружия;
• боевые платформы с элементами автономности и риск потери контроля над ними.

Уже сейчас существуют боевые платформы с элементами автономности, и дальнейшее развитие моделей способно расширить их возможности без прямого участия человека в принятии решений. Гутерриш считает проблемой не саму технологию, а ситуацию, когда новые возможности появляются без ответственности и контроля за тем, что система делает дальше.

США и Китай продолжают бороться за технологическое лидерство, компании наращивают вычислительные мощности, а ООН пытается перевести разговор из плоскости гонки в плоскость правил. Главный вопрос теперь не только в том, насколько мощной станет следующая модель, но и в том, кто и по каким правилам решит, что ей разрешено делать.

Эксперты CISOCLUB отметили, что призыв Гутерриша прозвучал в момент, когда регуляторка и разработка моделей идут в разных скоростных режимах. Без международных правил ответственность за сбои автономных систем так и останется размытой между вендорами, странами и военными ведомствами. Для рынков вроде российского самый чувствительный вопрос не философия контроля над ИИ, а доступ к железу и облакам, от которого зависит локальная разработка. Разговор об автономном оружии перестал быть теоретическим ещё до появления единых норм, а значит откладывать соглашение дальше уже некуда. Ближайшие месяцы, вероятно, покажут, готовы ли крупнейшие игроки хотя бы на минимальный набор общих правил.

Ранее сообщалось, что президент США Дональд Трамп заявил о наличии у американских властей уголовных и регуляторных механизмов для воздействия на компании, занимающиеся искусственным интеллектом. При этом он выступил против призывов замедлить развитие ИИ и связал подобные предложения с интересами Китая, заявив об этом в публикации в Truth Social. Отдельно Трамп упомянул главу Anthropic Дарио Амодеи, который ранее призвал отрасль развивать технологию более осторожно, и выразил несогласие с представлением ускоренного развития ИИ как угрозы, требующей жёстких ограничений.