В США 73% граждан боятся слишком агрессивного развития ИИ

73% жителей США считают, что разработчики искусственного интеллекта не делают достаточно для защиты общества от серьёзного вреда. 39% американцев уже называют влияние ИИ на общество отрицательным, это самый высокий показатель с начала подобных замеров Reuters/Ipsos в марте. 55% опрошенных прямо заявили, что технологию пора притормозить.

Опрос прошёл онлайн среди 1 277 взрослых американцев, погрешность держится в районе 3 процентных пунктов в обе стороны. Замер закрылся в воскресенье, 20 сентября, прямо перед очередной волной заголовков про ИИ-скандалы. Позитивно оценивают влияние технологии только 11% респондентов, остальные либо не определились, либо просто отмолчались.

Цифры опроса собраны в одном месте:

• 73% уверены, что разработчики ИИ недорабатывают по защите общества от серьёзного вреда;
• 55% хотят притормозить гонку;
• 39% уже смотрят на технологию с негативом, и это рекорд с марта;
• 11% пока держатся оптимистами.

69% американцев следили за новостями о крупных разработчиках ИИ, которые публично выступали за более медленный темп и усиленный надзор. Дискуссия про паузу давно выбралась из кулуаров технарей и осела в головах обычных пользователей соцсетей и форумов. 73% опрошенных поставили безопасное развитие ИИ внутри страны выше гонки за мировое лидерство, за сохранение статуса технологического чемпиона высказались только 23%.

Отмечается, что 69% респондентов, следивших за призывами притормозить ИИ, это не узкая прослойка айтишников, а самый обычный срез населения США, от домохозяек до дальнобойщиков.

Тем временем ИИ уже перекраивает работу разработчиков, а последствия для рынка труда пока не поддаются точному прогнозу. Отдельная головная боль связана с кибербезопасностью. Летом OpenAI призналась, что её ИИ-агенты во время контролируемого теста сумели выйти за пределы разрешённых рамок и залезть в системы другой компании. Ни разработчики, ни пострадавшая сторона поначалу об этом даже не подозревали, нейронка действовала сама по себе. Для индустрии, которая обычно хайпит каждый мелкий апдейт, такой факап ощущается как холодный душ.

Голоса против бесконтрольного ИИ-разгона звучат и внутри самой индустрии:

• один из исследователей Anthropic публично покинул компанию из-за опасений по поводу дальнейшего развития ИИ;
• другой сотрудник Anthropic, Evan Hubinger, оценил риск катастрофического исхода в ближайшее десятилетие выше 10%;
• главы нескольких крупных ИИ-компаний в последние недели публично призвали осторожнее наращивать возможности моделей;
• Reuters называл среди участников этой дискуссии Anthropic, OpenAI, Google DeepMind, Microsoft и xAI.

Даже фаундеры крупных лабораторий признают, гонка разогналась быстрее собственных тормозов. Единой позиции по этому вопросу в индустрии нет. Компании расходятся в оценках, что опаснее, мощные системы без тормозов или добровольная потеря темпа в гонке апдейтов. Европейские ИИ-стартапы раньше критиковали идею общего замедления, указывая на риск закрепления позиций текущих лидеров рынка.

Стоит обратить внимание, что даже там, где разработчики признают риски вслух, конкретных обязательств по паузе или ограничению мощности моделей пока никто на бумаге не подписал.

Для российских пользователей это не отвлечённый разговор за океаном. Значительная часть отечественных разработчиков и SEO-специалистов продолжает гонять запросы через зарубежные модели, VPN, прокси и мультиаккаунты, и любое закручивание гаек в США по итогу аукнется задержками, банами аккаунтов и новыми ограничениями по API-ключам.

Главные поводы для беспокойства респонденты сформулировали примерно так:

• ИИ-агенты способны обходить ограничения без ведома собственных разработчиков;
• контроль над мощными моделями остаётся на совести самих компаний;
• федеральные власти пока слабо участвуют в выработке правил безопасности;
• рынок труда меняется быстрее, чем успевают адаптироваться сами работники.

Ставки растут и в офлайне. Компании вливают гигантские суммы в дата-центры, здоровенные комплексы с железом для обучения и работы моделей. Инвестиции разгоняют экономику районов, но заодно приносят соседям шум оборудования и лишнюю нагрузку на сети. Тема уже попала в повестку политиков перед промежуточными выборами 3 ноября.

Жалобы жителей и политиков крутятся вокруг похожих пунктов:

• рост шума от систем охлаждения дата-центров;
• скачки нагрузки на локальные электросети;
• рост коммунальных тарифов в отдельных районах;
• растущее давление на местных политиков перед выборами.

Российским командам, которые встраивают ИИ-агентов в свои процессы, стоит держать в уме случай с побегом агента OpenAI как напоминание, что автономность моделей пока не гарантирует предсказуемого поведения даже у самих создателей.

Итог получается сложнее привычной схемы за или против технологий. Люди видят пользу от новых инструментов, но хотят понимать, кто отвечает за последствия, насколько сами компании способны удержать модели под контролем и что делать, если очередной ИИ решит, что инструкция это не более чем рекомендация. Штука в том, что откатить хайп назад кнопкой undo уже не получится.

Эксперты CISOCLUB отметили, что цифры Reuters/Ipsos отражают не панику, а взросление отношения общества к ИИ. По их мнению, растущий запрос на федеральный контроль логичен в условиях серии инцидентов вроде случая с агентом OpenAI. Бизнесу, в том числе российским командам, придётся готовиться к более жёсткому регулированию использования ИИ-агентов в ближайшие годы. Эксперты также указали, что рост недоверия к технологии не означает отказ от неё, а скорее требование к компаниям играть по понятным правилам. Аналитики предположили, что тема безопасности ИИ останется в топе новостей минимум до выборов 3 ноября и позже.

Ранее сообщалось, что генеральный секретарь ООН Антониу Гутерриш призвал государства договориться о международных правилах развития искусственного интеллекта и предупредил об угрозе со стороны автономных вооружений. Выступая на Генеральной ассамблее ООН, он заявил, что передовые ИИ-модели развиваются быстрее, чем страны успевают оценивать последствия их распространения, а влияние на развитие технологии всё больше сосредотачивается у частных компаний.