Гендиректор OpenAI Альтман предупредил о риске чрезмерной концентрации власти над ИИ

Гендиректор OpenAI Сэм Альтман заявил, что его беспокоит перспектива мира, в котором развитие искусственного интеллекта окажется сосредоточено в руках нескольких крупных компаний. По его мнению, такая концентрация способна лишить общество возможности влиять на то, как ИИ будет менять окружающий мир.

Своими опасениями Альтман поделился в подкасте Дэвида Сенры. Руководитель OpenAI считает, что развитие нейросетей должно идти вместе с изменениями в обществе, а люди должны сохранять возможность определять направление технологического прогресса.

По мнению Альтмана, существует и обратная угроза — ситуация, при которой искусственный интеллект получит слишком большую самостоятельность и перестанет полностью подчиняться человеку. Страх перед автономным ИИ способен подтолкнуть людей к концентрации контроля у нескольких крупных игроков, которые будут обещать гарантировать защиту.

Альтман считает эти 2 угрозы взаимосвязанными — чем сильнее общество пугает перспектива выхода ИИ из-под человеческого контроля, тем выше может становиться готовность пожертвовать частью свободы ради ощущения защищённости.

Судя по всему, среди людей, которых имеет в виду Альтман, находится гендиректор Anthropic Дарио Амодеи. Руководитель компании неоднократно говорил о возможных последствиях ускоренного развития передовых моделей и призывал серьёзно относиться к возникающим угрозам.

В июне Амодеи опубликовал эссе, посвящённое новым моделям Mythos, в котором оценил передовые системы искусственного интеллекта как источник конкретных рисков для киберпространства, национальной безопасности, финансовой сферы и критической инфраструктуры.

Спор внутри индустрии сводится к двум разным опасениям:

• Альтман боится, что несколько компаний получат возможность определять, какие модели создаются и как они влияют на общество;
• Амодеи предупреждал о рисках, которые могут возникнуть, если сами модели станут слишком мощными и самостоятельными.

Позиция OpenAI при этом выглядит любопытно из-за положения самой компании — она входит в число крупнейших разработчиков ИИ и обладает большим влиянием на развитие отрасли, поэтому предупреждение Альтмана о чрезмерной концентрации контроля звучит немного парадоксально.

На другом полюсе дискуссии находится Anthropic — компания Амодеи неоднократно обращала внимание на возможные последствия появления всё более мощных моделей и стала единственной крупной ИИ-компанией, не присоединившейся к письму в поддержку моделей с открытым исходным кодом.

В результате спор получается не столько о том, нужен ли человечеству искусственный интеллект, сколько о том, кто будет держать руку на его пульсе. Обе угрозы могут оказаться связанными — желание максимально обезопасить человечество способно привести к усилению контроля, а чрезмерная концентрация контроля — к ситуации, в которой судьба технологии будет зависеть от решений очень небольшого числа компаний.

Ранее сообщалось, что более трети англоязычных сайтов, появившихся после запуска ChatGPT, содержат признаки машинной генерации — по данным Pew Research, доля таких страниц достигла 35%, а на отдельных платформах, например в LinkedIn, доля длинных постов, написанных нейросетями, превысила 40%.