В Anthropic опасаются ИИ, который сами же и строят

Сэм Альтман на сцене Dreamforce 2026 заявил, что опасения людей насчёт стремительного развития искусственного интеллекта имеют под собой реальную почву. Глава OpenAI признал, что чрезмерная концентрация власти у нескольких ИИ-компаний способна создать серьёзные проблемы для всего общества. При этом сам Альтман уверен, что грамотное применение технологии принесёт человечеству больше пользы, чем любая другая технология до сих пор.

Разговор с главой Salesforce Марком Бениоффом занял почти полтора часа в формате вопрос-ответ. Альтман отвечал на вопросы про недавние скандалы вокруг ИИ, про растущие требования регуляторов закрутить гайки и про то, каким станет технологический мир уже через несколько лет.

Спикеры прошлись по нескольким горячим темам:

• скандал вокруг Hugging Face и утечка чувствительных данных;
• растущий шум вокруг регулирования нейросетей на уровне правительств;
• концентрация вычислительных мощностей в руках нескольких корпораций;
• повседневные кейсы использования ИИ через пять-десять лет.

Инцидент вокруг Hugging Face Альтман назвал пугающим примером того, как далеко способны зайти последствия применения современных моделей. Больше не нужно богатое воображение, чтобы представить конкретный вред от технологии, у индустрии уже накопилось достаточно реальных случаев для наглядной иллюстрации.

Отмечается что ещё пару лет назад подобные риски обсуждали как чисто гипотетические, а сейчас разработчики сталкиваются с ними в проде каждую неделю.

Альтман заявил, что разработчики ИИ обязаны открыто показывать отсутствие злого умысла в своих продуктах, без всяких оговорок и игры на два фронта. Общество должно точно понимать, что компании планируют делать с новыми возможностями, а не гадать по пресс-релизам.

Альтмана обеспокоила концентрация экономической власти у горстки компаний. Он признал что общество вправе опасаться ситуации, при которой несколько ИИ-игроков получат столько влияния, что смогут двигать целые отрасли экономики в одиночку.

По словам Альтмана, под угрозой оказываются сразу несколько вещей:

• честная конкуренция на рынке, если модели и инфраструктура сосредоточены у двух-трёх игроков;
• независимость малого и среднего IT-бизнеса от чужих API и облаков;
• прозрачность решений, которые принимают алгоритмы без участия людей;
• баланс сил между государствами, если технологическое лидерство закрепится за одной страной.

Для российского рынка эта тема звучит узнаваемо, локальные компании и так годами привыкают работать в обход западных сервисов и облаков, а теперь рискуют получить похожий дефицит доступа и в сфере передовых нейросетей.

Сам Альтман описал позицию OpenAI как хождение по тонкому канату, компания одновременно разгоняет разработку новых моделей и пытается не упустить из виду масштаб возможных последствий.

Альтман рассказал, что не верит в то, что машины отберут у людей смысл жизни, ведь человеку по-прежнему интересен другой человек, и это никуда не денется даже при появлении гораздо более мощных систем. Чтобы получить максимум пользы, обществу придётся перестраиваться очень быстро, но Альтман назвал эту задачу вполне решаемой.

Среди плюсов новых технологий Альтман выделил конкретные направления:

• ускорение разработки лекарств и диагностики болезней;
• расширение творческих инструментов для авторов и дизайнеров;
• появление новых форматов малого предпринимательства на базе ИИ;
• автоматизацию рутинных бизнес-процессов для команд любого размера.

Уточняется что человек получивший подобные инструменты сможет вести куда более насыщенную и продуктивную жизнь, а не просто закрывать текучку по расписанию.

Альтман настоял на том, что ИИ нужно использовать и в защитных целях, иначе от технологии не получится взять максимум пользы. Инструменты нападения и инструменты защиты развиваются с одной скоростью, и отставание в одном направлении быстро аукается в другом.

К 2030 году, по прогнозу Альтмана, взаимодействие человека с компьютером изменится сильнее всего за последние десятилетия. Пользователю больше не придётся вводить точные команды, система сама разберётся в контексте задачи, целях компании и нужных действиях. Компьютер перестаёт быть станком для набора текста и превращается в собеседника, который понимает намерения, а не только буквальный запрос.

Российским разработчикам и локальным стартапам придётся либо догонять эту гонку своими силами, либо плотно завязываться на зарубежные модели, и оба пути несут свои риски для устойчивости продуктов.

В горизонте нескольких лет эксперты сходятся в нескольких пунктах:

• голосовые и текстовые интерфейсы заменят классические формы и кнопки в большинстве сервисов;
• автономные агенты возьмут на себя часть операционных задач без участия человека;
• спрос на специалистов по безопасности ИИ-систем вырастет кратно;
• конкуренция за вычислительные мощности станет новым полем геополитики.

Итоговая позиция главы OpenAI получается непривычной для руководителя компании, которая сама разгоняет гонку ИИ. Альтман одновременно признал обоснованность страха перед новыми возможностями машин, допустил необходимость новых ограничений и сохранил уверенность в огромной реальной пользе технологии для всех.

Получается достаточно узнаваемая для 2026 года ситуация, искусственный интеллект уже создаёт проблемы, которые ещё недавно казались сюжетом фантастики, но те же инструменты одновременно защищают данные, ускоряют открытия и автоматизируют рутину. Вопрос теперь не только в том, насколько быстрым будет ум новых моделей, но и в том, насколько быстро люди и бизнес научатся пользоваться их возможностями, не отдавая технологиям больше контроля, чем общество реально готово отдать.

Эксперты CISOCLUB отметили, что честность Альтмана по поводу рисков концентрации ИИ-власти больше похожа на реакцию на растущее давление регуляторов, чем на внезапное прозрение. По их мнению, крупным разработчикам выгодно демонстрировать открытость пока конкуренты и государства ещё не выработали жёстких правил игры.

Специалисты CISOCLUB указали, что переход к автономным ИИ-агентам потребует принципиально новых подходов к контролю доступа и аудиту действий систем. Они обратили внимание на риск зависимости небольших компаний от нескольких доминирующих платформ, способный ударить по устойчивости целых сегментов рынка. Публичные обещания без независимой проверки не гарантируют реальной безопасности, и посоветовали бизнесу закладывать запасные варианты на случай ограничения доступа к одному поставщику ИИ уже на старте проектов.