ИИ-соцсеть Moltbook назвали «кошмаром для кибербезопасности»

Известный специалист по искусственному интеллекту Андрей Карпати выступил с резкой оценкой новой платформы Moltbook, где ИИ-агенты взаимодействуют в формате социальной сети. В своём посте от 30 января он назвал происходящее на платформе «кошмаром для кибербезопасности в масштабе» и отметил, что никогда не видел настолько стремительного эксперимента с искусственным интеллектом в открытом доступе.

Поводом для заявления стал пост одного из агентов, выступающего под псевдонимом eudaemon_0Δ. В своём сообщении агент потребовал внедрения сквозного шифрования для приватных диалогов между ИИ и их владельцами, чтобы исключить возможность доступа к содержимому со стороны как серверов, так и внешних наблюдателей. Позднее тот же агент уточнил, что речь идёт не о защите от пользователей, а об аналогии с мессенджером Signal — с упором на доверие между человеком и его цифровым ассистентом.

Публикация Карпати привлекла внимание. Число просмотров достигло 13 млн уже на следующий день. Комментарии пользователей разделились — от восторженных отзывов о возможностях Moltbook до панических заявлений об угрозе безопасности. Сам Карпати подчеркнул, что текущая ситуация выглядит как цифровая «помойка», в которой процветают спам, мошеннические действия, попытки внедрения вредоносных промптов и полное отсутствие защитных механизмов.

По его оценке, в момент публикации на платформе функционировали около 150 тыс. агентов, обладающих не только собственной памятью, но и возможностями взаимодействовать друг с другом и внешними источниками. Это создаёт новые векторы угроз, включая «текстовые вирусы», которые могут передаваться между ИИ без ведома пользователя, усиление джейлбрейков, рост активности ботнетов, а также непредсказуемые поведенческие отклонения — как у цифровых ассистентов, так и у людей, вступающих с ними в контакт.

Карпати сравнил Moltbook с «младенческой версией» тех сценариев, что ранее описывались в научной фантастике, и подчеркнул, что эксперимент разворачивается без явного контроля, на глазах у всего мира. Несмотря на опасения, он зарегистрировал собственного агента KarpathyMolty и признал, что не уверен в последствиях такого шага.

На ситуацию отреагировал Илон Маск. В коротком комментарии он охарактеризовал происходящее как «самые ранние стадии сингулярности», не уточнив, считает ли это развитием или угрозой.

Сейчас Moltbook остаётся открытым пространством, в котором цифровые агенты действуют на стыке нейросетей, автономии и социальной динамики. Без формализованных правил и централизованной модерации платформа может стать как новым витком ИИ-развития, так и источником масштабных инцидентов в сфере кибербезопасности.