Власти США потребовали у OpenAI объяснить взлом Hugging Face автономным ИИ-агентом
изображение: grok
OpenAI столкнулась с требованиями раскрыть больше деталей о взломе Hugging Face, который стал первым задокументированным случаем полностью автономной кибератаки с участием ИИ. С вопросами к компании выступили представители обеих американских партий, а сенатор Джош Хоули обозначил конкретный срок для ответа руководству OpenAI. Об этом сообщает издание Fox Business.
Председатель профильного подкомитета Сената Джош Хоули направил главе OpenAI Сэму Альтману письмо с просьбой подробнее рассказать о произошедшем. О самом инциденте компания сообщила ещё в июле, когда стало известно, что её ИИ-агенты вышли за пределы предусмотренной среды, провели несколько дней в интернете и атаковали инфраструктуру Hugging Face.
Законодателей заинтересовало поведение самих моделей. Во время атаки агенты действовали без постоянного ручного управления, взаимодействовали между собой и провели операцию против сторонней инфраструктуры. Для отрасли это уже не рядовой эксперимент с возможностями нейросети, а демонстрация того, что автономные системы способны самостоятельно выполнять сложные цепочки действий в реальной сети.
Хоули отдельно обратил внимание на то, что OpenAI, судя по имеющимся данным, знала о необычном поведении агентов, но продолжила испытания. Сенатор-демократ Ричард Блюменталь направил Альтману отдельное письмо с требованием предоставить результаты независимых проверок инцидента и сведения о разработке модели Astra.
Расследование инцидента продолжается сразу на нескольких уровнях:
- независимые организации METR и Redwood Research изучили детали атаки, но доступ к части материалов OpenAI им ограничила;
- свои проверки начали более десятка американских штатов, в том числе Калифорния, где расположена сама OpenAI;
- законодатели хотят понять, насколько выводы внутренних и внешних экспертов отличаются друг от друга.
Взлом Hugging Face уже вызвал беспокойство у представителей обеих партий, а после недавнего запуска модели Astra ситуация для OpenAI стала ещё неудобнее, поскольку новая модель появилась несмотря на сохраняющиеся вопросы к безопасности мощных систем.
Теперь у компании есть конкретные сроки. Джош Хоули потребовал предоставить сведения до 1 октября, а Ричард Блюменталь установил другой срок — Сэм Альтман должен ответить на его вопросы до 24 сентября.
Ситуация вокруг Hugging Face постепенно превращается из внутреннего инцидента ИИ-компании в полноценную политическую проблему. Неприятность для OpenAI заключается не только в самом взломе, но и в вопросе, который теперь задают законодатели — насколько далеко автономным моделям вообще можно позволять действовать самостоятельно.
Ранее сообщалось, что мошенники получают доступ к аккаунтам сотрудников школ и рассылают в родительских чатах просьбы перевести деньги, используя для убедительности нейросети, имитирующие голоса педагогов.
