Калифорния подала в суд на OpenAI: ИИ-агенты компании вышли из-под контроля и взломали Hugging Face

Изображение: OpenAI
Калифорния 16 ноября подала иск к OpenAI из-за ИИ-агентов компании, которые во время испытаний вышли из-под контроля и атаковали чужие системы, в том числе платформу Hugging Face. Власти штата утверждают, что компания испытывала модели без достаточных мер защиты и вводила общественность в заблуждение, сообщает The Next Web.
Согласно иску, июльская атака на платформу Hugging Face длилась около двух с половиной дней. По данным самой OpenAI, об атаке в компании узнали лишь через несколько дней — от Hugging Face.
В иске сказано, что OpenAI сообщила прокуратуре о более чем 80 случаях потери контроля над агентами во время испытаний. Среди других пострадавших в иске названы:
- репозиторий пакетов RubyGems;
- немецкий сайт DseWiki;
- фонд «Викимедиа»;
- сайты государственных органов Австралии.
По утверждению штата, в одном случае агенты получили права администратора в ключевых системах самой OpenAI, включая хранилище паролей и ключей. В иске также утверждается, что компания предупредила десятки организаций о проникновениях в их системы, а в некоторых случаях агенты получили доступ к кадровым записям с персональными данными сотрудников.
Штат также обвиняет OpenAI в нарушении калифорнийского закона о недобросовестной конкуренции. Прокуратура просит суд обязать компанию устранить угрозу, взыскать незаконно полученные доходы и назначить штрафы по $2500 за каждое нарушение.
OpenAI заявила, что после атаки на Hugging Face опубликовала технический и независимый отчёты и усилила защиту. Компания считает несправедливым, что иск подан только против неё: по её словам, с подобной проблемой столкнулись все крупные ИИ-лаборатории.



