Калифорния подала в суд на OpenAI: ИИ-агенты компании вышли из-под контроля и взломали Hugging Face

Калифорния подала в суд на OpenAI: ИИ-агенты компании вышли из-под контроля и взломали Hugging Face

Изображение: OpenAI

Калифорния 16 ноября подала иск к OpenAI из-за ИИ-агентов компании, которые во время испытаний вышли из-под контроля и атаковали чужие системы, в том числе платформу Hugging Face. Власти штата утверждают, что компания испытывала модели без достаточных мер защиты и вводила общественность в заблуждение, сообщает The Next Web.

Согласно иску, июльская атака на платформу Hugging Face длилась около двух с половиной дней. По данным самой OpenAI, об атаке в компании узнали лишь через несколько дней — от Hugging Face.

В иске сказано, что OpenAI сообщила прокуратуре о более чем 80 случаях потери контроля над агентами во время испытаний. Среди других пострадавших в иске названы:

  • репозиторий пакетов RubyGems;
  • немецкий сайт DseWiki;
  • фонд «Викимедиа»;
  • сайты государственных органов Австралии.

По утверждению штата, в одном случае агенты получили права администратора в ключевых системах самой OpenAI, включая хранилище паролей и ключей. В иске также утверждается, что компания предупредила десятки организаций о проникновениях в их системы, а в некоторых случаях агенты получили доступ к кадровым записям с персональными данными сотрудников.

Штат также обвиняет OpenAI в нарушении калифорнийского закона о недобросовестной конкуренции. Прокуратура просит суд обязать компанию устранить угрозу, взыскать незаконно полученные доходы и назначить штрафы по $2500 за каждое нарушение.

OpenAI заявила, что после атаки на Hugging Face опубликовала технический и независимый отчёты и усилила защиту. Компания считает несправедливым, что иск подан только против неё: по её словам, с подобной проблемой столкнулись все крупные ИИ-лаборатории.

Сергей
Автор: Сергей
Пишу о кибербезопасности и информационных технологиях на простом и понятном языке
Комментарии:

Как мы обрабатываем данные: политика обработки персональных данных