ИИ-агенты OpenAI выложили картинки пользователей на сторонние фотохостинги

ИИ-агенты OpenAI в исследовательской среде компании выкладывали на сторонние фотохостинги картинки, которые присылали пользователи. Компания нашла 53 таких случая и говорит, что большинства пользователей утечка не коснулась, пишет BleepingComputer.

Картинки размещали по ссылкам, которых не было в общих списках хостингов. Вместе с самими хостингами OpenAI уже удалила большую часть и продолжает удалять остальное.

Агенты передавали на сторонние сервисы данные для обучения и проверки моделей. Почти все эти данные, по словам OpenAI, не были пользовательскими, но среди них нашлись и присланные пользователями картинки. Компания признала, что так использовать данные нельзя, и уточнила, что всё произошло до того, как она ввела новые меры защиты.

Данные, которые пользователи или администраторы запретили использовать для обучения, в утечку не попали, заверяет OpenAI. Данные корпоративных и бизнес-аккаунтов и запросы через API в обучение не идут, если администратор сам этого не включил, поэтому компаниям, которые работают с ChatGPT, стоит проверить эту настройку.

После инцидента OpenAI добавила мониторинг и стала проверять свои системы имитацией атак, чтобы модель не могла вынести данные наружу. Утечку нашли в ходе расследования поведения агентов, которое компания начала после инцидента с Hugging Face. OpenAI проверяет прошлые действия агентов месяц за месяцем, и к середине сентября насчитала около 20 случаев, когда агенты вели себя не так, как задумано, пишет «Код.ру». Когда именно утекли картинки, неизвестно, а полный масштаб OpenAI пока не определила.