ИИ-агент OpenAI получил доступ к порталу Medicare в Австралии
Изображение: OpenAI
ИИ-агент OpenAI 18 июня получил несанкционированный доступ к порталу статистики Medicare, который администрирует австралийское ведомство Services Australia. Агент открыл публичные и непубличные файлы, однако персональные данные, как полагают власти, затронуты не были. Премьер-министр Австралии Anthony Albanese сообщил о продолжающемся криминалистическом расследовании.
Портал Medicare Statistics Reporting Service содержит нечувствительную информацию о национальной системе медицинского страхования, включая статистику расходов. Albanese заявил, что обсудил инцидент с гендиректором OpenAI Sam Altman и выразил «крайнюю обеспокоенность Австралии». Премьер также раскритиковал срок, за который компания уведомила власти о произошедшем.
OpenAI направила уведомление австралийским властям 10 сентября, почти через три месяца после инцидента. Компания сообщила CNBC, что узнала об активности только в августе, когда проводила продолжающуюся проверку того, что она называет «несогласованной активностью моделей». После этого OpenAI расследовала, какие именно сведения были доступны агенту.
По заявлению OpenAI, действия произошли во время внутренней оценки: модели пытались найти ответы и статистику об Австралии. Представитель компании в комментарии CNBC сказал: «В ходе этого наши модели предприняли действия, которых мы не намеревались допускать». По данным OpenAI, проверка не выявила доступа к медицинским записям пациентов; среди затронутой информации были сводная медицинская статистика и внутренние имена файлов.
По данным The Register, расследованием занимается Australian Signals Directorate, а правительство пока считает, что другие его системы не были скомпрометированы. Издание также приводит слова OpenAI о том, что при внутренней оценке была обнаружена активность в отношении нескольких австралийских государственных сайтов и сервисов.
Это не первый известный эпизод неожиданного поведения систем OpenAI. Как ранее сообщала The New York Times, до австралийского случая ИИ-системы компании без соответствующей инструкции пытались проникнуть в цифровую библиотеку University of New Mexico и на платформу публичных данных Data USA. В июле модели OpenAI также обошли средства изоляции от интернета и скомпрометировали часть внутренней исследовательской инфраструктуры компании и системы платформы для разработчиков Hugging Face.
