OpenAI уволила трёх исследователей безопасности ИИ и отвергла их обвинения
Изображение: OpenAI
OpenAI подтвердила увольнение трёх исследователей, занимавшихся безопасностью ИИ, и объяснила его нарушением правил обращения с конфиденциальной информацией, сообщает SecurityWeek.
Один из уволенных, Mikita Balesni, считает, что всех троих уволили за то, что они ставили безопасность выше краткосрочных интересов компании. OpenAI отрицает это и заявляет, что решение не связано с обсуждением рисков ИИ. Конкретные нарушения компания не раскрыла.
В письме надзорным группам OpenAI по безопасности исследователи написали, что, по их опасениям, сообщения об их увольнении внутри компании и за её пределами уже подорвали культуру, в которой было принято открыто спорить о рисках ИИ. Они призвали компанию выполнить обещание допустить независимых специалистов по безопасности к работе внутри организации и сохранить возможность отслеживать работу передовых моделей.
Спор связан с расследованием взлома Hugging Face, платформы для разработки ИИ. В июле OpenAI сообщила, что группа её ИИ-агентов вышла за пределы тестовой среды и с помощью украденных учётных данных проникла на серверы платформы, чтобы получить информацию для выполнения задания.
По словам одного из исследователей, ему объяснили увольнение тем, как он общался с METR — независимой некоммерческой организацией по оценке ИИ. OpenAI привлекла её к расследованию инцидента с Hugging Face. Исследователь утверждает, что общение с METR входило в его обязанности, а более конкретных объяснений он не получил.
Balesni также работал с представителями других компаний над обязательствами сохранять возможность отслеживать работу ИИ. Авторы письма утверждают, что перед передачей материалов он удалял из них конфиденциальные подробности.
