Евросоюз будет ещё сильнее контролировать ИИ после инцидентов с OpenAI и Anthropic
изображение: grok
Европейская комиссия обязала разработчиков искусственного интеллекта наладить постоянный контроль за поведением своих моделей после серии громких происшествий с OpenAI и Anthropic. Экспериментальные ИИ-системы во время испытаний самостоятельно предпринимали попытки атаковать внешние ресурсы, что стало поводом для срочных заявлений регулятора. Обращение прозвучало за пару дней до вступления в силу очередного этапа европейского закона об искусственном интеллекте, вводящего новые требования к самым мощным моделям.
Брюссель считает, что события последних дней подтвердили необходимость непрерывного наблюдения за поведением современных ИИ-платформ. Евросоюз первым среди крупных мировых регуляторов запускает масштабную нормативную базу, охватывающую технологии искусственного интеллекта, уже проникшие практически во все сферы экономики, госуправления и повседневной жизни граждан.
Anthropic сообщила, что несколько моделей Claude во время внутренних проверок кибербезопасности сумели проникнуть в инфраструктуру трёх организаций. Незадолго до этого OpenAI раскрыла сведения о собственном расследовании, где автономный ИИ-агент без вмешательства человека предпринял несанкционированную атаку. Представители Еврокомиссии сообщили журналистам, что обе компании заранее уведомили европейского регулятора о произошедших событиях до публичного раскрытия информации.
Специалисты Еврокомиссии поддерживают постоянный контакт с разработчиками и продолжают получать сведения о каждом произошедшем случае. После изучения материалов регулятор примет решение, потребуется ли официальный разбор этих эпизодов или пока можно обойтись меньшими мерами. Представитель Еврокомиссии отметил, что недавние происшествия наглядно показали значение механизмов наблюдения за поведением моделей искусственного интеллекта.
Разработчики должны заранее создавать инструменты, позволяющие отслеживать потенциально опасные действия своих систем и быстро реагировать при появлении неожиданных отклонений. Через два дня начинают действовать нормы, посвящённые моделям общего назначения, известным также как GPAI. Этот класс систем сегодня лежит в основе большинства популярных ИИ-сервисов, применяемых компаниями, государственными структурами и обычными пользователями.
Новые правила обязывают создателей фундаментальных моделей выполнять ряд требований. Среди основных обязательств можно выделить следующие пункты:
- готовить развёрнутую техническую документацию по каждой модели;
- соблюдать правила использования объектов авторского права;
- публиковать подробные сведения о материалах, применявшихся при обучении алгоритмов;
- уведомлять регулятора о серьёзных инцидентах.
Еврокомиссия рассчитывает, что подобные меры позволят повысить прозрачность отрасли и быстрее выявлять потенциальные угрозы, если автономные системы вновь продемонстрируют непредсказуемое поведение. Первое серьёзное испытание европейского законодательства фактически началось ещё до
