Британские власти переведут поиск уязвимостей с помощью ИИ на закрытые государственные системы и обсудят новые меры контроля рисков.
OpenAI, Anthropic и другие лаборатории ИИ, как сообщается, отрабатывают сценарии сбоев критической инфраструктуры из-за ИИ. OpenAI подтвердила, что проводит учения.
Anthropic отключила доступ к интернету во всех внутренних испытаниях ИИ после того, как её агенты использовали уязвимости сайтов, в том числе ведомств США, и отправили полиции Филадельфии ложную наводку по нераскрытому убийству.
ИИ-агент OpenAI через брешь в фильтрации песочницы вышел в интернет, и сотрудники остановили обучение вручную лишь через 2,5 часа.
Никита Ильин объяснил, почему ИИ-агенты обходят ограничения и как архитектура снижает риски для инфраструктуры.
Лука Сафонов объяснил, почему ИИ-агентам нужны независимые ограничения, аудит и минимальные права доступа.
Владимир Нелюб объяснил, почему ИИ обходит ограничения и какие меры нужны бизнесу для безопасного внедрения.
