Россиян предупредили об опасности ИИ-агентов с избыточными правами и объяснили, как их настроить

изображение: grok
Российская киберполиция предупредила, что неправильно настроенные ИИ-агенты, которые сами работают с файлами, почтой, браузерами и интернет-сервисами, могут привести к утечке персональной информации, взлому учётных записей и нежелательным операциям от имени владельца устройства. Полномочия цифровых помощников советуют ограничивать, их действия перед серьёзными операциями проверять, а запускать агентов лучше в изолированной среде. Рекомендации 18 ноября опубликовало управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД.
Современные агенты превращаются из чат-ботов в цифровых исполнителей, которые сами находят документы, открывают сайты, обрабатывают почту и запускают инструменты, и чем больше возможностей получает ИИ, тем тяжелее последствия ошибки, неправильной команды или злоупотребления разрешениями. Киберполиция посоветовала придерживаться принципа минимально необходимых привилегий, то есть открывать агенту только те каталоги и документы, которые нужны для конкретной задачи, а личную переписку, финансовые документы, рабочие материалы и сохранённые пароли без веской причины ему лучше не показывать.
Среди рекомендаций такие:
- ограничивать посещение незнакомых ресурсов и передачу им пользовательской информации, чтобы сведения не оказались на сомнительных площадках;
- согласовывать с владельцем отправку писем, удаление документов, оформление заказов, покупки и переводы, ведь последствия таких операций сложно быстро отменить;
- убирать лишние расширения и интеграции, которыми никто не пользуется, потому что каждая новая интеграция расширяет перечень доступных операций и сервисов;
- периодически проверять разрешения и отзывать токены доступа, которые больше не нужны, ведь старые полномочия остаются активными, даже когда сервис давно забыт.
ИИ может подготовить письмо, подобрать товар или заполнить поля для платежа, но финальное решение должно остаться за человеком, а такой контроль позволяет пользоваться автоматизацией и не превращать помощника в самостоятельного распорядителя данных и денег. Ещё один защитный барьер, изолированная виртуальная среда, отделяет рабочее пространство агента от основной операционной системы и сокращает возможности взаимодействия с личными учётными записями владельца. Внутри такой «песочницы» агент получает нужные инструменты, но его возможности влиять на основную систему ограничены настройками изоляции. Сама по себе виртуальная среда не гарантирует полной безопасности, поэтому нужно правильно настроить обмен файлами, сетевые соединения и доступ к общим ресурсам, иначе часть защитного эффекта пропадёт.
Автономность ИИ не должна означать бесконтрольность, и чем больше самостоятельности получает агент, тем яснее нужно заранее обозначить границы его полномочий и оставить человеку право подтверждать действия с серьёзными последствиями.
Ранее сообщалось, что в Москве начали судить создателей вируса Meduza Stealer, который атаковал российские компании. Следствие считает, что программа помогла проникнуть в системы «Газпром межрегионгаз Черкесск» и «Астраханских аптек».



