В ARTEX-ymh описали обнаружение ловушек и защиту ИИ-агентов
В открытом каталоге обнаружили файлы с документацией ARTEX-ymh, форка автономной платформы для проведения тестов на проникновение ARTEX. В них описаны модуль обнаружения ловушек-приманок и меры защиты ИИ-агентов от таких ловушек. Авторы сообщают, что восстановить список сигнатур не удалось, а доказательств нацеливания на реальную организацию нет.
Модуль обнаружения использует четыре уровня проверок:
- внешние метки из Shodan, Censys и Quake;
- статические отпечатки в баннерах служб, сертификатах, скриптах и ответах;
- активные проверки, включая некорректные строки версий SSH, несоответствия идентификаторов служб и повторяющиеся запросы, которые возвращают разные профили приложений;
- проверки с низким уровнем шума после получения доступа.
После входа в систему модуль сравнивает повторные чтения /proc/meminfo, анализирует временные метки процессов и учётные записи по умолчанию, проверяет недавние изменения в файловой системе и тестирует, достигает ли заявленный исходящий обратный вызов инфраструктуры оператора. По документации, один подозрительный сигнал переводит агента в режим только для чтения и останавливает доставку полезной нагрузки. Два независимых сигнала приводят к отказу от цели.
Авторы отмечают, что стандартные отпечатки помогают обнаруживать некоторые ловушки-приманки с открытым исходным кодом, но менее эффективны против коммерческих, высокоинтерактивных или усиленных приманок.
В документации ARTEX-ymh также описаны меры защиты ИИ-агентов от ловушек-приманок. Платформа заключает контролируемый целевой системой контент в теги недоверенных данных, блокирует исходящие команды или запросы с зарегистрированными секретами с помощью проверки скользящего окна SHA-256 и назначает каждой задаче согласованный пользовательский агент. Документация предупреждает, что сочетание пользовательского агента Chrome с TLS-отпечатком curl или другого клиента может раскрыть агента. Для подозрительных целей рекомендуется использовать браузер, а предупреждения о сертификатах не обходить.
К потенциальным индикаторам на стороне защиты относятся:
- стабильный датированный пользовательский агент Chrome с несовпадающим TLS-отпечатком;
- переход к взаимодействию через браузер после подозрительного ответа;
- продолжение перечисления ресурсов без отправки полезной нагрузки;
- проверки после входа в систему, за которыми следует обратный вызов на инфраструктуру промежуточного этапа агента.
Отчет получен из сервиса CTT Report Hub. Права на отчет принадлежат его владельцу.
Ознакомиться подробнее с отчетом можно по ссылке.
