Владислав Черненко (ScanFactory) про AI Firewall для нейросетей
Редакция CISOCLUB посетила SOC Forum 2026 и записала интервью с Владиславом Черненко, директором по развитию бизнеса ScanFactory.
В этом интервью:
- Почему разработчик системы управления уязвимостями взялся за защиту нейросетей
- Чем агент на рабочем компьютере сотрудника отличается от расширения для браузера
- Как три слоя проверки не дают секретам компании уйти в нейросеть
- Почему ИИ-агент ждёт решения человека перед важным действием
00:12 Зачем ScanFactory, известной своим VM-решением, понадобился свой AI Firewall?
На самом деле всё просто. Это очень трендовая история. Если сейчас посмотреть, ИИ-модели очень динамично развиваются, и меняются сценарии. Раньше с нейросетями работали только в чатах, переписывались с GPT, а сейчас всё вышло на уровень агентов с полным доступом. Задача мало того что динамичная и интересная, сама проблематика очень актуальна.
Плюс ко всему это новый класс решений на рынке. Мы уже однажды, в 2020 году, выводили на рынок новый класс решений, EASM, с него мы и стартовали. Сейчас мы постепенно пришли к тому, что помимо полнофункциональной VM-платформы у нас получился ещё и AI Firewall. Мы любим решать задачи со звёздочкой и делать решения, которые не просто красиво выглядят, но и действительно полезны в эксплуатации, полезны для рынка и в целом для ИБ России.
01:22 В чём ваши ключевые отличия от конкурентов?
Я бы подсветил два момента, и оба упираются в сценарии использования. Общаясь с рынком, с заказчиками и интеграторами, мы слышим, что большинство решений сейчас работают только с браузерным компонентом. Это расширение, которое ставится в браузер и выступает защитным слоем между пользователем и нейросетью.
Мы пошли немного дальше и разработали эндпоинт-агент. Он нужен как раз для консольных ИИ-инструментов, например Claude Code, Cursor и других. Мы ставим этот агент на персональные компьютеры и ноутбуки, другими словами, на АРМы, и он выступает тем самым защитным слоем. У большинства конкурентов такого просто нет. Про остальной функционал будем рассказывать на демо.
02:25 Как AI Firewall не даёт нейросети выдать наружу секреты компании?
В нашем решении три защитных слоя. Первый относительно распространённый, это проверка по регулярным выражениям. Второй слой образуют нейролингвистические модели, которые смотрят непосредственно на смысл. Если первый слой видит, условно, набор символов вроде «Иванов Иван Иванович, паспорт, серия, номер», то второй уже разбирает семантику запроса.
Промпты ведь идут не всегда в лоб, иногда они завуалированы, в них больше информации. Плюс к запросам прикладываются документы, и их мы, кстати, тоже умеем читать, будь то Word, Excel или другие форматы. Важно, чтобы чувствительная информация не ушла на сторону, а для этого нужно разбирать смысловое ядро. Этим у нас и занимаются нейролингвистические модели.
Третьим слоем идёт LLM-судья, который принимает всю информацию в совокупности и решает, что делать с запросом. Запрос отклоняется или пропускается, либо к нему применяются конкретные действия, например маскировка.
03:47 Как AI Firewall останавливает ИИ-агента, который начал делать лишнее?
Для таких задач у нас предусмотрен механизм Human-in-the-Loop, то есть подключение человека. Агенты выполняют больше функций, чем чат-бот. Если чат-бот просто отвечает на вопросы, то агент совершает конкретные действия. При этом есть риск, что агент сделает что-то не то, даже если задача ему описана достаточно конкретно.
В этот момент важно, чтобы к принятию критически важных решений подключился человек. Пока человек не примет решение, агент дальше не идёт.
Реклама. ООО «СКАНФЭКТОРИ», ИНН: 7727458406, Erid: 2SDnjeqs6iY



