Как обнаружить и парировать компьютерные backdoor-атаки на нейронные сети

Дата: 19.05.2022. Автор: Positive Technologies. Категории: Подкасты и видео по информационной безопасности

Отсутствие понятности в результатах работы искусственных нейронных сетей делает их уязвимыми для компьютерных атак с внедрением закладок. Закладки долго могут оставаться скрытыми и представляют угрозу безопасности информации, особенно для приложений, связанных с объектами критической информационной инфраструктуры. В рамках доклада будут представлены подходы к обнаружению и нейтрализации последствий компьютерных атак с внедрением закладок в нейросетевые модели, основанные на выявлении закладки и возможных триггеров. Инновационность и практическая значимость результатов исследования заключается в разработке нового подхода выявления закладок в нейронных сетях на основе синтезирования триггеров. Слушатели смогут оценить эффективность применения обрезки нейронов и отмены обучения нейронной сети, разработанной с помощью фреймворка TensorFlow.

Об авторе Positive Technologies

Positive Technologies — ведущий разработчик решений для информационной безопасности. Наши технологии и сервисы используют более 2300 организаций по всему миру, в том числе 80% компаний из рейтинга «Эксперт-400». Уже 20 лет наша основная задача — предотвращать хакерские атаки до того, как они причинят неприемлемый ущерб бизнесу и целым отраслям. Positive Technologies — первая и единственная публичная компания из сферы кибербезопасности на Московской бирже (MOEX: POSI).
Читать все записи автора Positive Technologies

Добавить комментарий

Ваш адрес email не будет опубликован.