Как обнаружить и парировать компьютерные backdoor-атаки на нейронные сети

Отсутствие понятности в результатах работы искусственных нейронных сетей делает их уязвимыми для компьютерных атак с внедрением закладок. Закладки долго могут оставаться скрытыми и представляют угрозу безопасности информации, особенно для приложений, связанных с объектами критической информационной инфраструктуры. В рамках доклада будут представлены подходы к обнаружению и нейтрализации последствий компьютерных атак с внедрением закладок в нейросетевые модели, основанные на выявлении закладки и возможных триггеров. Инновационность и практическая значимость результатов исследования заключается в разработке нового подхода выявления закладок в нейронных сетях на основе синтезирования триггеров. Слушатели смогут оценить эффективность применения обрезки нейронов и отмены обучения нейронной сети, разработанной с помощью фреймворка TensorFlow.