Команда Аналитического центра кибербезопасности «Газинформсервиса» предложила новые решения для защиты от кибератак
18 апреля команда Аналитического центра кибербезопасности компании «Газинформсервис» приняла участие в мероприятие профессионального сообщества, посвященном развитию ML-систем – митап MLOps и ML-инженеров.
Специалисты из Аналитического центра кибербезопасности поделились своей экспертизой и мнением об инфраструктурных векторах атак на LLM. В частности, эксперт «Газинформсервиса» подняла вопрос использования watermark для защиты LLM: «Сегодня цифровые водяные знаки, как правило, используются для защиты авторских прав, селективной и точной аутентификации, для контроля целостности файлов, однако стоит рассмотреть возможность использования watermark от кражи модели LLM из инфраструктуры или кражи данных модели через API или чат-бота», – говорит Ксения Ахрамеева, ведущий инженер-аналитик компании «Газинформсервис».
«Поведенческая аналитика, основанная на машинном обучении, уже успешно используется в продуктах, направленных на обнаружение и расследование киберинцидентов, хороший пример – это в Ankey ASAP. Так как, сегодня важно не только создать продукт для защиты от киберинцидентов, но и защитить его от возможных кибератак». Также на мероприятии представители «Газинформсервиса» и других крупных интеграторов и вендоров в ИБ обсудили возможные направления в развитии атак на решения, основанные на машинном обучении. «Главная цель мероприятия – найти решение для надежной защиты продуктов СЗИ, а значит и IT-инфраструктуры любой компании», – подытожила Ксения.
Ксения Ахрамеева, ведущий инженер-аналитик компании «Газинформсервис»: «Как показали данные нашего Аналитического центра кибербезопасности – атаки, нацеленные на кражу и дальнейшее распространение чувствительной информации компаний, такой как персональные данные клиентов и сотрудников, а также составляющие коммерческой тайны, в основном осуществляются при помощи хакерских атак с внешней стороны, однако нередки случаи и внутренних атак. Для предотвращения такого рода инцидентов необходимо использовать программные комплексы, которые могут вовремя обнаружить и оценить отклонения в поведении пользователей. Например, продукт Ankey ASAP, для этих целей успешно использует методы машинного обучения. При своевременном выявлении признаков и сборе цифровых доказательств инцидентов ИБ позволяет сотрудникам предпринять меры по деактивации и предотвращению угроз»», – говорит Ксения.
