Swordfish Security представила AI Security фреймворк для российского рынка
Методологию представили на конференции Swordfish PRO DevSecOps Conf 2025, которая прошла 14 октября в Москве. Конференция была посвящена кибербезопасности в сфере искусственного интеллекта. В форуме приняли участие представители ИБ-эксперты, члены Ассоциации Финтех, участники Консорциума исследований безопасности технологий ИИ и представители коммерческих компаний, уже внедряющие AI- технологии в бизнес-процессы.
Swordfish Security разработали собственный AI Security фреймворк, который включает возможные риски и дорожную карту безопасной разработки в области ИИ. Это первая система рекомендаций, которая опирается на международные карты угроз и стандарты разработки с применением ИИ, но ориентированная на российский рынок. В новом фреймворке учли отечественную регуляторику и особенности рынка.
25% крупнейших финансовых компаний уже столкнулись с инцидентами с участием ИИ – такие результаты показало исследование, которое Ассоциация Финтех провела совместно с Swordfish Security. Это важный сигнал для бизнеса, который уже вошел в новую цифровую эпоху, но пока это не осознал до конца.
— ПО, ускоряемое искусственным интеллектом и изначально построенное на базе искусственного интеллекта, усиливает фундаментальную сложность, привнесенную новыми уровнями автоматизации. Мы стоим на пороге новой эпохи, где доверие становится новой валютой цифрового мира, И от того, как мы войдем в эту эпоху, что мы будем создавать, зависит будущее не только технологий, но и общества. И задача инженеров уже не просто защищать инновации, а защищать доверие, — рассказал управляющий партнер Swordfish Security Юрий Сергеев.
— Финансовая отрасль ждет появления инструментов для обеспечения безопасности языковых моделей, рынок этих инструментов пока находится в стадии зарождения. Большие языковые модели развиваются лавинообразно, бизнес идет во внедрение, и безопасности необходимо «догонять»: делать эти решения безопасными, доверенными, надежными. Две трети участников рынка осознают это и внедряют гибридный подход к управлению рисками, которые возникают при применении искусственного интеллекта. Они используют ИИ-технологии для определенных задач, но не отдают критические бизнес-процессы на откуп модели, сохраняя «ручной» контроль — рассказал руководитель управления информационной безопасности Ассоциации ФинТех Александр Товстолип.
Участникам конференции представили таксомонию угроз, которые могут быть реализованы с помощью ИИ. В ТОП-3 вошли промпт-инъекции, повреждение или «отравление данных» и раскрытие чувствительной информации моделью ИИ.
— По риск-скорингу мы находимся даже не в «красной», а в «бордовой» зоне. AI-технологии сегодня везде, даже если они не нужны, практически в любой бизнес их пытаются вставить, и это несет в себе феноменальные риски. Бизнес даже не понимает, что несет в себе подключение какого-нибудь чат-бота на сайт, который смотрит одним «глазом» интернет, другим в вашу базу данных, и предоставляет практически неограниченные возможности для знающего человека, чтобы получить какую-то внутреннюю информацию, — рассказал директор по развитию технологий искусственного интеллекта Swordfish Security Юрий Шабалин.
