Swordfish Security рассказали представителям высокотехнологичного бизнеса о безопасности ИИ
Встреча прошла на онлайн-площадке Комитета РУССОФТ по ИИ. Основной темой вебинара была безопасность ИИ-систем с учетом требований ФСТЭК.
На вебинаре в рамках встреч в партнерстве с Консорциумом исследований безопасности технологий искусственного интеллекта рассказали о мерах безопасности при внедрении ИИ, проектировании государственных информационных систем с внедренным в них искусственным интеллектом, об имеющихся фреймворках и моделях зрелости AI Security, как на международном, так и на российском рынке.
«Безопасность искусственного интеллекта нельзя «прикрутить» в конце разработки — это не финальный этап, а фундамент, который должен закладываться на каждом этапе жизненного цикла системы: от проектирования системы и сбора данных до финальной эксплуатации и обратной связи от пользователей», — рассказал ведущий инженер по искусственному интеллекту и безопасности ГК Swordfish Security Михаил Черешнев.
Секретарь Консорциума исследований безопасности технологий искусственного интеллекта Дмитрий Служеникин рассказал слушателям о специфике создания агентных систем и подходах к обеспечению доверия при их использовании и эксплуатации.
Как отметила модератор вебинара и.о. руководителя Комитета РУССОФТ по ИИ Ольга Минеева – разработчикам, особенно создающим программные продукты для государственного сектора и критической информационной инфраструктуры, критично важно подходить осознанно к встраиванию инструментов ИИ в разрабатываемые сервисы, так как вопрос безопасности и доверия к данной технологии в данное время поднимается на самом высоком правительственном уровне.
ГК Swordfish Security в помощь российскому бизнесу разработала бесплатный фреймворк безопасности ИИ, объединяющий мировой опыт и ориентированный при этом на реалии российского законодательства. Во фреймворке «Swordfish: SAIMM» собраны основные направления для анализа ИИ, включая ИИ-агентов, критерии оценки рисков и план по их преодолению. Это своего рода чек-лист для самопроверки компаний, внедряющих искусственный интеллект, и ориентированных на оценку уровня зрелости и на построение дорожной карты его развития.
