Банк России выпустил первые рекомендации по безопасному применению ИИ в финансах
Изображение: grok
Банк России подготовил методические указания для финансовых организаций о безопасном применении технологий искусственного интеллекта. Документ стал первой инициативой регулятора, где собраны главные риски эксплуатации ИИ, описаны возможные атаки на подобные системы и предложены защитные меры.
Серьёзное внимание уделено применению ИИ в критически значимых процессах. Если технология задействована в операциях с повышенными рисками для информационной безопасности, среди прочего в платёжной сфере, регулятор советует сохранить ручной контроль сотрудника и подтверждать действия вручную.
Финансовым организациям предложено разработать собственные модели угроз и внутренние политики безопасности с учётом специфики работы ИИ-систем. Ответственность за подготовку таких документов регулятор предлагает возложить на заместителя руководителя организации по защите информации.
Отдельный раздел посвящён внешним ИИ-сервисам от сторонних поставщиков. Дополнительным фактором доверия, как сказано в документе, может стать участие модели в программах поиска и устранения уязвимостей.
Появление рекомендаций совпало с ростом спроса на ИИ-технологии в финансовом секторе. Регулятор предлагает участникам рынка заранее закладывать защиту подобных систем ещё на стадии их внедрения, ориентируясь на несколько направлений работы.
- построение собственной модели угроз для ИИ-систем;
- разработка внутренних политик информационной безопасности;
- контроль внешних поставщиков ИИ-сервисов;
- ручное подтверждение операций повышенного риска.
