Эксперт Салпагаров: полезность ИИ подталкивает пользователей к нарушению конфиденциальности
Изображение: grok
Султан Салпагаров, архитектор по информационной безопасности компании Getmobit, прокомментировал для CISOCLUB рост утечек данных через AI-сервисы и vibe coding платформы. По его словам, искусственный интеллект стал одним из наиболее опасных каналов компрометации информации именно из-за своей практической ценности для пользователей.
«ИИ стал самым актуальным каналом утечки из-за, как ни парадоксально, его полезности», — отметил Султан Салпагаров.
Эксперт провел параллель с концепцией, описанной Айзеком Азимовым, где качество ответа системы напрямую зависит от объема предоставленной ей информации. По его словам, это формирует у пользователей склонность жертвовать безопасностью ради получения более точного результата.
«Пользователь попал в „ловушку Мультвака“, описанную Айзеком Азимовым еще в 1950-х годах — чем больше информации человек предоставляет ИИ, тем лучше будет его совет», — заявил он.
По словам Султана Салпагарова, проблема усугубляется тем, что потенциальный риск утечки воспринимается как абстрактный, тогда как выгода от использования ИИ ощущается сразу.
«Утечка может привести к опасным последствиям или не привести, а польза от запроса есть всегда. Примат полезности над безопасностью буквально подталкивает к нарушению конфиденциальности», — подчеркнул эксперт.
Он также скептически оценил эффективности существующих механизмов автоматической фильтрации запросов и ответов. По его мнению, подобные ограничения могут привести лишь к усложнению пользовательских сценариев обхода защиты.
«Даже меры автоматической фильтрации входа-выхода, которые пока тоже не доказали своей эффективности, приведут лишь к желанию пользователей использовать более сложные инструкции», — отметил Султан Салпагаров.
Эксперт добавил, что именно поэтому все чаще обсуждается отказ от неподконтрольных зарубежных моделей в корпоративной среде. При этом полноценной замены таким системам пока не существует.
«Поэтому и предлагается полный отказ от неподконтрольных зарубежных моделей. Жаль только, что предлагаемые аналоги пока еще не способны полностью заместить их — прежде всего с точки зрения полезности», — заключил он.»
