Россияне более 37 000 раз воспользовались программой для поиска дипфейков за месяц.
С помощью бесплатного сервиса KodikScan пользователи проверяли видео (12 тысяч раз), тексты (25 тысяч раз) на признаки генерации с помощью искусственного интеллекта.
Приложение KodikScan было выпущено в конце мая. Компания «Архитех ИИ» разработала инструмент для борьбы с цифровым мошенничеством. Приложение определяет, создан ли контент искусственным интеллектом и поможет выяснить, какой нейросетью. Разработчики поставили цель создать бесплатный инструмент для самозащиты пользователей от мошенников, которые могут рассылать голосовые и видеосообщения от имени третьих лиц, сгенерированные с помощью ИИ, а также публиковать фальшивые призывы к благотворительным сборам с использованием лиц знаменитостей.
— Первыми доступ к сервису получили СМИ, но и обычные пользователи также очень быстро втянулись в «народную» проверку на дипфейки. Это говорит о том, что цифровая грамотность растет. К сожалению, злоумышленники все чаще применяют искусственный интеллект в социальной инженерии, и нам было важно предоставить пользователям инструмент, определяющий наличие ИИ-контента, — рассказал разработчик ИИ-среды Kodik Рафаэль Гильмурахманов
Инструмент использует ML-модели для анализа цифрового контента и оценки вероятности AI-генерации или AI-манипуляции. Система принимает изображение, видео, аудио или текст, извлекает скрытые признаки сгенерированного контента: визуальные паттерны, структуру шума, временную динамику видео, акустические особенности голоса и статистику текста. На основе этих признаков система помогает понять, насколько материал похож на сгенерированный или модифицированный ИИ. Система сравнивает контент с паттернами, которые научилась находить на большом количестве примеров, и так определяет вероятность, что видео или фото поддельное.
Воспользоваться инструментом на сайте может любой желающий: достаточно загрузить фото или видео и проверить, какова вероятность применения ИИ в контенте. Тесты показали, что инструмент определяет признаки генерации искусственным интеллектом с точностью 98,03%.
