Разработан алгоритм, защищающий от дипфейков
Современные технологии в сфере создания дипфейков развиваются огромными шагами – уже сейчас сложно отличить реальные фото и видео, опубликованные в интернете, от поддельных. Применение подобных решений позволяет без труда подделывать фотографии, видеоролики за счет эксплуатации возможностей нейросети.
Использование нейросетей для создания дипфейков на виде позволяет с высокой достоверностью имитировать речь, движения, внешность человека, поэтому на первый взгляд отличить настоящий видеоролик от поддельного практически невозможно.
Вопросом защиты от дипфейков обеспокоились в Университете Бостона (США). Специалисты вуза разработали специальный алгоритм, обеспечивающий защиту фотографий и видео от применения их в качестве основы для создания дипфейка.
Суть работы алгоритма заключается в том, что на фотографию или видеоролик накладывается незаметный фильтр. В случае, если кто-то будет задействовать нейросеть для изменения подготовленного контента, фотография или останется неизменной, либо будет искажена до неузнаваемости. Применение алгоритма позволяет воздействовать на пиксели – они изменяются особым образом, поэтому фото и видео такого типа невозможно использовать для создания дипфейков.
Специалисты Бостонского Университета бесплатно разместить исходный код алгоритма на площадке GitHub, а также представили видео по особенностям работы созданной технологии. Каждый желающий может воспользоваться алгоритмом в своих целях, найти ошибки и уязвимости в предложенной программе, интегрировать ее в различные программы продукты при желании.
Разработка ученых Бостонского университета стала одной из первых в данном направлении. До этого момента многие специалисты работали, наоборот, в сфере создания технологий, позволяющих улучшить качество работы генеративно-состязательной нейросети.
Дипфейки – метод синтеза изображения, который базируется на искусственном интеллекте. Технология применяется, чтобы соединить и наложить существующие фото и видео на базовые изображения и видеоролики. Обычно для создания подобных видео применяются генеративно-состязательный нейросети.
