Создан открытый алгоритм, защищающий изображения от дипфейков

Немецкие исследователи создали и опубликовали в открытом доступе алгоритм обработки изображений, который делает их бесполезными в качестве основы для дипфейков: фото-, аудио- и видеоконтента, модифицированного с помощью искусственного интеллекта.

Ученые приступили к разработке этого подхода после того, как осознали, что до настоящего времени не существовало защиты от дипфейков, созданных при помощи GAN-моделей. Если говорить очень просто, то новый алгоритм защищает лица на фотографиях от нейросетей этого типа.

Для создания наиболее продвинутых форм дипфейков используются GAN-модели. Так разработчики нейросетей называют особый класс “творческих” систем искусственного интеллекта, состоящие из двух половин, одна из которых генерирует фейковые изображения, а вторая – оценивает разницу между фейком и оригиналом. Это позволяет создавать изображения, неотличимые от настоящих.

Одной из ключевых фаз в работе этих систем является процедура обращения, при которой изображения преобразуются в математические векторы. Она позволяет извлекать характерные черты лица человека на изображении, добавлять их в многообразие всех известных алгоритму черт и вносить произвольные изменения. Так, в частности, можно добавить улыбку человеку на снимке, искусственно состарить его или изменить цвет его волос.

Ученые обнаружили, что процедуру обращения можно серьезно затруднить, если создать на уровне математических векторов “шум” – невидимые многочисленные изменения. Это помешает системе генерации дипфейков получить данные и использовать их для манипуляции чертами лица.

Работу этого подхода ученые проверили на пяти системах создания дипфейков, в том числе нейросети StyleGAN2, которую часто применяют для создания фейковых фотографий и видеороликов знаменитостей. Обработка подобных снимков при помощи алгоритма Ли Чжэна и его коллег привела к появлению легко заметных артефактов и искажений при подготовке дипфейков всеми пятью GAN-сетями.

В этом отношении, как отмечают ученые, созданный подход превзошел другие системы защиты от дипфейков, в том числе известное приложение Fawkes. Аналогичным образом можно создать алгоритм, который будет защищать от подделок не только фотографии, но и видеофайлы.

Источник: nauka.tass.ru