• ПримБит
  • Новости
  • Facebook разработала алгоритм для распознавания дипфейков, отслеживающий источник подделки

Facebook разработала алгоритм для распознавания дипфейков, отслеживающий источник подделки

Опубликовано: 17.06.2021

Группа ученых из компании Facebook и Университета штата Мичиган разработали метод обратного инжиниринга дипфейков, который позволяет не только выявить подделку, но и определить создавшую ее модель машинного обучения.

По словам исследователей, система определяет архитектурные особенности неизвестных алгоритмов, отдельно настраиваемых для каждой модели машинного обучения. Они оставляют уникальный отпечаток на готовом изображении, который можно использовать для определения его источника.

В результате алгоритм исследователей не только идентифицирует черты генеративной сети, но и определяет, является ли изображение подделкой, и какая известная модель его создала.

Руководитель исследования Тал Хасснер рассказал, что выявление черт неизвестных моделей важно, так как программное обеспечение для создания дипфейков легко настроить. Это потенциально позволяет злоумышленникам замести следы, если следователи попытаются отследить их действия.

«Теперь мы можем сказать: «Изображение, загруженное здесь и там — все они принадлежали одной и той же модели», — сказал Хасснер.

Он добавил, что имея доступ к компьютеру или ноутбуку злоумышленника, алгоритм может с высокой точностью указать, что подделки генерировались на этом оборудовании.

Исследователь сравнил работу алгоритма отслеживания дипфейков с судебно-медицинскими методами определения модели камеры путем поиска закономерностей на полученном изображении.

«Однако не каждый может создать свою собственную камеру […]. В то время как любой, у кого есть достаточный опыт и стандартный компьютер, может разработать собственную модель для генерирования дипфейков», — сказал Хасснер.

В компании считают, что модель поможет Facebook отслеживать злоумышленников, распространяющих поддельные фото и видео в социальных сетях. Однако пока работа все еще находится на стадии исследования и не готова к развертыванию, заявили разработчики.

Напомним, в конце апреля исследователи из Вашингтонского университета создали алгоритм, который создает реалистичные поддельные спутниковые карты.

В апреле эксперты заявили, что количество дипфейков в интернете удваивается раз в шесть месяцев.

В марте полиция округа Бакс в Пенсильвании арестовала женщину за травлю девушек-подростков с помощью дипфейк-видео. Так она хотела скомпрометировать соперниц своей дочери в группе черлидинга.


Источник: ForkLog