Дипфейк

From Geochronic
Jump to navigation Jump to search
Заготовка страницы.jpg Мы сожалеем. Это заготовка статьи. Ей существенно не хватает текста, изображений и ссылок.
Вы можете помочь нам, дополнив или исправив статью.

Deepfake (дипфейк, конкатенация англ. deep learning — «глубинное обучение» и fake[1] — «подделка») — методика синтеза изображения, основанная на искусственном интеллекте.

Методика синтеза изображения используется для соединения и наложения существующих изображений и видео на исходные изображения или видеоролики. В подавляющем большинстве случаев для создания таких видео используют генеративно-состязательные нейросети (GAN). Одна часть алгоритма учится на реальных фотографиях определённого объекта и создаёт изображение, буквально «состязаясь» со второй частью алгоритма, пока та не начнёт путать копию с оригиналом[2].

История

Deepfake используют для замены определённых элементов изображения на желаемые образы, в частности для создания фальшивых порнографических видео со знаменитостями или для порно-мести[3]. Среди всех видео с применением данной технологии порно-дипфейки составляют 96 %, причём 99 % из них делаются с участием популярных актрис и певиц[4]. Deepfake-порнография появилась в Интернете в 2017 году, в частности на Reddit[5], и была запрещена многими сайтами, включая сам Reddit, Twitter и Pornhub[6][7][8][9]. Deepfake также может быть использован для создания поддельных новостей и вредоносных обманов[10][11].

Deepfake-ролики можно легко найти на популярных сайтах потокового видео, таких как YouTube или Vimeo. Популярной программой является FakeApp[12], использующая TensorFlow[13].

Методы выявления движения и превращения в целевое видео, которое похоже на целевой образ, были представлены в 2016 году и позволяют создавать поддельные мимические изображения в существующем 2D-видео в режиме реального времени [14]. 1 сентября 2020 года компания Microsoft анонсировала свою новую разработку — Microsoft Video Authenticator, программное обеспечение, которое позволяет определить вмешательство в видео[15].

Технология deepfake использовалась в музейном пространстве: например, в Музее Сальвадора Дали во Флориде в честь 115-летия известного художника была организована специальная выставка Dalí Lives («Дали жив»). По словам кураторов проекта, на этом мероприятии «искусство встречает искусственный интеллект». Они использовали сгенерированный искусственным интеллектом прототип художника, который общался с посетителями музея, рассказывал им истории о своих картинах и жизни, а также делал селфи и присылал фотографии на почту посетителей[16].

В 2020 году Британский телеканал Channel 4 выпустил фейковое рождественское поздравление от королевы Елизаветы II с использованием технологии Deepfake. Руководство телеканала объяснило произошедшее предупреждением о том, что с помощью технологии Deepfake можно вводить людей в заблуждение, но некоторые люди всё равно осудили действия телеканала[17][18].

Центр противодействия дезинформации Украины заявил в феврале 2022 года о том, что дипфейк может быть использован в информационно-психологической операции в ходе Специальной военной операции России на Украине для создания ложного видео с заявлением о капитуляции Владимира Зеленского[19].

Применение

Дипфейки используется для создания фильмов, для замены лица одного актёра на другого. Используют для «оживления» умерших людей — создание видео с помощью фотографии и образца голоса.

Также используют дипфейки для видеосвязи, для сдачи экзаменов, для обмана или для шутки в видеочатах, для создания шуточных роликов с известными людьми.

16 марта 2022 года в социальных сетях распространилось фейковое видео президента Украины Владимира Зеленского, в котором глава государства «призывает народ сдаться»[20]. Пользователи сети быстро определили подделку из-за ее низкого качества. В клипе голова Зеленского слишком велика для тела, к которому она прикреплена цифровым способом. В некоторых кадрах она освещена по-разному и расположена под неестественным углом, отметили пользователи сети. Вокруг головы также заметен более высокий уровень пикселизации по сравнению с телом. Кроме этого, на поддельном видео голос Зеленского оказался глубже и медленнее, чем его нормальная речь. Настоящий Зеленский назвал ролик «детской провокацией» и опроверг все сделанные в нем заявления. Одновременно с появлением видеоролика неизвестные хакеры взломали бегущую строку телеканала «Украина 24», которая повторяла тезисы из поддельного видео.

Глава отдела политики безопасности Meta Натаниэль Глейхер сообщил, что видео удалили с платформ компании за «нарушение политики»[21].

Литература

  • DeepFakes: Creation, Detection, and Impact: [англ.] / Edited by Loveleen Gaur. — CRC Press, 2022. — 166 p. — ISBN 978-1-03-213920-3.

Источники

  1. https://ru.wikipedia.org/wiki/Deepfake

Примечание

  1. Brandon, John. Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise (англ.), Fox News (16 February 2018). Архивировано 15 июня 2018 года. Дата обращения: 25 апреля 2019.
  2. Евгения Созанкова. Дипфейки: как нейросети копируют реальность // screenlifer.com. — 2019. Архивировано 2 сентября 2019 года.
  3. https://www.highsnobiety.com/p/what-are-deepfakes-ai-porn/
  4. 2020: эпоха дипфейков (рус.). Теплица социальных технологий (25 декабря 2020). Дата обращения: 26 декабря 2020. Архивировано 25 декабря 2020 года.
  5. https://variety.com/2018/digital/news/deepfakes-porn-adult-industry-1202705749/
  6. https://thenextweb.com/insider/2018/02/07/twitter-pornhub-and-other-platforms-ban-ai-generated-celebrity-porn/
  7. https://www.theregister.co.uk/2018/02/09/deepfake_ai/
  8. https://www.cnbc.com/2018/02/08/reddit-pornhub-ban-deepfake-porn-videos.html
  9. https://www.pcmag.com/news/359067/pornhub-twitter-ban-deepfake-ai-modified-porn
  10. https://theoutline.com/post/3179/deepfake-videos-are-freaking-experts-out
  11. https://www.nytimes.com/2018/03/04/technology/fake-videos-deepfakes.html
  12. http://reason.com/blog/2018/01/25/fakeapp-finally-a-program-that-will-let
  13. https://www.theverge.com/2018/2/11/16992986/fakeapp-deepfakes-ai-face-swapping
  14. http://www.niessnerlab.org/projects/thies2016face.html
  15. https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/
  16. https://screenlifer.com/trends/dipfejki-v-iskusstve-kak-salvador-dali-voskres-iz-mertvyh/
  17. https://www.gazeta.ru/lifestyle/style/2020/12/a_13417718.shtml?updated
  18. https://smotrim.ru/article/2503798
  19. Росія може поширювати фальшиву «заяву про капітуляцію» Зеленського (укр.). www.ukrinform.ua. Дата обращения: 3 марта 2022. Архивировано 2 марта 2022 года.
  20. https://news.sky.com/story/ukraine-war-deepfake-video-of-zelenskyy-telling-ukrainians-to-lay-down-arms-debunked-12567789
  21. Глава отдела политики безопасности Meta Натаниэль Глейхер сообщил, что видео удалили с платформ компании за «нарушение политики».