Изменение доверия к журналистскому контенту в связи с распространением технологии дипфейк

Размещено на http://www.allbest.ru/

Федеральное государственное автономное образовательное учреждение высшего образования

"Национальный исследовательский университет

"Высшая школа экономики""

Факультет коммуникаций, медиа и дизайна

Выпускная квалификационная работа

Изменение доверия к журналистскому контенту в связи с распространением технологии дипфейк

Гаврищук Анастасия Ярославовна

Москва 2020

Оглавление

Введение

Глава 1. Теоретические принципы распространения дипфейков в медиа

1.1 От фейка до дипфейка: происхождение новой технологии

1.2 Классификация дипфейков

1.3 Тенденции в современной журналистике в контексте изменения доверия к журналистским материалам

Глава 2. Влияние дипфейков на журналистику и способы их обнаружения

2.1 Последовательные шаги для создания дипфейка

2.2 Способы обнаружения дипфейков

2.3 Предпосылки правового регулирования дипфейков и опыт их обнаружения: универсальные рекомендации для сотрудников медиа

Заключение

Список использованной литературы и источников

Приложения

Введение

Современный человек потребляет очень много информации: примерно 40% своего бодрствования мы проводим в сети Чуть меньше сна: сколько времени россияне сидят в интернете // газета.ru URL: https://www.gazeta.ru/tech/2020/02/12/12956929/we_are_social.shtml (дата обращения: 15.04.2020).. Следствие этого - информационные перегрузки, которые способствовали появлению термина digital detox - полного отказа от гаджетов как способа отдохнуть и привести свой организм в порядок. Обилие информации и широкий доступ к ней приводят к ситуации, когда "снижается эффективность ее обработки, анализа и интерпретации" Информационная перегрузка // Национальный исследовательский университет "Высшая школа экономики" URL: https://iq.hse.ru/news/215584230.html (дата обращения: 15.04.2020)., что порождает большое количество фейков - непроверенных новостей, которые появляются даже в серьезных изданиях. "Сегодняшние интернет-пользователи имеют склонность делиться всем, что схоже с их мировоззрением или убеждениями, независимо от подлинности" How can journalists help solve the global problem of deepfakes? // WNIP URL: https://whatsnewinpublishing.com/how-can-journalists-help-solve-the-global-problem-of-deepfakes/ (дата обращения: 20.04.2020)., - пишут авторы статьи "How can journalists help solve the global problem of deepfakes?". медиа дипфейк журналистика

Так, ИА "Панорама", который позиционирует себя как сатирическое издание, публикует фейковые новости на злободневные темы. Несмотря на то, что интернет-портал не скрывает своей направленности, многие СМИ не перепроверяют опубликованные там материалы. Так произошло со статьей "Искусственный интеллект, разработанный в Сколково, посоветовал россиянам бежать из страны" Искусственный интеллект, разработанный в Сколково, посоветовал россиянам бежать из страны // ИА "Панорама" URL: https://panorama.pub/25978-iskusstvennyj-intellekt.html (дата обращения: 09.03.2020)., которая распространилась среди более серьезных источников (Тверь 24, Кузбасские новости, каналы на Яндекс. Дзене). Количество репостов в социальные сети было огромным, и потребители контента действительно поверили в написанное. Согласно отчету Reuters Institute Reuters Institute Digital News Report 2019 // Reuters Institute URL: https://reutersinstitute.politics.ox.ac.uk/sites/default/files/inline-files/DNR_2019_FINAL.pdf (дата обращения: 09.03.2020). в 2019 году, больше половины людей во всем мире обеспокоены тем, что недостаточно хорошо умеют отделять реальные и поддельные новости в интернете.

В контексте этого для сотрудников СМИ особо важно отличать фейки - заведомо ложные сведения - от правды: проверять, кто является источником информации, убеждаться, что фотография действительно была сделана на месте события и руководствоваться здравым смыслом. Но наряду с фейками, с которыми можно бороться, если тщательно перепроверять информацию, в последние годы появилась более серьезная угроза - дипфейки. Дипфейк - это метод синтеза фото или видео, основанный на принципах машинного обучения. Обладая высоким уровнем достоверности, дипфейки уже сейчас становятся настолько качественными, что ставят под угрозу авторитет СМИ, репутацию звезд и политиков, которые всегда находятся под прицелом создателей дипфейков.

Существуют положительные и отрицательные примеры использования дипфейков. К отрицательным можно отнести дипфейки, которые наносят вред репутации человека, а также те из них, которые создаются с целью мошенничества и шантажа. Например, одной из жертв дипфейка стала Нэнси Пелоси, спикер Палаты представителей Конгресса США. На поддельном видео она выступает в состоянии алкогольного опьянения. После скандала удалось доказать невиновность политика и удалить видео, но качество подделки было настолько высоким, что вызвало беспокойство общественности.

Новая технология может использоваться и с положительной стороны: для нужд киноиндустрии, создания качественной графики и в искусстве. Индийский политик Маной Тивари прославился тем, что сделал дипфейк на самого себя - в ходе предвыборной гонки он снял агитационный ролик, который с помощью новой технологии был озвучен на разных языках, чтобы привлечь больше избирателей. "Технология дипфейков помогла нам усилить кампанию, как ничто другое. С помощью ролика на хариани мы убедительно донесли послание целевой аудитории, на чьём языке кандидат не говорит" Индийский политик сделал дипфейки собственной речи на других языках, чтобы привлечь больше избирателей // TJournal URL: https://tjournal.ru/internet/144420-indiyskiy-politik-sdelal-dipfeyki-sobstvennoy-rechi-na-drugih-yazykah-chtoby-privlech-bolshe-izbirateley (дата обращения: 10.03.2020)., - так прокомментировала видео пресс-служба политика. В исходном видео заменили только движение губ, чтобы озвучка выглядела более реалистично, и это удалось: отличить оригинальное видео от сгенерированного практически невозможно. Этот опыт открыл новые горизонты для озвучивания фильмов на других языках.

Таким образом, актуальность нашей темы состоит в том, что технология дипфейк стремительно развивается и проникает во многие сферы: в политику, сферу развлечений, в средства массовой информации.

Объектом нашего исследования выступает технология дипфейк, а предметом - ее влияние и воздействие на журналистику. В ходе написания работы мы ставим несколько исследовательских вопросов:

1. Как технология дипфейк влияет на медиаиндустрию?

2. Как технология дипфейк влияет на доверие к журналистскому контенту?

3. Как журналист может отличать дипфейк контент от реального, не обладая техническими средствами?

Для того, чтобы ответить на эти вопросы, мы рассматриваем технологию дипфейк, цели ее использования. Также мы хотим проследить, как общественные институты относятся к новой технологии и какие меры применяют для ее регулирования.

Цель исследования - изучение влияния технологии дипфейк на индустрию производства новостей. Для достижения этой цели поставлены следующие задачи:

1. рассмотреть теоретический аспект используемых в исследовании понятий;

2. проанализировать изменения, происходящие в медиа;

3. рассмотреть технологию дипфейк и изучить объем технических знаний, требуемых для освоения данной технологии;

4. провести исследовательские интервью с работниками data science индустрии, которые используют технологию дипфейк;

5. сделать выводы о влиянии технологии дипфейк на журналистику;

6. сформировать рекомендации по распознаванию дипфейков для сотрудников медиа.

Наша тема обладает низкой степенью научной разработанности. Однако в своей работе мы можем опираться на некоторые исследования, в которых говорится о влиянии фейков на журналистику, а также на теоретические разработки, связанные с дипфейками. Наша работа опирается на следующие теоретические блоки: во-первых, это книги и статьи, так или иначе связанные с дипфейками. Здесь мы опираемся на три основных источника: книгу Кайлаш Ахирвар "Состязательные сети", книгу Ф. Шолле "Глубокое обучение на Python", книгу С. Николенко, А. Кадурина, Е. Архангельской "Глубокое обучение. Погружение в мир нейронных сетей". Так как разработки в области дипфейков стремительно развиваются и в работе нам важно использовать самые актуальные из них, мы будем активно обращаться к открытому коду на Github, в сообщество proglib, Habr и к платформе соревнований по машинному обучению Kaggle. Следующий теоретический блок - статьи, связанные с доверием к журналистике. Здесь мы обращаемся к статьям А. Ефанова, С. Ильченко, к работе Ф. Фукуямы "Доверие: социальные добродетели и путь к процветанию", которые отражают взгляд на доверие, как на ключевой параметр для общества, от которого зависит его развитие. Наконец, последний теоретический блок - журналистские материалы о дипфейках и тех вызовах, которые несет собой новая технология. В последние несколько лет такие материалы публиковались в RT, The Guardian, The New York Times и других СМИ.

В нашей работе используется следующая эмпирическая база: исследовательские интервью с участниками соревнования по обнаружению дипфейков о том, какие методы они используют для обнаружения дипфейков.

Содержательным итогом работы является создание общих рекомендаций для журналистов, как минимизировать негативное вмешательство дипфейк-новостей в СМИ, как выявлять такие новости.

Выпускная квалификационная работа имеет традиционную структуру, состоящую из введения, теоретической и практической глав и заключения. Во введении указаны цели и задачи работы, основная проблематика, объект и предмет исследования, а также ее содержательный итог. В первой главе мы даем определение процессам, происходящим в медиа. Освещаем важность владения техническими навыками в работе журналиста, важность базовых навыков программирования и анализа данных, рассматриваем вопросы снижения доверия к журналистскому контенту. Также мы рассматриваем феномен фейка и дипфейка, описываем их происхождение и влияние на медиаиндустрию. Углубляясь в анализ дипфейков, мы даем обзор каждого его вида и приводим самые яркие примеры.

Во второй главе мы рассматриваем дипфейки с технической точки зрения, погружаемся в суть машинного обучения. Также мы оцениваем сложность создания собственного дипфейка, рассматриваем его исходный код. В контексте этого мы освещаем соревнование по распознаванию дипфейков на платформе для соревнований по машинному обучению Kaggle, делимся решениями участников и проводим серию исследовательских интервью с лучшими из них. Участники отвечают на вопросы, связанные со сложностью написания дипфейков, а также оценивают угрозу от этой технологии для медиа. В этой главе мы рассматриваем судебную практику, связанную с дипфейками, и первые попытки регулировать новую технологию законодательно.

В заключении подводятся итоги проведенному исследованию и даются практические советы по распознаванию дипфейков для сотрудников СМИ, которые должны помочь журналистам отличать дипфейки.

Глава 1. Теоретические принципы распространения дипфейков в медиа

1.1 От фейка до дипфейка: происхождение новой технологии

Чтобы разобраться в феномене дипфейка, для начала рассмотрим то, откуда он берет начало - фейк. Что же такое фейковые новости?

Само слово "фейк" в переводе с английского означает "подделка". То есть распространение фейковых новостей в СМИ - это распространение заведомо ложной информации. Но какая в этом выгода для сотрудников СМИ? Согласно исследованию ученых из Массачусетского университета, фальшивые новости в целом более привлекательны для читателей и набирают примерно в шесть раз больше просмотров, чем реальные новости, а ретвитят фейки на целых 70% чаще False news 70 percent more likely to spread on Twitter: study // Reuters URL: https://www.reuters.com/article/us-usa-cyber-twitter/false-news-70-percent-more-likely-to-spread-on-twitter-study-idUSKCN1GK2QQ (дата обращения: 10.03.2020).. Виной тому - сама суть фейковых новостей: от громких заголовков до сенсационного содержимого. "Массовая аудитория на инстинктивном уровне зачастую ждет фейковых новостей (в прошлом эту функцию выполняли слухи) и получает их от недобросовестных поставщиков, в качестве которых могут выступать как юридические, так и физические лица" Фейковые новости как феномен современности // CyberLeninka URL: https://cyberleninka.ru/article/n/feykovye-novosti-kak-fenomen-sovremennosti (дата обращения: 03.03.2020)..

Привлекательность фейковых новостей обусловлена и тем, что зачастую люди преувеличивают масштабность произошедшего события и уверены, что власть от них что-то скрывает. Это явление получило название теорий заговора, которые, как пишет У. Эко в своих интервью, вызывают интерес у человека, как все необъяснимое и таинственное. У. Эко связывает теории заговора с подозрительностью и недоверчивостью людей: "Есть болезнь, овладевшая и культурой и политикой нашего времени… Имя ее - Синдром подозрительности. Методология ее - "копание глубже". Предполагается, что за каждым явлением таится еще одно, более сложное, а за тем - еще одно и так далее... Болезненная подозрительность составляет бесконечную цепочку предположений, недоказуемых и секретных" Эко У. Средние века уже начались // Иностранная литература. - 1994. - №4. - С. 258-267..

Один из примеров фейковой новости - трагедия в торговом центре "Зимняя вишня" в Кемерово, после которой в СМИ распространилась информация о гораздо большем количестве погибших и пострадавших, чем на самом деле.

Фейковые новости в СМИ возникают с развитием самих средств массовой информации, но официальное название закрепилось за ними не так давно. Появление отдельного термина было спровоцировано предвыборной гонкой в США, когда фейковые новости распространялись более интенсивно, чем реальные, и вызвали более 8 миллионов откликов на Facebook. The Guardian в статье "What is fake news? How to spot it and what you can do to stop it" также подчеркивает влияние фейковых новостей на исход президентских выборов. Например, 73% избирателей Трампа считали, что миллиардер-финансист Джордж Сорос заплатил протестующим, чтобы сорвать митинги республиканского кандидата What is fake news? How to spot it and what you can do to stop it // The Guardian URL: https://www.theguardian.com/media/2016/dec/18/what-is-fake-news-pizzagate (дата обращения: 02.02.2020)..

В той же статье The Guardian призывает читателей к ответственному отношению к новостям, что поможет не распространять фейки дальше. А именно: делиться только новостями из проверенных источников, не поддерживать СМИ, разжигающие ненависть и отрицательные эмоции ("hate-clicking"), и всегда разговаривать с близкими, если они распространяют фейковые истории.

А. Суходолов в статье "Феномен "фейковых новостей" в современном медиапространстве" выделяет три вида фейковых новостей по типу их создания. Первый тип - полностью фейковая новость. К таким новостям можно отнести многочисленные сообщения в СМИ, которые пытаются рассказать альтернативную версию появления коронавируса - от тайного биологического оружия США Станислав Соколов: китайский коронавирус - биологическое оружие США? // Pogovorim.by URL: https://pogovorim.by/22291-koronavirus-biologicheskie-oruzhie-ssha-kitay-2019-2020.html (дата обращения: 10.02.2020). до вырвавшегося из-под контроля эксперимента самих китайцев. Полностью фейковые новости обладают высокой степенью сенсационности, но не все могут заподозрить в них фейк: ведь зачастую в них ссылаются на слова ученых, политиков и других влиятельных фигур.

Второй тип фейка - новости, правдивые частично. Такие новости обычно появляются после крупных трагедий, когда количество жертв еще точно не известно, и в информационном пространстве преувеличивается число пострадавших, чтобы вызвать больший отклик и большую сенсационность.

В третью группу фейков входят новости, искажающие реальные события. Это может быть вырванная из контекста цитата, некорректный перевод какого-либо высказывания. Даже то, какие факты журналист выбирает при написании статьи, может исказить ее смысл. Такие фейки распознать труднее всего, но и используются они чаще других как способ манипулирования общественным мнением.

Что такое дипфейк и как он появился? Дипфейк - это технология искусственного интеллекта, с помощью которой можно создавать новые изображения на основе других. С помощью алгоритмов машинного обучения можно обучить нейросеть самостоятельно генерировать фото или видео на основе кадров, которые мы отберем. В более частном случае дипфейки используются для замены лиц на фото или видео: можно менять местами актеров в фильмах, или же создавать дипфейки на политических деятелей. Технологию создал в 2017 году пользователь reddit с ником Deepfakes, от этого ника и пошло ее название. Программист использовал известные инструменты для работы с машинным обучением и нейросетями - открытую библиотеку Keras. Затем для создания более совершенных дипфейков был создан алгоритм GAN - генеративно-состязательных нейронных сетей, который способен улучшать создаваемые им самим фото или видео. GAN состоит как бы из двух частей: первая пытается создать настолько качественный дипфейк, чтобы он был неотличим от реальной картинки, а вторая часть "штрафует" первую, если смогла обнаружить на сгенерированной картинке какие-то несоответствия. Таким образом, обе части алгоритма способны обучаться бесконечно долго: первая часть каждый раз будет выдавать все более совершенный дипфейк, а вторая будет постоянно совершенствоваться в нахождении ошибок. Таким образом, обе части алгоритма находятся в соревновании друг с другом (отсюда в названии алгоритма слово "состязательные"), пока этот процесс не будет остановлен программистом.

Дипфейки можно назвать частным случаем фейков: они обладают всей сенсационностью и виральностью фейковых новостей. Отличить дипфейк от реальности становится все труднее, так как качество подделок постоянно улучшается. Такая технология может представлять серьезную угрозу для репутации средства массовой информации, которое не сможет вовремя обнаружить подделку и опубликует такую новость.

Том Ван де Веге считает, что те СМИ, которые не смогут отличить дипфейк от реальности, станут главной мишенью для новой технологии. Публикация дипфейка в качестве новостного сюжета может "нанести ущерб репутации СМИ и еще больше подорвать доверие общественности к медийным институтам" Там же..

Но не меньшей опасности подвержены медийные личности, с участием которых может быть создано фейковое видео и растиражировано, как реальный новостной сюжет. Фейковые новости о журналистах - уже не редкость, и один из таких случаев произошел с ведущей бельгийского телеканала VRT News Ханной Декутер, которую якобы уволили за то, что она рекламирует товары для похудения и косметику Why is Hanne Decoutere so peeved? // VRT NWS URL: https://www.vrt.be/vrtnws/en/2019/02/27/why-is-hanne-decoutere-so-peeved/ (дата обращения: 10.02.2020)..

Еще один случай с использованием дипфейка в отношении журналиста произошел в Индии. Его жертвой стала журналист-расследователь Рана Айюб, которая писала о насилии над детьми в своей стране. Националистическая партия Индии выступила в поддержку насильника, а Рану Айюб пригласили выступить на BBC, где она рассказывала о том, как власть в ее стране покрывает преступления. Вскоре после этого громкого скандала в сети появился дипфейк порнографического содержания на журналистку, который как вирусный ролик распространился по всей Индии. Началась настоящая травля Раны Айюб: в полиции отказывались принимать ее заявление и удалять ролик, а незнакомые люди каждую секунду писали ей оскорбительные комментарии. Последствия этого навсегда останутся с журналисткой: "Я всегда думала, что никто не может причинить мне вред или запугать, но этот случай действительно повлиял на меня так сильно, что я не могла себе этого представить" I Was The Victim Of A Deepfake Porn Plot Intended To Silence Me // URL: https://www.huffingtonpost.co.uk/entry/deepfake-porn_uk_5bf2c126e4b0f32bd58ba316?guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAAC6Ay04Tlda6iImxNR74VOSAJ8GJ_h2pDhDSPWs4CJQHedRAsPsfZDkLRyRBud1oX4j4MGSkMLVbnM7_vjwa9EZs1V7MQM-to8wfRbCzhH9iR6rDbL0x8hPDXrZmMn5HBxVvC2ZSQGqKVcLBAtEWjfUAh_gL8RAOOaDSVFC1cePL&guccounter=2 (дата обращения: 02.02.2020)..

1.2 Классификация дипфейков

Компания Deeptrace Labs провела масштабное исследование сайтов, форумов и YouTube каналов, чтобы выявить среди публикуемого контента дипфейки. Исследование началось еще в 2017 году, а в 2019 компания смогла выявить более 14 000 дипфейк-видео. 96% из них составляла порнография, а основными жертвами стали женщины-звезды, лица которых "приклеили" на тела порноактрис. Более 90% контента так или иначе относится к западным деятелям, но технология дипфейк проникает и в другие страны, становясь глобальным явлением.

В 2017 году с появлением GAN - генеративно-состязательных нейронных сетей, благодаря которым возможно создание изображений высокой степени достоверности - начали появляться видео с обнаженными актерами и актрисами. Первой пострадавшей от новой технологии была актриса Галь Гадот, затем начали выходить ролики со Скарлетт Йохансон, Тейлор Свифт и другими голливудскими знаменитостями. Несмотря на то, что первые видео не отличались реалистичностью, развитие технологии не стоит на месте, что влечет за собой создание все более правдоподобных роликов. Актер Лу Денниг в интервью Fox News выражает опасение, что дипфейки могут негативно отразиться на репутации медийных личностей, так как зрители могут принять эти ролики за правду Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise // Fox News URL: https://www.foxnews.com/tech/terrifying-high-tech-porn-creepy-deepfake-videos-are-on-the-rise (дата обращения: 02.02.2020)..

В 2019 году создали приложение DeepNude, которое способно раздеть не только знаменитость, но и любого человека. Достаточно загрузить одну фотографию - и нейросеть сгенерирует такое же изображение, но уже с обнаженным человеком. Появление приложения вызвало рекордное количество скачиваний, а уже через несколько дней создатели объявили о его закрытии.

Именно эти скандальные новости вызвали активный интерес к дипфейкам, после чего стали появляться и другие видео - пародийные. Создатели дипфейков заменяли актеров в популярных фильмах на других, чтобы добиться комического эффекта. Так произошло с Николасом Кейджем, лицо которого использовали в большом числе пародий Deepfake: как нейросети раздевают знаменитостей и сводят нас с ума - и чем это опасно // URL: https://disgustingmen.com/tehno/deepfake/ (дата обращения: 02.02.2020)., например, этим актером заменили Таноса из Вселенной "Марвел" и Нео из фильма "Матрица".

Некоторые пародийные дипфейки появились для того, чтобы улучшить сцены в фильмах, которые, по мнению фанатов, были сняты недостаточно хорошо. Например, создателями дипфейков была доработана сцена из фильма "Мумия возвращается" с превращением Дуэйна "Скалы" Джонсона в Царя скорпионов DeepFake (дипфейк) - реалистичная замена лиц на видео при помощи нейронных сетей // URL: https://yablyk.com/335033-deepfake-dipfejk-realistichnaya-zamena-lic-na-video-pri-pomoshhi-nejronnyx-setej/ (дата обращения: 03.02.2020).. В других пародиях создатели дипфейков меняют не понравившихся актеров на других, которые, по их мнению, больше подходят на роль. После выхода телесериала "Ведьмак" фанаты, разочарованные выбором актрисы на роль Йеннифер, заменили ее лицо на лицо Евы Грин. Таким образом, технология дипфейк открывает огромный простор для создания пародий и творчества фанатов.

В Голливуде на дипфейки возлагают большие надежды как на возможность выводить спецэффекты на качественно иной уровень. В частности, открывается возможность озвучивания фильмов с помощью дипфейков, так, чтобы мимика и движения губ актеров менялись в зависимости от языка, на который происходит перевод. Дипфейки также могут быть полезны, когда речь идет о замене лиц в кино: в документальных фильмах об исторических персонажах больше не придется прибегать к дорогостоящей компьютерной графике, достаточно лишь нескольких изображений известной личности. То же самое касается дипфейков на актеров, которые погибли во время съемочного процесса.

Существуют приложения по созданию дипфейков - например, Doublicat. Пользователю на выбор предлагается ограниченное количество GIF-анимаций, которые представляют собой короткие нарезки из известных фильмов. Пользователю достаточно загрузить свою фотографию, и приложение создаст дипфейк на основе исходной анимации.

Джорджио Патрини из лаборатории Deeptrace Labs, которая занимается выявлением фейковых фото, видео и сайтов, отмечает, что пародийные дипфейки, в отличие от порнографических дипфейков, являются условно безобидными: "Я бы не сказал, что эти варианты применения дипфейков позитивны, но они не являются вредоносными по умолчанию" К чему привело развитие дипфейков и что будет дальше // URL: https://news.rambler.ru/other/42984873-k-chemu-privelo-razvitie-dipfeykov-i-chto-budet-dalshe/?updated (дата обращения: 03.02.2020)..

Несмотря на то, что две предыдущие категории дипфейков могут нанести вред чести и достоинству тем, кто становится их действующими лицами, есть еще более опасная категория - дипфейки на политических лидеров и глав государств. Один ролик может не только разрушить карьеру политика, но и дестабилизировать политическую ситуацию целых стран. Однако, по статистике Deeptrace Labs, политических дипфейков гораздо меньше, что связано с меньшим интересом аудитории к таким видео. Патрини отмечает: "Я думаю, что это может быть связано с виральностью, которая ассоциируется с непорнографическими дипфейками. Создатели - это, прежде всего, любители, которые пытаются делать качественные подделки. Выбор известных персонажей, таких как Илон Маск, Дональд Трамп или Николас Кейдж, означает, что ваш дипфейк с большей вероятностью получит много просмотров, а также добавляет в видео элемент комедии" Там же. Известными примерами сатирических политических дипфейков являются подмена лица Ангелы Меркель на лицо Дональда Трампа в одном из выступлений канцлера Германии Merkel Trump Deepfake // YouTube URL: https://www.youtube.com/watch?v=5hZOcmqWKzY (дата обращения: 05.03.2020)., а также замена лица президента Аргентины Маурисио Макри на лицо Адольфа Гитлера Adolf Hitler "Downfall Movie" to Mauricio Macri. (Faceswap Deeplearning) // YouTube URL: https://www.youtube.com/watch?v=M8t6hGRtDac (дата обращения: 05.03.2020).. Такие дипфейки создаются в качестве сатиры, а не с целью вызвать скандал или дестабилизировать политическую ситуацию.

Действительно крупных скандалов, связанных с политиками в дипфейк-видео, гораздо меньше. Один из таких примеров - видеозапись новогоднего выступления президента страны Али Бонго, которое вызвало беспорядки в Габоне. Оппозиция назвала видео дипфейком, что спровоцировало военный переворот в стране. Хотя до сих пор не установлено, является ли видео подделкой, данный пример показывает потенциальную разрушительную силу дипфейков.

Использовать нейросети в искусстве начали не так давно, но, несмотря на это, уже появились первые положительные примеры использования технологии. Один из самых масштабных экспериментов в этой сфере - перформанс, который подготовили в музее Сальвадора Дали в честь 115-летия со дня его рождения. Посетителей выставки встречала виртуальная копия художника, практически не отличимая от него. На создание видео было потрачено 1000 часов машинного обучения, были использованы 6000 фотографий и снято 145 видео с актером похожих пропорций.

Использование дипфейков для создания произведений искусства называют нейросетевым творчеством. Потенциальные возможности дипфейков впечатляют: на данный момент нейросети умеют создавать живые картины, писать стихи и музыку. Для того, чтобы создать такой дипфейк, программисту необходимо показать нейросети датасет, объединенный чем-то общим. По такому принципу построен дипфейк Нейросетевая Оборона, который на текстах "Гражданской Обороны" обучился создавать собственные тексты песен.

Оживление картин, умерших художников или писателей дает возможность познакомиться с классиками в новом формате, пообщаться с ними на понятном для современных людей языке. Исследователи в области искусственного интеллекта компании Самсунг в Москве (Samsung AI Center) экспериментировали с созданием коротких видео на основе всего одной фотографии. Используя свои разработки на основе генеративно-состязательных нейронных сетей, исследователи создали целую серию "живых портретов" с Леонардо да Винчи, Мерлин Монро, Альбертом Эйнштейном и Моной Лизой.

Свой вклад в отношении к дипфейкам как к искусству внес и Яндекс. Компания создала виртуальную галерею нейросетевого искусства с картинами-дипфейками. Картины можно приобретать в частные коллекции, при этом у одной картины может быть только один владелец. Этот пример стирает грань между традиционным искусством и искусством, которое появилось благодаря написанному коду. Как отмечают создатели проекта, они умышленно ограничили количество картин, чтобы создать уникальную в своем роде галерею, а не очередной ресурс, на котором будет генерироваться бесчисленное количество изображений. "Искусственный интеллект становится всё более привычным инструментом в наших делах - в некоторых, возможно, и чем-то большим. Соавтором. Творческий процесс художника, композитора, писателя вполне может включать применение нейросетей. Само понятие творчества становится сложнее. (Например: не является ли автор нейросети-художника - художником?)" Галерея нейросетевого искусства // Яндекс URL: https://yandex.ru/lab/ganart (дата обращения: 19.04.2020)., - пишут авторы о своей галерее.

Помимо дипфейков, существуют приложения, основанные на частичной замене лиц. Фильтры в инстаграм, приложения типа Snapchat и FaceUp становятся особенно популярны. В июле 2019 года приложение FaceUp стало самым скачиваемым среди пользователей Android и iPhone. В социальных сетях проходили челленджи по состариванию собственного лица или смене пола: пользователи массово выкладывали свои измененные фотографии, побуждая еще больший интерес к приложению. Создатель приложения Ярослав Гончаров называет свой проект очень прибыльным "Мы очень прибыльны": первое интервью основателя FaceApp после скандала вокруг приложения // Forbes URL: https://yandex.ru/turbo?text=https%3A%2F%2Fwww.forbes.ru%2Ftehnologii%2F380703-my-ochen-pribylny-pervoe-intervyu-osnovatelya-faceapp-posle-skandala-vokrug (дата обращения: 05.03.2020). и задумывается над тем, чтобы добавить в приложение функции по изменению видео пользователей.

Пользователь Github alievk выложил репозиторий Github URL: https://github.com/alievk/avatarify (дата обращения: 19.04.2020)., с помощью кода в котором можно создавать маски для конференций в Skype и Zoom, или же воспользоваться готовыми шаблонами (доступны лица Моны Лизы, Илона Маска и другие). Чтобы разобраться в установке, необходимо обладать минимальными навыками программирования и навыками работы в командной строке, но в будущем возможно упрощение этого инструмента.

Наряду с дипфейками существуют неглубокие фейки (shallowfakes), описанные в статье The Guardian "What are deepfakes - and how can you spot them?". Неглубокие фейки - это видео, которые были подделаны с использованием простых инструментов редактирования (замедление, ускорение части видео или речи). Консервативная партия Великобритании использовала этот прием в преддверии выборов, подделав интервью с депутатом Кейром Стармером. Ответы депутата были замедлены, чтобы создать впечатление, что он не может ответить на вопрос о позиции партии по брекситу. Другой случай произошел с корреспондентом CNN Джимом Акоста, которому запретили присутствовать на пресс-брифингах Белого дома. В сети появилось видео, на котором он вел себя агрессивно в зале заседания, пытаясь отнять микрофон. Позже выяснилось, что видео было ускорено в момент передачи микрофона, что сделало жест агрессивным. Этот пример демонстрирует, насколько могут навредить даже такие примитивные фейки: испортить репутацию или карьеру.

1.3 Тенденции в современной журналистике в контексте изменения доверия к журналистским материалам

Какие тенденции характеризуют современную журналистику и есть ли какая-либо связь между изменением доверия к журналистским материалам и общими изменениями, происходящими в медиа? Чтобы разобраться в этом вопросе, рассмотрим несколько мнений о том, каким должен быть современный журналист и как образ журналиста трансформируется в глазах общества.

К современному журналисту предъявляется ряд требований, список которых с каждым годом все расширяется. Если несколько лет назад успешный сотрудник СМИ должен был просто создавать грамотные новостные материалы, то сейчас он должен уметь гораздо больше: нужно не только самостоятельно писать новости, но редактировать их, отбирать нужное, работать с большими потоками информации, владеть техническим инструментарием для обработки больших данных, а также грамотно продвигать свой контент в социальных сетях.

Срии Сриинавазан, читающий в Колумбийской школе курс "Как социальные сети могут помочь действующему журналисту", отмечает увеличение требований к сотрудникам СМИ. Журналиста будущего, по его мнению, должен обладать несколькими ключевыми умениями Будущее журналистики и журналист будущего: обзор исследовательских мнений // CyberLeninka URL: https://cyberleninka.ru/article/n/buduschee-zhurnalistiki-i-zhurnalist-buduschego-obzor-issledovatelskih-mneniy (дата обращения: 06.04.2020).: владеть навыками программирования и возможностью с помощью них создавать пространство для презентации своих работ; разбираться в блогосфере и иметь навыки по ведению собственного блога; самостоятельно продвигать свое творчество, в том числе с помощью социальных сетей; уметь быстро осваивать новые технологии и не бояться экспериментов; хорошо ориентироваться в социальной журналистике и интересоваться социальными проблемами; придерживаться морально-этических принципов журналиста; обладать навыками в сфере SEO. Срии действительно много внимания уделяет важности владения техническим инструментарием журналиста. Он неоднократно подчеркивает, что "журналистика будущего - это альянс основных журналистских принципов и новых технологий" Там же.

Эти требования не возникли из ниоткуда, они являются естественным следствием изменений, происходящих в журналистике. В цикле статей портала "Медиастанция" о том, как изменилась журналистика за последние десять лет, журналисты также не могут игнорировать эти изменения. Семен Новопрудский отмечает, что "Интернет-журналистика развивается быстрее бумажной" Как изменилась журналистика за последние 10 лет // Медиастанция URL: https://mediastancia.com/articles/3955/ (дата обращения: 07.03.2020).. Интернет-издания пытаются угнаться за изменениями, происходящими в мире, однако принципы, которые преобладали в печатной прессе, остаются такими же и в Интернете: "При этом, на мой взгляд, базовые задачи журналиста и журналистики все равно не меняются и не поменяются. Мы по мере сил пытаемся установить истину и помочь людям разобраться в окружающей их реальности: политической, экономической, культурной, гастрономической - какой угодно". Там же

Вадим Горжанкин считает, что Интернет помогает в формировании гражданской журналистики. Человек и его проблемы снова становятся главными в журналистских материалах, а качество самих материалов - намного важнее количества. Интересно и его мнение о молодых журналистах: "С каждым днем появляется все больше талантливых журналистов, которые, в соответствии с запросами нового времени, создают действительно читабельный контент, и это не может не радовать. Я верю, что через 3-5 лет хорошие журналисты будут востребованы на порядок больше, чем сегодня" Там же.

Александр Баулин отмечает такую тенденцию, как "глобализацию профессионализма". Каждый журналист теперь знает, что его работу смогут оценить коллеги из любых уголков страны и мира. Для читателей такая глобализация принесла множество плюсов: ведь любую информацию теперь легко перепроверить, сравнить способы подачи новости в нескольких СМИ, сделать свои собственные выводы и остаться читать новости на той платформе, которая показалась наиболее интересной. В связи с этим, отмечает Александр, "Доступ к информации стал быстрым, часто бесплатным, а значит, повысилась конкуренция - выживут сильнейшие" Там же.

Розмари Турман поддерживает точку зрения Александра Баулина: новые технологии действительно изменили журналистику. Современный читатель становится все более избирательным, он читает самые интересные для него новости, не привязываясь к контенту конкретных СМИ, потребляет все больше и больше информации, часто не дочитывая материал: "Сейчас все с еще большим рвением гонятся за показателями посещаемости, забывая о содержимом статьи; количество контента, как и плагиата, растет в геометрической прогрессии; а читатель все чаще задумывается над словосочетанием digital detox" Там же. И это не может пройти без последствий для газет, журналов или интернет-площадок.

Андрей Воскресенский считает, что, несмотря на все изменения, "Будущее традиционных СМИ зависит только от того, окажутся ли они заслуживающими доверия" Там же. Действительно, вопрос доверия к журналистскому контенту встает особенно остро сейчас, когда и читателям, и самим авторам бывает сложно отличить реальные события от вымышленных.

Раньше фотография, видео или аудиозапись служили подтверждением подлинности слов и могли обезопасить журналиста в случае спорных ситуаций. Сейчас, когда все это можно подделать, возникает большая угроза не только для СМИ, но и, например, для судебной системы, где запись телефонного разговора или видео с камеры наблюдения могут служить доказательством. В статье RT "Deepfake technology shows the emperor (or the girl of your dreams) has no clothes" поднимается вопрос доверия к журналистским расследованиям в ситуации, когда герой расследования сможет заявить, что кадры с его участием были подделаны. В таких случаях "присутствие надежных свидетелей любого преступления становится еще более важным" Deepfake technology shows the emperor (or the girl of your dreams) has no clothes // RT URL: https://www.rt.com/op-ed/463137-deep-fake-technology-nude/ (дата обращения: 07.03.2020)..

Снижение доверия к журналистике отмечают и социологические центры. На вопрос Левада-Центра в 2018 году "Каким источникам вы более всего доверяете в освещении новостей в стране?" первое место заняло телевидение, а вот на втором в качестве источника оказались "друзья, родные, соседи". Такие процессы называют горизонтальным или "распределенным доверием" Журналистика: от чего зависит доверие тех, кто ей служит // CyberLeninka URL: https://cyberleninka.ru/article/n/zhurnalistika-ot-chego-zavisit-doverie-tem-kto-ey-sluzhit (дата обращения: 07.03.2020)., и при них доверие аудитории склоняется не к социальным институтам, а к своему окружению, с которым люди знакомы лично.

Что же такое доверие? Ф. Фукуяма, автор работы "Доверие: социальные добродетели и путь к процветанию" определяет доверие, как "ключевую характеристику развитого человеческого общества, проявляющуюся как на индивидуальном уровне, так и на уровне социальном" Доверие: ключевое понятие теории социального капитала // CyberLeninka URL: https://cyberleninka.ru/article/n/doverie-kak-klyuchevoe-ponyatie-teorii-sotsialnogo-kapitala (дата обращения: 07.03.2020).. Именно уровнем доверия характеризуется благосостояние того или иного общества: страны "первого мира", основанные на принципах либеральной демократии, Ф. Фукуяма называет странами с самым высоким уровнем доверия в обществе. Автор также подчеркивает, что все большую роль играет доверие в глобальном смысле: не внутри стран, а в мировом масштабе, в системе международных отношений, в экономике. "Причиной поддержки, которую экономические субъекты разного уровня оказывают друг другу, является их убежденность в своей принадлежности к одному сообществу, скрепленному взаимным доверием" Fukuyama F. Trust: The Social Virtues and the Creation of Prosperity. - New York: Free Press, 1995. - С. 157..

СМИ называют "четвертой властью" неслучайно, ведь изменения доверия к медиа вызывает изменение доверия к власти. А. Ефанов в статье "Падение доверия к телевидению: социологический взгляд на проблему" пишет, что "культура доверия строится на основе взаимодействия трех сторон: общества, органов государственной власти и СМИ (при этом ключевую роль в данном процессе играет именно институт массмедиа). В противном случае проявление недоверия к СМИ порождает угрозу нарушения коммуникативной связи между обществом и властью, а также дефицит доверия к последней" Ефанов А. А Падение доверия к телевидению: социологический взгляд на проблему. // Вестник ЮжноУральского государственного университета. Социально-гуманитарные науки, 2018. - С. 89-90..

Профессор СПБГУ С. Ильченко связывает падение доверия к журналистскому контенту с распространением фейковых новостей. Он создает руководство для студентов факультетов журналистики по проверке информации и выявлению фейков. Он отмечает, что только то, что мы видим собственными глазами, может являться правдой: "проблема достоверности информации в социальной практике, в том числе и в журналистике, решается либо простым признанием факта наглядной демонстрации визуального материала, либо попытками визуализации иных вариантов материально фиксированной информации. То есть достоверно только то, что увидела аудитория с помощью визуальных каналов информации: в телеэфире, на видеоресурсах в сети, на полосах печатных СМИ, на дисплеях гаджетов. Текстовая или аудированная вербальная информация остается в подобном контексте некой альтернативой, тяготеющей к достоверности" Ильченко С.Н. Журналистика источников лжеинформации: кризис доверия в условиях шоу-цивилизации // Век информации. 2015. - С. 22..

Исследователи А. Суходолов и А. Бычкова также связывают падение доверия к журналистскому контенту с распространением фейковых новостей. "Ставя вопрос о противодействии влияния на общество фейковых новостей в плане подрыва доверия к медиа, исследователи указывают на усилия США и Европы в борьбе с фейками, отмечая, что "Германия стала первой страной после США, где Facebook запустил в тестовом режиме систему выявления и маркировки фейковых новостей"" Политические медиатексты и проблема доверия: современные вызовы // CyberLeninka URL: https://cyberleninka.ru/article/n/politicheskie-mediateksty-i-problema-doveriya-covremennye-vyzovy (дата обращения: 20.03.2020).. Для выявления фейковых новостей разрабатываются специализированные инструменты. Например, ученые из Калифорнийского университета в Беркли на основе технологий искусственного интеллекта разработали алгоритм, который способен находить похожие новости на разных сайтах и даже на разных языках, классифицировать их и определять, какие из них относятся к фейкам, а какие - правдивы. Их алгоритм способен интегрироваться в социальные сети, что может помочь дальнейшему нераспространению слухов и ложной информации.

Но то, что хорошо работает с фейками, в случае дипфейков никак не поможет. В настоящее время предпринимаются первые попытки создать алгоритмы, которые бы выявляли дипфейки, но они пока не получают широкого распространения. Компания Jigsaw представила программу Assembler, которая призвана выявлять склейки, видеомонтаж и любые изменения, которые были внесены в исходное фото или видео в графическом редакторе, а также определять дипфейки. Программа использует "детекторы" для проверки подлинности контента, однако о принципе их работы практически ничего не известно.

Алгоритм по выявлению дипфейков пока не выложен в общий доступ, им могут пользоваться только узкий круг медиа и ученых, так что оценить качество новой разработки не представляется возможным. "Детектор лживого контента не будет общедоступным. Сейчас его тестируют сотрудники около десятка новостных агентств и организаций, занимающихся проверкой фактов, включая Animal Politico, Rappler и Agence France-Presse" Новый инструмент поможет журналистам выявлять дипфейки и "фотошоп" // vesti.ru URL: https://www.vesti.ru/doc.html?id=3236936 (дата обращения: 04.03.2020)., - пишут на Вести ру.

В случае, если СМИ не получат возможность проверять информацию на подлинность с помощью новых технологий, распространение дипфейков скажется на доверии к журналистике. Некоторые примеры опасностей, которые возникают с появлением дипфейков, перечислены в статье "Six lessons from my deepfakes research at Stanford": "Опасность дипфейков вполне реальна. Они могут распространяться со скоростью лесного пожара. Они могут быть использованы любым автократическим режимом для дискредитации несогласных. Их можно использовать, чтобы убедить людей, что мертвый лидер все еще жив. Они могут генерировать ложные сообщения" Six lessons from my deepfakes research at Stanford // Medium URL: https://medium.com/jsk-class-of-2019/six-lessons-from-my-deepfake-research-at-stanford-1666594a8e50 (дата обращения: 02.02.2020)..

Дипфейки ставят под сомнение само наличие реальных фото или видео, подрывая доверие между социальными институтами и ставя реальность любого события или происшествия под сомнение; документальные съемки или кадры с мест событий больше не могут служить доказательством - ни в суде, ни в СМИ. Особенно уязвимы авторитарные общества, где дипфейки будут распространяться в социальных сетях и мессенджерах. Такие государства, по мнению Тома Ван де Веге, и так обладают дефицитом доверия к власти и их граждане "особенно восприимчивы к теориям заговора" Там же.

В статье "How can journalists help solve the global problem of deepfakes?" также поднимается вопрос доверия к журналистскому контенту. Распространение дипфейков, которые становится все труднее отличить от реальности, становится проблемой: "Без доверия к журналистике (которое уже очень шатко) дипфейки могут просто дестабилизировать ситуацию с реальным контентом" How can journalists help solve the global problem of deepfakes? // WNIP URL: https://whatsnewinpublishing.com/how-can-journalists-help-solve-the-global-problem-of-deepfakes/ (дата обращения: 20.04.2020)..

Хао Ли, еще до дипфейков создававший технологии для замены лиц для киноиндустрии, задумался о возможных последствиях дипфейков и попытался донести эту проблему до политиков и лидеров технологических компаний оригинальным способом. На Всемирном экономическом форуме Ли предлагал участникам по одному пройти в кабинку, где в режиме реального времени их лица на экране заменялись на лица актеров и известных деятелей. Хао Ли создал свой дипфейк не для развлечения, а чтобы донести до влиятельных людей, какие последствия ожидают мир с распространением этой технологии. Ли беспокоится, что мы приближаемся к эпохе, когда не можем доверять своим глазам и медиа, которые уже сейчас имеют все инструменты для того, чтобы транслировать неправду. "Эта проблема уже стоит перед нами" The world's top deepfake artist is wrestling with the monster he created // MIT Technology Review URL: https://www.technologyreview.com/s/614083/the-worlds-top-deepfake-artist-is-wrestling-with-the-monster-he-created/?fbclid=IwAR2Vp_eBCwv5ZHL8-tulfBmH_KSjunMQ2MG4uhbBeibY83jZ55x-_DzydIg (дата обращения: 20.04.2020)., - говорит он в интервью Technology Review.

Глава 2. Влияние дипфейков на журналистику и способы их обнаружения

2.1 Последовательные шаги для создания дипфейка

Современные дипфейки создаются на основе GAN - генеративно-состязательных нейронных сетей. GAN - это "тип архитектуры глубоких нейронных сетей, использующий для генерации данных обучение без учителя" Ахирвар К. Состязательные сети. Проекты. - М.: ДМК Пресс, 2020. - С. 16.. Обучение без учителя означает, что для обучения нейросети не требуются размеченные данные извне, она сама способна отличать их друг от друга и разделять на кластеры по принципу схожести. Архитектура GAN содержит внутри себя две сети - сеть генератора и сеть дискриминатора. Сеть генератора способна создавать новые данные на основе существующих - это могут быть изображения, текст, видео, аудио, то есть "генеративные модели моделируют распределение отдельных классов" Генеративно-состязательная нейросеть (GAN). Руководство для новичков // Neurohive URL: https://neurohive.io/ru/osnovy-data-science/gan-rukovodstvo-dlja-novichkov/ (дата обращения: 10.04.2020).. Например, генератор, обученный на пейзажах известных художников, будет стараться создать свои картины на их основе. Дискриминатор работает по принципам бинарной классификации, то есть разбивает поступающую от генератора информацию на две категории. "Математически категории обозначают y, а образы обозначают x. Запись p(y|x) используется для обозначения "вероятности y при заданном x" Там же". Роль дискриминатора в процессе генерации контента - отличить сгенерированный контент от реального. Отсюда возникает состязательный элемент нейросети: генератор на каждой итерации создает все более реалистичный контент, чтобы обмануть дискриминатор, а дискриминатор учится находить самые незначительные неточности в работе генератора. Так продолжается до тех пор, пока дискриминатор не перестанет отличать сгенерированный контент от реального - это состояние нейросети называется равновесием Нэша. Термин пришел из теории игр, где под равновесием Нэша понимается такая ситуация, при которой стратегия каждого игрока - это лучшая реакция на стратегии других игроков. При этом ни одному игроку в отдельности не выгодно менять стратегию, чтобы не ухудшить свое положение. В контексте генеративно-состязательных нейросетей "игроками" выступают генератор и дискриминатор, которые достигли той точки, когда генератор не может больше улучшать качество, а дискриминатор не отличает сгенерированное от реального.

С помощью GAN можно создавать не только дипфейки. Например, разновидность GAN, 3D-GAN, способна визуализировать 3D модели, воспроизводить промежуточные результаты на этапах проектирования (например, при строительстве зданий), а также отрисовывать за нас модели, которые можно использовать в 3D печати. Сеть StackGAN способна переводить текстовые описания в изображения, что дает возможность создавать наброски для фильмов по сценарию, помогает в создании комиксов, облегчает работу художников. Сеть ArtGAN способна самостоятельно создавать картины.