Алгоритм YouTube рекомендует: Крайне правые видеоблогеры

Со своей аудиторией в примерно 1.5 миллиарда пользователей ежемесячно, YouTube является крупнейшей в мире платформой для выражения своих идей. Помимо этого, это также коммуникационная и информационная основа для крайне правых в Соединённых Штатах. В этой статье мы делимся некоторыми результатами нашего анализа 13 529 каналов, которые показывают, как алгоритм рекомендаций YouTube способствует формированию крайне правого фильтрационного пузыря. Это открытие является частью нашего исследовательского проекта о крайне правых в США и Германии. В настоящее время мы пишем книгу о наших выводах для издательства Oxford University Press.

Инициативная группа по изучению манипуляций в СМИ в Data & Society рада выделить этот исследовательский проект как часть наших усилий по поддержке новой области исследований дезинформации.

После стрельбы в средней школе Марджори Стоунман Дуглас в Парклэнде (Флорида), возникла теория заговора. Предполагается, что учащиеся, которые искренне призывали к контролю над распространениям оружия, не являются жертвами, а скорее «актёры» — подобного рода утверждения были ещё со времен Гражданской войны в Соединенных Штатах. Эта теория быстро разлетелась среди каналов крайне правых вещателей на YouTube. Для крайне правых владельцев каналов YouTube — это больше, чем просто очередная платформа: это их информационное поле битвы, место, где они могут размещать, по-видимому, всё, что захотят, находят поддержку, объединяются вокруг общей повестки и потенциально привлекают внимание средств массовой информации. В нашем анализе мы покажем, что алгоритмы рекомендаций YouTube активно способствуют росту и объединению крайне правых.

Для крайне правых производителей контента (producers), а также их подписчиков, включая владельцев других каналов и прочие «говорящие головы», YouTube уделяется особое внимание. Он сочетает в себе элементы радио-ток-шоу, видео и возможность говорить обо всём, что не распространяется на «мейнстрим». Это их «альтернативная медиасеть, гибридная контркультура художников, журналистов и комментаторов» (Forthcoming from Data and Society 2018). Это очень плодотворная почва для распространения многих необоснованных теорий заговора, от Pizzagate до Uranium One и QAnon. Это место, где они могут общаться друг с другом, разговаривать, обмениваться мнениями, обсуждать такие события, как Шарлоттсвилль или стрельба по паркам, мобилизовать свою базу и набирать новых членов.

Видеоблоги крайне правых

Когда глава InfoWars, Алекс Джонс, выходит на YouTube, чтобы распространять теории заговоров или крайне правую повестку, он достигает более 2,2 миллиона подписчиков. Его самые популярные видео имеют более 10 миллионов просмотров. Когда потрясённые родители, учителя и студенты выступили после съемки в начальной школе Sandy Hook и в Парклэнде, Джонс объявил их «актёрами», группой платных правительственных агентов, которые регулярно проводят сложные мероприятия с целью отвлечь внимание от истинных намерений правительства. На YouTube Алекс Джонс является маяком среди консерваторов, конспирологов и крайне правых блогеров. У него большая преданная фан-база, которая делится своим контентом на нескольких платформах, что делает его вездесущей фигурой в крайне правой альтернативной медиа-сети.

Говоря о дезинформации в Интернете, ботах, эхо-камерах, пузырях фильтров и всех других концепциях, которые могут заставить кого-то бояться за нашу демократию, мы обычно говорим о Twitter и Facebook. Гораздо менее обсуждаемый вопрос — это YouTube, бегемот с весом в 1,5 миллиарда пользователей ежемесячно, второй наиболее посещаемый веб-сайт в США и во всём мире, который подростки из США используют гораздо чаще, чем Facebook или Twitter, и который всё чаще используется как источник новостей. Недавно статья Guardian пролила свет на проблемную функцию рекламы в рекомендациях видео на YouTube. Зейнеп Туфекки (учёный и техно-социолог, известный прежде всего своими исследованиями социальных последствий новых технологий в контексте политики и корпоративной ответственности) даже назвала YouTube «Великим радикализатором». В то время как просмотр одного из видео Alex Jones не радикализует вас, подписка на канал Alex Jones и следование за всё более радикальными рекомендациями, которые предлагает YouTube, уже может. Эта радикализация подкрепляется рекомендованными видео, которые могут завлечь зрителя в ещё более радикальную пропасть. Но самым мощным механизмом могут быть подписки, которые позволяют пользователям обустраивать свои собственные домашние страницы, которые последовательно подтверждают конкретное политическое мировоззрение.

Метод

Мы следовали алгоритму рекомендаций YouTube, куда бы он нас ни завёл. Мы начинали с 329 правых каналов, 543 от политических партий и политиков, 250 мейнстримных каналов (от Socialblade.com) и 234 каналов левого толка. Этот первоначальный список был основан на том, что учёные, Southern Poverty Law Center, журналисты, а также пользователи форумов Reddit и Quora, обозначили как правые или левые. На следующем шаге мы собрали все каналы, которые рекомендовались на страницах этих 1356 каналов, добавив тем самым 2977 каналов. Затем мы провели метод снежного кома: мы следовали рекомендациям канала YouTube для нашего стартового набора в три шага. С каждым шагом количество каналов увеличивалось. Таким образом, мы пришли к 13 529 каналам. Затем мы визуализировали эти результаты, чтобы создать карту вселенной YouTube. Каждый канал представлен узлом, акаждая рекомендация от одного канала к другому — это дуга.

Галактики YouTube

Есть несколько общих замечаний: мы можем видеть основной остров в середине карты; он состоит из летсплейщиков (т. е. людей, которые играют в видеоигры на YouTube), пранкеров, знаменитостями YouTube, видео котят или поздних ночных шоу. Южнее этого у нас это музыкальная экосистема с Джастином Бибером, Кэти Перри и Рианной. К северо-востоку от мейнстрима находится развлекательная секция для детей. Западнее основных направлений — это политические сообщества. Здесь либеральное и прогрессивное сообщество (фиолетовое) группируется вокруг канала The Young Turks. В этих скоплениях есть СМИ, такие как CNN, но также каналы от Барака Обамы, Элизабет Уоррен и Берни Сандерса. Это скопление тесно связано с двумя другими политическими скоплениями, которые мы назвали «крайними левыми» и «крайне правыми». Хотя крайние левые состоят из коммунистических, социалистических или анархических каналов, крайне правые включают в себя так называемые «Alt-right», а также сторонники «превосходства белых» (белые супремасисты). Но мы также можем видеть, что крайние левые не особенно большие, и когда они подключаются к либеральному и прогрессивному сообществу, то связь не взаимна: левый на YouTube не очень заметен, когда вы следуете рекомендательным алгоритмам платформы.

Для сравнения: самый популярный геймер YouTube под псевдонимом Pewdiepie, имеет более 60 миллионов подписчиков. У Джастина Бибера 33 миллиона. У Суперженщины 13 миллионов. Simon’s Cat имеет 4. Стивен Колберт имеет 4. Между тем канал Алекс Джонса имеет 2 миллиона подписчиков. И хотя это кажется относительно небольшим числом, вопрос таков: в сравнении с чем? У канала Барака Обамы есть 552 тыс. Подписчиков, у Дональда Трампа 112 тыс., Официальный канал Республиканской партии — 38 тыс., Официальный канал демократов — 9 тыс. В политических сообществах канал Алекса Джонса является одним из самых рекомендуемых, и, как мы покажем, он соединяет два крайне правых скопления.

Обнаружение крайне правых вещателей

Наш алгоритм определил два тесно связанных сообщества, которые обсуждают правую повестку. Первое сообщество ближе к господствующей консервативной политике. Хотя известные политики из Республиканской партии и самого канала GOP являются частью этого сообщества, они, по показателям YouTube (подписчики, просмотры и т. д.), не популярны. Каналы в этом сообществе, которые являются самыми большими (рекомендуется особо настойчиво), — это Fox News, BPEarthWatch и Alex Jones. Даже в качестве более «мейнстримного» кластера правой политики это сообщество, сформированное алгоритмами YouTube, варьируется от консервативных СМИ, политиков до конспирологов.

Мы рассматриваем второе скопление как крайне правое. Оно варьируется от правых экстремистов до «Red Pillers» (дословно — выбравших красную таблетку). Например, в него входят т.н. «альтернативно-правые» личности, такие как Ричард Спенсер или Бриттани Петтибон, но также Дэвид Дюк (KKK) и Стиксхенхаммер666. Это также не ограничивается США; оно включает правых экстремистов из Европы.

We consider the second community the far-right. It ranges from right-wing extremists to “Red Pillers.” For example, it includes so-called “alt-right” personalities like Richard Spencer or Brittany Pettibone, but also David Duke and Styxhexenhammer666. It also is not limited to the US; it includes right-wing extremists from Europe.

Затем мы сосредоточимся на двух правых скоплениях и на том, как YouTube их соединяет (рис.3). Мы можем идентифицировать несколько разных сообществ при помощь алгоритма обнаружения сообщества, но также мы можем обнаружить: YouTube связывает Fox News и Республиканцев в том же клубке, что и каналы конспирологов, такие как Alex Jones. Поскольку наиболее рекомендуемыми каналами в этом сообществе были крупные СМИ, мы обозначили их как «(Альтернативные) медиа». Мы обозначили другое скопление «крайне правым», так как оно состоит из каналов «alt-right», а также белых националистов. Кроме того, существует также скопление, которое фокусируется на теориях заговора, а также публикующих преимущественно видеоролики против политической корректности или феминисток, и в «Маносферу». Существуют также кластеры религиозных правых и «националистический интернационал». Конечно, некоторые сообщества более тесно связаны друг с другом, но для рекомендуемой системы YouTube все они лежат в одной корзине. Это очень проблематично по двум причинам, поскольку предполагает, что времяпровождение на YouTube означает, что вы находитесь на расстоянии одного или двух кликов от крайних крайне правых каналов, теорий заговора и дальнейшей радикализации контента. Кроме того, алгоритм YouTube вносит свой вклад в то, что Эли Паризер назвал «пузырь фильтров», то есть алгоритмически созданный пузырь, который непосредственно «влияет на то, как мы сталкиваемся с идеями и информацией».

Алгоритм и «Самоисполняющееся пророчество»

Никто толком и не знает, что конкретно входит в рекомендации канала YouTube и как они работают. Можно с уверенностью предположить, что факторы, которые влияют на рекомендации, — это истории просмотров пользователей, предпочтения, совпадения, а также рекомендации владельца канала. Когда мы применили наш метод в случае для немецкого сегмента, мы смогли идентифицировать созданный YouTube правый фильтр-пузырь. Взгляните на это под таким углом: алгоритмы YouTube не создают нечто, чего еще нет. Эти каналы существуют, они взаимодействуют, их пользователи в определенной степени совпадают. Однако алгоритм YouTube связывает их с помощью рекомендаций. Это, в этом смысле, алгоритмическая версия теоремы Томаса, которая лихо предположила, что «если люди считают ситуации реальными, они оказываются реальными по последствиям». Таким образом, мы могли бы сказать, что если алгоритмы определяют ситуации как реальные, они являются реальными по своим последствиям. И мы могли бы добавить: и потенциально формируют поведение пользователя. Как показывают наши данные, рекомендация каналов связывает различные каналы, которые могут быть более изолированными без влияния алгоритма и, таким образом, помогают объединить правых вещателей.

В самом деле, крайне правые в Соединённых Штатах довольно фрагментированы, их можно отнести к очень разным группам среди крайне правых (Zhou et al., Например, идентифицируют ополченцев, белое превосходство, христианскую идентичность, эко-терроризм, и неоконфедератские кластеры) и, следовательно, очень разные темы и приоритеты. Хотя мы всё еще можем идентифицировать некоторые из этих сообществ, алгоритм YouTube подает много каналов в центр гравитации более крупного правого пузыря: рекомендуемые каналы, такие как Alex Jones или Styxhexenhammer666, поддерживают этот правый пузырь. Со времени всплеска «альт-райтов» на сцене крайне правых, они стали действовать как мост между упомянутыми выше группами. Точно так же, как митинг «Unite the Right» в Шарлоттсвилле, где белый шовинист покалечил многих и убил Хизер Хейер (участница профсоюза индустриальных рабочих мира), въехав на машине в толпу контр-протестующих, стремится объединить многих влиятельных правых, так и алгоритм рекомендаций YouTube объединяет каналы праворадикалов.

Постскриптум: Ответственность YouTube

Хотя YouTube заявил, что они скорректировали свой алгоритм в 2016, 2017 и 2018 годах, вопросы всё те же: что изменилось? Видят ли они проблему в наших выводах? И что ещё более важно: осознают ли они, что несут ответственность? В конце концов, их система «работает», правильно? Если вам нужны игровые видеоролики, вы получаете больше игровых видеороликов. Если вы хотите рок-музыку, YouTube будет рекомендовать больше рок-музыки. И если вы увлекаетесь крайне правой идеологией, у YouTube тоже есть нечто для вас, даже теории заговора. Это ставит под вопрос ответственность YouTube и его алгоритмический предварительный отбор, который может привести к большей радикализации. Так что, по крайней мере, в связи с последним вопросом, похоже, что YouTube изменился после стрельбы в Парклэнде: сообщается, что некоторые правые каналы были запрещены, а видео Алекса Джонса получили два страйка. Ещё один страйк означал бы запрет канала. И Алекс Джонс даже предположил, что его основной канал был заморожен и вот-вот будет запрещён. Увы, это оказалось обманом (скорее всего, для продвижения его нового канала), и оказалось, что некоторые из этих запретов и ударов по правым каналам были ошибками недавно нанятых модераторов. В результате решения модераторов контента были отменены, но алгоритм, который помог объединить крайне правых, остаётся.

Благодарность

Мы хотим поблагодарить Data & Society за предоставленную нам возможность написать эту статью, и мы особенно благодарны за бесценные отзывы и предложения Джоан Донован, которые помогли нам при редактировании.

Об авторах

Статья была опубликована 11 апреля 2018 под заголовком «Unite the Right? How YouTube’s Recommendation Algorithm Connects The U.S. Far-Right» в блоге «D&S Media Manipulation: Dispatches from the Field».

Jonas Kaiser (@jonaskaiser) is a DFG postdoctoral fellow and affiliate at the Berkman Klein Center for Internet & Society at Harvard University and associate researcher at the Alexander von Humboldt Institute for Internet & Society.

Adrian Rauchfleisch (@OuzhouAdi) is an Assistant Professor at the Graduate Institute of Journalism at the National Taiwan University and the co-founder of the think-tank Zurich Institute of Public Affairs Research.