Полный разбор статьи Цукерберга

Цукер всегда топит за свободу. В глобальном выражении он верит, что если посредством Фейсбука дать всем людям возможность свободно высказывать своё мнение, то люди получат подлинную власть и свободу.

Однако здесь же он говорит, что объединив в одну сеть 2 миллиарда человек, люди стали показывать в том числе истинное уродство человечества.

“One of the most painful lessons I've learned is that when you connect two billion people, you will see all the beauty and ugliness of humanity.” (с)

В последней заметке Марк сформулировал вопросы, на которые Фейсбук ответит в 2019 году. В основном это вопросы такого плана: как решить, кого банить, а кого нет? Как понять, какой контент имеет право быть на ФБ, а какой нет? Кто должен решать, что правильно на Фейсбуке, а что нет? Как соблюсти баланс между свободой и правом человека на выражение и ограничением опасного и недопустимого контента?

“An important question we face is how to balance the ideal of giving everyone a voice with the realities of keeping people safe and bringing people together. What should be the limits to what people can express? What content should be distributed and what should be blocked? Who should decide these policies and make enforcement decisions? Who should hold those people accountable?” (с)

После всех скандалов с Cambridge Analytica, многочисленных случаев утечки данных пользователей, слушаний в Сенате и последних Американских выборов, Марк внезапно осознал, какой общественной силой обладает Facebook, и задумался о том, как ее должно укрощать и применять.

Более того, впервые за всё время Цукерберг признал, что в других странах и у других культур есть существенные отличия в том, что может быть разрешено и считаться нормой. И гнать всех под одну гребёнку американской культурной экспансии - это совсем не то, что называется свободой. Наконец, понимание того, что является качественной рекламой, а что нарушающей стандарты - может сильно отличаться даже у представителей одной культуры. Всё это очень сложно и в 2019 году Фейсбук намерен принять целый ряд революционных мер, которые призваны полностью пересмотреть политику компании к контенту, блокировкам, жалобам (в нашем случае это разбаны) и модерации (конечно же).

Все эти планы Марк вынашивал последние несколько лет. И вот, наконец, он готов озвучить перечень кардинальных видоизменений, которые постигнут Фейсбук (и фейсбук рекламу в том числе) в следующем году.

“I have focused more on these content governance and enforcement issues than any others over the past couple of years. While it has taken time to understand the complexity of the challenges, we have made a lot of progress. Still, we have significant work ahead to get all our systems to the levels people expect, and where we need to be operating. “ (с)

Первый шаг в улучшении работы Фейсбука в будущем - это модерация

Вообще, в статье Марк много говорит о том, что Фейсбук вкладывает существенные усилия в создание огромной команды модераторов, что команда по соблюдению Community Standards по всему миру уже перевалила за 30.000 человек.

Нас интересует только модерация объявлений. И тут всё довольно однозначно. Цукерберг утверждает, что “даже чаще чем 1 случаев на 10 блокировки контента” является ошибкой со стороны модератора. При этом AI фейсбука обучается именно на решениях модераторов, выполняя всю “повторяемую” работу, а это значит, что приблизительно такой же % ошибок будет совершать и компьютер. Всё это очень печально, и ФБ намерен серьёзно работать над этим упущением. Они намерены сократить число ошибок в 10 раз путём постоянного улучшения работы модераторов.

Интересна риторика о том, что следует фокусироваться на оптимизации самих политик и стандартов, а не на бездумной блокировке всего, что не соответствует текущей ее редакции:

“The vast majority of mistakes we make are due to errors enforcing the nuances of our policies rather than disagreements about what those policies should actually be. Today, depending on the type of content, our review teams make the wrong call in more than 1 out of every 10 cases.” (с)

“It's important to remember though that given the size of our community, even if we were able to reduce errors to 1 in 100, that would still be a very large number of mistakes.” (с)

Второй большой шаг в развитии Фейсбука - это превентивная блокировка контента.

На деле описывается работа ботов, задача которых по простым алгоритмам находить и обезвреживать. Всё, что не соответствует правилам по тем же шаблонам, как и модераторы. Фейсбук заботится о том, чтобы удалять нежелательный контент ДО того, как его начнут видеть пользователи. Упреждающая блокировка - самый эффективный способ борьбы с публикациями, нарушающими политики и стандарты.

Здесь было бы уместнее обратиться к заметке Марка от 13 сентября, где он в красках рассказывает о том, как фейсбук борется с фейковыми аккаунтами (а 99% арбитражных акков - это фейки). Там всю статью можно разбирать на цитаты, о том, как Фейсбук относится к арбитражникам и как борется с ними. Очень уморительно.

Итак, известно, что каждый 4й профиль в фейсбуке не является профилем живого человека. FB знает, что 3-4% всех профилей в сети - это не анкеты настоящих людей. И ФБ считает этот показатель относительно здоровым.

В борьбе с вредоносным контентом и недобросовестной рекламой в 100% случаев все беды исходят как раз таки от фейковых профилей. Это первый рубеж обороны Фейсбука. Кстати, по этому поводу у крупных акционеров Фейсбука идут постоянные споры с Цукербергом, который настаивает на существенных инвестициях в безопасность. По словам Цукера сейчас команда ФБ по сетевой безопасности насчитывает более 20.000 инженеров.

“Like most security issues, this is an arms race. The numbers are so large because our adversaries use computers to create fake accounts in bulk. And while we are quickly improving our ability to detect and block them, it is still very difficult to identify the most sophisticated actors who build their networks manually one fake account at a time. This is why we've also hired a lot more people to work on safety and security - up from 10,000 last year to more than 20,000 people this year.” (с)

Сам Марк борьбу со спамерами называет “гонкой вооружений”. Фейсбук будет прилагать всё больше усилий, чтобы находить нелегитимные аккаунты, ведь гораздо проще заблокировать фейка на входе, чем разгребать потом весь вред, что он нанёс.

Здесь любопытными являются 2 тезиса.

Первый тезис:

Цукерберг признаётся, что связку легитимных аккаунтов и фейковых профилей очень тяжело распознать. То есть работа фейка в паре с работой фейка сегодня не даёт фейсбуку достаточного количества сигналов о том, что данный профиль является потенциальным спамером.

Я думаю, что в этом конкретно месте имеются ввиду арендованные профили. Кабинеты для рекламы в живых арендованных профилях очень трудно распознать, и любой арбитражник подтвердит, что аренда сегодня - лучший способ получить трастовый кабинет.

Второй тезис:

В этой же заметке Марк говорит, что Фейсбук борется со спамерами не посредством мониторинга того, что они постят, а определением подозрительной активности. Тут процитирую: “Мы социальная сеть с кучей сервисов, а значит очень хорошо знаем, как выглядит в сети реальный пользователь”.

“One advantage Facebook has is that we have a principle that you must use your real identity. This means we have a clear notion of what's an authentic account.” (с)

Фейсбук пытается блокировать не каждый аккаунт по отдельности, а помечает сразу всю сеть профилей, связанных с подозрительным аккаунтом. Марк говорит, что иногда ФБ не блочит сразу нарушителя только потому, чтобы выявить всю пачку профилей. И здесь же оговаривается: легко банить тех, кто делает огромные сетки аккаунтов, а вот отдельный профиль вручную изготовленный злоумышленником - это проблема для AI фейсбука.

“While we want to move quickly when we identify a threat, it's also important to wait until we uncover as much of the network as we can before we take accounts down to avoid tipping off our adversaries, who would otherwise take extra steps to cover their remaining tracks. And ideally, we time these takedowns to cause the maximum disruption to their operations.” (с)

“I discussed our work fighting misinformation. This includes proactively identifying fake accounts, which are the source of much of the spam, misinformation, and coordinated information campaigns. This approach works across all our services, including encrypted services like WhatsApp, because it focuses on patterns of activity rather than the content itself.” (с)

Тут необходимо сделать небольшую оговорку относительно того, кого Цукерберг называет спамерами. Арбитражник, который суёт свою недоброкачественную рекламу раз-за-разом, преодолевая баны - и есть спамер в понимании Фейсбука. И если кто-то захочет ознакомиться с первоисточником (заметками Цукерберга), везде, где вы найдёте слово “спам” - это будет право применимо и к медиабаингу.

ОЧЕНЬ интересен пассаж, в котором отдельно упоминается экономически мотивированный контент. Вообще, здесь больше про тех, кто использует хайповые новости и кликбейтные заголовки в Facebook Ads, а по клику по объявлению будет открываться контент рекламного содержания.

Далее цитирую в переводе: Нужно сделать так, чтобы работа спамеров была экономически неэффективной. Если спамер будет испытывать трудности делая деньги на рекламе, или если реклама будет невыгодной - тогда он просто уйдёт и попробует заработать где-нибудь ещё.

“The key is to disrupt their economic incentives. If we make it harder for them to make money, then they'll typically just go and do something else instead. This is why we block anyone who has repeatedly spread misinformation from using our ads to make money. We also significantly reduce the distribution of any page that has repeatedly spread misinformation and spam. These measures make it harder for them to stay profitable spamming our community.” (с)

Ничего не напоминает? :)

Третье - это контент на грани хайпа, он же пограничный контент.

Феномен социальных сетей - это гиперболизация всего и вся. Равно как и в контенте, особой популярностью всегда пользуется хайповый и сенсационный контент. Увы это природа. И если не предпринимать мер - весь Фейсбук превратится в одну большую Тизерку.

Трудность в том, что люди неизбежно вовлекаются во всякий хайп. Люди обращают внимания на сенсацию, кликают, читают, реагируют и пишут комменты. По логике дистрибуции контента, такие записи должны получать глобальные охваты.

Люди жалуются, говорят, что такому не место в Facebook, но всё равно вовлекаются...

“Our research suggests that no matter where we draw the lines for what is allowed, as a piece of content gets close to that line, people will engage with it more on average -- even when they tell us afterwards they don't like the content. “ (с)

Так вот весь подобный контент всегда балансирует на грани фола. Самые популярные записи всегда почти нарушают правила (или нарушают). И как не смещай эту границу, весь самый популярный контент будет на линии нарушения.

В 2019 году Фейсбук будет бороться не с контентом, но с любителями кликбейтных заголовков и тизеров. Все ИЗЛИШНЕ популярные публикации (включая рекламные) потеряют до 80% охвата именно из-за того, что они аномально популярные.

“This is a basic incentive problem that we can address by penalizing borderline content so it gets less distribution and engagement. By making the distribution curve look like the graph below where distribution declines as content gets more sensational, people are disincentivized from creating provocative content that is as close to the line as possible.” (с)

Сейчас Фейсбук пытается приладить свой AI, чтобы он научился распознавать контент как хайповый и кликбейтный. А после этого им будут резать охваты.

Любопытно, что Марк собирается бороться с хайповым контентом на всех уровнях, а не только в новостной сфере. Например, фотографии близкие к “обнажёнке” могут попасть в категорию провоцирующего контента и получить “теневой бан”.

“Interestingly, our research has found that this natural pattern of borderline content getting more engagement applies not only to news but to almost every category of content. For example, photos close to the line of nudity, like with revealing clothing or sexually suggestive positions, got more engagement on average before we changed the distribution curve to discourage this. The same goes for posts that don't come within our definition of hate speech but are still offensive.” (с)

Свобода Мнений

Фейсбук, наконец, понял, что недопустимое в США является нормой в многих других культурах, да и в рамках одной культуры мнения людей могут очень сильно отличаться. Применять ко всем единые правила, значит ограничивать свободу и право человека на изъявление своего мнения.

В 2019 году Марк намерен разработать систему мер, которая позволила бы людям самим решать, что они хотят видеть в Фейсбуке, а что нет. Это будет реализовано в виде отдельного интерфейса, где человек сможет настроить степень своей восприимчивости. Само собой, что будут существовать фундаментальные положения, запрещающие терроризм, слова вражды, разжигание ненависти, призывы к насилию. Но всё же человек, сможет выбрать насколько “культурным” и “толерантным” будет контент.

Фейсбук, таким образом, хочет создать более гибкие стандарты множества социальных аспектов. И это безусловно затронет рекламу, списки таргетирования, и, в хорошей перспективе, сулит некоторые послабления в плане политик.

“Over time, these controls may also enable us to have more flexible standards in categories like nudity, where cultural norms are very different around the world and personal preferences vary. Of course, we're not going to offer controls to allow any content that could cause real world harm. And we won't be able to consider allowing more content until our artificial intelligence is accurate enough to remove it for everyone else who doesn't want to see it. So we will roll out further controls cautiously.” (с)

Алгоритмическая честность.

Марк верит, что всё вышесказанное может иметь право на существование только в том случае, если гениальный ИИ Фейсбука будет правильно выполнять свою работу.

И самый основной вопрос, который Цукерберг задаёт техническим специалистам по ИИ => могут ли они быть уверены в том, что бот блокирует действительно фейковые аккаунты, блокирует действительно вредоносный контент, подрезает охваты действительно агрессивным новостям?

Кто может утверждать, что бот обучен правильно, и не творит всякой неоправданной дичи? На стыке этики и технологии, никто не знает, действительно ли верно поступает бот, ведь элементарное понимание справедливости может отличаться у двух людей. Бот делает всю рутинную работу, удаляя десятки миллионов аккаунтов каждый день.

С каждым разом боты становятся сложнее, и очень трудно понять, что следуя заложенным в него алгоритмам, бот поступает при этом по справедливости. Цукер приводит следующие положения:

Существуют понятия “равенство в отношении” и “равенство в воздействии”.

В первом случае имеется ввиду абсолютно равное отношение со стороны регулирующего органа (в нашем случае это бот) ко всем членам сообщества. Не важно кто ты и что ты, есть правила и всё регулируется только ими.

Равенство воздействия предполагает что применение правил окажет равное воздействие на всех участников сообщества и все будут иметь равные возможности.

Обеспечить оба этих состояния очень редко бывает возможно, а научить этому компьютер вообще кажется чем-то нереальным.

“However, this is not simply an AI question because at a philosophical level, people do not broadly agree on how to define fairness. To demonstrate this, consider two common definitions: equality of treatment and equality of impact. Equality of treatment focuses on ensuring the rules are applied equally to everyone, whereas equality of impact focuses on ensuring the rules are defined and applied in a way that produces equal impact. It is often hard, if not impossible, to guarantee both. Focusing on equal treatment often produces disparate outcomes, and focusing on equal impact often requires disparate treatment. Either way a system could be accused of bias. This is not just a computational problem -- it's also an issue of ethics. Overall, this work is important and early, and we will update you as it progresses.” (с)

Хотя я знаю способ: Посадить фейсбучного бота заливать нутру в инстаграм, и когда он спалит все свои платёжки и кабинеты, начнёт от безнадёги пьянствовать и материться - вот тогда он поймёт, что такое алгоритмическая справедливость.

В любом случае. Всё это крайне интересно, но едва ли найдёт реализацию в следующем году, а значит и на рекламу скорее всего не повлияет.

Апелляции

Это последний, но очень важный шаг Фейсбука в сторону адекватности. В статье было много разговоров о том, что надо создавать органы контроля и надзора, реализовать прозрачность, теснее работать с правительствами и всякими НКО, но это всё ерунда. Апелляции - это действительно важно. В 2019 Марк пообещал, что они наконец сделают вменяемую систему подачи обжалований.

Вместе с тем они обещают улучшить формулировки банов, указывая, где и что конкретно было нарушено, а также расширить перечень вещей, которые можно будет разбанить и восстановить.

Марк честно говорит, что ошибок и косяков с банами у Фейсбука воз и телега. Ошибки пора исправлять, и Фейсбук будет всячески улучшать систему обжалований.

“Any system that operates at scale will make errors, so how we handle those errors is important. This matters both for ensuring we're not mistakenly stifling people's voices or failing to keep people safe, and also for building a sense of legitimacy in the way we handle enforcement and community governance.

In practice, one issue we've found is that content that was hard to judge correctly the first time is often also hard to judge correctly the second time as well. Still, this appeals process has already helped us correct a significant number of errors and we will continue to improve its accuracy over time.” (с)

Финал:

В целом, если Цук не пишет именно то, что мы все хотим, то ситуация налаживается. Похоже Марк хочет взять курс на адекватность и это радует. Драконовская политика сети “Блокируй и игнорируй” может стать более мягкой по отношению к арбитранам.

Наверняка в ходе всех этих масштабных изменений нас ждут новые баги, схемы быстрого разбана, новые открытия.

Так что в 2к19 Facebook Ads всё также будет популярным источником.

Оригинал статьи Марка Цукерберга (на английском)