Пандемия для платформ стала золотой жилой — судя по статистике, их средняя посещаемость выросла от 40 до 70% по сравнению с доковидными временами. Но получилось ли у цифровых гигантов уберечь людей от дезинформации, связанной с вирусом?
Текст: Анастасия Филиппова
Facebook: фейковое поле Марка Цукерберга
Недавно редакция The Wall Street Journal получила доступ к внутренним меморандумам Facebook за 2018 год. Из документов следует, что три года назад соцсеть зафиксировала сильное падение вовлеченности и из-за этого изменила алгоритм. В служебных записках, которые специалисты по анализу данных отправляли Цукербергу, указывалось, что алгоритм стал поощрять споры, а посты с множеством гневных реакций ранжировались лучше позитивного контента.
Как писали исследователи: «Доля постов изменилась с 50/50 положительных/отрицательных на 80% отрицательных явно вслед за изменением алгоритма». Зато удалось вернуть вовлеченность. Несмотря на предупреждение экспертов, глава Facebook отказался менять алгоритм, чтобы не рисковать статистикой.
Успех нового алгоритма сыграл злую шутку: когда в 2020 году мир накрыла пандемия, платформе пришлось резко сократить число модераторов контента и положиться на алгоритм, а это привело к росту фейков о коронавирусе. К примеру, пост с рекламой «чудодейственного отбеливателя, который поможет не заразиться новым вирусом» живой модератор отправляет в бан, а вот робот не видит в записи никаких нарушений — реакций и споров в комментариях много, значит, все хорошо. Любишь быть крупнейшей соцсетью в мире — люби и ожиданиям соответствовать. В случае с Марком Цукербергом, у которого вся семья от родителей до жены — врачи, борьба с ковидными фейками — дело чести, но в первое время бороться получалось плохо.
Британское издание PressGazette, заметив количество ковидных фейков на платформе, летом 2020 года провело расследование и выяснило, что 4094 из 7295 вводящих в заблуждение заявлений о пандемии публиковались именно на Facebook. Чаще всего в записях о ковиде фигурировал Билл Гейтс, которого обвиняли в создании вируса, и вышки 5G, якобы распространявшие заразу.
Бороться с фейками платформа решила по нескольким фронтам:
С началом пандемии Facebook запустил грантовые программы, распределив несколько миллионов долларов между организациями, которые борются с дезинформацией по всему миру. Сначала платформа поддерживала только фактчекинговые проекты. Потом WhatsApp, который принадлежит Facebook, проспонсировал сайты, развеивающие слухи о вакцинах от коронавируса.
В марте платформа начала маркировать посты с фейками и предупреждать пользователей, если они лайкали, комментировали или репостили записи с «вредоносной дезинформацией о вирусе». К делу подключили независимых фактчекеров, которые должны были определять, есть в посте фейк или нет.
,
,
Вот только через полгода, в августе 2020-го, НКО Avaaz выпустила отчет с нелестным для соцсети выводом: «Facebook не может обеспечить безопасность и информированность людей во время пандемии». В результатах исследования говорится, что аккаунты, которые дезинформируют людей насчет вируса, набрали на Facebook около 3,8 миллиарда просмотров всего за шесть месяцев, и только 16% всех постов с ковидными фейками получили предупредительную плашку от платформы.
Специально для исследования эксперты Avaaz обзавелись аккаунтами на Facebook, чтобы проверить, как работает рекомендательная система: «Открытие нескольких профилей, связанных с дезинформацией о ковиде, и лайки записей с фейками привели наш аккаунт дальше в сеть вредоносных страниц, казалось бы, связанных между собой и усиленных рекомендательным алгоритмом платформы», — делятся сотрудники в отчете.
Руководство соцсети раскритиковало исследование Avaaz, сказав, что выборка не репрезентативна и что больше платформа опасных информационных пузырей не создает. Однако статистикой по тем, кто регулярно просматривает контент с дезинформацией, Facebook делиться отказался…
Чтобы собрать в одном месте актуальную информацию по ковиду, Facebook запустил Центр информации о коронавирусе, плашка с которым есть в каждом приложении, принадлежащем компании (Facebook, Instagram, WhatsApp). А еще платформа упростила публикацию рекламы вакцин, но только той, которая рассказывает о преимуществах прививок. Записи, направленные на получение личной выгоды, по словам представителей, не допускаются к публикации.
В 2021 году Facebook стал удалять аккаунты с фейками о вакцинах. К августу их число выросло до 308, 65 из которых, кстати, как утверждают в Facebook, российского происхождения.
В начале 2021 года Центр по противодействию цифровой ненависти (CCDH) проанализировал 483 записи с фейками о вакцине, которые публиковались на Facebook. Оказалось, что 73% этих записей принадлежат одним и тем же людям, двенадцати знаменитым американским антипрививочникам. При этом ни одного из этих пользователей соцсеть не блокирует — статистика просмотров каждого из них исчисляется миллионами.
То же самое CCDH выяснил и насчет Instagram, который входит в группу компаний Facebook: «Если вы подписаны на аккаунты органов здравоохранения, в рекомендациях вам не вылезет ничего плохого. Но как только начнете искать в Instagram более общий контент о здоровье, платформа завалит вас контентом антиваксеров», — пишет Имран Ахмед, директор CCDH.
Выходит, проблема эта кроссплатформенная, и пенять только на алгоритм не стоит. Как утверждает руководство Instagram, у соцсети вообще нет единого алгоритма, на странности которого часто жалуются медиа и пользователи. Instagram использует несколько алгоритмов, и каждый из них отвечает за свое поле — видео, истории, фото, сообщения и комментарии.
Несмотря на все обвинения, Марк Цукерберг свою платформу защищает: «Facebook делает для борьбы с дезинформацией больше, чем любая другая компания», — заявил он на выступлении перед Конгрессом США в марте 2021 года.
YouTube: политические элиты и чтение между строк
YouTube уже успел отметиться в распространении дезинформации во время всплесков заболеваний свиным гриппом, Эболой и вирусом Зика. Начало пандемии коронавируса для платформы стало проверкой на рекомендательную точность.
Сейчас работу YouTube регулируют минимум три алгоритма: первый отвечает за главную страницу, второй — за ранжирование результатов поиска, третий — за рекомендации на основе просмотренного. Но и с ними не все прозрачно:
В июле 2021 года НКО Mozilla Foundation опубликовала исследование, для которого привлекла 37 000 пользователей YouTube. Их попросили отмечать контент с фейками, насилием или ненавистью. 71% подобных видео выдавались платформой в рекомендациях, почти 15% этих роликов связаны с дезинформацией по коронавирусу. Например, алгоритм советовал посмотреть видео «Элита, которая контролирует вас», где человек в роли политика или «элиты» заявляет, что он с коллегами использует пандемию в качестве тактики устрашения, чтобы управлять людьми.
Вице-президент по разработке YouTube Христос Гудроу в ответ на исследование выпустил материал, где объяснил, как работает рекомендательная система: «Скажем, я смотрю видео о вакцине COVID-19. На панели «Далее» увижу видео из авторитетных источников, таких как Vox и Bloomberg Quicktake, и не увижу видео, которые содержат вводящую в заблуждение информацию о вакцинах (в той степени, в которой наша система может их обнаружить)». Получается, чтобы не получить в рекомендации видео с фейками, пользователь должен не открывать контент из непроверенных источников. А вот как понять, какой источник проверенный, платформа не объясняет.
Христосу вторит пресс-секретарь YouTube Елена Эрнандес. Она утверждает, что с начала пандемии по август 2021 года YouTube удалил более 900 000 роликов, нарушающих правила по дезинформации о ковиде. Видео многих ковид-диссидентов получали предупреждения с угрозой последующего удаления канала.
Американская журналистка Кэти Доуд протестировала работу рекомендательных алгоритмов YouTube и поняла, что примерно через три клика на плашку «Далее» платформа выдает видео с дезинформацией о ковиде. «Опытные блогеры [фейкоделы или антиваксеры] знают, что не стоит прямо отрицать пандемию [в своих видео]. Вместо этого они задают наводящие вопросы или говорят своим и без того скептически настроенным зрителям, что сами не стали бы вакцинироваться. И поскольку эти видео набирают много просмотров и тысячи лайков, они продолжают попадать в рекомендательные алгоритмы YouTube, находясь всего в нескольких кликах от контента, который компания маркирует как заслуживающий доверия», — пишет она.
По словам Кэти, представители YouTube пообещали удалить видео с дезинформацией, которые во время теста советовал посмотреть алгоритм. Но так ли хорошо работает система, если пользователям приходится вручную отмечать каждое подозрительное видео?
При этом, как и другие платформы, YouTube добавил на главную страницу и под видеоролики на тему ковида ссылки на авторитетные источники. В программной статье «Наши приоритеты на 2021» Сьюзен Воджицки, генеральный директор YouTube, заявила, что одна из основных целей платформы сейчас — информировать людей о пользе вакцинации. Для этого совместно со Всемирной организацией здравоохранения (ВОЗ) YouTube выпустил серию анимированных роликов. Статистику по ним платформа не обнародовала, а комментарии под ними отключены.
TikTok: недетский контент и пустые обещания
Пандемия подарила TikTok не только звание самой быстрорастущей платформы, но и трехлетнее судебное разбирательство по обвинениям в сборе биометрических данных пользователей и передаче этих показателей Китаю. Чтобы восстановить репутацию, руководство сделало упор на алгоритм.
Но руководители TikTok признаются: каким бы качественным ни был их алгоритм, система намеренно создает вокруг пользователя информационные пузыри, которые могут усугубить теории заговора, мистификации и другую дезинформацию. Например, стоит один раз лайкнуть видео антипрививочника, система начнет «подсовывать» похожие ролики. Некоторые считают, что виной этому служит ориентация платформы не на содержание контента, а на количество взаимодействий с ним.
Кроме того, все начало 2020 года TikTok относился к модерации контента с фейками о пандемии спустя рукава. К примеру, НКО Media Matters For America изучила видео о коронавирусе, которые публиковались на платформе, и заметила, что несколько популярных роликов (от 10 000 до 300 000 просмотров) распространяли фейки о пандемии. В них рассказывалось о том, что «ковид — попытка Китая поработить человечество», «Билл Гейтс объединился с правительством, чтобы создать это биохимическое оружие и отвлечь людей», а «каждые 100 лет власти распространяют эти болезни на животных для контроля численности населения». Несмотря на политику платформы, в которой прописано, что любой дезинформации в TikTok не место, эти видео смогли стать вирусными.
Два раза в год TikTok публикует «отчет о прозрачности», где перечисляет все, что платформа успела сделать для безопасности пользователей за последние шесть месяцев. В отчете за первое полугодие 2020 года нет ни слова о ковидном контенте и его регулировании. Но уже через полгода платформа перестроилась:
Ввела вкладку «Центр безопасности» с актуальной информацией о пандемии от ВОЗ (первое время любого, кто открывал TikTok, автоматически переводило в этот центр) и добавила плашку «Узнать больше о COVID-2019» под каждым видео, вне зависимости от его тематики. Хотя к сентябрю 2021 года «Центр безопасности» убрали с главной страницы.
В американском сегменте TikTok появилась реклама вакцинации.
Во второй половине 2020 года платформа удалила 51 505 видеороликов за распространение дезинформации о пандемии. Из этих видео 86% удалили еще до того, как на них пожаловались пользователи, 87% — в течение дня после загрузки на TikTok, а 71% из них не попали в рекомендации и получили по ноль просмотров.
Но сразу несколько организаций, которые борются с фейками, сомневаются в том, что платформа эффективно мониторит контент. Так, с августа по сентябрь 2021-го компания NewsGuard попросила девять детей в возрасте от 9 до 17 лет создать новые профили в TikTok, чтобы определить, сколько времени им потребуется, чтобы увидеть фейки о вирусе. Уже в первые 35 минут пребывания в TikTok всем участникам, кроме одного, в рекомендациях вылезла дезинформация, связанная с пандемией. Среди основных тем, которые рекомендовались детям: вакцины убивают людей, ковид лечат гидроксихлорохином, а естественный иммунитет лучше прививки. Некоторые из этих роликов были сатирическими.
NewsGuard направила в TikTok жалобу на то, что соцсеть не маркирует сатирический контент, ведь ребенок не всегда считывает взрослую иронию и может поверить фейкам о «чипировании». Вместо внятного ответа они получили такой комментарий руководства, как будто написанный нейросетью: «Безопасность и благополучие нашего сообщества — наш приоритет, мы усердно работаем над тем, чтобы принимать меры в отношении контента и учетных записей, которые распространяют дезинформацию и продвигают авторитетный контент о COVID-19, а также учат пользователей медиаграмотности».
,
