Как будет устроена автоматическая редактура будущего

Борясь с фейк-ньюс, Фейсбук и Твиттер вводят новые алгоритмы фильтрации контента, которые придут на смену редакторам СМИ

В Вашингтоне прошли очередные сенатские слушания по поводу роли социальных сетей в прошедших президентских выборах. На них были приглашены представители высшего руководства трех столпов интернета — Facebook, Twitter и Google, определяющих новостную повестку для трех с половиной миллиардов пользователей интернета, то есть для половины населения Земли. Хотя, наверное, для всего населения, так как оцифрованная половина землян, в свою очередь, определяет повестку для неоцифрованной.

Руководство Google, впрочем, на слушания не явилось, вызвав гнев сенаторов. А вот Facebook и Twitter, как пишет пресса, сенаторы как следует поджарили. И хотя слушания проходили в комитете по разведке и комитете по энергетике и торговле, некоторые детали представляют интерес с точки зрения формирования будущей экосистемы медиа.

Для начала следует сказать об общем контексте слушаний. Интернет, как известно, обвиняют в победе Трампа, точнее, в создании такой информационной среды, которая благоволила ультраправым, русским троллям и русским хакерам, из-за чего Трамп якобы и выиграл. Facebook и Twitter (да и Google), демонстрируют правильное отношение к критике: покаяние и исправление. За что уже заслужили похвалу от многих сенаторов.

Но не от сенаторов-республиканцев. Некоторое время назад президент Трамп опубликовал твит, в котором заявил, что Twitter и Google ввели политическую цензуру в отношении консервативных политиков. На слушаниях сенаторы-республиканцы стали выпытывать у  исполнительного директора Twitter Джека Дорси, на каком основании соцсеть блокировала консервативных политиков. Он, впрочем, уже опубликовал в своем Твиттере признание «в рамках ответственности и транспарентности». Оказывается, действительно, соцсеть тестировала новый алгоритм, который «нечестно отфильтровал» около 600 тысяч (!) аккаунтов, включая даже аккаунты некоторых конгрессменов-республиканцев.

Основным редактором действительности окажутся алгоритмы, хорошо или не очень настроенные инженерами и бизнесменами из Силиконовой долины

Дело в том, что Twitter испытывал новые критерии для отлова троллей и пользователей, распространяющих ненависть. Алгоритм следил за поведением подписчиков этих аккаунтов: какие слова и твиты распространяют они. И на этом основании он вывел из ленты сами аккаунты. Так за бортом оказались в том числе даже отдельные конгрессмены. Все потому что некоторые их подписчики показались алгоритму слишком радикальными. Или, может быть, использовали запрещенные слова.

Twitter, однако, быстро признал, что такая практика ошибочна и все отыграл назад. Тем не менее, этот конфуз показывает, в каком направлении движется мысль демиургов интернета в их борьбе с фейк-ньюс и поляризацией общества. Стремясь настроить алгоритм на блокировку нежелательного контента, они ищут надежные критерии, которые позволяли бы отлавливать вредный контент и производящие его аккаунты автоматически и превентивно, а не в ручном режиме и пост-фактум. Отсюда появляются такие идеи: судить об источнике по поведению читателей.

Этот вид ответственности за контент раньше не был известен. Впрочем, нечто подобное практикуют в России: СМИ могут быть наказаны не за их контент, а за экстремистские комментарии пользователей на их форумах. В Силиконовой долине свои погремушки: похожая идея, но внедренная с участием алгоритма, выключила из оборота разом 600 тысяч эккаунтов. Затронуты оказались конгрессмены, случился скандал, алгоритм отменили. Но в каком направлении идет поиск идей, в принципе, понятно. Эти или подобные алгоритмы спустя время будут регулировать обмен информации в интернете.

Другая любопытная деталь связана с полностью или частично автоматизированными аккаунтами в Twitter. В этом нет ничего незаконного или аморального. Например, новостные агрегаторы или боты компаний могут вести Twitter, ставить в ленту дайджесты или автоматические новости про финансы и погоду. Естественно, автоматизация умножает мощь и продуктивность аккаунта. А если он принадлежит троллям или врагам Америки, то автоматизация умножает и их мощь. Сенаторы спросили, что будет соцсеть делать с этой угрозой. Джек Дорси ответил, что инженеры компании, оказываются, уже думают об этом. Понятно, что рубить автоматизированные аккаунты оптом пока никто не собирается. Для начала в Twitter задумались над тем, чтобы маркировать учетные записи, использующие автоматическую генерацию постов. В общем, компаниям, которые используют автоматизацию в Twitter, стоит следить за новостями в этой сфере.

Сенаторы также спросили, что Facebook намеревается делать с высококачественным фейк-видео, в котором умные алгоритмы подставляют реальных людей в ложные сценки так, что подмена практически незаметна. Оказывается, специалисты соцсети уже работают и над этим. Видео-фальшивки, состряпанные искусственным интеллектом, будут им же и разоблачаться, но уже с другой стороны баррикад. Война брони и пушки перейдет на следующий уровень.

Эти второстепенные (с точки зрения американских политических баталий) детали показывают, как будет формироваться новостная повестка в ближайшем будущем. Основным редактором действительности окажутся алгоритмы, хорошо или не очень настроенные инженерами и бизнесменами из Силиконовой долины, которые вовсе не задумываются о роли новостей и массмедиа, а разрываются между прибылью и политикой. Между желанием заработать и нежеланием провиниться перед сенаторами и регуляторами. А решения этих инженеров и бизнесменов по степени влияния на общество будут превосходить любые усилия былых повелителей дум — редакторов СМИ.

Иллюстрация: shutterstock.com; скриншот: vox.com
Сообщить об ошибке
Сен 10, 2018
О судьбе выпускников журфаков, фактчекинге и проблемах прессы — Елена Варатанова и Анатолий Пую
Marriott выпустил сериал о путешествиях, а Grey Goose — серию телеинтервью со звездами
«Россия сегодня» запустила VR-проект об аутизме