Наша профессия сегодня находится в подвешенном состоянии: нейросети уже здесь, но их место рядом с журналистами еще не определено. ЖУРНАЛИСТ обсудил эту проблему с деканом Высшей школы телевидения МГУ им. М. В. Ломоносова Виталием Третьяковым.
Виталий Третьяков: Начнем с того, что я буду говорить о нейросетях так, как я их понимаю. Если мой взгляд ошибочен или у вас другое мнение — сразу поправляйте. Насколько я понимаю, то, что сейчас называется нейросетью и используется для создания текстов (журналистских или любых других) — это некий алгоритм. Он выбирает из огромного массива информации то, что задано тем, кто составил запрос.
Например: «написать статью о переговорах российской и американской делегаций в Эр-Рияде» (это было недавно). Эта так называемая нейросеть, для которой все доступно в интернете и не только, собирает кучу информации, по заданному алгоритму выбирает нужные слова и фразы, компилирует их и выдает текст. Правильно?
Иван Зуев: Да, я так все и представляю. Тем не менее, французский философ Гаспар Кениг приводит два подхода к нейросетям. Первый — нейросеть как «механический турок»: она не умеет думать, только строит логические связи. Второй — нейросеть как будущая замена человеку.
– Я говорю о том, что есть на данный момент, а не о теоретических предположениях. Нейросеть — это не мозг человека, не другой человек в человеческом обличии. Это даже не модель нейронных связей. Нейроны — у нас в голове. А здесь «нейроны» — это название, перенесенное из биологии.
Конечно, пока это «механический турок», будем исходить из этого. Что будет через 5–25 лет — не разбираем. То есть это чисто механическая система, очень быстрая. Вы и сами могли бы скомпилировать то же самое, собрав данные. Другое дело, что у вас нет такой скорости, и вы не можете обработать такой объем информации.
Но вы сами могли бы это сделать, не будучи, например, специалистом по российско-американским отношениям. То есть мы сошлись во мнении.
Теперь нужно определить, что есть правда.
– Насколько я понимаю, правда — это набор фактов, необходимых для относительно объективного освещения действительности.
– Да, тут мы тоже сходимся. Правда — это описание на основе реальных фактов, которые достоверны: «это было так». То, что произошло, без искажений — ни специальных, ни случайных.
Журналист, как правило, работает с конфликтными ситуациями. Переговоры — это тоже конфликт, с достижением компромисса или без. На работу влияют и политические соображения, и личные симпатии. Пример: «Мне нравятся американцы, значит, все, что они делают, — правильно». В конце концов, фактов можно подобрать много, подтверждающих любую позицию. Стоит зачерпнуть шире — появятся новые факты, их тоже можно сложить.
ЧЕЛОВЕК НИКОГДА НЕ МОЖЕТ ОТРЕШИТЬСЯ ОТ СВОИХ СИМПАТИЙ, АНТИПАТИЙ. ПОЧЕМУ‑ТО МНОГИЕ СЧИТАЮТ, ЧТО ЕСТЬ ЖУРНАЛИСТЫ АБСОЛЮТНО ОБЪЕКТИВНЫЕ. КОНЕЧНО ЖЕ, ЭТО НЕ ТАК
Итак, в зависимости от запроса, нейросеть может «объективно» написать правду — то, что мы условно так называем. Условную правду, потому что всегда можно найти еще факты, и оценка события может измениться. Человек может быстро обработать 10 фактов при написании материала, но не 100 и тем более не тысячу. Допустим, искажение может быть на этом этапе: нейросеть обрабатывает так много информации, что выдает другой результат. Человек тоже стремится быть объективным, но не может обработать столько. Это первое искажение, отход от правды.
Следующий вариант. Человек никогда не может отрешиться от своих симпатий, антипатий — политических, а личностных еще больше. Я об этом пишу. Почему-то многие считают, что есть журналисты абсолютно объективные, которые полностью задвигают свои политические симпатии. Конечно же, это не так. Приведу пример. Политические предпочтения у журналиста есть. Когда он голосует, он бросает бюллетень не объективно за всех пятерых кандидатов, а за кого-то одного. Его и ситуация заставляет. Как это проявляется? Это может быть умолчание. Кандидат, который мне нравится: я пишу про него материал, перечисляю правду, но только его положительные качества. Или только отрицательные. Я не лгу, фактически. Я просто говорю сугубо об отрицательном. Солгал? Нет. Но суммарно это и есть правда?
Соответственно, на данный момент развития нейросети я могу предположить, что искажение в тексте, написанном человеком, который старался быть максимально правдивым, все же присутствует. Человек, как мы установили, не может быть однозначно объективным. У него есть все человеческие качества, и журналист тем более не может отрешиться от своих симпатий. А уж если этот кандидат ему на ногу наступил…
Он может написать текст, который теоретически совпадет с «правдой» от нейросети. Но это будет случайное совпадение. Потому что журналист основывается на взвешивании значимости фактов. «Да, он ругается матом, но человек-то добрый. Ну кто не ругается? Не так часто…» — грубый пример. Нейросеть обрабатывает гораздо больший объем, и баланс позитивного и негативного при тысяче фактов может быть иным, чем при десяти. То есть субъективная корректировка правды журналистом теоретически может совпасть с «объективной» картиной нейросети. Но это чисто случайное и крайне маловероятное совпадение.
Чем больше обрабатываемой информации, тем объективнее картина. Это известно. Но вам известен алгоритм обработки? Вы даже имени автора не знаете. А вдруг он нам что-нибудь подкрутил? Теоретически это может быть.
У человека тоже есть воля, желание, он может пошутить. Пусть все считают, что нейросеть выдает абсолютную правду, а в реальности это будет ложь. Просто мне так хочется посмеяться над этим глупым человечеством.
Мы не знаем, не можем проконтролировать сам алгоритм. Нам покажут какую-нибудь математическую формулу, мы скажем, что здесь ошибка, но мы не можем оценить масштаб этих формул в нейросети. Чужая воля все равно присутствует.
Опять же, что есть правда в оценке ДТП? Два автомобиля столкнулись. Бывают ситуации, когда формально виноват один по правилам, а в реальности — другой. Простейшая ситуация, но она показывает, что определить правду тяжело. Поэтому то, что одним кажется правдой, другим представляется неправдой.
Это человеческий взгляд. В русском языке истина, которая не познаваема, отделяется от правды. А правда, которую видит ИИ на основе анализа гигантского количества факторов, может не совпадать с правдой, которую видит реальный человек-журналист.
Вот я точно знаю, к примеру, что этот человек — мерзавец. Я лично с ним знаком, знаю его поступки. А в сети может быть только хорошее. Что скажет нейросеть? Она этого не знает и не учитывает. Вот вам возможность несовпадения.
Кто это будет определять? Проблема в том, что когда журналист напишет неправду — это плохой журналист, он не все разобрал, у него симпатии. А когда нейросеть, тебе скажут: «Ну как, это же максимально объективно, объективнее не бывает». И ты, публика, вынужден будешь в это верить. Вот такие коллизии.
– А в данном случае можем ли мы наделить нейросеть моральной нормой? То есть прописать в коде идеологему правдивости. Тогда это будет ближе к правде в нашем понимании?
– Мой конкретный ответ — нельзя. Потому что нельзя определить, что такое правда. Во-вторых, все знают моральные нормы, но большинство людей их нарушает по каким-то причинам. Иногда эти причины существенные, и нужно против норм идти.
Обманывать нехорошо. Плохо? Плохо. А если вы убегаете от человека с ножом и прячетесь, чтобы сохранить жизнь, — это хорошо или плохо?
Мы оцениваем мир не как объективные наблюдатели. Мы люди, мы для себя — центр вселенной. Поэтому я не знаю людей, которые бы всегда соблюдали моральные правила, которые сами же пишут. Такой человек один был — Иисус Христос, а все остальные не такие.
Если два факта противоречат одному, то мы берем два факта как правду. Это очень примитивный выход из сложных ситуаций, которые не охватываются черно-белой системой.
Приведите ко мне человека, который способен сочинить такой моральный кодекс. Я хочу на него посмотреть. Пока у меня сомнения, что кто-то мне такого приведет. Но это не значит, что не нужно закладывать очевидные ограничения. Законы робототехники Азимова: «Робот никогда не навредит человеку». Это уместно. Но их легко применить к одному человеку. А если два? Не должен навредить этому, но при этом должен навредить другому. Что сделает робот? Вот уже элементарная задачка на тему морали.
– Вы говорили, что нейросеть ставит журналистику в позицию одних только редакторов. Что делать журналисту в данной ситуации?
– Пока ничего. Журналисты еще работают, но мы в переходном периоде. Когда это все разовьется, когда главные редакторы и владельцы будут все больше использовать нейросети, читатели будут читать эту газету наравне с той, где работают люди. Но людям нужно платить зарплату, а это убытки.
Условно, половину редакции уже можно уволить, зарплату платить не нужно. Рано или поздно владелец скажет: «Увольняем всех, я так хочу». Потому что мы в рыночной экономике живем.
В конечном итоге, что такое газета? Это редакционная программа, которую выполняют люди — журналисты, редакторы. Они создают тексты, фотографии, иллюстрации. Если это может делать нейросеть, то зачем эти люди? Все равно нужно укладываться в программу. Допустим, «не ругать коммунистов». Или наоборот. Это же просто — задать такие параметры.
Сейчас люди не рвутся читать кого-то из-за стиля, чтобы насладиться, как пишет данный журналист. Если это и было, то в XIX — начале XX века. Основной поток материалов в журналистике — это не отдельные авторские материалы. Стиль не нужен. Зачем тогда журналисты?
А главный редактор нужен. Это тот, кто создает алгоритм, задает задание, определяет рамки и контролирует соблюдение редакционной политики. Остаются без журналистов: главный редактор, девочка-секретарша и водитель. Все.
– Но с другой стороны, я проводил эксперимент. Нейросеть может написать «молнию» в стиле ТАСС. Я закинул ей свой эмоциональный репортаж, она переписала его в сухую новость, красиво, по стандарту. Но когда я сказал: «Сделай из этого фельетон», — она не смогла разобраться.
– Еще не заложили. Но они же работают над этим.
– Я о том, что если давать нейросети не цельный текст, а набор фактов, она сделает молнию, но не сможет сделать репортаж или социальный материал.
– Если на данный момент не сможет, то через некоторое время сможет. Они над этим работают.
– Опять вопрос моральных проблем. Социальный репортаж поднимает именно моральные вопросы, его задача — адаптация, а не просто информирование. Как нейросеть это сделает?
– Если в дом не подается горячая вода, жильцы страдают, при этом они платят за воду, — ситуация очевидна: виновато начальство. Какое? Управляющая компания или городское начальство — неважно. Вся коллизия миллион раз описывалась. На основе этого нейросеть создаст аналогичный текст. Посмотрите, эти репортажи все одинаковые: опросил жильцов, начальник бегает, чиновник скрывается, почему не хотят разговаривать…
Жизнь стереотипна, эти ситуации все стереотипны. Если случится что-то новое, неожиданное, то все варианты будут описаны, и на этом основании нейросеть научится.
Она будет брать подходящий шаблон. Воду отключили в небоскребе в 500 этажей? Все то же самое, только 500 этажей. Она задаст уточняющий вопрос о специфике, ей дадут дополнительную информацию, и она доделает. Или сделают корректирующий запрос: «Игнорируй, что 500 этажей. Не ругай начальника, потому что он спонсор нашей газеты». Они движутся к тому, чтобы полностью заменить журналистов.
В РУССКОМ ЯЗЫКЕ ИСТИНА, КОТОРАЯ НЕ ПОЗНАВАЕМА, ОТДЕЛЯЕТСЯ ОТ ПРАВДЫ. А ПРАВДА, КОТОРУЮ ВИДИТ ИИ НА ОСНОВЕ АНАЛИЗА ГИГАНТСКОГО КОЛИЧЕСТВА ФАКТОРОВ, МОЖЕТ НЕ СОВПАДАТЬ С ПРАВДОЙ, КОТОРУЮ ВИДИТ РЕАЛЬНЫЙ ЧЕЛОВЕК-ЖУРНАЛИСТ
– Как вы считаете, это закономерный этап прогресса? Мы просто придем к этому и возьмем нейросети на вооружение?
– То, что я вижу сейчас: нейросети наступают, и никто не может или даже не хочет внести ограничения. То, что они убивают журналистику, — это совершенно точно.
– А что такое журналистика?
– Это социальный институт, который обеспечивает функционирование массового сознания в том или ином обществе.
–Но функционирование массового сознания остается. Социальный институт просто уходит.
– Он подменяется, убивается. Были пейджеры, которых сейчас нет, а появились смартфоны. Одно убило другое. Так и тут. Нейросети убивают журналистику. А сам институт управления обществом, информирования общества остается. Только из него изымается журналистика в виде конкретных людей-журналистов.
– А чем она может стать? Частью литературы?
– Все русские писатели были журналистами. Не знаю, чем она станет… Разбегутся все. Такой профессии не будет. Кто-то будет пиццу развозить, кто-то писать…
Справка: Виталий Третьяков, российский журналист и политолог. Декан Высшей школы (факультета) телевидения МГУ им. М. В. Ломоносова (с 2008 года по настоящее время), генеральный директор-главный редактор «Независимой издательской группы „НИГ“» (с 2001 по 2013 год), автор и ведущий телепрограммы «Что делать? Философские беседы» на телеканале «Культура» (с 2001 по 2020 год), главный редактор журнала «Политический класс» (с 2005 по 2009 год).
Заслуженный журналист Беларуси, член Президиума Совета по внешней и оборонной политике, член Попечительского совета Института стран СНГ.
