Исследователи из Duke Tech и Check Cooperative получили $1,2 млн на автоматизацию фактчекинга. Команда, состоящая из журналистов, ученых и разработчиков приложений, за три года создала несколько прорывных продуктов. Например, приложение Squash, которое проверяет утверждения политика в реальном времени, прямо во время выступления, а также различных ботов, помогающих журналистам избегать недостоверной информации в текстах. Несмотря на прогресс, исследователи признали, что помощь живого человека в проверке фактов всё же необходима:
Искусственный интеллект хорошо справляется с повторяющимися задачами, но пока ему все еще нужна наша помощь.
Система Squash проверяет высказывания, озвученные в эфире телеканала. Если говорящий по каким-то собственным соображениям решит приукрасить правду, повернуть факты в более удобное ему русло или слишком сильно обобщить — система выведет на экран всплывающее пояснение, в котором укажет, что озвученные факты неправдивы, или предложит материал, больше раскрывающий суть вопроса. На фактчекинг необходима всего минута, поэтому минимальный сдвиг прямого эфира даст возможность проверять правдивость слов в тот же момент, когда они будут озвучены.
В рамках этого приложения не предполагается участие человека, но ошибки все же не исключены. Во-первых, несмотря на развитие алгоритмов, преобразовывающих голос в текст, выраженный акцент у говорящего, речевые дефекты и ошибки могут создавать трудности в распознавании речи. Во-вторых, базы, по которым проводятся проверки фактов, также формируются искусственным интеллектом. В них могут оказаться недостоверные данные. В-третьих, Squash запрограммирован опираться на предыдущие проверки фактов во время выступления и иногда ошибается. Например, Дональд Трамп может сделать заявление о космических кораблях, но приложение ошибочно сопоставит его с предыдущим фактом-проверкой по поводу строительства дороги.
Чтобы избежать казусов, Duke Tech и Check Cooperative решили внедрить в систему людей, которые смогут делать окончательный выбор, отсеивать неудачные совпадения, анализировать базы фактов. Главная цель кооператива заключается в использовании автоматизации для фактчекинга, однако они обнаружили, что искусственный интеллект еще недостаточно умен для выполнения некоторых задач.
Источник: Duke Tech&Check Иллюстрация: shutterstock.com
