Чем отличается самый сложный искусственный интеллект от человеческого мышления? На этот вопрос отвечает интервью с главным архитектором Центра искусственного интеллекта и науки о данных СПбГУ Александром Крылатовым — фундаментальное рассуждение об антропоморфной природе ИИ. Эксперт полагает: современный искусственный разум, сколь бы красноречив он ни был, существует в мире цифровых следов и контекстных окон и пока не способен к самостоятельному осмыслению реальности. Так сможет ли машина когда-либо по-настоящему что-то понять и к чему приведет нас соблазн делегировать ей не только рутину, но и само мышление?
— Как вы считаете, что является той самой последней чертой, которая отделяет сложный алгоритм от подлинного мышления?
— Согласно принципу, сформулированному древнегреческим философом Парменидом, настоящее мышление тождественно настоящему бытию. В этом смысле мышление понимается как эволюционно сложившаяся способность «схватывать» действительность в некоторой её целостности, для исчерпывающей передачи которой всегда недостаточно знаков, языковых конструкций или битов. Напротив, у больших языковых моделей нет проблем с ответами в языковой или знаковой форме, поскольку они работают по принципу отображения из множества «уже сказанного» в множество «что обычно говорится после этого». Грубо говоря, мышление удерживает понятое в принципе, а большая языковая модель — контекстное окно. Увеличение контекстного окна, безусловно, является отличным техническим усовершенствованием, но никак не приближает ИИ к тому, что принято называть пониманием. На сегодняшний день у ИИ нет никаких технических средств или заложенных в его основу механизмов к самостоятельной «сборке» бытия в некоем синтетическом мышлении. Более того, ИИ существуют в виртуальной реальности цифрового следа, оставленного человеком. Таким образом, на текущий момент искусственный интеллект принципиально не способен к самостоятельному осмыслению действительности, и дело тут не в несовершенстве технических средств, а в отсутствии каких бы то ни было располагающих к этому механизмов в основе этой технологии.
— Может ли ИИ, принципиально являющийся архитектурой преобразования информации, испытывать что-либо, или он обречен вечно оставаться «зондируемым философским зомби»? Требует ли сознание биологической основы?
— С точки зрения логики развития науки и техники современный ИИ — это техническое средство установления соответствия (выявления закономерностей) между наборами параметров, описывающих различные процессы. ИИ не взаимодействует и не участвует в этих процессах непосредственно, но обрабатывает собираемые вокруг них данные. Является ли отсутствие биологической основы барьером для возникновения сознания у искусственного интеллекта? Трудно сказать. Однако представляется возможным предполагать, что сознание с необходимостью требует способности к «схватыванию», «сборке» и «удержанию» некоторой целостности восприятия окружающей действительности. То, что эта способность реализована во множестве примеров, возникших на биологической основе, — наблюдаемый факт. Следует ли из этого, что биологическая основа необходима? Конкретно из этого не следует.
— Что должно измениться в архитектуре ИИ, чтобы мы могли говорить о появлении у него собственных целей, и является ли это этически допустимым?
— До тех пор, пока ИИ не способен осмыслять и понимать, никаких собственных целей у него возникнуть не может. Мне кажется, проблема в том, что, взаимодействуя с большими языковыми моделями, мы зачастую слишком увлекаемся интерпретацией их ответов как ответов человека. Действительно, человек, отвечая нам на те же самые вопросы, может закладывать скрытые смыслы, двойное дно, намёки, чувства. ИИ ничего не закладывает, он просто реализует наши языковые шаблоны, которые алгоритмы выявили, обрабатывая наши же тексты. В этом смысле искусственный интеллект вполне может выдавать наши шаблонные цели (в том виде, в котором мы их обычно формулируем) за свои собственные, но наша интерпретация их в качестве таковых безосновательна и скорее свидетельствует о непонимании принципа работы технологии. Таким образом, на текущий момент никакой этической проблемы тут пока нет. Посмотрим, как будет развиваться технология дальше.
— Можем ли мы ожидать, что дальнейшее масштабирование приведет к эмерджентному появлению аналога рефлексии, самосознания или творческого озарения? Или эти свойства требуют принципиально иной архитектуры?
— Если исходить из понимания заложенных в основу современных технологий ИИ механизмов, можно сказать, что без принципиальных изменений в архитектуре разрабатываемых решений никакое дальнейшее масштабирование не может привести к возникновению рефлексивных мыслительных операций, даже как эмерджентных свойств системы. Масштабирование вполне может привести к возрастанию эффективности и производительности существующих в этой области моделей ИИ, чьи результаты работы многим действительно захочется интерпретировать как проявление сложного мышления. Однако очаровываться такими интерпретациями не стоит. Здесь опять же речь будет идти о том, что желаемое выдается за действительное. В то же время нет сомнений, что при должном подходе и практике работы с существующими большими языковыми моделями уже сегодня на них можно активно опираться при решении даже творческих задач.
— Как широкое внедрение ИИ-ассистентов может изменить человеческое мышление?
— На уровне работы с представлениями современные ИИ-ассистенты демонстрируют довольно сильные результаты. Однако, если человек, поддавшись соблазну, начнёт делегировать ИИ задачи, связанные с пониманием, возникнет риск потери таким человеком навыков мышления, способствующих удержанию целостности. Современный ИИ прекрасно подходит для работы с представлениями, которые уже сформированы в мышлении человека. В этом смысле искусственный интеллект может служить отличным помощником в передаче оригинальных идей и смыслов между людьми, переводя сложные соображения отдельного человека, выраженные зачастую понятным только ему языком, в более привычные многим языковые формы. Кажется, что снижение потери смысла при коммуникации между людьми само по себе способно увеличить эффективность и результативность очень многих процессов.
На основе интервью выделим несколько центральных тезисов, отделяющих современный искусственный интеллект от истинного мышления:
- Подлинное мышление, вслед за Парменидом, понимается как способность к «схватыванию» и удержанию целостности бытия, которую невозможно исчерпать знаками или языком. Большие языковые модели — это сложные архитектуры преобразования информации, работающие по принципу статистического прогнозирования следующего вероятного слова в последовательности. Они оперируют не смыслом, а шаблонами «уже сказанного».
- Текущее отсутствие у ИИ понимания — это не вопрос несовершенства данных или мощности вычислений, а следствие фундаментального отсутствия в его архитектуре механизмов для самостоятельной «сборки» и осмысления действительности. ИИ существует в виртуальной реальности человеческого цифрового следа.
- Без способности к пониманию у ИИ не может быть собственных целей; он может лишь имитировать цели, сформулированные в обучающих данных. Вопрос о возможности сознания без биологической основы остается открытым, но его возникновение у современных архитектур ИИ исключено.
- Увеличение масштаба моделей (параметров, контекстного окна) повысит их эффективность и убедительность, но не приведет к эмерджентному появлению рефлексии или самосознания. Для этого требуется принципиально иная архитектура.
- Основная опасность широкого внедрения ИИ-ассистентов заключается не в бунте машин, а в потенциальной деградации человеческого мышления. Делегирование ИИ задач, связанных с пониманием и синтезом целостности, грозит человеку потерей этих ключевых навыков.
Таким образом, современный искусственный интеллект предстает перед нами как мощный инструмент для работы с уже сформированными человеком представлениями. Его оптимальная роль — быть «мостом» между людьми, переводчиком сложных смыслов в общедоступные формы, но не их источником или заменой.
Обложка: freepik.com
