Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Коржибский требовал различать уровни, датировать смысл, возвращаться к фактам и держать семантическую дистанцию. Всё это предельно разумно — можно сказать, основа критического мышления. Но разве умение управлять картами — строить их, уточнять, сверять — это о «понимании»?

Поль Рикёр и Михаил Бахтин

Параллельно с этим — рационально-аналитическим — подходом в философии продолжала развиваться и другая её ветвь. На смену классической метафизике пришла философская антропология — исследователи принялись анализировать человеческий опыт, пытаясь доискаться до сути человека, включая и феномен его понимания.

Здесь нам может быть важен французский философ Поль Рикёр, который обратил внимание на то, что сам по себе язык никогда не говорит однозначно. Он отходит от пространных идей своих предшественников — Эдмунда Гуссерля, Мартина Хайдеггера, Ханса-Георга Гадамера — и утверждает, что всякое понимание есть интерпретация[16].

Тоже звучит вроде бы как банальность, но и тут не следует торопиться. Если мы говорим, что понимание — это интерпретация, то это значит, что мы никогда не имеем дело с «подлинным» смыслом. Все наши понимания — это, если угодно, «личное мнение», и у каждого, включая даже автора той или иной идеи, оно своё.

При этом интерпретации, как объясняет Рикёр, не только различаются, но и конфликтуют друг с другом. Один и тот же текст может быть понят как свидетельство веры, исторический документ, выражение культуры или как личная драма. Эти интерпретации несовместимы, и, хотя они дополняют друг друга, они не создают подлинного единства понимания.

Любой текст всегда больше, чем намерение его автора, потому что открыт к бесконечному порождению новых смыслов. Каждое новое прочтение — это всегда уже другой горизонт, другая позиция и другие вопросы. То есть Рикёр говорит о «понимании» не как об окончательной ясности, а, скорее, как о попытке удержания напряжения между разными прочтениями.

Наш гениальный соотечественник Михаил Михайлович Бахтин в чём-то очень близок к этим взглядам Рикёра, но даёт иную перспективу — он говорит не о конфликте интерпретаций, а о внутренней диалогичности.

Анализ романов Ф. М. Достоевского приводит его к идее «полифонии голосов». Ни один голос, как говорит Бахтин, не может быть окончательным, ни одно высказывание — замкнутым, и каждое слово всегда обращено к другому и, более того, предполагает ответ[17].

Таким образом, понимание не может быть индивидуальным актом: оно не возникает внутри сознания, как озарение, но всегда случается между. Между говорящим и слушающим, между текстом и читателем, между культурами и традициями.

Всякий акт понимания, по Бахтину, это событие — совместное присутствие разных голосов. Даже когда мы думаем «про себя», мы продолжаем внутренний диалог: разговариваем с воображаемым собеседником, спорим с учителем, откликаемся на чужой голос.

Наше «я» — это уже полифония, где звучат чужие слова и интонации. Так что наше понимание всегда диалогично. И эта диалогичность нас самих, от которой нам никуда не уйти, оставляет нас без «нашего», собственного понимания. Всякое наше понимание — процесс постоянного обсуждения.

Получается, что и философская антропология не даёт нам ответа на вопрос, что же такое «понимание». Более того, развиваясь дальше, эти идеи последовательно приводят к негативной диалектике Теодора Адорно[18], с одной стороны, и к постструктурализму Жака Дерриды[19] — с другой.

Важно, что эти две фигуры, по сути, ставят точку в истории философии. И мы видим замкнутый круг — по сути, пусть и очень своеобразно, они повторяют тезис Сократа: понимание — это не какое-то знание, а «разрыв» в очевидности. Адорно отрицает всякую тождественность и утверждает абсолютность инаковости, а Деррида утверждает радикальную множественность.

Что ж, философия оставляет нас ни с чем… Последовательный анализ приводит к тому, что «понимание» — через которое мы, по сути, и определяем собственное существование, — лишь кажимость. Это не «понимание», а бесконечное говорение, которое переговаривает самого себя, не схватывая сути дела.

Когнитивное упражнение

Все модели неверны, но некоторые полезны.

Джордж Бокс

Середина XX века — старые объяснения больше не работают.

Философия продемонстрировала нам неспособность объяснить «понимание», да и редукционистский бихевиоризм Берреса Фредерика Скиннера[20], утверждавшего, что нам не следует даже пытаться проникнуть в «чёрный ящик» сознания, тоже сдался под напором критики.

Так что настал момент, когда пальму первенства в объяснении феномена «понимания» переняла когнитивная психология. Отцом когнитивной революции стал молодой тогда ещё Ноам Хомский, бросивший вызов Скиннеру[21].

Аргумент Хомского был прост и убедителен: ребёнок не может выучить язык во всей его сложности, просто копируя взрослых. А следовательно, в мозге должна существовать врождённая способность к «пониманию» — универсальная грамматика.

Впрочем, подход Хомского позволил лишь описать внутреннюю структуру языка, а этого совершенно недостаточно, чтобы объяснить само наше мышление. Собственно, этот вопрос и стал основным для его учеников-отступников — с одной стороны, Джорджа Лакоффа и Марка Джонсона, и чуть позже, с другой, Стивена Пинкера.

Метафизика языка

Лакоффу и Джонсону принадлежит знаменитая работа «Метафоры, которыми мы живём»[22], где они показали, что понимание — это не просто умственная операция, а скорее перенос внутренних схем с одних ситуаций на другие. Проще говоря, мы понимаем что-то новое, когда нам предлагают подходящую метафору.

Прислушаемся к тому, что мы говорим: «будущее ждёт нас впереди», «отношения — это сложный квест» или, например, «душевная тяжесть» и «эмоциональная гибкость». Это даёт нам ощущение понимания, но на самом деле перед нами классические метафоры.

Строго говоря, «будущее» не может «ждать». И почему оно делает это именно «впереди» — речь же не про пространство? «Отношения» — это что-то между двумя людьми, так при чём тут «квест»? И какая «тяжесть» или «гибкость» может быть у того, что, в общем-то, нематериально?

Но да, нам нужны понятные, укоренённые в нашем сенсомоторном опыте переживания, чтобы схватить суть того, о чём идёт речь. То есть понимание возникает не в системе абстрактных представлений, а через перенос схем из телесного мира в мир идей.

В книге «Субстанция мышления» Стивен Пинкер идёт ещё дальше[23]. Он показывает, что язык не просто описывает мир, а буквально повторяет его структуру. Пространственные координаты, причинность, время — всё это не абстрактные категории, а формы, в которых мы телесно переживаем мир.

И наш язык, по сути, моделирует структуру нашего поведения в физическом мире, а затем переводит её в символическую форму, чтобы мы понимали, о чём идёт речь. Когда мы строим предложение, мы фактически выстраиваем модель мира — соотношение объектов, действий, состояний.

Например, фраза «Мяч покатился