Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов
Так что знаменитая «Система Станиславского» — это не про-сто использование нашей врождённой способности к созданию «теории разума» других людей, но её сознательная тренировка и усложнение. Великий режиссёр превратил этот бессознательный процесс в сознательную, аналитическую и систематическую работу и, что для нас важно, показал, насколько это непростая задача.
Да, когда мы действуем интуитивно, причём уже хорошо зная человека, нам не кажется это сложным — понять, что он сейчас чувствует, что для него важно, из-за чего он переживает и т. п. Но далеко не каждый из нас сможет стать блестящим актёром, способным искусственно и при этом во всей полноте воспроизвести в себе «теорию разума» — модель «внутреннего мира» — другого человека.
А ведь именно этого мы и ждём от искусственного интеллекта, когда с ним общаемся… Мы рассчитываем, даже если не осознаём этого, что он будет понимать нас настолько же хорошо, насколько мы сами себя понимаем.
Это требование может показаться избыточным, но только такой уровень взаимности позволит ИИ понимать те смыслы и подтексты, которые, помимо нашей воли, содержатся в наших запросах. Мы не осознаём этого, но мы всегда говорим из определённого состояния, из конкретной ситуации, о которой ИИ совершенно не в курсе.
Если ИИ будет отвечать не человеку (внутреннему миру) в нас, а формально, без учёта нашего жизненного багажа, наших знаний, интересов и предпочтений, манеры общения и т. д., он будет напоминать того нелепого гостя на вечеринке, который, желая познакомиться, задаёт самые неподходящие вопросы.
Но почему нам в таком случае не «воспитать» ИИ по системе Станиславского? Если мы можем обучить его писать код и анализировать медицинские снимки, почему бы не сформировать у него навык «переживания» нашего внутреннего мира?
Вопрос резонный, но давайте попробуем понять, что будет происходить с ИИ, если бы мы скормили ему полную биографию шекспировского Гамлета, а также все критические статьи и даже нейробиологические исследования о меланхолии и помутнении рассудка. Далее, как кажется, нам останется лишь дать ему инструкцию: «Действуй так, как будто ты — принц датский. Твой отец убит, а мать вышла замуж за его убийцу».
ИИ, без сомнения, сгенерирует текст и последовательность действий, которые будут с поразительной точностью соответствовать заданной роли. Он будет говорить о сомнениях, о мести, о бренности бытия. Но это будет не «искусство переживания», а его идеальная, но безжизненная имитация.
Система Станиславского потерпит крах при столкновении с ИИ, потому что каждый её элемент рассчитан на наличие у человека его собственного, неизвестно откуда и как берущегося «внутреннего мира», его «эмоционального опыта». Ничего подобного у ИИ нет, и более того — во всём научном сообществе нет даже сколько-то жизнеспособных идей, которые бы позволили функцию «теории разума» в нём воспроизвести.
Работая над ролью, актёр, в соответствии с подходом Станиславского, обращается к своему собственному, гигантскому архиву субъективных переживаний. Чтобы сыграть горе Гамлета, он обращается к памяти о соб-ственной потере, к ощущению холода в груди, к физической тяжести скорби, вспоминает скупые слёзы, бегущие по щекам.
Внутреннее «я» каждого человека — это богатейшая библиотека прожитых моментов, которая служит строи-тельным материалом для такой — артистической — симуляции. У ИИ же просто нет никакого «я», а тем более архива субъективных переживаний. Он никогда не чувствовал ни любви, ни предательства, ни экзистенциального ужаса.
Когда мы задаём ИИ вопрос: «А что если бы ты был Гамлетом?» — мы сами не понимаем, о чём его спрашиваем. У ИИ нет этого «ты», и уж тем более он не может представить себя на месте литературного персонажа. Да, ИИ может проанализировать, как слово «Гамлет» статистически связано со словами «тень отца», «месть», «Дания», «череп», «мать», и сгенерировать наиболее вероятный текст на основе этих корреляций. Но это не жест от первого лица, а вычисление чего-то третьего.
Актёр, изучая обстоятельства жизни персонажа — «вырос в замке Эльсинор», «учился в Виттенберге» и т. п., — интернализирует их, пропуская через фильтр собственного понимания мира. Он может представить себе сырость каменных стен, тяжесть королевских обязанностей, интеллектуальную атмосферу университета. Эти факты обретают для него смысловой вес.
Но для ИИ «предлагаемые обстоятельства» — это лишь дополнительные токены в контексте. «Эльсинор» — вектор, близкий к векторам «замок» и «Дания». «Виттенберг» — к векторам «университет» и «Германия». ИИ может оперировать этими данными, но они для него не обладают никаким смыслом, потому что они должны быть для этого хоть как-то им прожиты. Это только информация, лишённая плоти, данные без мира.
Да и «сверхзадача» — это концепт Станиславского из разряда экзистенциальных вопросов. У каждого из нас наше, так скажем, «жизненное задание» резонирует с внутренними, фундаментальными потребностями. Мы понимаем, что такое «жажда жизни», что такое «сила любви», «сострадание», «забота», «ответственность», потому что в нас заложены соответствующие механизмы — от биологического инстинкта самосохранения до чувства прекрасного.
У ИИ нет никаких собственных «внутренних драйвов». Его единственная «сверхзадача» — математическая оптимизация функции потерь, заданная извне. Он стремится сгенерировать ответ, который получит наивысшую оценку с точки зрения заданных инструкций. Он может идеально описать стремление Гамлета к восстановлению справедливости, но это будет лишь лингвистическим объектом, а не внутренним, сводящим с ума желанием.
Так что система Станиславского и ИИ — это лишь красивый мысленный эксперимент, который лишний раз демонстрирует фундаментальную инаковость наших разумов.
Высокофункциональный аутист
Система Станиславского — это отличная технология для человека, обладающего телом, личной историей, субъективным опытом и внутренними мотивами. Тогда как ИИ лишён всех этих исходных компонентов.
Он — бестелесный, у него нет личной истории, субъективного опыта и внутренних мотивов. Он может быть гениальным автором текста, но увидеть наш «внутренний мир» — пусть и с ошибками, искажениями (как мы видим внутренние миры друг друга) — он не может в принципе, потому что для этого нужно обладать собственным.
Мир психической реальности, который мы носим в себе и который так или иначе разделяем с другими людьми, для ИИ — это лишь миф, легенда, диковинная сказка.
Он знает о нашем внутреннем мир даже больше, чем мы с вами, но не понимает, что это такое. В этом отношении он напоминает исследователя Марианской впадины, который собрал о ней бесчисленное количество данных, но никогда не спускался на её глубину.
