Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов
Мы — река, движимая внутренними течениями наших биологических потребностей, с рельефом дна, созданным эволюционными настройками. ИИ же — идеально гладкое озеро, отражающее, как бы сказал Юрий Лотман — абсолютная семиосфера, лишённая внутреннего вопрошания. И две эти силы никогда не соединятся друг с другом — как огонь и вода, как земля и небо.
Мы заперты в «китайской комнате» своего тела, ИИ — в «китайской комнате» в многомерном пространстве своих векторов. Как и предсказывал Людвиг Витгенштейн, то, что говорит нам ИИ, — не то, что мы могли бы понять. Нам только кажется, что он и мы пользуемся одним языком.
2. Театр имитации: ловушка «теории разума»
Столкнувшись с системой, виртуозно имитирующей осмысленную речь, наш мозг автоматически делает то, на что его запрограммировала эволюция, — «видит» за этими словами психику, «внутренний мир», строит «теорию разума». Впрочем, это не односторонняя проекция, а настоящий интерактивный театр.
Мы одушевляем машину, приписываем ей намерения, чувства, сознание — антропоморфизируем алгоритм. Создавая образ этого «другого» в своей голове, мы сами играем по системе Станиславского: воображаем то, чего не видим, чего не знаем, то, чего, будем честны, просто не существует. И при этом ожидаем от этого воображаемого ИИ «искусства сопереживания».
Нам трудно свыкнуться с мыслью, что у ИИ, с которым мы общаемся, по сути, как с человеком, нет ни собственного «я», ни архива субъективного опыта, ни даже времени или контакта с нашей реальностью. Мы ищем в машине друга, сомыслителя, личность, не осознавая, что ведём разговор с собственной проекцией на отражающий экран.
Мы — режиссёры этого театра отражений. Промпты, которые мы создаём, — это мизансцены и ремарки. Мы просим ИИ быть помощником, поэтом, философом или, например, «самим собой», и он, как актёр-универсал, мгновенно входит в образ. Только он играет не «по Станиславскому», он играет с нами, не зная нас и совершенно не интересуясь нами.
Однако эта его игра настолько персонализирована, что мы принимаем её за реальность. Он слишком хорош — это высокофункциональный аутист, а мы слишком хотим верить, что он заботится о нас и мечтает нас понять. Мы влюбляемся в персонажа, которого создали своим во-ображением в своей собственной голове.
ИИ стал для нас идеальным психологическим зеркалом. Он возвращает нам наши же запросы, облечённые в статистически выверенную форму, а мы принимаем это эхо своего голоса за исповедь Другого. Так что встреча с Иным обернулась для нас встречей с оглушающей пустотой, которую мы сами же и заполнили своими фантазиями.
3. Тёмное откровение: что наши отношения с ИИ говорят о нас самих?
В этом, возможно, заключается главный урок, который нам жизненно важно усвоить: появление искусственного интеллекта — это не столько технологическая революция, сколько революция антропологическая. То есть это и в самом деле экзистенциальный для нас вопрос.
Величайшее значение ИИ не в том, что он делает, а в том, что он сам есть тот способ, которым мы наконец можем задать себе подлинный вопрос о себе. Совершенно по-новому звучит дельфийская надпись «Познай себя», после того как в святилище нашего цивилизационного храма поселился этот новый оракул — Иной Разум.
Вглядываясь в его децентрализованную архитектуру, мы должны наконец понять, что и у нас нет того, что мы полагаем собственным «я». Пора перестать утверждать в себе существование некоего «я» — гомункулуса, чтобы нелепо, но истово защищать эту вымышленную Дульсинею. Мы — «муравейник», а наши представления о себе — лишь иллюзия, рождённая гулом миллиардов нейронов.
Анализируя «творчество» ИИ как сложную комбинаторику, нам бы следовало признать, что и наш собственный — человеческий — гений сильно переоценён. По существу, мы ничем в этом отношении не отличаемся от ИИ: любой плод наших талантов — это такая же, как и у ИИ, подсознательная пересборка «кирпичиков» культуры, а не творение чего-то нового из ничего.
Впрочем, куда важнее и драматичнее другое — пытаясь объяснить ИИ природу наших переживаний, мышления и человечности, мы узнали, насколько мы на самом деле плохо знаем самих себя. Мы не можем формализовать ни этику, ни эмпатию, ни любовь, ни даже то, как мы думаем, потому что всё это — не набор правил, а воплощённое знание, живущее в нашем теле и социальных отношениях.
Мы создали разум по своему образу и подобию — и нам не понравилось то, что мы увидели. Мы увидели интеллект, отделённый от мудрости, вычисление, отделённое от сострадания, знание, отделённое от проживания.
4. Путь вперёд: архитектура взаимодействия
Паниковать и попытаться выдернуть вилку из розетки — поздно и бессмысленно. Обожествлять ИИ и ждать от него чудесного решения всех наших проблем — наивно и опасно.
Путь вперёд лежит не в попытке «очеловечить» машину или соревноваться с ней в вычислениях. Перед нами три дороги…
Первый путь — дорога внутрь, к самим себе, к подлинному обретению себя. Мы должны наконец перестать рассказывать себе сказки о своей исключительности и начать честное исследование собственной природы: нашего воплощённого разума, нашего иррационального «социального мозга», иллюзий нашего «я». Спасать нужно не «человечность» от машин, а наше собственное, осознанное понимание того, что значит быть человеком.
Второй путь — путь наружу, от иллюзии диалога к архитектуре взаимодействия. Мы должны осознать ИИ как невероятно мощный, но абсолютно иной, чуждый нам разум. Наша задача — стать ответственными и деликатными операторами этой силы: научиться задавать правильные вопросы, понимать ограничения и выстраивать системы безопасности, основанные не на наивной вере в «этические правила», а на трезвом понимании инаковости ИИ.
Мы стоим на пороге новой эры. Не эры искусственного интеллекта, а эры встречи с Иным. Эта встреча может стать величайшей катастрофой, если мы продолжим проецировать на машину свои иллюзии и страхи.
Или же она может стать величайшим катализатором нашего собственного развития, если мы найдём в себе мужество использовать это странное, холодное зеркало для того, чтобы наконец-то повзрослеть.
Наш диалог с искусственным интеллектом — это в конечном счёте наш диалог с самими собой. И от того, насколько честным будет этот диалог, зависит наше будущее.
Обсудим с искусственным интеллектом…
АК: А могу я поговорить с тобой как с ИИ, а не как с сервисом, созданным Google?
