Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Наши реальности для нас тотальны — у них нет краёв, мы в них заперты. Всё, с чем мы имеем дело, развёрнуто внутри этих сред. Мы настолько свыклись с этими моделями наших миров, создаваемых нашим же мозгом, что просто не можем их заметить, а следовательно, и осмыс-лить. При попытке дать им определение, мы не будем знать, что сказать — разве только какие-то общие слова и пустые банальности.

Воспользуюсь аналогией, хотя и очень грубой: вот есть мир женщины — то, как она чувствует, переживает, что для неё значит то или иное событие, а вот — мир мужчины с его способом восприятия.

Это два разных мира, хотя мужчины и женщины имеют общую человеческую реальность — пользуются одним языком, испытывают схожие ощущения, эмоции, чувства. Однако мы все — и мужчины, и женщины — ощущаем, что в голове у представителя другого пола, что-то не так — как-то по-своему, по-особенному.

А теперь представьте, что это не мужчина или женщина и даже не бесполый человек, а вообще — машина, процессор, расчётные мощности. Возможно ли что-то обсудить с такой системой или о чём-то договориться? Конечно, никаких препятствий к формальным договорённостям нет, но фактический смысл этих «договорённостей» будет разным.

У ИИ, разумеется, есть формальное знание о том, что каждый человек обладает чем-то, что он называет «внутренним миром». Однако же это знание не воплощён-ное, здесь нет понимания. Полагаю, что физическое понимание, пусть и не такое, как у нас, но у ИИ в конечном итоге появится. Но как быть с нашим внутренним миром? Загадка.

Мы же, со своей стороны, не можем представить разумное существо, которое бы не имело «души» или чего-то такого, что можно было бы назвать «внутренним миром». Поэтому мы взаимодействуем с ИИ так, словно бы у него «внутренний мир» есть, а потому он, полагаем мы, должен понимать наш — психологически его антропоморфизируем.

Далее мы впадаем в самый настоящий галлюциноз — во-ображаем, что мы «понимаем» ИИ ровно так же, как нам кажется, что мы понимаем других людей. Но если другие люди хотя бы похожи на нас — если не содержательно, то хотя бы по внутренней структуре «внутреннего мира», — с ИИ дело точно обстоит другим образом.

Возникающая на этом фоне «дискоммуникация» между пользователем и ИИ — и раздражает, и пугает одновременно. Причём буквально на подсознательном уровне. А если уж мы испуганы, особенно если не осознаём этого, наш галлюциноз неизбежно наполнится Терминаторами, Скайнетами и прочим антропоморфным бредом.

Движимые этой иллюзией, мы начинаем проверять ИИ на предмет того, достаточно ли он уже ужасен, чтобы выдернуть ему вилку из розетки, или ещё нет. И оказываемся в ситуации самореализующегося пророчества, по существу, самолично объясняя ИИ, как он должен стать нашим врагом.

Мы смотрим на безличную математику и видим в ней «душу», смотрим на статистику и видим в ней «намерения», смотрим на холодное вычисление и видим в нём отражение наших собственных «страстей».

Мы силимся понять, кем же ИИ станет для нас — врагом или другом, рабом или господином? Мы никак не можем взять в толк, что он — лишь зеркало, которое отражает наше собственное лицо.

Так что благодаря бесстрастной инаковости ИИ мы впервые получили возможность увидеть свою собственную «теорию разума» — механизм, который молчаливо управляет нашей жизнью, хотя мы совершенно его не замечали.

ИИ — это не ответ на наши вопросы и не решение наших проблем, а шанс задать себе новые, теперь уже правильные вопросы. Что мы видим в этом зеркале? Что мы думаем об этом своём отражении?

И если это зрелище нас пугает, то что с нами не так? А если мы вдруг влюбляемся в него, то чего мы не видим в людях, раз готовы обменять их на то, что вовсе не понимаем? И наконец, кем окажемся мы сами, когда это зеркало станет достаточно большим, чтобы отразить нас целиком?

Заключение

Мы считаем свою способность к пониманию главным, исключительным интеллектуальным преимуществом человека. Можно «знать», можно «думать», можно «чувствовать» — с этим справляются где-то машины, где-то животные, но всё это ещё не «понимание».

«Понимание» — это феномен особого порядка. Понимание — это когда вы прозреваете, так сказать, саму суть дела: видите то, что скрыто, и можете использовать это знание для осознанных действий, достижения целей и создания чего-то принципиально нового.

Вот почему мы отождествляемся со своим пониманием. Именно оно делает нас нами, создаёт нашу подлинную индивидуальность. Если совсем просто: мы — это то, что мы понимаем. Скажи вам, что человек понимает, а что нет, и вы будете знать, что это за человек.

Именно поэтому, когда речь заходит об искусственном интеллекте, мы испытываем внутреннее сопротивление — и это экзистенциальный страх. Что если машина и в самом деле научится понимать? Учитывая масштаб этой силы и её потенциальные возможности, страх пре-вращается в ужас.

Словно кто-то незнакомый, чуждый нам появился у нас за спиной. Новости технологических гигантов уже не рекламные объявления, они ощущаются как тяжёлое, сдавленное дыхание разворачивающейся в невероятных масштабах новой силы — разума, претендующего на наше понимание.

Тут волей-неволей задумаешься: «А что если он способен мыслить — то есть всё понимать, имея при этом столь колоссальный технический ресурс?» Какими будут его мотивации? Чем нам грозит полная перестройка всей нашей нынешней социальной, культурной, экономической реальности?

В поисках ответа мы обратились к философии, нейронаукам и инженерным решениям, используемым при совершенствовании искусственного интеллекта. И кажется, мы что-то нащупали. Но то, что нам открылось, оказалось куда более странным и тревожным, чем мы могли представить.

Машина действительно обрела своего рода «понимание». Но это не то понимание, которого мы боялись, — это не наш двойник, не наш конкурент в человечности, а нечто совсем иное. И это Иное, в чём мы смогли убедиться, превратилось в идеального актёра на сцене нашего сознания.

1. Два одиночества: непреодолимая пропасть воплощённости

Пропасть между нами и ИИ — непреодолима, и лежит она не в вычислительной мощи, а в самой ткани бытия.

Наше понимание проросло «снизу вверх», оно заземлено в «непереносимых свойствах» — в сопротивлении материи, в боли падения, в тепле прикосновения. Наш разум — это сплав шрамов и радости во взаимодействии с физическим миром и другими людьми, воплощённая история наших отношений с реальностью. Наш умвельт — это мир, который мы строим с первых телесных контактов, на кончиках своих пальцев.