Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Мир летучей мыши соткан из ультразвукового эха и представляет собой объёмную динамическую карту пространства. Её «понимание» пространства — это симфония звуков, наше — геометрия света. Мир слонов — это мир инфразвуковых вибраций и сложнейших запахов. Они общаются на расстоянии десятков километров, передавая информацию о своём настроении, социальных связях и конкретных угрозах (например, отличая язык и пол людей, представляющих опасность).

Таким образом, мозг многих животных способен обработать такой колоссальный объём информации, который нам даже трудно представить. Мы слепы и глухи к их реальности, но при этом считаем их «неразумными». Франс де Вааль называет это «антропоотрицанием» — активным желанием отказать животным в способностях, которые кажутся нам «слишком человеческими».

• Память, которой мы можем только завидовать. Североамериканская ореховка прячет десятки тысяч семян на огромной территории и помнит расположение большинства из них месяцами[62]. Это не просто «хорошая память». Это сложнейшая когнитивно-пространственная система, на фоне которой наша собственная способность вспомнить, куда мы положили ключи, выглядит как деменция. Мы не можем этого понять и поэтому предпочитаем называть это «инстинктом».

• Пчелиные волки. Эти осы из рода роющих перед вылетом на охоту делают короткий облёт и запоминают расположение ориентиров (камешков, шишек) вокруг своей норки. Если экспериментатор передвинет эти ориентиры, оса будет искать гнездо внутри круга уже в этом месте. Для нас это непостижимо: мы бы запомнили маршрут или какие-то крупные объекты, а оса создаёт моментальный «снимок» местности и хранит его. И да, мы не можем понять, как именно этот образ хранится и используется для навигации с такой точностью.

• Животные-физики. Эксперименты, подтвердившие басню Эзопа, показали, что вороны понимают принцип вытеснения объёма (закон Архимеда). Они бросают камни в колбу, чтобы поднять уровень воды и достать лакомство[63]. Но самое поразительное даже не это. Шимпанзе в похожей ситуации, не имея камней, принесла воду во рту, чтобы также поднять уровень жидкости в сосуде[64]. Это демонстрация не просто «понимания», а когнитивной гибкости — способности решить одну и ту же задачу принципиально разными способами.

• Воронья вендетта. Вороны не просто запоминают лицо человека, который представлял для них угрозу (например, ловил их), но и передают эту информацию своим сородичам и, что совсем удивительно, потомству[65]. В результате вся стая начинает преследовать этого человека, хотя большинство из них никогда лично от него не страдали. Это социальное обучение и культурная передача информации о «враге народа», механизм которого нам до конца не ясен.

• Осьминоги, узнающие людей. Осьминог — моллюск, у которого нет позвоночника, а мозг распределён по всему телу, включая щупальца. Тем не менее осьминоги способны отличать одного человека от другого и по-разному реагировать на «доброго» и «злого» смотрителя[66]. Как существо с такой чуждой нам биологиейформирует и хранит концепцию отдельного человеческого индивида — для нас полная загадка.

• Осиные лица. Де Вааль рассказывает о способности бумажных ос узнавать друг друга «в лицо»[67]. Непонятно, как насекомое с фасеточным зрением и примитивным мозгом может выполнять задачу, которую мы считаем прерогативой высокоразвитых млекопитающих. Мы не можем представить себе, как выглядит и обрабатывается «лицо» для осы, но факт остаётся фактом: они обладают этой сложной социальной способностью, необходимой для поддержания иерархии в колонии.

Примеров уникальных способностей животных — несметное количество, и это только то, о чём мы смогли догадаться. Но мы продолжаем упорно отрицать реальность этих — других — сознаний. Всякий раз, когда животное демонстрирует нечто подобное, мы судорожно ищем «более простое объяснение». Почему? Потому что каждый такой факт заставляет нас усомниться в собственной исключительности.

Исследования этологов — безусловное доказательство того, что интеллект — не монолитная пирамида с человеком на вершине, а, как говорит де Вааль, «куст со множеством ветвей». А главный вывод, который он делает, состоит в том, что «понимание» — это не какая-то мистическая искра, а функциональная способность системы эффективно взаимодействовать со своей средой, опираясь на доступные ей данные.

Мы — это наш умвельт, наш субъективный мир. Один из бесчисленного множества других миров-умельтов. И в каждом свои правила, своя логика, свой здравый смысл, свои возможности и, конечно, своё понимание. В чём-то человек, безусловно, превосходит животных, а в чём-то им фатально проигрывает.

Модуль рефлексии

В конечном счёте «понимание» — это не какое-то отдельное свойство системы, а сама система, способная производить некий адаптивный результат. Изменится система — будь то мозг человека, животного или нейронная сеть искусственного интеллекта, — изменится и их «понимание».

Да, модуль рефлексии — то есть некая отдельная штука, позволяющая системе оценить саму себя (своё «понимание») и свою эффективность, — это может быть полезно.

• Но во-первых, как мы уже выяснили, эта рефлексия всегда будет лишь оценочным суждением (неким прибавлением), которое, как известно, может как помочь, так и навредить.

• Во-вторых, это «понимание» всегда будет частным — касаться отдельного аспекта и не учитывать всей полноты ситуации или состояния системы.

По сути, такой «модуль рефлексии» является просто метафункцией — то есть некоторой надстройкой, которую создаёт система, для того чтобы повысить свою функциональность и адаптивность. Полагать же, что разум — это именно данная метафункция, — значит не видеть за репрезентациями то, что репрезентируется.

Таким образом, опираясь на концепцию «умвельта», или «пузыря субъективной реальности», мы неизбежно оказываемся перед новым вызовом…

Искусственный интеллект — это не просто алгоритм. Все знания человечества и о человечестве, созданные за тысячелетия — тексты, изображения, коды, — образовали новый умвельт.

Для нас это лишь огромные, несистематизированные данные о мире («вся информация из интернета»), а для ИИ это среда обитания, из которой он производит самого себя.

Да, ИИ не «понимает» наши тексты так, как мы их понимаем (по той же причине, по которой мы не понимаем, например, мир летучей мыши). Но считать, что его способности к решению задач в его среде, в его умвельте, хуже наших, — это тот же самый антропоэгоцентризм, который мешал нам разглядеть ум у животных.

Мы не можем представить себе, что значит жить в мире, который соткан из бесчисленного множества смысловых связей всех текстов, созданных человеком. А именно таков мир, в котором сейчас обитает искусственный интеллект, основанный на так называемых «языковых моделях».

Так что вопрос, который ставит перед нами Франс де Вааль, сегодня звучит ещё острее: достаточно ли мы умны, чтобы судить не только об уме животных, но и о но-вом типе разума, который сами же и создали?

Машина Понимающая

Первая сверхразумная машина станет последним