Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

99 % нашей жизни проходит в режиме этого гладкого бессознательного автопилота. Мы живём не столько в реальном мире, сколько дремлем внутри постоянно самосбывающегося прогноза.

А когда же мы «просыпаемся» от этого забытия? В тот самый момент, когда прогноз не срабатывает — реальность оказывается не такой, как предсказывал наш мозг.

Представьте, вы спускаетесь по знакомой лестнице и делаете шаг на последнюю ступеньку, но её там нет — вы ошиблись в расчётах. В этот момент ваше тело пронзает резкое неприятное чувство — смесь удивления, тревоги, не говоря уже о резкой потере равновесия.

Это и есть сигнал об ошибке предсказания. В этот миг в вашем мозге срабатывает «сигнализация» (в частности, передняя поясная кора и вся сеть выявления значимости). Автопилот отключается, и сознание, которое до этого дремало, экстренно вызывается на капитанский мостик с криком: «Что такое?!»

Именно так Иван Петрович Павлов и назвал в своё время соответствующий рефлекс — «рефлекс „Что такое?“». А другой наш великий соотечественник Лев Семёнович Выготский метко заметил: «Мысль начинается там, где мы наталкиваемся на препятствие».

Причём этот механизм предсказания и ошибок распространяется не только на внешний мир. Как показывает нейробиолог Лиза Фельдман Барретт, наши эмоции — это, по сути, та же система в действии, но направленная внутрь[118]. Мозг постоянно предсказывает внутреннее состояние нашего тела, а то, что мы называем чувством страха или гнева, — это, через симпатоадреналовый комплекс, система мобилизации для решения обнаруженной «ошибки предсказания».

Так что да — очнувшись от забытья своих автоматизмов, мы начинаем, что называется, «шевелить мозгами». Столкнувшись с рассогласованием между своим прогнозом и реальностью, наш мозг вынужден срочно обновить свою модель. Дефолт-система и центральная исполнительная сеть начинают лихорадочно «подтягивать болты»: «Так, наша модель лестницы оказалась неверной. Нужно внести поправки, найти решение, восстановить предсказуемость».

Как только новая, скорректированная модель построена — вы поняли, с чем связана ошибка, и восстановили равновесие, — система снова переходит в энергосберегающий режим автопилота.

И этот механизм работает на всех уровнях психики.

• Восприятие — вы видите краем глаза что-то похожее на змею, и мозг мгновенно генерирует предсказание: «Опасность!» Лишь потом, получив более чёткий сигнал, он исправляет ошибку: «Это просто верёвка».

• Общение — вы ожидаете от друга дружелюбной улыбки, но замечаете хмурый взгляд. Сигнал ошибки! Что случилось?! Ваша модель требует немедленного пересмотра и создания какой-то объяснительной модели.

• Действие — вы подставляете к кулеру чашку, чтобы заварить чай, но вдруг ощущаете, что кружка не нагревается. Вы отдёргиваете чашку и понимаете, что кулер не подключён к сети и горячей воды вам не видать. То есть снова сигнал об ошибке предсказания заставил вас скорректировать действие.

Наше восприятие, таким образом, — это не объективная «фотография» мира, а её предсказательная модель. Или, как говорит знаменитый нейробиолог Анил Сет, «контро-лируемая галлюцинация»[119]. Мозг постоянно «галлюцинирует» наиболее вероятную реальность и лишь слегка корректирует эту «галлюцинацию» с помощью сигналов от органов чувств.

А теперь давайте сделаем шаг назад… Помните, мы удивлялись, что вся колоссальная работа искусственного интеллекта сводится к одной задаче — предсказанию следующего слова? Что ж, как оказалось, в этом нет ничего удивительного. Наш собственный, биологический разум построен на том же самом фундаментальном принципе.

Наш мозг — точно такая же «машина предсказаний», только предсказывает не следующий токен в тексте, а следующий момент реальности во всём его мультимодальном богатстве.

Так что между кремниевой и биологической машинами гораздо больше общего, чем мы могли представить: обе они пытаются заглянуть в будущее, и обе они по-настоящему «включаются» лишь тогда, когда их предсказания не сбываются.

Сложная комбинаторика

Хорошие художники копируют, великие — воруют.

Пабло Пикассо

Вполне очевидно, что большое значение имеет то, на каких данных обучаются наши «машины мышления». Мы полагаем, что мы учимся в школе и в институте, а остальное время — «просто живём». Но это, конечно, большое заблуждение. Реальное обучение наш мозг получает в фактической реальности, а не заучивая абстрактные теории.

И если последние, как правило, представлены в нашем сознании в виде чётко прописанных конструкций (недаром же мы столько просидели за учебниками!), то с основным массивом знаний, сформированным на реальном жизненном опыте, ситуация принципиально иная.

Мы воспринимаем наши воспоминания как своего рода ментальные видеозаписи. Нам кажется, что где-то в глубинах нашего мозга хранятся точные, неизменные «файлы» о ключевых событиях нашей жизни. И когда мы что-то «вспоминаем», мы как будто нажимаем на «Play» и просматриваем эту запись. Наше чувство собственного «я», наша автобиография, строится на вере в подлинность этого архива.

Но данная модель, как и модель мозга-приёмника, — лишь удобная фикция. В мозге нет «центрального хранилища данных». Нет «жёсткого диска» с файлами воспоминаний, наша память — это не воспроизведение архивных файлов, а полноценная реконструкция, созданная из тех самых «кирпичиков», о которых мы с вами уже говорили.

В целом вся наша память — это что-то вроде огромного конструктора Lego: зрительные образы, звуки, эмоции, ощущения, внутренние состояния, смысловые связки, понятия, слова и т. п. И каждый такой «кирпичик» лежит в разных отделах коры головного мозга, которые специализируются на обработке именно такого типа «кирпичей» (интеллектуальных объектов).

Когда нам нужно что-то «вспомнить», наш мозг запускает обратный процесс: он не ищет «готовый файл», а воссоздаёт, реконструирует воспоминание заново, собирая его из разрозненных «кирпичиков».

Вполне очевидно, что такая сборка никак не может быть абсолютно точной. Каждый акт воспоминания — это, по сути, творческий акт. Наш мозг всегда собирает новый пазл и при этом неизбежно:

• теряет какие-то детали, а если чего-то не хватает, то он, по сути, заполняет пробелы наиболее вероятными предположениями;

• кроме того, к воспоминаниям добавляется нечто новое, поскольку сам мозг за это время изменился и находится в определённом психологическом настрое;

• наконец, он искажает контекст — мы можем легко «склеить» детали разных событий просто потому, что они оказались близки друг к другу по ассоциации.

Знаменитые эксперименты психолога Элизабет Лофтус наглядно демонстрируют, что людям можно с лёгкостью «внушить» ложные воспоминания — например, о том, что в детстве они потерялись в торговом центре или что их покусала злая собака, даже если ничего подобного с ними не происходило[120].

Наш мозг, если правильно его подготовить, с лёгкостью берёт предложенные ему «кирпичики» (ведь что-то подобное уже находится в его хранилище данных) и встраивает их в свою автобиографию, создавая совершенно новое, но ощущаемое как подлинное, «воспоминание».

Иллюзия единства нашего знания —