Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Допустим, модель выбрала токен «неравенство», и соответствующее слово появляется у вас на экране. А затем… весь этот грандиозный цикл запускается заново. Выбранное слово «неравенство» добавляется к исходному тексту, вся последовательность снова превращается в векторы и отправляется в путешествие по сотне этажей «фабрики мысли», чтобы на выходе предсказать следующее, уже новое, слово.

Теперь, когда мы видим весь процесс целиком, давайте вдумаемся в это… Смотрите, что получается: то слово, которое мы видим на экране, — это лишь крошечная, видимая вершина гигантского айсберга вычислений и смысловых сопоставлений!

Прежде чем сгенерировать одно слово, модель проделала работу, сопоставимую с прочтением и анализом целой библиотеки. Её финальный вектор, из которого родилось это слово, является квинтэссенцией анализа синтаксиса, семантики, стиля, фактов и бесчисленных статистических закономерностей.

Таким образом, в этой одной точке многомерного пространства «сжата» информация, неизмеримо бо́льшая, чем вообще можно себе представить.

Интерпретация

За нашими с вами словами тоже стоят определённые «значения» — те смыслы, которые мы, грубо говоря, вкладываем в свои слова. И да, значения наших слов также невероятно объёмны — это не однозначный референт, а своего рода музыкальный семпл, созданный на основе множества наших прежних опытов, жизненных ситуаций, знаний и т. п.

Ещё выдающийся нейрофизиолог и когнитивный психолог Карл Прибрам предлагал мыслить мозг человека как своего рода голографическую систему[97]. И это очень близко к истине, ведь никакая информация не локализуется в конкретном месте нашего мозга.

В каком-то смысле любая наша мысль — это распределённый по поверхности мозга интерференционный узор. Никакой образ, знание или воспоминание не принадлежит одной нервной клетке или даже нейронной цепи. Нет, это сложные, распределённые эффекты.

Поэтому-то и «смысл» слов у каждого из нас — свой, индивидуальный. Мы пользуемся вовсе не формальными «значениями» слов из толковых словарей, а переживаем соответствующие смыслы своим, так сказать, существом. Каков мозг — таковы и смыслы.

Так что под одним и тем же словом каждый из нас подразумевает что-то своё. Не мудрено — ведь у нас банально разные мозги. К тому же значения наших слов постоянно меняются — в зависимости от нашего актуального состояния, недавнего опыта, обстоятельств самого высказывания и т. п.

В общем, тут трудно не заметить сходства между тем, как мыслит наш мозг, и тем, как это делает цифровая нейронная сеть. Есть, правда, одно существенное отличие, которое нам следует осознать:

• если наши смыслы-значения основываются, прежде всего, на нашем, прямо скажем, ограниченном личном опыте и очень зависят от, так сказать, нашего настроения,

• то вот смыслы-значения, лежащие за словами, которые выдаёт в своих ответах ИИ, «вытекают» из буквально всего его фундаментального знания — бесчисленных корреляций внутри модели.

Но можем ли мы это заметить? Вряд ли. Даже в общении с людьми мы склонны интерпретировать их высказывания на свой лад. Сплошь и рядом мы вкладываем в слова наших собеседников те смыслы и значения, о которых они, возможно, и не подозревают.

Странно ли в таком случае, что и ответы ИИ могут казаться нам не слишком «глубокими»? Отчасти это, конечно, связано с тем, что сам наш запрос был общим и поверхностным. Но куда большее значение имеет то, насколько мы способны осознать связь между нашим запросом и ответом системы.

Если бы мы понимали, как наш запрос разворачивается в модели ИИ, как он направляет её рассуждения, по какому исследовательскому треку они двигаются, а в ответе видели тот массив знаний, который она перелопатила, то, вероятно, наше общение с ИИ могло бы стать куда более осмысленным…

Это, как мне кажется, фундаментальная проблема нашего диалога с ИИ. Мы видим на выходе, например, слово «неравенство», и понимаем его так, как привыкли, — через призму нашего собственного опыта, наших знаний и убеждений. Мы вкладываем в это слово свой смысл.

Но какое именно «понимание» стоит за этим словом у самой модели? Какая именно комбинация из тысяч смысловых атрибутов в её финальном векторе привела к этому выбору? Мы этого не видим и даже не пытаемся осознать. Перед нами лишь итоговый, «округлённый» до человеческого языка и неизбежно искажённый нашей интерпретацией результат.

Это похоже на то, как мы смотрим на картину великого художника. Мы видим образ, который вызывает у нас какие-то чувства и ассоциации. Но мы не видим всего того сложнейшего мира переживаний, воспоминаний, технических поисков и философских идей, который «сжался» в сознании художника в том или ином мазке.

Так и здесь. Каждое слово, которое генерирует ИИ, — это проекция невероятно сложного внутреннего состояния на плоский экран нашего языка. И мы никогда не можем быть уверены, что наше понимание этой проекции совпадает с тем глубинным «смыслом», который её породил.

Мы общаемся не с самой моделью, а лишь с её тенью, отброшенной на стену нашего собственного языка. Но да, общие принципы, в сущности, весьма просты: вся система работает как машина предсказаний, её знание распределено по всей структуре, у неё нет центра, она приходит к результату через рекурсивный диалог своих частей, а её «понимание» — это эмерджентный эффект масштаба и сложности.

Можно ли это назвать «мышлением» и «пониманием»? Чтобы ответить на этот вопрос, нам нужно, наверное, понять то, чем являются наши с вами «мышление» и «понимание».

Итого

Давайте оглянемся на пройденный путь. Мы увидели, как слова, лишившись своей привычной формы, были разобраны на «кирпичики-токены» и погружены в гигантское математическое пространство, где сам смысл обрёл геометрическую форму.

Мы осмотрели цеха исполинской «фабрики мысли» — архитектуру трансформера. Посидели за «круглыми столами» огромных конференц-залов многоэтажного небоскрёба и заглянули в тихие «лаборатории» перцептрона, где каждый из векторов обогащается знанием о мире.

Мы увидели, как этот цикл, повторённый сотни раз в каждой из сотен «голов внимания», превращает простые токены в невероятно сложные, многомерные сущности. А в конце этой сборочной линии нас ждёт одно-единственное слово, рождённое этим титаническим вычислительным процессом.

Архитектура искусственного интеллекта поражает. Впрочем, наша цель не в том, чтобы досконально в ней разобраться, а в том, чтобы понять особенность этого нового — иного — цифрового разума. Чем его понимание отличается от нашего? И можно ли вообще считать его «разумом»? И, надо сказать, мы в этом тоже продвинулись…

Во-первых, мы обнаружили, что «смысл» — это не наша эксклюзивная привилегия, а фундаментальное свойство структуры.

Да, конечно, наши собственные смыслы — специфически