Реальность на кону: Как игры объясняют человеческую природу - Келли Клэнси

акций, когда компания скупает собственные акции, чтобы поддержать их стоимость, вместо того чтобы инвестировать средства в истинные показатели своего благополучия, такие как инфраструктура или удовлетворенность сотрудников. В своей книге «Благими намерениями государства»[444] политолог Джеймс Скотт подробно описывает несколько провальных инициатив, с помощью которых государства пытались улучшить условия жизни своих граждан. Для этого государствам сначала нужно было сделать мир более измеримым или, в терминах Скотта, «читаемым»[445]. Прусские ученые, надеясь увеличить доходы государства, вырубали девственные леса и засаживали освободившееся место лесопосадками, где древесные монокультуры стояли ровными рядами. Хотя их продуктивность было легче измерить, лесопосадки оказались значительно менее производительными и более уязвимыми, чем исходные лесные массивы со всем их биоразнообразием.

Делая вещи более измеримыми или сосредотачиваясь на плохих заменителях того, что нас действительно интересует, мы часто наносим вред системе, которую надеемся улучшить. Однако сама по себе возможность измерять те или иные вещи ощущается как прогресс. Геймификация наших онлайн-сообществ и рабочих мест потакает тому же рефлексу. Четкие показатели для отслеживания, цели, к которым можно стремиться, несомненная обратная связь, награды, которые можно собирать, – все это приносит нам огромное удовлетворение. Если судить по показателям, которые традиционно хотят оптимизировать экономисты, вроде ВВП, мир стремительно движется вперед. Но по таким показателям, как ожидаемая продолжительность жизни, имущественное неравенство и уровень самоубийств, люди во многих странах мира переживают не лучшие времена. Экономисты Энн Кейс и Ангус Дитон утверждают, что рост числа «смертей отчаяния» демонстрирует, что современный капитализм подводит большинство американцев[446]. Само понятие «экономика» – это попытка сделать жизнь миллиардов людей читаемой, сведенной к показателям, которые скорее обедняют мир, лишая его сложности, чем правдиво его объясняют.

Постепенно размываются даже представления о том, что является данными. Поскольку такие обучающиеся модели требуют огромных массивов информации, специалисты изучают возможность их обучения на сгенерированных ИИ результатах, что породило бы симулякры, порожденные симулякрами. В наших СМИ могут начать доминировать сгенерированные тексты и изображения, все более оторванные от реальной жизни, – плоды игры притворяющихся людьми математических уравнений, которые заставили соперничать друг с другом.

Основанные на игровых принципах системы ИИ останутся полезными в тех областях, где можно генерировать виртуальные данные. Но, что тревожно, моделям этого типа не хватает чего-то очень существенного – связи с реальностью. Игры – это замкнутые на себя вселенные. Языковые модели фабрикуют факты и цифры. Игровые движки превосходно справляются с теми играми, на которых их обучали, но не способны использовать эти умения в других играх. У обучающихся систем часто не получается обобщать или перепрофилировать усвоенные навыки. Люди рождаются на свет с гибким набором врожденных талантов. Навыки, необходимые для передвижения, речи, еды и питья, вплетались в нашу нейронную анатомию на протяжении всей эволюции. Мы используем эти врожденные таланты как основу для других: рефлекторное хватание младенца развивается в мастерское владение вилкой, джойстиком или клавиатурой. Его первые шаги становятся основой для занятий футболом, езды на велосипеде или танцев. Люди легко применяют навыки, полученные в одной области, в других: в своей дебютной кулинарной книге рэпер Снуп Догг объяснял свое умение сворачивать суши многолетним опытом изготовления самокруток.

Многие утверждают, что эта способность повторно использовать навыки, известная как перенос обучения, лежит в основе истинного интеллекта. Исследователи добились определенного прогресса в создании моделей, способных обобщать свои навыки, хотя большинству современных систем машинного обучения приходится осваивать каждую новую задачу полностью с нуля – и при этом они забывают свои навыки в других сферах. Представьте себе человека, которому нужно научиться готовить омлет с азов, используя только случайные движения. После ста лет проб и ошибок он осваивает это искусство. Если затем его попросят пожарить яичницу, он не сможет использовать то, чему научился, готовя омлеты, и должен будет начать все сначала, потратив еще сто лет на обучение, – при этом забыв, как делается омлет. Если ученый, руководящий этим экспериментом, решит, скажем, покрасить яйца в синий цвет, нашему повару придется учиться всему заново, но уже с синими яйцами. Все это обучение обходится чрезвычайно дорого. Человек может освоить игру Atari в тысячу раз быстрее, чем программа обучения с подкреплением, и с гораздо меньшими затратами энергии.

Геймификация исследований оказалась очень мощным инструментом. Открытые первенства, такие как CASP, создают для лабораторий равные условия, позволяя им честно демонстрировать свои успехи. Исследователи ИИ, соревнуясь в создании программ, способных превзойти мастеров-людей, разработали множество основополагающих алгоритмов, которые используются по сей день. Десятилетиями кино, книги и телевидение давали выход скрытым страхам человечества перед ИИ, сталкивая в боях на выживание создателей всеведущих компьютерных систем и их обретающие сознание создания. Вероятно, такие фантазии отчасти обусловлены тем, что наши представления об ИИ тесно связаны с соревновательными играми, на основе которых он и создавался: cogito ergo нулевая сумма[447]. Однако нет никаких причин смешивать интеллект – определяемый в данном случае как адаптивное стремление к цели – с сознанием, то есть с переживанием субъективной осознанности. С помощью заученных весов своих искусственных нейронов обучающиеся системы могут моделировать расчеты, производимые мыслью. Но мысль – это не то же самое, что осознанность, как могут подтвердить многие из тех, кто занимается медитацией. Мысли сами по себе не обладают сознанием, но являются объектами внутри субъективности. Эти программы создают иллюзию интеллекта: мысли без мыслителя, расчеты без «я», вокруг которого можно было бы выстроить личность, которую нужно было бы защищать. У этих программ нет собственной воли; они лишь отражают правила принятия решений, которые установили для них операторы-люди. Опасаться следует именно этих операторов. Игры многократно увеличили человеческую агентность, но теперь мы вступаем в эпоху огромного агентного неравенства. Подавляющее большинство данных и вычислительных мощностей сосредоточено в руках корпораций.

Суфийский поэт Руми писал: «Теленок думает, что Бог – корова»[448]. А разум думает, что Бог – это сверхразум: всевидящий, всезнающий, всемогущий. В поисках «настоящего» ИИ, или СИИ, инженеры, по сути, пытаются создать цифрового бога. Но, как считает исследователь Джулиан Тогелиус, интеллект не обязательно является свободно конвертируемым свойством: Deep Blue ясно показал, что мастерство в одной сфере не подразумевает мастерства в других. Влиятельная часть специалистов по ИИ убеждена, что настоящая проблема человечества – по крайней мере, на ближайшее будущее – не всемогущие, богоподобные алгоритмы, а их многочисленные недостатки. В 2016 г. репортеры издания ProPublica проанализировали алгоритм, используемый правоохранительными органами США для прогнозирования вероятности того, что заключенные, которые могли претендовать на условно-досрочное освобождение, вернутся к преступной деятельности[449]. Они обнаружили в его решениях признаки значительных расовых предрассудков. В 2017 г.