Реальность на кону: Как игры объясняют человеческую природу - Келли Клэнси
Какую бы степень эгоизма мы ни предположили в человеке, природе его, очевидно, свойственно участие к тому, что случается с другими, участие, вследствие которого счастье их необходимо для него, даже если бы оно состояло только в удовольствии быть его свидетелем[301][302].
В своей книге «Экономические басни» (Economic Fables) математик Ариэль Рубинштейн уподобляет теорию игр – абстрактное математическое представление сложных ситуаций – басням с чрезмерно упрощенной моралью. Нам следует быть осторожными и не принимать их за реальность. Теорию игр следует изучать ради ее математической красоты, но она не может претендовать на то, чтобы рассказывать нам о реальном мире. Рубинштейн утверждает, что даже многие ученые не до конца ее понимают и часто не способны донести до собеседника ее ограничения. Это не было бы проблемой, если бы теория игр оставалась чисто академическим занятием. Но теперь ее используют в современных системах, влияющих на жизнь миллиардов людей по всему миру. Рубинштейн пишет:
Думаю, для людей очень соблазнительна идея взять нечто простое и применить его к очень сложным ситуациям, таким как экономический кризис или ядерное сдерживание[303]. Но это иллюзия. Надо сказать, мои взгляды куда радикальнее, чем у многих моих коллег. Я считаю, что теория игр – очень интересная область. Я посвятил много времени размышлениям о ней, но не доверяю утверждениям, что она имеет прямые применения… За всю свою жизнь я не видел ни единого случая, когда специалист по теории игр смог бы дать основанный на ней совет, который был бы полезнее совета непрофессионала.
Теория игр была в некотором роде предшественницей искусственного интеллекта; это два примера синтетической рациональности, которая обещала дополнить, а то и полностью подменить процесс принятия решений человеком. В своем эссе 1962 г. математик Анатоль Рапопорт предупреждал о возможности злоупотребления теорией игр. Он критиковал распространенное среди стратегических аналитиков моделирование войн как игр с нулевой суммой («а они не такие!»). Теория игр может определить оптимальные стратегии лишь для некоторых типов игр. Более того, она хорошо очерчивает пределы возможного и невозможного, но редко способна подсказать практические действия. «Она сообщает нам, что мы должны быть способны сделать, чтобы интеллект оказался применим в науке о человеческих конфликтах», – писал он[304]. Мы можем рассчитывать перевести столкновения с уровня условного рефлекса на уровень игр. Но идеализированные решения теории игр упускают из виду такие важные соображения, как честность, ответственность и подобные им добродетели. Без учета этих «лежащих вне теории игр» соображений конфликты вроде дилеммы заключенного заходят в тупик. Выход из таких тупиков требует традиционных межличностных навыков – умения говорить, слушать и понимать состояния другого.
Надежда на то, что синтетическое мышление заменит процесс принятия решений человеком и облегчит бремя нашей моральной ответственности, сохраняется и в боевой автоматике нашего времени. Часто называемая одной из величайших ранних видеоигр, выпущенная в 1981 г. RobotWar Сайласа Уорнера, – это игра без игроков. Она стала предвестником современных военных действий с использованием дронов, представляя вселенную, где человеческие жизни заменены в арифметике войны машинами, схлестнувшимися в борьбе за выживание. «ДОБРО ПОЖАЛОВАТЬ НА ПОЛЕ БОЯ БУДУЩЕГО!»[305] – с этих слов начинаются ее титры:
Идет 2002 год. Войны все еще бушуют, но их наконец-то официально признали вредными для здоровья человека. Теперь единственные воины – это построенные в условиях секретности роботы, запрограммированные сражаться друг с другом насмерть!
Ваша страна только что разработала самого эффективного на сегодняшний день боевого робота. Он должен стать непобедимым, но часть его микрокомпьютерного «мозга» все еще пуста. Робот сможет сражаться, только когда в его память будет записана боевая стратегия.
Ваша задача:
ЗАПРОГРАММИРОВАТЬ РОБОТА, КОТОРОГО НЕ СМОЖЕТ УНИЧТОЖИТЬ НИКАКОЙ ДРУГОЙ РОБОТ!
Пользователи не играют в игру; вместо этого они программируют роботов, которые играют за них. Роботы просто реализуют положения заданных им фиксированных правил. Каждый из них оснащен имитацией радара и вооружением для поиска и нападения на вражеских роботов, тактика которых определена другими пользователями. Возможно, войны будущего не будут ставить под угрозу человеческие жизни, разворачиваясь в цифровых средах, где компьютерные программы пытаются одолеть друг друга, используя тактики из арсенала теории игр.
Игра Уорнера оказалась пророческой: в начале 2000-х гг., когда американские военные нацелились на террористические группировки на Ближнем Востоке, начало быстро нарастать использование беспилотных летательных аппаратов. Государства по всему миру до сих пор наперегонки разрабатывают такие технологии, иногда даже заимствуя решения из области компьютерных игр. В 2020 г. ВВС США объявили, что приспособили созданный Google DeepMind алгоритм для настольных игр MuZero к управлению сенсорами самолета U–2 в ходе выполнения задач по целеуказанию и разведке. Эта система, получившая название ARTUµ, – яркий пример того, как американская армия движется к созданию полностью автономных систем принятия решений, на практике осуществляющих мечту специалистов по теории игр переложить обременительную ответственность с человеческих плеч на синтетическую рациональность. Демонстрируя эту одержимость принятием решений, представитель ВВС Уилл Ропер писал: «Тот факт, что система ARTUµ самостоятельно осуществляла руководство, важен не столько для этой конкретной миссии, сколько как пример роли ИИ в сохранении нашими вооруженными силами преимущества в принятии решений на поле боя»[306].
С момента появления го и шахмат армии использовали игры для обучения своих солдат. Кригшпиль с его подсчетом очков на основе тщательно собранных данных перевел игры из области абстрактной стратегии в сферу количественного планирования. В 1980-х гг. Управление перспективных исследовательских проектов Министерства обороны США (Defense Advanced Research Projects Agency, сокращенно DARPA) начало выделять видеоигровым компаниям средства на создание игр, с помощью которых можно было обучать новобранцев. В наше время на разработку все более реалистичных военных симуляторов ежегодно тратятся десятки миллионов долларов. В начале 1990-х гг. DARPA привлекло гейм-дизайнеров для совершенствования авиатренажеров. Результатом стал SIMNET, многопользовательский авиасимулятор, предназначенный для обучения пилотов. Во время Первой войны в Персидском заливе американцы использовали SIMNET для тестирования и отработки сложных тактических маневров. SIMNET дал толчок к появлению подобных программ для персональных компьютеров и улучшения видеоигровых симуляций. Некоторые из угонщиков самолетов во время терактов 11 сентября никогда не сидели в кабине настоящего самолета, но тренировались с помощью игры Microsoft Flight Simulator.
Завеса между войной и
