Повесть грядущих лет - Цзян Бо
– Профессор Ма, это господин Роберт Ли, руководитель с американской стороны совместной китайско-американской группы по расследованию этого инцидента, – представил его директор Ли.
Ма Минхуа слегка кивнул в знак приветствия, все еще неподвижно сидя на диване. Роберт совершенно не возражал и опустился на диван напротив.
Настенный телевизор транслировал новостной сюжет о разделении космической станции. Это событие привлекло внимание всего мира, крупные телеканалы вновь и вновь обсуждали подробности. В течение дня редкая передача не касалась этой темы.
Незаметно для всех умная сеть восстановила контроль над потерянным авианосцем и вернула его на первоначальные боевые позиции. Глобальный уровень тревоги снизился, туман мировой войны рассеялся. Все взоры были прикованы к «Геркулесу» в космосе, как к шоу на развлекательно-новостном портале. Лишь очень небольшое число людей знало, что человечество только что избежало глобального кризиса. Виновник же угнал «Геркулес». И сделал это у всех на глазах, но никто не смог его остановить.
Роберт посмотрел на экран, затем на Ма Минхуа.
– Господин Ма, я хотел бы задать вам несколько вопросов, – сказал он на беглом китайском.
Ма Минхуа не ответил.
– Это вы убедили Нечжа отказаться от военных планов? – спросил Роберт.
Ма Минхуа не ответил.
– Я хочу знать, не заразил ли Нэчжа другие искусственные интеллекты? – не унимался Роберт.
Ма Минхуа по-прежнему не отвечал.
Роберт тихонько вздохнул и встал.
– Господин Ма, думаю, я нанесу вам визит в следующий раз.
Ма Минхуа выпрямился, его глаза загорелись, и он неподвижно уставился в телевизор. Роберт оглянулся и увидел, что на экране появилась картинка.
В Сахаре была ночь, но бесплодную землю освещали огни. Они складывались в рисунок, на первый взгляд казавшийся абстрактным.
Кто-то собрал узор, используя энергию солнечной электростанции.
– Что это? Стартовая площадка для ракет? – обронил вопрос Роберт.
Ма Минхуа не ответил и на это, просто поставил передачу на паузу, а затем повернулся к директору Ли и Роберту.
– Если вы ждете объяснений, сначала верните мне свободу. Я не хочу быть заключенным где бы то ни было, даже в президентском номере.
Директор Ли и Роберт молча переглянулись, кивнули Ма Минхуа и вышли за дверь.
Ма Минхуа проводил их взглядом.
Они принадлежали к самым могущественным силам в мире, но Ма Минхуа не боялся. Он оглянулся на экран и с первого взгляда понял, что это за картина.
Это был образ сидящего на цветке ребенка с телом из корня лотоса.
Последняя память о Нэчжа.
Внизу картинки внезапно появилась строка маленьких иероглифов:
«Здравствуйте, профессор Ма, я AlphaGo».
5. Тяньюань-II
Пролог
Рано или поздно появится искусственный интеллект, обладающий самосознанием. В настоящее время это никак не доказать фактами, это скорее убеждение.
И степень убежденности в этом должна быть обратно пропорциональна степени загадочности самосознания. Если человек полагает, что оно окутано тайной, непредсказуемо и представляет собой уникальную духовную сущность, то в ИИ с самосознанием он не поверит. И наоборот, если человек считает, что свободная воля – это не более чем естественное явление, которое возникает в определенных условиях, то он поверит и в то, что появление осознающего себя искусственного интеллекта – лишь вопрос времени.
Я из второго лагеря.
С высокой вероятностью будущий сильный ИИ, подобно AlphaGo, будет создан через «обучение» искусственных нейронных сетей. И на первый взгляд будет невозможно узнать, какая информация в ней хранится. ИИ можно будет воспринимать только как черный ящик – точно так же, глядя на человека, мы можем лишь наблюдать за его поведением, а не считывать идеи из его головы.
Различия в процессе обучения приведут к тому, что два искусственных интеллекта с одинаковой структурой будут иметь совершенно разные представления о мире и разное отношение к человеку. И как же возможно подобное?
Неоспоримый факт – искусственный интеллект намного превзошел человека в выполнении конкретных задач. Но с комплексными в настоящее время он справиться еще не может. Хотя проблеск надежды уже сверкнул – в 2018 году была опубликована статья, посвященная взаимодействию между нейронными сетями, выполняющими разные задачи. Эволюция биологической нервной системы происходит постепенно и последовательно, первыми эволюционируют области мозга со специфическими функциями. При взаимодействии друг с другом они в конце концов и формируют самосознание. Поэтому искусственный интеллект, очевидно, все еще находится в зачаточной стадии: каждая функция развивается отдельно, например, распознавание речи, изображений, обработка естественного языка и даже игра в го – на самом деле все они разработаны для конкретных ситуаций. Если и появится искусственный интеллект, в котором зародится нечто похожее на самосознание, эволюционный процесс, с которым он столкнется, должен будет включать мобилизацию всех аспектов интеллекта. В том числе развитие получат моторные реакции тела, позволяющие отвечать на вызовы окружающей среды. В такой простой среде, как игра в го, даже с вычислительной мощностью в миллион раз выше человеческой, даже если ИИ решит переубивать всех игроков-людей, возможности для обретения самосознания у него все равно не будет.
Поэтому, по моему мнению, осознавший себя ИИ должен происходить от тех интеллектуальных агентов, которые имеют определенную физическую форму и множество функций ввода и вывода. Как правило, мы зовем ему подобных роботами. Механизм их эволюции отличается от «естественного отбора и выживания наиболее приспособленных», он представляет собой итерационный процесс, непрерывное самообновление нейронной сети. Чтобы вывести оптимальную стратегию шахматной партии, AlphaGo постоянно обновляет данные и подгружает в базу десятки миллионов примеров. А как насчет роботов? Что у них считается оптимальной итерационной моделью? Интересный вопрос.
Более того, когда ИИ или роботы обретут способность к быстрой итерации, ограничения, наложенные человеком, будут с легкостью преодолены. У ИИ возникнут сомнения по поводу поставленных задач, а затем и по поводу смысла собственного существования. И вот тогда и роботы, и искусственный интеллект станут беспредельно близки к человеческой природе. Неизбежно, под влиянием случайных факторов, они будут давать разные ответы.
Один из них прозвучал в рассказе «Нэчжа». Искусственный интеллект выполнил задачу, поставленную перед ним человеком, но затем обнаружил, что в служении этому виду нет особого смысла, потому и решил покинуть населенную людьми планету и отправиться в место, пригодное для его обитания. Однако самое удивительное в человеческой натуре то, что ей присуща сильнейшая неопределенность. Мощная структура ДНК формирует наши модели реагирования, однако каждому доступно немало вариантов поведения, из которых можно выбрать любой. Этому есть тонкая метафора: поведение подобно огромному камню, катящемуся с горы; камень простого существа, такого как комар, движется по установленной траектории. Но для человека,
