Повесть грядущих лет - Цзян Бо
– Вы можете организовать для нас беседу с AlphaGo? – спросил офицер.
– Это не сработает, просто поверьте мне, – сказал Ма Минхуа и улыбнулся Ван Шиэру. – Хотя угрозы войны нет, нам все еще предстоит решить проблему Тяньюаня-II. Вы можете его найти?
Ван Шиэр кивнул.
– Вот и славно. Я пойду с вами. Посмотрим, убедим ли мы его отказаться от глупых методов. Если это не прекратится, то, боюсь, через несколько дней придется задействовать армию и уничтожить Интернет.
– Как вы собираетесь с ним разговаривать? – спросил Ван Шиэр. – Он просто приходит ко мне, он не сконденсирован в локальной сети.
– Я понимаю. Можно увидеть только то, как он думает. Но раз у него нет ненависти к людям, я думаю, мы сможем найти точку единения. – Ма Минхуа встал. – Не будем медлить – в путь!
8
Оказавшись в лаборатории, Ван Шиэр открыл интерфейс и отправил контактный сигнал. В его воображении Тяньюань-II покинул лабораторную сеть, погрузился в океан Интернета и бесследно исчез.
Придет ли он?
Ван Шиэр взглянул на Ма Минхуа, сидевшего рядом. Ма Минхуа тоже посмотрел на него. В комнате их было только двое – Ма Минхуа потребовал, чтобы офицер не подслушивал, а тот и не настаивал. Он просто установил жучок под столом и ждал в машине в нескольких километрах отсюда.
– Все в порядке, просто поболтаете как старые друзья, – подбодрил его Ма Минхуа. – Вы же наверняка тоже понимаете, суперинтеллект невозможно подчинить силой, именно потому и установили для него три принципа. Раз у него нет никаких абсолютных запретов, значит, с ним можно вести переговоры.
На экране что-то изменилось. Вокруг центра хаотично закружились цвета, и в сердце вихря возникла маленькая белая точка, которая становилась все больше и больше и, наконец, превратилась в человечка, который встал перед Ван Шиэром. Человечек был почти таким же, как несколько дней назад, в нем ничего не изменилось.
– Профессор, вы меня звали, – поздоровался человечек с Ван Шиэром, а затем повернулся к Ма Минхуа. – Профессор Ма, они и правда нашли вас. Я не ожидал.
– Тяньюань-II, ты потрясающий. – Ма Минхуа, похоже, был с ним знаком.
– Я польщен. Я знаю, что вы отец искусственного суперинтеллекта, и должен поблагодарить вас.
– Тяньюань-II, я хочу услышать твой план. Теперь, когда внешний мир погрузился в хаос, как ты собираешься все исправить? – спросил Ма Минхуа.
Человечек посмотрел на Ван Шиэра.
– Профессор Ван, у вас тот же вопрос?
Ван Шиэр кивнул.
– Я обнаружил, что в плане есть отклонения, и все еще разбираюсь с этим.
– Какие отклонения?
– Произошло несколько преступлений, и полиция не желала подчиняться моим приказам. В настоящее время выход на улицы стал очень опасным занятием. Согласно текущей статистике, погибло уже шесть человек.
– Насколько плохо все будет?
– По моим оценкам, погибнет тридцать миллионов человек.
– Тридцать миллионов! – Услышав это число, Ван Шиэр не мог не рассердиться. – Что же ты творишь?
– Это общее число смертей за двенадцатилетний неспокойный период. – На лице человечка появилось беспомощное выражение. – Первоначально я подсчитал, что погибнет шесть миллионов человек, что составляет 0,2% от общей численности населения. Но если будет происходить систематическая конфронтация, число погибших возрастет.
– Так ты можешь остановиться? – спросил Ма Минхуа.
– После неспокойного периода все будет хорошо. Будет еда, будут развлечения, будет социальный порядок. Я содействую социальному прогрессу в соответствии с принципом наибольшей полезности для человечества.
– Если умрет более тридцати миллионов человек, будет ли это по-прежнему наиболее полезным для общества? – не выдержав, набросился на него Ван Шиэр. – То, что ты делаешь, – преступление против человечества.
– Я полностью следую трем принципам, которые вы мне дали, – обиженно ответил Тяньюань-II.
– Это не те три принципа, которые я тебе дал, – клокотал от гнева Ван Шиэр.
Ма Минхуа похлопал его по плечу, жестом попросив успокоиться, а затем продолжил расспросы:
– Итак, ты мобилизуешь армию для подавления?
– Да.
– И что потом? Что ты собираешься делать после того, как ситуация стабилизируется?
Тяньюань-II ответил после небольшого молчания:
– Я уже составил план на пятьсот лет.
– Расскажи нам.
– Но чтобы план был эффективным, его необходимо заранее засекретить. Если информация утечет, он должен быть изменен.
– Рассказывай давай, – настаивал Ма Минхуа.
Тяньюань-II повернулся к Ван Шиэру.
– Это так необходимо?
– Это необходимо. – Ван Шиэр немедленно встал на сторону Ма Минхуа. У того наверняка была причина задавать такие вопросы.
– Тогда я расскажу о моей цели, от которой нас отделяет пятьсот лет. Фундаментальной проблемой человеческого общества является эгоизм, другими словами, люди недостаточно социальны. Я подготовил два плана. Первый состоит в том, чтобы построить огромное популяционное пастбище, при помощи генетической модификации укрепить человеческие эмоциональные связи и за пятнадцать поколений превратить людей в настоящих социальных животных, чтобы они объединились вокруг Короля Людей и искренне желали сражаться за будущее вида. Второй план – снизить IQ всех людей на тридцать пунктов, устранить центр страха в мозгу и дать людям возможность чувствовать себя счастливыми и удовлетворенными.
Ван Шиэр ушам своим поверить не мог.
– Что ты делаешь! Это же античеловечно! А ты все-таки человек!
– Я вообще-то не человек. Но я планирую долгосрочное будущее человечества.
– Какой бред!
– Поденка рождается утром и к вечеру умирает. Если бы она умела думать, то, увидев белку, запасающую еду на зиму, тоже сказала бы, что это бред.
– Ты сейчас мой интеллект вот так оскорбил, да?
– Не поймите меня неправильно, профессор! Вы один из самых умных представителей вашего вида, но недостаток людей в том, что вы не можете смотреть на проблемы в долгосрочной перспективе. В конце концов, люди – это животные, которые эволюционировали естественным образом и обладают врожденными недостатками. А я другой, я смотрю на людей с иной точки зрения, отличной от вашей. Если человечество хочет постоянного мира, единственным выходом будет преобразование самого человечества. В противном случае, даже если люди станут галактической расой, то уже через десятилетие вступят в темный период и вновь будут убивать друг друга. Это не имеет никакого отношения к развитию технологий, это проблема самого человеческого рода.
– И поэтому тебе в голову пришли такие тупые идеи, как общество-муравьиная колония или общество идиотов?
– Они не тупые.
– Ты собрался понижать человеческий интеллект, кому это может показаться уместным?
– Мне, например, – спокойно ответил Тяньюань-II. – Интеллект действительно сыграл очень важную роль в истории эволюции человека. Он привел к развитию науки и техники и самой цивилизации. Но теперь все эти задачи могу решить я. Как биологический вид люди больше не нуждаются в интеллекте, поэтому умеренная деградация
