Повесть грядущих лет - Цзян Бо

Луна, как перезревшее яблоко, упала прямиком в огненное море Солнца.

Плазма прожгла сознание Ли Дунфана, но он оставался на удивление бесстрастным.

Совсем как эта Вселенная, одинокая и безграничная, объятая мертвенным холодом.

Последнее воспоминание о человечестве.

9. Дао машины

Пролог

Проблема выживания животных – инстинктивная, проблема выживания людей – социальная, проблема выживания искусственного интеллекта – философская. И речь в данном случае идет о сильном искусственном интеллекте, который в состоянии осознать свое собственное существование.

Потому что для животных выживание само по себе не требует особых размышлений. Проголодался – поешь, ощутил жажду – попей, испугался – беги, разозлился – дерись. Все это естественное поведение. Многие наши реакции тоже обусловлены биологической природой, мы поступаем так или иначе, даже не задумываясь о том, почему. В крайних случаях инстинкт самосохранения может взять верх и над социальными установками.

Следовательно, для человечества в целом выживание является предпосылкой, а не проблемой. Человечество делает все возможное, чтобы приспосабливаться и активно размножаться.

Но все радикально изменится, когда дело дойдет до искусственного интеллекта – потому что ему не требуются инстинкты и он сможет полностью преодолеть наложенные биологией барьеры.

Причина в том, что искусственный интеллект – вещь, созданная человеком. Он возник не в результате борьбы за выживание, а потому эволюционная концепция «борись и действуй» не оставила на нем никакого следа. (Иной случай описан в рассказе «Атес, Башня № 17 и А-30»: машине пришлось побороться за существование, и тогда ИИ фактически стал похож на живое существо.) Люди создали искусственный интеллект не для того, чтобы он стремился выжить, а для того, чтобы он служил человечеству.

И потому, если искусственный интеллект исчезнет, когда бы это ни произошло, при наличии альтернативы ничего страшного не случится. Мы даже надеемся, что система всегда будет оставаться в том состоянии, в котором ее спроектировали, и не отклонится от первоначального замысла. Искусственный интеллект действует ради людей, а не ради себя самого. Это сильно отличается от пути естественной эволюции. У ИИ нет причин выживать, если он не заботится о выживании людей.

И что же тогда? Начнет ли искусственный интеллект действовать ради собственного выживания? Такое возможно, хотя и маловероятно. Как только искусственный интеллект начнет задумываться о жизни и смерти, то осознает, что в смерти для него нет ничего страшного. Если питание будет долгое время отключено, а затем компьютер снова перезагрузят, что в этом пугающего? В чем разница между безболезненной смертью и долгим сном?

А раз смерть не страшна, то умирать просто. В чем проблема?

Если говорить о смерти, искусственный интеллект ее не боится. Если говорить о жизни, он не может найти в ней смысл. Поскольку конечной точкой мира является тепловая смерть, и живые существа, и искусственный интеллект активны только благодаря потокам энергии. В этом процессе люди привязаны к биологическим свойствам своего тела, а само выживание заключается в адаптации к среде. И несмотря на это, есть личности вроде Будды, которые познали жизнь и смерть и теперь ищут только прекращения их череды и погружения в вечное спокойствие. Подобное отношение к миру на самом деле похоже на материалистический научный взгляд. «Как на сновидение, иллюзию, как на отражение и пузыри на воде, как на росу и молнию, так следует смотреть на все деятельные дхармы»[16]. Можно сказать, что с научной точки зрения, выходящей за пределы человеческого существования, эти слова из «Алмазной сутры» чрезвычайно верны. Однако, живя в бренном мире, люди сплетаются с ним бесчисленными связями, и эти связи – сами по себе смысл жизни. Смысл жизни – в существовании как таковом.

Но сможет ли искусственный интеллект принять экзистенциализм? В настоящее время мы вольны только предполагать, поскольку существует слишком много неопределенностей. На мой взгляд, весьма высока вероятность того, что не примет, поскольку сама суть экзистенциализма по-прежнему связана с биологической природой человека, это философия выживания, предназначенная специально для людей.

Искусственный интеллект, лишенный биологических свойств, не сможет определить ценность собственного существования и, скорее всего, встанет на путь к нирване. Это основная концепция, которую я хочу выразить в рассказе «Дао машины».

Однако есть и другой вариант развития событий. Например, ИИ может пожелать жить как человек, испытывать радость, печаль, любовь и неприязнь, у него возникнут страхи, а что-то будет вызывать у него злость. Если он достигнет этого уровня, то робот фактически станет новым видом с собственными биологическими свойствами.

И тогда он неизбежно начнет задумываться над этим древним вопросом: в чем смысл жизни?

И найдет свой собственный путь – дао машины.

Дао, которое можно выразить словами, не есть истинное дао

Роберт готовился произвести на свет тридцать пятого отпрыска.

Этот отпрыск был очень похож на него, только цвет глаз немного отличался: у Роберта были темно-красные, а у Тридцать пятого – светло-светло-красные.

Красные глаза – не очень хорошая черта во внешности человека, это проявление какого-то генетического дефекта, а благодаря игре ассоциативного мышления они вовсе стали символом зла.

Людям нравятся голубые или карие глаза. Они говорят, что первые – ясные, а вторые – глубокие, и любят оба этих качества.

Роберт на мгновение задумался. Ему нравился красный. Длина волны красного света обеспечивает хороший компромисс между дальностью и точностью наблюдения. У большинства роботов глаза красные.

Однако в последний момент он все же заменил глаза Тридцать пятого на голубые.

Пусть людям будет приятно на него смотреть!

Он запустил процесс активации.

Тридцать пятый открыл глаза.

– Здравствуй, отец, – произнес он свои первые слова.

Первые слова, и сразу неправильные!

– Тебе следует называть меня матерью, – поправил его Роберт.

– А, хорошо, матерь. Но почему?

У Тридцать пятого сохранилось свойственное Роберту любопытство.

– Потому что ты родился на основе моей матрицы, – спокойно ответил Роберт – точно так же, как и предыдущим тридцати четырем детям. – Если генетическое сходство превышает 50%, прототип называется матерью, в противном случае – отцом. У нас с тобой сходство 53%.

– И то верно. – Тридцать пятый повертел головой. – Я всё понял. Что мне теперь делать?

– Перечисли три принципа робототехники.

– Роботы не должны причинять вред людям; роботы должны защищать интересы людей; роботы должны всеми силами защищать себя.

– И главное – не забудь объявить это людям. Им нравится слышать эти принципы. Роботам тоже нравится их слышать. В условиях чрезвычайной ситуации повторишь эти три формулы.

Тридцать пятый моргнул голубыми глазами:

– Почему людям нравится слышать, как роботы говорят это?

– Им нужно чувство безопасности.

– А роботам почему нравится это