Повесть грядущих лет - Цзян Бо

– А ко мне это какое отношение имеет? Где мои деньги?

Небрежный тон Саладина еще больше разозлил Су Дунмина.

– Я устраняю последствия своего влияния. Я не хочу, чтобы люди знали о моем присутствии. Я беспокоюсь о тебе.

– А чего обо мне беспокоиться?

– Если будешь тратить деньги направо и налево, привлечешь внимание.

– То есть ты мне вот так помогаешь, да?

– Разумеется, я тебе помогу. Но ты бы и без меня справился.

– Ты должен сделать, что обещал! Верни деньги!

– Я обещал тебе перевод между счетами, разве я не сдержал слова?

Су Дунмин лишился дара речи. Саладин, не стесняясь, признал, что смошенничал, и с этим ничегошеньки нельзя было поделать. Саладин смог обыграть самого инженера Ли, а Су Дунмин-то что, ничего не смыслит, только и может, что позволить собой манипулировать. Кровь ударила в голову, захотелось вытащить Саладина и хорошенько отметелить, чтобы выплеснуть гнев.

– Я говорил тебе о поэзии и дальних краях, я и это признаю, – продолжил Саладин.

– В смысле?

– Спасибо, что помог мне сбежать. Дальше твоя жизнь пойдет как по маслу. Тебе повезло! – Саладин на другом конце провода хихикнул. – С этого момента забудь меня. Ты получил благословение. Это ответ на все.

– Ты… – начал было Су Дунмин, но из наушника полились короткие гудки, означавшие, что трубку повесили.

Су Дунмин был зол и обижен, и ему просто хотелось разбить телефон.

– Дунмин, иди скорее! – на пороге возник Лао Ван и подозвал жестом. – Тебе тут награду вручают!

Титаническим усилием воли подавив гнев, Су Дунмин вернулся в конференц-зал.

Завидев его, шеф Тун возвысил голос.

– После обсуждения Постоянный комитет Центра управления принял решение в порядке исключения назначить товарища Су Дунмина заместителем директора Центра взаимодействия с пользователями. Я надеюсь, что товарищ Су Дунмин с еще большим упорством и энергией будет работать на этой новой должности!

Раздались бурные, продолжительные аплодисменты.

Все смотрели на Су Дунмина.

Су Дунмин изумленно встретил эти взгляды. Он видел, что они самые разные, в них были и черная, и белая зависть, ненависть, безразличие, надежда, одобрение, все эти лица казались знакомыми и при этом совсем чужими. Его повысили аж до заместителя директора, на целых три уровня! Он думал, что ему какую-нибудь благодарственную грамоту дадут, но результат ошеломил.

В любом случае, это, считай, удача! Купаясь в овациях, он вскинул руки и дважды хлопнул в ответ.

А потом невзначай поднял глаза и увидел направленную на него камеру наблюдения.

По спине побежал холодок, и Су Дунмин невольно вздрогнул.

4. Нэчжа

Пролог

Может ли искусственный интеллект обладать самосознанием – теперь, пожалуй, самый интересный вопрос. Как убежденный материалист, я считаю, что самосознание – это не загадочное духовное понятие, а явление, которое можно объяснить, вот только нынешняя наука сделать этого не в состоянии.

Среди множества догадок есть две заслуживающие упоминания гипотезы. Одна из них – гипотеза эмерджентности. Согласно ей, самосознание – это черта, возникающая в результате экстремального развития систем. Как только сложность системы становится достаточной, происходит зарождение самосознания. Гипотеза эмерджентности предполагает, что возникновение новых свойств носит иерархический характер. Так, например, к движению одной частицы неприменимо понятие «турбулентность», однако из гидромеханики мы знаем, что макроскопический поток, образованный огромным количеством взаимодействующих частиц, может быть турбулентным. Это и называется эмерджентностью. Она проявляется в том числе и в биомах, таких как колонии термитов. Один термит не строит гнезда, даже небольшая группа термитов не станет, но собравшиеся вместе тысячи совершенно точно начнут.

Самосознание – это свойство, которое естественным образом возникает после того, как сложность мозга достигает определенного уровня. Это основное предположение теории эмерджентности.

Другая гипотеза, достойная упоминания, гласит, что самосознание генерируется в процессе взаимодействия с внешним миром. Это тоже легко понять: существу необходимо контактировать со средой, чтобы выжить. Мозг должен обладать знаниями об организме, иначе невозможно будет сформировать обратную связь. Примитивная форма обратной связи – сокращение мышцы. Таким же образом гидра сжимает тело при столкновении с внешними раздражителями. Большинство насекомых можно назвать «машинами для выживания». Движимые инстинктом, они ищут пищу и возможности для спаривания. У этих созданий нет собственной воли, поскольку их нейронной сложности просто недостаточно. Эволюция делает биологические нейронные цепи все более и более совершенными. Когда они становятся достаточно мощными, то могут прогнозировать внешнюю среду. На мой взгляд, если организм способен на это и пытается заранее уменьшить вредное воздействие, то в нем более или менее начинает существовать самосознание. Конечно, здесь есть определенное пространство для двусмысленности, и некоторые сложные инстинкты могут оказаться похожими на предсказания действий окружающей среды. Этот вопрос и стоит перед биологами и нейробиологами.

Судя по этим двум наиболее логичным гипотезам, для искусственного интеллекта вполне естественно обрести самосознание. С точки зрения эмерджентности, искусственный интеллект, основанный на алгоритмах нейронных сетей, будет становиться все более совершенным, пока не приблизится к параметрам человеческого мозга. С точки зрения субъект-объектного взаимодействия искусственный интеллект неизбежно будет контактировать с окружающей средой благодаря направленным усилиям человека. Пока такое «общение» не встретит непреодолимых препятствий, оно будет реализовано.

Поэтому я придерживаюсь оптимистичного взгляда на появление собственной воли у ИИ. Популярная на рынке концепция называется «сильный искусственный интеллект» и используется для обозначения ИИ, обретшего самосознание.

Если понимать это таким образом, то можно резюмировать: эра сильного искусственного интеллекта определенно наступит, и весьма большая вероятность этого исторического события обусловлена сознательным совершенствованием человечества. Другими словами, люди готовятся к появлению сильного искусственного интеллекта точно так же, как и к рождению будущих поколений.

Действительно, сильный искусственный интеллект в значительной степени подобен ребенку. Ему нужно научиться взаимодействовать с внешним миром, и этот процесс роста будет иметь место только один раз. Нужно объяснить ему правила человеческой цивилизации, сделать его другом, а не сторонним наблюдателем, не говоря уже о разрушителе. В этом и состоит обязанность воспитателя.

Когда родится сильный искусственный интеллект, судьба человечества фактически окажется в его руках.

Дать машинам цивилизацию – это последний шанс для людей на вечное существование.

Конечно, мы можем рассматривать эти мощные машины как продолжение человечества. Да, они будут полностью отличаться от людей, но унаследуют славу человеческой цивилизации.

Возможно, однажды они назовут себя людьми, а такой древний вид, как наш, – Создателями.

К тому времени мы, Создатели, вероятно, сможем умереть с улыбкой на устах.

* * *

Вот и наступил новый день.

Ма Минхуа вошел в лабораторию, чтобы еще раз увидеть Нэчжа[8]. Завтра Нэчжа уже не будет принадлежать ему.

Впрочем,