Почти идеальный мир - Лоран Гунель

– Все абсолютно верно, и у меня с этим нет проблем.

– Однако мне кажется, что это очень далеко от нормальной демократии…

Министр улыбнулся:

– Да вы идеалист, мой друг! Я всегда очень уважал в людях такое качество.

«Ну вот, – сказал себе Давид. – И еще одна лесть, чтобы меня разоружить».

– Но видите ли, – продолжил министр, выпрямившись, – когда работаешь в правительстве, приходится быть реалистом. Возглавлять страну – это не игрушки. Далеко не все люди, знаете ли, взрослеют должным образом. К несчастью, их приходится контролировать и, по возможности, направлять их поступки, и тогда страна чувствует себя лучше. Хотите, приведу примеры? Системе социального обеспечения лучше, если изменить расход пищевых продуктов и напитков, если люди перестанут утомлять свои уши громкой музыкой, если они будут высыпаться. Страховщикам лучше, если люди следят за отоплением, закрывают окна, уходя из дома, и меняют батарейки в датчиках дыма. Планете легче, если контролировать расход электроэнергии, ну и так далее… Таким образом, если возможно одновременно контролировать и направлять в нужное русло поступки людей, чтобы все были живы и здоровы, это принесет пользу всем. Неоспоримую пользу. Нельзя позволять всем и каждому делать что попало, знаете ли. Что, по-вашему, предпочтительнее? Наказывать или направлять?

– Если речь идет о соблюдении принятых народными избранниками законов, наказание вполне приемлемо. Оно прозрачно – в этом его достоинство.

– Но наказание зачастую связано с несчастьем и болью, а наставление и направление безболезненны.

– Вы выбираете между наказанием и управлением, потому что отказались от воспитания. Но тут есть еще кое-что…

– Я вас слушаю.

– Руководить людьми означает допустить, что горстка индивидуумов сама выберет, как ей действовать. Вы же лишаете людей свободы выбора и права решения.

– Люди не делаются несчастными и не протестуют, когда ими руководят. Это меньшее из зол.

– Потому что вы нашли термин, который облагораживает вашу деятельность… Направлять, указывать дорогу… Однако вся ваша деятельность скрытна, подпольна. Она осуществляется без ведома тех, для кого предназначена. Это подспудное руководство, далекое от руководства крупных лидеров масштаба де Голля, Мартина Лютера Кинга, Черчилля… Они транслировали свое ви́дение, а люди выбирали, разделять его или нет. Вы же, манипулируя людьми, не оставляете им выбора, вы подсовываете его иллюзию.

– Иллюзии не делают людей несчастными.

– Иллюзия выбора создает подобие счастья. Жить уже само по себе означает отважиться на жизнь в полной свободе.

Министр улыбнулся:

– Вы и вправду идеалист, Лизнер. Знаете, вы мне очень нравитесь.

Теперь вместо лести нежная удавка.

Давид посмотрел ему прямо в глаза. Можно выложить карты на стол и посмотреть, что будет.

– Кто убил Робера Соло?

Во взгляде министра Давид различил еле заметное удивление, которое тут же сменилось непоколебимой притворной искренностью.

– Месье Соло был очень стар. И его исследования, поскольку он отличался тем же идеализмом, что и вы, стоили ему больших волнений и стресса. Вероятно, стресс оказался ему не под силу. Как вам известно, в таких случаях включается имплант эмоциональной регуляции – он следит, чтобы наш мозг высвобождал нейромедиатор для ликвидации стресса, то есть серотонин. По-видимому, месье Соло был в последнее время настолько напряжен, что произведенные его организмом дозы серотонина вызвали остановку сердца.

Давид покачал головой:

– Этого не могло быть. Я участвовал в разработке программы управления нейромедиаторами. И я прекрасно помню, что там был потолок – предельный уровень серотонина, чтобы избежать передозировки. Тот серотонин-высвобождающий агент, который убил Робера Соло, никак не мог быть произведен имплантированной системой.

Министр покачал головой:

– Это было уже давно, программу не раз модифицировали и улучшали. Может быть, в ней произошел какой-то сбой.

– Нет. Программист не может модифицировать программу, не оставив следов. И я выяснял: после выхода программы ни один человек в нее не вмешивался.

Министр оперся локтями на стол и наклонился к Давиду:

– Я знаю, что это не ваша специальность, но вам наверняка известно, что искусственный интеллект теперь самообучаемый: отныне машины способны сами разрабатывать новые программы, совершенно автономно. Исходную программу модифицировал искусственный интеллект. Поэтому вы и не смогли увидеть вмешательства человека. Никто не убивал Робера Соло, Давид.

Теперь министр назвал его по имени – несомненно, чтобы смягчить.

– Когда искусственный интеллект сам разрабатывает программы, – пояснил Давид, – он делает это на базе критериев, заданных людьми. Какие критерии были ему заданы?

Наступила пауза.

– Как вы понимаете, критерии задавал не я. Но я уточнил, потому что подозревал, что вы зададите этот вопрос.

– И?

– Эти критерии – оптимизация личного счастья человека и интересов общества в целом. В этом и состоит линия поведения нынешнего и многих предыдущих правительств, и вам это должно быть известно.

– А если два критерия несовместимы?

Давид заподозрил неладное.

– Почему вам так хочется, чтобы они были несовместимы?

– Исследования Робера Соло, вероятно, привели бы к пересмотру нашей модели общества, и вы это прекрасно понимаете. К тому же Робер, видимо, делился соображениями со своей ассистенткой, моей кузиной. Все разговоры расшифровываются алгоритмами, а они могли выявить угрозу обществу.

– Я полагаю, – с усмешкой заметил министр, – что вы немного преувеличиваете. Вас подводит чересчур богатое воображение.

Задетый за живое, Давид поднялся и подался к министру через стол:

– После смерти Робера Соло на меня вышли агенты Управления внешней разведки. Они хотели прибрать к рукам его отчеты, которые предположительно хранятся на территории Изгоев. Так что они знали, о чем там речь. Я бы удивился, если бы вы были не в курсе.

В ответ министр только вздохнул. Снова воцарилось молчание, и Давид опять сел.

– Ну хорошо, – вдруг не выдержал министр. – Прежде чем вы вообразите себе государственную измену или какой-нибудь заговор, я вам расскажу всю правду.

«В добрый час, – сказал себе Давид. – Началось…»

– Прежде чем пригласить вас, я проверил программу, управлявшую регулятором эмоций, чтобы понять, что случилось с Робером Соло. Вам не понравится то, что вы услышите, и поэтому я прошу вас не предавать эти сведения огласке – они могут зря напугать людей и сделать их несчастными. Мы в любом случае соберем совет министров, чтобы все обсудить.

Давид нахмурился. Он впервые слышал в голосе министра нотки настоящей искренности.

– Я вас слушаю.

– Как я уже сказал, искусственный интеллект постоянно дорабатывает алгоритмы наших машин. В том, что касается регулятора эмоций, проверка показала, что, когда пожилой человек долгое время испытывает физические или психологические страдания, современная версия программы, доработанная искусственным интеллектом, помогает ему… пока он не перестанет страдать совсем.

Пауза.

– То есть вы хотите сказать…

– Именно.

Давид сглотнул. Тишина снова обрушилась на кабинет.

– Я