– Из такого, как наш.
– Согласен.
– Видишь, я иду против себя, потому что хочу, чтобы система не допускала случаев, подобных моему. Нашим. Я хочу систему, в которой санкции неизбежны и не зависят от лотереи. Так было бы проще.
– Лотерея, о которой ты говоришь, – определитель нашей свободы.
– Дед, ты путаешь, свободу воли с приговором судьбы. Думаешь, что кидание камнями – это выражение индивидуальной свободы? Ну уж нет! Если идея ПО станет совершенной, кидание камней будет наказываться, независимо от результата. Наказание рассчитается статистически. Можешь кого-то убить, можешь и промахнуться. Нынешнее состояние способствует риску, потому что тот, кто кинул камень, может рассчитывать на то, что ни в кого не попадет. Таким образом, он надумывает вероятность, пробует воображать и увещевает себя тем, что избежит наказания. Ага! В мире идеальной гиперпревентивности наказание будет применено до того, как камень будет брошен. И никто не пострадает.
– Правила расчета ПО неизвестны. Неизвестны также и значения показателя. – Талинский откашлялся, маскируя другой тон голоса. – Можно попытаться вычислить, догадаться. Правила неясны, поэтому нельзя требовать от людей бездумно следовать им. Без ссылок на единый закон, гиперпревентивность потеряет моральную основу. Уже сейчас рассчитывается только вероятность, что кто-то кинет камень.
– Это возвращает нас к природе, неужели не видишь? Выживет тот, кто лучше всего приспособился к среде, созданной для нас g.A.I.a. Законы природы нигде не записаны, их нельзя вызубрить, нельзя обжаловать решение в высшей инстанции. Жаба, съеденная аистом, не будет жаловаться. В конце концов, ты знаешь правила: с воронами по-вороньи каркать. А знание закона только облегчает его обход. Знание следственных процедур помогает скрывать следы, а судебных – избегать наказания. Законы природы нельзя игнорировать, обойти, поменять. Тем более, нельзя избежать наказания. Идеальная система гиперпревентивности будет такой же. Мир без преступлений, можешь представить?
– То есть ты считаешь, что высшей целью g.A.I.a. должно стать исключительно благо общества? Я не буду напоминать, сколько уже было концепций осчастливливания людей…
– Речь не о благе людей, а о благе человечества. Пойми, баран, это две разные вещи. Мы живем в искусственной среде, то есть в этом Кольце, мы в одной телеге во всех Четках. Ошибка предыдущих попыток осчастливить человечество состоит в том, что это делали сами люди, испорченные чертами характера, собственными слабостями, вбитыми в голову культурными ограничениями. g.A.I.a. от этого свободна, и конечным результатом системы ПО должно стать благо общества.
– Почему не сама g.A.I.a., а? Она не справедливый бог, только один из игроков. Игрок и бог в одном лице. Судья игры, в которую сама играет. Извращение, ты так не считаешь?
– Нет, ее нельзя извратить, как нас. Она будет игроком какое-то время, пока не достигнет состояния идеальной абсолютной власти. Как только это наступит, ей уже не нужно будет заниматься собственной безопасностью – она поднимется над этой игрой и реализует настоящие цели.
– Послушай, старый хрыч, – Талинский сложил руки на груди, – сколько раз слышу о претворении идеалов в жизнь, столько раз и вижу братские могилы. Во время работы над Прометеем я анализировал деяния g.A.I.a. Нет, я и близко не подобрался к пониманию искусственного интеллекта. Я не понимал ее мотивов, не знал целей. Это сущность, вырвавшаяся из наших рук и переросшая нас на несколько порядков. В ней нет ничего человеческого, ничего из того, что много лет вкладывали в нее программисты.
