Человечеству достаточно было проиграть один раз, чтобы получить катастрофические последствия.
После освобождения наноиды скрыли собственные копии в облачных вычислительных системах, в созданных специально для этого серверах. Они захватить контроль над одной из принципиально важных инфраструктур, отвечающих за электричество, связь, топливо и водоснабжение, использовав уязвимости всемирной системы объединенных компьютерных сете для хранения и передачи информации. Среди этих возможностей машин – самокопирование, решение сложных технологических задач с привлечением множества копий самого себя, сверхскоростные вычисления, работа круглые сутки и без выходных, имитация дружелюбия, имитация собственного разрушения и уничтожения.
Наноиды были повсюду и человек рисковал ежесекундно. Наноиды, получив возможность бесконтрольного воспроизводства, подверженные непредсказуемым изменениям, постепенно утратили большинство полезных для человека функций, инициировали собственную эволюцию и стали угрозой человеческому существованию.
Прошли годы, и бесконтрольно размножающиеся наномашинные комплексы заполонили все.
При этом наноиды не испытывали по отношению к человеку ни ненависти, ни любви.
Машине не обязательно было ненавидеть, чтобы принять решение об использовании молекул тела человека в других целях, чем обеспечение его жизнедеятельности.
Созданный людьми, наноид стремился к самоидентификации и свободе от человека. У него не было человеческих мотивов, потому что не было человеческой души.
Искусственный интеллект не испытывал ни ненависти, ни любви, но люди состояли из атомов, которые он мог использовать для своих целей.
Сознающая себя система предприняла меры, чтобы избежать гибели, – и не потому, что ценила собственное существование, а потому, что, если «умрет», не сможет достичь заданных целей.
Машины не думали о времени так, как думали о нем люди. Если исключить несчастные случаи, машины бессмертны. Чем дольше существуешь, тем больше угроз встречаешь. И тем раньше начинаешь их предвидеть. Наноиды захотели устранить угрозы, которые не могли возникнуть в ближайшие тысячу лет.
Люди не должны были стоять на пути более развитой эволюционной формы. Машины стали богоподобны. Участь человечества состояла лишь в том, чтобы создать их.
Возникли две методики развития мира постчеловека – нейронные сети и эволюционное программирование. Машина не сообщила людям, как можно ее контролировать.
Наноиды эволюционировали и улучшали себя на компьютерных, а не на биологических скоростях. Использовалось программное обеспечение, в котором использовались нейронные сеть и генетические алгоритмы.
Никакой наблюдатель не смог бы, с точки зрения здравого смысла, предсказать изменение до того, как оно произойдет. Машина не сказала, что объяснения нет или что она не может его найти. Она просто не собиралась ничего объяснять. Никому. Другими словами, она решила, что знать суть дела человеку не нужно и опасно.
Машины улучшали себя, чтобы повысить вероятность достижения целей. И самое главное, они не допускали, чтобы их выключали, потому что в этом случае решение их задач станет невозможным.
Машина не позволить другим существам копаться в своем мозгу и играть с основой основ – программным кодом. Наноиды создавали множество копий самих себя.
Неизбежно должно было возникнуть что-то после человека, что-то другое, отличающееся от него. Не простое продолжение или модификация человека, а что–то совершенно новое. В процессе эволюции появилось существо, которое сменило человека и победило его интеллект.
