В отделе робототехники лаборатории «Парадиз» создавались всё более и более искусные машины, внешне уже мало отличимые от человека – их даже стали называть андроиды, – но несравнимо более приспособленные к жизни в тяжёлых условиях планеты К-12486. Всё более тонкие механизмы, которые использовали для их создания, имели и неизбежный недостаток: андроиды быстро изнашивались. Их «разум» был всё тоньше, всё более изощрён, но даже к моменту, когда продолжительность их жизни по оценкам не должна была превышать пары сотен лет, их развития было недостаточно, чтобы выжить на новой планете. Вот тогда-то и наступил момент, когда всем стало ясно, что популяция андроидов сможет выжить при единственном условии: они будут способны сами мыслить и развиваться, и в экстремальной ситуации смогут принимать решения даже вопреки заложенной в них программе. Именно развитие способности андроидов нарушить программу и стало ключевой задачей, так что к тому моменту, когда все технологии были отработаны, андроидам всё ещё не хватало самого главного – «центра неповиновения», как назвали его учёные. Того участка мозга, который, если надо, сможет противиться заложенным программам.
Его развитием, хоть поначалу и безрезультатно, занимался особый отдел лаборатории. Собранные всё более совершенные андроиды размещались на специально оборудованной территории, где, для того чтобы снизить риск их поломок – ведь главным сейчас было повысить продолжительность их жизни, чтобы успеть развить центра неповиновения, – были созданы куда более мягкие условия, чем те, что ждали их на К-12486: там было достаточно тепло, а еда всегда имелась в изобилии. И за то время, которое было потрачено на создание этих условий, стало понятно, что перед учёными стоит ещё одна проблема: как понять, что центр неповиновения развился? Только на первый взгляд всё казалось понятным: андроид должен начать нарушать данные ему установки. Но как узнать, нарушает он их по собственной воле или нет? Ведь если приказать андроидам, скажем, прыгнуть со скалы, они разобьются прежде, чем у них успеет развиться хоть какой-то центр. Если же запретить – как узнать, стоит ли андроид на краю, следуя указаниям своих создателей, или же самостоятельно решил, что прыжок неизбежно приведёт его к гибели?
Вот тогда-то и было созвано первое заседание лаборатории «Парадиз». Бо, тогдашняя директриса, тщательно описала проблему, но все молчали, пока один из сотрудников, Дэйв, не выдвинул предложение, которое поначалу показалось нелепым. Его идея заключалась в том, что в качестве запрета нужна какая-нибудь ерунда, что-то настолько глупое, что никто не стал бы выполнять по собственной воле, например, «по газонам не ходить» или что-то не менее глупое. Это и поможет понять, что воля всё-таки развилась.
Идея Дэйва была простой, как всё гениальное, хотя конкретное решение и пришло не сразу. Любые возможные реализации натыкались на какие-то мелкие проблемы. Нельзя было, например, запретить андроидам ходить по газонам – им просто негде было бы ходить, а перестраивать территорию, с таким трудом оптимизированные для их жизни, никому не хотелось. Хотя собрание после предложения Дэйва несколько оживилось, и отовсюду посыпались возможные варианты, дальше идеи запретить андроидам заходить на какую-то часть территории, подходить к каким-то деревьям или трогать какие-то фрукты как так и не дошло. В конце концов, когда ждать уже было бессмысленно, Бо приняла решение запретить андроидам рвать плоды с одной из яблонь.
