Обучение есть свойство, или качество, которое мы часто приписываем исключительно системам, обладающим самосознанием, – и почти всегда живым системам. Это явление в наиболее наглядной форме наблюдается у человека и порождает один из тех атрибутов человечности, которые проще всего увязать с чертами личности, проявляющимися в религиозной жизни. В самом деле, трудно вообразить, каким образом существо, не способное к обучению, могло бы приобщиться к религии.
Имеется, впрочем, и другая сторона жизни, которую принято увязывать с религией. Считается, что Бог сотворил человека по Своему образу и подобию; при этом размножение человеческого рода также можно истолковывать как процесс, которым одно живое существо порождает другое по своему образу и подобию. В нашем стремлении восхвалять Бога, возвышая Его над человеком, и возвышать Человека над материей, мы, вполне естественно, допускаем, что машинам не под силу сотворять другие машины по своему образу и подобию; что налицо принципиальное различие живых и неживых систем; что указанное условие в еще большей степени связано с дихотомией между творцом и творением.
Но так ли это? В одном из разделов моей книги я уделю внимание некоторым соображениям, показывающим, по моему мнению, что машины вполне способны творить другие машины по своему образу и подобию. Предмет моих рассуждений одновременно является сугубо техническим и весьма узким. Не следует воспринимать мои рассуждения слишком серьезно, как описание фактической модели биологического процесса воспроизведения, и уж тем более как полную модель божественного творения; в то же время она полезна в том отношении, что проливает свет на обе эти концепции.
Два упомянутых раздела книги могут рассматриваться как дополняющие друг друга. Обучение индивида представляет собой процесс, который протекает на протяжении жизни человека, в онтогенезе. Биологическое воспроизведение есть явление, протекающее на протяжении жизни человеческого рода, в филогенезе, но обучается не только индивид, но и род в целом. Дарвиновский естественный отбор является разновидностью процесса родового обучения, он происходит в условиях, которые устанавливаются воспроизведением индивидов.
Третья группа тем данной книги также относится к проблемам обучения. Имеются в виду взаимоотношения машины и живого существа, а также систем, объединяющих в себе характеристики машин и живых существ. С учетом сказанного понятно, что рассмотрению подлежат нормативные, точнее, этические принципы. Мы изучим наиболее важные моральные ловушки, в которые, судя по всему, может угодить современное поколение, и затронем обширный комплекс человеческих традиций и легенд, окружающих магию и другие подобные материи.
Начнем с обучающихся машин. Организованной системой можно назвать такую систему, которая преобразует некое входящее сообщение в исходящее в соответствии с каким-то принципом трансформации. Если этот принцип трансформации регулируется некоторым критерием эффективности и если способ преобразования подразумевает повышение эффективности работы системы в соответствии с указанным критерием, значит, такую систему можно назвать обучаемой. Простейшим типом системы с легко интерпретируемым критерием эффективности является игра, которая ведется по определенным правилам, а критерием эффективности в ней выступает выигрыш, которого удалось добиться при соблюдении этих правил.
