Очевидно, что никто не ассоциирует сегодня ИИ с искусственным сознанием, поскольку в процессе выполнения действий не проявляется свойства осознания себя системой как разумного «я» (хотя опыт с получением подобных ответов от систем ИИ имеется). Самосознание ИИ – это фундаментальный вопрос, относящийся не столько к самой природе ИИ, сколько к природе человеческого сознания и самосознания. Известно, что самосознание возникает у человека приблизительно в возрасте одного года и формируется в процессе развития приблизительно до трехлетнего возраста. Не означает ли это, что ИИ должен обладать для достижения самосознания внутренним потенциалом развития? То есть заложенные в ИИ программы должны быть внутренне замкнуты на процессы самосовершенствования на основе опыта обработки больших массивов информации (вместо ощущений и восприятия, которые для развития использует человек). Такие и аналогичные подходы используются сегодня для исследования нейросетей, в том числе с имитацией машинной эволюции.
Человеческое самосознание ассоциировано с восприятием собственного тела, в том числе созерцаемого извне (зеркально). Я – это в первую очередь человек со своей индивидуальностью и местом в обществе, а затем уже скрытое внутреннее «я», которое на самом деле окутано непроницаемой тайной бытия. Самосознание ИИ в таком случае ассоциируется с локальной или распределенной информационной системой, где в роли индивидуума выступает «железо», а в роли личности – самосовершенствующаяся программа и базы данных, которыми она оперирует. Воспринимая себя в таком виде, ИИ никоим образом не может ассоциировать себя с человеком разумным и вообще ассоциировать себя с формой жизни.
Достижение реального опыта самосознания у ИИ в относительно небольшом локальном машинном объеме – первый шаг к созданию реального андроида, т. е. кибернетической аналогии человека (хотя и лишенного чувственной сферы и даже ее имитации). Имитировать эмпатию к человеку возможно через систему программных ограничений и запретов, подобных трем законам роботехники А. Азимова. У кибернетического андроида гораздо больше оснований осознавать себя машинной аналогией существа, ведь внешне он может быть очень похож на человека.
Представить себе, как ИИ формирует зачатки самосознания, нам помогает литературная фантастика. Сравнивая себя с человеком, андроид, инкорпорированный в человеческое сообщество (например, в семью), вынужденно становится социально связанным с этим сообществом, как это происходит с домашними животными. Путь социализации машинного поведения – это вероятный пример ускоренной машинной эволюции андроида. Однако всегда есть то, что фундаментально разделяет андроида и человека. И это вовсе не различия во внутренней природе, а различия в ценностной парадигме. Андроиду чужды практически все человеческие ценности, кроме обусловленной его программой возможности творчества. Андроид может оказаться гораздо более долговечным, он не нуждается в удовольствиях и покое. Это обстоятельство отчуждает его от человека. При этом правомерен вопрос о том, возможны ли другие ценностные установки в техномире андроидов. Вероятно, такими установками являются программные ограничения, содержащие запреты и стимулы «жизнедеятельности» андроида, которые не могут быть изменены в процессе машинной эволюции. Но, вероятно, могут возникать и другие локальные установки, не противоречащие ограничениям, но обособляющие и индивидуализирующие поведение андроида.
