Естественно, вышеприведенная технология начисто отрицает идею о том, что в противоположность некоторым утверждениям, машины не несут в себе экзистенциального риска для человечества, поскольку их автономия носит лишь технический характер и в этом смысле не соответствует цепочкам материальной причинности, идущим от информации к принятию решений. Многие разработчики пока теряются в иллюзиях о том, что изолированный интерфейс искусственного интеллекта с человеческим мозгом не самостоятелен в моральном плане, и потому, даже если иногда они сбивают нас с толку и вводят в заблуждение своими действиями, они все же не обладают собственной волей и подчиняются тем целям, которые мы перед ними ставим. В романе «Аватар» речь идет об интерфейсе искусственного интеллекта и изолированного человеческого мозга, как о «новом сознании» с потенциалом решения и некоторых морально-этических вопросов. Понятно, что искусственный интеллект содержит в какой-то мере сознание, которое не локализуется в физическом теле. Но при этом нужно понимать, если мы признаем, что сети, в которые, к примеру, я включен, и которые вместе со мной осуществляют мыслительные процессы, – это часть моего расширенного сознания, то рассматривать меня, мое эго как действующего субъекта уже не так просто. То есть уже непонятно, кто здесь действует – я действую, или сеть действует мной. Ключевая проблема, которая возникает, это не столько проблема замены сознания человека мыслящей технологической сетью, сколько проблема доказательства того, что человек плюс искусственный интеллект – это лучше, чем просто искусственный интеллект. Где тогда находится человек? Этот мозг – это система каких-то его вычислений? Что тогда останется от человека, что есть «я»? Мозг – это последняя надежда тех, кто хочет локализовать сознание на каком-то очень и очень надежном материальном носителе. Это ныне главная метафора для человеческого эго. В этих условиях мозг оказывается, как бы внешним, мы проводим некоторую границу между нами и нашим мозгом. Мы говорим: наш мозг влияет на нас. Но если мозг влияет на нас, значит, мы – это что-то другое? Мой мозг – это «Я». Мозг служит идентификационным признаком «Я». Вот мы мечтаем о создании интерфейса «мозг плюс суперкомпьютер». Однако, к сожалению, пока еще с трудом понимаем не только, где будет «мозг в контейнере», то есть «я» «аватара» и где будет искусственный интеллект, но и какими будут результаты такого интерфейса – «мозг плюс искусственный интеллект»? В этом случае, однозначно, при «мозге в контейнере» физическое тело отсутствует, а это полная свобода для мыслительной деятельности мозга. Но здесь есть над чем задуматься: мозг человека, интегрированный в общемировую компьютерную сеть искусственного интеллекта, станет уязвим для потенциальных вирусов, которые смогут превратить «мозг в компьютере» в психопата. Если искусственный интеллект будет у него обучаться, то прогнозы будут плачевными. В целом, нужно признать, что интеллектуальное развитие человечества достигло своего апогея, что стать умнее у человека уже не получится, что носителем мыслительной деятельности могут быть оцифрованные устройства. Вот и в романе «Аватар» Джозеф говорит о том, что процесс развития человечества идет не в сторону изменения и улучшений качеств каждого отдельного человека, не а в сторону простого увеличения объема памяти и новых способов изучения информации из памяти. – «Мы на правильном пути. Наша цель – создать надежный интерфейс искусственного интеллекта плюс «мозга в контейнере». Речь идет не о рядовом нейропротезировании, не о поиске надежных носителей оцифрованных мыслей, а о создании или иначе генерации «нового сознания».
