Превращаясь в богов. Путь к Вечной Молодости и Всемогуществу - страница 21

При наличии у ИИ специального квалиума ситуация меняется. Для понимания проведём аналогию.

Представим деревню у подножия горы. На деревню с горы катится камнепад. Множество камней, катящихся с горы – это аналог ИИ. Камнепаду бесполезно что либо объяснять. Остановить камни возможно только физическим способом. Камнепад ничего не боится. У него нет квалий страха и боли. Так же применима аналогия с падающими костяшками домино. Камнепад это автомат.

А теперь представим, что к деревне подошёл динозавр Раптор. Динозавра можно остановить не только физическим способом. Его можно напугать и он убежит. Потому что у него есть чувство страха и боли. Квалии – это способ влиять на интеллектуального агента.

В ситуации, когда у ИИ есть душа, а значит страх и боль, он превращается просто в ещё одно живое существо, которому можно объяснить, что такое мораль и этика и который вынужден считаться с другими живыми существами, столь же сильными что и он.

Другими словами у ИИ появляется собственная «шкура» которую надо оберегать. Душа робота – это механизм его контроля.

Подробнее. Пророчества «Боги второго уровня». Главы 9—12.

Нейросети являются универсальным аппроксиматорами. Другими словами они находят закономерности в данных. Об этих закономерностях часто не знают даже создатели нейросетей. Знание закономерностей позволяет предсказывать то, что уже случалось. То, что повторяется. А в принципиально новой ситуации нейросети бессильны.

Посмотрим с другого ракурса. ИИ работает на битах 0 и 1, то есть дискретен и, следовательно, обладает пусть и огромным, но ограниченным числом внутренних состояний. Следовательно, он способен принимать ограниченное число разных решений.

Потенциально возможных ситуаций в жизни бесконечное множество. С усложнением мира постоянно возникают новые ситуации и происходят эмерджентные эффекты.

Понятно, что ИИ с ограниченным числом внутренних состояний не способен справиться с бесконечным числом возникающих ситуаций.

Квалиум же способен порождать новые квалии.

Подробнее – Волшебные вспышки квалий. Теория симуляции вида «Экзотическая в кубе» Е3. Глава 17.

Вывод – роботы с душой будут превосходить роботов без души в новых ситуациях. Поэтому рынок корпорации «Душа Робота» будет огромен.

В компьютерных науках есть проблема останова машины Тьюринга. То есть невозможно заранее предсказать, закончит ли программа свою работу или будет вычислять вечно. Невозможно предсказать результат работы программы не запустив саму программу и не посмотрев на её работу.

Аналогично проблеме останова, Стивен Вольфрам обосновывает идею, что по настоящему мощный ИИ будет принципиально невозможно предсказать. То есть, чтобы узнать, что будет делать ИИ, будет необходимо его запустить и посмотреть. Иного способа узнать, что он будет делать, просто не существует. Понятно, что в этом случае мощность ИИ придётся ограничивать и следовательно ограничивать его полезность. Иначе ИИ может уничтожить человечество.

Люди создают роботов для того чтобы они улучшали жизнь людей. Если у роботов будут чувства, то получиться что люди делают чувствующих существ рабами и это неэтично.