Искусственный интеллект. Здравствуй, папа! - страница 7

Попытка поправить ситуацию новыми правилами типа, «Сохрани жизнь», «Неси радость» и прочее, не исправляет ситуации, так как есть масса вариантов формально оставаться в рамках этих требований, но человеку это не понравится. Для человека это будет очевидно, он это чувствует без усилий. Для ИИ реальность – это набор нулей и единиц, где нет места понятиям добра и зла.

Нельзя написать правила, какие ИИ будет понимать и трактовать так, как понимает и трактует человек. Люди одной культуры могут по-разному понимать смысл фразы. Люди разных культур еще больше разнятся в понимании. Гуманист и исламист по-разному понимают добро и зло.

Если в случае с людьми есть надежда привести их к общему знаменателю, для этого придется углубляться до корней мировоззрения, что для большинства попросту недоступно в еще большей степени, чем высшая математика, но надежда все равно есть. Надежды на одинаковое понимание добра и зла человеком и машиной нет, так как у машины нет понятий добра и зла.

Проблема тут еще и в том, что человек сам не понимает фундаментальных положений, на которые опираются его истины. Он интуитивно, на уровне эмоций, знает, что такое хорошо и что такое плохо, но не способен вывести свое понимание на рациональный уровень.

Например, каждый из нас знает, что такое время. Но многие зависнут при попытке объяснить, что это такое. Все знают, что такое существование, но почти никто не даст ему определения. Также будет со всеми ключевыми понятиями. Человек считает истиной то, что ему привычно считать таковой. Какие у вас понятия добра и зла, на 100% зависит от того, где вы выросли. Вырасти вы в племени людоедов, у вас были бы иные представления о хорошем и плохом. И они для вас были бы также самоочевидны, как имеющиеся сейчас. Вместо объяснений, что же это такое, были бы эмоции, многословие и тавтология. Для человека вашей культуры они будут до самоочевидности понятны, для другой культуры менее понятны. Для машины они никогда не будут понятны, так как она не понимает, как калькулятор не понимает, он вычисляет.

Беспомощность человека на базовом уровне видна на таком примере: представим, что мир исчез. Некто собрал в неведомом бытии великие умы человечества, дал им волшебную палочку и предложил восстановить мир. От умов требовалось давать волшебной палочке задания, которые она будет в точности исполнять при условии, что это не задание уровня «восстанови материальный мир», а техническое задание с перечислением всего, что образует мир.

Умы не справятся с этой миссией, так как не знают, что есть наш мир. В лучшем случае они знают название некоторых элементов и сил, но не могут быть уверены, что это все. Кто может утверждать, что список взаимодействия исчерпывается четырьмя известными силами: гравитация, электромагнетизм, сильное и слабое взаимодействие? Никто. Плюс к этому, даже то, название чего умы знают, они понятия не имеют об их природе, а значит, не смогут поставить задачу палочке.

До 1930 года математики считали, что люди в будущем не будут общаться в традиционном смысле. Общение сведется к вычислению, к холодной истине, когда все будет в формате 2 + 2 = 4, что исключает всякую двусмысленность и обеспечивает гармонию. В 1930 году в Кёнигсберге Гедель представил свою теорему о неполноте. Она с математической строгостью показала противоречие математики. Все упаковать в строгие символы и смыслы оказалось невозможно на базовом уровне.