Дороги, дураки и компьютеры. Есть ли будущее у России - страница 34

Следующим философским вопросом искусственного интеллекта является цель создания. В принципе все, что мы делаем в практической жизни, обычно направлено на то, чтобы больше не делать этого самому. Допустим, что человек сумел создать интеллект, превышающий свой собственный (пусть не качеством, так количеством). Что теперь будет с человечеством? Какую роль будет играть человек? Для чего он теперь нужен? Тем более что интеллектуальная система вполне могла бы иметь свои желания и поступать не так, как нам хотелось бы. Таким образом, перед нами встает проблема безопасности. Данная проблема будоражит умы человечества еще со времен Карела Чапека, впервые употребившего термин «робот». Большую лепту в обсуждение данной проблемы внесли и другие писатели-фантасты. Как самые известные, можно упомянуть серии рассказов писателя-фантаста и ученого Айзека Азимова. Кстати, именно у Азимова мы можем найти самое проработанное, и принятое большинством людей решение проблемы безопасности.

На первый взгляд подобные законы, при их полном соблюдении, должны обеспечить безопасность человечества. Однако, при внимательном рассмотрении, возникают вопросы. Во-первых, законы сформулированы на человеческом языке, который не допускает простого их перевода в алгоритмическую форму. Попробуйте, к примеру, перевести на любой из известных языков программирования, такой термин, как «причинить вред». Или «допустить». Далее предположим, что данные законы переформулированы на язык, который понимает автомат. Теперь интересно, что будет подразумевать компьютер под термином «вред» после долгих логических размышлений? Не решит ли он, что все существование человека – это сплошной вред? Ведь он курит, пьет, с годами стареет и теряет здоровье, страдает. Не будет ли меньшим злом быстро прекратить эту цепь страданий?

Нейронаукой называют научный подход, направленный на выяснение принципов работы мозга. Раньше на фестивалях, спортивных праздниках и других торжествах в моде были «живые картинки». Нарядно одетые мальчики и девочки с разноцветными флажками по команде поднимают то один флажок, то другой. А зрители на других трибунах видят картинки. Набор независимых компьютеров, не подозревающих о существовании друг друга и выполняющих свои программы, вел бы себя точно также. А теперь представим, что у руководителя сломался рупор. И тогда – вместо картинок полная неразбериха. Если же мы имеем дело с нейронами, то, как по мановению волшебной палочки, «верный кусок» начнет упорядочивать всю картину, и в результате возникает именно то, что надо.

Нейронаука и нейрокомпьютеры сделали намного более реальными мечты, прогнозы, утопии и антиутопии писателей-фантастов. Начиная с Я. Вайса («Дом в тысячу этажей», 1929 год) и Дж. Оруэла («1984»), множество авторов обсуждали возможность тотального контроля над личностью. Не секрет, что спецслужбы многих стран имеют компьютерные досье на сотни тысяч и миллионы своих граждан, прослушивают телефонные переговоры и знакомятся с корреспонденцией. Ограничения такого контроля, которые мы часто называем свободой или правами человека, в основном связаны с тем, что работа с досье требует больших интеллектуальных усилий, которые нельзя пока целиком возложить на компьютер. Компьютерные системы, способные выделять крамолу из невинных разговоров, анализировать, расследовать, самостоятельно решать, какая информация нужна, и добывать эту информацию, радикально изменят ситуацию.