Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе - страница 4
Эта книга не об обычных спорах вокруг ИИ. Она – одновременно предостережение и набросок лучшего будущего. Она ставит под вопрос нелюбовь нас, американцев, к долгосрочному планированию, и подчеркивает неготовность к приходу ИИ в сфере бизнеса, образования, государственного управления. Она рисует впечатляющую картину скоординированных между собой геополитических, экономических и дипломатических планов Китая, направленных к единой цели – установлению мирового господства. И она требует героического руководства в исключительно трудных обстоятельствах. Потому что, как вы сами увидите, нашему будущему требуется герой.
Текст, который последует ниже, представляет собой призыв к действию в трех частях. Из первой вы узнаете, что такое ИИ и какую роль в его разработке сыграла «Большая девятка». Мы также в деталях рассмотрим положение, в котором находятся американские члены «Большой девятки» и китайские – Baidu, Alibaba и Tencent.
Вторая часть подробно описывает вероятные варианты будущего, исходя из прогноза развития ИИ на 50 лет. Среди трех сценариев, которые вы увидите, окажется и оптимистический, и прагматический, и катастрофический, и в них будут показаны как возможности, так и риски, с которыми сопряжен переход от слабого к сильному ИИ. Все эти сценарии несут высокую эмоциональную нагрузку. Они построены на основе моделирования с использованием фактических данных и дают вам интуитивное представление о том, в каком направлении может развиваться ИИ и как в результате этого изменится наша жизнь.
В третьей части я предлагаю стратегические и тактические решения всех проблем, перечисленных в сценариях, а также конкретный план исправления настоящего. Третья часть, по моему замыслу, должна заставить нас действовать, поэтому в ней содержатся конкретные рекомендации для правительств, «Большой девятки» и даже вас лично.
Каждый человек из числа живущих сегодня способен сыграть серьезную роль в будущем ИИ. Решения, которые мы принимаем относительно ИИ сейчас – казалось бы, даже самые незначительные, – навсегда изменят ход человеческой истории. Машины пробуждаются, и в один прекрасный день мы можем понять, что вопреки нашим надеждам и альтруистическим амбициям воздействие наших систем ИИ на человечество было катастрофическим.
Но подобное развитие событий отнюдь не предопределено.
«Большой девятке» в моем рассказе вовсе не отводится роль злодея. Напротив, входящие в нее компании – наша главная надежда на лучшее будущее.
Переверните страницу. Мы не можем пассивно ждать, что принесет нам будущее. ИИ уже среди нас.
Часть 1
Духи внутри машины
Глава 1
Разум и машина: очень краткая история ИИ
Корни современного ИИ берут свое начало в далеком прошлом, задолго до того, как «Большая девятка» создала наших электронных помощников: Сири, Алексу и их китайского коллегу Тян Мао. И за все это время не было создано единого определения ИИ, подобного тому, что существует для других технологий. Когда дело касается ИИ, оказывается, что сложно дать его конкретное описание, поскольку он представляет собой разные вещи, даже когда отрасль продолжает развиваться. То, что вполне можно было назвать ИИ в 1950-х – калькулятор, способный выполнять деление столбиком, – сегодня едва ли воспринимается как шедевр технологии. Это явление известно под названием «парадокса невозможного» – как только новая технология становится частью мейнстрима, мы перестаем ее замечать. Мы больше не воспринимаем ее как ИИ.