Читать онлайн Крейг Манди, Генри Киссинджер - Генезис. Искусственный интеллект, надежда и душа человечества

Henry A. Kissinger, Craig Mundie, Eric Schmidt

Genesis. Artificial Intelligence, Hope and the Human Spirit

Права получены по соглашению с The Estate of Henry A. Kissinger, Craig J. Mundie, and Delphin LLC при содействии The Wylie Agency (UK) Ltd.

Издательство не несет ответственности за доступность материалов, ссылки на которые вы можете найти в этой книге. На момент подготовки книги к изданию все ссылки на интернет-ресурсы были действующими.

Отзывы о книге

«Искусственный интеллект (ИИ) может стать одним из величайших технологических переворотов в истории, и главный вопрос заключается в том, как к этому адаптироваться людям. Перед нами ценный своей актуальностью труд, авторы которого предлагают один из первых реалистичных взглядов на будущее, которое уже наступает, – будущее почти безграничных возможностей и новых, крайне сложных вызовов».

Сэм Альтман

«Вы держите в руках своевременное исследование взаимосвязи ИИ со знаниями, властью и политикой. Листая эти страницы, мы не можем не задуматься о рисках и возможностях, которые ИИ несет человечеству».

Билл Гейтс

«Какая роль будет отведена людям в грядущую эпоху искусственного интеллекта? В последние годы своей жизни Генри Киссинджер погрузился в изучение ИИ и в соавторстве с крупнейшими техническими экспертами – Эриком Шмидтом и Крейгом Манди – написал эту книгу. Она стала результатом всестороннего анализа ситуации, в которой человек, встретивший эпоху разумных машин, должен сохранить собственный авторитет и уберечь свои ценности».

Уолтер Айзексон

«Киссинджер, Манди и Шмидт предлагают нам пристальнее взглянуть как на перспективы, так и на вызовы, которые бросает нам надвигающаяся глобальная система, формируемая ИИ. Прочитав эту книгу, вы наверняка сделаете для себя важное открытие. Прежде чем хотя бы начать задумываться о какой-либо политике в отношении ИИ, нам потребуется разработать новые концепции человеческого разума и самого существования человечества. Эта книга стала последней работой Генри Киссинджера – и как знать, не окажется ли, что в ней сокрыто пророчество. Изучить ее чрезвычайно полезно каждому».

Лоуренс Генри «Ларри» Саммерс

«Авторы книги Genesis поднимают сложные вопросы, и чтобы на них ответить, важно обеспечить людям доступ к интеллектуальным инструментам. Это придаст им уверенности в собственных силах и откроет новые возможности для раскрытия их потенциала и свободного управления своей реальностью».

Сатья Наделла

«Очередная великая технологическая революция – в области ИИ – победно шествует уже сегодня. В то время как львиная доля дискуссий посвящена тому, на что способен ИИ и в каких направлениях он движется, эта книга блестяще переосмысливает все споры. Как люди будут взаимодействовать с ИИ? Каким образом этот захватывающий, но пугающий новый научный взрыв изменит наше представление о том, что значит быть человеком? Результатом труда трех авторов стало глубинное и многоплановое исследование – именно оно сейчас перед вами».

Фарид Закария

«Книга, обязательная к прочтению для всех, кто пытается серьезно задуматься об испытаниях, которые несет с собой ИИ. Genesis систематизирует давно известные факты – и, что важнее, затрагивает пока неведомые нам темы – к примеру, вопросы рисков, связанных с неограниченным развитием ИИ. Основываясь на уроках, извлеченных в ядерную эпоху, Киссинджер и его соавторы освещают туманный путь, ожидающий нас впереди».

Грэм Эллисон

«Киссинджер, Шмидт и Манди разработали маршрут для навигации по нашему ближайшему будущему, в котором невообразимо мощные и вездесущие системы ИИ станут автономными. Проницательность авторов относительно последствий первой встречи человечества с высшим разумом – как в практическом, так и в мировоззренческом смыслах – отрезвляет и одновременно вдохновляет, заставляя нас переосмыслить наши отношения с технологиями и сам вопрос того, кто мы есть во Вселенной. Книгу Genesis очень важно прочесть людям, желающим понять, как ИИ изменит наш мир и что нужно, чтобы оставаться человеком в эпоху разумных машин».

Ян Бреммер

«Что означает ИИ для открытий? Для истины? Для безопасности, благополучия и политики? Отвечая на эти вопросы, трое выдающихся мыслителей не боятся поднимать всеобъемлющие темы и самые сложные дилеммы, связанные с доминирующей технологией нашего времени. Эпический по масштабу, освежающе ясный и – как, впрочем, свойственно этим авторам – основанный на глубинном опыте и огромной эрудиции, этот труд уверенно можно считать обязательным к прочтению».

Мустафа Сулейман

«Книга Genesis дает нам пищу для размышлений – это крайне своевременный анализ влияния ИИ на развитие человечества и на то, что делает нас людьми. По сути, данная работа представляет собой дорожную карту для: 1) практического применения технологий ИИ; 2) решения порождаемых ими задач; 3) выстраивания взаимодействия с разумными системами в новую технологическую эпоху».

Джеймс Маньика

«ИИ ошеломляет разум, и мы изо всех сил пытаемся осознать, что же он нам обещает и чем может быть опасен. В своей последней книге мастер „большой стратегии“[1] Генри Киссинджер и его великолепные соавторы Эрик Шмидт и Крейг Манди очень вовремя сосредоточились на этой теме. Genesis – книга, которую сегодня необходимо прочитать всему нашему миру».

К. Брукс

«Пока мы сосредоточенно прокладываем маршрут в будущее, эта книга в оптимистичном ключе разъясняет нам возможный путь взаимоотношений с ИИ, при котором мы не растеряем наших человеческих качеств. В своей последней работе Генри Киссинджер, один из самых значимых мыслителей нашего времени, в сотрудничестве с Эриком Шмидтом и Крейгом Манди помогает нам войти в эту беспрецедентную эпоху. А нам, в свою очередь, надлежит привести ее развитие и огромный смысл в равновесие с общечеловеческой мудростью, которая столь необходима, чтобы на сей раз технологии применялись только во благо человечества. Данную книгу непременно следует прочесть людям, принимающим решения, то есть всем нам».

Кондолиза Райс

Предисловие

Доктору Киссинджеру – государственному деятелю, дипломату, наставнику и другу.
Мы отдаем Вам дань уважения.

Когда в июне 2018 года Генри Киссинджер опубликовал статью How the Enlightenment Ends («Как заканчивается Просвещение») в журнале Atlantic, многих удивил тот факт, что в столь пожилом возрасте этот государственный деятель сумел составить и обосновать собственное мнение о проблематике искусственного интеллекта (ИИ). Действительно, Киссинджеру только что исполнилось 95 лет. В то время развитие ИИ еще не было такой растиражированной темой, как в конце 2022 года, когда компания OpenAI выпустит ChatGPT.

Однако я, будучи биографом Киссинджера, нахожу его интерес к проблематике ИИ закономерным и естественным. Не стоит забывать, что в 1957 году он обрел настоящую популярность благодаря работе, посвященной новой технологии, которая определила ход истории. Его книга Nuclear Weapons and Foreign Policy («Ядерное оружие и внешняя политика») была встречена с таким пристальным вниманием, что даже Роберт Оппенгеймер[2] одобрительно отозвался о ней как о «весьма обоснованном и в этом отношении совершенно беспрецедентном исследовании в области ядерного вооружения, отличающемся… скрупулезным отношением к фактам и вместе с тем страстной и жесткой аргументацией».

И хотя Киссинджер, в те годы докторант[3], с головой погрузился в дипломатическую историю Европы начала XIX века, он прекрасно осознавал (тогда и на протяжении всей своей карьеры), что вечные закономерности политики великих держав время от времени рушатся под натиском технологических новшеств. Как и многие представители его поколения, участвовавшие во Второй мировой войне, он воочию видел не только массовые разрушения и гибель людей, вызванные современным оружием, но и страшные последствия для своих соотечественников-евреев того, что Черчилль незабываемо окрестил «извращенной наукой» гитлеровского Третьего рейха.

Вопреки своей незаслуженной репутации поджигателя войны, Киссинджер на протяжении всей своей взрослой жизни был твердо намерен избежать Третьей мировой – возможного следствия перехода холодной войны между Соединенными Штатами и Советским Союзом в горячую фазу, чего многие действительно опасались. Он прекрасно понимал, что технология ядерного расщепления придаст новой мировой войне еще более беспощадный размах по сравнению со Второй мировой. В начале книги Nuclear Weapons and Foreign Policy Киссинджер оценил [гипотетический. – Примеч. ред.] разрушительный эффект десятимегатонной бомбы, сброшенной на Нью-Йорк, а затем сделал расчеты, что в результате тотальной атаки со стороны Советского Союза на пятьдесят крупных городов США, если бы таковая состоялась, погибли бы от 15 до 20 миллионов человек и были бы ранены от 20 до 25 миллионов. Еще от 5 до 10 миллионов человек погибли бы от радиоактивных осадков, а еще 7–10 миллионов стали бы жертвами лучевой болезни. Выживших ждала бы «социальная дезинтеграция». Но даже после такой атаки, отметил он, Соединенные Штаты все равно смогли бы нанести Советскому Союзу сопоставимые разрушения. Вывод был очевиден: «Таким образом, единственным исходом тотальной войны станет поражение обоих соперников». В подобном конфликте не может быть победителя, утверждал Киссинджер в своей публикации 1957 года Strategy and Organization («Стратегия и организация»), «ведь даже более слабый противник может нанести удары, после которых любое общество долго не сможет оправиться».

Однако юношеский идеализм Киссинджера не сделал его пацифистом. В книге Nuclear Weapons and Foreign Policy он прямо заявил, что «ужасов ядерной войны вряд ли удастся избежать путем сокращения ядерных вооружений» или, если на то пошло, при помощи систем контроля над вооружениями. Вопрос заключался не в том, можно ли вообще избежать войны, а в том, «возможно ли представить себе применение силы менее катастрофичное, чем тотальная термоядерная война». Ведь если это невозможно, то Соединенным Штатам и их союзникам было бы очень трудно победить в холодной войне. «Отсутствие общего понимания относительно пределов ведения войны, – предупреждал Киссинджер в статье Controls, Inspections, and Limited War („Контроль, инспекции и ограниченная война“), опубликованной в журналеThe Reporter, – подрывает психологическую основу сопротивления действиям, которые предпринимают коммунисты. Там, где война считается равносильной национальному самоубийству, капитуляция может оказаться меньшим из двух зол».

Именно на этой основе Киссинджер выдвинул свою доктрину ограниченной ядерной войны, изложенную в статье Strategy and Organization:

На зловещем фоне надвигающейся угрозы термоядерной катастрофы достижение военной победы в том виде, в каком мы ее знали, больше не может являться целью войны. Она скорее должна заключаться в достижении определенных политических условий, полностью понятных противнику. Цель ограниченной войны – нанести противнику такой урон или приблизить его к таким рискам, которые были бы несопоставимы с его целями. Чем умереннее цель, тем менее жестокой, вероятно, окажется война.

Вперед