Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди
Мы отдаем Вам дань уважения.
Когда в июне 2018 года Генри Киссинджер опубликовал статью How the Enlightenment Ends («Как заканчивается Просвещение») в журнале Atlantic, многих удивил тот факт, что в столь пожилом возрасте этот государственный деятель сумел составить и обосновать собственное мнение о проблематике искусственного интеллекта (ИИ). Действительно, Киссинджеру только что исполнилось 95 лет. В то время развитие ИИ еще не было такой растиражированной темой, как в конце 2022 года, когда компания OpenAI выпустит ChatGPT.
Однако я, будучи биографом Киссинджера, нахожу его интерес к проблематике ИИ закономерным и естественным. Не стоит забывать, что в 1957 году он обрел настоящую популярность благодаря работе, посвященной новой технологии, которая определила ход истории. Его книга Nuclear Weapons and Foreign Policy («Ядерное оружие и внешняя политика») была встречена с таким пристальным вниманием, что даже Роберт Оппенгеймер[2] одобрительно отозвался о ней как о «весьма обоснованном и в этом отношении совершенно беспрецедентном исследовании в области ядерного вооружения, отличающемся… скрупулезным отношением к фактам и вместе с тем страстной и жесткой аргументацией».
И хотя Киссинджер, в те годы докторант[3], с головой погрузился в дипломатическую историю Европы начала XIX века, он прекрасно осознавал (тогда и на протяжении всей своей карьеры), что вечные закономерности политики великих держав время от времени рушатся под натиском технологических новшеств. Как и многие представители его поколения, участвовавшие во Второй мировой войне, он воочию видел не только массовые разрушения и гибель людей, вызванные современным оружием, но и страшные последствия для своих соотечественников-евреев того, что Черчилль незабываемо окрестил «извращенной наукой» гитлеровского Третьего рейха.
Вопреки своей незаслуженной репутации поджигателя войны, Киссинджер на протяжении всей своей взрослой жизни был твердо намерен избежать Третьей мировой – возможного следствия перехода холодной войны между Соединенными Штатами и Советским Союзом в горячую фазу, чего многие действительно опасались. Он прекрасно понимал, что технология ядерного расщепления придаст новой мировой войне еще более беспощадный размах по сравнению со Второй мировой. В начале книги Nuclear Weapons and Foreign Policy Киссинджер оценил [гипотетический. – Примеч. ред.] разрушительный эффект десятимегатонной бомбы, сброшенной на Нью-Йорк, а затем сделал расчеты, что в результате тотальной атаки со стороны Советского Союза на пятьдесят крупных городов США, если бы таковая состоялась, погибли бы от 15 до 20 миллионов человек и были бы ранены от 20 до 25 миллионов. Еще от 5 до 10 миллионов человек погибли бы от радиоактивных осадков, а еще 7–10 миллионов стали бы жертвами лучевой болезни. Выживших ждала бы «социальная дезинтеграция». Но даже после такой атаки, отметил он, Соединенные Штаты все равно смогли бы нанести Советскому Союзу сопоставимые разрушения. Вывод был очевиден: «Таким образом, единственным исходом тотальной войны станет поражение обоих соперников». В подобном конфликте не может быть победителя, утверждал Киссинджер в своей публикации 1957 года Strategy and Organization («Стратегия и организация»), «ведь даже более слабый противник может нанести удары, после которых любое общество долго не сможет оправиться».
Однако юношеский идеализм Киссинджера не сделал его пацифистом. В книге Nuclear Weapons and Foreign Policy он прямо заявил, что «ужасов ядерной войны вряд ли удастся избежать путем сокращения ядерных вооружений» или, если на то пошло, при помощи систем контроля над вооружениями. Вопрос заключался не в том, можно ли вообще избежать войны, а в том, «возможно ли представить себе применение силы менее катастрофичное, чем тотальная термоядерная война». Ведь если это невозможно, то Соединенным Штатам и их союзникам было бы очень трудно победить в холодной войне. «Отсутствие общего понимания относительно пределов ведения войны, – предупреждал Киссинджер в статье Controls, Inspections, and Limited War („Контроль, инспекции и ограниченная война“), опубликованной в журналеThe Reporter, – подрывает психологическую основу сопротивления действиям, которые предпринимают коммунисты. Там, где война считается равносильной национальному самоубийству, капитуляция может оказаться меньшим из двух зол».
Именно на этой основе Киссинджер выдвинул свою доктрину ограниченной ядерной войны, изложенную в статье Strategy and Organization:
На зловещем фоне надвигающейся угрозы термоядерной катастрофы достижение военной победы в том виде, в каком мы ее знали, больше не может являться целью войны. Она скорее должна заключаться в достижении определенных политических условий, полностью понятных противнику. Цель ограниченной войны – нанести противнику такой урон или приблизить его к таким рискам, которые были бы несопоставимы с его целями. Чем умереннее цель, тем менее жестокой, вероятно, окажется война.
Для этого потребуется понимание психологии другой стороны, а также ее военного потенциала.
В то время многих обескуражил хладнокровный, на первый взгляд, ход размышлений Киссинджера об ограниченной ядерной войне. Некоторые ученые, такие как Томас Шеллинг, оспаривали возможность предотвращения неудержимой эскалации; позже даже сам Киссинджер засомневался в собственных аргументах. Тем не менее обе сверхдержавы продолжили создавать и развертывать тактическое ядерное оружие, следуя именно той логике, которую Киссинджер подробно описал в книге Nuclear Weapons and Foreign Policy. Концепция ограниченной ядерной войны, возможно, в теории не сработала бы, однако действия военных стратегов обеих сторон словно демонстрировали их ожидание того, как она могла бы осуществиться на практике. Молодой Киссинджер был прав в отношении ядерного оружия больше, чем сам он мог предположить.
Киссинджер никогда не переставал размышлять о последствиях технологических изменений для политической сферы. В давно забытом документе, который он составил для Нельсона Рокфеллера в январе 1968 года, Киссинджер заглянул в будущее, анализируя способы, которыми распространение компьютеров могло бы помочь чиновникам справляться с постоянно растущим потоком информации от правительственных агентств США. По его мнению, высшим должностным лицам грозила серьезная опасность утонуть в этом море данных. «В распоряжении политика высокого ранга, – писал он, – столько информации, что в кризисных ситуациях он просто не в состоянии с ней разобраться». Киссинджер утверждал, что лица, принимающие решения, должны «постоянно получать сведения о вероятных проблемных точках», в том числе о потенциально проблемных, «даже если те совсем не в приоритете». Они также должны располагать «набором вариантов действий, <…> предусматривающих запасные ходы на случай прогнозируемых обстоятельств с оценкой вероятных последствий – внутренних и внешних – каждой такой альтернативы».
Чтобы добиться такого всеобъемлющего охвата, признавал Киссинджер, потребуются крупные инвестиции в программирование, хранение, поиск и графическое отображение данных. К счастью, «аппаратные и программные средства» для выполнения всех этих четырех функций уже существовали.
Сейчас мы можем хранить несколько сотен единиц информации о каждом человеке в Соединенных Штатах на одной магнитной ленте длиной 2400 футов. Компьютеры третьего поколения способны выполнять основные машинные операции за наносекунды, то есть миллиардные доли секунды… Экспериментальные системы разделения времени[4] показали, что
