Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди

В любом из этих возможных сценариев, будь то господство корпоративных альянсов или дробление на религиозные сообщества, новые спорные «территории», вокруг которых разгораются конфликты, перестанут измеряться квадратными километрами. Связи между такими пользователями и любым институтом власти несомненно подвергнутся влиянию ИИ на статус традиционных централизованных форм правления. Это приведет к пересмотру классической концепции гражданства, а заключаемые между субъектами соглашения будут принципиально отличаться от союзнических договоренностей в привычном понимании.

Традиционно союзы создавались по воле правителей для усиления военной мощи. Но сегодня рождается иная парадигма: гражданство и политические альянсы (вплоть до феномена «цифровых крестоносцев») формируются снизу – в мирное время, на основе убеждений рядовых граждан. Это потребует либо изобретения совершенно новых, либо реанимации архаичных имперских моделей. Подобная трансформация переопределит саму природу общественного договора, включая право на выход из системы, если оно уцелеет под тотальным влиянием ИИ.

В мирных целях

Внешнеполитические стратегии государств – а значит, и международные отношения – всегда балансировали между идеализмом и прагматизмом. Исторический опыт показывает: достигнутые лидерами компромиссы были не окончательными решениями, а лишь временными тактическими ходами, необходимыми для своего времени. С каждой новой эпохой это противоречие порождало новые формы политического порядка. Истинный правитель не выбирает из готовых вариантов. Он принимает решения, рожденные (или кажущиеся рожденными) озарением, зачастую ставя цели, выходящие за рамки практической реализуемости.

Извечное противоречие между национальной выгодой и глобальным благом веками оставалось частью этого непрерывного развития. В своей дипломатической практике малые государства традиционно действовали прямолинейно, ставя во главу угла вопросы собственного выживания. Иная ответственность ожидала правителей мировых империй. Обладая ресурсами для решения более амбициозных задач, они сталкивались с мучительными дилеммами.

Со времен возникновения первых цивилизаций по мере усложнения социальных структур человечество непрерывно достигало новых уровней коллективного взаимодействия. Но в наши дни – возможно, под давлением глобальных вызовов и разного рода противоречий как между государствами, так и внутри них – наметился тревожный откат от этой многовековой тенденции. Так способны ли системы ИИ охватить беспрецедентно сложный уровень управления? Смогли бы они воспринимать мировые процессы, выйдя за рамки узких национальных интересов? Можно ли ожидать, что им удастся, более точно, чем нам, рассчитать наши базовые потребности и ценности, а затем вывести их правильное соотношение и взаимосвязь?

Было бы наивно ожидать, что, как один из нас уже отмечал, лидеры государств начнут последовательно

ограничивать свои действия лишь теми ситуациями, когда моральные, правовые и военные вопросы полностью согласованы, а легитимность решений максимально соответствует требованиям выживания[106].

В человеческом обществе подобное остается недостижимым. Но мы верим, что ИИ, используемый в политических целях как внутри стран, так и на международной арене, сможет предложить нечто большее, чем сбалансированные компромиссы. В идеале ИИ способен выходить за рамки человеческих возможностей, формулируя принципиально новые, абсолютно выверенные решения, оперируя более длительными временными горизонтами. Детализация таких решений была бы несоизмеримо выше, чем если бы их проекты подготавливали люди. Таким образом, алгоритмам ИИ удалось бы привести в соответствие все наши конкурирующие интересы. В будущем машинные интеллекты, разбирающиеся в урегулировании конфликтов и проведении мирных переговоров, помогут не только прояснить, но и преодолеть наши традиционные проблемы выбора.

Однако если ИИ действительно возьмется за решение задач, которые по праву лежат в зоне нашей ответственности, это может вызвать двойной кризис доверия – как к безосновательной самоуверенности сторонников автоматизации, так и к пораженческому фатализму ее противников. Первым будет горько осознать несовершенство нашей способности к самокоррекции – тот факт, что мы фактически капитулировали перед алгоритмической «мудростью» в решении фундаментальных человеческих проблем. Других же поразит пронзительная простота решения: оказывается, все запутанные вопросы требовали лишь одного – устранения человека из контура управления. Эта обманчивая простота беспощадно обнажает изъяны созданных нами систем. И здесь кроется главный парадокс: если мир всегда был вопросом сознательного выбора, то платой за человеческое несовершенство становились бесконечные войны. Осознание, что решение существовало в пределах досягаемости, но оставалось для нас концептуально недоступным, стало бы сокрушительным ударом по человеческой гордыне.

Мы привели один из особенно ярких примеров дилеммы зависимости и последующего ощущения неполноценности, рассмотренных в одной из предыдущих глав. Однако в вопросах безопасности – но не в научной или академической деятельности – мы, возможно, быстрее примем беспристрастность механического арбитра, ибо знаем: это заведомо лучше, чем человеческая заинтересованность. Это весьма похоже на то, как люди легко признают необходимость посредника в бракоразводном процессе. Здесь проявляется парадокс: наши не самые лучшие качества могут помочь принять превосходство ИИ. Инстинкт личной выгоды – даже в ущерб интересам других – заставит нас признать преимущество системы, которая априори лишена этого недостатка.

Глава 6. Процветание

Финский национальный эпос Калевала открывается сценой, где Вяйнямёйнен, принесший в пустынный мир первые деревья и жизнь, после изматывающей битвы в морских глубинах оказывается выброшенным на берега сумрачной Похьёлы[107]. Выходив героя, коварная Лоухи – владычица Похьёлы – требует необычный выкуп. Северная колдунья отвергает золото и серебро, желая получить лишь мифический Сампо – чудесный механизм, источающий нескончаемые блага.

Вместе с братом Ильмариненом, строителем небесного свода и единственным мастером, способным воссоздать Сампо, Вяйнямёйнен заключает сделку с ведьмой. Он клянется, что, если его отпустят, пришлет вместо себя брата. Лоухи же обещает Ильмаринену в жены свою прекраснейшую дочь, и кузнец с радостью принимает ее условия.

Три дня божественные ветры раздували мехи, пока бессмертный мастер ковал Сампо из редчайших и лучших материалов а это: «кончики перьев белых лебедей, молоко высшей добродетели, единственное зернышко ячменя и нежнейшая шерсть ягнят». Создав механизм с патрубками, извергающими нескончаемые потоки зерна, соли и монет[108], Ильмаринен извлекает свое творение из горнила. Но в тот же миг Лоухи с ликованием выхватывает Сампо и заточает в горном хранилище. С этих пор Похьёла процветает благодаря безграничной производительной силе Сампо, а обманутый кузнец остается ни с чем.

Лишь годы спустя Ильмаринен и Вяйнямёйнен возвращаются вместе, чтобы свершить правосудие. Они требуют половину всех даров Сампо, угрожая силой. В яростной битве чудесный механизм разбивается и падает в пучину, где пребывает и поныне, продолжая источать богатства, что делают океанские воды солеными.

Подобные сказания о чудесных источниках изобилия встречаются в мифологии разных народов: Акшая Патра – бездонный медный сосуд из индийского эпоса Махабхарата; котел изобилия – из ирландских мифов о боге Дагде; Утиде-но-кодзути – волшебная колотушка (или молоток) в преданиях, способная «выколотить» из ничего все, что прикажет владелец: одежду, или