Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди
Конечно, падение с высот власти может быть столь же внезапным, как и восхождение. Ни один правитель не защищен от революционных бурь или гибели от рук заговорщиков. Самоубийство Нерона, дуэль Гамильтона, убийство Ганди – даже великих не минует смертный удел.
Будучи историческими деятелями, все эти личности глубоко заинтересованы в поддержании порядка и безопасности. Однако как члены единой человеческой семьи они – подобно всем нам – не свободны от страстей ревности, взаимного недоверия и родственного соперничества[83]. Те же самые конфликты, что разыгрываются в правящих домах, мы находим и в обычных семьях. Нам понятно, как непросто побороть ревность и заключать союзы с бывшими врагами – как это делала вдовствующая императрица Цы Си, поднявшаяся от положения наложницы до правительницы Китая. Столь же ясно нам и отвращение к предательству генерала Мир Джафара, чей переход на сторону англичан в битве при Плесси фактически передал Индию британцам в обмен на ничего не значащий титул первого наваба Бенгалии. Будь правители поистине богоподобными, безупречными или всеведущими, они не знали бы тревог, отчаяния, любви или зависти. А между тем именно эти знакомые каждому чувства и слабости движут вперед колесо истории.
Политика как социальный феномен одновременно достойна восхищения и порицания – ведь она отражает наши личные страсти и амбиции. Наполеон покорил Европу, но так и не смог покорить сердце Жозефины; соперничество между Джоном Адамсом и Томасом Джефферсоном[84] напоминает обычные склоки меж братьями; «Война и мир» Толстого повествует не столько о великих исторических событиях, сколько о частных судьбах, на фоне которых эти события разворачивались. Воинство, последовавшее в XV веке за девятнадцатилетней Жанной д'Арк, мало чем отличалось от солдат, поднявших мятеж против Александра Македонского при Описе в 324 году до н. э., после того как он завоевал почти весь известный тогда мир. На стыке политического и личного действительность сливается с вымыслом, исторические хроники – с героическим эпосом.
Политика, лишенная человеческого фактора, утратила бы нарративную динамику. Без устранения соперников или примирения с заклятыми врагами, без головокружительных взлетов к власти и стремительных падений государственное управление лишилось бы жизненной силы, став менее увлекательным и даже попросту скучным. Исчезни грань между трагедией и комедией – и императорский двор тут же превратится в бесцветную декорацию, лишенную интриг и подлинных страстей.
С другой стороны, появление ИИ в роли невиданного ранее персонажа может стать прологом к новой сцене в политической драме человечества. Этот герой может изменить сущность и динамику ставших привычными типажей. Однако некоторые вещи останутся незыблемыми: краткость человеческой жизни по-прежнему будет определять наши взлеты и падения, а социальная природа – диктовать правила вечных игры любви, амбиций и нравственного поиска.
Именно эту человеческую «неидеальность» нашей политики мы должны бережно сохранить, чтобы гармонично дополнить ее безупречностью систем ИИ. Искусственный разум, лишенный внутренних противоречий, не будет знать границ, тогда как собственная изменчивая природа, хоть и ограничивала наши достижения, одновременно служила естественным сдерживающим механизмом для человеческой агрессии.
Современная система человеческого властвования опирается на многовековой опыт исторических случайностей. Пока что нереализованный потенциал ИИ кроется в его способности к безупречному анализу. Нынешним лидерам предстоит стать первыми правителями, кто должен найти баланс: используя преимущества ИИ (а в некоторых случаях – подчиняясь необходимости его применения), но никогда не допуская тотальной зависимости. Их задача – выработать компромисс между крайностями деспотизма и анархии, объединив человеческую волю, машинный интеллект и уроки прошлого.
Глава 5. Безопасность
От радикального изменения военной тактики до преобразования самого языка дипломатии ИИ станет ключевым элементом нового мирового порядка. Свободный от человеческих страхов и предрассудков, он обеспечит беспрецедентно объективную основу для стратегических решений. Однако даже эта холодная беспристрастность, будь она в руках бойца или миротворца, должна оставлять место человечности, поскольку без нее любое насилие теряет последние нравственные ограничения. Являясь скорее отражением нашей действительности, нежели прорывом в неизведанное, ИИ в военной сфере высветит как лучшие, так и худшие грани человеческой природы. Прежде чем технологии выйдут на новый уровень, станет ясно: одна и та же система способна служить одновременно инструментом конфликта и механизмом его завершения.
Многовековые усилия человечества по созданию усложняющихся моделей взаимоотношений, где ни одна держава не может установить тотальное господство, превратились в устойчивую тенденцию развития цивилизации. В мире, где ключевые решения по-прежнему принимают люди (даже если они используют ИИ для получения информации, рекомендаций и консультаций), сохраняется определенная стабильность благодаря общим нормам поведения, которые постепенно адаптируются к меняющимся условиям.
Однако если ИИ достигнет подлинной автономии в принятии политических, дипломатических и военных решений, это приведет не к постепенной трансформации, а к полному дисбалансу в традиционном распределении сил. Хрупкая система международных отношений, формировавшаяся веками и основанная на относительном равенстве участников, окажется под угрозой. В условиях нарастающего неравенства, когда одни страны интегрируют ИИ в систему государственного управления, а другие отстанут в этой гонке, любые прогнозы окажутся бессмысленными. Когда военным и дипломатам предстоит противостоять либо государству с доминирующим ИИ, либо автономному искусственному разуму, их шансы не только на победу, но даже на выживание становятся сомнительными. Такой переходный период грозит двойным кризисом: упадком и расколом внутри общества и неконтролируемой эскалацией глобальной напряженности. Война – всегда нечто большее, чем решение вопросов безопасности: человечество веками сражалось ради триумфа славы либо ради защиты собственного достоинства. Однако машины – пока – лишены понимания и того и другого. И потому они способны развязать конфликт, не имеющий аналогов в истории. Но какие решения станет принимать ИИ? Не исключено, что ИИ сможет полностью предотвратить войны, предложив альтернативу – например, мгновенное и оптимальное перераспределение территорий на основе комплексного анализа стратегических, экономических и демографических факторов. Или же, ставя во главу угла результат и не придавая значения отдельным жизням, втянет человечество войну на истощение. Перед человечеством открываются два противоположных пути: преображение, способное искоренить саму природу человеческой жестокости, или тотальное порабощение, отбрасывающее цивилизацию в мрачное варварское прошлое.
Существует ли третий вариант? Ни многовековые усилия дипломатов, ни кровавые уроки войн так и не привили человечеству стойкой ненависти к насилию и разрушению. Однако с наступлением эры ИИ появляется шанс – впервые в
