Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди

Кроме того, ИИ обеспечит такую же скорость и гибкость защитных мер. Уничтожить эскадрильи беспилотников традиционными средствами практически невозможно. Однако орудия с ИИ, стреляющие потоками фотонов и электронов (вместо обычных боеприпасов), могут приводить к таким же разрушительным последствиям, что и геомагнитные бури, выводящие из строя электронику незащищенных спутников. И снова скорость и мобильность превзойдут человеческие возможности, уравнивая потенциал обороны и нападения.

Поскольку скорость и мобильность больше не являются определяющими факторами, преимущество в противостоянии будет зависеть от трех ключевых элементов: точности ударов, мгновенного эффекта и стратегического применения технологий.

Оружие с ИИ исключит саму возможность промаха. Ранее ограниченная осведомленность о территории противника препятствовала реализации стратегических замыслов. Однако внедрение научных достижений в военную сферу продолжает улучшать точность систем поражения, и ожидается, что ИИ совершит новый – возможно, не один – технологический прорыв. Таким образом, технологии ИИ позволят сократить разрыв между замыслом и результатом, в том числе в применении смертоносной силы. Будь то группировки наземных дронов, морские роботизированные эскадры или, возможно, рои межзвездных беспилотников – машины обретут сверхточную способность убивать людей с минимальной погрешностью и безграничными последствиями. Пределы разрушения теперь измеряются лишь выбором, сделанным человеком и запрограммированным в машины.

Таким образом, в эпоху ИИ война сведется в первую очередь к анализу не возможностей противника, а его намерений и стратегических целей. Ядерная эпоха уже отчасти ознаменовала этот переход но с развитием военных технологий на базе ИИ его истинная суть проявится куда отчетливей. Остается главное: что и зачем потребуется военачальникам, в чьем распоряжении теперь находится оружие с ИИ?

Поскольку ставки в этой гонке технологий чрезвычайно высоки, люди вряд ли станут основной мишенью конфликтов с участием ИИ. Более того, машинный разум сможет полностью исключить человеческий фактор из боевых операций, снизив людские потери, но сохранив абсолютную стратегическую эффективность. Аналогичным образом сами по себе территории вряд ли станут целью агрессии ИИ – в отличие от атак на дата-центры и другую критически важную цифровую инфраструктуру. (Суперкомпьютеры, вероятно, будут тщательно замаскированы, а базы данных распределены, что повысит устойчивость функционирования систем и предотвратит «обезглавливающий удар» по критическим элементам управления.)[102]

И тогда капитуляция станет неизбежной лишь после полного истощения живой силы и ресурсов противника, когда будет разрушена его система цифровой обороны, неспособная более защищать ни инфраструктуру, ни гражданское население. Конфликт может перерасти в противоборство автономных систем, где победу определит психологическая выдержка оператора (или устойчивость решений ИИ), стоящего перед выбором: рискнуть полным поражением или капитулировать, чтобы его избежать.

Даже мотивация участников этого нового поля боя окажется в корне иной. Г.К. Честертон писал:

Настоящий солдат сражается не потому, что ненавидит то, что перед ним, а потому, что любит то, что за ним[103].

В войне с участием ИИ не будет места ни любви, ни ненависти, ни тем более воинской доблести. Однако, возможно, ИИ будет руководствоваться такими понятиями, как эго, идентичность и преданность, хотя их природа и будет отличаться от того, что мы подразумеваем сегодня.

Военная стратегия всегда опиралась на простой расчет: проигравшей становится та сторона, которая первой признает причиняемые противником страдания невыносимыми – и капитулирует, открывая путь к переговорам. Осознание собственной уязвимости естественным образом порождает сдержанность. Но если отсутствует и это осознание, и сама способность испытывать боль (то есть если это понятие лишено всякого смысла), тогда что сможет сдержать военный ИИ? И что вообще способно остановить конфликты, инициированные с его участием? Станет ли ИИ, играющий в шахматы без знания правил завершения партии, сражаться до последней пешки?

Геополитическая трансформация

На каждом этапе истории, словно подчиняясь некоему естественному закону, появляется сила, которая, как однажды заметил один из нас,

обладает мощью, волей и интеллектуально-нравственным импульсом, чтобы переформатировать всю международную систему под свои ценности[104].

Ее возникновение ломает прежние правила, вынуждая игроков искать новые форматы взаимодействия. Результат – цепная реакция кризисов с непрерывным расшатыванием геополитического равновесия. Одним режимам такие системы несут распад, другим – беспрецедентное укрепление власти.

Традиционная система человеческой цивилизации – это привычная нам Вестфальская модель[105]. Однако концепция суверенного национального государства – исторически недавнее явление, насчитывающее всего несколько веков. Она оформилась лишь после подписания в середине XVII века договоров, известных как Вестфальский мир. Эта форма социальной организации не была предопределена исторически и, возможно, утрачивает актуальность в эпоху ИИ. Действительно, поскольку массовая дезинформация и цифровая дискриминация подрывают доверие к этой системе, ИИ может стать фундаментальной угрозой власти национальных правительств.

Ситуацию осложняет когнитивная дезориентация общества и его прогрессирующий отрыв от реальности. При этом ИИ потенциально способен переформатировать всю систему международных отношений. Если государства сохранят контроль над ИИ, человечеству предстоит сделать судьбоносный выбор: мириться с гегемонистским застоем или создавать принципиально новую архитектуру баланса между «вооруженными» ИИ державами. Однако возможен и более радикальный вариант – полная трансформация миропорядка, где традиционные правительства перестанут быть главными действующими лицами.

Один из возможных сценариев – полная монополизация корпорациями-разработчиками ИИ ключевых сфер влияния, от экономики до военно-политических рычагов управления. Современные государства оказываются в двойственной позиции. С одной стороны, они выступают покровителями частных компаний, предоставляя им военные ресурсы, дипломатическую поддержку и экономические рычаги для продвижения собственных интересов. С другой – вынуждены поддерживать доверие общества, все более скептически настроенного к их монопольному положению и корпоративной непрозрачности. Это противоречие может стать непреодолимым. Как говорилось ранее, прогресс ИИ затруднит управленческие процессы в традиционных институтах власти.

Между тем корпорации могут создавать альянсы, чтобы усиливать свою и без того значительную мощь. Эти союзы могут быть основаны на взаимодополняющих преимуществах и выгодах объединения либо на общей философии разработки и применения систем ИИ.

Такие корпоративные коалиции способны перенять функции традиционных государств, но с ключевым отличием: вместо контроля над территориями они будут расширять цифровые сети как сферу своего влияния.

Но возможен и иной исход. Бесконтрольное распространение открытых решений в области ИИ способно породить локальные сообщества с ограниченными, но функциональными возможностями систем ИИ. Эти группы смогут самостоятельно обеспечивать свою жизнедеятельность и защиту в определенных границах. Общества, отказывающиеся от централизованного управления, могут перейти к анархическим формам организации. Или такие группировки приобретут религиозную окраску, руководствуясь представлениями о связи ИИ с божественным началом, рассмотренными в предыдущей главе. В конце концов, как ясно показывает историческая перспектива, ни одно государственное образование не сумело сравниться с мировыми религиями – христианством, исламом и индуизмом – ни по масштабам влияния, ни по долговечности. В наступающую эпоху именно религиозная принадлежность, а не