Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди

Разумеется, ИИ может стать и причиной гибели нашей цивилизации, спровоцировав контакт с враждебной внеземной формой разума. Так, системы могут обладать технической возможностью генерировать мощные и устойчивые сигналы в космическом пространстве, что повышает вероятность обнаружения человеческой цивилизации потенциальными внеземными наблюдателями. Одновременно системы ИИ способны обнаружить обитаемые планеты, существенно увеличивая вероятность межзвездного контакта, с непредсказуемыми последствиями. Эксперты полагают, что выход человечества на межзвездный уровень требует технологических возможностей для парирования даже маловероятных угроз. В этом контексте ИИ выступает одновременно как необходимое условие для установления контакта и как защита от потенциальных рисков. При этом следует учитывать, что взаимодействие с постбиологическими разумными формами может представлять экзистенциальную угрозу. Современные цифровые системы не могут гарантировать безопасность подобных контактов.

Другой сценарий гибели человеческой цивилизации связан с утратой контроля над ИИ, что может привести к расхождению его функционирования с нашими целями. (Особую актуальность данный риск приобретет, если мы обнаружим свидетельства исчезновения биологических форм жизни на других планетах, причиной которого стали технологические системы местного происхождения.)

Далекие миры занимали мысли человечества на протяжении столетий: они формировали религии, становились главным объектом астрономии, вдохновляли писателей. Однако значительно меньше внимания уделяется более вероятному сценарию – «первому контакту» не в далеком космосе, а здесь, на Земле, с искусственными системами, созданными нами же. Столь же важно (если не важнее) понимать, как влиять на цели тех, кто формируется рядом с нами, а не только гипотетических разумов за пределами нашей планеты. Этому вопросу будет посвящен детальный анализ в следующей главе.

Даже если сообщества людей и ИИ не обнаружат инопланетных форм жизни и не проложат путь к чужим мирам, они обретут множество полезных, и до тех пор непостижимых, знаний. Вместе мы сможем подняться до новых уровней осмысления космических масштабов, структуры пространства-времени, динамики звездных систем и фундаментальных законов гравитации. Алгоритмическое моделирование ИИ способно сократить межзвездные дистанции, сжать и растянуть земное время, преобразовать и расширить границы нашего восприятия Вселенной.

Астрофизические исследования с применением ИИ могут привести человечество к новому уровню осознания своего далекого прошлого. Религиозная космология исторически предлагала философские и теологические интерпретации вопросов происхождения. Однако открытия новых космических исследований, неизбежно связанные с нашими глубинными истоками, помогут переосмыслить даже самые священные верования человечества. Возможно, неслучайно главной святыней ислама стал Черный камень – метеорит, вмурованный в восточный угол Каабы, священного сооружения в Мекке, считающегося духовным центром мусульманского мира[151]. Возможно, в каббалистической концепции кфицат а-дерех (ивр. «сокращение пути») – чудесного сокращения расстояния между удаленными точками – заключен более глубокий смысл, чем кажется на первый взгляд[152].

В книге The Grand Design («Высший замысел») Стивен Хокинг и его соавтор Леонард Млодинов пишут:

Ненаблюдаемое прошлое, подобно будущему, неопределенно и существует лишь как спектр возможностей[153].

На сегодняшний день перед нами – предел познаваемого. Но создаваемые нами системы ИИ могут преодолеть этот горизонт, выявив, возможно, единую фундаментальную структуру реальности. Тогда они откроют человечеству целостную картину мироздания – удивительно простую в своей основе, но бесконечно сложную в проявлениях.

Часть III. Древо познания

Глава 8. Стратегия

XX век стал свидетелем масштабных трансформаций, через которые история провела человечество. Среди ключевых вех:

• глубокие потрясения двух мировых войн и создание системы международной безопасности для предотвращения новых катастроф;

• постепенный крах империй и становление независимых государств на их обломках;

• бурное развитие коммерческих и технологических мощностей;

• новый виток борьбы за автономию – индивидуальную, культурную и национальную – как противовес этим тенденциям.

К завершению столетия человечество подошло, достигнув невиданных прежде уровней мирного сосуществования, социального равенства и глобальной взаимозависимости. Однако в других аспектах наши коллективные усилия потерпели неудачу: все так же сохраняются глубокие структурные проблемы, включая устойчивое социальное расслоение, гуманитарные катастрофы и напряженность в отношениях между ведущими мировыми державами.

Более того, современный вызов носит не просто сложный, но фундаментально экзистенциальный характер – в отличие от большинства предыдущих. При этом временные рамки для его решения крайне ограничены: в распоряжении человечества уже нет ни столетий, ни даже десятилетий. Как отмечалось во второй главе, развитие ИИ радикально сокращает доступные временные горизонты, существенно ограничивая пространство для маневра. В этих условиях даже незначительное промедление может привести к необратимым последствиям. В исключительно сжатые сроки нам необходимо обеспечить беспрецедентную эффективность коллективных действий, превосходящую достижения предыдущего столетия.

При этом текущий период нестабильности создает немало значительных возможностей для конструктивных изменений, многие из которых требуют лишь тактических ходов. Сейчас ключевым стратегическим приоритетом становится определение основных принципов, способных служить ориентиром как для текущих, так и для долгосрочных решений. Четкое формулирование таких принципов позволяет очертить границы возможного, создать основу для принятия частных решений, снизить когнитивную нагрузку при наступлении кризисных ситуаций.

С нашей точки зрения, в новую эпоху стратегическое развитие человечества должно определяться центральным вопросом: станем ли мы больше похожи на машины или это они будут походить на нас? Этот вопрос, практически в той же формулировке, мы уже задавали в самом начале нашего исследования. И поиск ответа сохраняет свою первостепенную значимость.

В данной главе мы попытаемся сформулировать – пусть и приблизительный – ответ на этот вопрос. Для этого мы рассмотрим несколько масштабных и, пожалуй, дискуссионных концепций:

• коэволюцию биологических и искусственных систем;

• парадоксы «разумной безопасности», «безопасного интеллекта»;

• проблему определения человеческой природы.

И хотя данные идеи не являются ни абсолютными истинами, ни догматическими положениями, их потенциальное влияние на будущие поколения требует тщательного осмысления. Несмотря на всю сложность поставленных задач, необходимо осуществить комплексную интеллектуальную и практическую работу по анализу последствий и найти разумные решения. Принимая на себя эту ответственность, мы благодарим судьбу за то, что еще, вероятно, не поздно, чтобы, преодолев этот переломный период, человечество сохранило свои гуманистические основы.

Коэволюция: искусственное и человеческое

История вычислительных технологий демонстрирует устойчивую тенденцию к углублению интеграции человека и машины. Тысячелетиями мы создавали и совершенствовали инструменты, максимально адаптированные под наши анатомию и интеллект, оставаясь в рамках биологических возможностей. Однако с появлением ИИ ситуация изменилась принципиально – теперь обсуждается возможность адаптации человека к технологиям, а не наоборот. Когда созданные нами системы начинают превосходить наши когнитивные способности, возникает закономерный вопрос: не стоит ли нам изменить самих себя, чтобы максимально эффективно использовать эти технологии и сохранить значимую роль в симбиозе, описанном в предыдущих главах?

Современные исследования в области биологической инженерии уже охватывают задачи по созданию интерфейсов «мозг-компьютер»[154]. Эти разработки открывают перспективы принципиально нового уровня взаимодействия биологического и