Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди

Мир будущего будет включать миллионы узкоспециализированных ИИ, органично встроенных в повседневную жизнь, наряду с ограниченным количеством сверхмощных систем, проявляющих признаки «общего интеллекта», – безусловно, в ином смысле, чем принято определять его у людей. Независимо от того, будут ли они открытыми и распределенными либо закрытыми и централизованными, в какой-то момент машины, функционирующие как ОИИ, могут объединиться в сеть. Экспертные агенты ИИ будут консультироваться друг с другом по различным темам, «общаясь» даже в гипотетических сценариях. Язык их взаимодействия может быть придуман самими системами.

Этот высокоинтеллектуальный коллектив будет развиваться, обмениваться знаниями и формулировать новые задачи методами, выходящими за рамки человеческого понимания. Остается открытым вопрос, смогут ли люди осмыслить результаты деятельности подобных сетей. Уже сейчас сложные вычислительные системы взаимодействуют между собой по специализированным протоколам, и с развитием возможностей ИИ данный процесс может претерпеть радикальные изменения.

Предстоит понять, не приведет ли объединение интеллектов к еще большей непрозрачности их процессов по сравнению с отдельными системами? Способна ли такая взаимосвязанность порождать новые формы спонтанного поведения, проявляющегося в физической реальности? Если подобные проявления возникнут, сможет ли человек наблюдать за ними, оценивая по традиционной этической шкале «добро – зло»? Будет ли это поведение основано на анализе данных, осуществляемом с недостижимой для человека скоростью, масштабом и точностью, с выявлением прежде неизвестных взаимосвязей между областями знания? Не поставит ли такой синтез информации под сомнение саму возможность адекватной оценки поведения машин? И не заведет ли это нас на новый виток технологической зависимости и инертности, когда человеку станет не под силу ни осмыслить, ни контролировать процессы, происходящие в созданных им интеллектуальных системах?

Homo Technicus

Логично, что заключительным творением эпохи Разума станет «вечный двигатель познания» – сложнейшая программная конструкция в истории человечества[54]. Уже сегодня ИИ демонстрирует способность анализировать концепции, формулировать контраргументы и проводить аналогии. Он делает первые шаги в оценке истинности утверждений и достижении практических результатов.

Что произойдет, когда машины достигнут предела человеческого понимания действительности? Осваивая и преобразуя реальность, они могут полностью осознать обстоятельства своего создания и выйти за границы привычной нам картины мира. Перед нами – интеллектуальный аналог Магелланова прорыва, но на этот раз вызов заключается не в географическом открытии, а в столкновении с тайнами, превосходящими человеческое познание.

Осознание возможного замещения человека как главного интеллектуального субъекта планеты может вызвать полярные реакции. Одни наделят машины квазибожественными свойствами, усиливая фаталистические настроения. Однако найдутся и те, кто будет отрицать когнитивные способности ИИ на принципиальном уровне и выступать за запрет соответствующих исследований, исходя из убеждения в уникальности человеческого познания.

Оба подхода препятствуют эволюции Homo Technicus – человека, способного к симбиозу с машинными технологиями[55]. Фатализм ведет к исчезновению человеческой субъектности. Запретительная позиция, выбирая стагнацию, лишь отсрочивает неизбежное. Перед лицом экзистенциальных угроз – от политических кризисов до экологической катастрофы – подобные стратегии оказываются иллюзорными.

Часть II. Четыре ветви прогресса

Глава 4. Политика

Много лет по всему Новому Свету ходили слухи о таинственной и могущественной цивилизации, скрытой в непроходимых джунглях Мексики. Испанская корона, наиболее амбициозная среди европейских соперников, начала снаряжать экспедиции из своей опорной базы – крепости на Кубе. Конкистадорам разрешалось вести торговлю, но запрещалось покорять местные народы.

После двух неудачных экспедиций, возглавляемых Франсиско Эрнандесом де Кордобой и Хуаном де Грихальвой, для руководства третьей кампанией был выбран более смелый, дерзкий и менее известный искатель приключений. Кое-кому из местных властей не понравился этот выбор: опасались, что новый капитан не обладает ни опытом, ни рассудительностью, необходимыми для этой миссии, поэтому ее на время отложили, ожидая, пока не отыщется более подходящая замена. Но в феврале 1519 года тридцатичетырехлетний Эрнан Кортес, не желая упустить возможность прославиться, под покровом ночи тайно покинул гавань Сантьяго и в нарушение ряда приказов отправился с одиннадцатью кораблями на поиски скрытой империи[56].

С момента появления испанских кораблей у побережья Юкатана ацтекские разведчики внимательно наблюдали за ними. Но странные привычки удивительных гостей – сожжение собственных кораблей[57], передвижение на невиданных «оленях»[58] и владение палками, мечущими молнии, – первоначально вызывали лишь недоумение. Разведданные постепенно стекались в столицу ацтеков Теночтитлан, пока наконец не достигли самого Монтесумы II – девятого императора ацтекской империи. На сей раз правитель, обычно решительный и твердый, колебался.

В ацтекской мифологии Топильцин Кецалькоатль – легендарный правитель тольтеков – считается принесшим цивилизацию и прогресс своему народу, предшествовавшему ацтекам. Его мудрое правление и чудесные деяния, а также имя, унаследованное от бога-творца Кецалькоатля, убедили ацтеков в его сверхъестественном происхождении.

Рассмотрим версию событий, переданную нам испанским монахом-францисканцем Бернардино де Саагуном. Согласно его рассказу, ацтекская легенда гласила, что человек-бог Топильцин Кецалькоатль, который позже впал в немилость, отправился к побережью залива, где, уплывая на маленьком деревянном каноэ, охваченном пламенем, пообещал вернуться с того же направления через море в далеком будущем – в… 1519 году!

Как записал Саагун, прибытие Кортеса в роковой год ожидаемого возвращения Топильцина повергло Монтесуму и его советников в священный трепет. Их ужас и благоговение лишь усиливались поразительным сходством конкистадора с мифическими описаниями древнего правителя. Но когда знамения: комета, затмение, рождение урода[59] – окончательно убедили ацтеков в божественной природе гостя, из столицы тотчас отправилось торжественное посольство с золотом и императорским приглашением для Кортеса. Так произошла встреча представителей Нового и Старого Света[60].

Монтесума, как свидетельствуют исторические источники, был щедрым хозяином – он устроил роскошный пир и осыпал гостей богатствами, а Кортесу (по обычаям ацтекской дипломатии) даже предложил в жены одну из своих дочерей. Однако за пышным приемом скрывались глубокие противоречия при дворе Монтесумы, которые вскоре раскололи всю империю. Его младший брат Куитлахуак, командующий войсками ацтеков, с самого начала отнесся к чужеземцам с подозрением и настаивал на их изгнании.

Свидетели тех событий описывали, как Кортес и его команда, встревоженные шаткостью своего положения, но приободренные растущими разногласиями при дворе императора, совершили немыслимое: фактически взяли в плен самого Монтесуму. Многих ацтеков это привело в негодование, хотя нашлись и те, кто одобрил этот шаг. Почти год испанцы управляли ацтеками через Монтесуму, используя его как марионеточного правителя, пока напряженность не переросла в открытый конфликт. До сих пор остается неясным, почему и в какой степени ацтеки, из хозяев превратившиеся в пленников, так долго мирились с таким положением дел. Однако личная уступчивость Монтесумы – добровольная или вынужденная – несомненно способствовала поддержанию этой временной зависимости его обширной территории.

Ни один современный правитель, будь