Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди
Основная проблема концепции философа-короля – тогда и теперь – заключается в ограниченных возможностях человеческого разума. Обладая огромным массивом информации, самый опытный правитель все же мог воспользоваться лишь крупицей необходимых сведений, чтобы увидеть ситуацию со всех сторон и принять обдуманное решение. Мир непостижимо сложен, а человеческая интуиция порой слепа. Модель совместного правления также решала эту проблему лишь отчасти.
Так, люди редко задумываются о том, что государственное управление требует прежде всего способности обрабатывать информацию. Мы склонны возвышенно описывать политические системы, связывая их с ценностями и идеологиями. Однако и в мирное время, и в военное значительная часть вопросов управления государством сводится к эффективности работы с данными. Ошибки в обработке информации могут объяснить крах многих сверхцентрализованных систем управления, включая СССР. На определенном этапе холодной войны советские ученые даже разрабатывали кибернетический политический аппарат, призванный снабдить коммунистическое руководство технологическими инструментами, которые должны были заменить рыночные механизмы, столь эффективно использовавшиеся их капиталистическими противниками.
И Платон два тысячелетия назад, и советские кибернетики полвека назад, по сути, искали того, кого сегодня мы назвали бы архитектором сложных систем или, возможно, искусственным разумом. Однако до появления ИИ централизованная власть не могла принимать решений на основе локальных данных – по крайней мере, эффективно. Эту идею наиболее четко сформулировал экономист и политический философ XX века Фридрих Хайек. Лишь когда мы ограничили свою тягу к контролю, мы высвободили невидимые силы, управляющие распределением талантов, богатства и идей – те самые силы, которые так долго ускользали от нашего понимания.
Главный изъян централизованных систем в доинформационную эпоху заключался в черепашьей скорости передачи данных, когда сообщения могли перемещаться только по суше, а не лететь по воздуху в виде воли. Многие полагали, что в XXI веке мгновенная передача информации наконец сравняет централизованные системы с децентрализованными. Однако прогноз не сбылся. Оказалось, что главным барьером стала не скорость коммуникации, а сложность управления.
Свойства машин, описанные в предыдущей главе, теперь позволяют централизованному ИИ конкурировать с децентрализованными системами обработки информации, потенциально превосходя их. Его скорость еще больше сокращает разрыв между теорией и реальностью, а масштаб и точность обеспечивают всеобъемлющий охват и детализацию[74]. Ответ Аристотеля в виде демократии, возможно, действительно был этичнее платоновского, но он победил в исторической битве благодаря большей эффективности.
Это не означает, что способности ИИ к обработке информации обязательно подорвут сами основы демократии. Однако несомненно, что возможность эффективной централизации изменит механизмы демократических процессов. Это может привести к созданию своеобразной «демократической биржи» – платформы для молниеносной оценки и ранжирования идей. ИИ смогут анализировать интересы миллиардов людей, включая будущие поколения, с беспрецедентной точностью прогнозируя последствия – от сиюминутных эффектов до влияния прорывных технологий в самой долгосрочной перспективе.
Объединенное воображение этих разумов теперь может слиться в единую силу, уравнивая и потенциально превосходя аристотелевские методы. Если удастся создать единый разум, воплощающий коллективный интеллект и ценности демократического общества – своего рода гигантского «философа», находящегося рядом с избранным правителем, – тогда гипотезы аль-Фараби и Штрауса о гармоничном соуправлении станут реальностью.
В перспективе ИИ может устранить разрыв между естественными и общественными науками – прежде всего в политологии, занимающей особое место. Законы человеческой природы станут предсказуемыми, а политические решения – столь же надежными, как для нас сегодня законы физики.
Беспрецедентные возможности обработки информации позволят алгоритмам ИИ достичь по-настоящему эффективной централизации управления. Можно ожидать, что это лишь укрепит убежденность в безрадельном контроле со стороны элит. Однако непрозрачность таких систем и сама идея о том, что их работа может быть оптимизирована без человеческого вмешательства, приведет к противоположному эффекту. Со временем человеческий контроль может превратиться из необходимости в обузу. Подобно тому как европейские правители XVIII века с опаской доверяли «невидимой руке рынка», современным лидерам, возможно, предстоит принять новую форму коллективного разума – цифровую платформу, воплощающую мудрость народа в совершенно новой форме.
Разум правит
Когда – и если – ИИ начнет не только обрабатывать информацию для управленческих целей, но и принимать политические решения, перед традиционной политологией встанут вопросы, к которым она пока не готова. В этой области еще нет устоявшихся понятий. Как сторонний наблюдатель сможет оценить «превосходство» стратегического решения, принятого ИИ, если логика, лежащая в его решении, остается необъяснимой? Хотя главным критерием, безусловно, останется результат, мы рискуем утратить нечто важное – особенно для исторического понимания, – если не сохраним четкие принципы, по которым действовала система.
В будущем люди, вероятно, часто станут критически относиться к решениям, предложенным алгоритмами ИИ, – не потому, что те неразумны, а потому, что их логика окажется за пределами непосредственного человеческого понимания. Особую тревогу вызывает перспектива не только потерять возможность вмешиваться в процесс принятия решений, но и лишиться способности осмысливать его (т. е. возможности интерпретации этого процесса) – даже после свершившегося факта.
В ситуациях несовпадения мнений человеческого руководства и ИИ в вопросах государственного управления чье суждение должно возобладать? Изменится ли ответ, если станет очевидным, что рекомендации ИИ – в отличие от нашей с вами позиции – способны учитывать интересы человечества в далеком будущем и потому в долгосрочной перспективе окажутся полезнее решений, принятых людьми?
Прагматическая сторона человеческой интуиции, возможно, приняла бы программы дальновидного ИИ, особенно если бы он мог их обосновать. Но даже в этом случае не избежать конфликтов – например, люди отвергнут меры, спасающие будущие поколения ценой страданий ныне живущих. Точно так же ИИ может предлагать логичные, но политически невозможные решения – к примеру, урегулирование конфликтов в горячих точках путем мирных договоров, неприемлемых для враждующих сторон. Риск массового протеста останется высоким. Даже если человечество согласится на то, что управлять им будут машины, даже если их логика будет понятна, а решения – рациональны, полезны и объективно совершенны, мы, люди, все равно можем оказаться «неуправляемыми». Политика, лишенная духовного измерения, обречена на провал. Как писал Лев Толстой,
Если допустить, что жизнь человеческая может управляться разумом, то уничтожится сама возможность жизни[75].
Эти иррациональные элементы человеческого бытия – прежде всего историческая память, но также эстетика, сила обаяния и эмоциональный отклик – в каком-то смысле могут препятствовать достижению результатов, оптимальных с позиции властей ИИ, но именно эти элементы находятся в основе наших политических сообществ. Правление, построенное исключительно на разуме, способно разрушить государства. Чрезмерно рациональные ИИ
