Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден

Да, в этом и состоит наш долг: перво-наперво и немедля надо запретить генеративный, но можно сказать и «дегенеративный», искусственный интеллект в разных его видах, подавляющий наши голоса и отнимающий право свободно выбирать путь. Для глав государств, для национальных и международных политических организаций и гражданского общества в целом было бы делом чести издать текст, который объявил бы обязательным во всем мире запрет этих средств, пагубных для проявления наших чувств и разума.

Это был бы благородный и красивый способ сказать вселенной под знаком хюбриса, населенной супергероями, которые живут фантазиями из детства и преследуют лишь собственные интересы, что не им диктовать, как должна протекать наша жизнь. Нынешний момент, как никогда, требует подняться до уровня важности событий, забыть наконец мантру Силиконовой долины, клятвенно обещающую лишь отказ от любых ограничений, и провозгласить, во имя нашего прошлого, настоящего и будущего, что нам морально запрещено не запрещать[163] пересечение этого последнего рубежа.

Таких резких подвижек можно не ждать. Не будем наивными. Хоть мы и признаем, что цивилизация переживает поворотный момент, к которому ее привела в основном частная инициатива, хоть и говорим, что в ближайшем будущем решающую роль будут играть всевозможные роботы, что эти процессы застают нас врасплох, ни с кем не считаясь, выходит, что, несмотря на все эти факторы, – одного из которых, казалось бы, достаточно, чтобы заставить нас действовать, – неискоренима идея, будто мир решительно не может совершить ошибку, что он, в сущности, воплощает собой предельный горизонт нашей эпохи. Чтó это, как не чудовищная «слепота перед лицом апокалипсиса», если вновь вспомнить слова Гюнтера Андерса, сказанные некогда о ядерной угрозе?

Итак, настал момент грандиозного разоблачения, без прикрас высвечивающий презрение к роду человеческому, которое с самого начала культивировал промышленный капитализм, а с ним и либеральный индивидуализм, никогда прежде так не называвшийся, возникший чуть ли не из бессознательного, но благодаря искусственному интеллекту обретающий теперь институциональную форму, хоть и под видом явления, ниспосланного откуда-то свыше, – так что всем нам пора шире раскрыть глаза. Сегодня необходимо понять, что решающий вопрос, который на самом деле перед нами встает, выходит за рамки цифровых технологий и заставляет задуматься, причем очень срочно, готовы ли мы защищать жизненные силы человечества, пока они окончательно не иссякли. Нашего человечества, которое вот уже два столетия вынуждено все время «держать удар», выражающийся в умалении нашей личности, асимметричном, унизительном распределении прав и полномочий, в условиях труда, ведущих к различным патологиям, в неравенстве, порождающем озлобленность, как и в катастрофическом воздействии на окружающую среду. Ныне такой удар грозит лишить самостоятельности как лично нас, так и социально-политическое сообщество – в силу того, что некий технико-экономический комплекс-гегемон пошел на подъем и скоро охватит всё. Вот почему мобилизовать нас в первую очередь должна не экология в обычном понимании. Ибо мыслимо ли заботиться о сохранении всего живого, если мы одновременно не защищаем силу жизни внутри себя, от которой все остальное должно попросту зависеть? Такой подход был бы ограниченным и обусловливался бы в конечном счете лишь совершенно бессознательным поклонением стихиям. В наших неустанных усилиях нуждается особый вид экологии – благоприятные условия нашего бытия, которое требует вернуть нас самим себе и стремиться как можно полнее себя раскрыть.

Столкнувшись с губительным поведением вычислительного разума, с ускоряющейся автоматизацией всех сфер общества, с обедняющим нас «развоплощением», следует запустить обратный процесс. Надо выстраивать такой образ жизни и формы совместной организации, чтобы они позволяли нам как можно лучше проявлять способности, поддерживать сочувственные, плодотворные и честные отношения с ближними при полном уважении к биосфере. Это был бы действенный ответ на предложение Лео Штрауса[164], призывавшего к восстановлению естественного права, что, на его взгляд, было бы способом борьбы с современным нигилизмом: «Мы полагаем, что существуют вещи внутренне справедливые и несправедливые и что не все находится в ведении „позитивного“ права, закона, произвольно определяемого законодателями»[165]

Пусть же нашим главным девизом станет: нет – призрачному, да – нашему полноценному присутствию в этом мире и богатству чувств; нет – без конца торжествующей алгоритмической нормативности, да – нашим познаниям и способности действовать; защитим – в неизменном уважении к человеческому разнообразию – наше право свободно распоряжаться своими судьбами, частными и коллективными; нет – искусственной генерации языка и символов с отпечатком смерти, да – бесконечности форм, творческим порывам, которые изо дня в день должны нас оживлять. Да будет полным проявление наших жизненных сил и морального закона – тех, что заложены внутри нас и требуют развития: никогда, ни в коем случае нельзя позволить им угаснуть. И даже так: мы должны повсюду не переставая поддерживать их сияние миллиардами ярких огней.

Переводчик благодарит Эрика Садена, а также Анну Беспятых, Всеволода Зельченко, Катю Сорфельт, Александра Черноглазова за помощь в работе над этой книгой.

Сноски

1

Перевод Е. В. Баевской. Здесь и далее под знаком * примеч. Переводчика.

2

Перевод А. Н. Егунова.

3

Перевод А. А. Франковского.

4

Перевод М. Л. Лозинского.

5

Benjamin W. Paris, capitale du XIXe siècle. Le livre des passages: [Бельямин В., Париж, столица XIX столетия; 1924–1939]. Cerf, 1997. P. 36.

6

См. в числе недавних примеров, показательно отражающих стремление производителей постоянно сопровождать алгоритмами нашу жизнь, разработку Google – помощника, «предназначенного, чтобы раздавать наиболее мудрые советы, касающиеся повседневной жизни». Также: Grant N. «Google Tests an A.I. Assistant That Offers Life Advice» // The New York Times. 16 April 2023.

7

Социальная сеть, запрещенная в РФ.

8

Компания, признанная экстремистской и запрещенная в РФ.

9

«The Metaverse and How We’ll Build It Together». Connect 2021. 28 octobre 2021 [youtube.com/watch?v=Uvufun6xer8] При переводе использован текст расшифровки видеозаписи на английском языке: https://www.rev.com/blog/transcripts/meta-facebook-connect-2021-metaverse-event-transcript – А. З.

10

От англ. ubiquity – вездесущность, повсеместность.

11

Google, Amazon, Facebook, Apple, Microsoft.

12

См.: Gramsci A. Cahiers de prison. T. 1: Cahier 3 [1930]. Gallimard, 1996.