Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден

основания, плоды фантазии, непроверяемые де-факто, – и все это лишь ради того, чтобы поднять хайп и пустить пыль в глаза. Не лучше и перспективные прогнозы, которые с 1997 года делает ЦРУ по итогам каждой президентской кампании в США, призванные служить инструментами для принятия стратегических решений[33]. Они грешат двойным недостатком. С одной стороны, проявляется желание – часто вынужденное – делать прогнозы на дальнюю и очень дальнюю перспективу, когда невозможно учесть все случайности и непредвиденную силу реального. С другой – используются только экстраполяции явных тенденций и не замечаются процессы, которые лишь наметились и многие из которых могут оказаться решающими в большей мере, чем те, что видны невооруженным глазом.

В противоположность подобной практике, которая порой сравнима с гаданием или путаными вычислениями, теоретический подход с опорой на анализ «грядущего настоящего», похоже, распознает слабые сигналы. А именно – формирующиеся явления, которые пока что скрыты в тени, но соответствие духу эпохи и заложенный в них потенциал для экономики позволяют предположить, что в короткой или средней перспективе они сыграют значимую роль. Такая взыскательность требует, чтобы, подобно Шерлоку Холмсу, мы сознательно впали в состояние острой паранойи – не патологической, ведущей к саморазрушению, но, напротив, побуждающей держать ухо востро – и открывающей эвристические способности, понимаемые как искусство замечать безобидные с виду детали и одновременно проводить между ними значимые соответствия. При этом следует «стать ясновидцем», как сказал Рембо[34], – не рассматривая хрустальный шар, а всеми силами стараясь уловить – непосредственно в момент первого проявления – механизмы, которые, как мы полагаем, должны оформиться и укорениться в нашей реальности, чтобы вскоре предстать процессом вполне естественной эволюции. Такой настрой способен пробудить в нас ответственность, подтолкнуть к действию, безотлагательному и далекоидущему. Именно этого нам не хватило по отношению к миру, который сначала беззастенчиво перекроил от и до границы частной и коллективной жизни, а теперь – из-за появления генеративного искусственного интеллекта – собрался отнять у нас способность к производству языка и отображению вещей. Демонстрируя при этом ловкое искусство представляться единственной силой, способной принести богатство и благополучие нациям и индивидам, но которая в конечном счете стремится к торжеству собственных законов и интересов.

Этот ад вымощен благими намерениями

Гюнтер Андерс в книге-интервью «Если я в отчаянии, что, по-вашему, мне с этим делать?»[35] предается размышлениям о роли интеллектуалов в неспокойные времена. В связи с чем обращается к своей основной идее «непредставимости катастроф», наиболее страшной из которых – в момент осмысления, более полувека назад, – виделась ему вероятность межконтинентального ядерного конфликта. Ныне непредставимость катастроф обязывает нас не сосредоточиваться с маниакальным упорством на наиболее явных вероятностях, но обращать внимание на явления, которые без особого сопротивления стремительно проникают в наш привычный уклад, часто кажутся почти обыденными, но могут нести в себе крайне опасный потенциал. Именно с этой точки зрения следует рассматривать то, как автоматизация и пикселизация вторгаются в человеческую жизнь или, иначе говоря, как мир становится метаверсией ChatGPT.

Сегодня мы оказались на перепутье. Либо индустрия данных, сетей и искусственного интеллекта продолжит укреплять позиции и усложняться, способствуя постоянному изменению общества, наших отношений с другими и с реальным, преобразуя систему субъективных взглядов. И тогда незаметно, день за днем, месяц за месяцем, год за годом, этот непрерывно «самонарастающий», – по выражению Жака Эллюля[36], – процесс приведет нас к девитализации, то есть к утрате телесной чувствительности и интеллектуальных способностей, но еще и к краху политических и нравственных категорий, до недавнего времени считавшихся незыблемыми. Либо мы примем за правило, что, несмотря на множество сопутствующих факторов, даже то, что, казалось бы, уже окончательно сформировалось, нельзя расценивать как нечто предопределенное – именно потому, что мы так отчаянно защищаем ценности, которые считаем фундаментальными и незыблемыми.

«Оставь надежду, всяк сюда входящий». Такая надпись встречала грешников дантовского ада. Мы могли бы воспользоваться такой же драматичной риторикой, но поспешим наполнить ее противоположным содержанием: «Входящие сюда, с вниманием рассмотрите ту матрицу, что существует благодаря главенствующим силам и нашему активному участию, вбирает и снедает нас, как будто так и надо. Узрим же, к чему ее господство нас привело и куда ведет дальше». Продолжить можно было бы так: «Ни в коем случае нельзя терять надежду; напротив, давайте делать так, чтобы вместо грядущего настоящего нас ожидало то, чему мы по собственной воле, большинством желаем наступления». Содействовать насколько возможно этому жизненному поры-ву, старательно, как скальпелем, препарируя возникающие реальности, но также между строк указывая на неиссякаемый источник еще более предпочтительных вариантов – в этом и есть скрытая задача настоящей книги.

Глава I. Фрактальная троица: технологии / индивидуум / общество

Примечание[37]

1. Технико-экономическая организация индивидуумов

Искусство делать – прощальный поклон

История техники завершилась в 1769 году. Именно тогда была запатентована паровая машина Джеймса Уатта. Уникальность свойств этого механизма состояла в том, что он вырабатывал небывало мощную энергию, несравнимую с результатами предыдущих образцов, а непрерывность процесса обеспечивала «петля обратной связи», своеобразная форма саморегулирования и функциональной автономности. Происходит перелом, появляется своеобразный «костыль» – дополнение, полностью независимое от климатических изменений и достигшее охвата, прежде незнакомого человечеству. Теперь такие «палочки-выручалочки» доступны всем – были бы средства их приобрести. Происходит полное переопределение роли и места индивидуума в промышленном производстве. Мы не столько реализуем навыки, освоенные, чтобы выполнять те или иные задачи или производить материальные блага, сколько с помощью набора действий следим, чтобы правильно работало оборудование. У этой схемы есть очень важное следствие: ни одно действие не сопровождается личной инициативой и отныне отвечает лишь потребностям машины или приспосабливается к ее темпу.

Так и рабочий, который должен в одинаковом ритме забрасывать в топку порции угля, обеспечивая равномерность хода, оказался на вторых ролях — стал вторичной фигурой. Индивидуума словно отстранили от механизма, который стал действовать по собственным законам и нуждается в живой силе исключительно в качестве рычага, поддерживающего его ход, положив тем самым начало эпохе функционального, – как и символического – превосходства техники. В результате она обретает совершенно иной характер – перед нами уже не тот постоянно развивающийся инструментарий, пользуясь которым удобнее воздействовать на реальное. Ныне, наоборот, человек смещен на позицию инструмента в цепочке других таких же орудий, к которым следует приспособиться сообразно логике, ставшей ему неподвластной. Из силы, активной благодаря набору применяемых инструментов, он становится одним из винтиков внутри комплекса, намного его переросшего и опередившего.

До сих пор мы придерживались