Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден

С наступлением третьего тысячелетия появление новой технико-экономической системы придаст иное измерение желанию снова и снова восполнять наши глубинные несовершенства. Сведéние многогранной реальности к набору данных и распространение интернета позволят как интерпретировать наши действия, так и, в свою очередь, влиять на их осуществление через абсолютно новую процедуру – посылание сигналов. Прошло время более или менее принудительного упорядочивания в отношении людей, настала пора побуждения, индивидуализированного и автоматизированного, которое отличается тем, что стимулы к совершению различных действий представляются само собой разумеющимися, и оказывается, что – индивидуально или коллективно – мы получаем экономию времени, рост эффективности и еще много преимуществ. В профессиональной ли жизни или в повседневной режим алгоритмического сопровождения нашего бытия становится данностью, нас без конца – и зачастую неощутимо – переориентируют технологии, так что мы могли бы назвать их «главенствующим началом». А всплеск разработок искусственного интеллекта на рубеже 2010-х годов только активизировал этот экспертно-рекомендательный ресурс, сполна воплотив изначальное стремление обойти принципы инерции и незавершенности, якобы нас формирующие, обеспечить качественное и непрерывное распределение людей и ценностей.

Вот причина, по которой «цифровые инновации» стали походить на чудо и их поддержало подавляющее большинство народных избранников, руководителей национальных и международных организаций, университетов и бесчисленных аналитических групп. Притом что эти разработки, пусть и довольно незаметно, обеспечивают блокирование действий человека – в перспективе полное, – так что в будущем мы целиком и полностью будем подчинены устройствам, исправляющим людские ошибки или генерирующим правильное поведение. Тогда и завязались общие интересы, – побудительные механизмы которых сегодня лучше просматриваются, – у целого мира, рожденного либеральной и позитивистской философией, с одной стороны, и больших групп, занимающихся данными, а также несметного числа стартапов – с другой, решивших, что отныне они полностью вольны, – пользуясь порой ощутимой поддержкой из государственной казны, – не покладая рук развивать всевозможные системы, указывающие нам верное направление в различных аспектах жизни или самостоятельно управляющие растущим реестром общих дел.

Создались все условия, чтобы цифровая индустрия в постоянно ускоряющемся ритме могла разрабатывать технологии, формирующие лучший из миров, который заявил о себе ураганом, сметающим на своем пути профессии и обычаи, не отвечающие этой философии. Термину «дезинтеграция», одновременно завораживающему и пугающему, который часто употребляли в середине 2010-х годов для обозначения этого радостного и опустошительного вечного фейерверка, точнее было бы предпочесть другой: «ускоренное лишение нас права на предпочтение иных форм существования и совместной организации». Со временем в гражданском обществе наметились опасения и признаки сопротивления. Как и со стороны политических деятелей – они стали более скупо формулировать свои намерения, хотя в конечном счете учитывали, что «силиконовые веяния» отражают ход истории и не надо им препятствовать – разве что слегка, в отдельных случаях. Контркультурный и анархистский дух района Хейт-Эшбери в Сан-Франциско шестидесятых, который десятилетие спустя в той же точке мира, но в других формах передался деятелям Силиконовой долины, сделавшим отказ от любых ограничений своим девизом, и принес им феерический мировой успех, в итоге оставит отпечаток на нашем представлении о том, каковы в сущности движущие силы предпринимательства. Ведь кое-что тогда все-таки оказалось запрещено: запрещено запрещать.

Технолиберализму был выдан бессрочный карт-бланш, отчего сегодня, не встречая никаких сдержек, он занимается радикализацией собственных принципов. Появление генеративного искусственного интеллекта знаменует пересечение черты – в аналогичном смысле постулат о том, что артефакты должны восполнить наши несовершенства, достиг последнего рубежа. С помощью вычислительных процессов генерируются язык и изображения, и получается, что составляющие нас особенности также должны поддерживаться различными системами. Тем самым мы приходим к полной завершенности этой философии – или к беспрецедентному антропологическому и цивилизационному событию. Отныне все, что можно собрать в виде данных и обработать на соответствующих устройствах, будет обеспечивать весь объем наших когнитивных задач, не прекращающий экспоненциальный рост. Соответственно, мы понимаем, что вопрос уже не в том, обречено ли множество профессий на исчезновение из-за нового направления искусственного интеллекта, пользующегося некоторыми нашими качествами, которых раньше у него не было. Более точная постановка вопроса – будут ли наши интеллектуальные и созидательные способности, во всей их полноте, опираться на процессоры либо, смотри шире, поддерживаться непосредственно различными системами.

Увы, в который раз слишком поздно, лишь когда явления глубоко укоренятся, мы поймем, что сама наша сущность, – конечно, со всеми слабостями и недостатками, но также с восприимчивостью, творческим началом, талантами, – будет отвергнута, а заботы о том, как нам жить и как будет устроен мир, лягут на вычислительный разум. И только потом, – хотя уже скоро, – мы увидим людей, день и ночь погруженных в пиксельные пейзажи, занятых лишь составлением промптов, и в этой вселенной, где капризы каждого индивида будут важнее всего, нас ждет коллективная изоляция и неразрывное слияние со все более всеведущими машинами. Тогда «человечество», понимаемое как трансисторическое объединение душ, обладающих – каждая – уникальным богатством, лишится субстанции и, можно сказать, перестанет существовать для самого себя. Ведь на протяжении веков мы меняли условия собственной среды, рождали идеи, создавали науку, культуру, искусство и делали так, что при всех удачах и неудачах развития некоторые неприкосновенные для нас вещи, несмотря ни на что, сохранялись. Проявление творческих способностей и талантов на разных уровнях, естественная тяга к свободе – в чем бы она ни заключалась, – ощущаемая связь с реальностью, плотские отношения с ближними – все те составляющие, которые придают жизни смысл и соль.

Мыслимо ли сложа руки наблюдать, как все вокруг превращается в пустыню? Мыслимо ли считать, что эта тенденция, – исходящая из нашего же отрицания, – вписывается в естественный ход истории и следует только поставить ей некоторые ограничения, чтобы мы все извлекли из происходящего миллион разных выгод? Как при виде этой неудержимой с виду волны не воскликнуть «стоп!», не объявить во всеуслышание, что она угрожает нашей идентичности? Как не поднять другую волну, встречную, которая объединит всех мыслящих людей, не желающих лишаться обители жизненной силы – своей собственной и будущих поколений? Чтобы человечество не впало вскорости в овощное, безжизненное состояние – и чтобы наших детей и внуков, чьи мозги, если мы сейчас не встревожимся, будут чипированы, не направляли постоянно процессоры и прочие внешние силы, – необходимо бесповоротно сойти с пути отрицания самих себя. Мы обязаны наказать политикам, – призывающим по любому поводу «запрыгнуть в отходящий вагон» искусственного интеллекта, LLM (Large Language Model, Большой языковой модели) и иммерсивной экономики, – чтобы они прекратили инвестировать из бюджета