Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден

Как априори здравые и образованные умы дошли до мысли, что машины, чей язык изначально упрощен, а предназначение – полностью или частично замещающее, нужны нам, чтобы «лучше писать»? Или они успели прийти к выводу, что нынешние ученики настолько не способны обращаться с языком, что лучше бы за них вкалывали искусственные ghost writers[145]? И в том, и в другом случае это умывание рук и цинизм, ведь таким образом, под фейерверк и фанфары, радостно утверждается, что мы больше не учим методическому овладению языком – источником нашей сингулярности, средством поддержания связи с другими, повседневного проявления талантов, заложенных в каждом из нас. Как будто все и так уже ясно: хватит изучать правила грамматики, ни к чему нам умение составлять простейшие предложения, мы лучше сосредоточимся на «больших задачах». Но это значит закрыть глаза на самое необходимое перед тем, как мы посмотрим вдаль, – точно так же дому или небоскребу сначала нужен глубокий и прочный фундамент.

Но что толку в таких рассуждениях: эти люди сгорели бы со стыда, если бы почувствовали себя на обочине истории, и не оттого, что не дали ученикам приобщиться к богатствам языка, лишили их усилий, безусловно кропотливых, но несущих радость и удовлетворение от самостоятельно написанных строк – итога непрерывного творческого напряжения, в котором сходятся, с одной стороны, общее наследие, а с другой – собственная субъективность. В результате выделяется поколение преподавателей, которые с подросткового возраста формировались в «цифровом пространстве» и теперь считают нормальными и даже желательными «инновации» любой природы, презирая все, что заставляет от чего-то отказываться[146]. Отупение в преподавательских рядах, распространяясь, как масляное пятно, с унылой механистичностью неизбежно охватывает и учеников. Что стоит за этой готовностью встречать с распростертыми объятиями все радикальные перемены, если не принятие того, что истину теперь диктует технико-экономическая среда, а потому даже требования в духе гуманизма до недавнего времени считавшиеся незыблемыми, сводятся на нет?

Такое соглашательство обусловлено принципом, утвердившимся как нечто само собой разумеющееся: надо приспосабливаться. В этом мы перешли от экономического и менеджерского мышления, преобладавшего с начала 1980-х годов – и требовавшего постоянной гибкости, – к намерению, заявленному некоторыми корпорациями, заведомо испытывающими меньше ограничений, активно менять логику, от которой, казалось бы, не уйти и которую, по их мнению, можно без проблем, играючи «реапроприировать». А это самая коварная модель подчинения, якобы воспроизводящая то, что «носится в воздухе», словно атмосфера, которую связывают с этими процессами, подвергает забвению их побудительные причины и фундаментальную установку – определять соотношение сил исходя из несовпадающих интересов и принципов. Выходит, назревающая борьба требует противостоять не только создателям подобных систем или поощряющей их доксе, но также и тем, кто внутри самого общества содействует банализации этих новшеств и льет воду на ту самую мельницу, которая того и гляди оставит нас не у дел.

Вне сферы образования в большинстве отраслей, где нужны продвинутые когнитивные навыки, волей-неволей приходится полагаться на священную догму приспосабливания. При всем при том – абсолютный примат утилитаризма и поступательное вытеснение любого творческого начала. Наивно было бы не замечать, что в атмосфере экономической конкуренции, развернувшейся к тому же в глобальном масштабе, невозможно руководствоваться некими отдельными принципами, поскольку они редко применимы конкурентами: это означало бы потерю прибыли и неминуемое прекращение деятельности. Яд проник во все щели. В этом и есть драма: то, к чему мы шли последние два десятилетия, сегодня принимает другой размах и мало-помалу пресекает любые возможности поддержания условий и ценностей, которыми мы дорожим. Не случайно постоянные усилия, чтобы приспособиться к логике, развиваемой преимущественно индустрией данных и искусственного интеллекта, и уход от творчества тесно связаны между собой. На самом деле никакое регулирование не может помешать углубляющейся автоматизации общества и, как следствие, отказу от наших способностей.

Поскольку эта логика не предлагает иных вариантов, кроме как ей подчиниться, стоит выработать формы совместной организации на основе обязательного соблюдения принципов, которыми мы дорожим. Тех, что воспевают свободное проявление наших физических и интеллектуальных способностей, справедливость между людьми и бережное отношение к биосфере. Общий процесс «развоплощения» и умирания нашего сознания, привнесенный развитием метавселенных и генеративного искусственного интеллекта, есть, как ни верти, логичное завершение долгой истории технико-экономической рациональности, когда единственная цель – прибыль, а человек рассматривается как пассивная фигура. Вот почему этот поворотный момент, который, если мы не насторожимся, приведет к утрате человечеством самое себя, следует рассматривать как исторический шанс, чтобы сформировать совсем другой цивилизационный проект, по сути – антицивилизацию. Она будет превозносить силу чувственного, гений, заложенный в каждом из нас, и деятельное братство. Такая встряска, или конфликт – культурный и цивилизационный, – это все, что нам нужно прямо сейчас.

3. Дискурс лжи

«Этика», или Пустить пыль в глаза

Разработчик искусственного интеллекта – тот, кто придумывает системы, вызывающие в представлении широкой публики все больше и больше вопросов. В этом плане его положение двусмысленно, отчего порой разработчиков даже посещает совесть. Поэтому ради сохранения хорошей мины уже давно и умело ведется кампания в поддержку фабрики согласия, позволяющая и рыбку съесть, и на мель не сесть. При этом беспрестанно используется понятие вроде волшебного эликсира или пускания пыли в глаза, чтобы обнадежить массы, – этика. Сколько семинаров провело за последние годы профессиональное сообщество, сколько трудов, написанных его представителями, дружно повторяют нескончаемый рефрен: нам всем на пользу непрерывный технологический прогресс, – кто бы сомневался, – только надо застраховаться от возможных отклонений. Все это по кругу твердят люди, выступающие судьями в своем же деле.

Скажем честно, в таком положении только и получается, что разворачивать красную дорожку на пути набирающего сумасшедшие обороты искусственного интеллекта. С этим понятием обычно связывают лишь выборочные цели и задачи, важность которых, в общем-то, относительна, либо маловнятные регламентирующие и законодательные «брандмауэры» – при этом никак не учитывается антропологическое и цивилизационное значение происходящих изменений. А именно все более очевидный «бан» наших способностей, вызванный автоматизацией всех наших дел, которая когда-нибудь станет полной. Вот причина, по которой следует не просто выступить против использования этого стерилизационного новояза, необходимо большее – поднять планку реальных целей. То есть вместо этики, которая сегодня заметно сбивается с курса, обратиться к категории более высокого уровня – к морали. Первая обусловлена применением ряда поведенческих норм, которые мы одобряем. Вторая