Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден
Такие, куда будут вовлечены все заинтересованные стороны, где группами или индивидуально будут участвовать люди, непосредственно испытывающие на себе последствия форсированного внедрения новшеств. Учитывая, что события принимают крайне серьезный оборот, сейчас совсем не время следовать рекомендациям вышеупомянутых органов, напротив, надо в каком-то смысле заглянуть по ту сторону зеркала – это может стать спасительным мобилизующим фактором. Уйти подальше от положения законодателя в этой области, занятого тем, что он осознанно – но также и неосознанно – пишет тенденциозные тексты, от них многого ждать не приходится. В жизненных реалиях надо пользоваться принципами, которые расцениваются как неотъемлемые.
Иначе говоря, моральный долг – перед законом, подчас абстрактным и сухим, – отдавать предпочтение юриспруденции, всегда исходящей из признания проблем, ранее не высвечивавшихся, но на которые общество больше не может закрывать глаза и соглашается, что они должны быть услышаны, что с ними нужно считаться. Джон Дьюи[159], политический философ первой половины XX века, – одна из основных фигур направления, известного как прагматизм, призывал строить «критическое общество»[160], от всех членов которого требуется участвовать в общественной дискуссии, но также вмешиваться в ход событий. Вернемся же к этой его аксиоме – именно сейчас, когда новые тенденции навязывают нам в одностороннем порядке и с необратимыми последствиями, – чтобы плюрализм, противоречия и наши базовые ценности получили всецелое и безусловное право на место под солнцем.
Источник опасности – в вас самих
В мае 2023 года видные представители технического сообщества выпустили коммюнике, запечатлевшее поистине апокалиптическую картину: в нем говорилось, что «искусственный интеллект не менее опасен, чем пандемии или ядерная война» и представляет «угрозу для существования человечества». Среди подписантов – Сэм Олтмен, глава OpenAI, Демис Хассабис, возглавляющий Google-DeepMind, Эрик Хорвиц, научный руководитель Microsoft, а также Билл Гейтс и Джеффри Хинтон. Все – ключевые фигуры, стоявшие у истоков развития цифровых технологий и разработок искусственного интеллекта, которые велись во все более бешеном темпе. Честно говоря, такая непоследовательность и несерьезность озадачивают. Так и хочется сказать прямо в лицо этим «визионерам», год за годом все больше напоминающим блаженных, с которых взятки гладки, что теперь, конечно, самое время прекратить буффонаду и поток громких заявлений, не иссякавший с двухтысячных годов, завязать с обещаниями грядущего искусственного рая, пора бить тревогу и объявить под барабанную дробь ни больше ни меньше запрограммированный конец рода человеческого. Если вас так беспокоит развитие событий, которое вы же и предрешили, зачем жонглировать петициями, зачитывать трагикомические монологи, одновременно подбрасывая угля в топку? Элементарная последовательность требовала бы прикрыть этот цирк, которому несвойственно замыкаться в стенах ваших предприятий и лабораторий – он все пагубнее действует на миллиарды зрителей. Для общества было бы весьма полезно, если бы мантра, которую вы твердите десятилетиями, утверждая, что хотите «сделать мир лучше», стала бы наконец осязаемой реальностью.
«Легкость, с которой слова искажают истинный облик жизни, поразительна»[161]
Английское GPT – аббревиатура от Generative Pre-trained Transformer (генеративный предобученный трансформер). То есть название – антропоморфическое, как и термин «искусственный интеллект», оно имплицитно предполагает, что речь идет о технологиях, обладающих свойствами, которые делают их схожими с нами, и, таким образом, мы можем допускать, что они постепенно сменят нас при совершении все более широкого спектра действий. Пора обозначить такие механизмы иначе, чем предлагает официальный технический язык, формирующий наши представления и способствующий банализации явлений, – только так мы назовем их своими именами, соответствующими восприятию человечества, к которому все принадлежим. В данном случае мы имеем дело с системой, которая – куда более точно и честно – должна бы именоваться цивилизационным и культурным падением – сокращенно получается какой-нибудь ChatACC[162]. В этом проявилась бы языковая гигиена. Та, что обусловливает общее неискаженное понимание вещей и, следовательно, условия, когда иное воображаемое и иное видение мира во всем разнообразии свободно проявляет себя и, – давайте уж ради этого постараемся, – обретает определенную форму.
Горизонт(ы). Час истины
Теперь пора снимать маски. Пора показать без ретуши суть инструментальной рациональности и ее истории – от промышленной революции до наших дней, – рациональности, которая будет без передышки решать одну и ту же задачу: распределять, с различными целями, людей и вещи по условно правильным местам в условно подходящее время. Этот этос опирается на кардинальное допущение: человек есть источник беспорядка и – вот досада – постоянно норовит сбиться с верного пути, растратить себя впустую, так что в его же интересах надо ограничить ему поле деятельности и, больше того, направлять его действия, чтобы они четко вписывались в требования поддерживать порядок и приносить богатства. В нашем положении усматриваются глубинные лакуны, поэтому выработка надлежащих норм и техник позволяет одновременно избежать как инерции, так и хаоса, создавая при этом почву для коллективной и экономической организации, которую можно признать оптимальной. Стратегии корректирования и оздоровления ситуации индивидуумов, действовавшие в XIX веке и описанные Мишелем Фуко, предполагали обеспечить активное участие каждого в возведении социального здания, – исходя в данном случае из «биополитики», – и, по всей видимости, оказались лишь первыми проявлениями процесса, который на рубеже следующего столетия будет направлен не просто на становление здорового, крепкого и податливого человека, а на систематическое корректирование поведения.
В этом прослеживается как дух промышленного и торгового капитализма, так и либерального индивидуализма – оба направления будут неуклонно развиваться в новейший период, в XX веке. С течением лет был создан целый инструментарий из неизменно расширяющихся и усложняющихся средств, чтобы направлять поведение, – законы и правила, рациональная организация людских и товарных потоков в городах и за их пределами, методы менеджмента, а кроме того – стимуляция желаний посредством рекламы и маркетинга. В послевоенный период активизирующаяся информатизация общества позволит связать совершаемые действия, количество которых будет расти по экспоненте, с вычислительными системами – и они, за счет своих свойств, сократят долю непосредственного участия человека в реализации коллективных дел, одновременно придав новый импульс стремлениям поставить во главу угла строгое упорядочение хода вещей и поддержать рост капитала. Впрочем, несмотря на совершенство привлеченных искусственных средств, множество действий и динамичных тенденций остаются неподвластны мощному нормативному аппарату. Вопреки робким попыткам очертить
