Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден
Читаешь это и спрашиваешь себя – это сон, ночной кошмар, а может, вопиющая наивность или жесточайший цинизм? Сколько раз все повторили эту чушь, не противопоставив ей даже тени критики. Чем дальше в лес, тем гуще дебри, как говорится. И надо же – именно этого индивида из ближайшего окружения Марка Цукерберга пресса регулярно просит объяснить, что нам дают эти сложные системы, словно только он и способен донести истину до каждого из профанов. Все настолько запутались и не соображают? Мораль – или установка защищать плюрализм мнений – потребовала бы изменения всей парадигмы от начала до конца, чтобы на тех же передовицах, перед теми же микрофонами появились, скажем, складские рабочие Amazon, которыми без устали руководят системы на основе искусственного интеллекта, в адском ритме, не принимая в расчет их личность и достоинство. Это стало бы первым шагом, который позволил бы нам держаться на безопасном расстоянии от мракобесия, властвующего сейчас в мире докторов Франкенштейнов, и действовать немедля, настойчиво и решительно, чтобы восторжествовало совсем иное просвещение.
В чем вред от бурления мнений вокруг искусственного интеллекта
В результате всемирного потрясения, вызванного размещением в сети в ноябре 2022 года ChatGPT, искусственный интеллект перестал быть секретной – пусть даже отчасти – разработкой. Довольно сложная технико-экономическая сфера как будто враз провалилась в сферу общественную. Теперь кому угодно могло взбрести в голову, что он вправе высказать свою точку зрения. Бурление мнений перекинулось в теле- и радиоэфир, на ораторские трибуны и в социальные сети. Раньше рассуждали о погоде, отныне – об искусственном генеративном интеллекте. Анализ не требует точного знания технических механизмов, истории их развития, экономических двигателей, идеологической подоплеки. Огромная машина движется на полном ходу, а мы не находим ничего лучше для просвещения умов – и содействия необходимой и срочной мобилизации сил, – чем давать слово инженерам, которые говорят по шаблону и сглаживают углы, и тем, чей главный ориентир – собственная интуиция. Это только еще больше все запутывает. Можно сказать, что область переживает период нечетких экспертных выводов.
Вот почему пора уже выдвигать контрвыводы, которые не только перестанут основываться на смутных субъективных ощущениях, но примут форму свидетельств практического опыта, почерпнутого прямо из повседневных реалий. Пусть нам расскажут о последствиях для тела и сознания от применения искусственного интеллекта в менеджменте, в школе, в больнице, в правовой системе, и тогда проявится совсем иное восприятие возникающих явлений. Джордж Оруэлл настойчиво говорил о том, что необходимо работать над «гигиеной языка»[153], ясно понимая, что если лукавить или говорить глупости, это изничтожает плюрализм и политический дискурс. Прислушаемся к автору романа «1984».
Когда знак вопроса означает неразбериху
К середине 2010-х годов газеты и другие СМИ стали злоупотреблять громкими заголовками, в которых почти систематически – или подчиняясь своего рода рефлексу Павлова – соединяли воодушевление и испуг. «Надо ли бояться искусственного интеллекта?», «Обгонят ли нас машины?», «Искусственный интеллект: опасности и надежды», «Искусственный интеллект – шанс для человечества?», «Искусственный интеллект: обретаем свободу или теряем все?». Вопросительный знак стоял почти каждый раз, как будто точно определиться в принципе невозможно. Нескончаемый словесный поток – прежде всего свидетельство нежелания рассмотреть вблизи движущие механизмы описываемых демиургических технологий и досконально их изучить. Неужели так трудно просто отступить в сторону, чтобы понять: мы имеем дело с процессами, которые словно знаменуют итог долгой истории капитализма, регламентируя человеческую жизнь и отнимая у нас способности лишь во имя частных интересов и сугубо утилитаристского видения мира? Так трудно – на фоне кризиса доверия, с которым сталкивается пресса, – поставить точный диагноз и выпустить номер какого-нибудь французского журнала с таким, например, заголовком: «Искусственный интеллект: троянский конь технолиберализма?»[154] Получилась бы реклама в понимании XVIII века, когда предают огласке факты, а не морочат голову вечными бесплодными дебатами с позиции «за и против», которые во многом заставляют, конечно, поверить в пресловутый паритет мнений, но под видом благих намерений содержат самый большой недостаток – играют на руку опаснейшей разновидности релятивизма.
Хараризм и панургизм
Сначала – о книге медиевиста, который в несколько сотен страниц вместил пересказ «краткой истории человечества». То есть, начав с общего, скажем даже – предельно обобщенного, автор завершает свой труд расплывчатым футурологическим экзерсисом об искусственном интеллекте. Учитывая, что написано это специалистом по Средневековью, в данном случае нам предлагается не углубленное понимание явлений, а подборка идей, набросанных в качестве финального аккорда. Произведение, напоминающее дайджест грандиозного масштаба, снискало мировой успех. С чем мы автора и поздравляем.
Так запустился довольно незаметный процесс, который требует освещения, чтобы внести ясность и соблюсти оруэлловский императив – очень важно заботиться о гигиене языка. Поскольку книга сделалась бестселлером в то самое время, когда общество заинтересовалось искусственным интеллектом, к ней стали часто обращаться – как если бы последние страницы этого опуса свидетельствовали о понимании предмета. Большая ошибка – перепутать успех издания и подтвержденное знание; в результате по всему миру был запущен вирусный механизм – обобщающий, но вместе с тем размывающий фокус, ведь наш герой почти поневоле и к собственному большому удивлению вдруг оказался произведен в специалисты по цифровым технологиям.
И вот, вместо того чтобы сыграть честно, он, напротив, впал в азарт и пошел рубить с плеча – возвещать «неизбежное превосходство машин», «обреченность человечества» и сыпать прочими подобными штампами, но так и не приступил к информированному и аргументированному анализу. Таков симптом нашего времени – выбирая легкие пути и лень, мы сплавляем воедино популярность и науку. В результате те, кто мог бы просвещать умы, но часто работает вдали от посторонних глаз, так и остаются в тени. А момент сейчас важный, и ключи к пониманию вещей нужны как никогда.
Мишель Фуко говорил о «специфических интеллектуалах»[155], то есть теоретиках, которые со временем кропотливо углубляются в изучаемую область, ведут работу мысли и регулярно публикуют труды, не имеющие ничего общего с туманными разглагольствованиями и
