Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден

Серьезность момента заставляет нас – каждого из нас – говорить громче. Вспомним Альбера Камю, который в «Бунтующем человеке» пишет: «Слишком долго я терпел […], вы заходите слишком далеко […], есть предел, переступить который я вам не позволю»[147]. Возможно, в этом и кроется гуманизм нашего времени. Не надо трубить во все трубы, прижимая руку к сердцу и растекаясь мыслью по древу, как гуру из Силиконовой долины или полчища инженеров, – о том, как они хотят придать своему детищу привкус этики, словно приправляют и без того сбалансированный салат, хотят «поместить человека в центре». Надо считать полноценное проявление наших богатств – чувств и интеллекта – обязательным условием существования совершенно свободного и многогранного общества. Перед нами встает важнейший нравственный вопрос – и требует ответа действием.

Премия Тьюринга: хватит ломать комедию

Есть награды, которые – с течением лет и благодаря церемониалу – облекаются таким ореолом неоспоримости, что все забывают, с чего все началось. Такова премия Национального банка Швеции в области экономических наук – ее нередко «повышают» до уровня Нобелевской премии по экономике, поскольку вручает ее идеологически ориентированный институт, защищающий прежде всего ортодоксальный либерализм. Или же премия Тьюринга, ежегодно достающаяся тому, кто «внес наиболее весомый и долгосрочный вклад в область информатики», – тем самым отдается дань Алану Тьюрингу. Это важная фигура в истории алгоритмики, в годы Второй мировой войны он сыграл решающую роль в разработке алгоритмов криптоанализа для расшифровки сообщений машины «Энигма», обеспечивавшей связь в нацистских войсках, – считается, что это года на два ускорило победу союзных войск. В общем, награда позволяет встать под одно знамя с героем, содействовавшим пресечению варварства. Правда, премию учредили в 1966 году, герой уже давно умер, и нет подтверждений тому, что он согласился бы на такое использование своего имени, тем более если учесть преимущественно утилитаристскую направленность, которую приняла эта сфера. Случился идеальный символический грабеж.

Лауреата определяют члены корпорации, все проходит при закрытых дверях – в отличие от основной премии: члены Нобелевского комитета поддерживают относительный нейтралитет. С 2014 года компания Google, мировой лидер по работе с данными, вручает лауреату миллион долларов. Причем представления о мире и технологиях, принятые в этой гильдии, де-факто исключают любую критическую или особую позицию. Скажем, Александр Гротендик[148], один из наиболее видных математиков XX века, никогда не получил бы эту награду – знак кастовой принадлежности, – поскольку то и дело отмечал, что техническая наука движется не туда; впрочем, получи он ее каким-то чудом – все равно категорически бы отказался[149]. Если честно, то вся затея – ради самолегитимизации и самовосхваления, да еще подкреплена изрядными финансовыми средствами. Сегодня подоплека скрыта, престиж не подвергается сомнению, заявляют даже, – хоть это и совершенно не так, – что речь идет об «эквиваленте Нобелевской премии в области вычислительных наук». На таком фоне критиковать труды, удостоенные премии Тьюринга, сродни святотатству.

В тот момент, когда искусственный интеллект готовится вывести нас из игры, а те, кто его подначивает, получают награды на этом надуманном празднике, надо было бы учредить совсем другую премию. Чтобы отмечать ею тех, кто на всех ступенях общества прикладывает усилия, формулируя в корне иные ценности. Премию Джорджа Оруэлла, Альбера Камю или Гюнтера Андерса, например, – да мало ли тех, кто воспел неиссякаемое богатство наших чувств и духа, кто противостоял зашоренному сциентизму, источнику многих бед. Тогда люди, обычно делающие свое дело в тени, оказались бы в свете прожекторов, могли бы подать пример и наполнить жизнью множество инициатив. Пора уже понять, что любой проект, цель которого – помешать непрекращающейся автоматизации наших действий, должен начинаться с формирования обратных представлений, не искаженных, не поглощенных частными интересами и вдохновленных незыблемыми ценностями, на которые мы опираемся.

«Смех не грех», или О Джеффри Хинтоне

Одним из «крестных отцов» нейросетей признан британец Джеффри Хинтон, ученый, родившийся в 1947 году и не одно десятилетие занимавшийся искусственным интеллектом. В 2000-х годах его пригласили в Google, предоставив практически неограниченные возможности для совершенствования методов machine learning[150], которые во многом содействовали появлению генеративного искусственного интеллекта. И вот в 2023 году, когда ему исполнилось семьдесят пять, на склоне лет, он как будто ни с того ни с сего вдруг почувствовал угрызения совести – или резко проснулся после очень долгого и глубокого догматического сна. На страницах New York Times – в связи с поразительными успехами ChatGPT и Midjourney – он заявил, что все «движется слишком быстро, слишком далеко заходит и самое время этим обеспокоиться». Хинтон сообщил, что уходит из Google, чтобы «свободно говорить об опасностях искусственного интеллекта» (вот это смелость – на излете карьеры, сколотив состояние и обеспечив себе небедную пенсию). Невольно думается, что это шутка или внезапное умопомешательство.

Впрочем, немало было тех, кто приветствовал поступок лауреата премии Тьюринга 2018 года, который ни больше ни меньше признался, что «частью своей души сожалеет о том, чем он всю жизнь занимался», и теперь призывает вывести из употребления эти системы. Понятно, в чем «прикол»? Насторожить должны были бы не сами его высказывания, а то, что под конец карьерного пути человек взял и расчувствовался, как будто после того, как он всю жизнь проработал в закрытой лаборатории, от него сбежало чудовище, – напрашивается вывод, что он никогда всерьез не задумывался о возможных последствиях своих трудов. Не красноречивое ли это свидетельство состояния умов касты инженеров-разработчиков искусственного интеллекта, которые суетятся, как мухи в банке, и не способны увязать свои исследования с более широким контекстом? Не знак ли это, что пора прекращать их слушать, ведь это не поможет понять характер подобных систем, а рассуждать, выходя за пределы четырех стен, эти ребята не способны? Философ Хосе Ортега-и-Гассет говорил: «Чтобы быть инженером, инженером быть недостаточно»[151]. Увы, если бы наш лауреат премии Тьюринга в какой-то момент своей карьеры услышал эти здравые и мудрые слова, возможно, ему незачем было бы резко – и так пафосно – бить тревогу, когда дом уже охвачен пламенем, когда фигура человека день ото дня все больше растворяется.

Неообскурантизм, весьма довольный собой

Ян Лекун, главный научный консультант Meta/Facebook по вопросам искусственного интеллекта, также стоявший у истоков развития нейронных сетей и удостоившийся премии Тьюринга, трудится в лабораториях этой «силиконовой» фирмы над разработкой систем, предназначенных, чтобы все глубже проникать в механизмы пользовательского поведения, беспрестанно предлагая товары и услуги, которые, будьте уверены, идеально вам подойдут. Весной 2023 года, когда даже в сфере