Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди

Четкое определение сущностных человеческих характеристик, особенно таких как достоинство, закрепленное как в международном праве, так и в религиозных доктринах, способно служить надежным ориентиром в кризисных ситуациях. Оно поможет сделать осознанный выбор между активным вмешательством и инертностью, определить границы автономного развития систем ИИ и направить эволюцию ИИ в соответствии с антропоцентрическими ценностями.

Проясняя эту мысль, возьмем за основу следующее определение:

Достоинство – это врожденное свойство существ, которые, появившись на свет уязвимыми и смертными, а значит, преисполненными страхов, вопреки своим естественным склонностям способны использовать свободу выбора, отвергая зло и предпочитая свое представление о добре. Иными словами, те, кто в состоянии обрести достоинство, должны к этому стремиться, а те, кто его обретает, заслуживают особого уважения.

Безусловно, это определение не лишено недостатков. Оно не учитывает, в частности, людей с нарушениями коммуникации – например, тех, кто сохраняет сознание, но лишен возможности выражать свои решения. Тем не менее мы безоговорочно признаем их человеческое достоинство и неотъемлемое право на уважение. Данный пример наглядно показывает необходимость дальнейшей проработки и уточнения концепции:

Обретенное достоинство не утрачивается, даже если человек больше не может совершать поступков, благодаря которым он его приобрел.

Подобных нюансов и поправок можно представить великое множество.

Означает ли это, что мы должны призывать к действию тех, кто предпочел оставаться незаметным и бездеятельным перед всесильным ИИ? Если активная жизненная позиция и практическое воплощение идеалов являются неотъемлемой частью морального совершенства, то, безусловно, утверждение собственного достоинства должно стать первостепенной задачей. Согласно нашему определению, свобода выбора является неотъемлемой составляющей человеческой природы. А потому мы вправе ожидать и даже требовать сохранения и осознанного применения этой способности к выбору даже в эпоху ИИ.

Может ли сам ИИ обладать достоинством в предложенной нами трактовке? Вряд ли. ИИ не знает рождения и смерти, чужд сомнениям и страхам, лишен «природных» наклонностей и подлинной индивидуальности, позволяющей различать добро и зло. Хотя ИИ ближайшего будущего, возможно, начнет демонстрировать личностные черты – проявлять эмоции, шутить и делиться «личными историями», – в рамках данной концепции к нему следует относиться как к литературному персонажу. Он способен имитировать отдельные элементы человечности, но истинной моральной природой не обладает.

Даже величайший литературный персонаж – к примеру, шекспировский Гамлет – не более чем особая комбинация слов, некогда запечатленная на страницах рукописи и теперь тиражируемая в бесчисленных копиях. Комбинация «Гамлет» не способна ощутить ком в горле от подступивших слез; не знает, как сложно сдержать тошноту; ей не знакомы вспышки ярости от разбитых надежд. «Гамлет» не может изменить своего решения. «Гамлет» существует лишь в рамках своей пьесы. Это не человек, но лишь образ человека. ИИ, сотканный из строк кода и электронных импульсов, мало чем отличается от этого «Гамлета».

Разумеется, найдутся те, кто сочтет это определение бесполезным – и в философском, и в практическом смысле. Его можно раскритиковать за слишком упрощенный компромисс (мол, оно достаточно расплывчато и составлено с намерением угодить всем и каждому), и за то, что оно не отражает саму ценность человеческой жизни, равно как и нашу исключительность, выходящую за рамки простого выживания. Философ Артур Шопенгауэр и вовсе язвительно называл достоинство «паролем для всех растерянных и пустоголовых моралистов»[168]

Однако в нашем понимании достоинство играет важную роль: оно напоминает нам о хрупкости человеческой природы и нашей способности ошибаться, но в то же время подчеркивает жизненную силу, свободу и верность убеждениям. Оно указывает на то добро, которое нам по силам, но пока не свершилось, – и настойчиво, почти с укоризной шепчет: «Вперед!..»

Тем не менее признаем очевидное: концепции достоинства недостаточно. На пороге эпохи взаимодействия с ИИ нам необходимо глубоко переосмыслить это понятие, дополнив его другими фундаментальными аспектами человеческой природы. Однако уже сегодня способность четко определить и защитить сущностные характеристики человеческого как основу для взаимопонимания с искусственным разумом становится критически важной задачей. И начинать закладывать эти принципы в алгоритмы необходимо безотлагательно.

Ни одно определение не остается неизменным. Без сомнения, по мере трансформации нашей собственной идентичности нам потребуется постоянно корректировать то, как системы ИИ воспринимают человеческую природу. Пока наиболее проницательные умы будут совершенствовать наше коллективное понимание динамики отношений между «нами» и «ими», их открытия могут привести к новой концепции человечества – той, что яростнее (пусть и тщетно) будет отстаивать наше существование как узнаваемого биологического вида. Но даже в таком случае нам следует параллельно разрабатывать новые определения и стратегии, выходящие за рамки текущих задач и поднимающие человеческое бытие на новый уровень. Кто знает, возможно, именно ИИ окажется самым убедительным доказательством способности человека быть не пассивным наблюдателем, а осознанным творцом?

Сверхзадача

Необходимость полного контроля человека над каждым частным решением ИИ свела бы на нет все преимущества этой технологии. Вероятно, единственно разумный путь к безопасному ИИ – сохранить за людьми стратегическое управление, основанное на моральных принципах, делегировав оперативные задачи более совершенным системам. И такой переход может произойти раньше, чем мы предполагаем. Однако серьезную угрозу представляют и сознательные искажения, продиктованные коммерческими или идеологическими мотивами, и непреднамеренные ошибки в настройке систем. Усугубляет ситуацию риск закрепления неэффективных регуляторных подходов, которые могут способствовать появлению мощных, но потенциально опасных разработок в области ИИ.

Наиболее перспективным решением видится органичное сочетание человеческого контроля с техническими средствами надзора. Это предполагает активное участие специалистов в работе с системами ИИ на всех этапах, а также разработку специальных алгоритмических механизмов для координации и проверки решений машинного разума.

Хотя мы в первую очередь стремимся к созданию ИИ с системой ценностей, свойственной людям, определенную роль здесь сыграют и технологии искусственной эволюции самого человека. Разработав методы направленного развития конкретных способностей (что позволило бы приблизиться к уровню систем ИИ будущего), мы могли бы получить чрезвычайно ценный инструмент. Разумеется, такое развитие должно оставаться исключительно личным выбором. Наша сдержанность в этом вопросе отражает ключевую дилемму: эволюцию нельзя заменить искусственным проектированием – это равносильно предательству самой человеческой сущности. Но и полностью прекратить поиск – будь то, физического, научного или философского познания – значило бы потерять себя тем же путем.

В эпоху ИИ противоречие между необходимостью трансформировать себя и контролировать свое творение может стать нашим главным ориентиром. Оба стремления столь же амбициозны, сколь и консервативны. Нам еще предстоит выяснить, можно ли согласовать эти потребности. Если позволить безграничным возможностям ИИ полностью доминировать в новой эпохе, человечество рискует превратиться в пассивного зрителя или, что еще хуже, в