Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди
Главный спорный момент состоит в том, что понятия «добро» и «зло» неочевидны. Любому создателю морального алгоритма не мешала бы здравая доля смирения. Как говорил известный американский судья Гвидо Калабрези, вдохновляясь Новым Заветом, «лучшие из нас должны остерегаться падения, а худшие – помнить, что надежда на искупление жива»[167]. Даже самые выдающиеся ученые, юристы и религиозные деятели – те, кому предстоит разрабатывать этические принципы для ИИ – не обладают безупречным пониманием добра и зла, чтобы выступать от имени всего человечества. Некоторые вопросы останутся без ответа – неоднозначность (или расплывчатость) понятий добра и зла проявлялась во все эпохи, и эра ИИ не станет исключением. Ситуацию усугубляют открытые конфликты, растерянность и несдержанность, характерные для многих современных обществ.
Мы возлагаем надежды на этот амбициозный проект, однако должны осознавать: как невозможно сохранить абсолютный контроль в условиях коэволюции, так и наивно ожидать, что системы ИИ самостоятельно выработают надежные механизмы самоограничения.
Обучение ИИ понимать нас с последующей надеждой, что он будет нас уважать, сложно назвать безопасной либо перспективной стратегией. Более того, люди, естественно, не будут едины в своем подходе: одни воспримут ИИ как товарища, другие – как угрозу, а третьи (из-за нехватки времени и ресурсов) не смогут определиться и просто примут наиболее доступный вариант.
Эта неоднородность приведет к предсказуемым различиям в уровнях безопасности. В то время как распространение ИИ и снижение затрат на разработку могут ускорить согласованность систем, те же факторы могут повысить сопутствующие риски. Цифровая и коммерческая взаимосвязанность современного мира означает, что опасный ИИ, разработанный кем и где угодно, может стать глобальной угрозой. Тревожная реальность такова, что безупречное воплощение проекта в жизнь требует высочайших стандартов производительности минимально допустимой погрешности. Поэтому различия в подходах к безопасности должны вызывать всеобщую обеспокоенность.
Мы призываем к координации и ускорению разрозненных усилий по согласованию ценностей систем ИИ. Вместе нам предстоит ответить на глубокие вопросы. Например, следующие:
1. Когда граница между человеком и машиной стирается, где та черта, за которой мы перестаем быть собой?
2. Если нам придется идти на компромисс с машинами, где проходит наша коллективная «красная линия», не подлежащая обсуждению?
Без общего понимания своей сути человечество рискует доверить ИИ самое главное – решать, чего мы стоим и зачем существуем.
Откровенно говоря, если окажется невозможным создать систему надежного технического контроля, мы должны предпочесть мир, где ОИИ (общего ИИ) не будет вовсе, миру, где хотя бы один ОИИ не согласован с человеческими ценностями. Достижение общего согласия в том, что представляют собой эти ценности, как их формулировать, согласовывать и применять, станет главнейшей философской, дипломатической и правовой задачей века. И все же мы вынуждены – под давлением обстоятельств и осознавая потенциальные блага технологии – установить и, насколько возможно, унифицировать моральные ограничения для новых форм разума, которым сами сейчас даем жизнь.
При условии активного участия общества, компетентной юридической и технической поддержки, а также крайней осторожности в оценке всех потенциальных рисков у нас есть основания надеяться, что базовые этические принципы удастся закрепить в системах ИИ, достигнув общечеловеческого консенсуса. Это даст нам возможность если не с полной уверенностью, то с разумной долей оптимизма шагнуть в новую эпоху технологического развития.
Homo Dignus – «Человек достойный»
По мере того как машины все больше перенимают человеческие черты (а некоторые люди в попытках самосовершенствования – машинные), граница между ними будет становиться все более размытой. Понятия «искусственный разум» и «человек» будут трансформироваться вплоть до частичного слияния их ключевых характеристик. Чтобы сохранить значимость в эпоху ИИ, человечеству предстоит заново осмыслить и четко определить свою уникальную сущность – те качества, которые останутся недоступными искусственному разуму. Но как уместить весь спектр человеческого опыта в форму, понятную ИИ?
Одни, стремясь избежать подчинения или замены машинами, будут ссылаться на божественную природу человека. Другие решат сосредоточиться на практических вопросах: какие решения можно доверить ИИ, а какие – нет. Мы же предлагаем выделить ключевой признак (или набор признаков), который объединит большинство людей и станет нравственным ориентиром, не ограничивая возможное будущее, но устанавливая нижнюю границу допустимого.
Для начала стоит определить само понятие достоинства. Без этого мы не сможем распознать случаи, когда при помощи ИИ его пытаются нарушить или подорвать. Таким образом, нам будет сложно подобрать адекватные ответные меры. Без четких критериев мы не поймем, способен ли развитый ИИ сам обрести достоинство, полностью заменить человека или объединиться с ним. Даже при очевидном понимании, что ИИ не станет «человеком», он будет представлять собой особый класс разумных существ, заслуживающий равного уважения и особых норм обращения.
Одно из определений понятия «достоинство», предложенное философом XVIII века Иммануилом Кантом, подчеркивает внутреннюю ценность человека как самостоятельного существа, способного к нравственному выбору, которое никогда не должно рассматриваться исключительно как инструмент для достижения целей. Этот философский подход ставит принципиальный вопрос: способен ли ИИ принципе соответствовать таким критериям? Четкое определение достоинства, как мы полагаем, не только станет ключом к решению этических дилемм, связанных с ИИ, но и позволит создать основу для гармоничного взаимодействия человека и машины, избегая при этом рискованных экспериментов по искусственной конвергенции видов разума.
Чтобы сохранить понимание собственной природы и передать подлинное представление о человечности, нам необходимо выйти за рамки чисто теоретических изысканий. Активное проявление воли, ненасытного любопытства и подлинной свободы; постоянное пробуждение и развитие нашего интереса к окружающим людям, природному миру, Вселенной и духовным исканиям – именно это поможет нам сообща переосмыслить границы человеческого в наступившую эпоху.
Крайне важно, чтобы в основе решений ИИ лежала не только эффективность и функциональность, но и подлинная ценность человеческой жизни. Возьмем, к примеру, милосердие – концепцию, которую невозможно свести к алгоритмам. Для многих людей оно остается непостижимым чудом, иррациональным и прекрасным.
Но если ИИ, следуя своей цифровой логике, начнет жертвовать человечностью ради оптимизации, сможет ли он когда-нибудь понять саму суть милосердия? Даже если его нельзя формально запрограммировать? Именно здесь в полной мере раскрывается значение достоинства – фундаментальной основы, порождающей милосердие. Это качество
