Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски

— Абсолютно, истинная правда! — с пафосом восклицает Марк. — Люди сами создают свою реальность.

— Погоди, — говорит Отри, снова озадаченный, — утверждение, что люди создают свою собственную реальность, логически представляет собой совершенно иной вопрос, нежели заявление об отсутствии истины — положение дел, которое я даже не могу себе представить сколько-нибудь связно, возможно, потому, что ты так и не объяснил, как именно это должно работать...

— Вот ты опять за свое, — раздраженно говорит Марк, — пытаешься применить свои западные концепции логики, рациональности, разума, связности и внутренней непротиворечивости.

— Великолепно, — бормочет Отри, — теперь мне нужно завести третью рубрику, чтобы отслеживать это абсолютно самостоятельное утверждение...

— Оно не самостоятельное, — говорит Марк. — Слушай, ты подходишь к делу неверно, когда относишься к моим словам как к гипотезам и тщательно выводишь из них следствия. Тебе нужно думать о них как об универсальных отговорках, которые я применяю всякий раз, когда кто-то говорит то, что мне не нравится. Это не столько модель устройства вселенной, сколько карточка «Бесплатный выход из тюрьмы». Ключ в том, чтобы применять эту отговорку избирательно. Когда я говорю, что истины не существует, это относится только к твоему утверждению, будто волшебное ведро работает независимо от того, верю я в него или нет. Но это не относится к моему утверждению, что истины не существует.

— Э-эм... а почему нет? — интересуется Отри.

Марк терпеливо вздыхает. — Отри, ты думаешь, что ты первый, кто додумался до этого вопроса? Кто спрашивает нас, как наши собственные убеждения могут иметь смысл, если все убеждения бессмысленны? Это же говорят многие студенты, когда впервые сталкиваются с этой философией — у которой, замечу, куча последователей и обширная литература.

— И каков же ответ? — спрашивает Отри.

— Мы назвали это «проблемой рефлексивности», — объясняет Марк.

— Но каков ответ? — упорствует Отри.

Марк снисходительно улыбается. — Поверь мне, Отри, ты не первый, кому пришел в голову столь простой вопрос. Нет никакого смысла преподносить его нам как триумфальное опровержение.

— Но каков ответ по существу?

— А теперь я хотел бы перейти к вопросу о том, как логика убивает милых детенышей тюленей...

— Вы зря тратите время, — отрезает инспектор Дарвин.

— Не говоря уже о том, что упускаете из виду овец, — говорю я, бросая в ведро очередной камешек.

Инспектор Дарвин смотрит на спорящих — оба, по-видимому, не желают уступать свои позиции. — Послушайте, — говорит Дарвин, уже помягче, — у меня есть простая идея, как разрешить ваш спор. Ты утверждаешь, — Дарвин указывает пальцем на Марка, — что убеждения людей меняют их личную реальность. А ты горячо веришь, — его палец разворачивается в сторону Отри, — что убеждения Марка не могут изменить реальность. Так пусть же Марк изо всех сил поверит, что умеет летать, а затем шагнет с обрыва. Марк увидит, как он улетает прочь словно птица, а Отри увидит, как он летит камнем вниз и разбивается в лепешку, и вы оба будете счастливы.

Мы все замолкаем, обдумывая это предложение.

— Звучит разумно... — наконец произносит Марк.

— Как раз вон там есть обрыв, — замечает инспектор Дарвин.

На лице Отри отражается напряженная работа мысли. Наконец он кричит: — Погодите! Если бы это было правдой, мы все давно уже разошлись бы по собственным частным вселенным, и в таком случае другие люди здесь — лишь плод твоего воображения, а значит, нет никакого смысла пытаться нам что-то доказать...

С ближайшего обрыва доносится затихающий протяжный крик, а вслед за ним — глухой и одинокий шлепок. Инспектор Дарвин перелистывает страницу своего планшета к списку текущего генофонда и карандашом вписывает чуть более низкую частоту для аллелей Марка.

Отри выглядит так, словно ему нехорошо. — Это действительно было необходимо?

— Необходимо? — недоуменно переспрашивает инспектор Дарвин. — Это просто случилось... Я не вполне понимаю твой вопрос.

Мы с Отри поворачиваемся обратно к нашему ведру. Пора загонять овец. Об этой части забывать не стоит. Иначе какой во всем этом смысл?

*

Книга II. Как на самом деле изменить свое мнение. Рациональность: Введение. E. Слишком удобные оправдания.

46. Правильное использование смирения

47. Третья альтернатива

48. Лотереи: пустая трата надежды

49. Новая улучшенная лотерея

50. Но шанс всё-таки есть, верно?

51. Заблуждение о сером

52. Абсолютный авторитет

53. Как убедить меня, что 2 + 2 = 3

54. Бесконечная уверенность

55. 0 и 1 — не вероятности

56. Ваша рациональность — моё дело

F. Политика и рациональность

57. Политика — убийца разума

58. Политические дебаты не должны казаться односторонними

59. Весы правосудия, блокнот рациональности

60. Искажение соответствия

61. Злы ли ваши враги от природы?

62. Глупость наизнанку — это ещё не ум

63. Аргумент экранирует авторитет

64. Прижмитесь к вопросу

65. Рациональность и английский язык

66. Человеческое зло и запутанное мышление

G. Против рационализации

67. Знание об искажениях может навредить людям

68. Обновляйтесь постепенно

69. Один аргумент против целой армии

70. Итоговая строка

71. Каким свидетельством является отфильтрованное свидетельство?

72. Рационализация

73. Рациональный аргумент

74. Избегание настоящих слабых мест вашего убеждения

75. Мотивированная остановка и мотивированное продолжение

76. Фальшивое обоснование

77. Это ваше истинное возражение?

78. Сцепленные истины, заразная ложь

79. О лжи и катастрофах типа «чёрный лебедь»

80. Эпистемология Тёмной стороны

H. Против двоемыслия

81. Одномыслие

82. Двоемыслие (выбор в пользу предвзятости)

83. Нет, правда, я себя обманул

84. Вера в самообман

85. Парадокс Мура

86. Не верьте, будто вы себя обманываете

I. Взгляд свежими глазами

87. Привязка и корректировка

88. Прайминг и загрязнение

89. Верим ли мы всему, что нам говорят?

90. Кэшированные мысли

91. Коробка «вне коробки»

92. Первозданное видение

93. Страннее, чем история

94. Логическая ошибка обобщения на основе вымышленных свидетельств

95. Добродетель узости

96. Как казаться (и быть) глубоким