Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски

а не сдвигаться постепенно от якоря. Но одного этого может быть недостаточно: испытуемые, которых просили избегать привязки, всё равно были ей подвержены.3 Поэтому, во-вторых, даже если вы пробуете первый метод, попытайтесь также подумать о противоположном якоре — заведомо слишком маленьком или слишком большом вместо слишком большого или слишком маленького соответственно — и ненадолго на нем сосредоточьтесь.

*

1. Amos Tversky and Daniel Kahneman, “Judgment Under Uncertainty: Heuristics and Biases,” Science 185, no. 4157 (1974): 1124–1131, doi:10.1126/science.185.4157.1124.

2. Fritz Strack and Thomas Mussweiler, “Explaining the Enigmatic Anchoring Effect: Mechanisms of Selective Accessibility,” Journal of Personality and Social Psychology 73, no. 3 (1997): 437–446.

3. George A. Quattrone et al., “Explorations in Anchoring: The Effects of Prior Range, Anchor Extremity, and Suggestive Hints” (Unpublished manuscript, Stanford University, 1981).

88. Прайминг и контаминация.

Представьте, что испытуемых просят нажать одну кнопку, если последовательность букв образует слово, и другую кнопку, если нет (например, «банак» против «баннер»). Затем вы показываете им слово «вода». Позже они быстрее определят последовательность «пить» как слово. Это явление известно как «когнитивный прайминг» (или эффект предшествования); конкретно эта его форма называется «семантическим праймингом» или «концептуальным праймингом».

Самое поразительное в прайминге то, что он происходит на очень низком уровне: прайминг ускоряет распознавание последовательности букв как слова, хотя логично было бы ожидать, что этот процесс происходит до того, как вы задумаетесь о его значении.

Прайминг также раскрывает колоссальный параллелизм распространения активации: если слово «вода» активирует слово «пить», оно, вероятно, также активирует слова «река», «чашка» или «всплеск»... и эта активация распространяется по семантическим связям понятий вплоть до распознавания буквенных строк.

Прайминг происходит подсознательно, и его невозможно остановить, поскольку это артефакт человеческой нейроархитектуры. Попытка удержать себя от прайминга — всё равно что попытка остановить распространение активации в собственных нейронных сетях. Попробуйте назвать вслух цвет — именно цвет, а не значение — следующего слова:

ЗЕЛЁНЫЙ

В эксперименте Муссвайлера и Страка испытуемым задавали вопрос с «якорем»: «Среднегодовая температура в Германии выше или ниже 5 °C / 20 °C?»1 Затем, выполняя задание на распознавание слов, испытуемые, которым предъявляли якорь «5 °C», быстрее распознавали такие слова, как «холод» и «снег», тогда как испытуемые с высоким якорем быстрее распознавали слова «жара» и «солнце». Это демонстрирует механизм привязки, не связанный с корректировкой: прайминг совместимых мыслей и воспоминаний.

Более общий вывод заключается в том, что абсолютно неинформативная, заведомо ложная или совершенно не относящаяся к делу «информация» может влиять на оценки и решения. В области эвристик и когнитивных искажений это более общее явление известно как контаминация.2

Ранние исследования в области эвристик и искажений обнаружили эффекты привязки. Например, испытуемые давали более низкие (или более высокие) оценки доли африканских стран в ООН в зависимости от того, спрашивали ли их сначала, больше эта доля или меньше 10% (65%). Изначально этот эффект объясняли тем, что испытуемые отталкивались от якоря как от отправной точки, прекращая корректировку, как только достигали правдоподобного значения, и осуществляли недостаточную корректировку, поскольку останавливались у границы доверительного интервала.3

Ранняя гипотеза Тверски и Канемана всё ещё кажется верным объяснением для некоторых обстоятельств, в частности, когда испытуемые сами генерируют первоначальную оценку.4 Однако современные исследования показывают, что в большинстве случаев эффект привязки обусловлен именно контаминацией, а не постепенной корректировкой. (Снимаю шляпу перед Unnamed за то, что напомнил мне об этом, — я читал статью Эпли и Гиловича много лет назад как главу в «Эвристиках и искажениях», но забыл о ней.)

В вашем продуктовом магазине, возможно, висят надоедливые вывески вроде «Не более 12 штук в одни руки» или «5 штук за 10 долларов». Эффективны ли эти надписи для того, чтобы заставить покупателей брать больше? Вы наверняка думаете, что на вас это не влияет. Но на кого-то это точно влияет, поскольку доказано, что такие вывески работают — именно поэтому магазины продолжают их вешать.5

Но самый пугающий аспект контаминации заключается в том, что она служит ещё одним из тысячи лиц предвзятости подтверждения. Стоит идее поселиться в вашей голове, как она запускает прайминг совместимой с ней информации — и тем самым гарантирует своё дальнейшее существование. Забудьте о давлении отбора в пользу победы в политических спорах; предвзятость подтверждения встроена непосредственно в наше «железо»: ассоциативные сети запускают прайминг совместимых мыслей и воспоминаний. Прискорбный побочный эффект нашего существования как нейронных существ.

Достаточно одного мимолётного образа, чтобы запустить прайминг связанных с ним слов. Не думайте, что нужно нечто большее, чтобы привести в движение предвзятость подтверждения. Нужна лишь одна быстрая вспышка, и итоговый вывод уже предрешён, ведь мы меняем своё мнение гораздо реже, чем нам кажется...

*

1. Thomas Mussweiler and Fritz Strack, “Comparing Is Believing: A Selective Accessibility Model of Judgmental Anchoring,” European Review of Social Psychology 10 (1 1999): 135–167, doi:10.1080/14792779943000044.

2. Gretchen B. Chapman and Eric J. Johnson, “Incorporating the Irrelevant: Anchors in Judgments of Belief and Value,” in Gilovich, Griffin, and Kahneman, Heuristics and Biases, 120–138.

3. Tversky and Kahneman, “Judgment Under Uncertainty.”

4. Nicholas Epley and Thomas Gilovich, “Putting Adjustment Back in the Anchoring and Adjustment Heuristic: Differential Processing of Self-Generated and Experimentor-Provided Anchors,” Psychological Science 12 (5 2001): 391–396, doi:10.1111/1467-9280.00372.

5. Brian Wansink, Robert J. Kent, and Stephen J. Hoch, “An Anchoring and Adjustment Model of Purchase Quantity Decisions,” Journal of Marketing Research 35, no. 1 (1998): 71–81, http://www.jstor.org/stable/3151931.

89. Верим ли мы всему, что нам говорят?

В некоторых ранних экспериментах по эффекту привязки и корректировки проверялось, снижает ли отвлечение испытуемых — создание у них когнитивной нагрузки путём задания высматривать цифру «5» в числовых рядах или чего-то подобного — величину корректировки и, следовательно, усиливает ли влияние якорей. Большинство экспериментов, по-видимому, подтверждали идею о том, что когнитивная занятость усиливает эффект якоря и, в более общем смысле, когнитивное загрязнение.

Изучая накапливающиеся экспериментальные результаты — всё новые доказательства загрязнения мышления, усугубляемого когнитивной занятостью, — Дэниэл Гилберт заметил поистине безумную закономерность: неужели мы верим всему, что нам говорят?

Естественно предположить, что, услышав какое-то утверждение, мы сначала понимаем его смысл, затем обдумываем его и, наконец, принимаем или отвергаем. Эта кажущаяся очевидной модель протекания