Почему факты не способны изменить наше мнение

Дисклеймер. Публикуем перевод статьи Элизабет Колбер, вышедшей накануне в The New Yorker. Это не просто тот материал, с которым дорогая редакция не согласна, но даже тот, к которому у неё есть вполне конкретная претензия. На наш взгляд, автор, декларируя борьбу с предвзятостью, не удержалась от искушения вложить в текст собственную предвзятость родом с левого фланга американского либерализма, ещё и подав её как научную истину. От Обамакейра и контроля над оружием до нелюбви к Трампу, дошедшей до мышиного цвета пиара.

Вместе с тем дорогая редакция сочла, что выкидывать слова из песни и позицию автора из текста неуместно даже тогда, когда автор сам страдает тем, от чего обещает исцелить других. Научно-популярная составляющая статьи при всём этом заслуживает внимания — разумеется, критического. С утверждением о социальной природе здравого смысла тоже можно спорить, но для начала нужно ознакомиться с самим текстом.

Дальнейшие суждения оставляем читателям.

Хвалённая человеческая склонность к рациональному мышлению может больше иметь общего с торжеством аргументов, чем со здравым смыслом. Иллюстрация Джерольда Дубойса

Новейшие исследования человеческого мышления свидетельствуют о том, что разум не всемогущ.

В 1975 году учёные из Стэнфордского университета предложили группе студентов поучаствовать в исследовании самоубийств. Им показали пары прощальных записок. В каждой паре одна была написана каким-нибудь сторонним автором, а вторая — человеком, действительно лишившим себя жизни. Студентам предложили определить, какой текст настоящий, а какой — подделка.

Некоторые участники эксперимента открыли в себе гениев. Из двадцати пяти пар записок им удалось различить фальшивку в двадцати четырёх случаях. Другие же были безнадёжны: они могли указать на реальную записку лишь в каждом десятом случае.

На самом деле, как это часто бывает в психологических исследованиях, весь эксперимент был постановкой. Да, действительно, половина записок была подлинной — взятой из офиса коронера округа Лос-Анджелес, — но подсчёт был подстроен. Студенты, которым сообщали, что они угадывали абсолютное большинство записок, на самом деле шли примерно вровень с теми, кому вновь и вновь повторяли: «Вы ошибаетесь».

Во второй фазе исследования обман был раскрыт. Студентам сообщили, что настоящей целью эксперимента было оценить их способность к самокритике. Это, впрочем, тоже было ложью. Наконец, студентов попросили прикинуть, сколько записок самоубийц было оценено правильно и сколько, по их мнению, смог бы правильно оценить средний студент. Здесь началось интересное. Те, у которых в предыдущей фазе были «высокие показатели», заявили, что в своих оценках они были очень точны, намного лучше, чем справился бы средний студент. Напомним, только что им сообщили, что у них нет никаких фактических оснований так считать. Напротив, «группа с низкими показателями» по-прежнему считала, что её оценка истинности записок намного хуже среднего — при том, что и это мнение ни на чём не основывалось.

Исследователи пришли к заключению, что уже сформированные впечатления являются необычайно устойчивыми.

Через несколько лет уже других студентов того же Стэнфордского университета привлекли к иному исследованию. Им передали пакеты с информацией о двух пожарных, Фрэнке К. и Джордже Х. В биографии Фрэнка, среди прочего, было отмечено, что у него есть маленькая дочка и он любит дайвинг. У Джорджа же был маленький сын и он предпочитал гольф. В пакеты также вложили ответы Фрэнка и Джорджа на то, что сами исследователь назвали «Проверкой выбора между риском и самосохранением». По одной из версий, содержащихся в пакетах, Фрэнк был успешным пожарным, который в ответах тестов на профпригодность всегда выбирал наиболее безопасный подход к работе. По другой же Фрэнк тоже всегда выбирал наиболее безопасный вариант, но при этом считался паршивым пожарным и неоднократно попадал на карандаш к начальству. И вновь посреди исследования студентам заявили, что их намеренно сбили с толку и что информация, которую они получили, была полностью вымышлена. Потом студентов попросили описать собственные представления — мол, какой подход, по-вашему, выберет успешный пожарный в случае опасности? Студенты, получившие пакеты с «первой версией Фрэнка», считали, что он постарается её избежать. Студенты из второй группы — что побежит ей навстречу.

Исследователи подчеркнули: при том, что факты, сформировавшие представления, были полностью опровергнуты, люди всё равно не изменили свои убеждения. В этом случае отказ от переосмысления выглядел ещё ярче — ведь сами убеждения формировались на основе явно недостаточной информации.

Стэндфордские исследования стали известными. В 1970-х их конечный вывод, согласно которому люди просто не мыслят трезво, шокировал. Сейчас уже не шокирует. Тысячи последующих экспериментов подтвердили и углубили этот тезис (аналогичные исследования советской психологической школы показаны в документальном фильме «Я и другие». — Прим. переводчика). И каждый, кто проводил подобные исследования или просто когда-то прочёл выпуск Psychology Today, знает: сегодня каждый студентик с планшетиком может наглядно продемонстрировать, сколь иррационально себя время от времени ведут люди, считающиеся здравомыслящими. Сейчас это вообще очевиднее, чем когда бы то ни было. Остаётся, впрочем, главная загадка: как мы до такого докатились?

В новой книге «Тайна разума» (“The Enigma of Reason”) учёные-когнитивисты Хьюго Мерсье и Дэн Спербер попытались дать ответ на этот вопрос. Мерсье, работающий в исследовательском институте в Лионе (Франция), и Спербер из Центрально-Европейского университета (Будапешт, Венгрия) полагают, что здравомыслие — развивающаяся черта, вроде хождения на двух конечностях или трёхцветного зрения. Оно зародилось в африканских саваннах, и рассматривать его нужно именно исходя из этого.

Если отстраниться от длительных когнитивно-психологических объяснений, позиция Мерсье и Сперберга звучит примерно так: наибольшее преимущество человека над другими видами — способность к сотрудничеству. Сотрудничество сложно организовать и почти настолько же сложно поддерживать. Для каждого в отдельности использовать других всегда выглядит наилучшим из вариантов. Разум зародился не для того, чтобы мы могли решать абстрактные логические проблемы. И даже не для того, чтобы мы могли делать выводы из незнакомых ранее данных. Скорее, он появился для решения проблем жизни в сотрудничающих группах.

«Разум — способ адаптации к гиперсоциальной среде, которую люди создали для самих себя», — пишут Мерсье и Спербер. Привычки, которые кажутся странными, глуповатыми или откровенно тупыми с «интеллектуальной» точки зрения, выглядят куда более обоснованными, если смотреть на них с точки зрения взаимодействия между людьми.

Рассмотрим, например, склонность к подтверждению своей точки зрения. Да, люди лучше воспринимают информацию, которая вписывается в их убеждения, и отвергают ту, что им противоречит. Среди множества форм некритического мышления и логических ошибок эта склонность, пожалуй, исследована лучше всего: ей посвящены целые учебники и массивы экспериментов. Один из наиболее известных, опять-таки, проводили в Стэнфордском университете. Для него исследователи набрали группу студентов с противоположными мнениями относительно смертной казни. Часть из них её поддерживала, полагая, что она снижает уровень преступности, другая часть была против и считала, что к сокращению количества преступлений казни не ведут.

Студентов попросили прокомментировать два исследования. В одном из них приводилась статистика в пользу сдерживания преступников угрозой смертной казни, в другом этот постулат подвергался критике. Оба исследования, как вы уже догадались, были чистой воды подделкой, созданной, чтобы подтвердить противоположные утверждения неоспоримыми статистическими данными. Студенты, которые изначально поддерживали смертную казнь, оценили исследование о «сдерживании» как убедительное, а противоречащее ему — как сомнительное. Студенты из второй группы, соответственно, наоборот. В конце исследования студентов вновь спросили об их воззрениях. Те, кто выступал за смертную казнь, укрепились в своём мнении; те же, кто был против неё, стали ещё более уверенно против.

Если считать, что разум нам дан для формирования обоснованных суждений, то склонность подтверждать своё же мнение — самая серьёзная ошибка в его структуре. Представьте себе, пишут Мерсье и Спербер, что так же думает мышка. Грызун, не позволяющий поколебать своё убеждение, что вокруг нет котов, скоро станет чьим-то завтраком. Склонность к подтверждению заставляет людей отвергать новые или недооценённые ранее угрозы — человеческий эквивалент кошки за углом, — и это не очень полезно с точки зрения естественного отбора. Тот факт, что мы всё-таки выжили, по мнению авторов, доказывает: это не ошибка, а адаптивная функция. Функция, связанная с нашей «гиперсоциальностью».

Мерсье и Спербер предпочитают термин «собственная предубеждённость» (myside bias). Люди, подчёркивают они, не столь и доверчивы. Когда мы сталкиваемся с альтернативным мнением, то всегда готовы найти в нём слабое место. А вот относительно собственных позиций мы слепы.

Хьюго Мерсье

Недавний эксперимент, проведённый Мерсье и несколькими его европейскими коллегами, демонстрирует эту ассиметрию. Участников попросили решить несколько простых логических задач. Потом их попросили пояснить свои ответы и дали возможность исправить первоначальный ответ, если в ходе более глубокого размышления были найдены какие-то ошибки. Большинство удовлетворилось первоначальным ответом, и лишь менее 15% решили его переосмыслить.

В третьем этапе участникам показали ответы других участников, которые пришли к иному выводу в решении той же задачи. Им вновь было предложено изменить свои решения. Но тут вступила в дела хитрость: ответы, представленные им как чужие, на самом деле были их же ответами. Почти половина участников это распознала. Но вторая половина внезапно стала много более критичной. Почти 60% участников отвергли ответы, которые раньше их вполне устраивали.

Эти искривления, согласно Мерсье и Сперберу, показывают, зачем у нас действительно появился разум и здравый смысл. А именно — для того, чтобы мы не стали жертвами других членов своей же группы. Живя в небольших объединениях охотников-собирателей, наши предки были весьма озабочены своим социальным статусом. Им сильно не хотелось стать теми, кто рвёт спины на охоте, пока остальные прохлаждаются в пещере. Здравый смысл в современном его понимании не давал таких преимуществ, какие давала победа в спорах.

Наших предков не заботил ни профилактический эффект смертной казни, ни идеальные качества пожарного. Им не были важны поддельные исследования, фейковые новости или Twitter. Не удивительно, что сейчас мышление частенько нас подводит. Как пишут Мерсье и Сперсер, «это один из многих случаев, когда изменения вокруг нас опережают естественный отбор».

Стивен Сломан, профессор Браунского университета, и Филипп Фернбах, профессор Университета Колорадо — тоже когнитивисты. Они тоже верят, что социальность — ключ к пониманию функций мышления, или, по крайней мере, многих его дисфункций. Они начинают свою книгу «Иллюзия знания: почему мы никогда не мыслим в одиночестве» (“The Knowledge Illusion: Why We Never Think Alone”) с анализа… устройства унитаза.

Стивен Сломан и Филипп Фернбах

Каждый в Соединённых Штатах, да и вообще во всём развитом мире, знаком с унитазами. Типичный их «представитель» являет собой керамическую чашу, наполненную водой. Когда кто-то опускает ручку или нажимает кнопку, вода и всё, что в воде, засасывается в трубу и попадает в канализационную систему. Но как это происходит на самом деле?

В ходе исследования, проведённого в Йельском университете, студентов попросили оценить свои познания касательно работы бытовых устройств, включая унитазы, застёжки-молнии и цилиндровые замки. Позднее их попросили выписать подробные, пошаговые объяснения того, как эти устройства работают. А потом вновь оценить собственные познания. В процессе студенты осознали собственное невежество и их самооценка подупала (ибо унитазы не столь просты, как это кажется на первый взгляд).

Сломан и Фернбах распознают этот эффект, который они называют «иллюзией глубоких познаний» (буквально «иллюзия пояснительной глубины», “illusion of explanatory depth”. — Прим. переводчика), практически везде. Люди верят в то, что они знают намного больше, чем на самом деле. Что заставляет их настаивать на этом и в разговорах с другими людьми. В случае с унитазом кто-то разработал его таким, что сейчас им удобно пользоваться. В этом человечество преуспело. Мы полагаемся на навыки других с тех пор, когда наконец разобрались, как охотиться вместе — что, пожалуй, было ключевым достижением в нашей эволюционной истории. Поскольку мы надёжно связаны взаимным сотрудничеством, утверждают Сломан и Фернбах, нам не так-то просто понять, где заканчивается наше понимание процессов и начинается чужое.

«Яркий пример естественности, с которой мы разделяем умственную работу, — пишут они, — отсутствие чётких границ между идеями и познаниями одного человека и других членов группы».

Такая безграничность — или, если хотите, запутанность — очень важна для того, что мы называем прогрессом. Когда люди изобретают новые инструменты или новые способы жизни, то вместе с тем они создают и новые области невежества. Если бы каждый, прежде чем взять нож, должен был познать тонкости металлургии, то у нас до сих пор длился бы бронзовый век. Когда речь заходит о технологиях, неполное понимание даёт плюс, а не минус.

А вот где оно даёт однозначный минус, согласно Сломану и Фернбаху, так это в политике. Одно дело — смывать воду в унитазе, нечётко представляя, как это всё работает; совсем другое — выступать в поддержку (или против) запрета на иммиграцию, не понимая, о чём речь и как оно на нас скажется. Сломан и Фернбах цитируют исследование, проведённое после аннексии Россией украинского Крыма. У респондентов спросили, как, по их мнению, США должны реагировать, а потом попросили указать Украину на карте. Увы, чем дальше их точка на карте была от реальных границ страны, тем больше они поддерживали прямое военное вмешательство (в целом респонденты настолько путались в расположении Украины, что средняя погрешность составляла 1,8 тыс. миль — примерное расстояние между Киевом и Мадридом).

У других исследований были столь же неоднозначные результаты. «Как правило, сильные чувства не идут рука об руку с глубоким пониманием», — пишут Сломан и Фернбах. Проблему усиливает наша зависимость от чужих мнений. Если ваша позиция, скажем, по реформе здравоохранения в США не имеет под собой рациональных оснований, а я ей доверяю, то и моя позиция не имеет под собой таких оснований. Когда я поговорю с Томом и он со мной согласится, его мнение тоже будет беспочвенным. Но теперь нас уже трое, и это дополнительно укрепляет нас в наших воззрениях. Мы можем вообще отбрасывать любую информацию, которая противоречит нашему мнению. Примерно так делает администрация Трампа.

«Общность познаний и убеждений может быть опасной», — утверждают Сломан и Фернбах. Они провели собственный вариант «унитазного эксперимента», но в этот раз опрашивали людей об их позициях касательно бытовых приборов. А в исследовании 2012 года они задавали вопросы вроде «Нужна ли нам система государственного здравоохранения?» или «Нужна ли нам дифференцированная оплата труда учителей?». Участников попросили оценить своё согласие или несогласие с теми или иными тезисами, а потом тщательно разъяснить, какой, по их мнению, это даст практический эффект. Множество людей на этом спотыкались. И когда им предложили переоценку, они уже соглашались или не соглашались значительно осторожнее.

С точки зрения исследователей, этот результат — малая свеча в царстве тьмы. Если мы, или наши друзья, или умники на CNN тратили меньше время на разглагольствования и больше — на объяснение возможного эффекта от тех или иных политик, то, возможно, поняли бы, насколько мы на самом деле не в теме и сколь поверхностны наши познания. «Это, — пишут учёные, — возможно, единственная форма мышления, которая пошатнёт наши иллюзии и изменит поведение».

Один из взглядов на естественные науки рассматривает их как систему, исправляющую естественные для людей грешки. В хорошей лаборатории нет места личным предубеждённостям: результаты должны быть воспроизводимы в других лабораториях, исследователями, никак не заинтересованными в подтверждении той или иной позиции. Именно поэтому вся система успешно работает. В какой-то момент сфера может погрязнуть в спорах, но рано или поздно методология должна восторжествовать. Наука пойдёт вперёд, даже если мы застрянем на месте.

В «Отрицая до могилы: почему мы игнорируем факты, которые могут нас спасти» (“Denying to the Grave: Why We Ignore the Facts That Will Save Us”) психиатр Джек Горман и его дочь Сара Горман, специалист по здравоохранению, рассматривают зазор между тем, что утверждает наука, и тем, во что мы верим. Они сосредотачиваются на убеждениях, которые не просто явно ложны, но и несут смертельную опасность — например, убеждённость во вреде вакцинирования. Разумеется, опаснее не вакцинироваться — собственно, поэтому вакцины и появились. «Иммунизация — одна из великих побед современной медицины», — пишет Горман. Но не важно, сколько исследований доказывают безопасность вакцин и отсутствие связи между ними и аутизмом, борцы с вакцинацией не сдаются (отчасти на их сторону встал даже Дональд Трамп, заявивший, что хоть они с женой и сделали прививки своему сыну Бэррону, но отказались делать это согласно определённому педиатрами времени).

Горманы также утверждают, что способы мышления, которые сейчас кажутся саморазрушительными, на каком-то этапе развития человечества были способом приспособиться к реальности. И они также посвящают много страниц склонности к самоподтверждению, в которой, по их мнению, важна психологическая составляющая. Они цитируют исследования, в которых говорится, что при подтверждении собственной точки зрения люди испытывают чисто физическое удовольствие — идёт большой заряд допамина. «Приятно стоять на своём даже тогда, когда ты не прав», — заключают они.

Горманы не просто каталогизируют свойственные людям ошибки, они хотят помочь в их исправлении. Должен быть какой-то способ, пишут они, убедить людей в пользе вакцин для детей и опасности оружия (среди прочего, они подвергают критике распространённое, но статистически спорное утверждение, что владение оружием обеспечивает безопасность). Но здесь они попадают в ловушку тех же проблем. Обеспечение людей точной информацией не помогает. Помогает апелляция к эмоциям, но это противоречит их же принципу продвижения сухого научного подхода. «Всё ещё стоит задача», — пишут они в конце книги, — «понять, как работать с тенденциями, ведущими к ложным убеждениям».

Келлиэнн Конуэй

«Тайна разума», «Иллюзия знания» и «Отрицая до могилы» были написаны ещё до ноябрьских выборов. И всё же они предвосхитили Келлиэнн Конуэй и восход «альтернативных фактов». В эти дни кажется, что вся страна оказалась под психологическим экспериментом, проводимым Стивом Банноном. Сторонники рациональности, возможно, что-то и придумают. Но это науке пока неизвестно.

Перевод Виктора Трегубова.

Источник: The New Yorker.