Почему мы так любим когнитивные искажения, в просторечии именуемые подтасовками?

Я захожу в комнату к деду. Он лежит на кровати с красным лицом и тяжело дышит.

— У тебя сколько давление? — спрашиваю.

— 170, — отвечает дед.

Дед с детства занимался спортом, вел здоровый образ жизни, никогда не болел и не пил никаких лекарств.

— Ты лекарства от давления пил?

— Да, полтаблетки.

— Мало, — говорю я. — Выпей еще.

— Зачем? Они на меня все равно не действуют. Я лучше рюмочку коньяку выпью.

Я заставляю деда выпить еще таблетку гипотензивного, потом мы ужинаем, и за ужином он выпивает немного коньяку. После ужина дед измеряет давление.

— Ну, видишь, снизилось! — довольно констатирует он. — Говорил же, что коньяк мне помогает.

Я вздыхаю. Дед не хочет верить, что ему помогают лекарства, потому что не хочет думать о том, что ему нужны лекарства, ведь лекарства нужны больным людям, а он не привык болеть. Да и быть стариком он не привык.

Правда гомеопатов

Гомеопатию в России недавно объявили лженаукой. В моем детстве моя бабушка, доктор, между прочим, медицинских наук, лечила мне гомеопатией поджелудочную железу, и даже, как будто, вылечила. Вот только лечить в гомеопатических таблетках нечему. Гомеопатические препараты получаются и, как считается, увеличивают свою силу при «потенцировании». Что такое потенцирование? Это то же, что в лаборатории по органической химии, где я работал после университета, называется мытьем посуды. Налейте вещество в стакан. Вылейте в раковину.

Налейте воды. Поболтайте. Вылейте. Налейте еще, поболтайте, вылейте. После десяти ополаскиваний в разных растворителях лабораторная посуда считается пригодной для использования в самых тонких методах анализа. Чистой от любых примесей. Для гомеопатических препаратов операция «потенцирования» может повторяться 20, 30, 100 и даже больше раз. После такого можно быть уверенным, что в лекарстве не осталось ни одной молекулы действующего вещества.

Читайте также пословицы Научно не придумаешь 13 открытий, сформулированных в русских пословицах и поговорках

Но дело не в этом. И не в том, есть ли у воды «память», которая могла бы позволять «потенцированной» воде иметь «свойства, существенно отличающиеся от свойств обычной воды в их воздействии на биологические системы», хоть такое утверждение и является необоснованным с точки зрения науки. И даже не в том, что гомеопаты приводят в своем обращении к академии наук объяснения, говорящие о «законах дуалистичной природной среды», «гармонизации биопроцессов», «биорезонансе» и «гомеопатических препаратах, как совокупности квантовых полей».

Дело в типе аргументов, которые гомеопатическое сообщество пытается приводить в пользу действенности гомеопатии. «Есть ученые, которые серьезно относятся к гомеопатии, например, Нобелевский лауреат от медицины Люк Монтанье». «Пациенты в интернет-голосовании выдвинули меня в номинанты и избрали первым лауреатом Национальной премии Республики Казахстан «Народный любимец» в номинации «Чудесный врач». Этим отмечена эффективность лечения». «Если мы вылечили пять больных от «неизлечимых» болезней из пяти обратившихся, то это уже статистически достоверный лучший результат по сравнению с эффективностью догматической медицины». Замечаете общие признаки с аргументацией деда? Это аргументы, апеллирующие к авторитету, мнению большинства, случаям выздоровления, но все они пытаются найти информацию, которая могла бы поддержать идею о действенности гомеопатии.

человек, еще с тех времен, когда люди были обезьянами, пользовался предрассудками, потому что они полезны

Такое поведение гомеопатов и моего деда называется «confirmation bias», предвзятость подтверждения: это склонность человека искать факты и интерпретировать их в свою пользу или отдавать предпочтение информации, которая согласуется с его точкой зрения. И упрекнуть в этом можно не только стариков и гомеопатов. Каждый человек, еще с тех времен, когда люди были обезьянами, пользовался этим и многими другими предрассудками, или «когнитивными искажениями», потому что они полезны. Из того, что перед удачной охотой шаман устраивал ритуальные танцы, не следует, что танец шамана является достаточным условием успеха. И тем не менее, уверенность в этом дает охотнику храбрость, необходимую для того, чтобы быть успешным охотником.

Ошибка выжившего

В современной психологии есть гипотеза, говорящая о том, что человеческая способность рассуждать и аргументировать свою точку зрения развилась в нас, как механизм для укрепления социального положения. «Данные показывают, что рассуждения не только зачастую не приводят к рациональным выводам, во многих случаях они могут вредить рациональности. Это происходит из-за того, что логика изначально нужна нам не для отыскания объективной истины. Она нужна для того, чтобы выигрывать споры: убеждать других в своей правоте, особенно тогда, когда нашу правоту ставят под сомнение».

Но какое нам дело до гомеопатов и древних охотников? Серьезные люди не допускают таких ошибок, верно? Ну, вот тогда пример из инженерной истории боевых самолетов. Во время второй мировой войны одним из главных вкладов Англии в борьбу с фашизмом были бомбардировки оккупированных территорий. Однако потери среди бомбардировщиков оказались огромны, и поэтому было принято решение покрыть самолеты броней, чтобы они не доставались противнику так легко. Но покрыть самолеты целиком было нельзя — они стали бы слишком тяжелы и не смогли бы нести достаточное количество бомб и горючего, чтобы долетать до своих целей и уничтожать их. Требовалось определить, какие места самолетов защищать в первую очередь.

логика нужна нам не для отыскания объективной истины, а для того, чтобы выигрывать споры: убеждать других в своей правоте

Специалисты военно-морского аналитического центра осмотрели все вернувшиеся с заданий самолеты и предложили покрыть броней места, которые были повреждены больше всего. Логично, правда? Подозрения начинают закрадываться, когда узнаешь, что ни у одного из этих самолетов не были сильно повреждены ни кабина, ни двигатели. Только через некоторое время математик Абрахам Вальд понял, в чем дело. Единственным типом самолетов, доступных для анализа, были те, что вернулись из боя, то есть чьи повреждения не были фатальными. А значит, защищать нужно было именно неповрежденные места, потому что самолеты с такими повреждениями на базы не возвращались.

Это называется «survivor bias», ошибка выжившего, когда обращают внимание только на информацию о благополучной группе, которая на виду, и она имеет отношение не только к военной истории.

Иллюстрация: Катя Рондель для ТД

Подтасовка удачи

Каждый раз, когда человек чего-то добивается, ему хочется думать, что это исключительно его заслуга, но в каждом успехе играет роль случай. Авторы, пишущие статьи с названиями типа «10 черт характера, присущих успешным людям», регулярно совершают эту ошибку. Например, тот факт, что Билл Гейтс и Стив Джобс оба бросили высшее образование, не является указанием на то, что бросать университет — это путь к успеху. Но нам начинает так казаться, потому что мы много слышим об успешных уникумах без высшего образования и ничего о миллионах посредственностей, которые тоже бросили учебу, но не добились успехов.

То же и в бизнесе: в 2001 году была опубликована книга Джима Коллинза «От хорошего к великому», где он рассматривал стратегии одиннадцати самых успешных компаний, прибыль которых в течение 40 лет была в несколько раз больше среднестатистической. Но дело не в том, какие общие черты у всех этих компаний он нашел. Дело в том, что за десять лет, прошедшие с момента публикации этой книги, прибыль шести из одиннадцати «великих» компаний опустились до уровня ниже среднестатистического. Такой «сильный задним умом» анализ указывает, в первую очередь, на то, что, если тебе везло последние 40 лет, это не значит, что тебе обязательно повезет в следующие 10.

Научный подгон

Но, может, хотя бы в науке не так? Разве научный метод не был придуман специально для того, чтобы избежать предвзятости и получить как можно более объективные ответы? Да, конечно. Научный метод — хорошая идея, но ученые — тоже люди, и почти каждый из них тоже может совершить ошибку и принять желаемое за действительное.

Например, в физике элементарных частиц порог значимости результата для публикации об открытии новой частицы очень строг, так называемые 5-сигма. То есть статистически вероятность того, что открытие будет случайным совпадением, оказывается меньше одного на три с половиной миллиона. Тем не менее, в историю современной науки большими буквами вписан казус с пентакварком.

Читайте также Форум "Ученые против мифов - 3"


фото: Никита Медведев Мифогенные мутации Корреспондент «Таких дел» побывал на форуме «Ученые против мифов» и посмотрел, как энтузиасты своими скромными силами пытаются противостоять засилью лженауки и мракобесия

В 2002 году ученые из Японии объявили об открытии пентакварка, элементарной частицы, которая состояла из пяти кварков, а не из трех, как обычные протоны и нейтроны, из которых сделаны ядра атомов. За следующие два года были опубликованы еще 11 независимых исследований, которые, как и оригинальное, нашли доказательства существования пентакварка со значимостью примерно равной или даже превышающей 5-сигма. Самое замечательное, что за следующие несколько лет исследований на еще более точном оборудовании другие ученые не нашли никаких указаний на существование пентакварка. Как такое может быть, и в чем мораль сей басни?

По-английски это называется p-hacking, а по-русски подгон. Дело в том, что какими бы данными ни обладал ученый, они нуждаются в интерпретации. И даже в рамках, казалось бы, строго поставленного эксперимента, у исследователя есть много способов изменить полученный результат. Можно варьировать условия эксперимента до тех пор, пока он не станет давать интересные результаты. Можно не учитывать некоторые данные, слишком уж выбивающиеся из общей закономерности, решив, что в этих случаях просто была совершена ошибка. А уж если некорректно пользоваться статистическими методами, то при должном желании можно найти значимую связь практически где угодно, например, между поеданием шоколада и похудением.

Но ученые делают так не потому, что они все хитрые злодеи, стремящиеся обмануть наивных обитателей Земли. Большинство ученых вообще делают это бессознательно. Просто научные журналы не хотят публиковать работы, в которых люди опровергли собственную гипотезу или пытались повторить уже опубликованные исследования, это скучно. Наибольшей популярностью пользуются самые странные и удивительные открытия, а в таких неизведанных областях вероятность найти ложный ответ наиболее велика. Наконец, карьеры ученых напрямую зависят от количества и популярности их публикаций. А значит, делать открытия необходимо, вне зависимости от того, существуют ли они в реальности или только в интерпретации данных. И что же делать?

В 2012-м году, через 10 лет после позорной истории с пентакварком, ученые с Большого Адронного Коллайдера, сами того не ожидая, увидели пик в данных, который был до странности похож на то, как должен выглядеть пентакварк. Но, памятуя о том, как их коллеги 10 лет назад приняли желаемое за действительное, они сделали все, что могли, пытаясь найти альтернативное объяснение. После трех лет безуспешных попыток опровергнуть собственные данные, они доказали, что это таки пентакварк со статистической значимостью в 9-сигма, что намного больше, чем использовалось даже для открытия бозона Хиггса.

Правда — это то, что остается от твоих представлений после того, как ты приложил все усилия к тому, чтобы их опровергнуть

То бишь, с научным методом все в порядке, проблема только в людях. Если человек очень хочет убедить себя и других в том, что он здоров, он убедит. Если большой бизнес основан на вере в волшебные совпадения, аргументы в его пользу найдутся. Если человек добился успеха, он не захочет думать, что ему просто повезло. Если мы постараемся, то обязательно сумеем принять желаемое за действительное. Но если все же захотим найти правду, то нужно, в первую очередь, научиться сомневаться в самих себе и прикладывать усилия к тому, чтобы опровергнуть то, во что хочется верить. А если не получается опровергать самих себя, можно опровергать коллег и знакомых. Чужие иллюзии рушить всегда легче.


Хотите, мы будем присылать лучшие тексты «Таких дел» вам на электронную почту? Подпишитесь на нашу еженедельную рассылку!