Понимать риски. Как выбирать правильный курс

Бейсджампинг – экстремальный вид спорта, в котором используется специальный парашют для прыжков с фиксированных объектов. Здесь и далее, если не указано иное, – Прим. ред.

Биоэтика (термин ввел американский ученый В. Р. Поттер в книге «Биоэтика. Мост к будущему») – научное направление, изучающее нравственные аспекты биологических наук.

Гомéр Джей Си2мпсон – один из главных героев мультсериала «Симпсоны», воплощает в себе несколько американских стереотипов рабочего класса.

Эвристики в данном случае – типичные приемы образования суждений в условиях недостаточной или неопределенной информации. В общем случае эври2стика – отрасль знания, изучающая творческое, неосознанное мышление человека; совокупность приемов и методов, облегчающих и упрощающих решение познавательных, конструктивных, практических задач.

Стоимость, подверженная риску, – максимально возможная сумма потерь инвестора, оцененная за некоторый промежуток времени и с определенной вероятностью.

Серендипность (англ. serendipity) – инстинктивная (интуитивная) прозорливость, – термин, происходящий из английского языка и обозначающий способность, делая глубокие выводы из случайных наблюдений, находить то, чего не искал намеренно.

Чек-лист (Check list – контрольный список) – список, содержащий ряд необходимых проверок для какой-либо работы.

Кейп-Код – ïесчаный полуостров ледникового происхождения на юго-востоке штата Массачусетс.

Гистерэктомия – удаление матки.

FDA (Food and Drug Administration) – Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (США).

Bagehot, «Wink, Wink», The Economist, July 26, 2008.

Научный журнал Nature освещал споры между теми, кто считал, что люди не способны по своей сути иметь дело с рисками, и теми, кто смотрел на них более позитивно (Bond M., 2009). Замечу, что к числу последних отношусь и я. Представитель лагеря пессимистов экономист Ричард Талер (Thaler R. H., 1991, p. 4) утверждал, что «мысленные иллюзии следует считать скорее правилом, чем исключением», а его соратник, когнитивный психолог Массимо Пьяпелли-Пальмерини (Pianelli-Palmerini M., 1991, p. 35), доказывал, что «наш биологический вид абсолютно не способен к пониманию вероятностей». Эволюционный биолог Стивен Джей Гулд (Gould S. J., 1992, p. 469) утверждал, что «наш разум не создан (по многим причинам) для работы с правилами вероятности», а экономист Дэн Ариели (Ariely D., 2008, p. xx) – что «мы не только иррациональны, но предсказуемо иррациональны, то есть наша иррациональность проявляется одним и тем же способом, снова и снова». Психолог Дэниел Канеман (Kahneman D., 2011, p. 417) пошел еще дальше и приписал возникновение наших мысленных иллюзий старой биологической «Системе I», которая «нелегко поддается обучению». Я не согласен с такими пессимистичными воззрениями. Когнитивные иллюзии не заложены в нас природой. Существуют простые инструменты, позволяющие иметь дело с рисками и неопределенностью, которые может быстро освоить каждый (Gigerenzer G. 2000, 2008; Gigerenzer G. et al., 2012). Подробнее о них читайте в этой книге.

Paulos J. A., 1988. Что такое фактическая вероятность дождя в уик-энд? Если два события независимы, то тогда вероятность дождя в уик-энд равна 0,75, или 75 %. Чтобы получить такой результат, сначала рассчитывается вероятность того, что дождя не будет в субботу (0,5), затем значение этой вероятности умножается на вероятность того, что дождя не будет и в воскресенье (0,5). В результате мы получаем 0,25 (или 25 %). Это и есть значение вероятности того, что дождя не будет ни в один из выходных. Следовательно, вероятность, что дождь будет, равна 75 %. Для простоты я и далее буду выражать вероятности в процентах.

Gigerenzer G., Hertwig R., et al. 2005.

Однако даже метеорологи не всегда единодушны. Например, в 2003 г. Королевский метеорологический институт Нидерландов путано объяснял, что значит вероятность дождя, используя «региональную» интерпретацию одновременно с интерпретацией «степени уверенности метеорологов»:

Если вероятность дождя превышает 90 %, то тогда можно ожидать, что дождь прольется в каждой провинции Голландии. Чем выше процент, тем более уверен метеоролог в том, что дождь будет. Вот несколько примеров:

Как объяснял Роберт Муро (Королевский метеорологический институт Нидерландов): «Мы знаем о том, что население не очень хорошо понимает значение вероятности. Мы сами еще не полностью определились с терминологией, что может создавать еще больше путаницы» (G. Gigerenzer, R. Hertwig, et al. 2005, p. 627).

Furedi A., 1999. Этот страх возник в 1995 г.

См.: Gigerenzer G., Wegwarth O., Feufel M., 2010.

Gigerenzer G., 2004, 2006. Gaissmaier W., Gigerenzer G. (2012) содержит анализ региональных аварий со смертельным исходом. История Джастина Клейбина описана в его книге «9/11: A Firefighter’s Story» (2003, Imprintbooks) и цитируется в Ripley 2009, p. 35. На ежегодной конференции Society for Risk Analysis, состоявшейся 6–8 декабря 2008 г., Роберт Росс отмечал, что пики аварий, показанные на рис. 1.2, вызваны опасениями, связанными с событиями 11 сентября.

Gartenstein-Ross D. «Bin Laden’s ‘war of a thousand cuts’ will live on». The Atlantic, May 3, 2011.

Поль Словик (Slovic P., 1987) предложил термин «пугающий риск» для описания отсутствия контроля, катастрофического состояния и неравномерного распределения рисков и выгод. Я использую этот термин в более ограниченном смысле.

В соответствии с этим объяснением молодые взрослые люди сообщают, что они больше боятся инцидентов (болезней, аварий на производстве и землетрясений), которые способны убить сто человек, чем инцидентов, способных убить 10 человек, но их страх одинаков для инцидентов, вызывающих и сто, и тысячу смертей. Этот психологический порог – сто – типичен для страха перед смертью. Однако он не работает в отношении финансовых убытков, когда потеря 1 тыс. долларов выглядит более страшной, чем потеря 100 долларов (Galesic M., Garcia-Retamero R., 2012).

Stiglitz J., Frankfurter Allgemeine Zeitung, September 10, 2011, p. 19.

Schneider S., 2010.

Старомодный «жесткий» патернализм предполагает, что люди эгоистичны и нуждаются в руководстве для того, чтобы вести себя в интересах общества, в частности, соблюдать законы и платить налоги. В книге «Nudge» (Thaler R., Sunstein C. R., 2008) предложили версию «мягкого» патернализма, который слегка «подталкивает» людей к принятию решений в их собственных интересах. Хотя мягкий патернализм не предполагает использование силы, он более радикален, чем жесткий патернализм, поскольку предполагает, что люди даже не знают, в чем заключаются их интересы (Rebonato R., 2012). Новый аргумент заключается в том, что поскольку люди имеют систематические когнитивные иллюзии, то патернализм необходим для изменения их поведения. Но этот аргумент нельзя признать правильным. Когнитивные искажения не подразумевают патернализма (Berg N., Gigerenzer G., 2007).

Важнее всего то, что слабые когнитивные способности не записаны в наших генах, а во многом являются следствием отсутствия среды, стимулирующей интеллектуальную деятельность, в том числе и в школах. В результате мы наблюдаем низкий уровень IQ, часто трактуя его как врожденный, хотя он может быть значительно улучшен за счет обучения (Nisbett R. E., 2009). Почему, допустим, дети, рожденные до 15 сентября, имеют более высокий IQ, чем рожденные после этой даты? Ответ заключается в том, что в большинстве стран учебный год начинается приблизительно 15 сентября, а следовательно, дети, рожденные после этой даты, должны ждать следующего года, чтобы быть принятыми в школу. Этот факт позволил провести эксперимент в естественных условиях. Когда интеллект детей, имеющих преимущество в возрасте на 1 год при поступлении в школу, сравнивался с интеллектом тех, кто уже один год обучался в школе, то оказалось, что дополнительный год обучения в школе обеспечивал вдвое более высокую ценность в сравнении с одним годом, проведенным ребенком вне школы (p. 42).

Kant E., 1784. Enlightenment is largely still a task of the future.

Mill J. S., 1869; Berlin 1967.

Gigerenzer G., Gaissmaier W. et al., 2007.

Gigerenzer G., 2002, p. 11–13.

Dijksterhuis A.et al. 1996; Neuberg S. L., Newsom J. T., 1993.

Dewey J., 1929.

Sherden W. A., 1998, p. 259.

Tetlock P. E., 2005.

Gigerenzer G., Swijtink Z., et al., 1989. О вероятностной революции см.: Kruger L., Daston L., Heidelberger M., 1987; Kruger L., Gigerenzer G., Morgan M. S., 1987. Рекомендуется также ознакомиться с сайтом Дэвида Шпигельхальтера, посвященным статистическому мышлению http://understandinguncertainty.org/.

Позвольте мне сразу исправить одно распространенное ошибочное представление об эвристике. В соответствии с концепцией эвристики и искажений (например, Kahneman D., 2011) наше мышление может быть представлено с помощью двух систем, обладающих противоположными характеристиками. Подсознательная Система 1 использует эвристики и совершает ошибки. Сознательная Система 2, напротив, действует, руководствуясь логическими и статистическими правилами и, по-видимому, ошибок не делает. Но такая картина противоречит реальным фактам. Во-первых, каждая рассмотренная нами эвристика может использоваться и подсознательно, и сознательно (Kruglanski A., Gigerenzer G., 2011); таким образом, эвристика не находится в оппозиции сознанию. Во-вторых, эвристики не являются источником ошибок и могут приводить к более точным выводам, чем логические или статистические методы (см., например, рис. 6.3 и рис. 6.4). Следовательно, эвристики и ошибки не связаны между собой. Концепция двух систем упускает из виду различие между риском и неопределенностью. Статистические методы требуются для работы с известными рисками, а эвристики – в условиях неопределенности. Вместо того чтобы тратить время на критику эвристик, нам нужно изучать их экологическую рациональность, то есть выяснять, когда они работают, а когда нет (Gigerenzer G. et al., 2011; Todd P. M. et al., 2012).

В то же время простые практические правила всегда имеют позитивное значение в тех областях, где мы имеем дело с неопределенностью, например при создании искусственного интеллекта и изучении поведения животных. Изначально греческое слово «эвристика» означало «выживание для нахождения или обнаружения чего-либо». Математик Г. Поля из Стэнфордского университета указал в 1954 г. на различие между эвристическим и аналитическим мышлением. Например, эвристическое мышление необходимо для нахождения математического доказательства, а аналитическое мышление – для проверки этого доказательства на всех его этапах. Поля познакомил с эвристиками Герберта Саймона, на работы которого я ссылался.

Первым на различие между риском и неопределенностью указал экономист Чикагского университета Фрэнк Найт (Knight F., 1921, section I.I.26). Некоторые ученые не признают различие между риском и неопределенностью на том основании, что всегда можно сформировать условные вероятности, позволяющие свести неопределенность к риску. Я не считаю такой взгляд плодотворным, как и Джимми Саваж, отец современной байесовской теории решений, которому часто приписывается этот редукционистский подход. Саваж (1954) ограничил применение своей теории «малыми мирами», то есть четко определенными задачами, в которых все известно, такими как лотереи. Но он считал, что было бы «просто смешно» применять его теорию к большим мирам, даже к таким простым задачам, как планирование семейного пикника или подготовка к партии в шахматы. Лично я рассматриваю разум как набор адаптивных инструментов, который включает в себя простые практические правила и правило Байеса, причем каждый такой инструмент должен использоваться в своих целях. Хотя часто нам хочется рассматривать каждую задачу как задачу о вероятностях, такой подход подобен использованию исключительно молотка для выполнения всех ремонтных работ в доме.

Gigerenzer G., Swijtink Z. et al., 1989.

Daston L. J., 1988, гл. 6.

The Charlie Rose Show, February 11, 2009. Пилот также рассматривал вариант посадки в Тетерборо, но отказался от него. Истории пассажиров взяты из работы Firman D., Quirk K., 2009.

Это правило работает, когда мяч уже находится высоко в воздухе. См.: Gigerenzer G., 2007, гл. 1. Это же правило помогает морякам избегать столкновений: Зафиксируйте взгляд на другом судне. Если угол взгляда остается постоянным, немедленно меняйте курс.

Например, Kahneman D., 2011. Иногда говорят, что для Канемана стакан рациональности наполовину пуст, а для Гигеренцера он наполовину полон. Один пессимист, а другой оптимист. Такие характеристики упускают из виду главное. Мы различаемся в первую очередь в понимании того, что представляет собой стакан рациональности. Канеман и его последователи рассматривают логику и теорию вероятности как общую, «не видящую содержания», норму рациональности. По их мнению, эвристика никогда не может быть более точной, а может быть лишь более быстрой. Однако это справедливо лишь в мире известного риска. В мире неопределенности простая эвристика часто может работать лучше. Реальный вопрос для исследователей заключается в понимании того, когда и почему это происходит. Ответы, которые мы знаем сегодня, основываются на дилемме смещения-дисперсии (Gigerenzer G., Brighton H., 2009 гл. 5;) и общих исследованиях экологической рациональности (Todd P. M., Gigerenzer G., the ABC Research Group, 2012).

См.: Gigerenzer G., Hertwig R., Pachur T., 2011; Hertwig R., Hoffrage U., the ABC Research Group, 2013.

Gigerenzer G., Todd P. M., the ABC Research Group, 1999; Todd P. M., Gigerenzer G., the ABC Research Group, 2012.

Цитата Уэлча взята из работы Akerlof G. A., Shiller R. J., 2009, p. 14.

Stine G. J., 1996, p. 333–338. Я использую здесь термин ВИЧ вместо ВИЧ 1, который широко распространен во всем мире, в то время как ВИЧ 2 редко встречается за пределами Западной Африки.

Munro E., 2004.

Эта распространенность соответствует наблюдавшейся у американок, впервые ставших донорами крови под эгидой Красного Креста: Centers for Disease Control and Prevention. http://www.cdc.gov/hiv/topics/testing/resources/reports/hiv_prevalence/low-risk.htm (3 ноября 2012 г.).

Gigerenzer G., 2002, гл. 7. В 2013 г. мы побеседовали с консультантами по вопросам СПИДа еще раз и снова обнаружили у большинства из них ту же иллюзию определенности. Два дерева на рис. 2.5 используют «естественные частоты», которые помогают консультантам и клиентам интуитивно понимать правило Байеса (см. гл. 9). ВИЧ-тесты иллюстрируют пределы нашей точности при расчете риска: доля ложных положительных результатов (как и доля истинных положительных результатов, т. е. чувствительность), меняется от теста к тесту, и оба показателя, по-видимому, зависят от распространенности СПИДа среди населения.

www.idph.state.il.us/aids/materials/10questions.htm.

О случаях ложных положительных результатов ВИЧ-тестирования см.: Gigerenzer G., 2002, гл. 1 и гл. 7; история строительного рабочего приведена на с. 231, 232.

Taleb N. N., Blyth M., 2011. Идея заимствована из книги Бертрана Рассела «The Problems of Philosophy» (1912), гл. VI, посвященной индукции. Я добавил формальный анализ в терминах правила следования. Это правило является частным случаем правила Байеса (Gigerenzer G., 2002, p. 212).

Приводится в работе Makridakis S. et al., 2009, p. 796.

Расчеты ценности, подверженной риску, основываются в данном случае на предположении о нормальном распределении. См.: Haldane A. G., 2009. Why banks failed the stress test. www.bankofengland.co.uk/publications/Documents/speeches/2009/speech374.pdf.

Stiglitz J. E., 2010, p. 243. Несмотря на идею Штиглица, в большинстве исследований принятия решений, в том число и в нейроэкономике, изучается поведение в мире риска, а не в мире неопределенности. Полученные в ходе этих исследований цветные снимки показывают реакцию мозга на известные риски, а не на неопределенность реального мира (Volz K. G., Gigerenzer G., 2012). Такая приверженность лотереям и другим азартным играм выглядит удивительной с учетом того, что сами исследователи редко покупают лотерейные билеты. Причина этого, по-видимому, заключается в желании использовать математические методы оптимизации. Философский анализ ограниченности идеи оптимизации в человеческом обществе см.: Nida-Rümelin J., 2011.

Leibniz G. W., 1951.

См.: Sherden W. A., 1998, p. 174–175, а также цитату об осветительных лампах; и Süddeutsche Zeitung (T. Fromm, Für die Zukunft nur das Beste, January 28, 2011) о Даймлере. Об Айкене, который часто цитируется неправильно, см.: Cohen I. B., 1998.

Письмо Макса Вертхаймера Альберту Эйнштейну, 1934 г. См. также: Luchins E. H., Luchins A. S., 1979; задачка о старом автомобиле, с. 186, 187. Текст переведен непосредственно с оригинала и отличается от приведенного в данной работе.

Эйнштейн написал по-немецки: «Erst durch Rechnung merkte ich, dass für den Herunterweg keine Zeit mehr verfügbar bleibt… Solche Witzchen zeigen einem, wie blöd man ist!» Письма Альберта Эйнштейна к Максу Верхаймеру, Albert Einstein Duplicate Archive, Princeton University Library.

Goldstein D. G., Gigerenzer G., 2002. Историю серендипизма см.: Gigerenzer D. G., Goldstein G., 2011.

Mervyn King: «What fates impose: Facing up to uncertainty». The Eighth British Academy Annual Lecture 2004.

Kohn. L. T. et al., 2000.

Emanuel E. J., 2008, p. 2.

Ten facts on patient safety (2012): www.who.int/features/factfiles/patientsafety/en/index.html.

Приводится в статье Atul Gawande «The Checklist» in the New Yorker, December 10, 2007.

Pronovost P. et al., 2006.

Gawande A., 2009.

Брошюра из Aktionsbündnis Patientensicherheit: Aus Fehlern lernen, 2008.

Gigerenzer G., Goldstein D. G., 2011.

Domenighetti G. et al., 1993.

Trunkey D. D., 2010. p. 421. О профилактическом удалении яичников см.: Larson C. A., 2011.

Steurer J. et al., 2009.

Studdert D. M. et al., 2005.

Brenner. D. J., 2010; Picano E., Matucci-Cerinic M., 2011.

Brenner D. J., 2010; Brenner D. J., Hall E. J., 2007; Schwartz D. T., 2007. У переживших взрыв атомной бомбы происходило облучение всего тела, в то время как при КТ происходит облучение конкретного органа. Имеется мало свидетельств того, что риск возникновения рака конкретного органа значительно повышается в результате облучения других органов. Для сравнения, средняя доза, получаемая средним человеком из естественных источников, составляет около 3 мЗв.

Berrington de González A. et al., 2009; в работе приведены данные оценки количества сканограмм, сделанных в США в 2007 г., составляющие 72 млн: ежегодно их количество возрастает.

Brenner D. J., Hall E. J., 2007. Оценка основывается на специальном обследовании, проведенном во время дискуссии на собрании радиологов, работающих в педиатрии. Lin E. C. в работе 2010 г. приходит к сходному выводу о том, что каждое третье-четвертое исследование методом КТ или МРТ не нужно.

American Dental Association and U. S. Department of Health and Human Services, 2004.

TAP Study Group, 2001.

LeDoux J. E., 1996.

В травматологические пункты при американских больницах ежегодно поступает около 1300 человек, получивших повреждения в результате неосторожного использования электрических лампочек на новогодних елках. Примерно 10 из них не удается спасти, а общий материальный ущерб от использования лампочек на елках оценивается в 15 млн долларов. Как следствие, в 2007 г. Комиссия по безопасности потребительских товаров США запретила продажу новогодней гирлянды Prelit Trees в связи с опасностью ее чрезмерного нагревания и поражения людей электрическим током. Еще раньше, в 2000 г., Walgreens изъяла из продажи свои искусственные елки с оптоволоконными осветительными элементами из-за того, что они сильно нагревались и вызывали пожар. На практике не существует такого понятия, как нулевой риск. (Статистика по Германии: Feuerwehr und Rettungsdienst Landeshauptstadt Düsseldorf, 2001, www.duesseldorf.de/feuerwehr/pdf/alle/histbra.pdf.)

Эти и другие истории см.: Quigley C., 1996.

Цитируется по Quigley C., 1996, p. 187.

Gigerenzer T., «Teaching the foreign teacher how to travel». The Caravan, January 2011.

Опрос, проведенный Associated Press и Ipsos в октябре 2008 г. По данным опроса Гэллапа в 2005 г. была получена похожая оценка в 32 %, а также данные о том, что 28 % канадцев верят, что в домах живут привидения.

Gaskell G. et al., 2006. Эта уверенность сохранялась на протяжении многих лет. С 1996 г. Eurobarometers показывал, что 35–36 % европейцев были уверены в отсутствии генов у обычных помидоров.