Эвристика вероятности

Нам постоянно приходится объяснять причины событий потому, что знать точно причину означает понимать и то, как можно воздействовать на следствия и еще - понимать то, как на будущее можно предотвратить нежелательную причину или, наоборот, добиться, чтобы так и впредь происходило.

С жизненным опытом мы все лучше учимся объяснять причины во все более знакомых областях и даже развиваем навык оценки вероятности в разных областях. А ребенок - совершенно наивен в этом: нужно не раз его обмануть, чтобы он перестал верить. Достаточно чуть по-другому обманывать.

Но даже опытные люди часто оказываются неадекватны реальности в оценках причин в двух самых общих случаях: 1) произошедшее кажется им настолько очевидно понятно, что они убеждены в причинах, связях, зависимостях 2) они в упор не видят причинно-следственных зависимостей в происходящем.

Как научиться корректно прикидывать вероятности

Как и отражение любых других причинно-следственных закономерностей, мы можем научиться верно чувствовать вероятности. Но лучше развивать этот навык не с нуля, а опираясь на уже достигнутое.

Сегодня существуют методы, позволяющие даже в случае минимального жизненного опыта оценивать, насколько вероятно, что вам врут партнеры и близкие, насколько уверенно можно допускать зависимость между явлениями, в том числе, казалось бы, совершенно не связанными.

В первую очередь, нужно сформировать у себя верное отношение к вероятностям и причинно-следственным взаимосвязям потому, что иначе любой формальный метод можно использовать неверно и обмануться.

Следует очень осторожно относиться к очевидным зависимостям даже если они повторяются. В Монте-Карло ведут логи выпавших комбинаций выигрышей и оказалось, что при полной уверенности в правильной работе рулетки или идеальности игральных костей иногда выпадают удивительные серии последовательсти чисел. И эти чудеса вовсе не означают, что есть нечто, вот так влияющее на расклад. А все дело в том, что любой расклад имеет смысл только для нас по той или иной причине. Мы придаем большую значимость выпадению четырех шестерок два раза подряд, а для природы совершающегося все комбинации - совершенно равновероятны. Следует понимать, что каждая новая попытка выигрыша никак не связана с предыдущей, если только в самом деле нет какой-то такой физической связи, а это - не наше придание смысла двум независимым процессам.

О том, как легко можно обманываться, придавая личное значение последовательностям событий иллюстрирует статья: К вопросу о влиянии северного сияния на онанизм в Средней Азии. Никакие, даже кажущиеся очевидными, зависимости не следует считать взаимосвязанными, пока точно не будет установлена одинаковая причина наблюдаемых проявлений.

Еще нужно просто поверить (или доказать теорему) в следующий принцип: Любое данное наблюдение имеет множество различных возможных причин:

...Простое наблюдение того что человек бежит, не будет достаточным, чтобы сказать, что он торопится или что он просто на утренней пробежке.

... Или возьмём обсуждение теорий заговора. Некоторые люди считают, что необъяснённые или подозрительные вещи в официальных отчётах означают, что существует государственный заговор.

Другие считают, что априорная вероятность гипотезы «правительство готово проводить массовые рискованные операции с тысячами невинных жертв для того, чтобы ввести публику в заблуждение» очень мала и думают, что куда вероятней есть что-то ещё, вызывающее данные подозрительные вещи.

Опять же, это может казаться очевидным. Но есть ряд хорошо знакомых примеров, в которых люди забывают применить данную информацию. Возьмем феномен сверхъестественного: да, если существовали духи или боги, влияющие на наш мир, некоторые из вещей, входящих в человеческий опыт, могли бы подпадать под категорию вещей, которые могли бы вызываться данными силами. Но также есть бесчисленное количество обыденных объяснений, от совпадений до психических расстройств при богатом воображении, что могли привести к восприятию данных вещей. Большую часть времени постулирование сверхъестественного объяснения не должно даже возникать у вас в сознании, поскольку у обыденных причин есть уже множество свидетельств в их пользу, а у сверхъестественного — ни одного.

Отсюда следует вывод, обязательный, если нет желания обмануть себя: даже если взаимосвязь кажется очевидной, необходимо проявить скепсис (тем больший, чем важнее ситуация) и попытаться предположить другие причины. Чтобы противодействовать уже имеющемуся предпочтению в объяснении, стоит представить себя оппонентом, которому предложили такое объяснение и попытаться опровергнуть это.

Как минимум, спросите себя «что если данной причины не существовало бы — мог бы я ожидать независимо наблюдать то же явление с той же вероятностью?» Если ответ «да», то, возможно, причиной является вовсе не А.

Строго говоря, можно сделать бесконечное число возможных предположений о причинах данного наблюдения, которые различаются вероятностью или правдоподобием, наиболее правдоподобные из которых становится возможным оценить определенными методами.

Субъективные ошибки оценки вероятности

Странно то, что человек приобретает жизненный опыт, часто очень болезненный опыт, который можно и нужно применять впрок, но тогда почему люди неверно оценивают события, исходя из своего опыта?

Психологические эксперименты показали, что люди часто неверно оценивают вероятность события, на основе полученного опыта (апостериорная вероятность), поскольку игнорируют саму вероятность предположения (априорная вероятность). 

... В ходе проведения плановых медицинских осмотров установлено, что в сорокалетнем возрасте 100 женщин из 10000 болеет раком раком молочной железы. 80 женщин из 100 больных раком получают положительные результаты маммографии. 950 женщин из 9900 здоровых также получают положительные результаты. Если проведён осмотр 10000 женщин данной возрастной группы, какая доля женщин с положительным результатом маммографии действительно болеет раком молочной железы? Ответ - 7,8%. Только 7,8% женщин с положительной маммограммой будут иметь рак груди!

Так что, если одна из этих сорокалетних женщин получает положительную маммограмму, и доктору известно о вышеприведенной статистике, то он должен сказать женщине, что у нее только 7,8% вероятности того, что она имеет рак груди, несмотря на положительную маммограмму. Это куда менее пугающе, для женщины, нежели доктор скажет, что шанс равен 70%-80%, как делает большинство докторов!

Или вот какой пример в комментариях к Байесовская ловушка:

Вчера удачно сорвал банан с дерева, и тигра рядом не видел, и тигр сейчас должен быть сыт, поскольку съел антилопу — значит можно идти за следующим бананом. Само по себе ни одно из событий не дает уверенности в безопасности данного предприятия, но все они вместе дают почти полную уверенность.

Ошибки в оценке вероятности возможных взаимосвязей происходят в силу интерпретирующих свойств формируемых в голове моделей представлений о мире, что в худших своих проявлениях приводит к психопатологическим зависимостям.

Особенно часто совершают ошибки в рассуждениях творцы умозрительных теорий и философы всякий раз тогда, когда они интерпретируют явления, о которых рассуждают на основе своих устоявшихся моделей понимания (иногда гигантских по глубине и охвату) вместо того, чтобы выявить только те причинно-следственные процессы, которые определяют суть данного выделенного вниманием явления вне зависимости от его разновидности и других побочных процессов. Т.е. только исследование системы взаимодействующих процессов в явлении способно точно составить его модель, и такая модель потому и называется системной. Примером неадекватной реальности умозрительной модели можно привести творение художника-философа: Комментарии по книге Николая Ас «Тайна троицы А. Рублева, мгновенные словесные мысли и их свойства».

Нарабатываем методы эвристической оценки вероятности

Теперь можно попробовать начать использовать методы оценки вероятности событий без сложных расчетов, а всего лишь выработав несколько простых оценочных правил. Конечно, точные результаты мы так не получим, но оценить вероятность сможем несопоставимо более адекватно реальности, чем просто доверяя нашим сложившимся представлениям. Это называется использованием эвристического мышления, что в наибольшей степени соответствует природному принципу мышления.

Сначала необходимо развить некоторый опыт в определении природы зависимости, т.е. того, что может быть причиной данного последствия.

Вы откусили яблоко с характерной коричневой кожей после долгого лежания, и убедились, что такое яблоко есть нельзя. Можно ли перенести этот опыт оценки на любой другой фрукт? Оказывается, если хурма стала коричневой, то это вовсе не значит, что она стала несъедобной, наоборот, она в такой кондиции - самая вкусная и из нее можно сварить повидло (не забыть поставить его в морозилку, чтобы перестала вязать). Разные фрукты означают, что один и тот же результат может получаться разными процессами с совершенно разными последствиями. Поэтому сопоставление вероятности взаимосвязей событий нужно делать только для одной и той же системы взаимодействий внутренних процессов. Остается научиться чувствовать, что явления относятся к разным категориям причинности и если с фруктами это не просто, то разницу между фруктами и сутью изделий из художественного пластика различить легко.

Теперь, собственно, вырабатываем эвристическое правило: сколько нужно повторений зависимости, чтобы посчитать ее уверенно характерной для данных условий?

Вы заметили, что вагон метро подошел точно к табличке на стене и оказались у двери первым среди других, что позволило занять лучшее место. Случайность или можно и в следующих раз встать у этой таблички? Сразу сказать трудно. В голову приходит множество правдоподобных предположений. Трудно быть полностью уверенным, что так будет всегда, хотя есть люди, которые верят в зависимость сразу, как только ее заметят. Вы пробуете в следующий раз встать у таблички и опять входите в вагон первым. Это уже значительно больше придает уверенности. На третий раз вы уже совсем уверенно начинаете использовать зависимость. Но можно ли посчитать, что уже наверняка доказана зависимость?

Вопрос сводится к тому, сколько раз нужно проверить результат, чтобы сказать себе: эта зависимость будет надежно повторяться? Точный ответ на этот вопрос дают методы вычисления вероятностей событий, в частности метод Байеса.

Чтобы оценки вероятности не подводили, нужно развивать особый навык интуитивной оценки вероятности зависимости. Сначала этот жизненный опыт будет наивным, но при этом гораздо более надежным, чем при его отсутствии.

В статье Используйте свой природный байесовский инстинкт:

...я уже показал, что субъективные оценки калиброванных экспертов обычно ближе к разумным величинам, чем к противоречащим здравому смыслу. Во-вторых, этот метод работает там, где «объективная» статистика из первого семестра оказывается бесполезной и единственная альтернатива — вообще ничего не оценивать. В-третьих, те же самые люди постоянно бессознательно пользуются данным методом, принимая личные решения. 

... Вот некоторые приемы, позволяющие избежать искажений при использовании инстинктивного байесовского подхода.

·        Отбирайте самых беспристрастных экспертов. Если от результатов исследования зависит бюджет отдела, не привлекайте его руководителя к качественной оценке новой информации.

·        Проводите испытания вслепую. Иногда специалистам предоставляют необходимую информацию, скрывая от них, какую именно проблему они оценивают. Например, из стенограммы обсуждения нового продукта в фокус-группе удаляют все ссылки на этот продукт, с тем чтобы судьи определяли лишь то, позитивна или негативна реакция группы.

·        Разделяйте обязанности. Этот прием хорошо сочетается с испытаниями вслепую. Пусть одна группа экспертов оценит качественную информацию, а вторая группа, изучив выводы первой и не зная, о каком конкретно продукте, отделе, проекте и т.д. идет речь, даст окончательный байесовский ответ.

·        Помните о байесовских последствиях. Просите экспертов указать заранее, как определенные результаты могут повлиять на их оценки, и применяйте байесовскую поправку до тех пор, пока они не окажутся внутренне непротиворечивыми.

Вот вариант интуитивного использования метода Байеса:

Например, врачи наблюдали 100 пациентов, у 10 из которых была обнаружена новая болезнь (рис. 1). Из этих 10 у 8 есть симптомы болезни, но у 4 из не признанных больными также имеются эти симптомы. Разделение этих 100 случаев на 4 группы (болезнь и симптомы – 8, болезнь при отсутствии симптомов – 2, нет болезни при наличии симптомов – 4, нет болезни и нет симптомов – 86) дает значение 4 естественных частот: 8, 2, 4 и 86.

 врач, который наблюдает нового пациента с симптомами болезни, легко может увидеть, что шансы на то, что данный пациент действительно болен, составляют 8/(8 + 4), то есть два к трем. 

Разобраться в сути расчетов несложно. Чем больше будет практика таких подсчетов в различных ситуациях с оценкой того, насколько оказался полезным результат, тем в большей степени будет нарабатываться интуитивная оценка уже без численных подсчетов, примерно так же, как идя в магазин за продуктами уже приблизительно ясно, сколько денег на это потребуется.

Итак, сколько же нужно повторений зависимости, чтобы посчитать ее уверенно характерной для данных условий? Эвристический вывод: можно смело доверять последовательности в 4-5 шагов, подтверждающей зависимость в данных условиях, а вот если условия изменились, стоит быть готовым к неудаче и нужно опять проверить опытом. Понимание того, какие именно условия могут сделать прежний опыт неверным, очень хорошо развивается жизненным опытом, это заложено в нашей системе личного приспособления к новым условиям.

Если близкий человек 4-5 раз подряд объясняет, что не может с вами встретиться потому, что случилось очередное непредвиденное событие, то можно сделать вывод: практически на 99% он врет. Даже если после второго отказа он приезжает, но потом опять следует еще три отказа, то он - врет. Существует не нулевая вероятность, что он не врет, но это уже - научная фантастика. Если важно знать точно - используйте формулу Байеса, она совсем не столь сложная, как кажется поначалу.

При всем при этом следует иметь в виду, что применение эвристики вместо точного расчета во многих случаях способно привести к иллюзии: Принятие решений в неопределенности: Правила и предубеждения:

Существуют три связанные причины фокусировки на систематических ошибках и предубеждениях вывода в исследовании рассуждений. Во-первых, они показывают некоторые наши ограничения и предлагают способы улучшения качества нашего мышления. Во-вторых, ошибки и предубеждения часто обнаруживают психологические процессы и эвристические процедуры, которые руководят суждением и выводом. В-третьих, ошибки и заблуждения помогают составить карту интуиции человека, указывая, какие из принципов статистики или логики являются не-интуитивными или контр-интуитивными.

Не стоит выходить за рамки использования эвристической вероятности. В сложных и, особенно, важных случаях кроме интуитивной оценки стоит найти способ корректного вычисления, что, впрочем, так же может сопровождаться специфическими ошибками из-за неверного понимания и применения вероятностей.

Более продвинутые методы

К настоящему времени наработаны различные методы расчета вероятностей и статистической оценки последствий массива событий одного вида (с одной и той же системой причинно-следственных процессов). Это позволяет не принимать во внимание маловероятное и, наоборот, выделять то на самом деле высоковероятное, что никаким вниманием не может быть выделено из мешающих восприятию факторов.

Так, в корпорации Моторола в 1986 году разработали концепцию управления, позволяющую обеспечивать заданное число брака в продукции за счет статистической оценки, которую назвали 6 сигма. Понятие «сигма» было взято из терминологии математической статистики. Сигма (обозначается строчной буквой греческого алфавита — σ) отражает среднеквадратическое отклонение статистической совокупности, являясь мерой вариабельности (точнее — вариации). Суть понятия «процесс шесть сигма» заключается в том, что процесс производства считается бездефектным, если промежуток между математическим ожиданием (МО) процесса и его границей поля допуска будет равным шести среднеквадратическим отклонениям. Допуск 6 сигма регламентирует 99,99966% выходной продукции без дефектов.

Среднеквадратическое отклонение измеряется в единицах измерения самой случайной величины и равно корню квадратному из дисперсии случайной величины.

Что такое «сигма»?

Сигмой (σ) в статистическом анализе обозначают стандартное отклонение. Опуская тонкости, которые будут обсуждены ниже, можно сказать, что стандартное отклонение — это та погрешность, то «± сколько-то», которым обязательно сопровождают измерение величины. Если вы измерили массу предмета и получили результат 100 ± 5 грамм, то величина «110 грамм» отличается от измеренного результата на два стандартных отклонения (то есть на 2 сигмы), величина «50 грамм» отличается на 10 стандартных отклонений (на 10 сигм).

Не так уж сложно разобраться с этой концепцией, тем более, что по ней проводится множество семинаров для производственных менеджеров и наработано множество способов показать эту концепцию наглядно и просто:

·       Что такое 6 сигм (6 sigma) просто о сложном

·       Что такое сигма?

·       Что такое шесть сигм?

Понятно, что концепция «сигма» может использоваться не только в промышленности, но буквально везде, где нужно оценить статистику достоверности события, например, при оценках погрешности в установлении факта участия бозона Хигса в огромном множестве событий столкновений частиц в коллайдере.

Кроме концепции «сигма» и методов Байеса существует немало других методов, каждый из которых имеет свои достоинства и удобство использования в своих специфических условиях.

Так, мой знакомый к.т.н. Олег Маевский предложил, как он анонсировал, более крутую, чем Байсовская методику расчетов вероятностей:

 Как “бороться” с вероятностями (слегка экстравагантный взгляд). В качестве примера решаемой этим методом задачи он привел следующее:

Имеется несколько элементарных событий a, b, c, d, e, вероятности которых известны и какие-то составные (не элементарные) события X, Y и Z. Известно, что они зависят от a, b, c, d, e, но как именно неизвестно. Замечено, что когда возникают эти события X(a, b, c, d, e), Y(a, b, c, d, e), Z(a, b, c, d, e), то результаты некоторого эксперимента F меняются от исхода этих событий как случайное событие F(a, b, c, d, e, X(a, b, c, d, e), Y(a, b, c, d, e), Z(a, b, c, d, e)). Вопрос: как должны выражаться неизвестные составные события X, Y и Z через a, b, c, d, e, например, так чтобы вероятность наступления F стала минимальной (максимальной). 

Эта задача решается точно. 

Находится точный оптимум. Т.е., если F - это некоторая цель, то заметив, что есть какие-то неизвестные параметры X, Y и Z, влияющие на вероятность ее достижения, можно точно найти, как эти параметры связаны с событиями a, b, c, d, e, чтобы получилась максимальная (минимальная) вероятность достижения этой цели. Причем, находятся сразу все варианты трактовки X(a, b, c, d, e), Y(a, b, c, d, e), Z(a, b, c, d, e), обеспечивающие оптимум.

Дополнительно:

·       Теория невероятности 

·       Интуитивное объяснение теоремы Байеса

·       Байесовская фильтрация спама

·       Метод Байеса, применительно к атеизму