Я вот тут не совсем четко разобрался с одним моментом. Часто замечаю, что люди как-то мыслят вероятностями, определяя адекватность той или иной точки зрения как-то формально. Вот когда общался с рационалистами, там у них часто были лекции про теорию вероятности, рассказывали, например, про теорему Байеса и про то, как это можно на практике применять. Я это вроде как-то частично понимаю, но так как с математикой не лады, то особо не ухватываю.

У них на сайте есть небольшая статейка по сути про так называемое вероятностное мышление, которое они активно у себя взращивают.
Там вот что написано:
Мы можем использовать концепцию вероятности для измерения наших субъективных убеждений в чем-то. Более того, мы можем применять математические законы, имеющие отношение к вероятности, для выбора между различными убеждениями.

Это позиционируется так, что освоив и поняв всякие формальные теоремы можно использовать их практически, определяя вероятность той или иной точки зрения.

И еще из этой же оперы, часто говорят про то, что в науке нет никаких абсолютных истин, а есть утверждения с разной долей вероятности. Что вот, например, эволюция имеет очень высокую вероятность. Понятно, что есть только относительные истины (в определенных граничных условиях), но вот когда говорят про вероятности вот так, то это мне как-то слух режет. И понятно, что когда игральный кубик просчитываем, то это может практически помочь.
Мне как-то интуитивно такой подход очень не нравиться, потому что насмотрелся много неадекватных выводов у этих ребят, которые "вероятностно" мыслят. Но может я чего-то недопонимаю.

>>в науке нет никаких абсолютных истин, а есть утверждения с разной долей вероятности

Это - чистый поклеп, начиная с фундаментальных констант :)

С Байесом нужно быть проще и осторожнее. Там никакой такой суперматематики нет, это - определение вероятности чего-то с учетом, что уже есть известная вероятность связанного с этим, хорошо проясняется на наглядном примере. Применяется в попытках оценить, например, вероятность спама в почте и много лаж с этим связано. Пример применения, где легко можно прикинуть возможные сбои давно есть на сайте: Метод Байеса, применительно к атеизму.

По ссылкевидны примеры катастрофических ошибок:

Предположим, что вы врач и к вам пришел пациент, который жалуется на головную боль. Далее предположим, что есть две причины, по которым может болеть голова: опухоль мозга и простуда. Опухоль мозга всегда вызывает головную боль, однако она является крайне редким заболеванием. И наоборот, головная боль редко возникает при простуде, однако множество людей простужается каждый год. Если нет другой информации, что вероятнее — что человек простудился или у него опухоль мозга?

Учитывать только два параметра в таком деле может кончиться летально и пациенту с опухолью пофиг доказательство того, что у тебя, скорее простуда. Т.е. просто нельзя отметать все случаи с опухолями. И врач без всякого байеса не дурак прикинуть что еще нужно исследовать для определенности.

Ключевой принцип 3: Мы можем использовать концепцию вероятности для измерения наших субъективных убеждений в чем-то. Более того, мы можем применять математические законы, имеющие отношение к вероятности, для выбора между различными убеждениями. Если мы хотим, чтобы наши убеждения были верными, нам следует так делать.

Это - неверное утверждение просто потому, что истинность любого субъективного предположения выясняется только при его проверке в реальности. Если мы хотим, чтобы наши убеждения были верными, то уверенность должна возникать только как оценка удачности в практическом опыте.

Это косвенно связано с Элиезером Юдовским, автором научно-популярного фанфика на Гарри Поттера. Связь косвенная, но не слишком далекая. Эта "небольшая статейка" с сайта являющегося сборником материалов посвященных рационализму, это русский перевод сайта с материалами Элиезера, на него есть ссылка даже в самом фанфике. Английский фанфик ссылается на английский сайт, русский перевод фанфика ссылается на русский перевод сайта. Не все статьи на сайте принадлежат Элиезеру, некоторую малую часть написали другие авторы. Как раз "небольшая статейка" написана другим автором. Но это как бы кусочек системы Элиезера.

Элиезер в чем-то прикольный, но не Бох.

Во первых пропагандируя рациональность он написал художественное произведение, что на мой взгляд является поступком более таким человечно-душевно-культурным нежели чисто рациональным. То есть рационально было бы работать-работать-работать только над повышением технологического уровня развития человечества, а когда человек украшает свою жизнь какими-то культурными элементами - это больше как отдых, баловство. Хотя, может украшения важны для укрепления психического состояния, тогда заниматься культурными делами - это рационально. Но всё же время потраченное на написание художественной книги (это куча времени) можно было потратить на выполнение профессиональных математических работ реально прокачивая человечество. От популярных штук меньше пользы, народ увидит поверхностно красивую картинку но не сможет практически её использовать. То есть не настолько полезно как научный труд.

Во вторых Элиезер начинает строить оригинальную математическую систему правильного мышления, но внезапно сводит её к обыкновенной передачи жизненного опыта. А именно, в его статье http://lesswrong.ru/w/Что_такое_рациональность написано следующее:

">>Убеждения, соответствующие какому-либо логически непротиворечивому распределению вероятности, и решения, максимизирующие вероятностное ожидание логически непротиворечивой функции полезности, называются байесианскими.

>>Вопрос о том, как применять рациональность на практике, вовсе не исчерпывается этим абзацем. Причиной этому — два весомых обстоятельства.

>>Во-первых, байесианские алгоритмы «в чистом виде» плохо применимы к большинству задач реального мира из-за своей трудновычислимости. Математик, попытавшийся это сделать, столкнётся примерно с теми же проблемами, что и физик, попытавшийся предсказать поведение фондовой биржи, вычисляя траектории кварков.

>>Именно поэтому здесь вы видите целый сайт, а не просто список формальных аксиом с жирной точкой в конце. К тому же, совсем другое искусство необходимо для того, чтобы находить истину и достигать цели, находясь в недрах человеческого разума: нужно узнать о недостатках нашей когнитивной архитектуры, победить порождённые ей ошибки (искажения), сорвать с глаз все шоры самообмана, достигнуть хорошей эмоциональной формы перед тем, как столкнуться с истиной, избавиться от влияющих на решение посторонних факторов и так далее и тому подобное."

То есть, начал строить систему, и потом пишет нечто вроде "короче надо всё знать". То есть выразил всё через всё. Ну я и так знаю что надо много чего знать чтобы нормально думать. Это ж по сути он сводит свою систему к обыкновенной образованности. Это и без его системы возможно. В общем критикую, но вместе с тем зацепил, есть что-то прикольное, может стиль что-ли.

"Небольшую статейку" написал автор по имени Кай Сотала. Статья самодостаточна, но всё же подразумевается как кусочек системы Эиезера.

В ответ на фрагмент текста Кайя:

ты отвечаешь:

В общем-то можно не возражать. Но ты помнишь, меня немножко зацепило эмоционально, стиль может прикольный. Так что я могу возразить? Ну, может просто фрагмент неудачный, а так в целом прикольно. Хотя я перестал тратить время на знакомство с системой, после того как в одной из вводных статей встретил объяснения что по сути нужно слишком большую кучу опыта жизненного перенять чтобы пользоваться системой. Но по поводу твоего ответа скажу что возможно система Элиезера подразумевает что во первых бывают моменты когда невозможно немедленно проверить предположения и нужно быстро принять решение, и тогда мышление по методу Элиезера поможет. Во вторых, возможно метод Элиезера может помочь уменьшить влияние так сказать "инстинктивных предрассудков" (это я вместо "когнитивное искажение" так говорю). Ведь бывает что инстинкты, нутро, чуйка, интуиция, заставляют действовать глупо вопреки реальности. То есть реальность говорит что человек заблуждается, а человек все равно ломится в прежнем направлении. Потому что эволюция заточила человека на некоторые условия, теперь условия быстро поменялись, а устаревшие инстинкты заставляют делать по старому вопреки реальности и вопреки разуму. То есть, нужно срочно принять решение - можно математически прикинуть как будет лучше, нужно осознать инстинктивные заблуждения - тоже можно математически прикинуть как лучше будет. Типа такое применение. Не панацея конечно. Красиво, но я пока не вникаю в это. Я думаю что надо тупо работать и адаптация сама собой будет происходить, методы по минимуму брать, только самые нужные "по протоколу", остальное само собой придумается в самом лучшем виде.

>>есть рационально было бы работать-работать-работать только над повышением технологического ровня развития человечества, а когда человек украшает свою жизнь какими-то культурными элементами - это больше как отдых, баловство

Не могу согласиться. Именно культура дает тот контекст взаимодействий людей, который определяет возможность всего остального. Так что развитие системы понимания на уровне культуры - именното, что способно сделать социальный прогресс и все, что с этим связано, в том числе науку и технику.

Вот если я, все же, сделаю лайт-версию адаптологии, то польза окажется несоизмеримо больше, а пока что получилось, что только для себя формализовал.

>>Убеждения, соответствующие какому-либо логически непротиворечивому распределению вероятности

тут он вляпался не в свою специфику и даже не заметил этого... Начиная с того, что не может быть логически непротиворечивого распределения вероятности. Логика определяет не вероятность, а конкретные процессы в реальности и их возможность (условия). И дальше все про возможность "баейвского мышления".

>> по сути нужно слишком большую кучу опыта жизненного перенять чтобы пользоваться системой

индивидуальная адаптивность основана на том, что ты строишь адекватные модели, а не вероятности в зависимости от условий, чего ни одна байевская интерпретация не способна сделать. Другое дело как методологически это делать более эффективно, на то и научная методология.

>> бывают моменты когда невозможно немедленно проверить предположения и нужно быстро принять решение, и тогда мышление по методу Элиезера поможет.

Да, поможет решиться на что-то более определённое, но вовсе не гарантирует его верность из-за недостаточности учета всех условий. Так можно вляпаться во что-то очень критичное, например, развестись с женой на основе байесовских предположений в то время как ее странности объясняются чем-то неучтенным. А вот осторожность в действиях не повредила бы. Так что это - больше провокация необоснованных действий.

Я окунался в их "рациональную" среду, много общался с лидерами. Они открыли антиакафе в мск и у них там сейчас практически ежедневно какая-то активность, активно продвигают это в массы. Я вот решил посмотреть на них, как они на деле применяют свою рациональность, но по факту, как и со скептиками, неразумного там оказалось больше чем разумного.

Вроде как устраивают дискуссии, что бы разобраться в чем то, но получаются не дискуссии, в бестолковое времяпровождение, когда никто особо и не вникает в сказанное собеседником. При личном общении, когда уже нет никаких аргументов, сворачивают дискуссию и очень эмоционально реагируют, как будто вовсе и не допускают свою ошибочность. Постоянно получаются двойные стандарты, когда используют разные методологические принципы по отношению к другим, но не к себе.

Там многие изучают когнитивные ошибки и всякие искажения, но это им ничего не дает в плане распознавания риторики и всякой софистики, все это там процветает. Даже игры специальные есть на развитие "рациональных" навыков.

Кароче, на словах "рационалисты", а на деле никакой осмысленной, развивающей понимание, дискуссии. Хотя у них там упор на продуктивную коммуникацию. Столько заумных слов, но если бы это у них приводило к пониманию того, как грамотно строить дискуссию, то не было бы такого хауса, который я наблюдал.

Там у них еще очень далеко до таких обсуждений, которые бы на самом деле как-то обогащали участников. Создали себе мирок и на деле игнорируют критику.

Здесь на Форните хорошо формализована научная методология, вот если бы это люди хоть немного понимали, то и не было бы такого хауса. Еще часто говорят, что и так все понятно, зачем говорить о таких тривиальных вещах. Но на деле получается, что нет никакого понимания этих тривиальных методологических вещей, которые бы человеку в комплексе позволяли моментально различать всякие субъективисткие бредни от разумных рассуждений.

Это на религию похоже :)

-Давайте мы типа умные.

-Ну ок, давайте типа умные.

Сначала люди учатся во всем распознавать заветное, потом оно будет легко выделяться вниманием везде, где хоть как-то что-то напоминает.

Это действительно похоже на правду) Вот у меня в детстве крышу по лошадкам подорвало (не только тёмным :)), и, видимо, в тот критический период заложилось выделение сверхзначимых лошадиных образов во всем. Настолько, что хоть и в меньшей степени, но до сих пор это проявляется, хотя тема для меня давно уже не так актуальна.

Недавно ржали над тем, как на вот этой фотке мой мозг в первую же секунду незамедлительно выцепил образ лошадки и сосредоточил на ней внимание :)

И этот распознаватель у меня везде срабатывает очень быстро, точно и неосознанно. Нет бы что-нибудь полезное и важное вместо этого выцеплялось, а так... Бесполезный пережиток прошлого и только :)

Видимо, что то подобное было у Шерлока Холмса. Он мгновенно вычленял все эти мелкие детали, несущественные для остальных, потому что его восприятие мира было заточено под это?

Как раз пытался показать, что никакого такого дедуктивного мышления не существует, что мышление - внешняя часть того, что происходит до барьера зоны мышления, где заготовленные мыслительные автоматизмы перелопачивают скормленную им инфу. Это уже после результата мышления можно начинать реконструировать по какой типа логике оно совершалось, хотя на самом деле никакой логики там нет, кроме логики отдельных заготовленных алгоритмов, смысл которых определяется текущим контекстом задачи.

Но, конечно, сами алгоритмы питаются распознавателями более примитивного уровня, в том числе образов и из значений, так что чем более богаты коллекции таких заготовок, тем легче формировать из них алгоритмы.