Скорректировал так:

Это предположение в норме на практике оправдывается и закрепляется с некоторой уверенностью на будущее или не оправдывается (приводит к не желаемому) и тогда остается в статусе пока неуверенно понимаемого (все еще нет варианта с желаемым результатом для данных обстоятельств).
и
осмысление (процесс нахождения путей с желаемым исходом) избегает всерьез усомниться в предмете веры и все пути, противоречащие предмету веры, игнорируются.

...От этой напасти никто не застрахован, даже ученые, если только перестают
обращать на особое внимание на возможность игнорирования противоречащего предпочитаемой идее в попытке "объективного" исследования.

Тут имеется в виду, что все противоречащее оказывается заблокированным для внимания негативом отношения и не учитывается, человек старается избегать негатива. А вот если это связано со сверхценной идеей, то, тем самым, ассоциировано с позитивом, т.е. стимулирует такое отношение. Оно, может и не привлекать внимание если в данный момент не достаточно актуально, но все, что привлекло внимание и проходит операцию сопоставления "это подтверждает Идею" - оказывается еще одним "доводом" в ее пользу.

Интересно: это побочный эффект работы сознания или какой то важный механизм, обеспечивающий преимущество в чем то.

Не побочное, а все - в рамках рассматривавшихся механизмов. Если образуется предмет осмысления, получивший предельно возможную значимость, то она и влияет на все то, что попадает в область внимания с этим предметом.
Например, у ребенка маленький красный мячик - самое дорогое, самое важное, что он только может вообразить. Чтобы забрать у него этот мячик, делается попытка переубедить его, что есть что-то в данный момент более важное, чем этот мячик, скажем, мальчика хотят покормить. Фигвам, мальчик ни за что не готов отдать мячик и даже не может слышать какие-то доводы типа, давай пока положим его вот здесь рядом, ты покушаешь и снова возьмешь. Значимость покушать никак не может конкурировать со значимостью быть с мячиком. Мальчик прекрасно распознает ситуацию, что мячик хотят забрать, но совершенно не воспринимает то, что это - на время, потом все будет хорошо. Остается только силой отобрать мячик через слезы и горе.
Пора спать, мама больше не в силах еще раз устраивать горе, она предлагает лечь спать и положить мячик рядом, держа его ручкой. Это моментально распознается как "хорошо" и с удовольствием выполняется.
Все поведенческие варианты при сопоставлении значимостей за и против или блокируются и вообще не замечаются как рассматриваемые возможности или моментально принимаются.

Видимо, тут надо отойти от привычного: мышление - это не поиск оптимальных вариантов, а взаимодействие значимостей. Этим оно отличается от машинного алгоритма, который можно назвать "частным случаем" такого мышления. Машина - это как зафиксенный до предела мозг с одной единственной доминантой - найти строго по алгоритму результат, ни на что не отвлекаясь. А живой мозг постоянно "отвлекается", при этом он может как машина сконцентрироваться на одной задаче, а может так распылить фокус внимания, что не осилит и простейших вычислений.

Наверное, это следствие работы сознания в полноценном параллельном режиме, а не псевдо, как у машин. И в отличие от машин сознание может выйти из порочного зацикливания, если возникнет бОльшая значимость, чем та, что поддерживает цикл. Я уже как то приводил размышлизм, что возможно главная причина, почему нервная система эволюционировала до уровня нашего мозга, как раз в том, что чем она сложнее, тем чаше возникали ситуации "ступора", вроде бьющейся о стекло мухи, которые надо было как то решать - например развивать механизм корректировки автоматизмов через эмоциональные контексты. Может не спроста "тупость" мы интуитивно понимаем как эмоциональную инертность, потому как так оно и есть: не способность отвлекаться на новое, придавать ему важные значимости, способные прерывать работающие в данный момент автоматизмы - означает не способность создавать новые автоматизмы. Хотя с другой стороны, повышенная возбудимость наоборот, может быстро создавать такие значимости, которые задоминантят любое, самое бестолковое действие, и так же не позволят развиваться.

Но назвать это "багом" видимо нельзя, потому как здесь все происходит так же строго в соответствии с теми же механизмами. И вообще, баг - это отклонение от какого то намеченного плана, но сознание ведь не имеет никаких планов, никто не знает, какая значимость возникнет и перехватит инициативу. Сложно пытаться понять работу сознания, пока в голове сидят привычные алгоритмические абстракции, об них постоянно спотыкаешься и возникают непонятки типа: как один и тот же механизм порождает гениев и сумасшедших? Мы привыкли, что программа всегда выдает какой то ОДИН результат, а не такой огромный разброс. Взвешивают мозги, подсчитывают извилины - блин, почти одно и тоже - а по выхлопу разница колоссальная. Это самое офигительное в мозгах.

>>надо отойти от привычного: мышление - это не поиск оптимальных вариантов, а взаимодействие значимостей.

Мышление всегда начинается, когда на первый план выйдет необходимость именно найти более желательный вариант поведения по сравнению с заготовленным для данных условий.

Началом мышления может быть непосредственное прерывание звена автоматизма из-за наивысшей актуальности (новизна-значимость), когда в данных новых условиях прогнозируется нежелательный результат и старый стереотип прерывается. Или мышление стартует с временно прерванной доминанты нерешенной задачи - т.е. раньше не удалось найти решение и что-то более актуальное отвлекло, но потом опять задача вышла на первый план по актуальности.

Каков ход мышления - зависит от навыков решения задач, подобных данной. Если вообще нет такого опыта, то начинается случайное тыканье (множество таких заготовок есть уже на уровне насекомого, но там - не для мышления, а для непосредственного выхода из ситуации). Если есть опыт подобного, то по нему запускается отслеживание того к чему это приводило (прогноз) - наиболее типичный варианты выбора варианта. И вот тут и сравниваются последствия по прогнозируемой желательности, по значимостям, связанным с каждым из прогнозов.

Например, вдруг на пути оказалась здоровая собака, распознаваемая как недружелюбная тварь, грозящая серьезной опасностью. Раньше встречались разные кошки-собаки, но не не такие внушительные и не такие злые. Достаточно было просто нагнуться типа поднять палку-камень и собака отваливала. Что если тут попробовать поднять палку? И вот воображение рисует, как поднимается в самом деле палка, как собака звереет от этого еще больше, а сама палка оказывается слишком слабой защитой. Потому, что раньше был опыт игровых драк палками с пацанами разного возраста и ясно, что вот такой крупняк палку даже не заметит. Явно не классный вариант. Но в пакете есть только что купленные соски, Собаки, большие и маленькие одинаково любят сосиски! Прогноз намного более оптимистичный и сосиска плавно летит собаке в пасть, вторая уже заготовлена на подходе. Могут быть о больше прогностических вариантов, но в них будет сопоставляться значимости прогностических последствий. Но это сопоставление - в контексте необходимости найти вариант поведения с удовлетворительным исходом. Будет выбран обладающий наиболее позитивной значимостью (или наименее негативной, если позитивных нет).

Я это и имел в виду, говоря о "взаимодействии значимостей". В примере с собакой умолчательно подразумевается, что прохожий не хочет, чтобы она его порвала - это доминирующая значимость, трендом проходящая через все автоматизмы мышления по этому поводу при встрече с собакой, тормозящая одни из них, ветвящая другие в поисках вариантов как избежать "не желательных" укусов. Но будь на его месте какой нить фанатик, которого гуру послал принять мученическую смерть от собаки во имя чего то, мыслить и действовать он будет совсем про другому, может даже с радостью и в экстазе полезет ей в пасть.

Вот это самое интересное в работе сознания: сначала определяется, что такое "хорошо", и только потом - как его заполучить. Это дает уникальную возможность: машина не может просто взять и бросить обрабатывать какой то длинный цикл, потому, что "надоело", а мозг может. Машина тупо зависает, а мозг засыпает, чтобы проснувшись поутру глянуть на задачу "с другой стороны" или вообще забыть про нее, если она вдруг стала "не интересной". И думается, именно эта фишка стала актуальной для животных со все более усложняющейся нервной системой, что и запустило ее развитие.

Причина такой необычной (в сравнении с алгоритмами) работы мозга видимо в том, что нейросети мозга работают параллельно, там множество цепочек-программ, которые могут либо не зависимо отрабатываться, либо пересекаясь, влиять друг на друга. А причина такой параллельной схемотехники уже чисто эволюционная: ничто другое не могло получиться из нервной системы, развивающейся посредством постоянных "надстроек": новые рецепторы - новые нейроны-эффекторы, создающие новые локальные сети.

>>прохожий не хочет, чтобы она его порвала - это доминирующая значимость, трендом проходящая через все автоматизмы мышления по этому поводу при встрече с собакой, тормозящая одни из них, ветвящая другие в поисках вариантов как избежать "не желательных" укусов

Значимость не "проходит через все автоматизмы", нет такой операции: цикл прохода-сканирования значимости по звеньям цепей автоматизмов. Каждые звено уже связано со своей значимостью - оценкой его результативности в прошлом, что и делает возможным чему-то следовать, а чего-то избегать, а при прогностических просмотрах возможных вариантов получать эти ассоциированные значимости в качестве предсказания возможного результата. Доминанта - совсем по другому организуется. Это - активное (или особе легко актуализируемое) звено автоматизма (субъективный образ восприятия-действия), которое было прервано из-за того, что в новых условиях старое поведение дает в прогнозе нежелательные последствия. Из этой точки методами расширения внимания на другие ветвления и даже вообще на другие цепи автоматизмов запускаются прогностические воспоминания (опережающие возбуждения могут даже не доходить до их осознанного вспоминания, давая блок или надежду).