Относится к сборнику статей телеграм-канала https://t.me/thinking_cycles
Ранее на Канале уже была статья Ошибки поведения. Было дано определение: Ошибка - это 1) то в действиях, что вызывает непосредственные, или отложенные нежелательные последствия, а так же 2) то, что объявляется ошибочным по каким-то общепринятым правилам.
Второе – социальная оценка первого, одно и то же поведение субъекта может оцениваться другими по-разному и поэтому эта часть формулировки не должна входить в терминологическое определение. Ошибка – всегда субъективная оценка собственных действий, моторных или ментальных. Этим устанавливаются граничные условия применения термина.
Необходимость терминологического определения вызвана выявлением механизмов появления ошибки, а не каких-то схожих эффектов. Так, иллюзия и ошибка — это два разных понятия, относящихся к восприятию и пониманию реальности.
Иллюзия (fornit.ru/817) — это искаженное восприятие объекта или ситуации, вызванное особенностями нашего восприятия или интерпретации. В принципе любое восприятие искажает соответствие объективной реальности, иллюзия – это когда один распознанный образ принимается за другой, искажается оценка или не происходит узнавание. Иллюзии могут возникать из-за оптических или сенсорных факторов, а также психологических процессов. Например, оптическая иллюзия, когда линия кажется длиннее или короче, чем на самом деле, возникает из-за контекста и сопоставления с другими линиями. Иллюзии могут быть временными и часто зависят от текущих условий, в которых мы находимся, а также от нашего эмоционального состояния и предвзятости.
Иллюзии распознавания примитивов восприятия, в том числе распознавания смысла рукописного ввода корректируются на уровне психики, как и все более сложные виды иллюзий. Можно сказать, что иллюзии становятся ошибками в момент, когда совершенное на их основе действие приводит к негативному эффекту. Ошибка – это не “эффект бабочки”, когда из-за некоего воздействия в далекой перспективе начинают возникать последствия, полезные кому-то, а другому вредные. Эффект воздействия учитывается только субъектом и только от собственных действий.
Ошибка может быть связана с неправильным выводом или суждением (ментальное действие) при формировании (моторного) действия. Мышление можно рассматривать как умственное действие, как конечный результат, а не сам процесс обработки информации, принятия решений и формирования выводов. Ошибки могут возникать в процессе анализа, решения проблем или принятия решений. Например, математическая ошибка возникает, когда человек неправильно выполняет расчет.
Это может проявиться в чем-то, выявив ошибку или кто-то другой укажет на “ошибку” и тогда субъект может признать это или не посчитать за ошибку потому, что его это вполне устраивает. Ошибки часто говорят о том, что человек неумышленно искажает информацию (в отличие от лжи), что может быть связано с недостатком знаний или вниманием.
Незамеченная субъектом ошибка по определению - еще не ошибка.
Если не принять определение, что ошибка выявляется только самим субъектом, ее совершившим, а посчитать, что и другие так же выявляют ошибку, то понятие становятся расплывчатым и становится возможным буквально все посчитать ошибкой (сколько людей, столько и мнений). А если посчитать, что ошибка существует даже пока еще не выявленная субъектом, то любой процесс можно посчитать содержащим ошибку, потому что всегда могут оказаться условия или ситуация, когда это приведет к нежелательному для субъекта.
Поэтому ошибка – только то, что приводит к негативным, нежелательным, неожиданным последствиям для самого субъекта. Само понятие “ошибка” подразумевают что-то негативное. Негатив – повод для поиска решения, а позитив сопровождает удачно найденное решение. Так что негатив оказывается первичнее.
Определение довольно резко отсекает множество случаев использования слова “ошибка”, но позволяет навести порядок в системе механизмов адаптивности субъекта. Когда ошибка замечается (в том числе подсказанная другими), то возникает оценка необходимости ее исправления.
Можно сразу заявить банальное, что без ошибок не может быть удач, но это не всегда так и бывают ситуации, когда необходимо тщательно выявлять ошибки (которые окажут негативный эффект на автора) в продуктах формализации представлений: текстах, компьютерных программах, авторитетных высказываниях и вообще всему, что претендует на законченную (конечную) правдивость.
При любых усилиях ошибки всегда остаются в том множестве, которое открывается при все больших границах рассмотрения явления (контекста). Так, даже незыблемые законы Ньютона в условиях больших скоростей и гравитации дают неверные значения. Когда ученые пытаются понять сложное явление, они стремятся рассмотреть его в максимально широком контексте. Однако, чем шире контекст, тем больше факторов и переменных нужно учитывать, и тем сложнее становится анализ. В результате даже самые тщательные усилия не могут полностью исключить ошибки.
К примеру, независимо от того, сколько усилий прикладывается к изучению нового материала, всегда остаются пробелы в знаниях или недопонимание некоторых аспектов. Это связано с тем, что чем больше информации изучается, тем больше новых вопросов возникает, и тем сложнее становится удерживать в памяти все детали.
Ещё один пример – это работа над проектом. Даже после тщательного планирования и анализа, в процессе реализации могут возникнуть непредвиденные проблемы. Это может быть связано с изменением требований, появлением новых технологий или просто человеческим фактором. Несмотря на все усилия по предотвращению ошибок, они всё равно могут выявляться в новых условиях.
Несмотря на все усилия, направленные на минимизацию ошибок, их полное устранение невозможно принципиально. Можно сказать, что любое субъективное утверждение, любая мысль, сформулированная для других, содержит ошибки: ”Мысль изреченная есть ложь”. Именно в форме действий мысль содержит ошибки, которые могут проявиться негативом для автора.
Мысли в голове изначально появляются отрывочными и малопригодными для передачи другим и поэтому часто называются бредом. Море бреда бывает возможно переживать при болезни, сопровождаемой высокой температурой и/или интоксикацией. Сам принцип мышления – циклическая итерация обновление общей информационной картины (fornit.ru/68540) не предназначен для того, чтобы ими делиться с другими. Поэтому никакой вид телепатии на уровне мышления невозможен, а только на уровне действий, моторных или ментальных. Существует этическое правило не изрекать все, что появляется в голове, если только это не привычно-стереотипная фраза, а сначала “привести мысли в порядок”, и есть выражение: “Промолчи, сойдешь за умного”.
Мы с детства учимся формулировать мысли в виде цепочек действий: словесных (“вербальное мышление”), музыкальных, изобразительных, жестов. Многие почти постоянно думают такими цепочками и даже внутренними диалогами, и это помогает обрести возможно лучшую безошибочность и готовность поделиться с другими не в форме внутреннего бреда.
Вербальное мышление (ментальные действия) может проявляться во внутреннем монологе, когда человек "разговаривает" с самим собой, иногда даже вслух, обдумывая свои идеи или решения. Вербальное мышление позволяет людям организовывать свои мысли и делает сложные концепции более доступными для понимания другими и самим собой.
Как следствие бывает, что такие цепочки начинают крутиться в голове, довольно надоедливо - если придавать этому слишком большое значение. И тогда это может доходить до “обсессивно-компульсивного расстройства”.
В сформулированной форме мысли, как цепочки внутренних, невысказанных действий, уже возможно верифицировать на ошибки и при этом все корректнее и адекватнее формулировать мысль.
В “Роль языковых ошибок при обучении иностранному языку” сказано, что
“необходимо воспитывать в обучаемых конструктивное отношение к лингвистическим ошибкам, т.е. обучаемый, допуская ошибки и анализируя их, должен узнавать нечто новое об иностранном языке.
Языковые ошибки, о которых далее пойдет речь, были, есть и будут составной частью изучения иностранного языка.
Ошибки с учетом промежуточной языковой модели считались само собой разумеющейся составной частью при овладении языком ... ошибки стали теперь рассматриваться больше как положительные моменты. Важно рассматривать ошибку не как трагедию изучающего, а в большей степени как необходимый элемент процесса овладения иностранным языком и, тем самым, как успех по пути к языковой компетентности”.
Так называемые “когнитивные искажения” - это систематические ошибки в мышлении, которые влияют на восприятие, оценку и интерпретацию информации.
В "Когнитивные искажения и их влияние на поведение индивида" выделяется несколько видов характерных ошибок в результате мышления на экономические темы:
Кроме того, наиболее характерными видами когнитивных искажений считаются:
И еще очень много других. Когнитивные искажения – это не ошибки, а то, что приводит к ошибкам, как любые иллюзии. По каждому виду таких искажений написано немало психологических и специализированных статей. Но все это многообразие является следствием одной и той же организации субъективности (fornit.ru/68364), по сути представляющей достаточно простую систему структур и процессов. Поэтому нет никакой пользы в попытках систематизации этих эффектов по их проявлениям, механизмы реализации которых схожи. Но для методов предотвращения ошибок это полезно и поучительно.
В “Когнитивные искажения”:
“Понятие «когнитивные искажения» было введено Д. Канеманом и А. Тверски в 1972 г. и наряду с понятием «когнитивные ошибки» получило широкое распространение в гуманитарных дисциплинах. Под когнитивными ошибками / искажениями понимаются «систематические ошибки в мышлении или шаблонные отклонения, которые возникают на основе дисфункциональных убеждений, внедренных в когнитивные схемы, и которые легко обнаруживаются при анализе автоматических мыслей». Таким образом, речь идет не о случайных ошибках, а о таких, которые предсказуемо возникают в одних и тех же обстоятельствах. В 2002 г. Д. Канеман получил Нобелевскую премию за исследования оценочных суждений и принятие решений в условиях неопределенности.
Д. Канеман в книге «Думай медленно… решай быстро» анализирует ошибки оценочных суждений и их выбора”.
Есть комментарии к работе Каннемана, в том числе и критические, показывающие неверность многих представлений и утверждений.
Выводы статьи про когнитивные искажения: “Здесь следует еще раз подчеркнуть важный момент. Ошибки мышления не являются следствием дефекта работы мозга. Механизмы его работы создавались в процессе эволюции и служат важным целям, в первую очередь безопасности человека, его адаптации к окружающей среде.
... Итак, основной вывод состоит в том, что когнитивные ошибки неизбежны”.
Ошибки неизбежны, прежде всего, потому что верность действия зависит от конкретных условий и ситуации, в которых оно совершается. У каждого действия есть свой контекст, в котором оно обретает определенный субъективный смысл. Отработка желаемого последствия действия происходит именно для такого контекста. Стоит измениться в чем-то условиям и действие может привести к нежелаемому результату. Именно для такой новизны, для адаптации поведения к новым условиям существует психика. Для привычных и стабильных условий она была бы не нужна.
Но есть еще одно обстоятельство, делающее невозможным предсказать точный результат действия – это реакция на такое действие другого человека. На одно и то же действия в одних и тех же условиях реакция может оказаться разной, потому что в первый раз был использован один опыт, одно состояние эпизодической памяти, но через какое-то время этот опыт изменится, и в ровно тех же условиях реакция изменится. Социум привносит принципиально непредсказуемый результат в прогноз последствий совершенного действия.
Всякий раз, когда возникает неприемлемо нежелательное последствие от действий, включается психика и делается попытка решить эту проблему. Ошибка – это не трагедия, а безальтернативный (из-за принципиальной непредсказуемости) способ адаптации.
Как определяется, что результат действий не соответствует ожиданию?
В 1968 году Н. Бехтерева и В. Гречин обнаружили нейроны, которые активировались в момент выявления несоответствия ожидаемого и получаемого (fornit.ru/5330). Они назвали их детекторами ошибок, хотя они детектировали не ошибочность, а только то, что результат действий оказывался негативным или не соответствующим цели (что именно, так и не было выяснено). Был высказано предположение, что механизм работы детектора заключается в постоянном мониторинге и сравнении информации о текущем состоянии с моделью ожидаемого результата, находящейся в краткосрочной или долгосрочной матрице памяти (генератор такого сканирования не был обнаружен).
Оказалось, что детектор не просто активируется при ошибках, но и участвует в оценке значимости неудачи.
Предполагается, что отдельные нейронные популяции в мозге проявляют специфическую активность при выявлении ошибок в выполнении задач. Эти реакции коррелируют 1) с недостатками в восприятии и 2) с ошибками в реализации действий. Нейроны, расположенные в подкорковых структурах, параллельно анализируют поступающую информацию и сравнивают её с ожидаемыми результатами. Когда происходит несовпадение, такие популяции активируются, сигнализируя о необходимости корректировки поведения и обучения.
Ранняя реакция, связанная с дефектом восприятия, может происходить при недостаточной или искаженной информации, когда мозгу не удаётся правильно интерпретировать окружающую среду. В этом случае нейронные сети, выполняющие функции восприятия и анализа информации, активируются для быстрого реагирования и последующей реконструкции внутренней модели мира.
Поздняя реакция, связанная с дефектом реализации, наблюдается, когда действие выполняется неправильно, несмотря на правильную интерпретацию ситуации. Здесь ответственные за моторику и исполнительные функции нейронные популяции срабатывают, чтобы оценить ошибку и внести коррективы в последующих действиях.
Такие подкорковые механизмы способны формировать основу для обучения и адаптации, позволяя организму накапливать опыт и корректировать свои действия в зависимости от обстоятельств.
В подкорке может быть только очень дарений механизм, реализованный на уровне безусловных рефлексов для поддержки системы осознанной адаптивности.
В реализации ИИ Beast (fornit.ru/beast) был использован прием “период ожидания” после совершения произвольного действия, в течение которого ожидается изменение базового состояния организма (довольно непростой анализ состояния жизненных параметров) с выявлением величины негативного или позитивного эффекта. Резкие изменения могут происходить только как следствие от совершенного действия (в виде реакции оператора). Это и есть детекция ошибочности или удачности действия, которая немедленно учитывается долговременно. Результат эффекта действия записывается как компонент опыта в эпизод исторической памяти (fornit.ru/6756) и в дальнейшем используется для выбора наиболее подходящего действия в данных или схожих условиях.
Какими бы ни были тщательно сформулированными правила для конкретной ситуации, всегда в чем-то условия могут оказаться неучтенными и тогда правило вместо пользы может принести вред.
Существуют правила техники безопасности в различных областях (тех.процессах, горах, поездках и т.п.), существуют воинские и другие уставы. Они все “написаны кровью” на прошлом печальном опыте. Но эти документы безмозглы и не способны к адаптивности. Новички попадают в уже существенно отличающиеся условия, и опытные товарищи судорожно поясняют им правильные действия. На инструктаже и обучении опытные рассказывают, как пишутся кровью правила и требуют их соблюдения. Но слова не запоминаются, а реальность оказывается не той, что учитывалась в правилах. Сами же опытные даже не вспоминают про инструкции потому, что у них уже есть свой опыт и свои правила, несопоставимо более адекватные тому месту, где совершаются действия.
Не все ошибки замечаются субъектом по самым разным причинам, прежде всего из-за формирования привычного стереотипа, когда привычное действие не требует осмысления и специально не контролируются последствия. Это уже упоминаемые систематические ошибки. Если субъекту не становится плохо в результате таких действий и это состояние связывает с недавним действием, то он не видит ошибку.
Только увидев, поняв, что именно такое действие вызвало негатив, становится возможным ее исправить и даже переформировать привычный стереотип. В таком режиме бывает очень трудно это определить. Вдруг стало плохо, стошнило, в чем причина? На бессознательном, рефлекторном уровне организм просто реагирует на любой негатив как на отравление и вызывает общую реакцию очищения – рвоту. При укачивании – рвота, при резком повышении давления – рвота, при несоответствии в восприятии (пассажир в автомобиле) – тоже рвота.
Нет принципиальных возможностей точно установить причину и только произвольные действия вызывают период ожидания последствий, но и тут могут быть сбои и иллюзии.
Изменения в органическом субстрате психики (например, изменение координации движений в мозжечке) возникают сбои ранее привычно-автоматического поведения, которые могут не замечаться, например, появляются ошибки при ручном вводе текста.
Каждый имеет право на ошибку – как обязательный атрибут совершенствования. Поэтому особо не воздерживаемые от грубо-назидательного одергивания ошибающихся вместо доброжелательной помощи, являются социальными вредителями и объектами возможной психопатологии (fornit.ru/1706).
Nick Fornit
24 Sep 2024