Деревья в природном и искусственном мозге

Наиболее общий и универсальный строительный элемент мозга – нейрон, а наиболее общая структура – дерево (и это не дендрит), хотя нейронная организация не является принципиально необходимой для реализации системы индивидуальной адаптивности (fornit.ru/67666).

Если про нейрон написано много, хотя и не стихают споры про присущую нейронам функциональность (fornit.ru/6449), то про деревья в мозге нет ничего. Эту структуру как бы никто пока не видит, а она есть.

Деревья в любой системе адаптивности (если они там есть) строятся на основе уникальных идентификаторов образов (а не самих образов), что позволяет работать просто с целыми положительными цифрами.

Чтобы понять, как связать образы (в том числе самые сложные) с уникальными идентификаторами, и вообще что такое образы и из чего они состоят, стоит отвлечься на статью, иллюстрирующую иерархический принцип организации распознавателей образов: fornit.ru/460.

То, что мозг организуется иерархически, известно давно, в работах, где более низкие уровни обрабатывают более простые стимулы, а более высокие уровни обрабатывают более сложную информацию, но на этом рассмотрение функциональности такой иерархии как дерева контекстов и заканчивалось. Примеры таких работ: Иерархическая модель зрительной системы, Иерархия в организации мозговых сетей, Иерархическая структура коннектомов головного мозга и т.д.

В отличие от концепций глубокий нейросетей, где используется многослойный персептрон (fornit.ru/38065) с организацией связей типа “все со всеми”, дерево составляют локальные, самостоятельно формирующиеся независимо от других составляющие структуры-распознаватели образов (профилей возбуждения нейрона-детектора) в виде упрощенных однослойных персептронов, обладающих небольшим числом дискретов изменения порога срабатывания. Второе оказывается намного гибче, быстрее и универсальнее.

Главная польза древовидной структуры в том, что поиск по дереву – самый быстрый вид поиска. Активация даже очень сложного распознавателя в мозге происходит очень быстро, напрямую, без лишнего перебора соседних образов.

Все первичные, вторичные и третичные зоны коры мозга – это иерархии усложнения объектов распознавания.

Еще в первичных зонах, где формируются примитивы восприятия, они возникают, начиная с уровня наиболее простых элементов, на которые дробятся поля восприятия сенсоров, а распознанные первичные объекты формируют слой более сложных объектов и т.д.

В статье Иллюстрация организации памяти мозга (fornit.ru/460) наглядно показана иерархия конспектов восприятия.

В наследственно предопределенном порядке созревания и развития областей мозга, конечные узлы деревьев распознавателей являются основой для развития дерева распознавателей следующего периода развития. Так, для речевых областей, распознающих слова, основой являются образы зрительных и слуховых примитивов восприятия, в которых нет никакой такой “грамматики” и деления на буквы и слова. Если первичные области мозга развиваются без какой-либо коррекции ошибок и фиксируют примитивы восприятия как они есть в восприятии, то более поздние вербальные области получают возможность осознанной коррекции ошибок.

Если в био-реализации или искусственной модели, построенной на дискретных элементах (нейристорах) дерево организуется как ветвление контекстов, что приводит к активации определенного распознавателя образа, то в программной реализации дерево реализуется на основе узлов, каждый из которых имеет одинаковую структуру, и из этих однотипных узлов состоят все ветки дерева.

Например, вот как выглядит фрагмент древовидной структуры дерева слов искусственной модели Beast (fornit.ru/beast):

В скобках обозначены уникальные идентификаторы стандартного узла дерева (ID). По этому идентификатору строго определяется все слово, например, у слова “будет” ID=1939 есть только для данного слова, поэтому образ слова можно просто обозначить цифрой 1939. В природной реализации это соответствует номеру связи с выхода распознавателя данного образа.

Структура любого узла дерева слов в программной реализации имеет вид:

type WordTree struct {
   ID int                  // id узла символа
   Symbol string           // ID символа
   Children []WordTree    // массив дочерних узлов
   ParentID int             // ID родителя
   ParentNode *WordTree  // адрес родителя
}

Из таких узлов состоят все ветки дерева слов – отдельные слова.

Первым уровнем (контекстом) дерева являются отдельные символы (буквы алфавита, цифры и другие символы). Это – первые символы ветки слов.

Вторым уровнем дерева являются вторые символы слов. И так далее - до окончания ветки слова.

Принципы послойного моделирования нейронных сетей с индивидуальными периодами развития представлены редактором нейросетей.

Структура любого узла дерева слов в природной реализации имеет тот же самый вид, но каждый элемент узла представлен не программируемой структурой данных, а программируемыми в ходе специализации распознавателями профиля активности на входе, т.е. нейронами (отдельный нейрон имеет распознавательную функцию: fornit.ru/5389, fornit.ru/5345, fornit.ru/6449):

На картинке видно, что есть распознаватель символа “e” (8) первого уровня и есть другие распознаватели “е”, но активирующиеся только при активности предшествующих. Каждый распознаватель, как и узел в программной реализации, представлен отдельным объектом.

Верхний “е(243)” сработает моментально как только активируется предшествующий “д(242)”, а базовый “е(8)” уже активирован как только сенсор “увидел” этот символ. Это и есть быстрый эффект поиска по дереву.

В реальности есть два вида сенсоров для “е”: слуховой и зрительный (когда “е” распознаетcя в составе написанного слова). И они формируют два независимых на уровне первичных зон мозга контекстных дерева. Причем, вовсе не обязательно имеют точную последовательностью воспринятого слова (вот почему представление слова на слух и в письме оказывается разным).

Дерево фраз строится аналогично, на основе дерева слов, вот его фрагмент:

Как видим по фрагментам моделирования ветки дерева слов и фраз не имеют фиксированного числа узлов – сколько букв в слове – такой будет и длина ветки слова. Но в коре мозга невозможно наследственно предусмотреть такую безразмерную структуру слоев для формирования веток. Число слоев в развитии иерархии как примитивов восприятия в первичных зонах мозга, так в последующих структурах оптимизированно для каждого вида животных его эволюционным развитием, что выражается в числе слоев кортикальных колонок коры мозга (fornit.ru/43642).

Разработка прототипа системы индивидуальной адаптивности подтверждает причину фиксированного числа слоев. Оказалось, что использование уникальных идентификаторов значимых образов восприятия (т.е. имеющих дальнейшее использование, а не случайных) различного уровня иерархии позволяет распознавать текущее состояние условий с помощью фиксированного числа узлов в каждой ветке дерева распознавания. При использовании же элементов самих образов с различным числом признаков на входе каждого, дерево бы получилось в неопределенным числом узлов в каждом случае. Так что фиксированное число слоев коры коррелирует с применением уже сформированных видов детекторов значимых образов при распознавании актуального их сочетания.

Становится достаточно убедительной картина того, что новая кора (и не только) имеет функциональность именно древовидной функции распознавания.

Самоподдерживающаяся активность на уровне отдельных колонок обеспечивает некоторое “послесвечение” стимула (удерживая его активность), пока оно не будет погашено конкурирующими стимулами. Это делает более уверенным распознавание примитивов восприятия и есть время на то, чтобы на них как-то отреагировать, что дает эволюционное преимущество.

Можно не сомневаться в том, что природная реализация вербальных деревьев с фиксированным числом уровней (у человека - шесть), основанная на деревьях предшествующих зрительных и звуковых примитивах, более эффективна и универсальна, чем “грамматическая” конструкция в модели Beast, у которой вообще нет более простых распознавателей, чем символы. Данная реализация Beast ограничена, тем самым, только символами русского и латинского алфавита (кроме чисел и символов пунктуации). Зато именно это позволила создать работающий в реальном масштабе времени прототип, без сложных примитивов восприятия, под которые в мозге отведено очень много места (особенно для зрительных примитивов).

На уроне третичной теменной зоны мозга развивается дерево условных рефлексов – на основе предшествующего дерева безусловных рефлексов. Базовыми уровнями этих деревьев в модели Beast является гомеостатические состояния Плохо, Норма, Хорошо (fornit.ru/66643), вторым уровнем детализируются состояния первого уровня, образуя базовые контексты значимости – стили поведения (fornit.ru/324), которые на уровне психики определяют эмоциональные переживания (fornit.ru/50196).

Вот фрагмент дерева безусловных рефлексов Beast (запускающих пусковые образы цепочек действий):

В данном фрагменте базовым уровнем является состояние Плохо, которое на втором уровне детализуется сочетанием стилей реагирования (ощущаемых как базовые эмоции): Пищевым, Поиском, Страхом, Защитным стилями. Далее может быть пусковой стимул, воспринимаемый извне или же рефлекс отрабатывает непосредственно по текущему гомеостатическому состоянию. На следующем уровне идут безусловные рефлексы в виде образов действий.

Стоит подчеркнуть, что все узлы любого вида дерева представлены в виде чисел – идентификаторов (ID) образов восприятия или действия, что в мозге реализовано как уникальный номер связи от выхода распознавателя.

Поэтому деревья оказываются чрезвычайно эффективными в использовании. Вот пример записи в виде ID образов фрагмента дерева рефлексов: каждая строка полноценно описывает один узел ветки:

1|0|1|0|0|0|0

4|1|1|3|0|4774|0

5|1|1|3|462|4896|0

6|1|1|3|464|4896|0

7|1|1|3|466|4896|0

8|1|1|3|164|4880|0

10|1|1|3|473|4891|0

11|1|1|3|165|4887|0

Далее по ходу развития, точнее уже воспитания, в модели Beast формируются деревья условных рефлексов (fornit.ru/66485), дерево автоматизмов (fornit.ru/19819. Далее формируется последовательность информационных деревья, участвующих в процессе осознанного поиска решений: дерево ситуации, дерево проблем и дерево правил поведения (fornit.ru/67560).

Вот фрагмент дерева автоматизмов – реакций, возникающих и корректирующихся осознанно по текущей информационной картине:

Все виды деревьев в модели Beast визуально наблюдаемы на отладочных страницах Пульта связи (fornit.ru/best_h). Это позволяет наглядно видеть функциональное назначение элементов в динамике работы модели.

Все наработанные реакции срабатывают в определенных сочетаниях условиях: для каждого уникальной совокупности выделенных в восприятии параметров восприятия – своя привычная реакция. Если для какого-то сочетания еще нет реакции, но что-то делать нужно, то начинается процесс ее выработки.

Поэтому мозг можно условно разделить на ту часть, где уже есть привычные реакции и ту часть, которая включается, когда нужно выработать новую реакцию. Вторая часть – намного сложнее организована, чем первая. Если удалить лобные доли, то останется только первая часть.

Чтобы в данной ситуации срабатывала только одна определенная реакция, возникло такое изобретение эволюции как контекстная организации распознавания ситуации – в виде дерева, у которого в основании – самые общие условия ситуации – 3 базовых эмоции, а далее в каждой ветке все более уточняются другие составляющие ситуации.

Итак, основа Дерева – три базовых эмоции. Следующий уровень – основные эмоциональные контексты, которые всегда сначала активируются по состоянию жизненных параметров, а потом – произвольно.

Остальные ветки Дерева активируются актуальными образами восприятия. Если наблюдается какой-то важный из известных образов, то активируется его узел на Дереве под той эмоцией, которая уже активна.

Этот способ позволяет максимально быстро распознавать текущую ситуацию: для каждой известной ситуации активируется строго уникальная ветка и, значит, возникает определенная привычная реакция на такую ситуацию.

Вот упрощенная схема Дерева:

 Хотя во втором уровне Дерева показаны всего лишь по 7 эмоций, на самом деле их намного больше, и еще потому, что одновременно может быть и Охота+Испуг и Гон+Игра+Поиск. Каждое такое сочетание – свой эмоциональный образ и именно из таких образов состоит второй уровень Дерева: могут быть или отдельные эмоции или их сочетания. Понятно, что для каждого эмоционального образа возможны характерные для него реакции.

С развитием организма Дерево формируется постепенно, с каждым новым опытом контакта с реальностью и с каждым новым элементом новый узел возникает в дереве не сразу, а только если покажет свою достаточную важность, иначе бы в Дереве накопилось очень много ничего не значащего мусора. Так что в Дереве остается только то, что было нужно и как-то пригодилось.

Каждый элемент нового опыта – образ, распознаваемый на низком уровне обработки сенсорных сигналов - в виде уже знакомых целостных образов: Мышка, Движение, Красный туман, Лицо бабушки и т.п. Эти образы нарабатывались и продолжают нарабатываться из совокупностей всех видов сенсорного восприятия, которые оказываются активны в данный момент.

Образы восприятия это - узлы для активации дерева. Узлы не активируется отдельными составляющими образа, а только при распознавании всего образа (как да, есть такой образ или нет такого образа). Так что большая часть работы по подготовке и абстрагированию отдельных образов происходит заранее.

Новые образы восприятия способны сформироваться быстро в результате того, что на совокупность составляющих его признаков было обращено осознанное внимание. Стоит увидеть новое лицо и провзаимодействовать с ним, как вместо образа “Новый человек” в таких-то условиях формируется отдельный образ восприятия, который потом будет выделять этот образ среди других “Новый человек” и уже этот образ закрепится как узел на активной ветке Дерева (а на других ветках пока что не будет такого узла).

При этом образ является абстракцией потому, что он активируется не только по совокупности составляющих его признаков, но и по всем другим ссылающимся на него символам: Бабушку можно увидеть или как изображение или как услышанное слово “Бабушка” или как написанное слово “Бабушка” или по схожей карикатуре, - в любом случае активируется один и тот же узел. Этот эффект напоминает образы сочетаний эмоций и реализуется сходными механизмами.

Чтобы лучше представить как меняется активация Дерева с изменяющимися условиями и после совершенных действий, создана упрощенная анимация: fornit.ru/an-tree-1.

Так что, если состояние организма - Плохо (что-то болит), и вдруг появляется знакомая Девушка, то реакция будет не та, которая была бы при Хорошо с игривым настроением, или если бы это была Незнакомая девушка.

Раньше, во время формирования ответной реакции, в каждом таком случае, реакция оптимизировалась так, чтобы давать наиболее желаемые результаты или чтобы достигалась поставленная цель.

Каждый узел каждой ветки Дерева может иметь свой привычный автоматизм или может пока не иметь его и не приводить к привычным действиям – состояние непонимания как действовать.

Даже для чистого самоощущения Хорошо может быть своя привычка, которая сработает, если мы вдруг проснулись в таком состоянии.

В активной ветке срабатывает только та реакция, которая оказывается на ее конце - последнем активном узле, уточняющим ситуацию. Поясню на примере.

Если после глубокого сна активен только узел Норма – то срабатывает привычка для такой ситуации. Если Норма->Игра – то привычная реакция для игрового настроения при Норме. Если Норма->Игра->Птичка, - то реакция, когда замечена какая-то пока не распознанная птичка, а если Норма->Игра->Птичка->Павлин – то реакция на Павлин в ситуации понимания что все в норме, хочется играть, появилась птичка.

Для любых сочетаний деталей ситуации в Дереве всегда найдется потенциальное и уникальное место. Но оно заполняется только в реальной такой ситуации и Древо содержит только тот опыт, что нужен для привычных условий.

Вот, в принципе как просто и четко устроен выбор привычной реакции.

Дерево интегрирует все образы в общее распознавание смысла (значимости) ситуации. Поэтому, “видя синюю книгу невозможно увидеть книгу без цвета синий, плюс цвет синий без книги” (цитата из Теории интегральной информации Джулио Тонони fornit.ru/7589).

Дерево позволяет очень быстро найти, а как реагировали мы в похожих ситуациях. Это позволяет попробовать применить привычный автоматизм от наиболее схожей ситуации и если он окажется удачным, то записать его и для активной ветки. Скорость такой выборки очень высока и не сравнима с простым перебором всех имеющихся узлов: мы практически сразу имеем информацию о том, как реагировали в схожих условиях.

Привычные реакции – это самое надежное, что у нас есть и на них всегда стоит полагаться, не задумываясь, если нет времени подумать вот почему: fornit.ru/50214.

Когда мы действуем привычно, то не нужно и задумываться об этом, а в памяти не остается воспоминаний того, что мы делали. Действия совершаются быстро как рефлексы.

Когда что-то подсказывает (это всегда что-то новое и важное среди прочего), что привычное действие не пройдет удачно в новых условиях, что не стоит сейчас торопиться действовать, а стоит подумать, то начинается долгий процесс осмысления (выявления значимости или смысла происходящего).

Из-за того, что была изначально упущена концепция древовидной иерархии функциональности мозга, предстоит большая работа выяснения конкретики природной реализации таких структур, начиная со структуры кортикального столбца распознавателей примитивов восприятия. То, почему древовидная концепция была упущена может проясняться фразой К.Анохина в статье “Философский смысл проблемы естественного и искусственного интеллекта”:

“Как мы уже видели, одной из существенных тенденций современной нейрофизиологии является изоляция отдельных механизмов мозга для удобства экспериментирования над ними в целях изучения их свойств. Этот аналитический прием, общий для многих биологических наук, уже дал значительные результаты. Однако прием этот полезен и хорош только на определенной стадии научно-исследовательского процесса: при сборе первичных материалов и в период подготовки к широким обобщениям”.

Другая причина неудач в том, что проблему управляющих систем мозга пытаются решить ученые, не являющиеся специалистами в схемотехнике (fornit.ru/vak1).

Фактически, дерево одно на весь мозг. Оно начинается с иерархии базовых контекстов и далее элементов первичных образов, а IDконечных ветвей используются как начальные уровни более высокоорганизованных, более специализированных деревьев: дерева ситуации, дерева проблем, эпизодической памяти (fornit.ru/67560). Последнее базируется на конечных ветках дерева проблем. Но в программной реализации бывает удобно начинать все деревья с базовых контекстов чтобы облегчить операции выборки по ID.