Тема форума: «Саморегуляция синапса»

В предыдущем сообщении изображён фрагмент матричной структуры мозга с выходом на одну мышцу. Эта схема нисколько не похожа на нейронные сети.

Алгоритм обучения матричного мозга.

1)  E_f = сумма (b_i c_i)

E_f - фактический сигнал управления; b_i  - возбуждение рецептора; c_i - проводимость соответствующего синапса.

2) dE = E_j - E_f 

dE - ошибка сигнала управления; E_j - требуемый сигнал управления.

3) dc_i = dE b_i / сумма (b_i²)

dc_i - поправка проводимости i-го синапса.

4) c_i = c_i + dc_i

Меня просили и я обещал привести здесь простейший пример обучения по указанному алгоритму.

Пример.

Пусть очувствление состоит только из двух рецепторов и пусть будут только две ситуации:

1-ая ситуация: b1 = 1;   b2 = 3; сигнал управления E1 = 1

2-ая ситуация: b1 = 3;   b2 = 1; сигнал управления E2 = 2

Исходные проводимости синапсов: c1 = 0; c2 = 0.

Посмотрим - как будут формироваться эти проводимости в процессе обучения.

Цикл 1-ый; ситуация 1-ая (1.1.).

E_f = 1*0 + 3*0 = 0;  dE = 1-0 = 1; dc1 = 1*1/(1²+3²) = 0,1; dc2 = 1*3/(1²+3²) = 0,3; c1 = 0+0,1 = 0,1; c2 = 0+0,3 = 0,3.

1.2. E_f = 3*0,1+1*0,3 = 0,6; dE = 2-0,6 = 1,4; dc1 = 1,4*0,3 = 0,42; dc2 = 1,4*0,1 = 0,14; c1 = 0,1+0,42 = 0,52; c2 = 0,3+0,14 = 0,44.

2.1. Опустим вычисления. E_f = 1,84; dE = -0,84; dc1 = -0,084; dc2 = -0,252; c1 = 0,436; c2 = 0,188.

2.2. E_f = 1,496; dE = 0,504; dc1 = 0,1512; dc2 = 0,0504; c1 = 0,5872; c2 = 0,2384.

И так далее. После четырёх циклов обучения получим c1 = 0,620; c2 = 0,1397.

Контрольная проверка: в 1-ой ситуации E_f = 1*0,620+3*0,1397 = 1,039; во 2-ой ситуации E_f = 3*0,620+1*0,1397 = 1,999. 

И это - результат саморегуляции синапсов.

Живой мозг (а тема посвящена ему) ни на минуту не прекращает своё обучение, совмещая его с работой. Поэтому всякие ограничения и остановки у него не предусмотрены.

Но с чисто программной позиции - Вы правы.

Пункт 1.2. означает: цикл 1-ый, ситуация 2-ая.

1. Перед нейрофизиологами стоит задача не нахождение оптимального алгоритма решения системы линейных уравнений, а раскрыть секрет - как делает это живой мозг.

2. И критерии решаемости (сходимости) у нейрофизиологов - иные, чем у математиков (хотя они отражают одно и то же). Число слагаемых в уравнениях системы равно числу рецепторов очувствления и переваливает за миллиарды. А число ситуаций может быть каким угодно: от единиц до бесконечности.

У живого мозга нет понятия нулевой сходимости; оно заменяется допустимым отклонением. Алгебраические исследования процесса обучения мозга по указанному алгоритму показывают, что отношение погрешности обучения в конкретной ситуации последующего цикла к той же погрешности предыдущего цикла - величина постоянная, характеризующая степень сходства ситуаций: dE(T) = s*dE(T-1) (В рассмотренном примере обучения она равнялась 0,36.) Так как степень сходства ситуаций - всегда меньше единицы , то, следовательно, процесс обучения - всегда сходящийся. Исключением могло быть полное сходство ситуаций (когда s = 1), ("когда прямые параллельны и решения нет" - как говорите Вы), но мы вправе принимать такие ситуации за одну повторяющуюся. 

Откровенно сказать, математическую терминологию я порядком уже подзабыл; давно это было.

Степень сходства ситуаций (образов) s возникает в процессе обучения по приведённому алгоритму. Для двух ситуаций она имеет вид

s = (сумма (b1*b2))² / ((сумма b1²)*(сумма b2²))

b1 и b2 - возбуждения рецепторов соответственно в 1-ой и во 2-ой ситуациях.

Хочу вернуться к этим словам.

Если нейронные сети настолько универсальны, что схемы матричного мозга являются их разновидностями, то, может быть, и схемы телевизоров (и мобильных телефонов, и чего угодно) можно также считать их разновидностями?

Какой же здесь сарказм? Ваш ответ - однозначен: любая схема (включая электрические) является графом того или иного вида. Следовательно, любая схема может считаться также нейронной сетью.

Такой формальный подход не устраивает специалистов; матричная схема мозга (сообщение 43463) не имеет ничего общего со схемами нейронных сетей. И для исследования мозга больше подходит не теория графов (или теория нейронных сетей), а образная математика.

Отличительной особенностью нейронных сетей, по нашему мнению, является приписываемая им способность анализировать ситуации и принимать решения. Говоря простым языком. в них прячутся, своего рода, гномы-анализаторы и гномы-менеджеры (нейроны-распознаватели и нейроны-управленцы).

Ничего такого в мозге нет.

И только осознание того, что нейронные сети вводят только в заблуждение, позволило в своё время напрочь отказаться от них и перейти к матричной структуре мозга с саморегулируемыми синапсами.