В случае распознавания угла наклона я понял так, что колонки каждая по отдельности детектируют свой вариант наклонной линии. Их сочетание и дает определение линии. То есть кружок на схеме - колонка. Но почему тоже самое не сделать в одном слое отдельными нейронами? В смысле кружок на схеме - отдельный нейрон. Я думал, что такая схема - это схема в одной колонке, то есть колонка способна распознавать несколько вариантов углов наклона. А получается, что только один. Зачем понадобилось городить 6 слоев и специализироваться на одном только варианте примитива если можно все сделать в одном слое и выдать все углы наклона?

Видимо все дело в том, что нет никакой надобности делать колонки как универсальные распознователи. Это имело бы смысл, если надо распознавать разные примитивы в разных частях рецепторного поля. Но если всегда центрировать линию по центру, то окажется, что каждая колонка может быть заточена только под один угол наклона. И кроме того, если колонка выдавала бы несколько вариантов активности, пришлось бы делать у нее несколько выходов под каждый эфекторный рисунок. Это сильно усложнило бы и запутало дальнейший анализ.

В первом слое происходит самое простое распознавание контраста и вырисовывается линия по этому контрасту, подсправленная соседним торможением. 

В предпоследнем слое идет обработка с участием всех предыдущих слоев (Их апикальный дендрит простирается до 1 слоя, базальные дендриты идут параллельно поверхности коры, а аксоны образуют проекционные пути к базальным ядрам, стволу и спинному мозгу.)., Получается некий аналог многослойного персептрона, но с последовательным развитием слоев, а не сразу во всех.

ПОследний, наружный слой резко развился у приматов. Его аксоны связываются с зоной  более высокого уровня, т.е. передают результат для дальшейшей обработки. Причем предыдущие слои тоже это делают, но для более древних связей.

Короче, в колонках немало наслаивающихся эволюционных заплаток.

Видимо что то вроде этого, только там не показаны тормозные нейроны. Смешанная логика И/ИЛИ позволяет получить множество вариантов детектирования линии, в предпоследнем слое они разводятся по разным адресам: базальным ядрам, стволу и спинному мозгу. То есть колонка действительно выдает множество вариантов активности, но не как свойств типа "угол наклона", а как различных вариантов детектирования одного и того же примитива с большим/меньшим контрастированием, разным уровнем группировки и т. д. Это нужно просто для того, чтобы подключить больше модулей к колонке, и для каждого подключения нужен свой уникальный (внутри колонки) адрес. Без разницы, как там образуются связи, главное - чтобы сгенерились уникальные пары рецепторно-эффекторных рисунков, которые можно потом раздать по адресам.

Но тогда виртуальная модель колонки сводится к простому генератору случайных кодов - что как бы слишком примитивно получается.

Думается, это делалось и продолжает делаться при помощи тормозных нейронов. К ним добавляются внешние связи, активирующие тормозной нейрон, который вносит корректировку в схему активности слоя. Например как в этой схеме самой простой колонки из одного цветового рецептора и 3 яркостных. Процесс ее развития думаю был таким:

1. вокруг рецепторов возникла тройка эффекторов с простейшими равновесными связями. Точность распознавания была так себе, потому, что схема разделяла яркость 1 уровня, но не различала 2 и 3
2. добавились тормозные нейроны - теперь схема  стала точно разделять все 3 уровня яркости
3. добавилась управляющая связь к тормозным нейронам - теперь схему можно регулировать, переключая ее с менее точного на более точный уровень распознавания

В таком виде она и осталась как первый слой колонки - с регулировкой чувствительности от рецепторов гомеостаза или еще какого то модуля. Не потому, что так лучше, а потому, что так она эволюционно формировалась.

Думаю, что схема распознавания угла наклона строится по такому принципу, как на рисунке. Колонки специализируются только на распознавание вертикальной, горизонтальной и наклонной под 45 линии. Причем в случае с наклоном точность распознавания может быть сильно плавающей, главное, чтобы отличался наклон вправо вверх, влево вверх, вправо вниз и влево вниз. И тогда угол вычисляется с учетом какая из 6 типов колонок в каком месте матрицы находится, то есть учитывается топология расположения.

Обоснование именно такой схемы, где неточной специализации по каждому углу наклона вытекает из того, что если формировать специфическую колонку на каждый градус, ее размер будет очень большим, что очевидно, если глянуть на первый рисунок в теме. А по логике - чем меньше колонка тем лучше, ведь от ее размера зависит размер минимального примитива, который она распознает и соответственно точность распознавания. Но если использовать предложенную схему, то точность распознавания угла будет зависеть от величины сформированного блока колонок, что означает - ее можно теоретически увеличивать по мере надобности, просто включая в блок еще одно внешнее кольцо колонок и формируя новый распознаватель нужного расположения.

Кроме меньшей точности распознавания угла колонкой, в некоторых случаях так же возможны варианты распознавания одного примитива, как показано на рисунке. Обе линии распознаются как с одинаковым наклоном в разных квадрантах матрицы, но первая колонка примитива может быть как распознаватель горизонтали, так и угловой.

Рисунок на матрице колонок вместо наклонных линий показывает ломанные, но это пофиг. Главное ведь получить уникальную пару рецептор-эффектор, а не точное совпадение. Линия может детектироваться на матрице эффекторов как угодно, хоть в виде замысловатой дуги, главное уникальность ответной реакции.

Думаю, вполне обоснованно можно сделать следующие выводы:

1. колонка как универсальный распознаватель детектирует 1 пиксель, то есть способна  определять его цвет по схеме RGB c примерно 28 вариантами яркости. Пример такой колонки
2. объединяясь в группы колонки детектируют начальный примитив типа прямой с углом наклона 45 вправо/влево и вертикаль/горизонталь. Для определения отрезка нужно минимум 3 колонки, расположенных на одной прямой. То есть кружок на схеме в посте выше - это не колонка, а 9 колонок объединенных в общую группу вертикальными связями. Пример такой группы на рисунке, где показаны 4 варианта специализации для колонок.
3. группы колонок позволяют детектировать макропримитив, типа линия с определенным углом наклона, как это показано в посте выше

Остается вопрос по поводу детектирования дуги. Создавать для нее аналогичную схему, где вместо линий короткие дуги не имеет смысла, так как любую кривую всегда можно апроксимировать отрезками. Кроме того, место на матрице уже занято колонками под прямые, и придется тогда делать параллельную матрицу для дуг.

Такой подход позволяет группируя простейшие колонки, распознающие лишь один цветной пиксель, организовывать все более сложные распознаватели отрезков с углами наклона с любой точностью путем наращивания связей с ассоциативными модулями в верхнем слое. С дугами аналогично.

Главный вывод - единичная колонка детектирует примитив типа цветная точка, все прочее - результат их объединения. Еще один интересный вывод: колонка должна распознавать всего лишь 4 состояния: вертикаль, горизонталь, наклон вправо, наклон влево. Это значит, что нейроны могут позиционироваться внутри колонки с большой степенью свободы, то есть колонка может быть как бы повернута как попало в пределах от 0 до 90 град. Что думается и происходит, ведь как заставить нейроны выстраиваться строгими шеренгами-фигурами? А этого и не нужно делать. Но на схеме, для лучшего понимания, они изображены строго упорядоченными.

Почему? Где такое ограничение заложено, учитывая, что в момент формирования специализации тупо фикситуется профиль активности на входах?

Ты как-то усложняешь...

Я наоборот все резко упрощаю. Специализация происходит не на уровне колонки, а в верхних слоях. Сама колонка становится очень примитивной. Ее группа из 9 колонок так же просто устроена: вертикаль, горизонталь, наклон вправо/влево или может еще проще: просто наклон (то, что не вертикаль и не горизонталь). В принципе можно даже прошить их специализацию изначально, задав, что узкая полоска колонок специализируется на вертикаль/горизонталь, остальные как попало на угол наклона вправо/влево, только задав, что вправо специализируются колонки в определенных секторах, а влево - в других. То есть угол наклона определяется по принципу: вертикаль? горизонталь? наклонная? - тогда в каком секторе и в каком месте?

Я там не правильно написал. Не колонка специализируется на простейший отрезок, а группа из 9 колонок, как на рисунке. Отдельная колонка специализируется на распознавание одного цветного пикселя, для чего она использует 3 рецептора цвета RGB и 4 рецептора яркости. Это думаю минимум, чтобы начать от чего то плясать.

Смысл, почему нужно двигаться от точки к отрезку, от него к линии с вертикаль/горизонталь/углом 45 - так можно наращивать точность распознавания угла просто увеличивая число групп колонок. А если специализировать колонку под каждый угол, цвет и т. д. - она получится огромной.

На уровне одной колонки не получится специализироваться к любому углу наклона. Но это и не нужно, достаточно чтобы она детектировала одно из 4 состояний, причем возможно даже 3 - отличать правый наклон от левого может и не надо, достаточно просто наклон. И тогда из активностей таких колонок можно уже сформировать распознаватель любого угла.

Это ограничение вытекает из схемы связей 9 колонок - тут может быть только 4 варианта активности 3 колонок, и такая группа только так и может специализироваться.

Чтобы детектировать цвет точки, нужно минимум три рецептора RGB и несколько яркостных, например 4 как в моей схеме. Для их обработки нужно 12 нейронов, чтобы получить хотя бы небольшой диапазон значений цветов. И это только одна точка. Для отрезка их нужно минимум 3 - стало быть, если делать колонку на распознавание отрезка из 3 точек, это уже больше 30 нейронов. Чтобы детектировать угол наклона прямой 0,90,45 вправо/влево - нужно 9 групп точек по 3 - уже около 270 нейронов. Никаких других углов такая большая колонка не детектирует. Для этого ей надо добавить внешнее кольцо нейронов как на первом рисунке в теме - и так для все большей точности колонка должна расти в диаметре. Возникает вопрос - сколько же она должна специализироваться, с учетом что мы сейчас говорим о первом слое, а за ним еще 5 надо вырастить?

Я думаю, это делается проще и быстрее. Первый слой колонки специализируется только распознавать цвета пикселя - этому можно научиться достаточно быстро. Когда колонки созреют, их активности начнут объединяться в ассоциативном модуле и там формироваться распознаватель отрезка, а затем уже линии под конкретным углом. Эта специализация возникает по мере надобности, может точнее 45 град кому то и не надо, а кому то надо и точнее градуса. Колонки давно созрели, детектируют цветные точки - а формирование распознавателей продолжается на более высоком уровне. Если бы пришлось ждать пока колонки научатся распознавать линию под углом, это означало бы в итоге огромный пиксель, как единицу измерения рисунка, и длительное время обучения. А так пиксель на уровне точки, что уже меньше некуда.

Для искусственной реализации по крайней мере такая иерархия формирования примитивов восприятия мне видится оптимальной.