Тема форума: «Эксклюзивные занятия по МВАП: Первые управляющие структуры организмов на основе распознавателя.»

Тут думаю надо подходить с позиции проектировщика: если надо спроектировать нейросеть, то первое, что нужно сделать - разлиновать "сенсорную матрицу": ортогональной, наклонной, сотовой и т. д. решеткой - смотря под какие задачи проектируется сеть. В любом случае так предопределяются будущие начальные примитивы: их пространственная ориентация, длина. А от них уже будет зависеть точность и тип распознавания ("мировосприятие"). Это еще предстоит определить какая решетка например наиболее универсальна (скорей всего ортогональная).

Для искусственных систем вовсе не обязательно начинать с этого, можно встроить готовый блок примитивов и их иерархического развития с уклоном в нужную специализацию.

Критерий для участников: если ключевые моменты темы не даются, то нет никакого смысла двигаться далее. На сегодня только temnaya loshadka давала схемы, показывая свою подготовленность (про Palarmне говорю :).

Вот ясность понимания и экспериментирование на новом эмуляторе хорошо дадут понять самому участнику его подготовленность: тут не должно оставаться вопросов в основных принципах работы модели.

Бесконечно тему тянут не буду, конечно, если не увижу до 15-го января оптимистического прогресса, придется завершить занятия. Просто оформлю что уже есть в предвариловку для занятий по школе и все на этом. Пока не вижу вообще сдвигов, а некоторые вообще исчезли.

Думаю, разные типы связей дадут различную специализацию. Зеленый - нейрон, красный - рецептор. И все эти решетки строятся простым алгоритмом отзеркаливания и поворота базового элемента. Причем самый базовый из них - треугольник, а звезда и ромашка уже из него получены.

Ryeshyetki.png

Не врубился в эту систему, нужно более детальное пояснение.

Вот я и пытаюсь их установить через фракталы :) Думаю, это как раз то состояние связей к которому стремится матрица при обучении но прийти к которому ей мешают множество помех. Попробую в выходные это закодить, там думается не так все сложно как кажется. Частично уже сделал, но по ходу дела возникли еще более интересные идеи, типа конфигурирование сетки связей, что возможно позволит симулировать нейромедиаторный фон. Представь, что решетка связей будет по ходу дела переключаться на другую схему. Ведь изменение веса синапса во многих случаях означает просто "Вкл/Выкл" его связи - а это значит перестройка схемы связей.

А кроме того, линейная схема связей совершенно не читабельна, как и цифры весов - там просто каша. Сравни с моими решетками - все связи видны и цифры так же легко будут читаться. То есть мой вариант подхода: связи изначально устанавливаются по фрактальной решетке, а не создаются по ходу обучения. При обучении меняются только веса. Ты ведь и сам так же сделал (S1-S2-S3), я лишь предлагаю сделать это более фэншуйно и читабельно.

Попробую :)

Сможем и бабочку и затемнение. Фокус в том, как это сделать, не вручную задавая связи, а самообучением.

Если получится  феншуйно, это будет круто! Я, правда, так и не понял суть, ты слишком лаконичен :)

Это было бы здорово!

Распознавание примитивов

На видео связи расставлены вручную с перекрытием в одно звено. Если сделать по схеме Nan, с двойным перекрытием и связью 5х1 (5 рецепторов на 1 нейрон), выбрав одну из схем (S1-S3) и показывать поочередно при обучении например примитив "квадрат" - на первом слое его распознает несколько нейронов, то есть он автоматически разобьется на более простые примитивы. Это происходит потому, что один нейрон связан только с  5 рецепторами и потому не может детектировать весь большой примитив. А так же из за связей перекрытия и латерального торможения соседних нейронов.

Если посмотреть как растет вес связи, то видно, что если например несколько связей соседних нейронов растут одинаково и уже приближаются к порогу, то как только один из нейронов активируется он тут же "придушит" немного соседа, тем самым увеличив "разрыв" в значениях между растущими весами. Тем самым первый из активировавшихся нейронов получает фору - он быстрее наращивает веса своих синапсов. То есть если он получил суммарно больший вес своих синапсов и быстрее пришел к финишу, то он еще и оттолкнет от него почти догнавших его конкурентов - поэтому такое торможение называют "контрастированием": нейроны с большим суммарным весом связей делают рывок вперед, а с меньшим - получают пинка под зад.

Другой важный момент:

на первом слое практически все примитивы распознаются по логике И, потому, что детектируется одновременная активация групп рецепторов. А для формирования логики ИЛИ нужна поочередная демонстрация образов: при каждом показе веса связей, связанных с образом подрастают, пока не достигнут порога срабатывания нейрона. Стало быть, если демонстрировать все образы разом - второй слой просто соберет их в кучу и будет детектировать их одним нейроном или группой как некий единый образ. В реальности так и происходит, никто не демонстрирует "настроечные таблицы" (как это было раньше в телевизорах) - на сенсорную матрицу одномоментно проецируются сложные контура, которые хоть и детектируются автоматически на первом слое в виде фрагментов, но если второй будет их просто обучаться распознавать так же как и первый - он неизбежно соберет их все в одно большое "нечто". И чтобы этого не произошло, а продолжилось дальнейшая группировка "свойств" и "признаков" - думаю, уже тут должна быть фильтрация: выделение среди всех активных примитивов какой то части. Скорей всего тут имеют место дополнительные тормозные связи от слоев, которые формируют контекст восприятия: одномоментно воспринимается только узкий диапазон. Рассматривая объект мы поочередно "видим": "что то прямое", "кривое", "большое", "круглое", "прямоугольное" и т. д. - происходит сканирование вторым слоем первого, словно он действительно "разглядывает", чиркая "вниманием" по нему как глаз зигзагами. Что и в каком порядке будет воспринято - и определяется контекстом восприятия. Это я так понял из лекций Nan.

Стало быть: для распознавания на первом слое важно естественное фрагментирование нейронами матрицы рецепторов и латеральное торможение - иначе не получится разбить сложный объект на более простые примитивы. А на втором слое уже нужно подключение контекста восприятия - иначе все выделенное опять свалится в одну бесформенную кучу.