belerafon список всех сообщений - unlimited Сообщений: 7 Сообщение № 8453 показать ответ -только после авторизации |
большой по модулю коэффициент корреляции |
Самый простой первичный распознаватель, обучаемый без учителя, есть на этом сайте: http://www.scorcher.ru/neuro/app/app.php |
nan список всех сообщений - админ Оценок: 39 Род: Сообщений: 12293 E-Mail Сообщение № 8459 показать ответ -только после авторизации |
Вот новая версия демо формирования распознавателя первичных зон: http://scorcher.ru/neuro/app/app0.php
belerafon список всех сообщений - unlimited Сообщений: 7 Сообщение № 8463 показать ответ -только после авторизации |
Вот новая версия демо формирования распознавателя первичных зон: http://scorcher.ru/neuro/app/app0.php |
sergish список всех сообщений - unlimited Оценок: 6 Род: Сообщений: 1482 Сообщение № 8464 показать ответ -только после авторизации |
Finarfin список всех сообщений - unlimited Оценок: 2 Род: Сообщений: 388 ICQ: geratewart@jabber.ru Сообщение № 8465 показать ответ -только после авторизации |
автор: sergish сообщение 8448
Ты уверен, что "так не происходит"? Вроде есть веские основания считать, что именно так и происходит: |
Кажется, ты не совсем понял вопрос. У nan`а написано что связь образуется между синхронно активными нейронами, а я подмумал что неплохо бы образовывать связь и между нейронами активными в противофазе. Здесь речь о низкоуровневом образовании связей в первичных зонах, а ты пишешь уже на системном уровне.
автор: nan сообщение №8450
С точки зрения формирования слоев актуальных (а не всевозможных) распознавателей (в том числе предопределяемых наследственно) нужно не заготавливать бесконечные поля всех возможных из них, а лишь те, что соответствуют профилям реально появляющихся в восприятии в момент созревания данного слоя распознавателей. Если этого не будет, то и не будет уже никогда. И тогда единственная корреляция - это повторяемость узора признаков в данном акте восприятия и чем больше повторяющихся совпадений, тем сильнее связь, а что перекрывается, то становится фоном и гасится взаимным торможением. Вырисовывается и запоминается только воспроизводящееся в распознавателе данного примитива. Это и есть принцип контрастирования. |
Nan, то есть для идентификации учитывается только повторяющийся рисунок "наличия" возбуждения, без учета характерного сочетания наличия и отсутствия? У меня еще такая мысль. Ты говоришь что связь образуется между нейронами, которые оказываются синхронно активны. Однако если процесс образования связи инерционный – не будет ли связь образовываться между двумя нейронами, активными не точно в фазу, а в разные моменты времени? И не сможет ли эта связь стать впоследствии тормозящей если окажется что активность одного нейрона для большинства воспринимаемых "рисунков" исключает активность другого?
автор: nan сообщение №8450
Во-вторых, нейропептидная метка обозначает область вокруг данной активности и там крепнут связи в-третьих только специфичные к определенному типу нейромедиатора. |
ОК. Допустим. В математическом описании это чему эквивалентно? Что усиливаются не все связи в этой области а те которые
Как эта специфичность влияет? Лимбическая система же "не знает" специфичные к какому нейроедаитору связи сработали. То есть не понятно, даёт ли эта специфичность отдельных связей к разным неромедиаторам возможность настройки каких-то функционально различных связей в зависимости от ситуации или нет.
автор: nan сообщение №8450
в реальной нейросети они все образуются примерно на максимуме и регулировка идет за счет дополнительных возбуждающих или тормозных синапсов в каждом акте корректировки, т.е. количеством связей. |
дополнительных синапсов между парой нейронов, или...? Если между парой то это эквивалентно изменению весового коэффициента. Или не эквивалентно из-за наличия каких-то механизмов которых я не знаю?
автор: nan сообщение №8450
Т.е. если реверберирует некий профиль возбуждения, то подкрепляются те связи, которые ранее в такой конфигурации не были установленными так, чтобы впредь и без положительной обратной связи образ оказался возбужденным в том же профиле при активации входных признаков. |
Осталось непонятным как биохимические процессы делают именно так чтобы получить такой результат, и на какие метки они опираются и как определяют какие весовые коэффициенты юстировать в какую сторону и насколько.
Вот это утверждение
>подкрепляются ... так, чтобы впредь и без положительной обратной связи образ оказался возбужденным в том же профиле при активации входных признаков.
мне кажется можно и нужно проверить на матмодели – а именно: действительно ли при определенном алгоритме коррекции весов связей выбираемых по сочетанию активности и т.п., при следующем предъявлении такой же ситуации будет наблюдаться активность которая в прошлый раз была навязана внешними воздействиями (здесь сознание можно заменить жестким алгоритмом, и подкрепление, будто такая активность желательна тоже задать искуственно), уже без этого внешнего воздествия сознания.
Только уточню одну вещь.
>чтобы впредь и без положительной обратной связи
положительная обратная связь связана с участием сознания?
автор: belerafon сообщение №8453
Поэтому все вычисление корреляции сведется к тому, что связь между нейронами в одинаковом состоянии возбуждения надо укреплять, а в разном - ослаблять (или менять на тормозящую) |
Или создавать тормозящую.
автор: belerafon сообщение №8453
Поэтому, видимо, нужно оставить только кусок алгоритма, усиливающий связи между нейронами только тогда, когда они активны. |
Создавать при характерной активности в противофазе тормозящую и при активности в фазу – возбуждающую связь, а при отсутствии активности – никакой не создавать. Всё верно.
автор: belerafon сообщение №8453
Это как раз распознаватель с учителем! |
Нет. Как раз без учителя. Распознаватель схватывает первый образ который он вообще увидел. Что-то вроде импринтинга, но на более низком уровне. Учиться он только на предъявлении первого образа, при предъявлении следующих он уже выдаёт результат распознавания, ты больше не говришь ему правильно или нет, это он (распознаватель) говорит что это непохоже на первым воспринятый образ. Nan, подтверждаешь? Я на 99% уверен что да, это именно пример обучения без учителя и ты подтвердишь.
P.S. да, новая программа, учитывающая частоту предъявления – совершеннее и лучше иллюстрирует принцип.
автор: belerafon сообщение №8463
В данном случае также можно выделить "учителя" - это показ преимущественно одного образа при формировании одного распознавателя. |
Ну разве что метафизически-абстрактно можно выделить учителя :)
С тем что жизнь или среда – "учитель" всех живых существ никто и спорить наверное не будет, это и так понятно. Дихотомия методов обучения с учителем и без учителя задается иным образом – через участие или не-участие лимбической системы и эмоциональных оценок в процессе обучения.
автор: belerafon сообщение №8463
Однако архитектура этой сети построена так, что она пытается всегда для одного образа сопоставить только один результирующий нейрон, а все остальные "тормозит". |
Кстати, nan, нейроны-вставки не тоже самое делают?
автор: belerafon сообщение №8463
Но как заставить послойно созревать сеть, чтобы на нижних слоях формировались именно такие примитивы характеристик образа, а не он сам целиком, да еще причем без учителя... Для меня загадка |
Самые низкоуровневые распознаватели по-любому не могут схватывать образ целиком, потому что в какой-то обширной области распознавателей доступны только часть пикселей, а не вся картинка, просто из-за топологии захода нервных окончаний зрительного нерва в мозг.
nan список всех сообщений История редактирования (1) - админ Оценок: 39 Род: Сообщений: 12293 E-Mail Сообщение № 8468 показать ответ -только после авторизации |
>>такой подход несколько утрирован
Безусловно, утрирован. Эта модель используется в статье Алгоритмы сознания 2 для иллюстрации главного, что достигается: получение наиболее актуальных для данной особи и ее окружения наборов примитивов, которые будут использованы как рецепция корректируемых сознанием распознавателей. В данном примере важно не моделировать био-реализацию, а 1. показать алгоритмизириуемый способ образования актуальных примитивов 2. вообще показать принцип действия распознавателя. И для особенностей реализации можно использовать наиболее удобный и эффективный алгоритм, выполняющий задачу подготовки примитивов.
>>переключать слои созревания, видимо, могут только алгоритмы, заложенные в ДНК клеток
С одной стороны, - да: каждый последующий слой - эволюционно обусловлен и должен следовать общему принципу экспрессии и т.п. Но, возможно, что специального гена на каждый слой и не существует (я не знаю таких тонкостей). Чисто же функционально, из всей совокупности мне известных данных вырисовывается следующая картина (давно, впрочем, уже описанная в статьях).
Когда есть предшествующие рецепторы и они проявляют активность во время восприятия, то к источникам ближайшей активности от последующего слоя нейронов начинают ветвится дендриты (это вообще - общий принцип). После чего появляется возможность установления связи по общему условию ее возникновения. Когда таким образом сформируется слой примитивов, то он уже начнет провялть активность в качестве рецепторного для последующего. И т.п.
>>за время созревания одного слоя этому слою демонстрируется множество случайных образов, и в этом одном слое должны автоматически появиться распознаватели (много распознавателей).
Здесь картина дополняется тем, что пока у созревшего нейрона нет связей, он проявляет пейсмеккерную активность, что и создает условия для фиксации связей с теми из предшествующих рецепторных нейронов, который в то же время проявили активность. Не могу сказать насколько продолжителен этот момент, и, конечно, за это время профиль активности рецепторов может несколько меняться (насколько это критично и как образуется наиболее общее - предлагается посмотреть в модельке). Допускаю, что есть некоторые механизмы, например, 1. поддерживающих возникшую активность связки предшественников и нового нейрона даже после исчезновения стимула, 2. тормозящие соседние мешающие образы, 3. следовые последействия ухудшающие условия образования новых сочетаний и т.п. [284] Главное, что для целей алгоритмической прикидки в конкретной реализации можно осуществить наиболее удобные поддерживающие механизмы.
>>Как эта специфичность влияет? Лимбическая система же "не знает" специфичные к какому нейроедаитору связи сработали.
Наоборот: сначала активность эмоционального контекста и уже в нем - формирование связей, характерных для него. И тогда для каждого стиля поведения формируется характерный опыт, мало зависящий от опыта в других эмоциональных контекстах.
>>Если между парой то это эквивалентно изменению весового коэффициента.
по действию да, эквивалентно.
>>Нет. Как раз без учителя... Nan, подтверждаешь?... новая программа, учитывающая частоту предъявления – совершеннее и лучше иллюстрирует принцип.
Ты давал ссылку на другую модель, которую я не переделывал (хотя там есть что улучшить). В статье про алгоритмы использованы две модели: для автообразования примитивов и обучение с учителем.
Finarfin список всех сообщений - unlimited Оценок: 2 Род: Сообщений: 388 ICQ: geratewart@jabber.ru Сообщение № 8470 показать ответ -только после авторизации |
>>Как эта специфичность влияет? Лимбическая система же "не знает" специфичные к какому нейроедаитору связи сработали.
>Наоборот: сначала активность эмоционального контекста и уже в нем - формирование связей, характерных для него. И тогда для каждого стиля поведения формируется характерный опыт, мало зависящий от опыта в других эмоциональных контекстах.
Схема у тебя вырисовывается такая: один стиль – один эмоциональный контекст – один тип нейромедиатора. Стили – это, я так понимаю – бежать, прятаться, биться и т.п., а эмоциональные контексты это то что вызывает один из стилей
>Ты давал ссылку на другую модель
Тем не менее она тоже демонстрирует обучение без учителя, о чем и было сказано belerafon'у
nan список всех сообщений - админ Оценок: 39 Род: Сообщений: 12293 E-Mail Сообщение № 8478 показать ответ -только после авторизации |
Улучшил функциональность и приближенность к реальности модели обучения с учителем. Ввел туда выделение нового и модификацию связей только новых признаков восприятия. Оценку значимости, конечно же, дает игрок - учитель. И, конечно же, опять все утрировано, т.к. обучение с учителем - это использование механизма сознания и системы значимости, а это все используется от игрока :)
nan список всех сообщений - админ Оценок: 39 Род: Сообщений: 12293 E-Mail Сообщение № 6039 показать ответ -только после авторизации |
ты в самом деле не совсем воспринял суть "образного" примера или решил красиво "выпендриться" (сорри, не нашел более подходяще-емкого слова, но не вкладываю в него ничего обидного). Если первое, то попробую еще как-то более обстоятельно сказать :)
nan список всех сообщений - админ Оценок: 39 Род: Сообщений: 12293 E-Mail Сообщение № 2092 показать ответ -только после авторизации |
! Сообщение пропало?! посмотреть причины...
Написать простое сообщение (только текст) Написать сообщение полноценным редактором |