Главная книга сайта Форнит: «Мировоззрение». Другие книги:
«Познай себя», «Основы адаптологии», «Вне привычного» и Лекторий МВАП.
 
Короткий адрес страницы: fornit.ru/8086
Вернуться к исходному документу
Обсуждение Совершенствуем природную реализацию принципа адаптивного поведения
- показывать мусор
(Для начала - 10 последних)
Страницы: 1 2 3 4 5 6 ВСЕ 
  sergish список всех сообщенийПишет без лимита и ограничений - unlimited Качества sergish, оцененные другими пользователями Оценок: 6 Род: Мужской Сообщений: 1482  Сообщение № 8448 показать
ответ -только после авторизации

автор: Finarfin сообщение 8447
Почему так не происходит?

Вопрос не ко мне, но позволь встрять (совпала область текущего интереса )

Ты уверен, что "так не происходит"? Вроде есть веские основания считать, что именно так и происходит: действия (уверенный автоматизм) обеспечиваются балансом возбуждения-торможения - их контрастом в условиях сформировавшейся структуры сети. Поэтому обучение связано не только с формированием под-сети автоматизма, но и с подавлением других. Особенно - альтернативных (мышц-антагонистов, например), чтобы не мешали наладить контраст. Отсутствие достаточного контраста субъективно как раз и может соответствовать ощущению "я мыслю" - контексту новизны ситуации, неуверенности, сомнения о том что происходит и как действовать. Здесь внимание выглядит не как подвозбудитель текущего действия, а как разруливатель конфликтов - некий механизм попеременного под(!)возбуждения прогностических продолжений ассоциированных вариантов и связывания их с оценкой значимости для последующего "принятия решения" (сознательного). Отсюда, "новизна" рисуется как неопределенная (= множественная) значимость. А оценивается, подозреваю, по степени возбуждения системы значимости (системы активации мозга), превышающего некий критический "уверенный" уровень. Если конкретно, то новизна может измеряться как распределение (вероятностей) подвозбуждений по веткам взаимнотормозящих (но возбуждаемых рецепторами внешней среды) автоматизмов.

29.07.2011г. 1:46:05
 
  nan список всех сообщенийИмеет права полного администратора сайта - админ Качества nan, оцененные другими пользователями Оценок: 39 Род: Мужской Сообщений: 11316 E-Mail  Сообщение № 8450 показать
ответ -только после авторизации

>>С точки зрения чистой математики...

С точки зрения формирования слоев актуальных (а не всевозможных) распознавателей (в том числе предопределяемых наследственно) нужно не заготавливать бесконечные поля всех возможных из них, а лишь те, что соответствуют профилям реально появляющихся в восприятии в момент созревания данного слоя распознавателей. Если этого не будет, то и не будет уже никогда. И тогда единственная корреляция - это повторяемость узора признаков в данном акте восприятия и чем больше повторяющихся совпадений, тем сильнее связь, а что перекрывается, то становится фоном и гасится взаимным торможением. Вырисовывается и запоминается только воспроизводящееся в распознавателе данного примитива. Это и есть принцип контрастирования.

т.е. при попытке создать поля распознавателей для всех примитивов невозможно из-за бесконечного числа таких примитивов.

>>... выделяет в эту область нейропептиды, закрепляющие все связи в этой области. Как это происходит -- как контрастирование (возбуждающие синапсы сильнее возбуждают, тормозящие сильнее тормозят)?

Во-первых, связи устанавливаются в течение примерно получаса в области реверберации актуального образа восприятия-действия. Прервется реверберация раньше, связь не доформируется. Во-вторых, нейропептидная метка обозначает область вокруг данной активности и там крепнут связи в-третьих только специфичные к определенному типу нейромедиатора.

>>должен ли он увеличить влияние на нейрон следующего слоя или ослабить, чтобы выход был ближе к желаемому, и для одних синапсов модуль весового коэффициента будет увеличиваться а для других уменьшаться.

в отличие от модели персептрона, где тонко регулируются коэффициенты передачи, в реальной нейросети они все образуются примерно на максимуме и регулировка идет за счет дополнительных возбуждающих или тормозных синапсов в каждом акте корректировки, т.е. количеством связей.

Т.е. если реверберирует некий профиль возбуждения, то подкрепляются те связи, которые ранее в такой конфигурации не были установленными так, чтобы впредь и без положительной обратной связи образ оказался возбужденным в том же профиле при активации входных признаков.

Так вот, вовсе не обязательно повторять именно такую био-реализацию в модели.



29.07.2011г. 9:20:35


p.s. Допускаю, что мое утверждение может быть порочно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
 
   belerafon список всех сообщенийПишет без лимита и ограничений - unlimited Сообщений: 7  Сообщение № 8453 показать
ответ -только после авторизации

автор: Finarfin сообщение 8447
большой по модулю коэффициент корреляции

Корреляция между чем? Между возбуждениями конктретно взятых нейронов? Возбуждение - дискретная величина. Поэтому все вычисление корреляции сведется к тому, что связь между нейронами в одинаковом состоянии возбуждения надо укреплять, а в разном - ослаблять (или менять на тормозящую). Но если учитывать, что при работе сети типичное состояние нейрона - невозбужденное, а возбуждение происходит лишь изредка, то по приведенному выше алгоритму положительной возбуждающей связью свяжутся большинство нейронов, так как большинство их обычно невозбуждено. Поэтому, видимо, нужно оставить только кусок алгоритма, усиливающий связи между нейронами только тогда, когда они активны. Как и когда ослаблять связи... Можно или ввести фоновый коэффициет забывания, от которого они будут таять, и, неподдерживаясь, ликвидируются. Либо дополнительно ослаблять связь, если нейроны в разном состоянии (один активен, другой нет). Но это все рассуждения с потока, конечно, а не с точки зрения чистой математики.

автор: Finarfin сообщение №8447
Самый простой первичный распознаватель, обучаемый без учителя, есть на этом сайте: http://www.scorcher.ru/neuro/app/app.php


Это как раз распознаватель с учителем! Учитель говорит, "хорошо" или "плохо". На основе этого сеть и учится. Как я понял из статей nan, в зрительной коре нейросеть созревает послойно сама, без участия внимания, учителя или знания "хорошо" или "плохо". Просто на входы сети поступает некое ограниченное число образов, а она их самостоятельно запоминает. Только затем уже к уже готовым таким распонавателям подключается высшая нервная деятельность и начинает их использовать. Вот, было бы интересно видеть такую же программку, как была представлена по ссылке, но чтобы она обучилась сама просто за счет демонстрации образов и сформирвоала на верхнем слое своих нейронов готовые результаты распознавания: при показе того или иного входного образа вспыхивал тот или иной нейрон. А затем мы бы просто поставили в соответствие возбуждающийся нейрон и образ, уже после самостоятельного обучения.

29.07.2011г. 10:35:16
 
  nan список всех сообщенийИмеет права полного администратора сайта - админ Качества nan, оцененные другими пользователями Оценок: 39 Род: Мужской Сообщений: 11316 E-Mail  Сообщение № 8459 показать
ответ -только после авторизации

Вот новая версия демо формирования распознавателя первичных зон: http://scorcher.ru/neuro/app/app0.php



31.07.2011г. 10:41:12


p.s. Допускаю, что мое утверждение может быть порочно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
 
Спасибо за это сообщение! Благодарность от: Finarfin
   belerafon список всех сообщенийПишет без лимита и ограничений - unlimited Сообщений: 7  Сообщение № 8463 показать
ответ -только после авторизации

автор: nan сообщение №8459
Вот новая версия демо формирования распознавателя первичных зон: http://scorcher.ru/neuro/app/app0.php

Спасибо за ответ и программу. На мой взгляд такой подход несколько утрирован. В данном случае также можно выделить "учителя" - это показ преимущественно одного образа при формировании одного распознавателя. Это достаточно сложно представить в реальности, так как переключать слои созревания, видимо, могут только алгоритмы, заложенные в ДНК клеток, а значит этот процесс медленный (по сравнению с большой чередой объектов, которые видит реальное зрение). Поэтому можно сказать, что за время созревания одного слоя этому слою демонстрируется множество случайных образов, и в этом одном слое должны автоматически появиться распознаватели (много распознавателей). Всвязи с этим непонятен механизм, отделяющий одни образы от других и тренирующий те или иные распознаватели, находящиеся в одном слое. Сразу вспоминается нейросеть Кохонена, которая, казалось бы, и делает то, что надо: без всякого учителя выделяет на рецепторном поле различные образы и для каждого образа атоматически формирует соответствующий ему распознаватель-нейрон. Однако архитектура этой сети построена так, что она пытается всегда для одного образа сопоставить только один результирующий нейрон, а все остальные "тормозит". Таким образом, как я понимаю, бесполезно строить многослойную сеть Кохонена, так как результат распознавания будет уже готов на первом слое Кохонена. Одиночный слой сети Кохонена пытается сразу выдать результат, запомнив целиком весь образ, без разложения его на составляющие. Таким образом, для запоминания многих вариаций одного образа (сдвиг графического образа по осям, поворот) необходимо пропорциональное количество нейронов и весов в слое, где каждому нейрону будет соответствовать целиком образ в том или ином месте/повороте/размере. Далее потребуется распознаватель более верхнего уровня, чтобы понять, что это всё один и тот же ораз (уже описывалось nan в пояснениях к программе). Моя интуиция подсказывает, что подход должен быть иным. Самые нижние слои распознавателей должны не пытаться запомнить образ целиком, а разлагать его на примитивы/составляющие, чтобы затем более верхние слои делали тоже самое, но с более структурированными данными, потом еще более... И в итоге появившийся на самом верху распознаватель "это квадрат" будет в некотором роде инвариантен для перемещения такого квадрата по рецепторному полю или его деформации, так как будет основан не на попиксельном запоминании образа квадрата, а на работе распознователей линий, прямых углов и замкнутости контура. Но как заставить послойно созревать сеть, чтобы на нижних слоях формировались именно такие примитивы характеристик образа, а не он сам целиком, да еще причем без учителя... Для меня загадка

31.07.2011г. 12:52:09
 
  sergish список всех сообщенийПишет без лимита и ограничений - unlimited Качества sergish, оцененные другими пользователями Оценок: 6 Род: Мужской Сообщений: 1482  Сообщение № 8464 показать
ответ -только после авторизации





31.07.2011г. 13:14:14
 
  Finarfin список всех сообщенийПишет без лимита и ограничений - unlimited Качества Finarfin, оцененные другими пользователями Оценок: 2 Род: Мужской Сообщений: 388 ICQ: geratewart@jabber.ru  Сообщение № 8465 показать
ответ -только после авторизации

автор: sergish сообщение 8448

Ты уверен, что "так не происходит"? Вроде есть веские основания считать, что именно так и происходит:

Кажется, ты не совсем понял вопрос. У nan`а написано что связь образуется между синхронно активными нейронами, а я подмумал что неплохо бы образовывать связь и между нейронами активными в противофазе. Здесь речь о низкоуровневом образовании связей в первичных зонах, а ты пишешь уже на системном уровне.

автор: nan сообщение №8450

С точки зрения формирования слоев актуальных (а не всевозможных) распознавателей (в том числе предопределяемых наследственно) нужно не заготавливать бесконечные поля всех возможных из них, а лишь те, что соответствуют профилям реально появляющихся в восприятии в момент созревания данного слоя распознавателей. Если этого не будет, то и не будет уже никогда. И тогда единственная корреляция - это повторяемость узора признаков в данном акте восприятия и чем больше повторяющихся совпадений, тем сильнее связь, а что перекрывается, то становится фоном и гасится взаимным торможением. Вырисовывается и запоминается только воспроизводящееся в распознавателе данного примитива. Это и есть принцип контрастирования.

Nan, то есть для идентификации учитывается только повторяющийся рисунок "наличия" возбуждения, без учета характерного сочетания наличия и отсутствия? У меня еще такая мысль. Ты говоришь что связь образуется между нейронами, которые оказываются синхронно активны. Однако если процесс образования связи инерционный – не будет ли связь образовываться между двумя нейронами, активными не точно в фазу, а в разные моменты времени? И не сможет ли эта связь стать впоследствии тормозящей если окажется что активность одного нейрона для большинства воспринимаемых "рисунков" исключает активность другого?

автор: nan сообщение №8450

Во-вторых, нейропептидная метка обозначает область вокруг данной активности и там крепнут связи в-третьих только специфичные к определенному типу нейромедиатора.

ОК. Допустим. В математическом описании это чему эквивалентно? Что усиливаются не все связи в этой области а те которые

  • были активны, и с точки зрения лимбической системы предположительно привели к поведению, повлекшему положительный/отрицательный результат и остаются активными еще в течение получаса
  • специфичны к определенному нейромедиатору

Как эта специфичность влияет? Лимбическая система же "не знает" специфичные к какому нейроедаитору связи сработали. То есть не понятно, даёт ли эта специфичность отдельных связей к разным неромедиаторам возможность настройки каких-то функционально различных связей в зависимости от ситуации или нет.

автор: nan сообщение №8450

в реальной нейросети они все образуются примерно на максимуме и регулировка идет за счет дополнительных возбуждающих или тормозных синапсов в каждом акте корректировки, т.е. количеством связей.

дополнительных синапсов между парой нейронов, или...? Если между парой то это эквивалентно изменению весового коэффициента. Или не эквивалентно из-за наличия каких-то механизмов которых я не знаю?

автор: nan сообщение №8450

Т.е. если реверберирует некий профиль возбуждения, то подкрепляются те связи, которые ранее в такой конфигурации не были установленными так, чтобы впредь и без положительной обратной связи образ оказался возбужденным в том же профиле при активации входных признаков.

Осталось непонятным как биохимические процессы делают именно так чтобы получить такой результат, и на какие метки они опираются и как определяют какие весовые коэффициенты юстировать в какую сторону и насколько.

Вот это утверждение

>подкрепляются ... так, чтобы впредь и без положительной обратной связи образ оказался возбужденным в том же профиле при активации входных признаков.

мне кажется можно и нужно проверить на матмодели – а именно: действительно ли при определенном алгоритме коррекции весов связей выбираемых по сочетанию активности и т.п., при следующем предъявлении такой же ситуации будет наблюдаться активность которая в прошлый раз была навязана внешними воздействиями (здесь сознание можно заменить жестким алгоритмом, и подкрепление, будто такая активность желательна тоже задать искуственно), уже без этого внешнего воздествия сознания.

Только уточню одну вещь.

>чтобы впредь и без положительной обратной связи

положительная обратная связь связана с участием сознания?

автор: belerafon сообщение №8453

Поэтому все вычисление корреляции сведется к тому, что связь между нейронами в одинаковом состоянии возбуждения надо укреплять, а в разном - ослаблять (или менять на тормозящую)

Или создавать тормозящую.

автор: belerafon сообщение №8453

Поэтому, видимо, нужно оставить только кусок алгоритма, усиливающий связи между нейронами только тогда, когда они активны.

Создавать при характерной активности в противофазе тормозящую и при активности в фазу – возбуждающую связь, а при отсутствии активности – никакой не создавать. Всё верно.

автор: belerafon сообщение №8453

Это как раз распознаватель с учителем!

Нет. Как раз без учителя. Распознаватель схватывает первый образ который он вообще увидел. Что-то вроде импринтинга, но на более низком уровне. Учиться он только на предъявлении первого образа, при предъявлении следующих он уже выдаёт результат распознавания, ты больше не говришь ему правильно или нет, это он (распознаватель) говорит что это непохоже на первым воспринятый образ. Nan, подтверждаешь? Я на 99% уверен что да, это именно пример обучения без учителя и ты подтвердишь.

P.S. да, новая программа, учитывающая частоту предъявления – совершеннее и лучше иллюстрирует принцип.

автор: belerafon сообщение №8463

В данном случае также можно выделить "учителя" - это показ преимущественно одного образа при формировании одного распознавателя.

Ну разве что метафизически-абстрактно можно выделить учителя :)

С тем что жизнь или среда – "учитель" всех живых существ никто и спорить наверное не будет, это и так понятно. Дихотомия методов обучения с учителем и без учителя задается иным образом – через участие или не-участие лимбической системы и эмоциональных оценок в процессе обучения.

автор: belerafon сообщение №8463

Однако архитектура этой сети построена так, что она пытается всегда для одного образа сопоставить только один результирующий нейрон, а все остальные "тормозит".

Кстати, nan, нейроны-вставки не тоже самое делают?

автор: belerafon сообщение №8463

Но как заставить послойно созревать сеть, чтобы на нижних слоях формировались именно такие примитивы характеристик образа, а не он сам целиком, да еще причем без учителя... Для меня загадка

Самые низкоуровневые распознаватели по-любому не могут схватывать образ целиком, потому что в какой-то обширной области распознавателей доступны только часть пикселей, а не вся картинка, просто из-за топологии захода нервных окончаний зрительного нерва в мозг.



31.07.2011г. 14:07:00
 
  nan список всех сообщений История редактирования (1)
Имеет права полного администратора сайта - админ Качества nan, оцененные другими пользователями Оценок: 39 Род: Мужской Сообщений: 11316 E-Mail  Сообщение № 8468 показать
ответ -только после авторизации

>>такой подход несколько утрирован

Безусловно, утрирован. Эта модель используется в статье Алгоритмы сознания 2 для иллюстрации главного, что достигается: получение наиболее актуальных для данной особи и ее окружения наборов примитивов, которые будут использованы как рецепция корректируемых сознанием распознавателей. В данном примере важно не моделировать био-реализацию, а 1. показать алгоритмизириуемый способ образования актуальных примитивов 2. вообще показать принцип действия распознавателя. И для особенностей реализации можно использовать наиболее удобный и эффективный алгоритм, выполняющий задачу подготовки примитивов.

>>переключать слои созревания, видимо, могут только алгоритмы, заложенные в ДНК клеток

С одной стороны, - да: каждый последующий слой - эволюционно обусловлен и должен следовать общему принципу экспрессии и т.п. Но, возможно, что специального гена на каждый слой и не существует (я не знаю таких тонкостей). Чисто же функционально, из всей совокупности мне известных данных вырисовывается следующая картина (давно, впрочем, уже описанная в статьях).

Когда есть предшествующие рецепторы и они проявляют активность во время восприятия, то к источникам ближайшей активности от последующего слоя нейронов начинают ветвится дендриты (это вообще - общий принцип). После чего появляется возможность установления связи по общему условию ее возникновения. Когда таким образом сформируется слой примитивов, то он уже начнет провялть активность в качестве рецепторного для последующего. И т.п.

>>за время созревания одного слоя этому слою демонстрируется множество случайных образов, и в этом одном слое должны автоматически появиться распознаватели (много распознавателей).

Здесь картина дополняется тем, что пока у созревшего нейрона нет связей, он проявляет пейсмеккерную активность, что и создает условия для фиксации связей с теми из предшествующих рецепторных нейронов, который в то же время проявили активность. Не могу сказать насколько продолжителен этот момент, и, конечно, за это время профиль активности рецепторов может несколько меняться (насколько это критично и как образуется наиболее общее - предлагается посмотреть в модельке). Допускаю, что есть некоторые механизмы, например, 1. поддерживающих возникшую активность связки предшественников и нового нейрона даже после исчезновения стимула, 2. тормозящие соседние мешающие образы, 3. следовые последействия ухудшающие условия образования новых сочетаний и т.п. [284] Главное, что для целей алгоритмической прикидки в конкретной реализации можно осуществить наиболее удобные поддерживающие механизмы.

 

>>Как эта специфичность влияет? Лимбическая система же "не знает" специфичные к какому нейроедаитору связи сработали.

Наоборот: сначала активность эмоционального контекста и уже в нем - формирование связей, характерных для него. И тогда для каждого стиля поведения формируется характерный опыт, мало зависящий от опыта в других эмоциональных контекстах.

>>Если между парой то это эквивалентно изменению весового коэффициента.

по действию да, эквивалентно.

>>Нет. Как раз без учителя... Nan, подтверждаешь?... новая программа, учитывающая частоту предъявления – совершеннее и лучше иллюстрирует принцип.

Ты давал ссылку на другую модель, которую я не переделывал (хотя там есть что улучшить). В статье про алгоритмы использованы две модели: для автообразования примитивов и обучение с учителем.



04.08.2011г. 9:05:49


p.s. Допускаю, что мое утверждение может быть порочно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
 
  Finarfin список всех сообщенийПишет без лимита и ограничений - unlimited Качества Finarfin, оцененные другими пользователями Оценок: 2 Род: Мужской Сообщений: 388 ICQ: geratewart@jabber.ru  Сообщение № 8470 показать
ответ -только после авторизации

 

>>Как эта специфичность влияет? Лимбическая система же "не знает" специфичные к какому нейроедаитору связи сработали. 

>Наоборот: сначала активность эмоционального контекста и уже в нем - формирование связей, характерных для него. И тогда для каждого стиля поведения формируется характерный опыт, мало зависящий от опыта в других эмоциональных контекстах.

Схема у тебя вырисовывается такая: один стиль – один эмоциональный контекст – один тип нейромедиатора. Стили – это, я так понимаю – бежать, прятаться, биться и т.п., а эмоциональные контексты это то что вызывает один из стилей

>Ты давал ссылку на другую модель

Тем не менее она тоже демонстрирует обучение без учителя, о чем и было сказано belerafon'у



31.07.2011г. 17:41:10
 
  nan список всех сообщенийИмеет права полного администратора сайта - админ Качества nan, оцененные другими пользователями Оценок: 39 Род: Мужской Сообщений: 11316 E-Mail  Сообщение № 8478 показать
ответ -только после авторизации

Улучшил функциональность и приближенность к реальности модели обучения с учителем. Ввел туда выделение нового и модификацию связей только новых признаков восприятия. Оценку значимости, конечно же, дает игрок - учитель. И, конечно же, опять все утрировано, т.к. обучение с учителем - это использование механизма сознания и системы значимости, а это все используется от игрока :)



02.08.2011г. 10:11:03


p.s. Допускаю, что мое утверждение может быть порочно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
 
Страницы: 1 2 3 4 5 6 ВСЕ 

Войти под своим ником или зарегистрироваться- авторизация

! Сообщение пропало?! посмотреть причины...

Написать простое сообщение (только текст)

Написать сообщение полноценным редактором



Последняя активность на сайте >>


Яндекс.Метрика