Ознакомьтесь с Условиями пребывания на сайте Форнит Игнорирование означет безусловное согласие. СОГЛАСЕН
ВХОД
 
 
Короткий адрес страницы: fornit.ru/43680
Вернуться к исходному документу
Обсуждение Контексты
Страницы: 1 2 3 4 ВСЕ 
   Palarm список всех сообщенийИмеет права полного администратора сайта - админ Качества Palarm, оцененные другими пользователями Оценок: 6 Род: Мужской Сообщений: 2761  Сообщение № 16218 показать
ответ -только после авторизации

Получается, что гомеостатическая значимость это просто еще одно доп. условие IF... ELSE в алгоритме. Нейроны просто активируются внешними и внутренними рецепторами, или просто рецепторами, которые условно разделены на внешние и внутренние. Это не адаптационная схема, а обычная классическая блок-схема жесткого алгоритма. Адаптация как я пониманию означает появление нового ветвления, что означает образование новых связей. Причем связи должны устанавливаться по какому то общему принципу, чтобы это получалось "само собой" - тогда можно говорить о "развертывании" схемы, автоматической адаптации под новые условия путем наращивания новых слоев. Продемонстрировать такое пока еще конструктор не позволяет, потому как нужно сделать в сценарии возможность появления нового нейрона и автоматической установки нужных связей по тому же принципу, как происходит обучение в первичных зонах.

То есть я думаю, что такие схемы как эта в текущем представлении малоинформативны и могут ввести в заблуждение, типа есть внешние рецепторы, есть внутренние - комбинации их воздействия определяет конечную рефлексию. Если тут есть какая то адаптация, то только путем случайных мутаций. А вот чтобы показать, что схема способна разворачиваться в ответ на новый стимул - придется прикручивать к конструктору модуль самообучения.

06.09.2020г. 8:47:45
 
  linuxoid список всех сообщенийSr. PosterРод: Мужской Сообщений: 125  Сообщение № 16219 показать
ответ -только после авторизации

автор: Palarm сообщение № 16218:
такие схемы как эта в текущем представлении малоинформативны и могут ввести в заблуждение, типа есть внешние рецепторы, есть внутренние - комбинации их воздействия определяет конечную рефлексию.

Всё-таки не понял, а каким образом такие схемы могут ввести в заблуждение?

 

Надо помнить о границах применимости схемы: она не демострирует возникновение новых вариантов поведения, а только лишь показывает уже сформировавшиеся реакции. Готовые безусловные и условные рефлексы -- это же по сути жёстко зашитые алгоритмы для конкретных условий, верно? И второе: схема будет понимаема теми, кто уже разобрался с организацией контекстов и теперь попробует сопоставить своё понимание с этой схемой, попытается сделать свою или высказать замечания, задать вопросы. Разумеется, если показать её нейрофизиологу, он скажет, что эта модель не имеет ничего общего с природной нейросетью, поскольку не подготовлен для понимания.

 

Я считаю, что в указанных граничных условиях схема верно демонстрирует принцип и не вводит в заблуждение.



06.09.2020г. 11:39:37
 
   Palarm список всех сообщенийИмеет права полного администратора сайта - админ Качества Palarm, оцененные другими пользователями Оценок: 6 Род: Мужской Сообщений: 2761  Сообщение № 16220 показать
ответ -только после авторизации

автор: linuxoid сообщение № 16219:
Разумеется, если показать её нейрофизиологу, он скажет, что эта модель не имеет ничего общего с природной нейросетью, поскольку не подготовлен для понимания.

Это я и имею в виду. Там многое умолчательно подразумевается. Например, детектор нового - это вообще новый нейрон, или старый, добавляющий новые связи? Аналогично с тормозными нейронами. Почему связи протягиваются строго определенным образом? Как определяется удачность/не удачность действия?

Я не говорю, что схема не правильна. Просто пытаюсь понять, как ее создавать в виде разворачивающейся адаптационной схемы. То есть буквально так, как возникает и формируется природная нейросеть.Иначе не получится создать действительно способную к адаптации нейросеть. Ее проектирование должно делаться в виде последовательного создания и обучения слоев. Например:

1. Создается слой первичных рецепторов, рецепторов гомеостаза и слой нейронов первого уровня

2. Запускается режим самообучения. Протягиваются связи, устанавливаются веса. Нейроны слоя разбивают объекты на рецепторном поле на примитивы.

3. Создается второй слой, включается режим самообучения. Нейроны второго слоя группируют примитивы первого.

4. Создается слой на втором уровне, включается его обучение. Протягиваются связи от слоев первого и рецепторов гомеостаза, возникает уточняющий контекст реагирования.

5. Создается слой конечных эффекторов, например моторных нейронов, включается режим их самообучения - и протягиваются связи к ним со второго уровня.

Это самая простая модель. Далее запуская п.4, то есть создавая там новые нейроны и включая их самообучение - мы и получаем простейшую самоадаптирующуюся нейросеть. В ней есть прослойка постоянно возникающих основных и тормозных нейронов, которая реагируя на новый рецепторный рисунок выстраивает новый вариант реагирования.



06.09.2020г. 13:42:35
 
  linuxoid список всех сообщенийSr. PosterРод: Мужской Сообщений: 125  Сообщение № 16221 показать
ответ -только после авторизации

Не совсем понимаю твою идею: самообучение должно быть зашитым в сценарии (тогда это будет просто анимация), или надо сделать так, чтобы пользователь и сам мог обучить нейросеть любой конфигурации? По-моему, для того, чтобы нейросеть была самоадаптирующейся, надо использовать второй вариант, и тогда пользователь или сценарий будут выполнять роль окружающей среды, воздействующей на нейросеть.

 

Что-то мне подсказывает, что для предложенного тобой функционала потребуется этот конструктор переделывать с нуля, то есть это будет что-то совсем другое. А по ресурсам сервера и клиента? Если только ветвление дендритов учитывать, это наверняка уже огромная нагрузка.



06.09.2020г. 14:12:19
 
   Palarm список всех сообщенийИмеет права полного администратора сайта - админ Качества Palarm, оцененные другими пользователями Оценок: 6 Род: Мужской Сообщений: 2761  Сообщение № 16222 показать
ответ -только после авторизации

автор: linuxoid сообщение № 16221:
пользователь или сценарий будут выполнять роль окружающей среды

Именно так

автор: linuxoid сообщение № 16221:
Что-то мне подсказывает, что для предложенного тобой функционала потребуется этот конструктор переделывать с нуля,

Собственно самообучение означает, что ты не протягиваешь связи вручную и не ставишь веса - это происходит автоматически в режиме самообучения. Эффектор будет устанавливать связи с ближайшими активными рецепторами, вес связи будет зависеть от длительности активации рецептора и времени созревания эффектора. Логика связей будет зависеть от типа рецепторной активности: статической или динамической, то есть одна большая выдержка или последовательные небольшие, в режиме мультипликации.

 

В итоге обучение будет состоять из однотипных действий: создал новый слой нейронов, запустил раздражение рецепторов, включил режим самообучения. Параметрами будут: время созревания, глубина связей (между сколькими слоями), тип рисунка (динамический или статический), скорость активации рисунков.

 

С нуля не надо переделывать. Это уже делалось в более простом исполнении. Только сначала надо определиться с базовыми положениями. Например: связи протягивать к ближайшему активному рецептору или просто к активным или просто во все стороны пока не будет случайного пересечения (в обобщении про колонки говорится что так тянутся 75% связей).



06.09.2020г. 15:14:22
 
  nan список всех сообщенийИмеет права полного администратора сайта - админ Качества nan, оцененные другими пользователями Оценок: 39 Род: Мужской Сообщений: 12231 E-Mail  Сообщение № 16223 показать
ответ -только после авторизации

Функциональность детекторов нового в связке со значимостью для меня убедительно очевидна и многократно верифицирована. Вот это – главное.

Как именно это возникло в природе – вопрос, конечно, интересный, но не принципиальный. Важно показать, как это можно реализовать схемотехнически, и вовсе не повторяя природу.

И, все же, ясно, что в природе нет единой по замыслу структуры нейросети, из которой бы универсально и естественно возникало все. Есть древний уровень наследственных находок, где возможны любые чудесные сочетания. Есть уровень новой коры с единой и универсальной структурой формирующихся индивидуально распознавателей. Но и в этом случае мутации на переднем крае бурления видовых вариаций не отменяется. Т.к. детекторы нового локализованы в районе гиппокампа, т.е. вне универсума новой коры, то остается предположить, что при развитии третичных (ассоциативных) зон мутации дали и такие новообразования, обслуживающие третичные зоны, что для каждого образуемого контекста дополнительно образовывались структуры, способные сравнивать активность выходов на программы действия и активность на их входа. Если оказывается, что активность на входах не приводит к активности на выходе, а входные признаки в данном контексте имеют высокую значимость, то детекция такого состояния оказывается чрезвычайно полезной и дает преимущество не наступать на грабли много раз.

Было бы очень полезно показать наглядно, как именно модулируются (перемножается) значимость новизной с пропорциональным сигналом на выходе. Конструктор оказался не очень-то для этого приспособленным или у меня пока не хватает хорошей идеи чтобы сделать такую модель. Вот в природе есть модуляторные нейроны, а в конструкторе добавление активирующих потенциалов грубо-дискретно.

Еще круче было бы показать на модели, как конкурирует актуальность (величина произведения новизны на значимость) за канал осознанного внимания, т.е. показать несколько разных контекстов в параллельное восприятие и их конкуренцию.

Это трудно, если вообще возможно сделать на данном конструкторе…

Если вам интересно попробовать, то коллективные попытки должны, в принципе, дать больше, чем одиночные :) А в случае пусть и не хорошей модели, а просто идей для сопоставлений, можно будет обобщить результаты в коллективной статье.



06.09.2020г. 17:09:39


p.s. Допускаю, что мое утверждение может быть неверно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
 
  linuxoid список всех сообщенийSr. PosterРод: Мужской Сообщений: 125  Сообщение № 16224 показать
ответ -только после авторизации

автор: nan сообщение № 16223:
Было бы очень полезно показать наглядно, как именно модулируются (перемножается) значимость новизной с пропорциональным сигналом на выходе.

Прочитал статьи на википедии -- всё равно не понял модуляцию. Вроде и анимация там наглядная есть, где показаны АМ и FM, но как это увязать с модулирующими нейронами -- совершенно неясно. Тем более, что я даже не дошёл до темы новизны-значимости в лекциях, и хотя в "Познай себя" и был прояснён механизм ориентировочного рефлекса, я здесь плаваю и понимаю очень поверхностно. Могу работать только в тех областях, которые я уже хорошо освоил, например, регистры сдвига и контексты значимости. В условных рефлексах тоже более-менее ориентируюсь.



06.09.2020г. 17:48:29
 
  nan список всех сообщенийИмеет права полного администратора сайта - админ Качества nan, оцененные другими пользователями Оценок: 39 Род: Мужской Сообщений: 12231 E-Mail  Сообщение № 16225 показать
ответ -только после авторизации

автор: linuxoid сообщение № 16224:

не понял модуляцию

Если взять транзистор, который ты уже освоил: В эмиттере резистор 1000ом, в коллекторе тоже 1000км т.е. он будет без усиления передавать сигнал на базе (только инвертирует его). Если подать сигнал на эммитер, то он так же передастся 1:1 (уже без инверсии).

Но теперь на коллекторе сигнал будет равен произведению сигнала на базе и сигнала на эмиттере, т.е. сигнал на эмиттере модулирует сигнал базы.

 

автор: Palarm сообщение № 16218:

Получается, что гомеостатическая значимость это просто еще одно доп. условие IF... ELSE в алгоритме.

Нет, хотя в модели можно так подумать. Контексты в программной реализации были бы вложенными (наследуемыми) классами: сначала базовый (страх, ярость, поиск), в каждом из базовые есть подклассы (в страхе: страх темноты, страх драки, страх отравиться ….), в каждом из подклассов – свои подклассы и т.д. по мере все большего опыта – все больше детализации.

В схемотехнике контексты – так же имеют иерархию зависимости: если выключить базовый признак Страх, то все подцепи тоже выклюяены.

В иллюстрации организации памяти это показано.

Вот если бы и ИИ игрушек использовали не ifelseи switch, а иерархию классов, то не путались бы с любой сложностью зависимостей.



06.09.2020г. 19:00:07


p.s. Допускаю, что мое утверждение может быть неверно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
 
   Palarm список всех сообщенийИмеет права полного администратора сайта - админ Качества Palarm, оцененные другими пользователями Оценок: 6 Род: Мужской Сообщений: 2761  Сообщение № 16226 показать
ответ -только после авторизации

автор: nan сообщение № 16223:
Это трудно, если вообще возможно сделать на данном конструкторе

У тебя реализован графический редактор. Но схемы можно составлять в виде формул, описывающих цепочки связей элементов:

 

E1=0.3R1+0.3R2-0.2Т1

E2=0.2R3+0.2R4-0.2Т2

Т1=0.2Е2

Т2=0.2Е1

 

Объявляются активности внешних рецепторов:

R1=1, R2=1, R3=0, R4=0

 

Рассчитываются веса с учетом порога 0,5. При превышении суммарным весом порога эффектор и тормозной нейрон активируются и вместо них подставляется 1, при суммарном весе ниже порога подставляется 0:

E1=0.3*1+0.3*1-0.2Т1=0.6-0.2Т1

E2=0.2*0+0.2*0-0.2Т2=-0.2Т2

Т1=0.2*0=0

E1=0.6-0.2Т1=0.6

 Т2=0.2*1=0.2=0

E2=-0.2*0=0

 

То есть те же алгоритмы расчета перевести для работы со строковой записью схем, и тогда можно будет делать умножение и если надо то и деление весов эффекторов.

 

E1=0.3R1+0.3R2-0.2Т1 - здесь показаны элементы связанные с эффектором Е1.

0.3R1 - возбуждающая связь от рецептора R1 с весом 0,3

-0.2Т1 - тормозящая связь от тормозного нейрона Т1 с весом 0,2



07.09.2020г. 3:36:38
 
  linuxoid список всех сообщенийSr. PosterРод: Мужской Сообщений: 125  Сообщение № 16227 показать
ответ -только после авторизации

автор: nan сообщение № 16225:
Но теперь на коллекторе сигнал будет равен произведению сигнала на базе и сигнала на эмиттере, т.е. сигнал на эмиттере модулирует сигнал базы.

В принципе я разобрался с тем, как это будет выглядеть на транзисторе, однако как вычислить теперь напряжение на коллекторе? Если Uк = Uэ * Uб, то при Uэ=0 относительно земли Uк также будет равно нулю вне зависимости от тока на базе, а такого быть не должно: должен быть инвертированный сигнал базы. Например, пусть резисторы равны, коэффициент усиления 1, на эмиттере 0 (на коллекторе, наверное, может быть любое значение?). Подаём на базу 1 В при отсечке 0,5 В -- на выходе должно быть -0,5 В (если у нас npn-транзистор). Значит, умножение выполняется не так или я где-то ошибся?



06.09.2020г. 20:47:51
 
Страницы: 1 2 3 4 ВСЕ 

Чтобы оставлять сообщеня нужно аворизоваться.

! Сообщение пропало?! посмотреть причины...

Написать простое сообщение (только текст)

Написать сообщение полноценным редактором



Последняя активность на сайте >>