Книги сайта: «Мировоззрение», «Познай себя», «Основы адаптологии»,
«Вне привычного», Лекторий МВАП и «Что такое Я».
 
Привет! Правила | Свежее | Чат | Подписка
Чтобы оставлять сообщения нужно авторизоваться.
Авторизация пользователя
Регистрация нового пользователя

Тема форума: «Эксклюзивные занятия по МВАП: Первые управляющие структуры организмов на основе распознавателя.»

Сообщений: 135 Просмотров: 3844 | Вся тема для печати


Страницы: 1 2 3 4 5 6 7 8 9
 
nan
Имеет права полного администратора сайта - админ

Род: Мужской
Сообщений: 11488


E-Mail
личная фото-галерея
Оценок: 39
список всех сообщений
clons
Сообщение № 46428 показать отдельно Январь 06, 2020, 02:09:14 PM
ответ -только после авторизации

что-то не подтвердилось, скопировал в Liniya_222 и завершил там обучение второго слоя. Может сказать последовательность действий, приводящую к глюку?



p.s. Допускаю, что мое утверждение может быть порочно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
Метка админа:

 
Palarm
Пишет без ограничений, редактирует историю - unlimited

Род: Мужской
Сообщений: 2222

личная фото-галерея
Оценок: 6
список всех сообщений
clons
автор: temnaya loshadka сообщение № 46427:
А здесь как?

надо оба примитива показать на матрице, то есть исходную прямую - тогда на первом слое одновременно будут активны два детектора которые соберутся в кучу на втором слое.

Вообще, тебе надо было нарисовать одну большую линию, которая разобьется на более простые составляющие на первом слое. То есть нейросеть сама должна дробить на части примитив, группировать их и "придумывать" им свойства и признаки.


Метка админа:
Спасибо за это сообщение! Благодарность от: temnaya loshadka, Клон, Айк
 
Palarm
Пишет без ограничений, редактирует историю - unlimited

Род: Мужской
Сообщений: 2222

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 46430 показать отдельно Январь 06, 2020, 04:18:01 PM
ответ -только после авторизации
автор: nan сообщение № 46428:
Может сказать последовательность действий, приводящую к глюку?

Untitled_Project.rar


Метка админа:

 
nan
Имеет права полного администратора сайта - админ

Род: Мужской
Сообщений: 11488


E-Mail
личная фото-галерея
Оценок: 39
список всех сообщений
clons
Сообщение № 46431 показать отдельно Январь 06, 2020, 04:50:50 PM
ответ -только после авторизации

Не заметил, что речь идет о копировании образов, сорри, исправил.



p.s. Допускаю, что мое утверждение может быть порочно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
Метка админа:

 
temnaya loshadka
Пишет без ограничений, редактирует историю - unlimited

Сообщений: 227


Оценок: 2
список всех сообщений
clons
Сообщение № 46432 показать отдельно Январь 07, 2020, 07:54:19 AM
ответ -только после авторизации
Palarm, спасибо за новый ролик со звуком, так гораздо лучше! Только пожелание на будущее звук громче записывать.

Сеть научилась распознавать, помимо квадрата, его составляющие в виде горизонтальных отрезков, и с тем же успехом она бы определяла и составляющие его вертикальные отрезки, если бы ты дополнительно провел такое обучение, верно?

Метка админа:

 
temnaya loshadka
Пишет без ограничений, редактирует историю - unlimited

Сообщений: 227


Оценок: 2
список всех сообщений
clons
Сообщение № 46433 показать отдельно Январь 07, 2020, 08:28:32 AM
ответ -только после авторизации
автор: Palarm сообщение № 46429:
надо оба примитива показать на матрице, то есть исходную прямую - тогда на первом слое одновременно будут активны два детектора которые соберутся в кучу на втором слое.

Вот так? 

Liniya3


Метка админа:

 
temnaya loshadka
Пишет без ограничений, редактирует историю - unlimited

Сообщений: 227


Оценок: 2
список всех сообщений
clons
Сообщение № 46434 показать отдельно Январь 07, 2020, 08:31:50 AM
ответ -только после авторизации
автор: Palarm сообщение № 46429:
Вообще, тебе надо было нарисовать одну большую линию, которая разобьется на более простые составляющие на первом слое. То есть нейросеть сама должна дробить на части примитив, группировать их и "придумывать" им свойства и признаки.

Не понимаю, как она сама разобьет на составляющие, если мы задаем связи? Я нарисовала одну линию, но сама же и разбила ее на две составляющие на первом слое, путем проставления связей и группировки сенсоров, а на втором слое объединила в одну группу.


Метка админа:

 
Palarm
Пишет без ограничений, редактирует историю - unlimited

Род: Мужской
Сообщений: 2222

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 46435 показать отдельно Январь 07, 2020, 09:20:49 AM
ответ -только после авторизации
автор: temnaya loshadka сообщение № 46432:
и с тем же успехом она бы определяла и составляющие его вертикальные отрезки, если бы ты дополнительно провел такое обучение, верно?

Она "научилась" распознавать их только потому, что связи были установлены " по горизонтапи". То есть, один нейрон охватывает рецепторы 0...4, другой 3...7 и т. д. Поэтому даже если просто засветить всю матрицу, каждый из них "научится" распознавать свой участок рецепторов. С горизонтальными или наклонными примитивами сложнее при такой расстановке связей, так как там уже получится практически один нейрон на один рецептор. А вот если дополнительно сделать аналогичные связи по вертикали, под углом, чтобы один нейрон охватывал рецепторы из разных рядов то при фоновой засветке получим "разбиение" матрицы на горизонтальные, вертикальные и наклонные примитивы. И такая схема связей логически приводит к схеме шестигранник.


Метка админа:

 
Palarm
Пишет без ограничений, редактирует историю - unlimited

Род: Мужской
Сообщений: 2222

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 46436 показать отдельно Январь 07, 2020, 09:38:37 AM
ответ -только после авторизации
автор: temnaya loshadka сообщение № 46433:
Вот так?

у тебя одна линия детектируются на первом слое парой нейронов, а на втором - одним. Если обучить нейрон второго слоя распознавать только ее - то зачем вообще тогда второй слой? Можно было также свести все связи к одному нейрону на первом.

Ты сейчас ставишь связи вручную - это не  есть самообучение, так как ты задаешь сети сразу нужную связь которая закономерно при включении режима самообучения нарастит веса до порога срабатывания. А надо, чтобы матрица просто имела изначально универсальную решетку - и тогда при проецировании на нее примитива и активации самообучения произойдет именно самообучение, ведь ты ничего не рисовала и не устанавливала, а просто "показывала" ей примитив. Вопрос в том, какая решетка связей в таком случае наиболее универсальна, в смысле позволяет например при экспозиции на матрице квадрата самообучаться распознавать его пары вертикальных и горизонтальных примитивов? А при экспозиции звезды еще и наклонные линии? Я думаю, что шестигранник, где нейрон в центре как паук охватывает сразу все рецепторы вокруг себя до каких может дотянуться, тем самым он способен специализироваться к фрагментам горизонтальных, вертикальных и наклонных примитивов.

 

То есть ты сейчас прописываешь связи вручную. Но лучше будет выбрать одну из заготовок (s1...s3) нарисовать примитив, запустить самообучение и смотреть что получится. Надо экспериментировать с одним из вариантов решеток связей (s1...s3), а не рисовать связи вручную и тем более не проставляя вручную веса. Иначе это не будет самообучением нейросети, а простым ее проектированием.


Метка админа:

 
Palarm
Пишет без ограничений, редактирует историю - unlimited

Род: Мужской
Сообщений: 2222

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 46437 показать отдельно Январь 07, 2020, 09:43:43 AM
ответ -только после авторизации
автор: temnaya loshadka сообщение № 46434:
Не понимаю, как она сама разобьет на составляющие, если мы задаем связи?

так это и есть разбиение. Как ты связи создашь, так примитив и разобьется. Если сделаешь связи к трем нейронам, где каждый из них будет охватывать свою часть примитива - он и "разобьется" на 3 части. Сделаешь к одному - не разобьется, будет детектироваться одним нейроном. В реальной нейросети разбиение неизбежно потому, что один нейрон физически не может охватывать всю матрицу. Ведь в ней могут быть миллионы рецепторов, и она по сравнению с нейроном как футбольное поле и мяч.


Метка админа:

 
Palarm
Пишет без ограничений, редактирует историю - unlimited

Род: Мужской
Сообщений: 2222

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 46438 показать отдельно Январь 07, 2020, 09:47:43 AM
ответ -только после авторизации
автор: nan сообщение № 46431:
Не заметил, что речь идет о копировании образов, сорри, исправил.

Nan, я тут умничаю, а ты молчишь, никак не комментируешь. Может я все вру и ввожу народ в заблуждение? Например, мое предположение, что группировка на втором слое нейронов первого (логика ИЛИ) формирует первичные абстрактные свойства экспонируемого на матрицу примитива - оно верно и соответствует твоей концепции?


Метка админа:

 
nan
Имеет права полного администратора сайта - админ

Род: Мужской
Сообщений: 11488


E-Mail
личная фото-галерея
Оценок: 39
список всех сообщений
clons
Сообщение № 46439 показать отдельно Январь 07, 2020, 11:18:45 AM
ответ -только после авторизации
автор: Palarm сообщение № 46436:
Ты сейчас ставишь связи вручную - это не  есть самообучение, так как ты задаешь сети сразу нужную связь которая закономерно при включении режима самообучения нарастит веса до порога срабатывания. А надо, чтобы матрица просто имела изначально универсальную решетку

Тут такой момент. Связи, найденные в ходе эволюции - как раз такие как если задавать вручную. Они могут быть какими угодно, если в результате - преимущество. А самообучение - это поздняя находка эволюции с появлением новой коры мозга. Так что тут два радикально разныз метода адаптивности: 1) наследственно предопределенная - на основе опыта всего вида и 2) индивидуальная адаптивность к конкретным условиям развития особи.

автор: Palarm сообщение № 46438:
ты молчишь, никак не комментируешь

У тебя очень неплохо получается, но, конечно, есть на что обратить внимание, я не специально отстраняюсь, у меня полоса цейтнотов, сорри.

автор: Palarm сообщение № 46438:
мое предположение, что группировка на втором слое нейронов первого (логика ИЛИ) формирует первичные абстрактные свойства экспонируемого на матрицу примитива - оно верно и соответствует твоей концепции?

Тут очень много нюансов, залазим в область вторичных и третичных (контекстных) структур мозга, в принципе у тебя рассуждения очень даже здравые.



p.s. Допускаю, что мое утверждение может быть порочно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
Метка админа:
Спасибо за это сообщение! Благодарность от: Айк
 
Palarm
Пишет без ограничений, редактирует историю - unlimited

Род: Мужской
Сообщений: 2222

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 46440 показать отдельно Январь 07, 2020, 11:32:17 AM
ответ -только после авторизации
автор: nan сообщение № 46439:
А самообучение - это поздняя находка эволюции с появлением новой коры мозга

Тогда получается, имеет смысл смоделировать для начала несколько вариантов нейросети типа "модель поведения бабочки". Задавая вручную связи и веса. Примитивы на матрице - разные типы рецепторов. Например один реагирует на повышение температуры, другой на понижение, третий на свет (день), четвертый на темноту (ночь) и т. д. Соединяя их разным образом на разных слоях можно получить модель управления насекомым. А потом уже пофантазировать, как такие связи могли бы самообразоваться и закрепиться. Я думаю, тут не совсем случайный тык, а есть некоторые предопределенности.

В любом случае появилась наконец возможность для творческого экспериментирования, чтобы понимание пришло через руки. Оно не придет через размышления. Если только читать и осмысливать - в голове будет просто каша.

 

 PS:

Кстати, я потом проверил: если в примере с видео "квадрат-линия" обучать второй слой поочередной демонстрацией квадратов - там созреют  2 нейрона, которые будут детектировать  каждый свою пару горизонтальных примитивов. То есть будет то же самое, и даже лучше, если бы как в видео показывать в мультирежиме сами примитивы. А это еще ближе к реальному обучению, как в природной нейросети. И вот кто бы мог подумать, что распознавание простейших примитивов надо проводить в динамике? Ведь вроде как очевидно, что надо просто показать статические отрезки для их фиксации нейронами - они и созреют. Но как потом сгруппировать их? Только в динамике. Такая мысль стало быстро очевидной при практических экспериментах, но вряд ли до нее можно было так же легко додуматься просто размышляя. Думаю, эксперименты приведут еще к множеству неожиданных открытий.


Метка админа:
Спасибо за это сообщение! Благодарность от: Айк
 
Айк
Имеет права полного администратора сайта - админ

Сообщений: 3762
!!!
личная фото-галерея
Оценок: 4
список всех сообщений
clons
Сообщение № 46441 показать отдельно Январь 07, 2020, 02:11:35 PM
ответ -только после авторизации

>>> (Pararm) И вот кто бы мог подумать, что распознавание простейших примитивов надо проводить в динамике?

 

Я об этом писал осенью в теме о первичных зонах:

https://scorcher.ru/forum/index.php?topic=1938#msg46197

 

В первичных зонах рецептивное поле узкое, котёнок, даже если спокойно сидит, совершает микросаккадные движения глазами, голова немного, да шевелится, соответственно, перед первичной зоной экспонируется некое статистическое распределение, а не стабильный объект, который зависнет на достаточное время перед группой нейронов.

 

Спасибо тебе за инструмент. :)


Метка админа:

 
Palarm
Пишет без ограничений, редактирует историю - unlimited

Род: Мужской
Сообщений: 2222

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 46442 показать отдельно Январь 07, 2020, 03:40:16 PM
ответ -только после авторизации

Это да. Но когда просто прочитал и согласился - то тут же и забыл, потому как значимость не особо важна была. А вот когда промучился как следует и к тому же самому пришел - тогда совсем другое дело.

автор: %C0%E9%EA сообщение № 46441:
Спасибо тебе за инструмент. :)

Я лишь подтолкнул nan к его созданию, кодил то он.


Метка админа:

 
Страницы: 1 2 3 4 5 6 7 8 9
Статистика:
Всего Тем: 1898 Всего Сообщений: 46661 Всего Участников: 4853 Последний зарегистрировавшийся: Hlebson
Страница статистики форума | Список пользователей | Список анлимитов
Последняя из новостей:
Для тех, кто желает развить навыки схемотехнического мышления в игровом режиме и лучше понять работу природных нейросетей: Конструктор нейросхем.
Все новости

Если ты такой умный, то почему не богатый?
Богатейший человек мира рассказал о перевернувшем его жизнь моменте.
Все статьи журнала
Пользователи на форуме:

Из коллекции изречений:
>>показать еще...

Яндекс.Метрика