Тема форума: «Эксклюзивные занятия по МВАП: Развитие мышления по схемотехническим принципам. Распознаватели.»

Мне как-то участвовать в обсуждении? Я, вроде бы, задал простой корректный вопрос, но ответа на него не получил.

Айк, участвовать в последнем упомянутом аспекте, а не распыляться, плиз.

>>> (Palarm) Я думаю это потому, что если человек что-то пишет – он пытается что-то донести до читателя, какую-то важную для него мысль. У машины этого нет.

>>> Для машины в тексте нет никакого смысла, никакой цели – просто отформатированный набор нулей и единиц.

Машины могут руководить исследованиями и писать научно-исследовательские статьи. Текст для машин обладает содержанием. Но на вычисления нейросети не надо смотреть излишне антропоцентрично.

Чтение текстов идёт на базе идей дистрибутивной грамматики, где каждому слову ставится в соответствие математический вектор (word2vec). В детали, если ты не против, давай в этой теме не будем вникать. Но в итоге машина вполне способна оценить смысл слова, предложения, контекст статьи.

У машины формируется пространство когнитивных векторов, где каждому слову соответствует n-мерный вектор в когнитивном пространстве. Интересно, что распределение сущностей в этом пространстве оказывается более или менее одинаковым во многих популярных человеческих языках, что позволяет легко строить системы машинного перевода. Сначала мы выделяем смысл сказанного на одном языке, а потом, пользуясь тем, что у нас примерно тоже самое, но иначе размеченное, когнитивное пространство на другом языке, находим перевод слова / предложения.

Соответственно, в некотором приближении можно сказать, что уже на стадии word2vec у машин появляется некая база знаний о сущностном описании мира.

Дальше эту базу знаний можно развить. Например, научить отвечать на вопросы по корпусу текстов.

Машины так же могут участвовать в руководстве и научных исследованиях, для этого пробуют использовать "обучение с подкреплением". Одна из вариаций этой методики оказывается довольно эффективной, когда у нас нет полного знания о среде и нужно отыскать наиболее эффективную стратегию поведения в ней.

С помощью вариаций этой методики машины сейчас учатся играть в компьютерные игры, обыгрывают чемпионов в Starcraft или Go.

Всё выше написанное не означает того, что мы не сталкиваемся с проблемами. Они безусловно есть, но носят скорее инженерный, чем теоретический характер. В том смысле, что разработки принципиально новой теории машинного обучения вроде бы не требуется. Но есть масса задач в рамках текущих подходов, в том числе - требуется их теоретическое обоснование.

Айк, ты понимаешь, что ты пишешь не по теме? Ты отвлекаешь других от главного в теме.

>>> (nan) Вот где у тебя проблема: ты привносишь лишнее в принцип.

>>> (айк) Какой принцип?

Nan, ты на вопрос не ответил. Не разобрал мои ответы. Ты не то, чтобы обязан это делать. Но я не понимаю, что мне делать дальше.

>>> Айк, ты понимаешь, что ты пишешь не по теме?

Да. Я надеюсь, что офф-топа больше не будет. Palarm давай притормозим :)

Предлагаю забыть про опрометчивые вопросы и снала осмыслить два последних сообщения 1-е от Palarm, 2-е от меня про распознаватели сито. Это сейчас самое главное, тот принцип, который нужно освоить в первую очередь.

 Супер. Буду разбирать :) 

Дык я и не говорил, что второе сито тормозит первое. Имел в виду, что гранула пролетела первое сито, а второе его "затормозило". Пропускающее/тормозящее действие оказывается на полет гранулы. Чтобы задать диапазон для одного параметра, нужно 2 граничных условия: начальное и конечное. Думаю, это самоочевидно.

Думаю, самая удачная ассоциативная и легко представляемая модель распознавателя - колонка сит, расположенных по убыванию размера ячейки. Кидаем в верхнюю горсть гранул, трясем колонку - и получаем на каждом сите свою кучку гранул с размерами меньше предыдущей ячейки сита и больше той, где она застряла.

Уточню: не модель колонки распознавателя, а модель колонки распознавателей, каждый их которых предельно прост и заточен на своем параметре.

Как проявляется профиль распознавателя каждого распознавателя будем смотреть чуть позже. Сейчас важно уяснить принцип простоты и эффективности.

Я не понимаю, чего от нас хотят.

Пример с ситами, что удобно использовать несколько сит для фильтрации, очевидный, и он приведен в начале урока.

Возьмем сито с круглыми дырками определенного диаметра. Параметры среды – песчинки разного размера, цель сита – отсеять все, что мельче диаметров его дырок. Параметр распознавания один, а польза очень существенна. И, заметим опять, что сито работает только с положительными параметрами и не может отсеять более мелкие, чем дырки песчинки. Для этого понадобится вторичные процессы с более мелкими дырками. 

Задание же другое было: Попробуйте придумать, как организовать сразу распознавание с равноценным использованием как возбуждающего, так и тормозного параметра в случае классического замка.

То есть два сита нельзя использовать. Ты же этого сам потребовал.

Я тебе приводил пример с трубой и созданием разницы давлений за счет закупорки трубы объектом подходящего диаметра и последующего его всасывания, именно потому что было требование распознавать два параметра сразу.

Вот хорошо, что тебе это очевидно. А стало ли очевидным, что нельзя использовать идеальный персептрон? И почему именно не получится его использовать? Стало очевидным принцип организации колонок сходных признаков?

Одним ситом не возможно отделить конкретную фракцию, только разделить кучу на две части: с большими и меньшими относительно ячейки сита гранулами. Стало быть в колонке с "заточенными на своем параметре" фильтрами мы в реальности имеем секции с двойными ситами, что по сути масло-масляное - какая разница, разнесем мы сита равномерно или по парам.

По поводу сит я понял так: парой сит мы можем отделить конкретный диапазон размеров, а колонкой из сит - получить сразу группу диапазонов, как призмой разом разложить всю кучу на фракции. В этом думаю интересный прикол. Допустим, надо определить коллекцию примитива наклонных линий. Берем палку и начинаем ее вращать перед глазом. И вот если расположить датчики колонкой, где каждый распознает не точный угол наклона, а только угол меньший какого-то - то и получим через некоторое время экспозиции коллекцию распознавателей, как бы раскадровку динамики вращения примитива. И более того, они будут расположены по порядку вращения (если вращение было постоянно в одном направлении во время экспозиции). То есть мы как бы бонусом получим распознаватель направления вращения примитива, да и вообще движения, если просто по умолчанию свяжем активацию полученных примитивов последовательно друг за другом как признак например правого вращения.

Получается что расположение "не точных" распознавателей колонкой позволяет пропуская через всю ее сигнал получать его разложение на составляющие. То есть получив выходной сигнал от датчика, определившего раздражитель как "прямая линия" и пропустив его через такую колонку, мы получим, что на каком то этаже она среагирует и выдаст уточнение - конкретный угол наклона прямой. А если проследить за реакцией колонки за промежуток времени, например просто подцепив все ее выходы на вход доп. датчика - его срабатывание при поступлении сигналов на все входы покажет, что примитив "движется". А если мы еще поставим датчики в начало и конец цепочки колонки - то узнаем в какую сторону вращается примитив.

Но это блин совсем не то, что ты говоришь: расположенные друг за другом "заточенные на своем параметре" распознаватели. Если расположить точные распознаватели колонкой они будут работать не как детализаторы, а только как ассоциаторы (абстрагаторы или как угодно). Имхо, друг за другом располагаются слои распознавателей. Вот тут да: определили примитив прямая - на следующем слое определили уже конкретную фигуру. А вот толщины линий, их наклоны - это уже через колонки-детализаторы.

>>Одним ситом не возможно отделить конкретную фракцию, только разделить кучу на две части: с большими и меньшими относительно ячейки сита гранулами. 

Нет, конечно. Одно сито имеет граничные условия распознавания от диаметра своей дырки до нуля. Обрати внимание: каждое сито – это распознаватель такого вот широкого диапазона.

Говоря о той же колонке простейших распознавателей-сит с дырками 1,2,3,4,5,6,7,8,9 см, вроде бы понятно, что кроме собственно распознавания важдым ситом от диаметра его дырки до нуля, стало возможным формировать последующие распознаватели любых сочетаний, скажем только от 2 до 5.

Альтернатива: создание сложных (непонятно как устроенных) распознавателей для каждого такого сочетания, т.е. вместо девяти девять в квадрате.

Это как пытаться делать сразу распознаватели лица каждого конкретного человека вместо того, чтобы воспользоваться более простыми графическими примитивами для их сочетаний только в случае нужного распознавания (запоминания данного человека).

А по логике как раз нейросетевики задавали вопрос: а как это можно заранее заготовить все возможные промежуточные распознаватели, показывая, что не врубаются в принцип большей эффективности систем из- слоев усложняющихся распознавателей от самых предельно простых. Их сети со связями между слоями все со всеми просто не могут эффективно выполнить универсальную работу распознавания с очень непростым обучением. И еще (забегая вперед) у них нет связей между соседними элементами каждого слоя, а такие тормозные связи просто необходимы для контрастирования и избавления от шумов.

Я думаю, чтобы не было путаницы, надо различать детализирующие колонки, работающие как группа сит, и ассоциирующие - как группа последовательно соединенных компараторов. Иначе возникает путаница. Детализирующие колонки служат для определения суб-свойств примитивов (углы наклона, толщины, радиуса кривых), а ассоциирующие - для углубления абстрагирования (точка - линия - фигура).

если я правильно понял - то детализирующая колонка как раз влегкую позволяет сколько угодно точно заготавливать по ходу дела уточняющие параметры примитивов (угол наклона, толщину и т. п.). Если вдруг она ничего не выдает - надо просто добавить еще группу этажей, и проходящий по колонне сигнал экспонирует там новые отпечатки. Ассоциирующая колонка ведь не слой распознавателей, который должен созрев замереть в своем развитии - она может постоянно расти по мере надобности.