Тема форума: «Бот на ГО»

Вот пример логов бота при ассоциативной оценке

Оператор: зеленый кирпич
Мысль бота:
 Не понятно. [зеленый] это: цвет - камень
 Вне зоны восприятия, нет ассоциаций для: [ый]
 Не понятно. [кирпич] это: тяжелый|легкий|красный|синий
  Лог: Инстинкт №3: Начало
Бот: [зеленый кирпич] это что?
Оператор: игрушка
  Лог: Добавлен новый макросенсор: 4038
  Лог: добавлена ассоциация: 25||4038
  Лог: Добавлен новый макросенсор: 4039
  Лог: добавлена ассоциация: 26||4039
  Лог: Энергия: стало лучше на 0.1%
  Лог: Инстинкт №3: Конец
Бот: Ясно
*******************
Оператор: зеленый кирпич
Мысль бота:
 Не понятно. [зеленый] это: цвет - камень
 Вне зоны восприятия, нет ассоциаций для: [ый]
 Не понятно. [кирпич] это: тяжелый|легкий|красный|синий
  Лог: Инстинкт №3: Начало
Бот: [зеленый кирпич] это что?
Оператор: кирпич
  Лог: Добавлен новый макросенсор: 4038
  Лог: добавлена ассоциация: 25||4038
  Лог: Энергия: стало лучше на 0.1%
  Лог: Инстинкт №3: Конец
Бот: Ясно
*****************
Оператор: красный кирпич
  Лог: Энергия: стало хуже на 2.9%
Мысль бота:
 красный = кирпич
 Вне зоны восприятия, нет ассоциаций для: [ый]
******************* 
Оператор: красный
Мысль бота:
 Вне зоны восприятия, нет ассоциаций для: [ый]
 Не понятно. [красный] это: цвет - камень, цвет - кирпич
Оператор: кирпич
  Лог: Энергия: стало хуже на 3.0%
Мысль бота:
 красный = кирпич
 Вне зоны восприятия, нет ассоциаций для: [ый]

В первой паре показаны два варианта построения нового ветвления на фразу "зеленый кирпич". У бота прописано свойство кирпича "цвет" как "красный/синий", потому возникает затуп. На который возможны два варианта решения:

1. у кирпича появляется новое свойство "цвет - зеленый"
2. формируется новый объект: "зеленый кирпич = игрушка"

Если оператор ответит "кирпич" - будет 1 вариант, если "игрушка" - второй.

В третьем фрагменте смысл фразы определен, поэтому бот пишет: красный = кирпич. В последнем фрагменте оператор пишет тоже самое, но в двух последовательных сообщениях. Я добавил боту запись стэка нерешенных проблем (до 10, удаляя старые), и кол-во ожиданий ответа (2). Чтобы прежде чем паниковать и спрашивать, подождать пару сообщений оператора - может там будет решение. Еще думаю добавить обработку типа: "красный синий кирпич". Тут получается два свойства одного диапазона, что запрещено правилами логики. И бот должен спросить, какое свойство вставить между "красным" и "синим" в диапазон. И может даже предложить свой вариант, просто объединив два слова в одно: "красно-синий".

Смысловая (ассоциативная) оценка фраз делается исходя из свойств дерева ассоциаций, узлы которого двух видов:

• объект - макросенсор при номере сортировки Sort==0
• свойство - диапазон макросенсоров при номере сортировки Sort>0

Такой подход означает имитацию сенсорного восприятия через органы чувств - ассоциации первого уровня. "Кирпич" сам по себе не ощущаем, а "красный" сам по себе не понимаем - только в связке объект + свойство. Если у родителя "кирпич" нет потомков-свойств, это значит, что он никак не воспринимается органами чувств, а если свойства есть, но во фразе не указано, то возникает многозначность понимания: что кирпич? какой кирпич? для чего кирпич? и т.д. Еще планирую создать новую "фазу сна", где бот будет блуждать по дереву, убирая явные смысловые глюки, согласно правилам логики.

И тут пришло в голову: если это организовать при помощи тех же процедур в виде вопрос-ответ, только вопрос будет формулировать сам бот, то получится разговор с самим собой - что собственно и есть мышление. А если во время таких внутренних монологов оператор вставит свои реплики - то получим его прерывания с переключением на реальный диалог - моменты осознания. В итоге эффект гомункулуса - это просто модулирование внешними раздражителями ветвлений мыслительных автоматизмов через прерывания на осознание. В голове постоянно стоит гул нерешенных проблем, и какой то внешний раздражитель в определенный момент оказывается стимулом для очередного ветвления, которое приводит к решению проблемы. Например бот ломает голову, споткнувшись на каком то ветвлении на слове "красный": что красный, чего красное, почему красный? И тут оператор пишет: "кирпич". И у бота возникает осознание и просветвление: "а блин, так это кирпич!" При этом оператор может "кирпич" имел совсем в другом смысле, чем "красный", но такой раздражитель помог боту решить его текущую проблему и у него возникло "понимание".

>>Я добавил боту запись стэка нерешенных проблем (до 10, удаляя старые)

Может стек прерываний проблем более важными? или у тебя вообще другая концепция?

Для нерешенных проблем нужны структуры, хранящие проблему, условия, цель и текущий автоматизм решения, и число объектов таких структур не стоит ограничивать, но на первый план выходит та, что лучше соответствует условиям и имеет больший рейтинг значимости для конкуренции. Тогда нерешенные проблемы будут решаться, когда не нужно отвлекаться на что-то более важное и все более совершенствовать экспериментальный автоматизм, запуская его на исполнение при новой модификации, получая изменение состояния и записывая результат.

>>Еще планирую создать новую "фазу сна", где бот будет блуждать по дереву, убирая явные смысловые глюки, согласно правилам логики.

Логика типа зашита, а не познаваемая как наблюдаемые причины и следствия?

>>разговор с самим собой - что собственно и есть мышление.

разговор сам с собой, скорее напоминает развертывание сновидения, как и вообще любой разговор, т.е. использование готовые автоматизмов с подстановкой наиболее статистически уверенных для данных условий.

>>то получим его прерывания с переключением на реальный диалог - моменты осознания

А при разговоре сам с собой нет моментов осознания? Они есть при каждом столкновении рвущихся на выполнение автоматизмов с условиями, отличающимися от тех, для которых был создан автоматизм, что и требует отслеживания, а подходит ли эта реакция к новым условиям. В такие моменты к новым должны приводится текущие мотивационные цели условиям в сочетании с прогнозами схожих ситуаций, возникать общая картина происходящего, из которой и становится возможно найти наиболее подходящее действие (мысленный или моторный автоматизм), вот такая общая картина и есть самоощущение или момент осознания.

>> В голове постоянно стоит гул нерешенных проблем

Я так думал раньше, что вот ранее установленные доминанты реверберируют и проблемы решаются в подсознании, выскакивая результатами как озарения. Но такая схема проблематична даже не из-за многопотоковости, а из-за того, что для каждой такой доминанты нужно сохранять ее мотивационные условия и другие окружения “моментов сознания”, которые обеспечивают целенаправленность решения, а сознание только одно. Сейчас есть большая уверенность, что доминанты не существуют активными одновременно, а каждая актуализируется в подходящих условиях. Но процесс сопоставления и обобщения данных для решения идет вне осознания и хотя проверочное решение запускается при его осознании и возможном прерывании (как может прерываться вообще любой автоматизм рвущийся на выполнение если есть признаки опасность такого действия).

Я пока только подбираюсь к прерываниям. Стэков у меня 2. Первый нужен для организации инстинктов - диалогов в виде вопрос-ответов для хранения промежуточных шагов. Второй нарисовался с деревом ассоциаций, когда при разборе введенной оператором строки возникает непонятка, но прежде чем запускать инстинкт вопрос-ответа по этому поводу, добавил процедуру ожидания следующего сообщения - вдруг там будет ответ. То есть:

• Оператор: красный
• Бот: чего красный?
• Оператор: кирпич
• Бот: А, понятно. Красный кирпич.

Без этого стэка пришлось бы сразу давать однозначные фразы, либо сразу запускать уточняющий диалог. То есть это опять все тоже ситуативное рефлекторное реагирование, без формирования глобального стэка нерешенных проблем. Это скажем так короткий стэк локальных проблем.

Насчет не познаваемого еще не добрался, а по поводу логики уже высказывался: это следствие схемотехники ассоциативного дерева, группировки узлов в виде диапазона. Я ее не придумываю, она сама вытекает, и что меня особенно интригует, позволяет объяснить некоторые особенности нашего мышления, эмпирически формализованные в виде логики:

• если есть большое, должно быть и маленькое.
• объект не может быть одновременно горячим и холодным.
• теплое больше чем холодное, но меньше чем горячее.

И кроме того: почему "ослепительный" ассоциируется с "восхитительным", а "мрачный" с "темным"? Можно предположить, что между ними сформировалась такая связь в дереве. А можно иначе: постоянной связи нет, есть временная динамическая связь между одинаковыми по номеру сортировки позициями в разных диапазонах. Это означает, что при ветвлении происходит перепрыгивание между ветками, а не просто ветвление одной ветки. Такая особенность увеличивает вариабельность реагирования и делает его еще более непредсказуемым, без формирования устойчивых связей в дереве. То есть кроме схем ветвления, есть еще и правила переключения между ветками.

А к какой ветке привязывать умолчательный (наиболее привычный) автоматизм ответной реакции? Как бы не запутаться с таким усложнением. Мне кажется, конкретная ветка должна однозначно активироваться по текущим условиям, и только произвольно может быть активирована другая ветка. А такая произвольность - результат уже имеющегося опыта, а не заранее прошитые связи.

Т.е., взвешивая баланс того, что прошить (в том числе авторитарным обучением) и того, что предоставлять произвольности выбора из опыта, делаю акцент на последнем и для этого использую метод выборки наиболее "разумного" т.е. статистически наиболее привычного при конкурентной значимости в данных условиях, - принцип, о котором было упомянуто ранее в сообщении, но с учетом текущей мотивации и условий.

Сначала бот пытается осмыслить через дерево введенную фразу, если удалось, то на выходе получаем комбинацию макросенсоров, на которые активируются рефлексы, с учетом текущего базового состояния. Если не удалось, то рефлексы активируются на входную фразу, как если бы дерева не было. Либо активируется диалог вопрос-ответ, если это режим обучения, как сейчас.

Но тут речь о другом. Вроде как очевидно, что обобщения можно делать только при наличии опыта, чтобы вывести статистически общее из частного. И тогда получается, что никаких уверенных обобщающих выводов в период обучения делать не получится, пока не соберется достаточно большая база. Может и так, а может все таки разнообразить рефлексию и ввести понятие "логика по умолчанию", вытекающая из схемы построения дерева. И тогда получится, что в начальной стадии обучения бот имеет "примитивную" логику типа: человек в черной одежде - черный, значит мрачный - мрачный, значит злой - человек в черном - это злой человек. А потом уже по мере обретения опыта это будет постепенно замещаться на более точные прогнозы. Но при этом, для случая отсутствия опыта - почему бы этой логике не быть тем алгоритмом, генерящим пробные новые варианты обобщений? Все же лучше, чем случайным тыком. Ну и как говорил уже - некоторые особенности нашего мышления объясняются как раз концептом отсортированного диапазона реагирования, а не точечным-острым. То есть по умолчанию должен быть вариант, когда опыта нет, но надо делать вывод типа: черный - значит мрачный. Потому, что эти узлы имеют одинаковый номер сортировки в разных диапазонах.

Мне не нравится идея свести логику обобщений только к статистической обработке. Потому, что есть естественная логика ветвлений, которая вполне себе может выступать как начальная по умолчанию, по аналогии безусловных рефлексов.

Смотрим природу. Любое животное после рождения начинает сначала совершать совершено случайные действия, применяя набор имеющихся эффекторов. Он получает ответный результат и как-то его учитывает, приобретая опыт в зависимости от условий. Например, котенок всячески пытается применить когти и если он был в коробке, то может зацепиться и подняться, что даст ему позитив от новой возможности (тут начальная форма исследовательского поведения, которое всегда поощряется позитивом).

Если ты придал боту какой-то набор возможных реакций (в том числе несловесных действий), то он может в ничем не занятые моменты экспериментировать, получая опыт == смысл результат своих действий.

После каждого такого действия оператор должен в течение какого-то времени (например, в течении 10 пульсов) как-то отреагировать, желательно тоже действиями (наказать, поощрить) и все это будет складываться в опыт для текущих условий, особенно базовых: Плохо, Норма, Хорошо.

Кроме того, в это же или чуть более позднее время оператор должен начать авторитарное воспитание, чтобы вовлечь бота в социальную среду общения, где действия получают смысл уже в контексте общения, начиная с самого простого, как с ребенком и по мере приобретения опыта ботом усложнять процесс.

Вот так, безо всяких заранее прошитых рефлексов будет становится Бот и прошивки не будут некстати мешать этому процессу.

В принципе согласен, что не нужно усложнять, но не могу пройти мимо механизма, который просится на реализацию. Стоит проверить этот вариант, хотя бы для первичного уровня. Потому, что мне категорически не нравится "начинает сначала совершать совершено случайные действия".

Теперь я уверен, что не нужен был сенсор заранее прошитых слов, отягощенный необходимостью прописывать корни и окончания. Слова должны добавляться по мере появления с Пульта и тогда пофиг будет язык, на которым они говорятся. И с каждым окончанием - это - разное по смыслу слово, чего сейчас нет. Еще не решил, буду переделывать прямо сейчас или закончу до разумного предела чтобы описать принципы. 

Это начинается в пейсмеккерной активности моторных действий, что случайностью не назовешь. Но когда действия оказываются управляемы, т.е. связались с командными нейронами, активирующимися произвольно, то метод тыка - первое что доступно без какого-то опыта. Нужно тупо протыкать все свои возможные действия для всех условий и получить значимость их результата==смысл действий.

Потом уже можно конструировать сочетания (действий и доступных в словарном запасе слов) - первое время - тоже тыком, не зная, чьт будет, если только у тебя уже нет чужого примера последствий чужих действий, на что можно опираться. А потом, с опытом, включается механизм выбора статистически наиболее разумного.

У нас просто нет другого механизма и все наше "логическое мышление" - лишь его следствие на уровне подбора ментальных автоматизмов.

p.s. :) Все же нужно в основе четко определиться:

1) делаю чат-бот для сразу очень правдоподобной имитации разума с какими-то возможностями развития разума (и тогда при развитии все прошивки и имитации будут здорово мешать).

2) делаю модель индивидуальной адаптивности, которая учится буквально всему и, тем самым, выверяя принципы и механизмы программной реализацией.

Во втором случае остается очень богатые возможности дополнить природные механизмы (например, облегчить процедуру авторитарного обучения, применив некую программную телепатию), что и следует делать, но не делать замену этим основным механизмам даже для ранней стадии (тем более - для ранней стадии.

Попробовал сделать вариант с пустым сенсором слов чтобы слова запоминались по мере появления с пульта. Стали ненужными синонимы, программы заготовленных ответов, рефлексы по словам, бездумные запросы помощи - подсказки что делать и т.п..

Проблемы: нужно очень долгое обучение словам во всеми их окончаниями для всех условий, что нереально.

Учитывать окончания становится очень сложно при выявление одинаковости слов и для словарного запаса.

Поэтому лучше пусть будет прежний сенсор слов - как пройденный этап набора распознавателей слов, с тех.дополнением синонимов.

Вернулся к прежней версии, попытка оказалась очевидно неудачной.

Меня смущает ещё то, что реагирование строится по принципу: есть какие то раздражители и нужно просто подобрать адекватные реакции на них. При этом упускается из вида, что речь это отформатированный канал информации, что подразумевает наличие предопределенных изначально ассоциаций. Точно ли можно их вывести статистическим анализом? Не будет ли это на самом деле имитация, как у попугая, который говорит по теме, но ничего не понимает, точнее понимает по своему. Как проверить, что значимость слов соответствует гомеостатической значимости их реальных прототипов? Думаю, что никак. Их надо просто прошить. Огонь обжигает, лёд охлаждает, и это имеет конкретную физиологическую значимость в определённом состоянии организма. И на этом строится дальнейшее ветвление ассоциаций. Поэтому я и ввёл понятия объект - свойство для узлов ассоциативного дерева, как отражение опыта взаимодействия с реальностью. Иначе получим прокачанного попугая. 

Есть другой принцип? 

Слово статистический означает только то, что выборка делается из имеющегося массива опыта (а как иначе), а по какому принципу идет выборка, с какими фильтрами и приоритетами - вот что все определяет. 

Значимость воспринимаемого определять должен только бот по тому, как изменяются его параметры при пробном действии. 

Это - правильно. То, по каким признакам активировалась ветка - это и есть описание объекта и условий восприятия объекта. Так что остается примагнить сюда привычный автоматизм и то обещание, которое сулит его применение (цель), ну и коунтер применения, чтобы иметь параметр уверенности.

У бота нет сенсоров и потому опыта физического взаимодействия с объектами, стало быть сам он никак не определит степень влияния воспринимаемого. Ее надо прошить. И возникает вопрос: как например слово "кислый" влияет на бота, с какой величиной и знаком? Как оператор эту величину и знак определит? Просто от балды нельзя, это ведь вербальный символ взаимодействия с реальностью и отражает реальные закономерности: "горячий" больше чем "холодный", "теплый" меньше чем "горячий".

Чтобы бот мог оперировать гомеостатическими значимостями, их надо инициализировать, что означает наличие линейки значений свойства от минимально воспринимаемого (или точнее, воспринятого опытом) до максимально. Это симуляция "виртуальной реальности" бота, чтобы фраза "горячий камень" сдвинула например текущее значение энергетического состояния бота на какую то величину, симулируя термического воздействие в реальном мире. Значение величины сдвига зависит от кол-во "делений" в диапазоне. Так, если в диапазоне "температура" будут только значения "холодно|горячо", то при длине всей шкалы в 100 единиц получим по -50 и +50 соответственно. Чем больше значений в линейке, тем более точным будет определение значимости свойства. 

Нету. Но исходя их вышесказанного, мне видится реализация гомеостатической значимости в виде отсортированных диапазонов значений (ассоциаций). Только так можно легко определять их вес, в зависимости от кол-во ассоциаций в группе, и знак, смотря по какую сторону от среднего в линейке они расположены (формулу расчета веса от кол-во я выше давал): -5 -2 0 +2 +5. Вместо того, чтобы ломать голову, какую по величине значимость поставить для слова "горячий", надо просто создать группу:

• температура: ледяной - холодный - теплый - горячий - раскаленный.

Что означает симуляцию у бота термического сенсора, значения которого представлены в виде ассоциаций. Но ты упорно рубишь эту идею, предлагая просто авторитарно присваивать значимость ассоциациям, не объясняя, по какому принципу это делать.

Привязка рефлекса к раздражителю делается с учетом значимости. И опять таки: можно сделать жесткую привязку рефлекса к величине, а можно создать такую же линейку: рефлекс 1 - рефлекс 2 - рефлекс 3  - рефлекс 4  - рефлекс 5 и по номеру позиции получить привязку. Причем тут появляется интересная особенность: кол-во позиций в диапазонах не обязательно может быть одинаково. Например ассоциаций 5, а рефлексов 3. Тогда рефлексы автоматически "растянут" свои рецептивные поля с перекрытием соседних "ассоциаций-рецепторов". А если наоборот, то на одну ассоциацию будет больше одного рефлекса, получим вариабельность. Так добавляя в диапазоны ассоциации/рефлексы получаем изменение реагирования по мере обретения опыта, без блокировок старых связей. У меня даже есть предположение, как это может быть реализовано в природной нейросети, я его высказывал, ты его тоже зарубил :)

У людей есть огромное множество понятий, которые они получают без непосредственного восприятия объекта. Ты никогда не был в Америке и, читая, стараешься использовать те наиболее подходящие понятия, которые у тебя есть. Ты никогда сам не сможешь потрогать атом или звезду. Ты не видишь огромного диапазона электромагнитных волн и звуковых волн. Вообще любые твои сенсоры ограничены. Дальтоники неотличимо приспосабливаются в обычной жизни. Глухие, слепые, немые интегрируются в общую культуру и взаимодействие. Слепые или глухие красавицы выходят замуж и про это есть много худ. произведений. А бот обладает сенсором, которого нет у тебя: распознает сразу слова.

Недостаточность сенсоров непринципиальна вообще. Если ты придашь боту возможность совершать действия, о которых он не имеет понятия, например, выдавать слова и фразы из списка, то эти действия понимает оператор Пульта и реагирует по своим понятиях, поощряя, наказывая, сообщая что-то в ответ. По ответным действиям бот после своих проверочных действий получает обратную связь: чем для него оборачивается то или иное свое действие. Вот что – самое главное в адаптивности.

Ты в детстве тоже не имел понятия, что означают твои действия в разных ситуациях, но ребенком пробовал и получал обратную связь. Получив некоторый опыт, ты уже смог пробовать действовать в ответ на чужие действия, и, главное, отзеркалить чужие действия и пробовать их заготовки как дополнительный набор своих действий, приобретая знаний, а чем для тебя закончатся такие попытки в разных условиях.

Нужны первичные понятия, и я полагаю, это первичные гомеостатические ассоциации, созданные на основе показаний сенсоров: горячо, холодно, кисло, сладко и т. д. На их основе возникают все более абстрагированные понятия. Поэтому электрон это сначала шарик, облако и только потом какие то дуализмы. Все детёныши сначала трогают, нюхают, пробуют на зуб - формируя базу начальных понятий в виде ощущений. И все прочие представления потом строятся на этой базе, сколь бы абстрактными они не казались. Я так полагаю, что значимости высокоуровневых абстракций всегда связаны с первичными. В дереве ассоциаций конечный узел это всегда первичное сенсорное свойство. Можно ещё проще сказать: если восприятие происходит через органы чувств, значит все абстракции строятся из первичных ассоциаций - ощущений. 

Я подозреваю, что на самом деле строится ассоциация на базе имеющейся. То есть это не случайный тык. Он актуален только для прошивки первичных ассоциаций, когда нет базовых и строить не от чего. А затем идёт построение ветвлений.