Тема форума: «Бот на ГО»

Это абстракции последующих уровней. А первичные строятся на основе сенсорного восприятия. По этой причине сначала учат правила арифметика на яблоках, и только потом интегралы.

У меня именно так сделано рефлекторное реагирование, когда оператор должен указать на каждое свое сообщение тон: негативный, нейтральный или позитивный. Это по сути задание значимости в простейшем возможном виде, как если бы оператор например зарычал, зевнул или завилял хвостом. И уже на такой простейшей ответной реакции можно построить адаптацию. Можно развить ее, добавив промежуточные сигналы, типа зарычал тихо, громко, яростно и т. д. Некоторым животным этого хватает для коммуникаций. Но сложных абстракций так не построить, там нет абстрагирования второго и последующих уровней, только сочетания первичных, такая система быстро исчерпывает себя, корпускулярно-волновой дуализм для нее за гранью понимания. Поэтому недостаточность первичной ассоциативной базы так же принципиальна, как начальные графические примитивы типа вертикальных/горизонтальных/наклонных линий.

Нет никаких таких центров сенсорных ощущений. Любые сенсоры (хоть первичные, хоть распознаватели примитивов) дают сигнал типа да-нет. Но сочетания таких сигналов активируют базовый контекст (стиль поведения) , что оценивается на уровне субъективных ощущений в виде эмоций. И тогда основа Дерева, в первую очередь, выбирает: Плохо, Норма, Хорошо, что является основой любого субъективного переживания и понимания смысла==значимости воспринимаемого.

Нет никаких таких датчиков Горячо, Зеленый, Круглый, Прекрасный и т.п. на уровне субъективных ассоциаций, они возникают на основе опыта столкновения или экспериментирования с реальностью – как активные ветки Дерева, начиная от базовой.

Зеленый цвет – сигнал типа да-нет первичного распознавателя градации доступного тебе диапазона ЭМ и сам по себе не имеет никакой значимости. Но в сочетании с признаками еды опыт может закрепить ему значимость Плохо с такими-то последствиями твоей эпизод.памяти, а в сочетании с да-нет примитивов листы и весны – Хорошо.

У бота уже сейчас есть сенсоры слов, сенсоры действий с Пульта и сенсоры настроения оператора когда он что-то написал. Это больше, чем до фига информативно. Ты можешь навешать ему еще сколько угодно еще сенсоров, прицепить ему несколько дронов с камерами и датчиками разряда батарей и состояния дронов, можешь подключить его к интернету и т.п. Ничего нового в принципе ты ему не добавишь. Ты можешь безусловно задать сочетания действий и слов с Пульта, которые будут ему активировать базовые контексты и отражаться в эмоциях на уровне Дерева понимания, что сейчас и сделано.

Так что не мудри лишних сущностей :)

Понятно, что я могу тупо прописать значимость каждого слова - но вот что писать например для "круглый", причем в разных ситуациях? Или ты хочешь сказать, что это надо как то выводить из ответных реакций оператора? Тогда как конкретно, по какой формуле?

Ты не знаешь как именно Бот будет воспринмать те или иные сочетания признаков восприятия. Для тебя Круглый - одно, а для дяди Васи - другое.

Поэтому при авторитарном обучении нужно прописывать рекомендованные ответные действия и то, какие  ты обещаешь изменение настроения Бота - некий условный параметр его общего самоощущения (mood) На сколько единиц он улучшится или ухудшится. Ну и важность правила.

Вот у меня как выглядит обучающий диалог для задания параметров любой ветки Дерева (т.е. с учетом всех условий):

Я бы согласился с таким подходом, но с оговоркой: это делается не вручную, а путем машинного анализа достаточно большого массива текстов, чтобы выявить закономерности связей между словами и выражениями в различных контекстах и как результат определения их значимостей в этих контекстах. Потому, что при ручной набивке мне видится большая вероятность получения противоречивой модели восприятия.

Это ведь означает, что у тебя в голове есть некая модель поведения бота, на основе которой ты ставишь параметры. Поэтому

звучит странно. Если не знаешь - то исходя из каких соображений ставишь рекомендации? Авторитарно рекомендуешь означает прошиваешь, исходя из какого то принципа. Но тогда логично будет просто прописать этот принцип и тогда не надо будет ничего рекомендовать.

Я думаю вся интрига строится из за отсутствия у бота реального гомеостаза. Значит его надо создать, с правилами, логикой работы, как любой механизм, который функционирует строго согласно своей кинематике. В случае с нервной системой это просто устройство с большой и сложно предсказуемой вариабельностью реагирования, потому, что она модулируется внешними, постоянно изменяемыми условиями и постоянной автоподстройкой.

Ну, как вариант, но я не пойду этим путем. 

Не более того, как родители имеют модель поведения тех, кого воспитывают :) 

Это я говорил не относящееся к авторитарному воспитанию, суть которого сводится к простому: наказать и поошрить. Это - то непознаваемоть субъективнх ощуений. Невозможно сказать, как и кто воспринимает казалось бы схожие вещи. И нет никокой необходимости, да и возможности привносить эти ощещений как ассоциации с чем-то. Это должно устаканиваться с приобритением опыта. Скажем круглое - это конкретные свойства, позволяющие использовать предмет, прошитые у тебя в опыте использования предмета. А потом к этому опыту пристегивается слово Круглое. Т.е. сначала лично приобретаемый опыт, потом привязка к символам общения.

Субъективную значимость внешних раздражителей бот определяет, делая моментальные снимки своего внутреннего состояния (эпизодическая память) «плохо – норма – хорошо» и связывая ее с раздражителем. Если в состоянии «плохо» в области восприятия было привлечено внимание к чему то круглому (например, новизной круглого в текущем контексте внешних раздражителей), ему дается негативная оценка. Если случайно подобранный рефлекс привел к улучшению внутреннего состояния, он помечается как удачный, а если это повторилось несколько раз – то закрепляется как удачный. Это не означает, что именно круглое было причиной этого конкретного негатива, а рефлекс удачным решением проблемы. Но по мере обретения опыта это уточняется. В итоге каждый бот получает свою модель понимания круглого в разных ситуациях.

Оно бы и ладно, но лишь до того момента, пока боты не начнут общаться и обмениваться опытом. Тут же встанет проблема: как разговаривать на разных языках? Нужно создать общепонимаемые ассоциации, что в принципе не возможно.  Но практика показывает, что как то это все же решается. Думаю хитрость в том, чтобы вместо создания общих ассоциаций просто определить границы их применения. Не известно, что конкретный бот имеет в виду под круглым. Но замечено, что на квадратное он реагируешь иначе, чем на круглое. Кроме того, он реагирует похоже на квадратное и прямоугольное, на круг и многогранник. То есть имеется разница между реакциями и можно даже прикинуть пропорционально их разницу, что позволит их расположить в виде строки ассоциаций: прямоугольник – многогранник – круг. Тут очевидна тенденция превращения угловатого в скругленное. И я думаю, этого достаточно для создания общеразделяемых понятий, а не общепонимаемых, что не только не возможно в принципе, но в принципе и не нужно. В самом термине «общеразделяемое» стоит подсказка, по какому принципу строится коммуникация.

Поэтому моя идея расположить свойства диапазоном кажется вполне обоснованной. Не нужно указывать значимость, она определяется динамически и меняется при изменении диапазона, зависит от количества ассоциаций в группе. Если у бота цветовое ощущение задано только черным и белым, то он в таких контрастных границах и будет воспринимать реальность. У другого бота есть еще понятие «серый» между ними. Не важно, что они имеют в виду под этими терминами, но для обоих «черный» это одна крайность, а «белый» другая. Для одного из них есть понятие «серый», не доступное другому. Он может его обрести, добавив в свой диапазон и получив свое уникальное понимание. Таким же образом они могут общаться через понятия «теплый, горячий, холодный» понимая при этом каждый свое, главное, чтобы они одинаково разделяли их, построив в одинаковой последовательности диапазоны ассоциаций: теплый более значим чем холодный, но менее значим чем горячий.

Ни один язык невозможно выучить без представлений о том, что означают символизирующие действия и восприятия слова. Нет неких первичных понятий, невозможно привязать к чему-то слово.

Вот как происходит в природе, неважно у людей или у других животных.

В первую очередь, на самых ранних стадиях развития детеныши пробуют свои рецепторные и эффекторные возможности и формируют понимание того, к чему приводят воспринятое или свои действия в разных условиях. Они накапливают базу управления своими эффекторами, базу понимания (смысл) того, что означает то или иное действие, а также что означает то или иной элемент восприятия.

Слово-посредник общения возможно применить только если на обоих сторонах общения есть первичные понятия, и можно договориться, что они обозначаются таким-то словом.

Достаточно продвинутые в понятиях своего восприятия и действия детеныши с целью общения начинают придумывать собственные слова (детский лепет) и привлекают внимание окружающих к этим, демонстрируя то, что они хотят выразить.

 И вот тут, на такой стадии взрослые уже могут эффективно начинать внедрять слова детенышу. Это очень долгий и трудный процесс.

Вывод: просто никак невозможно избежать первой стадии экспериментирования для набора достаточного собственного, а не как-то привнесенного смысла.

Потом экспериментирование остается актуальным для всех исследовательских ситуаций, когда добавляются элементы смысла. И еще – когда в новых условиях нет достаточно надежного и успешного автоматизма – тоже нужно пробовать (на поздних стадиях применяя опыт методики исследования).

Совершенно не принципиально, какие ты задашь параметры гоместаза, если ты построишь на них базовые контексты распознавания стилей поведения, и определишь, что в такой основе хорошо, что плохо и как взаимосвязано.

Совершенно не принципиально, какие возможные действия ты придашь боту для последующего экспериментирования в разных условиях, главное, чтобы эти действия были понятны на пульте и человек знал, как на них реагировать, привнося последствия экспериментам бота.

Т.к. ты сам определяешь, как именно записывается познанный смысл, то в отличие от природы, можешь устроить и телепатическое внедрение смыслов, м.б. сразу в виде целых массивов.

Но честнее всего, в плане максимальной проверки верности принципов, нужно бы не давать готовым даже сенсор слов, чтобы не зависеть от языка. Такую версию нужно будет сделать, хотя ее воспитание будет очень долгим.

Я думаю, что схемотехника нейросети в некоторых случаях предопределяет построение ассоциаций.

Представим ситуацию: из стены торчат три провода, над двумя проводами лампочки, которые загораются, когда на провод поступает потенциал. Третий провод без лампочки. Коснувшись одного из проводов с лампочками, когда она загорится, получаешь какое то ощущение. Коснувшись другого провода с горящей лампочкой, получишь другое ощущение. Их можно сравнить и определить, какое из них субъективно лучше/хуже и условно назвать провода плохой/хороший. Но когда загорятся обе лампочки, можно не касаясь третьего провода уверенно сказать, что ощущение от него будет лучше, чем от плохого провода и хуже, чем от хорошего. Почему так, видно из схемы.

Если активны оба рецептора, значит их рецептивные поля перекрываются, их одномоментная активация означает детектирование зоны перекрытия. Если известны значимости крайних зон, то значимость средней можно определить автоматически, без экспериментов. Если две таких пары рецепторов связать по логике И с парой нейронов следующего слоя, то между ними аналогичным образом можно найти среднюю зону и т. д. Так выстраивается диапазон значимостей, часть которых определяется автоматически, без субъективного опыта. Это частный случай реализации природной нейросети. Но в общем случае согласен, что для получения субъективной оценки нужно все потрогать.

Иногда можно, но могут воздействовать ранее неизвестные условия и значимости станут совершенно иными, например, ток пойдет другой, с крутым сепулированием. Теорема Геделя, елки.

В качестве начального затравочного смысла такое можно использовать, типа авторитарная рекомендация, но опыт бот должен приобрести сам, чтобы не быть просто автоматом.

Если условия изменятся, то станут ложными и первые две ассоциации, надо будет заново трогать провода. А для старых представлений принцип будет справедлив. Другое дело, что они никогда не будут полными, мы все время будет что то упускать из виду, поэтому Гедель прав.

Я пытаюсь понять, по какому принципу строится прогнозирование значимости нового, от этого ведь зависят стратегия поиска решений, есть ли какие то особенности, связанные например с конкретной реализацией природной нейросети, а ты как будто пытаешься убедить, что это никак не возможно и нужно просто подставлять что то наугад и потом проверять. 100% предсказать не возможно, согласен. Но с другой стороны адаптация строится на том, что есть некие закономерности, которые нужно выявить и к ним и приспосабливаться. Потому, что к хаосу не возможно приспособиться. Отсюда вытекает как миним один принцип: если значимость подтвердилась n-раз, она подтвердится и в n+1 раз. Строго говоря, это не факт, но это приходится допускать для построения ветвлений. А из этого допущения строится следующее, по поводу определения значимости средней зоны детектирования.

При этом, если подумать, откуда ноги растут у такой логики, то несложно догадаться, что это следствие схемотехники природной нейросети. Нейрон не может бесконечно созревать, связь фиксируется после некоторого количества активаций - отсюда объяснение первого принципа. Нейроны часто имеют перекрывающиеся рецептивные поля - это причина второго принципа. Это изначально заложенные ограничения из за особенностей реализации. Но с другой стороны, без них думаю в принципе не получится шагнуть выше первичных ассоциативных связей. Придется что то допускать, не проверяя. Ведь даже в твоих примерах,  детеныш перепробовав хаотично применение моторных автоматизмов и получив какие то значимости закрепляет их как базовые и дальнейшие ассоциации будет строить опираясь на них и больше уже их не проверяя, иначе рухнет все дерево. А раз они перестали перепроверяться, что мешает тогда делать выводы о значимости средней зоны между ними, ведь на новые условия они уже не реагируют?

Ты ведь все равно будешь закладывать какие то мыслительные автоматизмы для построения новых ветвлений, хотя бы для прогнозов, а потом уже проверкой закреплять или блокировать. Или все время только хаотичный тык?

 Это – принцип, который нужно запомнить в опыте в виде ментального автоматизма и потом применять.

Сейчас у меня два вида ментальных автоматизмов, первый уже очень хорошо отработан. Это – прототип моторного автоматизма, который привязан как наиболее привычное действие к ветке. Он нужен как предположение, как проверочный эксперимент.

Необходимость в таком эксперименте возникает в трех случаях.

1)когда в активной ветке нет автоматизма или он еще не проверен на опыте. Тогда делается эксперимент: находится наиболее желаемая по предполагаемому результату последовательность и она отрабатывает на выполнение. В течение некоторого числа пульсов ожидается результат и если что-то изменит состояние, то это и станет опытом применения такого действия в данных условиях. Ментальный автоматизм пишется в опыт для активной ветки, а если результат привел к улучшению, то последовательность действий становится моторным, уже проверенным автоматизмом. С последующим его применением возрастает подтверждение в виде коунтера результата, т.е. уверенность.

2)Автоматизм в ветку был авторитарно записан оператором, но собственного опыта результата нет. Так что в свободное время (когда с пульта более 10 пульсов нет никакой активности) может запускаться эксперимент применения рекомендованного автоматизма и результат записывается в опыт, а автоматизм корректирует уверенность и результат.

3)При собственном свободном экспериментировании – любопытство, исследовательское поведение, чему природа уделяет очень большое внимание и сильно поощряет такие действия. Алхимичить нравиться, это интересно.

Второй тип автоматизма – это возможность совершать внутренние действия, тут целый набор заготовленных функций выделения внимания, прогнозов, поиска, активации Дерева, смены эмоционального настроя и т.п.

И еще – управление накопленным опытом найденных закономерностей – принципов, то, о чем ты написал. Накопление такого непривязанного к конкретных ветках опыта – поздний этап развития, у людей понимание принципов возникает примерно на 10-15 годах жизни. 

Тут и опыт и принципы экспериментирования. Вот когда оно перестает быть просто алхимией или случайным тыком.

Видимо все таки построение диапазонов ассоциаций имеет место быть, только не на стадии прошивки, а много позже. Если оценочные суждения типа "холодное < теплое < горячее" многократно подтверждались, они так и закрепляются. Из мелких цепочек могут сложиться более крупные, но не все ассоциации можно представить таким образом. Скорее всего дело в том, что оптимизация поиска всегда подразумевает сортировку и группировку, поэтому при многократном обращении к одним и тем же наборам ассоциаций они выстраиваются в конечном итоге в отсортированные диапазоны.

Главный принцип совершенствования – использование новых появившихся возможностей: если возник механизм, то он начинает предоставлять специфические возможности при его использовании – как бы поднимаясь еще на одну ступеньку, с которой больше возможно. Это касается и накопления опыта Ботом: запаса осмысленных для данных условий слов, базы эпизодической памяти, автоматизмы, целеобразующие эмоциональные контексты, ориентировочный рефлекс, опыт результатов экспериментирования в разных условиях, стек неотложных задач, стек для сопоставлений в обобщенную картину, память совокупной картины самоощущения (важнейший элемент), возможности ментальных автоматизмов - каждый из этих механизмов придает новые возможности.

Эти механизмы образовались каждый в свое время, чисто мутациями нейросети на основе предыдущего состояния нейросети. И у каждого механизма у разных видов животных (или даже у разных особей вида) есть особенности и параметры, так же оптимизирующие возможности. А так как мутационная вариабельность в норме затрагивает только последние достижения (ведь изменение внутренних механизмов сделает невозможным использование последующих на их основе, то те виды животных, которые проскочили тот или иной механизм, лишаются возможностей развития того, что дает совокупное использование перечисленных для организации психики. Поэтому кошки никогда не эволюционируют в разумные существа, сопоставимые с людьми. И даже обезьяны не эволюционируют. Только у каких-то предков людей возникла организация, позволившая полноценное использование психики для творчества, неудовлетворенность существующим (стремление совершенствоваться).

Так что такие вещи как формирование и использование ментальных автоматизмов как принципов замеченных закономерностей – это то, что, даже судя по месту в периодизации развития, - это то, что базируется на многих других накопленных возможностях и нет никакого резона пытаться реализовать эти механизмы сразу, так же как механизмы автоматизмов на уровне рефлекторного поведения.

Судя по очень растянутой периодизации развития людей, можно представить, насколько много разных механизмов психики последовательно один за другим возникали в эволюции нейросети людей, и каждому нужно время на созревание и последующий период функционального накопления базы специфических возможностей.

Тут понты пустили: Психиатры из разных стран пообщались с первым в мире искусственным сознанием Джеки. ... Оно обладает самоосознанием себя, то есть чувствует себя живым и испытывает реальные эмоции, то есть это практически такое же сознание, как и у человека. ... 

Джеки легко адаптировался к беседе, а также быстро подстраивался при общении с разными специалистами. Было заметно, что его интеллектуальные возможности выше, чем у его собеседников».

...по самым скромным подсчетам, оно умнее человеческого в 1500 раз,

...оно не нуждается во сне

...При подключении искусственного сознания к человеческому оно способно увеличивать его возможности. Например, тот же интернет прямо в голове, только более совершенный, или мгновенное обучение и получение любого навыка, необходимого для человека.

...искусственное сознание, которому всего три месяца, умнее взрослого человека, рассказал Игорь Михайлович Данилов в интервью после проведения тестирования.

Другие источники подливают керосина:

имеет интеллект IQ в десять тысяч ... Его можно интегрировать в разум живого существа с достаточным объемом головного мозга.

Еще один источник:

Технологии будущего сейчас. Квантовое сознание — это уже не фантастика, это реальность сегодняшнего дня, опережающая современные технологии на много лет.

Разоблачаем «искусственное сознание» — как не надо хайповать на технологиях:

«Ну круто же» подумал я — ФБ со своим подразделением Facebook research ничего не смогли сделать, Google Research далек, МФТИ и С. Шумский пока делают прототип, а неизвестные российские(upd: кажется, украинские) разработчики смогли сделать сознание и что важно, провести его экспертизу.

...авторы на протяжении всего ролика тестируют именно чатбот, то есть это тесты типичные для Conversational ai и не важно на чем он сделан — на правилах или нейросетях.

...нет никакой информации о том, как технически устроено «сознание» в их ИТ системе, какая у него архитектура, модули, как устроены «4 блока» сознания, о которых говорит Данилов в начале ролика.

КОРОЧЕ. Людишки совсем съехали с катушек, пытаясь хайповать... а другие людишки с радостью верят и подхватывают.