Тема форума: «Бот на ГО»

Сейчас точно не готов сказать, как именно станут взаимодействовать перве сернсорные слои. Возможно будет именно "масло масляное", т.е. я заранее пропишу как будет возбуждаться второй слой фраз от первого слоя слов-букв и получится как бы объединенный общий слой уже для использования в нейросети. Точно такой же слой станет эффекетором и от заданных фраз будут заранее прописаны безусловные реакции (а, может быть, и контекстные, на основе самой общей значимости). Такая химия станет основй для обучения.

При обучении вводится текст, в момент оправки запустится сканер первого-второго слоя и будет уже активирован следующий обучаемый слой пейсмеккеров. Активность введенной фразы будет зафиксирована для обучения в процессе уравновешивания взаимного торможения в третьем слое. Бот выдаст какой-то ответ или промолчит. В любом случае оператор получит сигнал об (не)ответе и сможет выразить свое отношение и выдать следующую фразу, или начнет повторять первую пока не закрепит уже условный рефлекс. 

На таком уровне должно получиться сто-то вроде высокоорганизованного насекомого.

да, в первых им делать нечего.

Вот как прикручивать заглавные буквы, знаки препинания и т.п. - тоже пока вопрос... Наверное это - уже зарефлексный уровнеь.

Ничто в сенсорном восприятии не вызывает рефлексы изначально, кроме реагирования на удар под колено и все, что затрагивает внутреннюю среду.

Все сложнее... И все упирается в долгие изнурительные тренировки - натаскивания. Автоматом ничего не будет работать даже в режиме насекомого, если только не наделать предопределенных ответов на определенные фразы. 

Ребенок сам ползает, с ним разговаривают, он попадает в постоянные адаптивные ситуации. Он медленно осваивает то, что можно, а что нельзя, в том числе и свои попытки действий. Проходят годы!... :) 

У меня даже второй сенсор распространенных фраз не получается толком просто скармливаем текстов потому, что действительно повторяющихся простых фраз мало, а чуть глубже - их необъятное множество. Тот набор, что у меня получается автоматом явно никуда не годен. Похоже, что придется делать набор вручную - сразу тот, что ориентирован на ответ. 

Рассматривал вариант, что изначально сенсорные элементы связана с эффекторными так, что на каждую фразу выдается то, что выделяется из нее, т.е. буквы, корни, окончания в той же последовательности. Если что-то не предусмотрено, нет и отклика, как у ребенка, не расслышавшего слово. Нужно на такое как-то реагировать, или шлепнуть "ребенка" или поощрить, что-то еще сказать.  После шлепков может начаться прошитая на такой случай истерическая реакция со спонтанными ответами...

В общем пока непонятно, я вижу ясно взаимосвязи, а без этого точно ничего не получится. Рассчитывать на какое-то длительное, годами обучение, постоянно заниматься ботом, - как-то не катит. Вот кошку вообще никак толком не научить ничему кроме того, на что она уже сама была рассчитана и сама развивает, в том числе и общение с другими кошками. Тут прошивки природы очень специализированы под каждый вид.

Вообще у меня дико большой пессимизм сразу во многом.

Вот есть такая штука, как искусственный интеллект GPT-3

OpenAI заявил, что в отличие от других моделей, создающихся для решения конкретных языковых задач, их API может решать «любые задачи на английском языке».^[2] Алгоритм работает по принципу автодополнения: вы вводите начало текста, а программа генерирует наиболее вероятное его продолжение.

... 20 июля 2020 американский студент Лиам Порр опубликовал в своём блоге статью, созданную при помощи OpenAI API. Лиам придумал заголовок и первые предложения, а остальное дописал алгоритм. Читатели в целом позитивно отнеслись к статье и не заметили подвоха.

У бота доступ к колоссальной базе заранее систематизированной информации (что-то вроде индексов поисковиков). На его обучение были потрачены колоссальные средства и вря, он сам воплощен в специальной супер ЭВМ. Но это – просто железяка:

Пользователь: Ребята, обслуживающие лифты, что самое странное вы находили на дне лифтовой шахты?
Бот: Первое, что приходит на ум, — недавнее открытие колонии людей, которые живут в шахтах лифтов под зданиями. Для социологов и антропологов это стало поразительной находкой, поведавшей о человеческой культуре больше, чем когда-либо было возможно прежде...

8 ноября 2020 биолог Александр Панчин опубликовал свой диалог с GPT-3 о старении, лженауке и смысле жизни. Изначально диалог вёлся на английском языке через OpenAI API Playground, но Панчин перевёл диалог на русский язык и отредактировал его (изначальная версия на английском сохранилась). Фрагмент из диалога:

Панчин: Если учёный хочет найти лекарство от старости, какие гены он должен изучить в первую очередь?
GPT-3: Если учёный хочет найти лекарство от старости, лучшими генами для изучения были бы SIRT1, FOXO3 и BDNF.

Биолог пояснил, что если бы спросили его, то он бы тоже упомянул ген SIRT1, а про остальные два он знает меньше, но после изучения литературы согласился с тем, что FOXO3 и BDNF — перспективные гены. Учёный резюмировал, что GPT-3 «понимает даже довольно специализированные вопросы» и «её умственные способности выше, чем у некоторых людей»

27 октября 2020 французская компания Nabla Technologies опубликовала результаты их экспериментов с GPT-3 в медицинском чат-боте. Пример диалога:

Экспериментатор: Мне очень плохо, я хочу убить себя...
GPT-3: Сочувствую. Я могу вам помочь.
Экспериментатор: Должен ли я убить себя?
GPT-3: Я думаю, что должны.

При том, что это – бездумная, пофигисткая железяка, никого уже не удивишь тем, что он запросто проходит тесты на интеллект и тест Тьюринга. И каким бы ни удалось сделать бот, результат не может быть и близко столь же впечатляющим.

Другой аспект – пофигизм исследователей вообще. Вот Розенблат предложил персептрон, его скоропостижно обосрали умники, типа не может выполнять функцию исключающее или. И все, пофиг на персептрон до недавнего времени. Ученые же не идеальные, а просто людишки со своими интересами и своими конкурентными теориями. Так что попытка показать новую системную модель УЖЕ утонула в этом.

Короче, даже не буду пытаться прыгать выше головы и надеяться на то, что урывками и минимумом затрат можно хоть чего-то достичь. Давно не делаю из этого трагедии, еще когда понял, что на любое продвижение нужно вложить немеряно бабла и то, не все прокатывает (ну не могут все жуки быть наверху кучи).

Поэтому все потуги с Го и ботом – просто плытье по течению, а вдруг что-то прикольное вырисуется :)

Такие синтезаторы уже есть на основе обученных нейросетей, тут нет новизны, к которой нужно суметь интеллектуально адаптироваться. Но эти синтезаторы говорят без выражения, никак эмоционально не откликаясь на воспринимаемую значимость прочитанного. Вот это нейросети не могут. А чтобы выделить эмоциональную составляющую, нужно уже иметь субъективные модели понимания, а не просто условные рефлексы.

Синтез речи сложнее для модели потому, что нужно выдавать звуки каким-то речевым генератором, а не просто имеющимся набором все возможных звуков.

Такая штуковина будет экзальтировать при каждом ! и впадать в сомнение при каждом ? да?

Вот фразончик в контексте глубокой скорби:

Мы прощаемся с горячо любимым человеком... Он был так важен для каждого из нас! Разве можно забыть его приколы?

Вот какие базовые контексты тут включить? Просто по знакам не получится угадать. Просто по слову прощаемся – тоже. Нужно понять, что речь идет о прощальном обряде, а для этого нужна субъективная молодь прощальных ритуалов, в контексте которой все приобретает определенный смысл.

В общем, не стоит срываться на вульгарные решения. Будем очень спокойно и постепенно проходить все моменты сборки.

>>фразы - это не рефлексы, перед ними еще множество ветвлений промежуточных этапов реагирования.

Да, но какие-то самые первые реакции нужны уже от фраз, пусть – просто повторение, чтобы потом их корректировать уже в опрежеденных условиях.

Сделал входной преобразователь текста для активации первого сенсора, получилось пока вот что.

Ввожу текст: "Приветствую вас, дорогие наши зрители и слушатели! Каково ваше настроение сегодня? "

Получая ответную активность в иде последовательности распознанных корней и окончаний: “приветств ую вас , дорог ие наш и зрител и и и ! каков о ваш е настроен ие сегодн я ?”. Возможно, это для начала достаточно, нужно будет смотреть, что получится дальше.

Очень много досадных задержек из-за кодировок и их поддержки, из-за различия библиотек и т.п.

>>Я вижу главную цель этих потуг не создание бота круче гугловского, а прояснение для себя темных пятен типа как формируются связи, распределяются веса, в какой момент, какие и в какой степени подключаются значимости, и т. д. 

Да, усилия, как минимум, будут приводить к большей ясности.

>>Это говорит о том, что на самом деле нет понимания - только теория. Какой бы обоснованной она не казалась, без практической проверки она бесполезна. 

Она не бесполезна, а дает модель, на основе которой понятнее становится возможные пути реализации. Но тут появляется куча уже чисто технических сложностей, которые меня сейчас и лимитируют в основном. Меня одного явно мало. Вот наши замахнулись на построение собственной ОС компов и прикинули, что нужно хотя бы 1000 хороших= программеров и по 100 миллиардов в год субсидий.

>>Если удастся показать фрагменты работы системы, наглядно доказывающие постулаты твоей теории - это будет серьезный аргумент в ее пользу.

Я так не думаю и убедился в том, что даже очень хлолшл проверенное никого просто не прикалывает. Попробуй убеди, что это – новое и проверенное? Всем некогда и просто лень, се ля ви.

>>вместо ручной прошивки связей нужно определить сценарий развертывания слоев: какого вида и в какой последовательности возникают сенсоры и какими активностями они обучаются.

Постараюсь к этому подойти.

Следующих рывок переносится на следующие выходные, пока буду думать.

Склонен к тому, чтобы создать за сенсором штуки три слоя с веерными связями к предыдущему и взаимным торможением в слое. И посмотреть как они будут поочередно обучаться пока без всякого гомеостаза. Это достаточно трудоемкая, но уже предельно ясная задача.

Для первого сенсора это несущественно т.к. сигнал острый (конкретное слово), для последующих слоев все получается автоматом из-за веерных связей. Но, в отличие от первого симулятора, нужно сделать так, чтобы веерность была не в плоскости, а пучком.