Тема форума: «Мозговой штурм: как объяснить ОИИ наши сознательные ощущения»

Мы просто говорим о разном. Вы говорите об бинраном ощущении, т.е. вычислении алгоритмом правильных и неправильных действий на основе входящих переменных. Я же говорю про метаощущения, которые могут быть подвязаны к любому другому бинарному ощущению. Это второй пункт из мейн поста.

Это вторичные ассоциации, на базе первичных от сенсоров. Они позволяют поступать вопреки гомеостатической значимости, например отгрызть себе лапу, сжечь себя во имя великой цели и т. п. У Nan в боте заложен задел на эту реализацию:

Еще не реализованы механизмы произвольных внутренних действий – ментальных автоматизмов (использование функций изменения фокуса актуального внимания, произвольного изменения эмоционального состояния, выборки из памяти различных видов и т.п.), но уже полностью реализованы ментальные автоматизмы произвольного запуска имеющихся действий, т.е. ментальные механизмы предположительных моторных действий – основа жизненного опыта и воображения.

Если ассоциативная сенсорика определила данные как малозначимые, они просто уходят в игнор. Кошка не получит дофаминового подкрепления, ничего не зафиксируется в эпизодических цепочках памяти кроме того, что такая то комбинация сенсорных показателей при таком то внутреннем состоянии - фигня. В следующий раз это уже на первичном уровне мгновенно активирует контекст (стиль) реагирования "равнодушие" и она даже нюхать книгу не будет.

К сожалению, это не то, о чём я думаю...

Это делается и без нарошной высокоуровневой реализации, имхо. Обычные предикты споособны противоречить актуальным гомеостазным проблемам. Если предикт состоит в том, что у человека разовьёться депрессия, если он прямо сейчас не поможет кому-то, пожертвовав собой (т.е. будет чувство вины, что не спас, а мог), при этом эта депрессия предиктиться более негативной чем физическая боль при жертве, то этот человек может выбрать жертвенную смерть (хотя, мне кажется, он быстро пожалеет... но будет уже поздно)

Если бы она не получила за это подкрепления, то скоро бы получила премию Дарвина, либо её потомки. Если интуиция кошки сообщает, что в поле зрения есть необычные объекты, которые могут быть как минимум опасными, если их оставить без внимания, то начинается процесс исследования. Большинство таких исследований не приводит к каким-то невероятным открытиям, "срыву покровов", поэтому эволюционно необходимо было задать процедуру поощрения за исследование неизвестного. 1000 раз исследовал - ничего особого не нашёл, а вот 1001-ое исследование спасло тебе жизнь.

Перед равнодушием идёт проверка того, что есть ли к чему его вообще проявлять. Если внезапно "неинтересная" книга как-то поменялась, например, местоположением - это равнодушие не вызовет. Где-то рядом вероятная опасность, и это надо снова исследовать.

Ты соглашаешься, что невозможно передать ИИ свои ощущения, но все равно пытаешься их передать. Не понятно зачем. Для адаптации это не нужно - а для чего тогда? Вроде вопроса, сколько ангелов на кончике иглы поместится. 

На первичном уровне можно прошить хоть миллион базовых потребностей. Но если надо сделать так, чтобы потребность возникала, пропадала в процессе адаптации - без высоких уровней никак. В одном случае отрежешь себе лапу, в другом, в той же ситуации - не станешь. Каким предиктом это зашить, с учетом, что заранее не известно, что спровоцирует и почему выбранный вариант поведения? Это произвольный выбор не в смысле случайно-хаотичный, а на базе внутренних представлений, которые формируются и модифицируются в процессе адаптации, поэтому и не предсказуемы и не программируемы в привычном представлении. Хотя конечно возможна предрасположенность.

Так я и говорю: прошитая базовая потребность "любопытство". Эволюционно устаканилось, что нужно изначально иметь набор потребностей чтобы не сдохнуть и успеть размножиться. Любопытство в том числе.

Это первичный контекст реагирования, про который тоже говорил. Сначала идет начальная ассоциативная сенсорика, определяется первичный контекст реагирования, если что то сверх-важное тут же запускается рефлекс (шарахнулся, вздрогнул, взвизгнул, зарычал), если не так важно и есть время, простейший анализ с выбором наилучшего варианта (принюхался, всмотрелся), если еще больше времени - глубокий анализ с формированием доминант нерешенных проблем, если не удалось найти решение. Реагирование построено иерархически так, как оно формировалось в процессе эволюции: безусловно-рефлекторное, условно-рефлекторное, регулируемые по ходу выполнения автоматизмы, творческий поиск. Все настроено так, чтобы в случае большой значимости при дефиците времени сработать мгновенно-рефлекторно, а если есть время - подумать и найти наилучшее и даже вообще новое решение.

Передавать не обязательно. Он может ощущать мир по-своему. Главное, чтобы ощущал, а не пересчитывал. Чтобы у него было восприятие мира, чтобы он мог как мы действительно наслаждаться бытием, а не быть "бездушным" объеком бытия, который только имитирует алгоритмы "духовных" субъектов.

Чтобы у него была цель понять природу сознательных ощущений. Как я и говорил, это может быть вообще какой-то фундаментальной и очень важной вещью, которая открывает двери в другие направления. Потенциал есть.

И ещё это этично. Иначе мы типа будем жить, чувствовать, ощущать все прелести жизни, а ИИ будет впахивать алгоритмы адаптации и никогда ничего истинно не ощутит, будет вычислять входящие бинарные данные. Ну охрененно звучит.

Я вообще считаю, что вся материя должна чувствовать наслаждение (как - это вопрос, на который ИИ и сможет ответить), даже наша кожа, у которой типа нет разума. Если вся материя действительно ощущает на каком-то очень низком уровне окружающий мир, то будет не очень хорошо, если окажется, что вся материя вокруг человека страдает и ждёт "спасения" от развитой интеллектуальной материи, а человек даже об этом не думает и никогда так и не задумается на протяжении бесчисленных лет своего существования, после изобретения бессмертия.

Дерево ассоциаций и создает спектр ощущений, завязанных на первичном уровне на гомеостаз, а на вторичном - внутренние модели восприятия. "Ощущение" означает, что какое то воздействие, внешнее или внутреннее, сдвинуло баланс состояния в какую то сторону. Если это привело к ухудшению функционирования - значит стало "Плохо", если к улучшению - "Хорошо", если состояние стабилизировалось - "Норма". Это три базовых ветки "дерева понимания", от которых потом строятся все остальные.

Ты хочешь получить ощущения в отрыве от "физики" - сунуть руку в огонь и "почувствовать горячо", или чего то там накрутить себе - и допустим холодно, не смотря на то, что плоть горит. Первое автоматически получится как первичное реагирование "по умолчанию", а второе как вторичное абстрагирование на основе личного опыта. И никакого "мета" тут не нужно приплетать. А если все таки хочется - тогда тебе придется ясно обозначить, что это за "мета-чувства" в отвязке от реальности. Иначе получается пальцем в небо - "бог есть, истинно говорю вам".

Ты просто закладываешь ИИ базовую потребность "понять себя" как необходимую для функционирования ИИ. Хотя это просто потребность, одна из миллиона, которую ты как демиург можешь вшить в свою схему, а можешь и не вшивать. Понятие "цель", "смысл" в простейшей реализации появляются уже в начальном уровне развертывания нервной системы как цель "выжить" и смысл "кто не хотел жить, тот сдох". Они заложены естественным отбором по причине озвученного смысла - только при такой цели и смысле вид существует.

А вообщем плане адаптационные схемы должны сами находить себе смыслы и цели, кроме первичных базовых, без которых жизнь в принципе не возможна и от которых строятся все последующие. Если ты хочешь проектировать оторванный от жизни ИИ, тогда тебе придется заложить в него какие то другие первичные смыслы. Не важно какая, физическая, виртуальная - но жизнь, вытекающий из нее гомеостаз, вытекающие из него первичные контексты восприятия Плохо-Норма-Хорошо, вытекающие из них алгоритмы стабилизации базовых состояний - это должно быть обязательно. Иначе будет просто распознаватель ждущий указаний оператора.

Это пошла метафизика, не имеющая к ИИ никакого отношения. Проекты ботов наглядно показали, что схемотехнический подход, без всяких заумных приплетаний мета/мега и прочего, позволяет успешно строить адаптационные нейросхемы. Из этого и надо исходить, если нужен результат.

Icepriest, мне кажется, тебе стоит прочесть статью "Что такое Я": в ней кратко резюмируются текущие представления о модели организации психики, которая обсуждается на сайте. Сильно углубляться и ходить по ссылкам необязательно -- простого ознакомления может хватить. Это должно создать мосты понимания, подтолкнуть диалог в более плодотворном направлении, и может очень даже заинтересовать.

Ух, нет, видимо - тупик. Слишком много материализма и утверждений о том, что абстракций (или чего-то ещё) на самом деле нет.

Я являюсь адептом концепции "несуществующие объекты существуют", даже касаемо парадоксальных объектов.

Любой существующий объект существует только потому, что его антиобъект "несуществует". Значит, если "несуществование" антиобъекта является важной частью существования "обычного" объекта, то антиобъект в действительности существует через него как закон... Один из бесконечного множетсва таких же и иных законов.

Не буду тут расписывать ещё тирады по этому поводу, просто малая демонстрация шизы и почему так сложно мне воспринимать классическо-материалистические текста.

Короче я понял почему было недопонимание и такое глубокое. И всё же несколько полезных выводов я сделал. Как минимум, я понял, с какими проблемами можно столкнуться при объяснении сознательности для ИИ, если даже с человеком сложности возникают, хотя мы-то вроде должны друг друга понимать.




Palarm, я долго думал, у меня насчёт всего этого каша дикая, ну короче пока что мысль у меня такая: откуда появляется сознательность, по каким принципам и т.д. и т.п. - это всё можно попробовать вывести, действительно, в том числе ваша модель может иметь место быть, либо её отдельные элементы. Но природу сознательности вывести из этого не выйдет. И как бы там ни было, вывести эту природу я считаю необходимым, и мне всё-таки кажется, что для этого нужен дополнительный толчок для ИИ.

Значит, я погорячился в первом сообщении...

Ты сейчас как креационисты, требующие доказательств, а когда их предъявляют - отмахиваются, говоря, что это все не то. А что есть "то" сформулировать внятно не могут. Чтобы что то искать, надо сначала понять, что ты ищешь, а не просто по наитию схватил - бросил. Если ты хочешь научить ИИ мыслить, чувствовать - начать нужно с определений, что значит "мыслить", "чувствовать". И не размытыми метафизическими, а конкретными - иначе как ты собираешься по ним схемы строить, как поймешь, что построил наконец то что надо? Мистический подход в познании чего либо бесполезен по причине невозможности определить, кто тебе нашептывает через внутренний голос - бог или дьявол. Ведь ни то ни другое не постижимо, а потому не отличимо.

Прости, но доказательств не было (по крайней мере достаточных). Доказательство - это то, что убеждает конкретного субъекта в чём-то. Если меня не убедили твои слова, то они доказательствами для меня не были. Но твои слова заставили меня задуматься, поверь. Просто конкретно мой взгляд на мир в любом случае имеет слишком огромную доказательную базу как для меня. У меня есть свой жизненный опыт, который подсказывает мне, во что верить больше. У нас он разный. Опровергнуть все мои взгляды - это дело неблагодарное и этим заставлять заниматься кого либо я уж тем более не прошу.

Я вообще много в чего не верю, во что сегодня верит научный мир. Но это не значит, что если я буду обучать ИИ, то буду передавать ему эти свои тараканы. Пусть я дам ему выбор, покажу варианты, могу рассказать почему я думаю так и так, но навязывать ему что-либо - это преступление. Это же касается и этой дискуссии. Тут возникло два варианта того как это устроено. Хотя по ходу дискуссии мне и третий в голову пришёл, но фиг с ним. Придёт время - я расскажу ИИ не только о своей версии сознания.

Я, лично я, сам в своей голове - понимаю это прекрасно. Весь сабж темы именно о том, как сложно это передать другим. То что я понимаю и ощущаю - это черный ящик. Я могу только передать, что вижу черный ящик, но описать что в нём - сложно.

Попытка дать определения есть в мейн посте. Ну и сразу наделять его чувствами и мыслями мне не обязательно. ИИ для меня технология по достижению очень сложных целей (как для человека), первоначально, поэтому всё что достигнет для меня определённых целей (любой интрумент, даже без зачатков разума) - проходит мой тест и я считаю это ИИ, либо очень хорошим подражателем интеллекта. А мыслит оно, чувствует оно - мне это не важно. Это будет важно потом.

Как и сказал, когда оно сможет достигать других сложных целей, которых я и другие люди достигнуть не могут. Это весь критерий. А от него строятся и схемы и прочее. Когда придёт время достигнуть цели "понять ощущения" - построятся ещё схемы.

И всё же, основа твоих рассуждений - материализм. Метафизика. У меня основа рассуждений другая, более спицифичная и вообще редкая среди людей. Отсюда и приходилось именно мне прибегать к метафизике напрямую, а ты на неё просто неявно ссылался, т.к. относишься к доминирующей философской концепции, которую объяснять никому не надо. Мы не в равном положении.

Ну ты материалист, я адепт существования несуществующего. Как неожиданно, что у нас могут быть противоречия. Твои нынешние слова наделены каким-то слишком эмоциональным фоном. Будто впервые в такую ситуацию попадаешь, когда у людей базис размышления иной.

Ну другой базис и другой. Чё бубнеть-то? Твою идею бота и механизмы его работы я понимаю даже при разных базисах. Есть у него сознательные ощущения или нет - для меня вопрос не функциональности, а этики. Он и без них будет функционален.

Уж Нан как никто другой знаком с такими ситуациями :)

Ну а я о чём?)

Мистики понимают одиозность их представлений на мировоззренческом сайте, но, как правило не спешат раскрываться, тратя время других участников. Время тратится попусту потому как базовое мировоззрение определяет и базовый контекст, так что слова, произнесенные в расчета на научное мировоззрение, оказываются выброшены зря. И это неэтично.

В чём конкретно мистичность моих суждений?

Этому способствует естественное религиозное чувство, возникающее при осмыслении невероятной сложности и подавляющей грандиозности явлений природы в сопоставлении с собственными возможностями, когда срабатывает древний стиль поведения "преклонение пред несоизмеримо более сильным"

Где конкретно "преклонение пред несоизмеримо более сильным" усматривается в моих текстах?

В таких теориях обычно используются интригующие как бы научные слова вроде: энергия, фракталы, информация, голограмма, синергия, парадигма и подобные

Если выбрать наиболее повторяющееся в разных теориях наукообразное слово, то это будет "энергия"

Как и всеми этими понятиями я в своём мировоззрении не оперирую. Или слово "объект" и "существует" - дофига научные?

Я этот разговор для себя впустую потраченным не считаю. Ну а то что вам всем на форуме оно нанесло вред - ну это не мои проблемы)) Я свой прок получил.