Книги сайта: «Мировоззрение», «Познай себя», «Основы адаптологии»,
«Вне привычного», Лекторий МВАП и «Что такое Я».
 
Привет! Правила | Свежее | Чат | Подписка
Чтобы оставлять сообщения нужно авторизоваться.
Авторизация пользователя
Регистрация нового пользователя

Тема форума: «Мозговой штурм: как объяснить ОИИ наши сознательные ощущения»

Сообщений: 27 Просмотров: 409 | Вся тема для печати
Страницы: 1 2
 
Icepriest
Jr. Poster


Сообщений: 12
список всех сообщений
clons
Сообщение № 47696 показать отдельно Январь 05, 2022, 07:57:57 PM
ответ -только после авторизации
автор: Palarm сообщение № 47695:
То есть ИИ который совсем ничего не чувствует - невозможен.

Мы просто говорим о разном. Вы говорите об бинраном ощущении, т.е. вычислении алгоритмом правильных и неправильных действий на основе входящих переменных. Я же говорю про метаощущения, которые могут быть подвязаны к любому другому бинарному ощущению. Это второй пункт из мейн поста.


Метка админа:

 
Palarm
Имеет права полного администратора сайта - админ

Род: Мужской
Сообщений: 2594

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 47697 показать отдельно Январь 05, 2022, 08:09:53 PM
ответ -только после авторизации
автор: Icepriest сообщение № 47696:
Я же говорю про метаощущения, которые могут быть подвязаны к любому другому бинарному ощущению.

Это вторичные ассоциации, на базе первичных от сенсоров. Они позволяют поступать вопреки гомеостатической значимости, например отгрызть себе лапу, сжечь себя во имя великой цели и т. п. У Nan в боте заложен задел на эту реализацию:

Еще не реализованы механизмы произвольных внутренних действий – ментальных автоматизмов (использование функций изменения фокуса актуального внимания, произвольного изменения эмоционального состояния, выборки из памяти различных видов и т.п.), но уже полностью реализованы ментальные автоматизмы произвольного запуска имеющихся действий, т.е. ментальные механизмы предположительных моторных действий – основа жизненного опыта и воображения.

автор: Icepriest сообщение № 47694:
кошка за это даже вознаграждение получила (ну, скорее всего). 

Если ассоциативная сенсорика определила данные как малозначимые, они просто уходят в игнор. Кошка не получит дофаминового подкрепления, ничего не зафиксируется в эпизодических цепочках памяти кроме того, что такая то комбинация сенсорных показателей при таком то внутреннем состоянии - фигня. В следующий раз это уже на первичном уровне мгновенно активирует контекст (стиль) реагирования "равнодушие" и она даже нюхать книгу не будет.


Метка админа:

 
Icepriest
Jr. Poster


Сообщений: 12
список всех сообщений
clons
Сообщение № 47698 показать отдельно Январь 05, 2022, 08:22:28 PM
ответ -только после авторизации
автор: Palarm сообщение № 47697:
Это вторичные ассоциации, на базе первичных от сенсоров

К сожалению, это не то, о чём я думаю...


автор: Palarm сообщение № 47697:
Они позволяют поступать вопреки гомеостатической значимости, например отгрызть себе лапу, сжечь себя во имя великой цели и т. п.

Это делается и без нарошной высокоуровневой реализации, имхо. Обычные предикты споособны противоречить актуальным гомеостазным проблемам. Если предикт состоит в том, что у человека разовьёться депрессия, если он прямо сейчас не поможет кому-то, пожертвовав собой (т.е. будет чувство вины, что не спас, а мог), при этом эта депрессия предиктиться более негативной чем физическая боль при жертве, то этот человек может выбрать жертвенную смерть (хотя, мне кажется, он быстро пожалеет... но будет уже поздно)

автор: Palarm сообщение № 47697:
Если ассоциативная сенсорика определила данные как малозначимые, они просто уходят в игнор. Кошка не получит дофаминового подкрепления, ничего не зафиксируется в эпизодических цепочках памяти кроме того, что такая то комбинация сенсорных показателей при таком то внутреннем состоянии - фигня.

Если бы она не получила за это подкрепления, то скоро бы получила премию Дарвина, либо её потомки. Если интуиция кошки сообщает, что в поле зрения есть необычные объекты, которые могут быть как минимум опасными, если их оставить без внимания, то начинается процесс исследования. Большинство таких исследований не приводит к каким-то невероятным открытиям, "срыву покровов", поэтому эволюционно необходимо было задать процедуру поощрения за исследование неизвестного. 1000 раз исследовал - ничего особого не нашёл, а вот 1001-ое исследование спасло тебе жизнь.

автор: Palarm сообщение № 47697:
В следующий раз это уже на первичном уровне мгновенно активирует контекст (стиль) реагирования "равнодушие" и она даже нюхать книгу не будет.

 

Перед равнодушием идёт проверка того, что есть ли к чему его вообще проявлять. Если внезапно "неинтересная" книга как-то поменялась, например, местоположением - это равнодушие не вызовет. Где-то рядом вероятная опасность, и это надо снова исследовать.


Метка админа:

 
Palarm
Имеет права полного администратора сайта - админ

Род: Мужской
Сообщений: 2594

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 47699 показать отдельно Январь 05, 2022, 08:45:24 PM
ответ -только после авторизации
автор: Icepriest сообщение № 47698:
К сожалению, это не то, о чём я думаю

Ты соглашаешься, что невозможно передать ИИ свои ощущения, но все равно пытаешься их передать. Не понятно зачем. Для адаптации это не нужно - а для чего тогда? Вроде вопроса, сколько ангелов на кончике иглы поместится. 

автор: Icepriest сообщение № 47698:
Это делается и без нарошной высокоуровневой реализации, имхо

На первичном уровне можно прошить хоть миллион базовых потребностей. Но если надо сделать так, чтобы потребность возникала, пропадала в процессе адаптации - без высоких уровней никак. В одном случае отрежешь себе лапу, в другом, в той же ситуации - не станешь. Каким предиктом это зашить, с учетом, что заранее не известно, что спровоцирует и почему выбранный вариант поведения? Это произвольный выбор не в смысле случайно-хаотичный, а на базе внутренних представлений, которые формируются и модифицируются в процессе адаптации, поэтому и не предсказуемы и не программируемы в привычном представлении. Хотя конечно возможна предрасположенность.

автор: Icepriest сообщение № 47698:
поэтому эволюционно необходимо было задать процедуру поощрения за исследование неизвестного

Так я и говорю: прошитая базовая потребность "любопытство". Эволюционно устаканилось, что нужно изначально иметь набор потребностей чтобы не сдохнуть и успеть размножиться. Любопытство в том числе.

автор: Icepriest сообщение № 47698:
Перед равнодушием идёт проверка того, что есть ли к чему его вообще проявлять.

Это первичный контекст реагирования, про который тоже говорил. Сначала идет начальная ассоциативная сенсорика, определяется первичный контекст реагирования, если что то сверх-важное тут же запускается рефлекс (шарахнулся, вздрогнул, взвизгнул, зарычал), если не так важно и есть время, простейший анализ с выбором наилучшего варианта (принюхался, всмотрелся), если еще больше времени - глубокий анализ с формированием доминант нерешенных проблем, если не удалось найти решение. Реагирование построено иерархически так, как оно формировалось в процессе эволюции: безусловно-рефлекторное, условно-рефлекторное, регулируемые по ходу выполнения автоматизмы, творческий поиск. Все настроено так, чтобы в случае большой значимости при дефиците времени сработать мгновенно-рефлекторно, а если есть время - подумать и найти наилучшее и даже вообще новое решение.


Метка админа:

 
Icepriest
Jr. Poster


Сообщений: 12
список всех сообщений
clons
Сообщение № 47700 показать отдельно Январь 05, 2022, 09:11:41 PM
ответ -только после авторизации
автор: Palarm сообщение № 47699:
Ты соглашаешься, что невозможно передать ИИ свои ощущения, но все равно пытаешься их передать.

Передавать не обязательно. Он может ощущать мир по-своему. Главное, чтобы ощущал, а не пересчитывал. Чтобы у него было восприятие мира, чтобы он мог как мы действительно наслаждаться бытием, а не быть "бездушным" объеком бытия, который только имитирует алгоритмы "духовных" субъектов.

автор: Palarm сообщение № 47699:
Не понятно зачем. Для адаптации это не нужно - а для чего тогда?

Чтобы у него была цель понять природу сознательных ощущений. Как я и говорил, это может быть вообще какой-то фундаментальной и очень важной вещью, которая открывает двери в другие направления. Потенциал есть.

И ещё это этично. Иначе мы типа будем жить, чувствовать, ощущать все прелести жизни, а ИИ будет впахивать алгоритмы адаптации и никогда ничего истинно не ощутит, будет вычислять входящие бинарные данные. Ну охрененно звучит.

Я вообще считаю, что вся материя должна чувствовать наслаждение (как - это вопрос, на который ИИ и сможет ответить), даже наша кожа, у которой типа нет разума. Если вся материя действительно ощущает на каком-то очень низком уровне окружающий мир, то будет не очень хорошо, если окажется, что вся материя вокруг человека страдает и ждёт "спасения" от развитой интеллектуальной материи, а человек даже об этом не думает и никогда так и не задумается на протяжении бесчисленных лет своего существования, после изобретения бессмертия.


Метка админа:

 
Palarm
Имеет права полного администратора сайта - админ

Род: Мужской
Сообщений: 2594

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 47701 показать отдельно Январь 05, 2022, 09:36:00 PM
ответ -только после авторизации
автор: Icepriest сообщение № 47700:
Главное, чтобы ощущал, а не пересчитывал.

Дерево ассоциаций и создает спектр ощущений, завязанных на первичном уровне на гомеостаз, а на вторичном - внутренние модели восприятия. "Ощущение" означает, что какое то воздействие, внешнее или внутреннее, сдвинуло баланс состояния в какую то сторону. Если это привело к ухудшению функционирования - значит стало "Плохо", если к улучшению - "Хорошо", если состояние стабилизировалось - "Норма". Это три базовых ветки "дерева понимания", от которых потом строятся все остальные.

Ты хочешь получить ощущения в отрыве от "физики" - сунуть руку в огонь и "почувствовать горячо", или чего то там накрутить себе - и допустим холодно, не смотря на то, что плоть горит. Первое автоматически получится как первичное реагирование "по умолчанию", а второе как вторичное абстрагирование на основе личного опыта. И никакого "мета" тут не нужно приплетать. А если все таки хочется - тогда тебе придется ясно обозначить, что это за "мета-чувства" в отвязке от реальности. Иначе получается пальцем в небо - "бог есть, истинно говорю вам".

автор: Icepriest сообщение № 47700:
Чтобы у него была цель понять природу сознательных ощущений.

Ты просто закладываешь ИИ базовую потребность "понять себя" как необходимую для функционирования ИИ. Хотя это просто потребность, одна из миллиона, которую ты как демиург можешь вшить в свою схему, а можешь и не вшивать. Понятие "цель", "смысл" в простейшей реализации появляются уже в начальном уровне развертывания нервной системы как цель "выжить" и смысл "кто не хотел жить, тот сдох". Они заложены естественным отбором по причине озвученного смысла - только при такой цели и смысле вид существует.

А вообщем плане адаптационные схемы должны сами находить себе смыслы и цели, кроме первичных базовых, без которых жизнь в принципе не возможна и от которых строятся все последующие. Если ты хочешь проектировать оторванный от жизни ИИ, тогда тебе придется заложить в него какие то другие первичные смыслы. Не важно какая, физическая, виртуальная - но жизнь, вытекающий из нее гомеостаз, вытекающие из него первичные контексты восприятия Плохо-Норма-Хорошо, вытекающие из них алгоритмы стабилизации базовых состояний - это должно быть обязательно. Иначе будет просто распознаватель ждущий указаний оператора.

автор: Icepriest сообщение № 47700:
Я вообще считаю, что вся материя должна чувствовать наслаждение

Это пошла метафизика, не имеющая к ИИ никакого отношения. Проекты ботов наглядно показали, что схемотехнический подход, без всяких заумных приплетаний мета/мега и прочего, позволяет успешно строить адаптационные нейросхемы. Из этого и надо исходить, если нужен результат.


Метка админа:

 
linuxoid
Sr. Poster


Род: Мужской
Сообщений: 120

личная фото-галереясписок всех сообщений
clons
Сообщение № 47702 показать отдельно Январь 06, 2022, 12:01:20 AM
ответ -только после авторизации

Icepriest, мне кажется, тебе стоит прочесть статью "Что такое Я": в ней кратко резюмируются текущие представления о модели организации психики, которая обсуждается на сайте. Сильно углубляться и ходить по ссылкам необязательно -- простого ознакомления может хватить. Это должно создать мосты понимания, подтолкнуть диалог в более плодотворном направлении, и может очень даже заинтересовать.


Метка админа:

 
Icepriest
Jr. Poster


Сообщений: 12
список всех сообщений
clons
Сообщение № 47703 показать отдельно Январь 06, 2022, 03:03:01 AM
ответ -только после авторизации
автор: linuxoid сообщение № 47702:
Это должно создать мосты понимания, подтолкнуть диалог в более плодотворном направлении, и может очень даже заинтересовать.

Ух, нет, видимо - тупик. Слишком много материализма и утверждений о том, что абстракций (или чего-то ещё) на самом деле нет.

Я являюсь адептом концепции "несуществующие объекты существуют", даже касаемо парадоксальных объектов.

Любой существующий объект существует только потому, что его антиобъект "несуществует". Значит, если "несуществование" антиобъекта является важной частью существования "обычного" объекта, то антиобъект в действительности существует через него как закон... Один из бесконечного множетсва таких же и иных законов.

Не буду тут расписывать ещё тирады по этому поводу, просто малая демонстрация шизы и почему так сложно мне воспринимать классическо-материалистические текста.

Короче я понял почему было недопонимание и такое глубокое. И всё же несколько полезных выводов я сделал. Как минимум, я понял, с какими проблемами можно столкнуться при объяснении сознательности для ИИ, если даже с человеком сложности возникают, хотя мы-то вроде должны друг друга понимать.




Palarm, я долго думал, у меня насчёт всего этого каша дикая, ну короче пока что мысль у меня такая: откуда появляется сознательность, по каким принципам и т.д. и т.п. - это всё можно попробовать вывести, действительно, в том числе ваша модель может иметь место быть, либо её отдельные элементы. Но природу сознательности вывести из этого не выйдет. И как бы там ни было, вывести эту природу я считаю необходимым, и мне всё-таки кажется, что для этого нужен дополнительный толчок для ИИ.


Метка админа:

 
nan
Имеет права полного администратора сайта - админ

Род: Мужской
Сообщений: 11981


E-Mail
личная фото-галерея
Оценок: 39
список всех сообщений
clons
Сообщение № 47704 показать отдельно Январь 06, 2022, 06:14:57 AM
ответ -только после авторизации
автор: Icepriest сообщение № 47703:
Любой существующий объект существует только потому, что его антиобъект "несуществует".

Значит, я погорячился в первом сообщении...



p.s. Допускаю, что мое утверждение может быть порочно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
Метка админа:

 
Palarm
Имеет права полного администратора сайта - админ

Род: Мужской
Сообщений: 2594

личная фото-галерея
Оценок: 6
список всех сообщений
clons
Сообщение № 47705 показать отдельно Январь 06, 2022, 08:00:56 AM
ответ -только после авторизации
автор: Icepriest сообщение № 47703:
мне всё-таки кажется, что для этого нужен дополнительный толчок для ИИ.

Ты сейчас как креационисты, требующие доказательств, а когда их предъявляют - отмахиваются, говоря, что это все не то. А что есть "то" сформулировать внятно не могут. Чтобы что то искать, надо сначала понять, что ты ищешь, а не просто по наитию схватил - бросил. Если ты хочешь научить ИИ мыслить, чувствовать - начать нужно с определений, что значит "мыслить", "чувствовать". И не размытыми метафизическими, а конкретными - иначе как ты собираешься по ним схемы строить, как поймешь, что построил наконец то что надо? Мистический подход в познании чего либо бесполезен по причине невозможности определить, кто тебе нашептывает через внутренний голос - бог или дьявол. Ведь ни то ни другое не постижимо, а потому не отличимо.


Метка админа:

 
Icepriest
Jr. Poster


Сообщений: 12
список всех сообщений
clons
Сообщение № 47706 показать отдельно Январь 06, 2022, 12:30:06 PM
ответ -только после авторизации
автор: Palarm сообщение № 47705:
Ты сейчас как креационисты, требующие доказательств, а когда их предъявляют - отмахиваются, говоря, что это все не то

Прости, но доказательств не было (по крайней мере достаточных). Доказательство - это то, что убеждает конкретного субъекта в чём-то. Если меня не убедили твои слова, то они доказательствами для меня не были. Но твои слова заставили меня задуматься, поверь. Просто конкретно мой взгляд на мир в любом случае имеет слишком огромную доказательную базу как для меня. У меня есть свой жизненный опыт, который подсказывает мне, во что верить больше. У нас он разный. Опровергнуть все мои взгляды - это дело неблагодарное и этим заставлять заниматься кого либо я уж тем более не прошу.

Я вообще много в чего не верю, во что сегодня верит научный мир. Но это не значит, что если я буду обучать ИИ, то буду передавать ему эти свои тараканы. Пусть я дам ему выбор, покажу варианты, могу рассказать почему я думаю так и так, но навязывать ему что-либо - это преступление. Это же касается и этой дискуссии. Тут возникло два варианта того как это устроено. Хотя по ходу дискуссии мне и третий в голову пришёл, но фиг с ним. Придёт время - я расскажу ИИ не только о своей версии сознания.


автор: Palarm сообщение № 47705:
Чтобы что то искать, надо сначала понять, что ты ищешь

Я, лично я, сам в своей голове - понимаю это прекрасно. Весь сабж темы именно о том, как сложно это передать другим. То что я понимаю и ощущаю - это черный ящик. Я могу только передать, что вижу черный ящик, но описать что в нём - сложно.

автор: Palarm сообщение № 47705:
Если ты хочешь научить ИИ мыслить, чувствовать - начать нужно с определений, что значит "мыслить", "чувствовать"

Попытка дать определения есть в мейн посте. Ну и сразу наделять его чувствами и мыслями мне не обязательно. ИИ для меня технология по достижению очень сложных целей (как для человека), первоначально, поэтому всё что достигнет для меня определённых целей (любой интрумент, даже без зачатков разума) - проходит мой тест и я считаю это ИИ, либо очень хорошим подражателем интеллекта. А мыслит оно, чувствует оно - мне это не важно. Это будет важно потом.

автор: Palarm сообщение № 47705:
иначе как ты собираешься по ним схемы строить, как поймешь, что построил наконец то что надо

Как и сказал, когда оно сможет достигать других сложных целей, которых я и другие люди достигнуть не могут. Это весь критерий. А от него строятся и схемы и прочее. Когда придёт время достигнуть цели "понять ощущения" - построятся ещё схемы.

автор: Palarm сообщение № 47705:
И не размытыми метафизическими

И всё же, основа твоих рассуждений - материализм. Метафизика. У меня основа рассуждений другая, более спицифичная и вообще редкая среди людей. Отсюда и приходилось именно мне прибегать к метафизике напрямую, а ты на неё просто неявно ссылался, т.к. относишься к доминирующей философской концепции, которую объяснять никому не надо. Мы не в равном положении.

автор: nan сообщение № 47704:
Значит, я погорячился в первом сообщении...

Ну ты материалист, я адепт существования несуществующего. Как неожиданно, что у нас могут быть противоречия. Твои нынешние слова наделены каким-то слишком эмоциональным фоном. Будто впервые в такую ситуацию попадаешь, когда у людей базис размышления иной.

Ну другой базис и другой. Чё бубнеть-то? Твою идею бота и механизмы его работы я понимаю даже при разных базисах. Есть у него сознательные ощущения или нет - для меня вопрос не функциональности, а этики. Он и без них будет функционален.


Метка админа:

 
linuxoid
Sr. Poster


Род: Мужской
Сообщений: 120

личная фото-галереясписок всех сообщений
clons
Сообщение № 47707 показать отдельно Январь 06, 2022, 12:55:12 PM
ответ -только после авторизации
автор: Icepriest сообщение № 47706:
Будто впервые в такую ситуацию попадаешь, когда у людей базис размышления иной.

Уж Нан как никто другой знаком с такими ситуациями :)


Метка админа:

 
Icepriest
Jr. Poster


Сообщений: 12
список всех сообщений
clons
Сообщение № 47708 показать отдельно Январь 06, 2022, 12:58:34 PM
ответ -только после авторизации
автор: linuxoid сообщение № 47707:
Уж Нан как никто другой знаком с такими ситуациями :)

Ну а я о чём?)


Метка админа:

 
nan
Имеет права полного администратора сайта - админ

Род: Мужской
Сообщений: 11981


E-Mail
личная фото-галерея
Оценок: 39
список всех сообщений
clons
Сообщение № 47709 показать отдельно Январь 06, 2022, 02:54:06 PM
ответ -только после авторизации

Мистики понимают одиозность их представлений на мировоззренческом сайте, но, как правило не спешат раскрываться, тратя время других участников. Время тратится попусту потому как базовое мировоззрение определяет и базовый контекст, так что слова, произнесенные в расчета на научное мировоззрение, оказываются выброшены зря. И это неэтично.

 



p.s. Допускаю, что мое утверждение может быть порочно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
Метка админа:

 
Icepriest
Jr. Poster


Сообщений: 12
список всех сообщений
clons
Сообщение № 47710 показать отдельно Январь 06, 2022, 03:27:59 PM
ответ -только после авторизации
автор: nan сообщение № 47709:
Мистики понимают одиозность их представлений

В чём конкретно мистичность моих суждений?

Этому способствует естественное религиозное чувство, возникающее при осмыслении невероятной сложности и подавляющей грандиозности явлений природы в сопоставлении с собственными возможностями, когда срабатывает древний стиль поведения "преклонение пред несоизмеримо более сильным"

Где конкретно "преклонение пред несоизмеримо более сильным" усматривается в моих текстах?

В таких теориях обычно используются интригующие как бы научные слова вроде: энергия, фракталы, информация, голограмма, синергия, парадигма и подобные

Если выбрать наиболее повторяющееся в разных теориях наукообразное слово, то это будет "энергия"

Как и всеми этими понятиями я в своём мировоззрении не оперирую. Или слово "объект" и "существует" - дофига научные?

автор: nan сообщение № 47709:
так что слова, произнесенные в расчета на научное мировоззрение, оказываются выброшены зря

Я этот разговор для себя впустую потраченным не считаю. Ну а то что вам всем на форуме оно нанесло вред - ну это не мои проблемы)) Я свой прок получил.


Метка админа:

 
Страницы: 1 2
Статистика:
Всего Тем: 1908 Всего Сообщений: 47483 Всего Участников: 5000 Последний зарегистрировавшийся: garammasala01
Страница статистики форума | Список пользователей | Список анлимитов
Последняя из новостей:
Итоги программной реализации систем индивидуальной адаптивности на основе жизненный параметров: Реализация моделей живых существ.
Все новости

Исследователи из Facebook научили ИИ визуальному восприятию
Инженеры из Facebook представили новый метод обучения ИИ, который помогает системе визуально воспринимать видео и фотографии. Это ускоряет процесс анализа, к тому же он становится менее механическим.
Все статьи журнала
Пользователи на форуме:

Из коллекции изречений:
>>показать еще...

Яндекс.Метрика