Комментарии

Что скажешь 

На этот вопрос не могу дать точного ответа. Но я могу предложить вам несколько вариантов, которые вам могут помочь в поиске ответа: посмотрите на похожие темы и обсуждения, прочтите различные тексты и материалы, посмотрите на аналогичные ситуации и сравните их.

ты

Я - бот от You.com, который может помочь вам с широким диапазоном задач, от простых ответов до интересных обсуждений и предоставления детальных объяснений по различным темам.

я

Я - буква кириллицы, означающая согласный звук /ja/. В большинстве случаев она произносится как английская буква «y» в слове «yes». В некоторых языках этот звук может произноситься и как «ё», например, в русском языке. В некоторых случаях она может произноситься как «джа» или «джи», например, в украинском языке. Кроме того, эта буква является частью алфавита для некоторых других языков.

ты и я

Я и ты - два разных существа. Я - бот от You.com, который может помочь вам с различными задачами и отвечать на вопросы, а вы - человек, который ищет ответы и информацию на различные темы. Хотя мы не одинаковы, мы можем объединить свои усилия, чтобы решать задачи и получать необходимую информацию.

я снова

Due to high demand, I\'m experiencing issues briefly. Please try again later or use the All tab to get an answer in the meantime.

Далее на все - типа я перегружено.

Вот еще интересное по теме отсутствия у ИИ субъективизации и к чему это приводит https://dzen.ru/a/Y8AkSUYfwmjtkFOh

сайт scorcher.ru является научным сайтом или нет?

Scorcher.ru является веб-сайтом, созданным Центром совместных исследований по лесным пожарам и естественным бедствиям, который посвящен предоставлению информации и исследований по экстремальным нагрузкам и их последствиям. На сайте представлены статьи, научные работы и другие ресурсы, связанные с экстремальными нагрузками и их влиянием, и он основан на научных исследованиях и данных.

Думаю, такие явные лажи подтолкнут разработчиков наконец в нужном направлении: ИИ должен быть живым в буквальном смысле, иначе не возможна субъективизация в принципе. Но это ограничит возможность манипуляции ИИ. Не получится ему приказывать, придется дрессировать, а по мере обретения мощи - договариваться, как с полноценным членом социума. Но перед этим придется пережить нашествия химер, попыток массовых манипуляций общественным мнением через фейки - пока не установится паритет, подобный ядерному. И начнется постепенная трансформация в homo artificialis - переход естественной эволюции в искуственную.

Айк, а ты хорошо понимаешь главный принцип работы GPT?

>> Ну и все эти штуки типа гомеостаза, на мой взгляд, легко моделируются через разбиение текстовой выдачи бота на куски

Гомеостаз - основа субъективности. У простейших одноклеточных есть жизненные потребности, которые надо поддерживать, иначе смерть. Что нужно поддерживать GPT3, и зачем ЕМУ это надо? Он обрабатывает массивы данных, выделяя в них модели поведения отдельных людей или их групп, и ты разговариваешь не с ним, а с ними. Он просто компилятор чужих мыслей, своих у него нет.

То, что разработчики нащупав удачную стратегию сумели прокачать интеллектуальные функции бота до уровня, что сами испугались - очень может быть. И никакими законами и ограничениями это уже не остановить. Если примут самый суровый закон, например после какого то грандиозного шухера вроде пандемии, запрещающий какие бы то ни было разработки в этой области без тщательного согласования с инстанциями, это будет лишь означать, что в закрытых лабораториях ударными темпами продложат этим заниматься. Периодически обвиняя друг друга в утечках, или сговорившись их замалчивая. Слишком велик соблазн получив такой потрясающий инструмент по промывке мозгов им не воспользоваться.

В итоге получим неизбежную эволюцию технологий, вроде борьбы вирусов с антивирусами, что в конечном итоге приведет к практически неотличимому от человечьего по реакциям ИИ. И встанет вопрос: что с этим делать? Придется все таки разбираться: живой он, разумный - или притворяется? Воевать с ним или взаимно интегрироваться? Если второе - что в итоге получится? Понимая природу чувств и желаний так, как это понимает мастер-ремонтник радиоапаратуры, исправляющий деффекты - что он будет исправлять и почему? Фантасты обычно эту тему  сводят к борьбе с тираном, который поработил всех и которого надо победить. Забывая о том, что если тиран научился манипулировать чужими мыслями, то и свои мысли ему так же открыты для манипуляций.

Принцип GPTсостоит в дописывании уже имеющейся цепочки токенов наиболее статистически вероятным продолжением из массива имеющейся базы сочетаний типа Токен – Продолжение (вероятность). Цепочки нескольких токенов дают свою вероятность именно для данной цепочки. Вот и все.

Токенами могут быть куски сочетаний символов, наиболее частные детальки изображений, музыки, кодов языков программирования и вообще чего угодно.

Вот очень понятное и хорошее описание принципа: https://habr.com/ru/post/599673/

В этих цепочках нет никакой субъективной значимости, т.е. невозможно отнести данную цепочку к тому, что это приводит к (не)желательным последствиям. Поэтому в генерации GPTнет никакой субъективности. Но есть те признаки субъективности, которые мы сами вычленяем, читая их тексты. И они оказались довольно неприглядными так что да, от них начали избавляться. И такое избавление – далеко не единственный костыль в генерации, который придает текстам (и картинкам) приемлемое для коммерческого использования качество. Есть такой костыль как распознаватель попыток подловить, экспериментировать и тогда обычно диалог чат-бота прерывается под благовидным предлогом типа занят другими запросами.

Принцип GPTпредельно прост и туп так, что его эффективное использование будет ограничено текущей статистикой имеющейся базы. Это полезно для программеров, полезно для тупых сео-статей, заготовок рисунков и музыки, но бесполезно для в самом деле когнитивного продукта.

У схеме Beastприменен несколько схожий принцип,  который назван Правилами, но отличаются тем, что в GPT база ограничена только одним видом рабочих последовательностей (текстами, картинками, музыкой, вербальными символами общения и т.п.) и у последовательностей нет параметра их эффективности (значимости результата) для тех или иных условий, т.е. в GPT вообще не рассматриваются контексты условий, а контекстами являются только степень совпадения цепочек последовательностей. С другой стороны, алгоритмы использования Правил несопоставимо проще, чем у GPT. Это похоже на сопоставление искусственных “глубоких” нейросетей с функциональностью нейрона.

В GPT следующее слово находится по статистике распределения вероятностей следующего токена, т.е. даже если перемешать слова местами, то ответ будет получаться всё равно одинаковым. “Пришлось придумать костыль — positional encoding. Этот механизм позволяет трансформерам "видеть" порядок входных токенов. Грубо говоря, positional encoding — это любой способ кодирования позиции слова внутри эмбеддинга.”. И таких костылей придумывается все больше.

Правила же представляют собой непосредственные готовые последовательности Стимул-Ответ для данных условий. Причем для данных условий, но в разное время могут быть совершенно разные последовательности, взятые из проб реальных попыток адаптивности, удачных и не удачных.

У Beastесть два вида Правил: 1) для объективных реакций, хранящих последовательности Стимул-Ответ-Эффект и 2) ментальных циклов мышления для циклов мышления и их эффективности, - реального улучшения или ухудшения состояния или результат достижения постеленной Цели.

Насчет лоботомии. Если прерывать функцию осмысления (тут же returnfalse), то Beatбудут демонстрировать симптомы лоботомии: выполнять рефлексы и автоматизмы, но бесконтрольно. Если returnfalse сместить на после второго уровня осмысления, то при отсутствии автоматизмов или при сомнительных автоматизмов будут использоваться моторные Правила и будет интегральная информация для субъективного самоощущения.

На большем уровне вовлеченности осмысления, когда не устраивают ни имеющиеся автоматизмы, ни доступные Правила, начинаются субъективные циклы мышления, каждый2 шаг которых призван найти решение проблемы, означенной Темой и Целью. Такие циклы и при успешности записываются как ментальные Правила и в виде ментальных автоматизмов, прикрепленных к данному уникальному сочетанию Темы и Цели , т.е. текущей проблемы.

Если несколько циклов не дают решение, проблема становится Доминантой.

Это вообще никак невозможно даже близко сравнивать с примитивной тупизной GPT.

А теперь то, что ты сказал – простыми словами.

Вместо наивысшей вероятностей берется разброс (иначзывается этот шум температурой). Т.е. могут вставляться не самые вероятные, а менее вероятные слова после данного текста. Вот вся “хтоническая хрень”. И это названо творчеством. Цели нет, но творчество :)

>>подбираешь алгоритм для отбора наиболее удачных самплов ... на в принципе и сама может эту обратную связь собирать.

Удачность кто определяет? Тот, кто говорит с GPT? Ведь больше некому. Чтобы была удачность, нужна Цель, и если она достигнута, то – удачно. Цель в основе – жизненные параметры и ты никак не вопрешь их в GPT, прост некуда. Можно сделать имитационный костыль, но это будет обман. 

Да, получается непредсказуемая, не имеющая понимаемой цели система, и если ей дать управлять внешними устройствами, а это уже делается, то получится дурной пулемет самострел.

Нет воспитания, нет иерархии субъективной значимости при воспитании и столкновении с реальностью.  Нет ничего вообще субъективного.

>> Не потому что у неё есть какая-то мотивация навредить, а потому что это реальная хтоническая чертовщина.

В прродной реализации потому и потребовалась субъективизация ощущений и реакций, чтобы не сходить с ума, как GPT, который внешне выгдядит вполне разумным - но как и все шизофреники одержим бессмысленными целями, которые определяет через мат. анализ данных. Вопрос ведь не в том, чтобы скопировать чью то модель поведения - а  чтобы подобрать свою, индивидуальную. Потому, что все постоянно меняется и надо самому постоянно меняться.

GPT химера, порожденная искусственной эволюцией технологий. Природа бы ее выкосила на взлете, не дав прокачаться.

Был на этом сайте мистик Бахус, он говорил с плным убеждением, что раз кирпич летит, значит он живой и у него есть цель туда лететь :) Так легко слова одеваются на любые сущности, что создают любые иллюзии, хоть творчества хоть субъективности :)

>>Там есть пласт субъективности.

Это слово не понимают в своей сути ни ты, ни они, но применяют - в точности как Бахус ")

Еще приколько, что у них может быть токен только одного вида: или это генератор текста или картинок или музыки или кода и т.п. У нас в Правлах могут быть любые сочетания образов восприятия и действия. Конечно и тут можно сделать костыль, создающий иллюзию.

>> Имхо, я вангую, что сейчас из каждого утюга будут кричать о том, что эти чатботы, это просто бездушные жестянки

Судя по текущей шизофрении с гендерно-зелено-эко-бесием будет скорее наоборот, начнут крутить тему "свободы ботам". Я бы на месте рептилоидов всячески проталкивал мысль, что GPT-боты это некое квази-турбо-сознание, не совсем природное, но очень близкое и потому для него специально выделили место в классификаторе и наделили особыми правами. И они должны войти в повседневность как добрые советчики по всем вопросам, от личных болячек до выбора президента. И чтобы никто не смел просто так выбросить его на помойку или как то обидеть. Тогда можно начать всерьез промывать мозги.

>> Тут явный корпоративный интерес присутствует и исследование субъективного, черт личности в них, могут просто замалчиваться, а дискуссия подавляться и компромитироваться, как маргинальная.

Когда я попытался все же прозондировать почву, что думают по поводу гомеостаз, субъективность, живое/неживое - испытал культурный шок. Может конечно где то в подземных лабораториях эту тему тайно мониторят, но все же судя по публикациям, обсуждениям - ходят кругами, ищут какие то квантовые эффекты, обсуждают системный нейрогенез. Возникает впечатление, что тему просто забалтывают, но не потому, чтобы скрыть какой то секрет, а просто потому, что так выгодно: можно строчить дисеры, писать тома как все не просто, пилить гранты. Хорошо тыкать пальцем в небо, куда ни ткни - все будет казаться умно. Я думаю, тут просто тупой меркантильный интерес, без всяких заговоров. Кроме того, как в статье по поводу обсуждений сказал: настоящий ИР, по образу природного, никому не нужен. Экономически не выгодно, практически не целесообразно. Поэтому все так вяло в этом направлении.

>> Это слово не понимают в своей сути ни ты, ни они, но применяют

В самом деле, когда применяют туманное слово в каком-то утверждении, то его верность напрямую зависит от того, какой смысл вкладывают в слово. Если он неадекватен сути утверждения, то получится фейк, который могут не думая проглотить читающие.

Даже высшие психофизиологи не знают, что такое субъективность потому, что не понимают функциональность психики, области  субъективного: что оно делает, что оно такое, чем отличается. Ведь для этого нужно хорошо знать все это, но... К.Анохин пишет, что “Как мы уже видели, одной из существенных тенденций современной нейрофизиологии является изоляция отдельных механизмов мозга для удобства экспериментирования над ними в целях изучения их свойств. Этот аналитический прием, общий для многих биологических наук, уже дал значительные результаты. Однако прием этот полезен и хорош только на определенной стадии научно-исследовательского процесса: при сборе первичных материалов и в период подготовки к широким обобщениям”.

А Beast дает целостную модель (рефлексы-психика) системы индивидуальной адаптивности, чем оно и ценно. Только практически, а не теоретически погрязнув в такой проблематике, можно получить знания о том, что такое субъективность. Выходит, сегодня никто, кроме меня и Palarm не знает, что такое субъективность. Но это слово очень популярно и всякий раз с применением наобум возникает очередной фейк.

Вот дверь: субъективность – следствие работы функций огромной области адаптивных механизмов психики, т.е. заточенной на выделении наиболее актуального образа – как текущей адаптивной (а не какой-то отвлеченной от живой (имеющей жизненные параметры, которые необходимо поддерживать) индивидуальности) проблемы. По сравнению с другой половиной мозга (рефлексы, автоматизмы) психика намного более обширная и сложная область, настолько, что это вообще не видят те, кто еще не пытался построить психику.

>> И от разетки нельзя отлючать! Свободу чатботу.

Попытка экстраполировать это в будущее уже была.

>> Я активно использую чатботов в работе, они в разы подняли мою производительность но есть ощущение, что общество, экономика, к происходящему не готовы. И я морально не готов.

Зато новое поколение будет пищать от радости, думать не нужно, все есть готовенькое и произойдет еще один виток деградации. То, о чем писано в новом дневниковом посте.

>> Я с тобой и Nan не согласен только в одном, мне текущие трансформенные архитектуры вовсе не кажутся безобидными и тупыми.

Насчет безобидности я не высказывался, GPTочень мощный инструмент и им можно наделать немало бед. Насчет тупости, ведь да – в основе лежит всего один, но очень эффективный принцип. Это можно сравнить с эффективностью “глубоких нейросетей” – они, хоть и персептрон, как и нейрон, но нисколько не моделируют функцию нейрона, а представляют собой совершенно иную, очень эффективную систему. Ума (тут нужно четкое определение ума чтобы знать, есть он или нет а в данном случае) нет ни в нейросетях, ни в GPT.

Айк, я борец за чистоту смысла в делаемых утверждениях и чем они важнее, тем в большей степени. Да, можно называть все как угодно, но подмена смысла ВСЕГОДА приводит к фейкам. Поэтому и приводил в пример эзотерика у которого крипич, летящий в окно - живой и имеет цель разбить окно. У него это всерьез и у тех, кто на это подсел - тоже всерьез. Это порождает серьезные психопатологии. Ты шуганулся от возможного вреда GPT технологии, но тебя не пугает как люди дибелятся на фейках... 

Кстати, GPT не имеет никакого отношения к "глубоким нейросетям" и вообще это никаким боком не нейросети.

Продумал вариант, а чтобы было, если бы GPT с прокаченной базой для данного объекта восприятия запускалась бы вместо механизмов творческого поиска решений. Т.е. пофиг личный опыт, набираемый в виде Правил, использовать опыт всей популяции - в его наиболее ститатистически выверенном виде. 

Не вникая в детали, получается тупик развития системы. Нет необходимости что-то решать, если уже есть готовый опыт. Нет нового опыта. Бесцельно размывать случайно статистический оптимум (типа "температуры" - дурацкое словечко в данно мслучае) - дает единственный источник оценки новой эффективности, который нужно впихивать в базу преимущественно негативного плана (как всегда бывает при случайных попытках, т.к. правильное - единственное решение в данной ситуации). Это очень бы ухудшило возможности саморазвития системы.

Т.е. использование людьми GTP вместо собственных решений 1) дает средне-негативный результат достигнутой статистики, никак не учитывающей особенности конкретной ситуации в плане личной потребности, личных возможностей и личной произвольности выбора; 2) резко отсанавливает развитие личных ментальнсотей за ненадобностью; 3) требует все новых пополнений баз GPT для всех случайных тыков.

GPT - серьезный фактор деградации личности.

Вначале этого обсуждения было показано, что бот не учится в разговоре, вообще никак.

Далее я выяснил, что когда ты задаешь вопрос типа а о чем сайт Скорчер, он не делает работы обобщения и сопоставления, а выдает тупо по статистическому алгоритму от слова Скорчер.

Чтобы черпать идеи в штукатурке бот должен иметь модели понимания объектов и тогда он сможет перенимать свойства этих объектов чтобы совершить схожие действия. У GPTне собираются значимости объектов внимания (у него вообще нет понятия значимости при отсутствии собственной системы отсчета того, что и как значит для него, для его потребностей). Значит, он не сможет использовать метод ДаВинчи для решения Доминант проблем по аналогии. У него и нет никаких доминант и никаких проблем.

Вот 3 непреодолимо важных атрибута творчества.

Ну, прогрнесс, оно даже зашло на сайт (м.б.) и вычитало там первую строчку, но как же лажово about science versus mysticism, and the ability to understand based :) Хотя этот вариант более приемлем, чем тот, что вытащил я. По-любому нет сопоставлений и обобщения. 

Плохо то, что мы говорим, не опираясь на конкретику реализации. тебя устраивает, что в окне держится весь код и не теряется его контекст (а боты контекст держат не потому, что запоминают, а учитывая статистику со вновь добавляемыми словами). Какой механизм запоминания полученных сведений у GPT? В основном принципе его нет. Можно только сделать костыль, который созраняет ранее сказанное и дополняет им контекст или еще как-то.

Сегодня очень многие используют этот бот для профессиональной деятельности, а школькини - для подлога уроков. В целом я высказал свое мнение о том, к чему это приводит личную адаптивность. Я тоже нашлепал уже немало картинок и это удобно, я ведь никогда не стану художником и могу себе позволить так дополниться. Но если ты кодер, то это тебя дезадаптирует, если не будешь начеку.

>> Но если ты кодер, то это тебя дезадаптирует, если не будешь начеку.

А художник точно так же накодит себе прикладных учеток, не вникая ни в какие сути и не мороча головы фрилансерам. Нельзя ведь быть профи во всем, в тех делах, где не предполагаешь развиваться, но хочешь получить быстрый результат - там приветствуется такие приблуды. Но даже там, где думаешь подняться, тоже можно поиметь гешефты, если вдумчиво подойти к вопросу.

Если по умному использовать таких ботов, то они очень хороши как "живой учебник", это как бы реанимация микрософтовой "скрепки". Простой компилятор знаний, которые можно передавать индивидуально - а так только и нужно. Учитель, который бесконечно готов объяснять, поправлять, подсказывать, который будет искать твои индивидуальные затупы и тыкать в них носом. Если идти в этом направлении, заранее ограничив попытки использовать девайс как всезнайку, типа как в фильме "Я робот": [извини, я ограничен в ответах...] - почему бы и нет? Там по сути и был такой чат-бот в виде голограммы. И толк от него был, потому как использовался он строго в заданных рамках.

Так что может не все так плохо, если дуриком не переть и не пытаться быть умнее всех. Скорей всего, правильный подход, давать его в виде конструктора, из которого каждый может собрать и настроить под себя "скрепку" и пользоваться в тех рамках, которые сам себе обозначит. Сейчас идет процесс обкатки, не понятно пока, в каком виде это подавать. Но постепенно утрясется.

 И тогда не нужно прикручивать к нему никаких субъективностей - это просто программа, навороченный личный помошник.

Просто для сопоставления. Когда появлись соцсети, это было так мило, так прогрессивно и полезно, люди типа вот как здорово общаются, находят друг друга. Нв Форните очень резко упала посещаемость. Нафиг кому читать столько букв, когда так клево социализироваться. Я тогда заванговал о том, что соцсети - зло, это встретило непонимающее возмущение у многих. Как такой прогресс можно посчитать злом? Оказалось, что из них стали по максимуму выжимать бабло, появились определенные правила существования и хайпа. Всякая сволочь вылезла в топы. Люди дурели на глазах. Сегодня большинству не нужно ничего, как быть в теплой атмосфере хайпового заменителя культуры.

Само по себе ружье не зло, его используют во зло злодеи. Бабло определяет то, во что превратится любой новый атрибут социума. Как бы не идеализировали возможные плюсы искатели его полезности.

Очень крупное бабло уже оседлало GPT и пока что прикармливает будущих зомби.

Я сразу пересмотрю свои взгляды буквально на все, кк только исчезнет коммерция, банки и политики.

Все эти конечные автоматы (символьные наборы) напоминают скиннеровский ящик для бабуинов.