Игрушки с ИИ

Если добавить гомеостаз, то все остальное придется переделывать с нуля потому, что все и должно основываться на гомеостазе и иметь функции восстановления нормы. 

Первчиные распознаватели аудио/видео и программы моторных действий движения можно ведь просто использовать как прошитые по умолчанию сенсоры/действия. Нужно только добавить датчики гомеостаза и сформировать БУ-рефлексы на базе этих массивов.

Сейчас есть какие-то центры управления, заставляющие эти роботы делать что-то определенное, в зависимости от заранее заданных причин. После встройки гомеостаза причинами всех действий должны стать только состояния параметров гомеостаза, т.е. все прежнее управление нужно менять с нуля. Распознаватели картинок и речи к этому отношения не имеют, т.к. являются первичными сенсорными зонами, которые используются теми или иными системами управления. Вот у людей распознаватели слов, музыки, зрения – это зоны, предшествующие зонам рефлексов (в третичной теменной коре). Рефлексы срабатывают не потому, что появился какой-то сенсорный раздражитель, а потому, что он появился в определенном контексте состояния параметров гомеостаза, а рефлексы связывают такой сенсорный сигнал с текущей потребностью чтобы действие ее удовлетворяло.

Ну так я про это и говорю - просто перелинковать пускатели действий роботов с алгоритмов, которые у них прошиты на срабатывание датчиков гомеостаза. Например у нас в схеме Beast есть массив сенсоров слов и фраз - у робота это может быть еще более развито до уровеня распознавания зрительных, тактильных примитивов. У Beast есть начальный массив действий - у робота это могут быть алгоритмы перемещения в пространстве с обходом препятсвий, стабилизацией равновесия. Причем в разных стилях: идти, скакать, ползти, летать и т. д. Это как детеныш Гну, который едва родившись уже умеет бегать и прыгать. Просто у роботов это завязано на какие то алгоритмы, "глубокие обучения" - а если доработать их по нашей схеме, надо просто добавить систему гомеостаза (базовые параметры, контексты, схему связи с весами и торможениями), датчики выхода из нормы и пусковые триггеры для действий на основе срабатывания датчиков и контекстов. И тогда получится, что игрушка изначально "запрограммирована" только на самоподдержание жизнедеятельности, имеет некоторые потребности и вектор развития. Нужно ее воспитывать, дрессировать - как если бы это был к примеру щенок охотичьей собаки. И от того как воспитаешь зависит какой охотник получится. Может и вообще никакой.

Тут никто гарантий не даст - и это может оказаться проблемой для торгашей. Кто захочет покупать вещь без гарантии? А другая проблема - осознать, что это не вещь, а искуственное живое существо, которое имеет свои потребности с которыми придется считаться. Тут я думаю немало копий будет сломано в попытках разобраться, если ли у искуственного существа "душа" со всеми вытекающими: что допускается по отношению к нему, а за что можно схлопотать срок.

Постепенно, по-крупицам находятся разные элементы общего пазла, вот интересный пример, НО этих элементов достаточно много, проследить у природы уже даже на уровне рефлексов не получится из-за недостаточно достоверно обобщенных данных, а придумать все самим нереально. Так что еще очень долго будут тыкаться вслепую. А подсказки буквально всюду. Вот, сделали игрушки-роботы, у них есть аккумулятор, наверняка подумали о том, как поведение должно зависеть от разряда аккумулятора - прообраз гомеостаза. Но это - только тень из того, как организуется гомеостатическая адаптивность.

По ссылке кстати практическое подтверждение работоспособности алгоритмов оптимизации типа "зигзаг" в том смысле, что можно даже довольно сложные задачи типа "научиться ходить" сделать полностью рефлекторными, без участия элементов сознания. Это дает повод более широко использовать алгоритмы мозжечка просто как жестко прошитые алгоритмы, не пытаясь добавлять туда что то заумное.

https://youtu.be/DokLw1tILlw 

 У Yann LeCun тоже построение модели мира , причем дообучаемой. Но без гомеостаза. Угу , кусочки паззла то тут , то там. Вообще нужны ли слишком самостоятельные АИ ? Вроде как запрос не на субъекты , а на очень сообразительные автоматы. Проблема в том что автоматы не могут быть слишком сообразительными или могут ? То есть не появится ли параллельная ветка , как появилось глубокое обучение совсем не такое как в природе. В то же время человек при постоянно активности автоматизмов , кажется постоянно и сознание использует.

Альтернатива: или все возможности и направленность развития будут привнесены разработчиком  и тогда в принципе невозможна психика и ограничивается неимеющими собственной цели автоматами или все будет развиватьсчя на основе собственных целевых интересов.

Компромиссный вариант: гиборгизация. Например экзоскелеты с прошитыми шаблонами двигательных автоматизмов, где нужно согласовать пускатели с сигналами хозяина. Это значит, что обучение сложнейшим пируэтам будет подобно попытке "вспомнить утерянный навык". При этом встроенная система синхронизации девайса будет самостоятельно адаптироваться к сигналам хозяина, что будет восприниматься как "озарение" и в конечном итоге: посмотрел - и с первого раза повторил. Потому, что база нужных навыков уже прошита изначально и не нужно тратить годы на ее наработку.

Скорей всего так и будет потому, что слишком резкий переход к искусственному существу с полноценным интеллектом поставит сложнейшие этические и социальные проблемы его адаптации. А полу-искусственное существо оставит время юристам и политикам более плавно подвести социум к новым реалиям. Но все равно в конечном итоге встанет глобальная дилемма: точное понимание, как рождаются мысли, эмоции, стремления означает тут же породит соблазн манипулирования всем этим. Разумеется формально это будет строжайше законодательно запрещено, что означает секретные лаборатории, где ударными темпами наперегонки начнут разрабатывать скрытые способы манипуляции. И вот тут возникает точка перехода: если стремление манипулировать чужим сознанием так же легко раскладывается на составляющие, как и все прочие стремления - значит ли это, что оно так же попадает под манипуляцию? Только кем? Это как змея схватившая себя за хвост и начавшая поедать саму себя. Что то тут должно по идее возникнуть, какой то другой уровень развития нервной системы. Может идея бога, который за всем следит, все знает и справедливо судит, получит наконец свое материальное воплощение. Только есть подозрение, что нынешние элиты понимают это как автоматический пропуск себе на Олимп. В самом деле, капитализм, коммунизм, либерализм, демократия себя дискредитировали, нужно что то новенькое, забористое. Чтобы как обычно руками фанатиков и подонков загнать пинками человечество к новому тоталитарному счастью. Апокалипсис в «Терминаторе» это будет не война ИИ с людьми, а война насекомоподобных роботов, направляемых элитами против не желающих вступать в новый дивный мир, и разборки между конкурентами, желающими порулить в ЦУПе.

И даже если они понимают, что настоящий Скайнет в принципе не возможно контролировать, не ограничив его функционала, они видимо считают, что как минимум можно попытаться отодвинуть тот момент, когда понятие «элита» станет ненужным. А может просто услышали от своих прогнозеров, что через ххх-цать лет будет создан ИИ и решили в привычном автоматизме ветвления: кто контролирует ИИ – тот контролирует весь мир! И надо готовиться, рыхлить почву, чтобы первыми перехватить контроль. Но в глобальном смысле они рыхлят себе могилу.

Palarm , меня немного заинтриговала картинка из статьи Коротаева "математический анализ гипотезы сингулярности". Многие здравомыслящие люди со скепсисом относятся к подобным построениям.В любом случае стоит с большой осторожностью относится к попыткам интерпретации данного графика.Вроде как в целом получается что существует некоторая закономерность в увеличении сложности в природе и оная закономерность начинает проявляться чуть ли не с момента формирования Млечного пути.Если предпологать что закономерность все-же существует , тогда мы находимся в некоей предельной точке после которой темпы усложнения систем выйдут на некое плато. Дальше начинаются фантазии. Это не то что прогнозирует Курцвейл - в любом случае.Кстати и Панов и Коротаев говорят о появлении систем искусственного интеллекта , но оба достаточно скептично относятся к возможности существенно изменить график.Мне кажется обе альтернативы (автоматы и субъекты) будут реализованы , может как взаимодополняющие.В этичские и социальные проблемы я уже особенно не верю ( поглядывая на происходящее в мире) , а вот в экономическую целесообразность создания субъективных систем все упирается. В свое время М.Мински предлагал систему фреймов в качестве способа упорядочивания моделей мира в системах ии , но проблема была с сенсорной частью. Я вижу некое сходство между адаптивными системами и тем направлением мысли (скорее концептуальное) и здесь проблема с сенсорной частью решена, но не могу понять , насколько сложное поведение можно организовать не делая систему слишком самостоятельной.

Кстати , правомерно ли называть систему сформированных условных рефлексов моделью мира ? 

>>правомерно ли называть систему сформированных условных рефлексов моделью мира ? 

Все упирается в слово "модель". Рефлексы, точно так же как снежинка своей формой, отражают определенные реалии мира. Но под моделью всегда (не вижу никаких исключений) подразумевается субъективная абстракция, т.е. не просто отражение свойств окружающего, а осмысленное понимание такого отражения.

>>А вот в экономическую целесообразность создания субьективных систем все упирается

Точнее в том, что сейчас двигатель прогресса - война и торговля. И с этим придётся что то делать. Если НТП достигнет уровня, что ядерную бомбу можно будет сделать  в сарае, смертельный вирус синтезировать в домашних условиях - найдётся психопат, который это применит. И никакие законы этому не помешают. Мы и сейчас не можем помешать сумасшедшему взорвать толпу народа. Остаётся только тотальный контроль, что автоматически приведёт к деспотии и откату обратно, чем  и завершились все революции. Мы не можем перешагнуть свою рефлексию, получая власть тут же устраиваем террор. Может появление ИИ позволит наконец перешагнуть этот барьер. По крайней мере появится окно возможности. 

Palarm , почти никогда это не дело рук психопатов , как бы странно это не звучало. Волна микрореволюций начавшихся в 10х (?) была делом рук психопатов ? https://www.youtube.com/watch?v=Y5On4jBH3QE - типа вот это импровизация или кто-то готовил ?  Или вот это https://youtu.be/KtwMRkLWmp4  Может я не совсем прав , но смахивает это все на целенаправленную акцию развернутую после кризиса 2008. Говоря проще толпу будет "взрывать" не сумасшедший , а вполне осмысленный деятель. Думаю что ии нужен для автоматизации процессов.

Согласен, что психопат и вообще человек со сломанной психикой может выносить, продумать и адекватно осуществить что-то сложное. Но маньяк может :)

Научное творчество также может иметь характер маниакальной деятельности.)

Только тогда оно и приносит эффективные результаты :)

Я имел в виду, что псих или даже просто баламут благодаря НТП получает более широкие возможности проявить свою дурь. Например оставшись безнаказанным, сообщить о минировании вокзала. Чуть более продвинутый может запустить вирус в сеть. А с появлением соц. сетей у них появилась трибуна, и это даже более опасно. Всё равно что канализацию пустить в водопровод. Приходится закручивать гайки, что в свою очередь используется политиками и их спонсорами для своих интриг, в том числе революций. В итоге НТП улучшая качество жизни параллельно обостряет проблемы, не решая их по существу. И никакие законы и совещания тут не помогут. Нужен принципиально другой подход. Что опять же, как только его объявят, автоматически приведёт к ещё большему обострению.

Патовая ситуация, как если бы щулеры пытались договориться играть по честному. Мне интересно, это вечная проблема, или все таки возможен переход на другой уровень реагирования. 

Palarm  , рандомные психи это скорее форма стихийных бедствий , как правило не особенно большого масштаба , но привлекающая много сиюминутного внимания , большинство психов будет большую часть времени "починять примус". 

Многие же действительно серьезные явления обыденны , привычны и внимания не привлекают. В том числе технологии социального манипулирования имеют мягкую форму и хорошо закамуфлированы обещаниями успеха , при том они  погружают жертву в иллюзорную реальность , от которой очень сложно отказаться. Про другой способ реагирования я не готов высказываться ,это очень большая тема.