Насколько я знаю, отдельной ветки ещё не было.

Кто что думает о развитии технологий и том какие подводные камни предстоит обойти в относительно ближайшем будущем?

Восстание машин — реальный риск или фантазия?

Источник: http://www.bbc.co.uk/russian/science/2012/11/121126_science_risks_project.shtml

Исследователи из Кембриджа займутся изучением вопроса о том, не приведет ли развитие науки и техники к гибели цивилизации.

Центр по изучению экзистенциальных рисков (CSER) подвергнет анализу опасности, которыми чреваты развитие биотехнологий, создание искусственной жизни, нанотехнологии и глобальное потепление.

Ученые из центра заявили, что было бы опасным также сбрасывать со счета опасность восстания роботов.

Тема восстания разумных машин уже давно является одной из центральных в научной фантастике.

Такие фильма как «Матрица» или «Терминатор» изображают закабаление человечества роботами и системами искусственного интеллекта.

Подобная система Skynet, которая фигурирует в фильмах из серии «Терминатор», была разработана американскими военными.

Однако несмотря на кажущуюся фантастичность таких предположений, исследователи из Кембриджа считают, что они заслуживают серьезного внимания.

«Серьезность такой угрозы трудно оценить, но это само по себе должно вызывать тревогу, учитывая, что именно поставлено на кон», — пишут исследователи на сайте центра.

Не надо бояться фантазий

Проект CSER совместно финансируется профессором философии Хью Прайсом, профессором астрофизики и космологии Мартином Рисом и одним из основателей компании Skype Яном Таллинном.

«Представляется допустимым предположение, что в какой-то момент в этом или следующем столетии разум вырвется из оков биологии, — заявил профессор Прайс. — Мы пытаемся сделать вопрос об этом приемлемым для обсуждения в среде респектабельных ученых».

По его мнению, когда роботы и компьютеры обгонят по уровню интеллекта человека, мы можем оказаться во власти машин, интересы которых находятся вне сферы интересов человечества.

Центр намерен приступить к работе в будущем году.

Вот что сразу приходит в голову. Если человек достаточно разумен, чтобы не объявлять геноцид менее сильным видам животных на Земле, а наоборот поддерживает вымирающих и борется с браконьерами, то почему более разумная технологическая раса роботов, если она появится, должна вдруг стремиться уничтожить человеческую цивилизацию, а не сможет организовать адаптивный симбиоз? Ведь негативные факторы уничтожения существующего вида вполне объективны и множественны. Трудно сказfть, что кошки оказались во власти людей, скорее - наоборот :)

Сам ответ понравился. Вместе с тем не спора ради выражу некоторую настороженность:

>>> Если человек достаточно разумен

Человек достаточно разумен или такое "социальное поведение" в том числе, но не только результат естественного отбора на некотором этапе его эволюции?

Nan, а психические отклонения могут быть у такого рода роботов?

>>> Трудно сказать, что кошки оказались во власти людей, скорее - наоборот

Да :) На себе вижу :))

Ещё раз поделюсь ссылкой которую я нарыл. http://www.humanextinction.ru/

- Люди вымирают, стопитсот человек осталось.
- Та да, фигово на душе.
- Может выдвинем в сеть предложение о создании анткоррупционного рейда на общество защиты людей?
- Ты придумал, ты и выдвигай.
- Я очкую, там такие деньги вертятся... Под них нереально копать. Говорят последовательное внедрение очистительных технологий - невероятно дорогое удовольствие. Никто не станет тратится на снижение уровня радиационного загрязнения ради культа предков.
- Ну история всё таки... Достопримечательность биологическая.
- Пользы с них не выжать больше, кто с ними возится станет?
- Эх, аморальные нынче нравы пошли. Не то что раньше...
- А лично ты хоть сколько-то пожертвовал в фонд экологической защиты?
- Нет, и не собираюсь. Не факт что деньги пойдут на экологические технологии. Опять осядут в карманах чиновников.
- И то верно. Остаётся погрустить и жить дальше.

Опасную железку создать не сложно. Но тут дело в том, что если опасная, но тупая железка, то с ней люди справятся, а вот если адаптивные способности и возможности железок окажутся значительно выше людских, то и тупить они не будут как люди, а окажутся на более высоком уровне понимания экологии окружающего и злыми их может заставить стать только некая совершенно непримиримая конкуренция с людьми в чем-то.

Понимание экологии.

Если растения сдохнут, люди тоже. Людям нужны растения, растения охраняются людьми. (сегодняшняя ситуация)

Если люди сдохнут, роботы останутся. Роботам не нужны люди, люди не охраняются роботами. (будущая ситуация)

Сегодня у роботов нет ума и сегодня роботам нужны люди. Если сегодня убрать людей, у роботов самоподдерживающейся цивилизации не возникнет. Но всегда ли люди будут неотъемлемой частью экосистемы роботов? Массовое создание модели "робот - на все руки мастер" убрало бы нужду в людях со стороны роботов.

Мы кроме вышеописанного охраняем животных и растений деликатесных, необязательных, ненужных, вредных, опасных из-за какой-то душевной эмоциональной сентиментальной романтической компоненты в мозгах. Почему бы не изобрести эту компоненту для процессоров?

А если сдохнут персидские кошки, что будет с людьми? Мы не уничтожаем то, что в данный момент не приносит жизненной пользы. а если сдуохнут носители культуры, на основе которой возникла культура роботов (она точно не на пустом месте)? Не стоит быть так легко мыслящим :) Понятие уровня адаптивности, от чего он зависит, чтоиспользуется в качестве культурных ценностей и личных ценностей и еще много джругих факторов в целом уверенно дают прогноз гуманности в самом широком смысле от уровня адаптивности.

Да, легкомыслие недопустимо. Для расширения нейронного мозга я использовал этот текст: http://humanextinction.ru/AIerrors.htm И тебе советую. Хоть посмеёшься. Там не про терминаторов а про интеллект искусственный, зато весело. И расширяет не хило.

Вспомнилось:

Фредерик Браун

Ответ

Двар Эв торжественно запаял золотом последний контакт. Двенадцать телевизионных камер неотрывно следили за каждым его движением; передача шла на всю Вселенную.

Он выпрямился и кивнул Двар Рейну, затем отошел к переключателю, который скоро замкнет цепь. К переключателю, соединяющему одновременно все вычислительные машины всех обитаемых планет - девяносто шесть миллионов миров - в сверхсеть, которая объединит их в суперкалькулятор, единую кибернетическую машину, собравшую мудрость, всех галактик.

Двар Рейн заговорил, обращаясь к слушающим и смотрящим триллионам обитателей. Затем, после короткого молчания, он произнес:

- Пора, Двар Эв!

Двар Эв нажал переключатель. Раздалось мощное гудение, пошла энергия девяноста шести миллионов планет. На бесконечно длинном пульте замигали огни.

Двар Эв отступил и глубоко вздохнул.

- Честь задать первый вопрос принадлежит вам, Двар Рейн.

- Благодарю, - молвил Двар Рейн. - Это будет вопрос, на который не могла ответить ни одна кибернетическая машина.

Он повернулся к пульту.

- Есть ли Бог?

Могущественный голос раздался сразу, без кликанья реле.

- Да. ТЕПЕРЬ Бог есть.

Внезапный страх исказил лицо Двар Эва. Он кинулся к переключателю.

Молния сорвалась с безоблачного неба и испепелила его на месте, намертво запаяв соединение.

Еще вот такой аспект - машины, как оно подразумевается на данный момент, смогут легко обмениваться личной информацией, то есть напрямую передавать свой опыт и знания, которые они САМИ получили за свою жизнь, а значит, две такие машины, соединившсь, превращаются в одну. Ну, или две, но 2 абсолютно идентичных клона, но с удвоенным опытом и как бы жизненной "мудростью". А при разрыве такой связи, стоит ей только появиться, недостающая и вновь появившаяся у каждого инфа моментально перегоняется по дуплексному каналу.

копирование головного мозга, создаст не клон а, другое существо, мышление которого, в объективной реальности, будет очень отличаться от оригинала.

Хочется обратить внимание, что во многих худ.произведениях уже раскрывалась эта тема, в Голливуде особенно :) и почти всякий раз, кроме сериала Терминатор показывалась некая вырвавшаяся из управления железка, не обладающая большим адаптивным потенциалом, чем человек, довольно тупо реагирующая и на этом побеждаемая. В терминаторе железки выглядят как приемственники человечьего разума, но не выше. И никогда не понятно что же заставило эти железки, если это не тупой глюк программ, вдруг так въестся на чел.род. Но на таком уровне вообще до фига человек наплодил опасностей, от вирусов до ядерной войны.

А вот если говорить о возникшей расе, то такая не на пустом месте возникает, а воспитывается с некоторой преемственностью культуры и ценностей, здесь возникает множество моментов симбиотического взаимоиспользования, более крутого, чем между кошками и людьми. Речь идет о возникновении новой нации, типа инопланетян по способностям, главная из которых - гибкость и эффективность творчества. Именно это возвысило людей над другими животными, это - главная сила. Если это есть, то с любыми коварными, но глупыми железками и с вирусами рано или поздно справится возможно.

Вот и нет :) знания не передашь, его нужно практически наработать, сведения требуют подстройки к конкретным условиям, чтобы обеспечивать адекватность.

Вот и нет :) знания не передашь, его нужно практически наработать, сведения требуют подстройки к конкретным условиям, чтобы обеспечивать адекватность.

Думаю, что принципиальное ограничение на передачу личных знаний касается и роботов. Они не могут быть сделаны как программное устройство, позволяющие копировать память потому как так же будут на дискретных элементах, в которых связи образуются при научении. Да и нет смысла делать полные копии личности, это будут дубли-аналоги, а не разные личности, каждая из которых специализируется в чем-то своем, а глобально специализированной во всем так же принципиально не сделать.

а в чём принципиальность?... (если не в лом)

Вроде как перечислил уже :) ну ладно, еще разок:

1. Связи в дискретных устройствах, в отличие от программных, не копируются, - совсем другой принцип.

2. Если бы даже удалось зафиксировать некую универсальную адаптивную систему на какой-то момент ее развития и теперь использовать ее как базовую для индивидуальных, то получим резкий тормоз прогресса потому, что переучиваться гораздо менее эффективнее и ресурсозатратнее, чем учиться, особенно с учетом специфики развития базовых примитивов распознавания. Вот почему природа придумала смерть. А если ограничиться только самыми основными "инстинктами", то и нет принципиального преимущества в личном развитие навыков.

Спасибо за "не в лом", nan. :)

Проявлю толику наглости и уточню кое-какие моменты.

А если эта дискретность будет "виртуальной" — т.е. реализованной на программном уровне?... В чём здесь принципиальность (если опустить вопрос о ресурсоёмкости как формально непринципиальный)?

Даже без учёта моего предыдущего уточнения, — неужели та специфика, о которой ты говоришь, будет свойственна и для машинных примитивов распознавания?... Разве только если эти машинные примитивы будут реализованы на том же биологическом принципе, что и "живые".

Ну а если с учётом моего уточнения — то однозначно, такая специфика не будет иметь место: она вообще потеряет свою "материальную подоплёку". Если я, конечно, верно понимаю смысл слова "специфика" в этом твоём утверждении. И в этом смысле, "смерть" потеряет какой бы то ни было значимый статус мире в машин.

...

Этот процесс будет выражаться не столько в банальном копировании (дублировании), сколько в "модульной репликации", синхронизации опыта (как написал kovip: "1+1=1"). И несмотря на то, что после такого "дублирования" действительно будут появляться две идентичные личности, — это никоим образом не повлияет на их способность к специализации. Особенно, если процесс репликации будет организован по принципу единого общего информационного ядра: центральной базы данных, являющейся источником "опыта" для всех особей.

....

Ну и немного лирики — в ответ на ряд в некоторой степени сомнительных, на мой взгляд, заявлений, которые можно объединить под одним следующим лозунгом:

...также "заставить быть злыми" сможет необходимость в пропитании, страсть к развлечениям, — ну или, на худой конец, просто "национальные" традиции....

А если продолжить прозвучавшую мысль о "высоком уровне понимания экологии окружающего", то хомо-сапиенс, с его потребительскими амбициями, может как-то не вписаться в общую экологическую концепцию сохранения жизни на планете. :) И в этом смысле, именно высокий уровень понимания может заставить машины захотеть изолировать планету от "вируса" под названием Человек.

Но безусловно, тема эта для меня слишком скороспелая, чтобы я мог делать такие глобальные обобщения.

В общем, — пока интересно. :)

Разве только если эти машинные примитивы будут реализованы на том же биологическом принципе, что и "живые".

Вот почему природа придумала смерть.

Некоторые простейшие животные, возможно, способны к вечному или очень долгому существованию. Они избегают быстрого старения за счёт быстрого обновления клеток всех тканей всего тела, что возможно за счёт простой и децентрализованной структуры тела. Примерами таких организмов являются морские актинии и пресноводные гидры. В наиболее детальном исследовании, опубликованном в 1998 году^[2], было показано, что по морфологическим признакам и способностью к регенерации, гидра не проявляет признаков старения на протяжении всего исследования в 4 года при времени достижения половой зрелости всего около одной недели.

Также существует мнение, что черепахи умирают не от старости, а от голода — из-за неспособности передвигать свой разросшийся панцырь.

Ну и ещё один тынц:

существует уникальный вид Turritopsis nutricula, медузы которого после размножения оборачивают свой жизненный цикл вспять и превращаются опять в полипов, чтобы затем снова развиваться в медузу. Таким образом, эти медузы теоретически бессмертны (умирают только по внешним причинам).

Так что по всем признакам, именно "децентрализованность структуры тела" (читай — "деперсонализированность опыта") является для машин самым оптимальным путём эволюции. В виду чего они всячески будут пытаться найти пути обхода классических ошибок биогенеза. [картинка скрыта]

Так что по всем признакам, именно "децентрализованность структуры тела" (читай — "деперсонализированность опыта") является для машин самым оптимальным путём эволюции. В виду чего они всячески будут пытаться найти пути обхода классических ошибок биогенеза. Smile

Так робот со всамомделишной поведенческой адаптивностью сделать на программном уровне намного сложнее и вообще сомневаюсь что возможно. Простые прикидки нужных ресурсов, обеспечивающих такую. программу (параллельное обеспечение огромного числе объектов в реальном времени) быстро отрезвляют. Вот почему интелл делает реалистичный макет.

А принцип вовсе не биологический, а универсальный. О биореализации нет речи. Просто попробуй придумать другой столь же эффективных с учетом изменяющихся условий и ограничения на вообще количество примитивов. Если подумать добросовестно, но не получится, спорить буду :)

А вот это осталось необоснованным. У меня есть основания утверждать, что повлияет и очень сильно. Тут тоже парой слов нельзя отделаться, вопрос достаточно нетривиальный.

Да, повторюсь, о биореализации и вынужденных энергетических проблемах нет речи.

Это необоснованное и слишком универсальное утверждение. Если ограничить рассмотрение только адаптивностью, характерной для человека - творческим развитием культуры, то появляется проблема в переучивании, которая с усложнением количества навыков и все большим ограничением ресурсов, требующимся для новых связей приходит к пределу. В биологии очень интенсивно используется  нейрогенез и то возникает предел личной переобучаемости.

появляется проблема в переучивании, которая с усложнением количества навыков и все большим ограничением ресурсов, требующимся для новых связей приходит к пределу

Это необоснованное и слишком универсальное утверждение. Если ограничить рассмотрение только адаптивностью, характерной для человека - творческим развитием культуры, то появляется проблема в переучивании, которая с усложнением количества навыков и все большим ограничением ресурсов, требующимся для новых связей приходит к пределу. В биологии очень интенсивно используется нейрогенез и то возникает предел личной переобучаемости.

Ничего природа не "придумала", смерть, побочный продукт, возникший, вследствие сложной внутренней организации живых систем.

Почему же вынуждены умирать? На мой взгляд не вынуждены , но обязаны! :)

Смерть бывает целесообразно с точки зрения выживаемости вида.У человека старый опыт старшего поколения мешает продвижению опыта молодого поколения в возникших новых условиях среды.Среда быстро меняется и динамический стереотип ( В результате многократного функционирования он все более и более закрепляется и в свою очередь становится все более трудноизменяемым.) не успевает за возникшими изменениями условий среды.

Смерть у человека с точки зрения адаптации к новым условиям среды становится целесообразной так как с одной стороны  без динамического стереотипа, невозможна организация психических проявлений.С другой стороны, динамический стереотип, в рамках одного поколения , тормозит приспособление к новым условиям среды.К примеру вечная проблема "отцы и дети";иногда пропастевое расхождение между пониманием различных возрастных групп.

У животных тоже, целесообразность смерти становится очевидной : Биологическая целесообразность гибели лососей в том, что они обеспечивают кормовую базу для своей молоди. Трупами рыб питаются личинки ручейников, поденок, веснянок и других воздушных насекомых, другие водные беспозвоночные, которые в свою очередь будут служить кормом для молоди лососей, появляющейся из грунта на будущий год. Кроме того, ранней весной, когда еще мало пищи, молодь может питаться трупами своих погибших родителей  http://www.sakhalin.ru/boomerang/sea/fakt13.htm

Смерть у человека с точки зрения адаптации к новым условиям среды становится целесообразной так как с одной стороны без динамического стереотипа, невозможна организация психических проявлений.С другой стороны, динамический стереотип, в рамках одного поколения , тормозит приспособление к новым условиям среды.К примеру вечная проблема "отцы и дети";иногда пропастевое расхождение между пониманием различных возрастных групп.

У животных тоже, целесообразность смерти становится очевидной : Биологическая целесообразность гибели лососей в том, что они обеспечивают кормовую базу для своей молоди. Трупами рыб питаются личинки ручейников, поденок, веснянок и других воздушных насекомых, другие водные беспозвоночные, которые в свою очередь будут служить кормом для молоди лососей, появляющейся из грунта на будущий год. Кроме того, ранней весной, когда еще мало пищи, молодь может питаться трупами своих погибших родителей http://www.sakhalin.ru/boomerang/sea/fakt13.htm

Похоже возникает взаимное недопонимание, потому что кому-то привычнее рассуждать о нейронных сетях, а кому-то о компьютерных программах и файлах.

"Программист" представляет передачу опыта как отправку файлика с видеозаписью событий и "видеозаписи" состояния оперативной памяти. Откуда можно вынести для себя пользу. Плюс если это поставлено на поток, со временем кто-то придумает как это всё оптимизировать, чтоб передавалось меньше объема информации.

"Нейронный мастер" представляет себе передачу опыта следующим образом. Нужно сделать "фотографию" нейронной сети. Для этого нужно пронумеровать нейроны. У каждого нейрона в качестве подпунктов так сказать пронумеровать дендриты и аксоны. Для каждого нейрона нужен список нейронов с которыми он связан, с указанием связан аксоном или дендритом. Нейрон представляется как сумматор. Поэтому нужно записать коэффициент каждого дендрита и аксона. Также нужно записать состояние каждого нейрона. А ещё нужно для каждого дендрита и аксона указать передаётся ли по нему сигнал в данный момент. В совокупности эта информация даст мгновенную "фотографию" нейронной сети. Вопрос в том, как в одно мгновение сфотографировать сеть? Если вопрос решен, по фотографии можно сконструировать копию нейросети. Следующий вопрос, как внедрить в аксон или дендрит сигнал, который шел по нему в момент фотографирования? Очевидно нужны дополнительные цепи к каждому аксону и дендриту. Впрочем надобность в них отпадает если конструировать копию сети не в реальности, а в виртуальности. Если виртуальность будет поддерживаться классическим программируемым компьютером, виртуальная нейросеть будет намного медленней реальной. Если виртуальность будет поддерживаться другой нейросетью, то такая "серверная" нейросеть должна быть намного сложнее копируемой сети, и замедление всё равно будет, что можно компенсировать ещё большим усложнением "серверной" нейросети. Кроме того, вопрос в том, как серверной сети передать информацию о копируемой сети? Очевидно что прежде чем передавать эту информацию, нужно разработать язык передачи, и обучить серверную нейросеть этому языку. Очевидно невозможно чтобы каждая нейросеть содержала внутри себя регулярно обновляемую виртуальную копию каждой другой нейросети. Потому что... Пусть есть множество нейросетей, и каждая нейросеть - элемент этого множества. Очевидно невозможно чтобы каждый элемент был сложнее чем множество в целом.

Впрочем есть выход - нужно изобрести способ извлечения полезной информации из нейросети без эмуляции. Наверное это изобретение почти не будет отличатся от того что мы наблюдаем в человеческом обществе - обучение посредством передачи информации на некотором языке с последующей личной тренировкой и необходимостью догадываться что имелось в виду и делать маленькие открытия общеизвестных истин для себя лично.

>>> Похоже возникает взаимное недопонимание

Речь, насколько я понял, о том, что нельзя просто взять и вставить кусок одной нейронной сети в другую нейронную сеть для того, чтобы скопировать пару другую навыков и воспоминаний :)

....а аналогия с вычислениями в облаке (за счёт объединения в единую сеть множества локальных ресурсов отдельных "особей") — сразу же "опьяняет".... :) При этом возникает закономерное решение а-ля "единый на всех разум", с явным преимуществом перед человеческим в виде "поли-сознания" — т.е. реальной многозадачностью, обеспечиваемой распределением различных функций между множеством "фокусов сознания", параллельно работающих в локальных нейро-модулях.

при всём моём желании поддержать линию диалога, "придумывать" что-то в этом плане мне смысла нет — т.к. это будет противоречить моему изначальному посылу: отказаться от принципиально материальной реализации в пользу принципиально виртуальной.... Которая, кстати говоря, должна быть по определению принципиально универсальнее... ;)

В контексте вышеприведенных рассуждений, напрашивается следующая концепция.

Во первых, весь наш мега-функционально-навороченный организм развивается из двух простейших элементов, содержащих некий базовый сценарий такого развития, — пары половых клеток с фиксированным набором генетической информации. И эта "базовая элементарность", "однозначность" и в определённой степени "идентичность" не мешает тому, чтобы в конечном итоге в организме появились, сформировались и функционировали совершенно и принципиально различные (на макроуровне) системы жизнеобеспечения — т.е. фактически, это есть специализация высокого порядка, возникшая из фундаментальной универсальности. А значит, система глобального  информационного обеспечения потенциально способна к распределению и дифференцированию функций между различными её элементами — т.е. к специализации.

Во-вторых, если продолжить рассматривать идею о "едином на всех разуме" — можно прийти к совершенному отличному для машинной расы эволюционному решению: эта раса будет представлять собой не новый вид отдельных особей — а новую отдельную мега-особь, обладающую характеристиками поли-сознания (помним вычисления в облаке) и поли-функциональности, за счёт распределения задач по "жизнеобеспечению" (или по-другому — за счёт специализации) между подмодулями-"псевдоособями" (так же, как живой организм распределяет задачи между своими органами)... Это и есть вот та вот концепция "бога", описанная выше Industrial-Lady.

....

Если вернуться к специфике природной (не биологической — а принципиальной) реализации процесса формирования меж-нейронных связей, которая заключается в избыточном накоплении фиксированных примитивов (часто взаимоисключающих друг друга), — то безусловно ДА, смерть обеспечивает возобновление интеллектуального ресурса для формирования новых навыков (оптимизации адаптивных функций видовой системы) за счёт исключения (утилизирования) навыков "старых" и неактуальных.

Но уже именно по этой причине и не стоит рассматривать перспективу "клонирования" машинами принципов человеческой адаптации. Они будут вынуждены придумать кардинально "свой" вариант. И одним из таких вариантов является уход от "железной фиксации" опыта в режим виртуальной, "оперативной" адаптации. :)

Ну наконец: не стоит забывать о том, что наши гены содержат тонны потенциального "мусора", которые машинам не нужны. И поэтому сравнивать ресурсоёмкость сценариев жизнеобеспечения адаптивности человека и машины — .....по меньшей мере наивно. :) Думаю, машины будут удовлетворены примерно миллиардной долей процента от функциональности человеческой системы адаптивности. Такое вот моё наивное предположение. [картинка скрыта]

Да, если происходит накопление, то кранты. Но на то регенерация, чтобы не накапливать, на то иммунитет. Так что этот не этот фактор решает, а план развития, заложенный еще в генах и реализующийся с некоторыми, но не большими отклонениями. Стоит ознакомиться с уже существующими данными об этом (на сайте давно есть реферат). Есть целая система механизмов, реализующая эволюционно наработанный оптимум жизни вида. И важна вовсе не сложность организма, нет корреляции со сложностью: кошки типа проще человека, но живут короче.

Целесообразность - абстракция, оценка разумного, и может касаться чего угодно в зависимости от критериев такой оценки. В природе происходит выборка наиболее оптимального за счет отсева менее удачного. Стоило ли акцентировать эту очевидность?..

О преимуществах можно говорить только при конкретики реализации. Принципиального преимущества такого объединения не вижу. Да не мало фильмов - творческого моделирования ситуации такого разума показывает его уязвимости (об этом можно говорить отдельно, достаточно неочевидно). Пожалуйста, сегодня есть огромные кластерные системы, в которых можно пытаться программно моделировать. Но давно известно, что какой бы мощью не обладала программная система, а некорректная реализация всегда будет проигрывать (например, пузырьковая сортировка на любой мыслимой системе начнет тормозить с некоего не очень большого значения числа элементов). Именно использование программного принципа делает некорректной реализацию ИИ по сравнению с дискретными системами, для которых никакие облака не прокатывают. Мне казалось, что в соответствующих статьях это было показано ясно о предельно обосновано. Так что не стоит более говорить о программной реализации роботов, способных превзойти по потенциалу адаптивности человека. В первую очередь это требет не менее обоснованного опровержения сделанных в статьях утверждений и показа обратного.

ну прости, что я изначально не наделил эту фантастическую тему чересчур высокой важностью — а воспринял её как мимолётный творческий междусобойчик (до сих пор это настроение явно читалось в наших постах)... [картинка скрыта]

Будет время — попробую зачесть твои статейки... если окончательно не обломаюсь об такую "серьёзность" — и если вообще их найду... [картинка скрыта]

Да, если происходит накопление, то кранты. Но на то регенерация, чтобы не накапливать, на то иммунитет. Так что этот не этот фактор решает, а план развития, заложенный еще в генах и реализующийся с некоторыми, но не большими отклонениями.

И важна вовсе не сложность организма, нет корреляции со сложностью: кошки типа проще человека, но живут короче.

Целесообразность - абстракция, оценка разумного, и может касаться чего угодно в зависимости от критериев такой оценки. В природе происходит выборка наиболее оптимального за счет отсева менее удачного. Стоило ли акцентировать эту очевидность?..

Робот же, по сути, недвусмысленно предлагал "разнести" понятия, оставив "выбор" за "процесс реализации одного из возможных состояний системы", и использовать "разумный выбор" для того, что в это понятие вкладываете вы. И дело не в том - чье определение "более общеупотребительное"

Я, знаете ли, в дискуссиях, не склонен к компромиссам, тем более, когда речь идёт о мировоззренческой позиции. Как я понимаю, форум, по данной тематике, не школа риторики и мы не соревнуемся во владении софистикой, а пытаемся, как то, выяснить истину.Точнее показать другим что мы считаем истиной и показать её обоснования. Если я не вижу оснований для признания того, что выбор не как функция мыслящего, о чём не только я уверен но и выраженное словарях, а свойство неодушевлённой реальности, - с какой стати я должен признавать то, что мне видится как абсурд? Потому, что мы стая? Но, я ни к какой группировке не отношусь, хотя и считаю себя отъявленным атеистом.
Нетрудно убедиться, что определение данное Роботом, как говорится, имеет хождение, пусть и не такое широкое, как "выбор" в вашем смысле. Посмотрите в инете статьи по динамически неустойчивым системам, по синергетике. Там действительно так говорится - когда динамическая система (сколь угодно примитивная и "безмозглая") имеет несколько альтернативных "траекторий", и осуществляется одна из них (бифуркационный переход), это описывается как "система осуществляет выбор одного из альтернативаных состояний". Пусть это не самый удачный термин в данной ситуации, поскольку все таки происходит от очень "человеческого" глагола брать, но ничего лучше нет, "происходит реализация конкретного состояния системы" (из спектра альтернативаных) звучит громоздко, и ничего не добавляет к короткому "система выбирает одно из состояний".
Угумс. Это похоже на утверждение:- "крокодил птица, просто летает очень низко". В разных областях есть много слов, употребляемых не по назначению, но это не означает, что это должны признать все. Тем более, что о синергетике, со стороны Робота, не было даже тени намёка. Он предлагал довольно простые, по сути , системы; распад ядра, молекулы в банке, состояние которых не неопределимо а, не вычислимо. Что ему аргументировано было показано.
В том, что Робот "вопреки общепринятому определению, выводит понятие 'выбор' из сферы действия разума" ничего нелегального, нелепого, ошибочного нет. Как я уже сказал, в таком виде оно давно и широко (да не уж то? Если бы это было, действительно, так то в отражалось бы в любом запросе со ссылкой на словари, уже на первой странице. Например:Ой!) используется в некоторых, пусть и узких, областях. Главное - договориться, что оно означете в конкретном контексте и потом не путать.
Если у дождя есть несколько альтернатив, и реализуется одна из них, то - да, дождь делет выбор одного из возможных вариантов. Здесь слово "выбор" имеет то значение, о котором говорил Робот, а не то, которое в это слово вкладываете вы. Все очень просто.
В том то и дело, что у объективно существующих объектов, при взаимодействии, нет альтернатив. Альтернативы, возникают при оценке возможностей с помощью разума. А, природа однозначна и вероятность каждого свершившегося события, равна единице.
Там отчетливо видно, что вы не правы. На картинке никакого порядка нет. Весьма хаотичное движение. Кстати, в самой статье так и написано: Бро́уновское движе́ние — беспорядочное движение. Вы же аппелируете к "общепринятым опредлениям", а общепринятый смысл слова "беспорядочный" это "без - порядка", нечто не имеющее порядка.
А, вы присмотритесь. Движение любой их точек подчиняется тем законам, которые я перечислял. И, если бы точек было штук 5-10 предсказание состояния, было бы полностью определимо, в пределах точности вычисления. Таким образом, предсказательные возможности зависят только и только лишь от технических возможностей испытателя. Робота смущает количество данных, которые нужно учесть за период времени, в течении которого систему можно систему можно считать неподвижной, но это дело техники. Надеюсь, вам то, это понятно или тоже нет?

Так что, утверждая о наличии порядка в броуновском движении, вы либо очевидно "лажаетесь", либо используете свое понимание "порядка", не совпадающее с общепринятым ("грех", в котором вы пытаетесь обвинить Робота).
А, вы бы проверили.Порядок — Яндекс.Словари Вообще то нет.
Порядок (рус. – по ряду, ладом, как надлежит) – упорядоченность событий, объектов, явлений и фактов в том или ином отношении (в пространстве, времени, цикличности, величины, в логической последовательности, в общественных отношениях, в семье и др.)
Кроме того, вы совершили подлог. Робот предлагал вам расчитать состояние молекул газа, а вы пытаетесь подсунуть статью о движении макрочастиц (броуновское движение это движение макрочастиц, а не молекул). Разница существенная - на уровне молекул все еще сохраняются квантовомеханические свойства вещества со всей их неопределенностью, а на уровне "броуновских" макрочастиц они уже нивелируются. Но вам же хуже - броуновские частицы постоянно обмениваются импульсами с молекулами среды и, зная импульс такой частицы в данный момент времени, вы не можете знать - каким он будет в следующий момент.
Да нет, это вы проявили либо недопонимание примера, либо намеренное искажение истины, для липовой победы.
Молекулы, в достаточной мере, макроскопические объекты и взаимодействуют они с достаточно точным приближением, как упругие шары. Можете взять самую лёгкую молекулу Н2 и посмотреть её пределы неопределённости координат и импульса. И оценить радиус электромагнитного взаимодействия при комнатной температуте. Уверен, что пределы неопределённости не выходят за пределы радиуса действия электромагнитных сил.

Вот и нет :) знания не передашь, его нужно практически наработать, сведения требуют подстройки к конкретным условиям, чтобы обеспечивать адекватность.

Правда, что делать с текущим эмконтекстом и куда его приткнуть - то есть одновременно-параллельно, без связи между этими особями они, текущие эмконтексты, не могут быть одинаковыми. А значит и отношение к ЛЮБОЙ текущей мысли у них будет разное.

Речь, насколько я понял, о том, что нельзя просто взять и вставить кусок одной нейронной сети в другую нейронную сеть для того, чтобы скопировать пару другую навыков и воспоминаний :)

Другое дело, в том что заметил Айк:
нельзя просто взять и вставить кусок одной нейронной сети в другую нейронную сеть

arctic, ты думаешь: для организации какого либо поведения существуют постоянные

ассоциативные связи между нейронами?

Дело даже не в отличии, а в том,что одна и та же ассоциативная сеть в одном мозге, может выдавать серию совершенно различных поведенческих программ, за счёт динамической изменчивости свойств нейронов.

Ну да - если какая-то цепочка 1-й особи преобразуется в цепочку 2-й особи, то от 1-й особи там уже ничего не останется, а если сделать что-то "среднее" между двумя этими цепочками, то будет уже 3-я особь, но никак не первая и не вторая... да и как определять это "среднее"?

Мозг человека представляет собой идилию сосуществования многих личностей, специализированных для определенных условий - безукоризненное и совершенное воплощение коммунистического идеала в одном отдельно взятом мозге :)
Специализация людей в обществе очень напоминает специализацию моделей личности в мозгу. И чем более углубляется прогресс, тем больше это соответствие. Мало того, со стремительно развивающимися системами коммуникации, общение между личностями становится все более похожим на взаимное влияние моделей личностей в мозгу.
Ничто не препятствует тому, что вскоре появятся вживленные в мозг системы коммуникации типа личных встроенных радиотелефончиков. Их интерфейс может оказаться настолько развитым, что позволит, фактически, общаться мысленно чуть ли не образами. Это качественно смешает различия между личностями, пребывающими в отдельных телах и моделями личностей в мозге.

arctic, ты думаешь: для организации какого либо поведения существуют постоянные ассоциативные связи между нейронами?

Типа:
Мозг человека представляет собой идилию сосуществования многих личностей, специализированных для определенных условий - безукоризненное и совершенное воплощение коммунистического идеала в одном отдельно взятом мозге
Специализация людей в обществе очень напоминает специализацию моделей личности в мозгу. И чем более углубляется прогресс, тем больше это соответствие. Мало того, со стремительно развивающимися системами коммуникации, общение между личностями становится все более похожим на взаимное влияние моделей личностей в мозгу.
Ничто не препятствует тому, что вскоре появятся вживленные в мозг системы коммуникации типа личных встроенных радиотелефончиков. Их интерфейс может оказаться настолько развитым, что позволит, фактически, общаться мысленно чуть ли не образами. Это качественно смешает различия между личностями, пребывающими в отдельных телах и моделями личностей в мозге.
Только в механические мозги вставить "телефончики" значительно проще.
Вопрос, лишь, как их думать научить.

В подмогу поиска очередного паззлика : Биологическая изменчивость и обучение нейронных сетей.
Структура основных типов нейронных сетей генетически предопределена. При этом исследования в области сравнительной нейроанатомии говорят о том, что по фундаментальному плану строения мозг очень мало изменился в процессе эволюции. Однако детерминированные нейронные структуры демонстрируют свойства изменчивости, обуславливающие их адаптацию к конкретным условиям функционирования.

Генетическая предопределенность имеет место также и в отношении свойств отдельных нейронов, таких, например, как тип используемого нейромедиатора, форма и размер клетки. Изменчивость на клеточном уровне проявляется в пластичности синаптических контактов. Характер метаболической активности нейрона и свойства проницаемости синаптической мемраны могут меняться в ответ на длительную активизацию или торможение нейрона. Синаптический контакт "тренируется" в ответ на условия функционирования.

Изменчивость на уровне сети связана со спецификой нейронов. Нервная ткань практически лишена характерной для других типов тканей способности к регенерации путем деления клеток. Однако нейроны демонстрируют способность к формированию новых отростков и новых синаптических контактов. Ряд экспериментов с преднамеренным повреждением нервных путей указывает, что развитие нейронных ответвлений сопровождается конкуренцией за обладание синаптическими участками. Это свойство в целом обеспечивает устойчивость функционирования нейронный сетей при относительной ненадежности их отдельных компонент - нейронов.

Специфическая изменчивость нейронных сетей и свойств отдельных нейронов лежит в основе их способности к обучению - адаптации к условиям функционирования - при неизменности в целом их морфологической структуры. : http://itmu.vsuet.ru/Subjects/int_inf_sis/ЛЕКЦИЯ%202.htm

Стоит различать передачу некоего внешнего стимула (хоть рецепцией глаз, ушей и т.п. хоть рецепцией более глубоких и сложных распознавателей), смысл которого интерпретируется личностью, и собственные образы восприятия-действия на уровне поведенческих цепочек. Второе передать и внедрить извне невозможно, хоть в какой реализации (программной или на дискретных элементах) потому, что здесь затрагиваются обширные области мозга (повторюсь: хоть в какой реализации), связанные с другими видами распознавателей, в том числе и иерархией распознавателей значимости.

Предположим в кровь впрыснули нанороборов, которые аккуратно прошли гематоэнцефалический барьер т каждый их роботов ненавязчиво занял свое место около каждого нейрона. В целом у них функция - отслеживать здоровье окружающих тканей и посылать сигналы неспецифической регуляции или даже непосредственно механически вмешиваться чтобы обеспечить функциональность нейрона. Короче, такая вот суперглия.

И вот появляется возможность адаптировать коммуникацию между двумя такими мозгами. Для этого необходимо проводить обучение. Проще всего - в распознавателях слов. Один произносит слово, другой воспринимает. Это фиксируют соответствующие роботы, занося память дополнительного вживляемого коммуникатора мозга приемника корреляцию. При самом тщательном обучении будет создана матрица понимаемых сведений без передаваемого смысла, т.е. ничем в принципе не отличающаяся от просто разговорной речи, но уже на любом расстоянии. Так же и с видимыми и слышимыми образами, т.е. можно будет передать картинку.

Стоит различать передачу некоего внешнего стимула (хоть рецепцией глаз, ушей и т.п. хоть рецепцией более глубоких и сложных распознавателей), смысл которого интерпретируется личностью, и собственные образы восприятия-действия на уровне поведенческих цепочек. Второе передать и внедрить извне невозможно

Если вся "хоть как-то" функционально значимая (т.е. объёмная и структурная) информация (ведь мы здесь пытаемся говорить именно об информационном обмене) "из головы" может быть "хоть как-то" отсканирована на уровне конфигурации клеток (не только нервных) и их взаимного расположения, а также состава и конфигурации белковых молекул рецепторов, мембран и биохимических комплексов синтеза нейромедиаторов, ну и конечно же на уровне структуры молекул ДНК (которая определяет исходные сценарии разворачивания вообще любых механизмов и функциональных систем организма), а затем "хоть как-то" зафиксирована в виде мгновенного "снимка" всего состояния мозга — то да: всё это можно "хоть как-то" передать. [картинка скрыта]

Но вот вопрос "что ДЕЛАТЬ со всем этим и как поступит каждая личность" — лежит уже в несколько иной плоскости, слабо обусловленной наличием принципиальной возможности передачи информации от мозга к мозгу: это банальная тема об "идентичных вселенных" (детерминизме, свободе воли и т.д.). Мы же все прекрасно понимаем, что физиологические механизмы "воли" являются такой же "обыденно-материальной" частью функциональных систем мозга как и любые другие механизмы психики — и ничем принципиально от них отличаться не могут.... На биологическом уровне, конечно. :) (если в данном контексте вообще могут рассматриваться какие-либо другие "уровни".....)

Поэтому, если удастся научиться "хоть как-то" передавать "всё что есть в голове" — то больше и передавать-то нечего будет.... [картинка скрыта]

Поэтому, если удастся научиться "хоть как-то" передавать "всё что есть в голове" то больше и передавать-то нечего будет....

- только если стоит задача регистрации полной "летописи" существования данной личности. Ведь целью такой передачи не может быть получение её идентичной копии (как мы уже выяснили, это невозможно).

только если стоит задача регистрации полной "летописи" существования данной личности. Ведь целью такой передачи не может быть получение её идентичной копии (как мы уже выяснили, это невозможно).

Разумное существо не автомат и прогнозированию поддаётся лишь условно.

Вот когда что-то и от чего-то в такой "башке" появится новое и совершенно да - непредсказуемое, от которого офигеют не только разработчики, но и сама эта "голова", начав наворачивать на это "новое" еще и какие-то, пускай и абсурдные цепочки кодов, мож и по типу вирусов или вообще никому непонятные нагромождения нулей и единиц, даже самой "ей", вот тут и будет какой-то прорыв, наверное.

выдав нечто офигительное, не сойдёт от этого с ума. А, будет в состоянии эту офигительную идею, или теорию, к делу пристроить. А, сумасшедших теоретиков выдающих "никому неизвестные и идиотско-дебильные для всех остальных цепочки "мыслей",- и так хватает. Смоделировать их, вроде, не сложно, на нынешнем среднем компьютере. Что и делается, в виде ботов.