Сверхразум

>>Потому, что реальность постоянно меняется, а модель лишь надстраивается - стало быть все большая часть ее становится неадекватной текущим условиям, а изменить ее невозможно, так же как нельзя поменять фундамент дома не разрушив его. В какой то момент % неадеквата становится критическим и особь просто выпиливается из эволюционной гонки.

Эволюцией оптимизирован уровень адаптивной мутегенности в организмах, т.е. где допускается изменчивость а где таковая оказывается уже несовместимой с развитием организма. Самые молодые наработки буквально кипят в разных вариантах реализации, а самые древние (внутриклеточное строение для типов клетов организма)  остаются незыблемыми. И такая база соотвествует вообще условиях жизни на Земле, т.е. чтобы она стала неадекватной нужно, чтобы на Земле вооще все стало по другому с температурой-газовым-составом. 

Это стоит учитывать.

Согласен, если говорить о признаках передаваемых по наследству и служащих базой для построения новых организмов. Начинать каждый раз эволюцию с нуля при рождении новой особи очевидно проигрышный вариант - сама эволюция подразумевает сохранение удачных наработок, чтобы потом от них плясать. Она бы так и бурлила на уровне склееных как попало хромосом, даже до одноклетоных не дошло бы дело. Но вот с высшей нервной деятельностью дело обстоит несколько иначе: особь рождается лишь с минимальным набором базовых параметров и каждая строит свои индивидуальные внутренние модели реальности. То есть тут как раз можно сказать что происходит индивидуальная эволюция сознания от беспощного моргания и пускания слюней до очень сложных поведенческих моделей. И происходит по той же схеме: по слойное созревание с окончательным закреплением результата. Это значит что особь изначально обречена на будущий маразм. Касательно общей эволюции живых существ можно сказать, что их "финальный маразм" - когда солнце взорвется и все сдохнут, потому как все сильно поменяется. Но если рассматривать "индивидуальную эволюцию" внутренних моделей восприятия, их созревание и развитие - то там то же самое происходит на много порядков быстрее. Потому, что развитие НТП стремительно меняет мировосприятие.

Вот и возникло соображение, что если просто симулировать текущую модель нервной системы особого толку от этого не будет. И возможно его будет еще меньше, если с учетом более совершенной элементной базы она будет работать на порядки быстрее - это еще быстрее приведет к ее коллапсу. Такой вот неожиданный вывод.

Вообще тема очень непростая и тут какие-то предположения можно делать с запалом на продолжение развития этих идей (иначе какой смысл просто генерировать очень сырые идеи). А вот смена поколений вида да, заточена на больший выигрыш от смерти уже не догоняющих прогресс (всего, в том числе природный).

Откуда эти идеи про глобальный ИИ всплывают постоянно ? 

>>Откуда эти идеи про глобальный ИИ всплывают постоянно ? 

Я думаю глобализация неизбежна. Все возрастающая мобильность перемещений, средства коммуникации, киборгизация - это требует централизованнной синхронизации. И в какой то момент это станет сильно похоже на работу нервной системы - фасеточный разум.

>>> Это значит что особь изначально обречена на будущий маразм.

Всё несколько сложнее. Стоит задуматься о том, чем обеспечено человеческое долголетие и какова роль стариков в обществе.

Помимо многого, что придёт в голову и будет верно, мне особенно нравится мысль о том, что некоторые изменения видны в перспективе. Часть диструктивных изменений, которые происходят со средой нашего обитания и даже обществом не видны на коротком временном отрезке. Рождаются поколения, которым принимают за норму и диструктивное, и конструктивное, в то время пожилой человек видит перемены. Примерно так происходило уничтожение острова Пасхи, новые поколения принимали за норму то, что для прошлых покалений было диструктивной переменной - утраченные леса, изменившийся рацион питания.

Ну и ещё одно: мы не только приобретаем в культуре, но и забываем. Некоторые важные навыки выживания в мире, в кризисных ситуациях, могут быть у предыдущих поколений и отрачены у нас. Люди, которые могут на коленке собрать радио-станцию или выжить в лесу, скоро канут в Лету, и это при том, что кризисные события, которые могут оттолнуть цивилизацию на десятки лет назад могут произойти в любой момент.

Поэтому если говорить о линейке ИИ, то я бы говорил о возрастах прадедушка / дедушка / отец / сын - то есть о приемственности и со-бытийности нескольких агентов ИИ, которые принимают решения совместно.

Что касается человека, то далеко неочевидно, является ли наша смерть оптимальным событием. Человек один из двух эусоциальных видов млекопитающих (второй - это голые землекопы). Мы уже обладаем аномальным долголетием и очевидно, что именно наше долголетие необычно. Вполне возможно, что с точки зрения эволюции ясность нашего ума, способность передавать навыки молодняку, ухаживать за ним - это причины для отбора на долголетие, и заковыченной "Природе" вовсе не нужно, чтобы наши бабушки / дедушки и мы умирали. Вполне возможно, что как популяция мы окажемся гораздо более эффективны, цельны и взвешены, когда дойдём до биологического бессмертия / активного долголетия.

Во всяком случае само то, что мы уже живём так долго - необычно. Сам этот факт служит контраргументам твоим рассуждениям. В смерти наших стариков и нас, когда мы станем стариками, нет очевидной необходимости.

>> Вполне возможно, что как популяция мы окажемся гораздо более эффективны, цельны и взвешены, когда дойдём до биологического бессмертия / активного долголетия.

В этом случае такой монстр будет просто живым носителем старой истории,  но и то вряд ли, если не потеряет способность осмысливать, а, значит, переписывать воспоминания. Можно было бы поставить их в музее как источники информации о прошлом. Но активно быть в социуме они не смогут т.к. основые их моделей восприятия и поведения, начинающиеся еще при вормировании примитивов восприятия, уже не перепишешь, и нет того, на чем можно было бы наслаивать новое.

>>Во всяком случае само то, что мы уже живём так долго - необычно. Сам этот факт служит контраргументам твоим рассуждениям. В смерти наших стариков и нас, когда мы станем стариками, нет очевидной необходимости.

Мы живем долго исключительно потому, что естественный отбор все больше заменяется искуственным. Вытягивают тех, кто не выжил бы раньше.

Как я понимаю принципиальное ограничение сознания, позволяющее ему адаптироваться лишь ограниченное время: для прогнозирования событий нужно создать внутреннюю модель реальности, которая формируется на базе примитивов восприятия, не подлежащих измению после их созревания. В итоге изначально закладывается погрешность, которая накапливаясь в итоге заглючивает систему - индивид ставновится неадекватом.

>>> Мы живем долго исключительно потому, что естественный отбор все больше заменяется искуственным.
 

Вот список возрастов старейших из когда-либо известных науке гоминид:
https://en.wikipedia.org/wiki/Oldest_hominids
 

Там же: "Humans are the longest-lived hominid species, with Jeanne Calment being the longest-lived hominid ever, at 122 years. Other members of the hominidae family are shorter-lived."

 
Вот список старейших людей:
https://en.wikipedia.org/wiki/Oldest_people
 

Разница в продолжительности жизни в два раза. На мой взгляд, твои взгляды не объясняют столь разительного отличия.

Я считаю, что объяснение может лежать в эусоциальности нашего вида. Схожее увеличение продолжительности жизни мы можем наблюдать у других видов эусоциальных животных.

>>> Как я понимаю принципиальное ограничение сознания, позволяющее ему адаптироваться лишь ограниченное время

А что такого происходило в мире на протяжении сотен тысяч лет, что требовало бы срочного переобучения нервной системы на уровне базовых примитивов и для чего прошлой выучки не хватило бы? Чем жизнь волка, который жил 400 тыс лет тому назад отличалась от жизни волка, который жил 399 тыс лет тому назад? Если ты пытаешься делать тезисы с позиций естественного отбора, то должен рассматривать не текущую быстро меняющуюся среду обитания, а учитывать десятки тысяч лет до этого, когда с нашей колокольни вообще ничего не менялось.

Для абсолютного большинства видов пластичная нервная система оказалась невостребована. Голые землекопы, которые живут в десятки раз дольше других грызунов, едва ли обладают развитым сознанием и активно изменяющейся средой обитания. Мы живём в активно изменяющейся исключительно нами среде и при этом обладаем максимальной продолжительностью жизни среди всех гоминид.

>>> (nan) и нет того, на чем можно было бы наслаивать новое.
 
Не факт, что это будет проблемой.
 
Проблема, на мой взгляд, это как раз постоянно смещающаяся норма: наличие социальных сетей, big data, всё более мощного искуственного интеллекта, развитого авиасообщения, мировой культуры,  информационного поля - это ни разу не нормально. Это серьёзные аномалии, с которыми природа никогда не сталкивалась. Вполне возможно, что мы, как новорожденные аборигены на острове Пасха, не замечаем перемен толкающих нас в никуда.
 
Я могу жить без телефона и социальных сетей, поиска - если вдруг станет понятно, что эту тенденцию нужно остановить. А может ли новое поколение? На сегодня изменения происходят крайне быстро, мы не успеваем их глубоко осмыслять, и это постоянное наращивание общества молодняком, который принимает за норму всю ту херню, которая вокруг происходит, возможно, далеко не оптимальный путь развития нашего вида. Возможно, старый добрый консерватизм и рассудительность - это выигрышная стратегия.

Наше поколение активно уходит в цифру. Цифровым становится всё - экономика, деньги, идентификация. Кто-нибудь может уверенно сказать, что значительная часть нашей жизни не превратится в тыкву после взрыва электромагнитной бомбы? У современного поколения есть странная иллюзия доступности и надёжности хранения информации. На деле же хранится бумага, глиняные таблички - это показала история, а вся та херня которую мы сейчас напридумывали, все эти постоянно сменяющие друг друга носители информации - пшик. Но разве молодняк в состоянии это почувствовать, в состоянии перестраховаться, или хотя бы трезво оценить риски потери, утечки информации не в моменте, а хотя бы на 50-100 лет?
 
По сути, если бы не нейродегенеративные проблемы (снижение объема рабочей памяти, альцгеймер и прочее), то цены бы старикам не было. Они бы слали нахер все эти потуги молодых и общество бы спокойно неторопливо развивалось вперёд.
 
Я думаю, что в ближайшие годы мы всерьёз столкнёмся с этой философией на уровне всего социума и это каснётся всех стран, всех культур. Будет всё больше вовлеченных в социальную жизнь стариков, и всё меньше молодых и всё меньше места для них и, возможно, это хорошо.

Во всяком случае будет надежда на то, что люди начнут сравнивать было / стало и наша культура перестанет быть рыбкой гуппи.