К примеру, мы создали простейший механизм, который может ездить на колесиках и если его датчики почувствуют определенный запах, то забирать найденное в накопитель, типа имитация добычи пищи. Сам по себе алгоритм управления несложен и легко схемотехнически реализован. Но то, как будет себя вести машинка в реальности зависит от расположения объектов с нужным запахом, т.е. принципиально не алгоритмизируется заранее.

Любые адаптивные усложнения этой системы не изменят самого принципа: те алгоритмы, что заточены на достижение определенных целей по какой-то заданной шкале потребностей, вполне формализуемы, а вот то, как поведен себя система в природе, как она будет развивать свои представления о нужности и вредности целей при столкновении с реальностью, предсказать невозможно, ну и записать такой уже сформированный характер в комп типа зашить туда личность.

Природная реализация адаптивного поведения именно такова, и она уже реализована. Ее механизмы эволюционного усложнения адаптивности вполне изучены.

Тут все упирается в то, как определить слово "алгоритм". Вот в компьютере есть жесткий диск, на котором программа способна вносить адаптивные изменения, корректирующие свой алгоритм. Типичнейшее использование - запоминание координат и размеров окна при его закрытии чтобы оно открылось в том же виде, какой предпочел пользователь. Это адаптивность, реализованная программно. И программа использует внешнюю среду, в том числе субъективные предпочтения пользователя. Изменение синаптических проводимостей при фиксации связей имеет тот же принцип. Есть некий алгоритм, в соответствии с которым происходит не просто спонтанно-случайная фиксация (даже в первичных зонах мозга, где распознаватели в критические периоды развития слоя специализируются к повторяющимся профилям на входе.). Ну а на уровне сознания вообще аналогия с фиксацией корректировок компа очень схожа: есть уже наработанные алгоритмы неосознаваемых автоматизмов, а в моменты актуального привлечения внимания для осознания чего-то значимого и нового, происходит корректировка этих автоматизмов так, чтобы сделать поведение адекватным в этих новых условиях.

Получается, что ровно на тех же основаниях можно написать статью: "Алгоритмическая неразрешимость windows и самоорганизация".

Компьютер имеет программу — пошаговую последовательность инструкций, определяющих процедуру решения конкретной задачи. Нейронная сеть в этом смысле принципиально отличается. Архитектура и устройство нейронов сети — это обобщённый контекст «врождённых задатков» для дальнейшего развития системы, в зависимости от конкретной среды, с которой сеть будет иметь дело. То есть заранее в сети ещё нет того конкретного опыта, который появится в ней в процессе взаимодействия с конкретной средой. Можно сказать, нейронная сеть — это заготовка, которую доделывать будет среда.

Нейронная сеть — это объём взаимозависимых нейронов, «формула» перевода входящих данных в исходящие, причём ещё и постоянно изменяющаяся. Чтобы узнать результат, естественно, формулу надо применить в полном объёме. Мысленно «просчитать» сеть невозможно, так как сеть не последовательность шагов алгоритма, а объём взаимозависимых изменений. В результате, чтобы узнать подходит ли сеть для тех или иных задач, её вначале приходится моделировать в полном объёме — наугад, на основании некоторых общих соображений, потом обучать, и только тогда можно будет сделать вывод о её пригодности (и то приблизительный). Это означает, что сеть в принципе непонятна — её всегда приходится или угадывать, или моделировать целиком. Из-за чего, например:

"К сожалению, в настоящее время не существует какой-либо формализованной теории оптимизации структуры нейронных сетей или оценки влияния архитектуры на представление знаний в ней. Ответы на этот вопрос обычно получают экспериментальным путём. ... Независимо от того, как выбирается архитектура сети, знания о предметной области выделяются нейронной сетью в процессе обучения. Эти знания представляются в компактно распределённом виде весов синаптических связей сети. Такая форма представления знаний позволяет нейронной сети адаптироваться и выполнять обобщения, однако не обеспечивает полноценного описания вычислительного процесса, используемого для принятия решения или формирования выходного сигнала. Это может накладывать серьёзные ограничения на использование нейросетевого подхода, особенно в тех областях, где решающим является принцип безопасности, например, в области диспетчеризации движения самолётов или в медицинской диагностике." Нейронные сети. Полный курс.

*** 

Суть работы сети — обобщение, выделение «эффективных» признаков из множества данных, то есть абстрагирование. Что, можно предположить, и является «причиной» сознания, по мере усложнения сети, — например, при перемещении от нижнего слоя сети к верхнему наблюдается повышение интеллекта наряду с понижением точности, понижается зернистость, повышается уровень абстракции. В рекуррентных архитектурах (с обратными связями), потенциально более близких к биологическим сетям, появляется динамика, рекуррентная сеть может обобщать данные в алгоритмы «поведенческих действий».

При этом нейронные сети (и все биологические системы также) сейчас понимаются как диссипативные системы — то есть самоорганизующиеся системы, когда в хаосе сам собой (без специфического упорядочивающего воздействия) возникает порядок (в чём их отличие от компьютеров, которых организует кто-то специально). То есть суть обучения сетей — упорядочение активности нейронов, а эмерджентность порядка естественным образом связывается с эмерджентностью психического восприятия:

"В настоящее время хорошо известно, что хаос является ключевым аспектом многих физических явления. Возникает вопрос: играет ли хаос столь же важную роль в обучении нейронных сетей? В [310] утверждается, что в биологическом контексте ответ на этот вопрос является положительным. По мнению автора этой работы, образы нейронной активности не привносятся в мозг извне, а содержаться в нём самом. В частности, хаотическая динамика представляет базис для описания условий, необходимых для проявления свойств эмерджентности в процессе самоорганизации популяций нейронов." Нейронные сети. Полный курс.

Например, подтверждено, что:

"Так, например, нейроны зрительной коры, рецептивное поле которых содержит объект внимания, сильнее синхронизированы с локальным потенциалом (на γ-частоте), чем нейроны, которые реагируют на другие объекты вне внимания. Такой способ селективного усиления синхронизации предположительно является альтернативой повышению частоты срабатывания нейронов (она обычно не меняется в зависимости от направления внимания)[18]." Синхронизация (нейробиология).

В этом смысле я согласен с вами, что «механизмы эволюционного усложнения адаптивности вполне изучены», но всё же про «вполне» я бы утверждать не стал, изученность мышления как раз говорит о том, что его «изучаемость» ограничена или, по крайней мере, на данное время выглядит таковой.

>>Компьютер имеет программу — пошаговую последовательность инструкций, определяющих процедуру решения конкретной задачи. Нейронная сеть в этом смысле принципиально отличается.

На каком уровне отличается принципиально? На уровне распараллеливания процессов - да, отличается, но на уровне алгоритмов функционирования отдельных звеньев - не вижу принципиального различия. Компьютерная программа так же подстраивается под среду, и это бывает не предусмотрено программой, в которой заданы базовые алгоритмы. Когда устанавливается пакет windows он опрашивает систему, подстраивает алгоритмы программы под специфику конфигурации данного компа, запрашивает в интете недостающие и новые драйвера, о которых программа не имела понятия.

Заранее "просчитать" результат невозможно, и подчас он оказывается фатально неожиданным для программы. Нормальная программа обязана отрабатывать "исключительные ситуации", которые случаются не редко, а хорошая - уметь их учитывать впредь.

Нейросеть так же не способна создать что-то совершенно новое, а может только комбинировать уже имеющееся и использовать те распознаватели профилей внешних сенсоров, которые были установлены на определённом этапе, а все остальные оказывается недоступным для восприятия.

Так что считаю, что сделанное утверждение, как минимум недостаточно корректно обосновано. Тем более, если не ограничиваться только "нейросетью" в ее искусственных воплощениях, а говорить о целостной нейросети мозга и ее развитии.

>>Нейронная сеть — это объём взаимозависимых нейронов, «формула» перевода входящих данных в исходящие, причём ещё и постоянно изменяющаяся.

Это не всегда так для природной нейросети. Для первичных зон мозга характерно образование примитивов восприятия в довольно узких периодах развития, и эти распознаватели уже не меняются и не корректируются всю жизнь. Для ассоциативных зон сформированные стереотипы реакций так же остаются не меняемыми пока не возникнет непривычное условие их использования, что часто определяется по неожиданному результату поведения, т.е. уже после срабатывания автоматизма. Есть всего два основных механизма корректировки поведенческих автоматизмов (не считая базовой пластичности на основе "привыкания"): 1) боле древний, доосознательный, с многими повторениями - условный рефлекс и 2) корректировка при осознании - за один раз.

>>сеть в принципе непонятна — её всегда приходится или угадывать...

так можно сказать и о адаптировавшейся к системе и пользователю программе. Вот деятели Яндекса давно заявляли, что совершенно уже не могут сказать, как отработает их навороченный и адаптирующийся алгоритм ранжирования.

>>"К сожалению, в настоящее время не существует какой-либо формализованной теории оптимизации структуры нейронных сетей или оценки влияния архитектуры на представление знаний в ней. Ответы на этот вопрос обычно получают экспериментальным путём.,. "

Несколько устаревший вывод со времени написания "полного курса нейронных сетей". Сегодня с хорошей уверенностью можно сказать, что это уже не так и такая теория существует. Другое дело - насколько она понятна и принята отдельными спецами. Вообще можно сказать, что теория искусственных нейронных сетей чрезвычайно отстает от понимания ступеней усложнения адаптивности природных нейросетей. И это соответствует высказыванию:

>>Суть работы сети — обобщение, выделение «эффективных» признаков из множества данных, то есть абстрагирование.

В природной нейросети, которая - далеко не просто слои персептронов, можно выделить последовательность усложнений адаптивности, обеспечивающих целую иерархию развития принципиально различных по функциональности механизмов. Для этого появляются такие специализированные распознаватели как детекторы нового, детекторы значимости, коммутаторы закольцовки само-удерживающихся образов (реверберация), позволяющие не терять из внимания временно пропадающие важные стимулы, система как бы сто стороны внешнего отслеживания наиболее актуального в восприятии и проявление произвольности как корректирующих действий, так и оценки результата.

>>нейронные сети (и все биологические системы также) сейчас понимаются как диссипативные системы — то есть самоорганизующиеся системы...

тут неточность: диссипативные и самоорганизующиеся, все же, разные понятия. Слово "самоорганизующиеся" вообще недоопределенно потому как строго - все в природе самоорганизуется и что на что влияет при взаимодействиях - относительно. Диссипативная система может в рамках условного выделения границ участников считаться развивающейся без внешнего влияния и тогда говорят о ее самоорганизации, но только - в этих граничных условиях. Это - так же - как и с термодинамическими системами, - условная абстракция.

Нейронная сеть создана природой как раз-таки для учета внешнего влияния условий и в этом смысле не самоорганизующаяся, а постоянно зависима от внешнего. Хотя в ее работе могут быть и самоорганизующиеся участки, например, те самые изолированные самоподдерживающие образы, которые продуцируют фон доосознаваемого бреда.

>>По мнению автора этой работы, образы нейронной активности не привносятся в мозг извне, а содержаться в нём самом.

Это - нонсенс потому как активность нейронных сетей заточена как адаптивная реакция на внешние воздействия и условия.

В чём-то я с вами согласен, но некоторые вещи, по-моему, необходимо уточнить.

Существует два разных подхода к обработке информации — это последовательная обработка символов и параллельное распознавание образов. Различие между символами и образами только количественное — однако информационная емкость образа может на многие порядки превышать число бит, которыми описывается символ. В результате из количественного отличия возникает качественное, так как описать образ символами, то есть свести образ к алгоритму, становится нереальным. Что легко понять, если попробовать описать словами, например, обстановку в комнате со всеми нюансами, которые удалось разглядеть, — это невозможно. Если сложный образ невозможно даже описать, то оперирование такими описаниями будет невозможно тем более — задача приобретает экспоненциальную или даже сверхэкспоненциальную сложность.

Рост временной сложности алгоритма по мере увеличения размерности данных называется комбинаторным взрывом. Например, для вычислительной машины, способной просчитать миллион шахматных игровых комбинаций в секунду с отсевом заведомо ложных ветвей, на просчёт 6 ходов вперёд потребуется 1 секунда, на 12 ходов — 11 дней, а на 18 ходов — около 32 000 лет. Или, в поле 2 на 2 пикселя, где каждый пиксель может быть только чёрным или белым, может быть 16 вариантов изображений, а в поле 100 на 100 уже ~ 10^3000 (3000 знаков в числе).

В итоге по мере усложнения задач, ни решение, ни даже описание их привычными последовательными алгоритмами быстро становится невозможным (есть различные приёмы упрощения «грубой силы», но принципиально они суть не меняют). Качественное отличие в сложности означает и необходимость применения качественно нового метода решения задач — параллельного распознавания образов нейронной сетью, когда ни постановка задачи, ни её решение не требуют точного описания, ввиду способности нейронных сетей к самоорганизации (обучению). В чём они противоположны компьютерам, где алгоритм в явном виде задаёт поведение во всех мыслимых ситуациях. То есть различие между последовательными и параллельными вычислениями гораздо глубже, чем просто большая или меньшая продолжительность вычислений: если алгоритмы копируют последовательное поведение, то есть только некий малый итог работы мозга, то нейронные сети копируют саму «вычислительную систему», где поведение возникает. Что означает совершенно разные методологии, способы постановки и решения задач.

Например, на бесконечно малой длине отрезка любая кривая становится неотличима от прямой. В том же смысле, в некотором специфическом приближении нейронные сети можно описать как наборы алгоритмов, «отдельных звеньев», частей и т. п., которые подключаются или отключаются когда это требуется. Но необходимость такого описания как физической реальности непонятна, ввиду того, что оно нивелирует основную суть нейронных сетей, что в результате приводит к противоречиям. Например, если в сети есть какие-либо отдельные части, то возникает вопрос, кто их подключает. Получается, что мозгом как раз и будет тот «объект», в котором есть программа, знающая когда и как всё должно быть подключено. А у этого «объекта», очевидно, должны быть свои отдельные части, у тех частей свои, так далее — в результате «думать» будет нечему, нигде не будет смысла в согласованной работе отдельных частей. Можно сказать, для субъекта не останется места.

Противоречия исчезают, если описывать нейронную сеть как нейронную сеть, то есть как одну систему, комплекс взаимосвязанных нейронов — и уже исходя из этого общего понимания, описывать «отдельные» процессы в ней, включая функциональное значение зон, отделов и отдельных нейронов (типа нейронов новизны и т. п.). То есть сеть всегда функционирует как одно целое, например, торможение одних нейронов и их ансамблей определяет возбуждение других (общая энергия возбуждения равна энергии торможения), что не позволяет выделить в сети какие-либо действительно «самостоятельные» процессы.

«Наличие нелинейности и слабых весов не позволяют рассматривать части нейронной сети по отдельности, поскольку динамика группы нейронов любого размера зависит также и от остальных частей целой сети. В случае генерации импульса на одном нейроне невозможно предсказать его распространение без учёта предшествующих импульсов других нейронов, способных довести возбуждение до порогового уровня. Данное свойство целостности и масштабная инвариантность следуют также из нелокальности межэлементных связей, поскольку на любом пространственном масштабе равновероятны связи как между ближайшими, так и между наиболее удалёнными нейронами.» Модель возникновения лавинообразных биоэлектрических разрядов в нейронных сетях мозга. Институт прикладной физики РАН. ˆ2011 год

«Взаимодействие двух нервных процессов—возбуждения и торможения, лежащих в основе всех сложных регуляторных функций организма, закономерности их одновременного протекания в различных нервных центрах, а также последовательная смена во времени определяют точность и своевременность ответных реакций организма на внешние и внутренние воздействия.» Физиология центральной нервной системы. § 5. Координация деятельности центральной нервной системы.

Исходя из ещё более точного понимания, сети функционируют как динамические, нелинейные/неравновесные, открытые и диссипативные системы. Диссипативные системы способны к самоорганизации, упорядочению — когда относительная независимость элементов системы уступает место корпоративному (когерентному, согласованному) поведению. Ссылки на научные работы по этому факту есть в предыдущем посте. Что более точно объясняет и упорядоченность работы всех мышц, и абстрактность психического восприятия. Например, упорядочение происходит в контексте устройства сети и среды (внешней и внутренней) — поэтому психическое восприятие отражает и не сеть, и не среду, но при этом коррелирует и с тем и с другим.

Вот, что пишут в приведённой вами (в другой теме) ссылке:

«Главное преимущество нейросетей заключается в том, что они позволяют достигать очень высоких уровней абстракции, вычленяя из изображений их, как бы сказать… чисто абстрактные черты. Например, если нейросеть обучена распознаванию котиков, то в ее первый слой просто загружается изображение, а последующие слои обрабатывают его примерно так: второй распознает контрастность пикселей, третий наличие линий, четвертый их ориентацию, пятый мохнатость, шестой «ушастость», а седьмой и последний — «кóтовость». Важно понимать, что это очень условное представление о нейросетях — никто их заранее не программирует и не знает, что и как распознает данный слой. Как раз наоборот: все это происходит само собой по мере обучения. Суть аналогии в том, что уровень абстрактности очень сильно растет по мере движения от нижних к верхним слоям.» Го-сингулярность. 

Из неё так же следует, что в сети невозможно строго вычленить некие отдельные процессы, поэтому любой опыт/функцию можно считать в той или иной степени «размазанным» по всей сети. Касаемо реверберации возбуждения («закольцовок» и т. п.) — это следствие рекуррентности нейронной сети мозга, что подразумевает более сложную нейродинамику, чем у сетей прямого распространения, но изложенное выше не отменяет. Даже наоборот, так как наличие обратных связей делает процессы в сети ещё более взаимозависимыми. С другой стороны, я согласен с вами, искусственные нейронные сети, конечно, слишком просты, в сравнении с биологическими оригиналами, и позволяют моделировать только более или менее общие свойства мозга.

>>если попробовать описать словами, например, обстановку в комнате со всеми нюансами, которые удалось разглядеть, — это невозможно. Если сложный образ невозможно даже описать, то оперирование такими описаниями будет невозможно

Описать бывает многое невозможно с внешней стороны процесса. Стоит попробовать описать то, что происходит в компьютерном процессоре во время работы. Но это не значит, что его сложность непостижима. Очень многие субъективные переживания неописуемы словами и даже мысленными образами, но они есть, они - результат существующих процессов, которые чаще всего следуют уже сформированному алгоритму и лишь новизна иногда требует этот алгоритм корректировать.

>>ни постановка задачи, ни её решение не требуют точного описания

И в самом деле, зачем чье-то описание для работающего алгоритма хоть чего? Так что сложность описания никак не означает невозможности формирования внутренних алгоритмов (Алгоритмическая неразрешимость мышления и самоорганизация).

>> ввиду способности нейронных сетей к самоорганизации (обучению)

Нейросети сама по себе не формируется, это - заблуждение. Она всегда адаптивно отвечает на внешние воздействия созданием и корректировкой алгоритмов, которые называются иерархией формирующихся распознавателей от примитивов восприятия до признаков ситуаций. И как это происходит вполне представимо даже на схемотехническом уровне. Когда начинают говорить о какой-то сугубо автономной самоорганизации приходится напускать туман вместо конкретики, а что же именно, когда и почему организуется и насколько автономно.

>> в сети невозможно строго вычленить некие отдельные процессы, поэтому любой опыт/функцию можно считать в той или иной степени «размазанным» по всей сети

Почему невозможно, если каждый сформированный нейрон имеет совершенно определенную персептронную функцию распознавания профиля на своем входе и при стимуляции вызывает соответствующий образ? И почему это такие локальные функции вдруг размазываются по всей сети? Хотя можно говорить о совокупных функциях нейронных ансамблей, они так же достаточно локализованы и разные зоны мозга вообще могут быть настолько независимы, что общий результат провялятся только в третичных зонах мозга.

В обсуждении просто необходимо опираться на конкретику, а не общие рассуждения.

Да, вы правы, каждый нейрон имеет рецептивное поле — для нейронов непосредственно связанных с рецепторами рецептивное поле образуют сами рецепторы, для нейронов внутри сети рецептивное поле образуют другие нейроны. Рецептивное поле.

Нейронная сеть — это одна система, состоящая из схожих элементов исполняющих одну общую функцию — обобщение сигналов рецепторов в активность мышц и желёз. При этом активность каждого нейрона зависит от активности всех остальных нейронов в сети и наоборот, так как процессы возбуждения/торможения в сети взаимосвязаны. А также, за счёт десятков тысяч нелокальных отростков, каждый нейрон, можно сказать, находится сразу на пространстве всей сети. В итоге, можно сказать, что весь опыт нейронной сети «размазан» по всему её пространству.

В то же время, общая архитектура нейронной сети неоднородна и содержит более или менее обособленные зоны и отделы, морфологические особенности которых наследственно предопределены и в целом одинаковы у всех людей. Что задаёт определённый контекст динамике сети, а значит, и определённую специализацию её частей в составе общей функции. Получается, что опыт одновременно и локализован в пространстве сети — в части врождённой специализации её зон и отделов, и не локализован — как связанный с элементами единой системы. В итоге можно говорить только о большей или меньшей локализации некого опыта/функций в неком пространстве сети, а не о строгом разделении, несмотря, может быть, на странность такого положения. То есть если говорить об образах, то любой «образ» более или менее локализован сразу во всей сети.

«С другой стороны, высшие психические функции (в том числе и память) обычно реализуются одновременно разными структурами мозга (параллельная обработка информации), т.е. в процессах памяти кроме гиппокампа (или его частей) принимают активное участие и другие отделы мозга (например, лобная и височная кора). В связи с этим возникают методические проблемы исследования такой сложной распределенной системы, упростить которую без существенного нарушения ее функций затруднительно.» Память человека и анатомические особенности гиппокампа. 

Обучение нейронной сети заключается в изменении силы синапсов в ответ на активацию постсинаптических рецепторов. Проще говоря, под стимулирующим воздействием возбуждения веса связей нейронов изменяются. В результате конфигурация возбуждения/торможения в сети также изменяется — и соответствующим образом изменяется реакция сети на выходе. Это считается основным механизмом, с помощью которого реализуется феномен памяти и обучения, он характерен для всех организмов, обладающих нервной системой. Ссылка на синаптическую пластичность есть в первом посте.

При этом сеть обучается как целое, во всём объёме, так как все нейроны в сети взаимосвязаны — в ином случае, где-то в мозге должен быть упомянутый в предыдущем посте «объект», который будет объединять по необходимости части отдельного опыта, а также коррелировать их обучение, чтобы даже изменяясь они, тем не менее, могли адекватно взаимодействовать. У этого «гомункулуса», очевидно, должны быть свои отдельные части, которые тоже должен кто-то подключать — и так до бесконечности, что, конечно, не имеет смысла. В результате, из-за нелокальности опыта, реакция на выходе сети — это реакция всей сети. То есть «решает» всегда весь мозг, объём опыта, — субъект, а не его части.

Более точно, функционирование сети связано с упорядочением активности нейронов, так как нейронная сеть — это диссипативная система. Но упорядочение не происходит «автономно», «без внешнего влияния» — суть самоорганизации в том, что процесс происходит только без специфического «упорядочивающего» воздействия, за счёт внутренних факторов системы, без непосредственного вмешательства в её устройство. Но активный обмен системы энергией/веществом со средой не прекращается, иначе на упорядочение и поддержание упорядоченной организации у системы не было бы энергии. В целом, упорядочение возникает как процесс уравновешивания системы, то есть упорядоченная организация позволяет лучше распределять энергию в системе (подробнее об этом написано в статье). Ничего особенно загадочного в самооргаанизации нет, хотя из-за нелинейности/неравновесности предсказание поведения самоорганизующихся систем существенно ограничено.

Я также согласен с вами, что самоорганизация — это общий термин. Действительно, ввиду зависимости самоорганизации от внутренних факторов системы, в каждом типе систем появление порядка подразумевает свои особенности. В нейронной сети мозга — это синхронизация колебательной активности нейронов. Цитата и ссылка на синхронизацию в нейробиологии есть в постах выше. В то же время, на более глубинном уровне пейсмейкерная активность нейронов — это автоволны, то есть самоподдерживающиеся нелинейные волны в активных средах. Автоволновые структуры являются основой морфогенеза биологических систем вообще. Автоволны. В целом, если бы не было самоорганизации, то организм должен был бы кто-то непосредственно «собирать» и «чинить», как человек собирает и чинит компьютеры, так как гомеостаз был бы тоже невозможен. Гомеостаз.

>>этом активность каждого нейрона зависит от активности всех остальных нейронов в сети и наоборот

Это - принципиально не верное утверждение.

>>  за счёт десятков тысяч нелокальных отростков, каждый нейрон, можно сказать, находится сразу на пространстве всей сети

Это - еще одно неверное представление. Дендриты нейронов всегда рядом с его телом, а вот аксоны могут ветвиться далеко.

>>зоны и отделы, морфологические особенности которых наследственно предопределены и в целом одинаковы у всех людей

И еще одно. Наследственно конфигурация сети не предопределена, хотя метки-цели роста аксонов и места диффузии созревающих нейронов и определены. Нейросеть развивается по совершенно четко следующим критическим периодам созревания слоев как раз для того, чтобы фиксировать особенности текущего окружения при формировании текущего уровня иерархии распознавателей. Если повреждается одно полушарие, то все сосредотачивается на оставшемся так, что внешне мало что можно заметить.

>>под стимулирующим воздействием возбуждения веса связей нейронов изменяются.

И опять неверно. В отличие от персептрона, реальный нейрон не юстирует проводимость синапсов, а просто делает их проводимыми или нет для данного неспецифического нейромедиатора. В первичных зонах все, что активно на входе созревшего нейрона, становится его профильной функцией, совершенно хаотично и "без учителя". В ассоциативных зонах механизм уже существенно иной, но все равно нет определяющей важности градации проводимостей.

>>сеть обучается как целое, во всём объёме, так как все нейроны в сети взаимосвязаны

Все вовсе не так. Есть критические периоды развития нейросети, когда более молодые слои вообще еще даже не созрели, а в древних формируется функциональность. В префронтальной коре развитие слоев прекращается только к 25 годам, но новые распознаватели формируются всю жизнь и в районе гиппокампа и лобных долей каждый день возникают около 700 новых нейронов для этого.

>>если бы не было самоорганизации, то организм должен был бы кто-то непосредственно «собирать» и «чинить», как человек собирает и чинит компьютеры, так как гомеостаз был бы тоже невозможен.

Вот лобные доли и занимаются отслежитванием результативности имеющихся стереотипов и формируют новые для новых условий. Что касается гомеостаза, то его адаптивные функции очень интересно включаются в нейросеть: Гомеостаз и Система значимости.

Слишком не верные общие представления... Попробуйте пройти блиц-курс.

Вы приводите цитату из моего поста, в которой утверждается, что «активность каждого нейрона зависит от активности всех остальных нейронов в сети и наоборот». По вашему мнению «это — принципиально не верное утверждение». Однако все нейроны в сети взаимосвязаны, а наличие обратных связей подразумевают, что не только нейроны на выходах сети зависит от нейронов на входах, но и нейроны на входах зависят от нейронов на выходах. И позвольте процитировать ещё раз: «Наличие нелинейности и слабых весов не позволяют рассматривать части нейронной сети по отдельности, поскольку динамика группы нейронов любого размера зависит также и от остальных частей целой сети. ...» Модель возникновения лавинообразных биоэлектрических разрядов в нейронных сетях мозга. Институт прикладной физики РАН. ˆ2011 год

Далее вы приводите цитату из моего поста, где написано, что «зоны и отделы, морфологические особенности которых наследственно предопределены и в целом одинаковы у всех людей». Вы считаете, что это неверно, что «наследственно конфигурация сети не предопределена, хотя метки-цели роста аксонов и места диффузии созревающих нейронов и определены». То есть архитектура сети — направление роста аксонов, расположение нейронов и их тип — определена. Но это и имелось в виду.

«Наследуются не только морфологические черты организма, но и сама динамическая картина его развития. Если первая наследственная программа может быть описана через ключевые моменты, связанные с дифференциальной экспрессией специфических генов в определенных зачатках зародыша, то вторая программа, определяющая пространственно-временную организацию развития, не ясна. По-видимому, она носит эпигеномный характер и определяет время и место активации экспрессии генов, закономерности формирования компетенции и время детерминации эмбриональных зачатков. Многими экспериментами показано, что такие регулирующие факторы заложены уже в цитоплазме зиготы, однако не известно, каким образом в реализации пространственно-временной программы развития сочетаются принципы генетического детерминизма и самоорганизации.» Свободнорадикальные процессы в пространственно-временной регуляции развития низших позвоночных.

Если говорить проще, то организм развивается (самоорганизуется) в контексте генетической детерминанты и влияния среды, поэтому ничего не предопределено строго и ничего не возникает вне контекста наследуемого. Это же касается и мозга. Соответственно, строгую границу между тем, что заранее предопределено, и тем, что зависит от среды, провести нельзя. В главе «Самоорганизация организма» подробнее описано почему.

Далее вы утверждаете, что «нейросеть развивается по совершенно четко следующим критическим периодам созревания слоев как раз для того, чтобы фиксировать особенности текущего окружения при формировании текущего уровня иерархии распознавателей.» Действительно, дифференцирование нейронов происходит и после рождения, имеет свои более или менее выраженные этапы и т. д.. Плюс к дифференцированию нейронов (включая рост их связей — то есть усложнение архитектуры сети) развитие мозга происходит также за счёт глии. При этом известно, что количество нейронов у новорождённого такое же как у взрослого человека, хотя масса мозга меньше. В общем, очевидно, что организм развивается и после рождения. Тем не менее, согласно современной физиологии, обучение нейронной сети происходит всё же за счёт синаптической (и нейрональной) пластичности.

Если точнее, то развитие нейронной сети как части организма — это один «уровень» самоорганизации, естественно, тоже связанный со средой. То есть, можно сказать, это тоже некоторое «обучение», упорядочение нейронной сети. В том же смысле под «обучением» можно понимать развитие организма вообще (количество информации в системе есть мера организованности системы). Но под обучением связанным с нервной системой всё-таки принято понимать другой «уровень» — уровень самоорганизации активности нейронов, и этот уровень более всего связан с синаптической пластичностью. В некотором смысле, можно сказать, что под обучением, накоплением личного опыта принято понимать «тонкую» настройку уже сформированной нейронной сети, а не её развитие вообще. Чёткой границы между этими «уровнями» провести, конечно, нельзя, как нет и какого-либо «послойного» обучения, сеть всегда функционирует как целое.

Таким образом, обучение можно описать и как формиование распознавателей — так часто и описывают, в том смысле что каждый нейрон выделяет какие-то признаки в тех признаках, которые выделили нейроны его рецептивного поля. Тем самым уровень абстракции повышается от слоя к слою. Но только понимая, что «формирование распознавателей» в этом случае понимается как «уточнение» уже готовой сети за счёт изменения весов связей.

Далее вы пишете — «если повреждается одно полушарие, то все сосредотачивается на оставшемся так, что внешне мало что можно заметить.» Действительно, за счёт параллельной обработки информации, разрушение нейронной сети естественным образом приводит к перенаправлению импульсов по оставшимся связям. За счёт этого в целом и достигается высокая устойчивость нейронной сети к повреждениям. Однако если исходить из модели, где мозг состоит из подключаемых и отключаемых строго специализированных частей, то утрата соответствующей части будет приводить как раз к полной утрате навыка/функции.

Поэтому, например, нет смысла локализовать образы на нейронах или их слоях, о чём и пишут в ранее приводимых ссылках, — тем более с учётом обратных связей, когда «образы» на выходе сети влияют на «образы» на входе, и в результате какой там может быть «образ» страшно подумать.

«Распознавание мозгом каждого конкретного образа, например, дерева, связано с выделением из памяти по поступающим извне данным наиболее близкого этим данным образа. В памяти человека все возможные реализации образа хранятся в распределенном виде по всей нейронной сети. Обращение к хранимой в памяти информации происходит по содержанию, а не по адресу в памяти (как в современных компьютерах) и этим объясняется очень высокая быстрота процесса распознавания.» Синергетика мозга. 2005, Глава 1. Синергетика и принципы функционирования мозга, стр. 22

Вообще, в сети как таковой нет образов, образы есть только в сознании. Которое, по всей видимости, можно связать с упорядочением активности нейронов. Порядок обобщает «в абстрактное целое» среду и нейронную сеть, не являясь при этом ни тем ни другим. Хотя это, конечно, гипотеза, в сознание нельзя заглянуть.

Далее я пишу, что «если бы не было самоорганизации, то организм должен был бы кто-то непосредственно «собирать» и «чинить», как человек собирает и чинит компьютеры, так как гомеостаз был бы тоже невозможен.» На что вы замечаете: «вот лобные доли и занимаются отслежитванием результативности имеющихся стереотипов и формируют новые для новых условий.» Однако гомеостаз — это функция всего организма на всех его уровнях как единой системы. Другими словами, гомеостаз — это постоянный процесс самоорганизации, поддержания всей системой своей упорядоченной организации. Поэтому выделение частей, которые управляют гомеостазом, и частей, которые указания исполняют, невозможно. Из-за чего, например, в организме выделяют только «уровни» регуляции, считающиеся при этом полностью взаимосвязанными. То есть вся нейронная сеть как одно целое занимается регуляцией «общего» гомеостаза на своём уровне — на уровне нервной регуляции, а не лобные доли или какие-либо другие её части.