В чём-то я с вами согласен, но некоторые вещи, по-моему, необходимо уточнить.

Существует два разных подхода к обработке информации — это последовательная обработка символов и параллельное распознавание образов. Различие между символами и образами только количественное — однако информационная емкость образа может на многие порядки превышать число бит, которыми описывается символ. В результате из количественного отличия возникает качественное, так как описать образ символами, то есть свести образ к алгоритму, становится нереальным. Что легко понять, если попробовать описать словами, например, обстановку в комнате со всеми нюансами, которые удалось разглядеть, — это невозможно. Если сложный образ невозможно даже описать, то оперирование такими описаниями будет невозможно тем более — задача приобретает экспоненциальную или даже сверхэкспоненциальную сложность.

Рост временной сложности алгоритма по мере увеличения размерности данных называется комбинаторным взрывом. Например, для вычислительной машины, способной просчитать миллион шахматных игровых комбинаций в секунду с отсевом заведомо ложных ветвей, на просчёт 6 ходов вперёд потребуется 1 секунда, на 12 ходов — 11 дней, а на 18 ходов — около 32 000 лет. Или, в поле 2 на 2 пикселя, где каждый пиксель может быть только чёрным или белым, может быть 16 вариантов изображений, а в поле 100 на 100 уже ~ 10^3000 (3000 знаков в числе).

В итоге по мере усложнения задач, ни решение, ни даже описание их привычными последовательными алгоритмами быстро становится невозможным (есть различные приёмы упрощения «грубой силы», но принципиально они суть не меняют). Качественное отличие в сложности означает и необходимость применения качественно нового метода решения задач — параллельного распознавания образов нейронной сетью, когда ни постановка задачи, ни её решение не требуют точного описания, ввиду способности нейронных сетей к самоорганизации (обучению). В чём они противоположны компьютерам, где алгоритм в явном виде задаёт поведение во всех мыслимых ситуациях. То есть различие между последовательными и параллельными вычислениями гораздо глубже, чем просто большая или меньшая продолжительность вычислений: если алгоритмы копируют последовательное поведение, то есть только некий малый итог работы мозга, то нейронные сети копируют саму «вычислительную систему», где поведение возникает. Что означает совершенно разные методологии, способы постановки и решения задач.

Например, на бесконечно малой длине отрезка любая кривая становится неотличима от прямой. В том же смысле, в некотором специфическом приближении нейронные сети можно описать как наборы алгоритмов, «отдельных звеньев», частей и т. п., которые подключаются или отключаются когда это требуется. Но необходимость такого описания как физической реальности непонятна, ввиду того, что оно нивелирует основную суть нейронных сетей, что в результате приводит к противоречиям. Например, если в сети есть какие-либо отдельные части, то возникает вопрос, кто их подключает. Получается, что мозгом как раз и будет тот «объект», в котором есть программа, знающая когда и как всё должно быть подключено. А у этого «объекта», очевидно, должны быть свои отдельные части, у тех частей свои, так далее — в результате «думать» будет нечему, нигде не будет смысла в согласованной работе отдельных частей. Можно сказать, для субъекта не останется места.

Противоречия исчезают, если описывать нейронную сеть как нейронную сеть, то есть как одну систему, комплекс взаимосвязанных нейронов — и уже исходя из этого общего понимания, описывать «отдельные» процессы в ней, включая функциональное значение зон, отделов и отдельных нейронов (типа нейронов новизны и т. п.). То есть сеть всегда функционирует как одно целое, например, торможение одних нейронов и их ансамблей определяет возбуждение других (общая энергия возбуждения равна энергии торможения), что не позволяет выделить в сети какие-либо действительно «самостоятельные» процессы.

«Наличие нелинейности и слабых весов не позволяют рассматривать части нейронной сети по отдельности, поскольку динамика группы нейронов любого размера зависит также и от остальных частей целой сети. В случае генерации импульса на одном нейроне невозможно предсказать его распространение без учёта предшествующих импульсов других нейронов, способных довести возбуждение до порогового уровня. Данное свойство целостности и масштабная инвариантность следуют также из нелокальности межэлементных связей, поскольку на любом пространственном масштабе равновероятны связи как между ближайшими, так и между наиболее удалёнными нейронами.» Модель возникновения лавинообразных биоэлектрических разрядов в нейронных сетях мозга. Институт прикладной физики РАН. ˆ2011 год

«Взаимодействие двух нервных процессов—возбуждения и торможения, лежащих в основе всех сложных регуляторных функций организма, закономерности их одновременного протекания в различных нервных центрах, а также последовательная смена во времени определяют точность и своевременность ответных реакций организма на внешние и внутренние воздействия.» Физиология центральной нервной системы. § 5. Координация деятельности центральной нервной системы.

Исходя из ещё более точного понимания, сети функционируют как динамические, нелинейные/неравновесные, открытые и диссипативные системы. Диссипативные системы способны к самоорганизации, упорядочению — когда относительная независимость элементов системы уступает место корпоративному (когерентному, согласованному) поведению. Ссылки на научные работы по этому факту есть в предыдущем посте. Что более точно объясняет и упорядоченность работы всех мышц, и абстрактность психического восприятия. Например, упорядочение происходит в контексте устройства сети и среды (внешней и внутренней) — поэтому психическое восприятие отражает и не сеть, и не среду, но при этом коррелирует и с тем и с другим.

Вот, что пишут в приведённой вами (в другой теме) ссылке:

«Главное преимущество нейросетей заключается в том, что они позволяют достигать очень высоких уровней абстракции, вычленяя из изображений их, как бы сказать… чисто абстрактные черты. Например, если нейросеть обучена распознаванию котиков, то в ее первый слой просто загружается изображение, а последующие слои обрабатывают его примерно так: второй распознает контрастность пикселей, третий наличие линий, четвертый их ориентацию, пятый мохнатость, шестой «ушастость», а седьмой и последний — «кóтовость». Важно понимать, что это очень условное представление о нейросетях — никто их заранее не программирует и не знает, что и как распознает данный слой. Как раз наоборот: все это происходит само собой по мере обучения. Суть аналогии в том, что уровень абстрактности очень сильно растет по мере движения от нижних к верхним слоям.» Го-сингулярность. 

Из неё так же следует, что в сети невозможно строго вычленить некие отдельные процессы, поэтому любой опыт/функцию можно считать в той или иной степени «размазанным» по всей сети. Касаемо реверберации возбуждения («закольцовок» и т. п.) — это следствие рекуррентности нейронной сети мозга, что подразумевает более сложную нейродинамику, чем у сетей прямого распространения, но изложенное выше не отменяет. Даже наоборот, так как наличие обратных связей делает процессы в сети ещё более взаимозависимыми. С другой стороны, я согласен с вами, искусственные нейронные сети, конечно, слишком просты, в сравнении с биологическими оригиналами, и позволяют моделировать только более или менее общие свойства мозга.

>>если попробовать описать словами, например, обстановку в комнате со всеми нюансами, которые удалось разглядеть, — это невозможно. Если сложный образ невозможно даже описать, то оперирование такими описаниями будет невозможно

Описать бывает многое невозможно с внешней стороны процесса. Стоит попробовать описать то, что происходит в компьютерном процессоре во время работы. Но это не значит, что его сложность непостижима. Очень многие субъективные переживания неописуемы словами и даже мысленными образами, но они есть, они - результат существующих процессов, которые чаще всего следуют уже сформированному алгоритму и лишь новизна иногда требует этот алгоритм корректировать.

>>ни постановка задачи, ни её решение не требуют точного описания

И в самом деле, зачем чье-то описание для работающего алгоритма хоть чего? Так что сложность описания никак не означает невозможности формирования внутренних алгоритмов (Алгоритмическая неразрешимость мышления и самоорганизация).

>> ввиду способности нейронных сетей к самоорганизации (обучению)

Нейросети сама по себе не формируется, это - заблуждение. Она всегда адаптивно отвечает на внешние воздействия созданием и корректировкой алгоритмов, которые называются иерархией формирующихся распознавателей от примитивов восприятия до признаков ситуаций. И как это происходит вполне представимо даже на схемотехническом уровне. Когда начинают говорить о какой-то сугубо автономной самоорганизации приходится напускать туман вместо конкретики, а что же именно, когда и почему организуется и насколько автономно.

>> в сети невозможно строго вычленить некие отдельные процессы, поэтому любой опыт/функцию можно считать в той или иной степени «размазанным» по всей сети

Почему невозможно, если каждый сформированный нейрон имеет совершенно определенную персептронную функцию распознавания профиля на своем входе и при стимуляции вызывает соответствующий образ? И почему это такие локальные функции вдруг размазываются по всей сети? Хотя можно говорить о совокупных функциях нейронных ансамблей, они так же достаточно локализованы и разные зоны мозга вообще могут быть настолько независимы, что общий результат провялятся только в третичных зонах мозга.

В обсуждении просто необходимо опираться на конкретику, а не общие рассуждения.

Да, вы правы, каждый нейрон имеет рецептивное поле — для нейронов непосредственно связанных с рецепторами рецептивное поле образуют сами рецепторы, для нейронов внутри сети рецептивное поле образуют другие нейроны. Рецептивное поле.

Нейронная сеть — это одна система, состоящая из схожих элементов исполняющих одну общую функцию — обобщение сигналов рецепторов в активность мышц и желёз. При этом активность каждого нейрона зависит от активности всех остальных нейронов в сети и наоборот, так как процессы возбуждения/торможения в сети взаимосвязаны. А также, за счёт десятков тысяч нелокальных отростков, каждый нейрон, можно сказать, находится сразу на пространстве всей сети. В итоге, можно сказать, что весь опыт нейронной сети «размазан» по всему её пространству.

В то же время, общая архитектура нейронной сети неоднородна и содержит более или менее обособленные зоны и отделы, морфологические особенности которых наследственно предопределены и в целом одинаковы у всех людей. Что задаёт определённый контекст динамике сети, а значит, и определённую специализацию её частей в составе общей функции. Получается, что опыт одновременно и локализован в пространстве сети — в части врождённой специализации её зон и отделов, и не локализован — как связанный с элементами единой системы. В итоге можно говорить только о большей или меньшей локализации некого опыта/функций в неком пространстве сети, а не о строгом разделении, несмотря, может быть, на странность такого положения. То есть если говорить об образах, то любой «образ» более или менее локализован сразу во всей сети.

«С другой стороны, высшие психические функции (в том числе и память) обычно реализуются одновременно разными структурами мозга (параллельная обработка информации), т.е. в процессах памяти кроме гиппокампа (или его частей) принимают активное участие и другие отделы мозга (например, лобная и височная кора). В связи с этим возникают методические проблемы исследования такой сложной распределенной системы, упростить которую без существенного нарушения ее функций затруднительно.» Память человека и анатомические особенности гиппокампа. 

Обучение нейронной сети заключается в изменении силы синапсов в ответ на активацию постсинаптических рецепторов. Проще говоря, под стимулирующим воздействием возбуждения веса связей нейронов изменяются. В результате конфигурация возбуждения/торможения в сети также изменяется — и соответствующим образом изменяется реакция сети на выходе. Это считается основным механизмом, с помощью которого реализуется феномен памяти и обучения, он характерен для всех организмов, обладающих нервной системой. Ссылка на синаптическую пластичность есть в первом посте.

При этом сеть обучается как целое, во всём объёме, так как все нейроны в сети взаимосвязаны — в ином случае, где-то в мозге должен быть упомянутый в предыдущем посте «объект», который будет объединять по необходимости части отдельного опыта, а также коррелировать их обучение, чтобы даже изменяясь они, тем не менее, могли адекватно взаимодействовать. У этого «гомункулуса», очевидно, должны быть свои отдельные части, которые тоже должен кто-то подключать — и так до бесконечности, что, конечно, не имеет смысла. В результате, из-за нелокальности опыта, реакция на выходе сети — это реакция всей сети. То есть «решает» всегда весь мозг, объём опыта, — субъект, а не его части.

Более точно, функционирование сети связано с упорядочением активности нейронов, так как нейронная сеть — это диссипативная система. Но упорядочение не происходит «автономно», «без внешнего влияния» — суть самоорганизации в том, что процесс происходит только без специфического «упорядочивающего» воздействия, за счёт внутренних факторов системы, без непосредственного вмешательства в её устройство. Но активный обмен системы энергией/веществом со средой не прекращается, иначе на упорядочение и поддержание упорядоченной организации у системы не было бы энергии. В целом, упорядочение возникает как процесс уравновешивания системы, то есть упорядоченная организация позволяет лучше распределять энергию в системе (подробнее об этом написано в статье). Ничего особенно загадочного в самооргаанизации нет, хотя из-за нелинейности/неравновесности предсказание поведения самоорганизующихся систем существенно ограничено.

Я также согласен с вами, что самоорганизация — это общий термин. Действительно, ввиду зависимости самоорганизации от внутренних факторов системы, в каждом типе систем появление порядка подразумевает свои особенности. В нейронной сети мозга — это синхронизация колебательной активности нейронов. Цитата и ссылка на синхронизацию в нейробиологии есть в постах выше. В то же время, на более глубинном уровне пейсмейкерная активность нейронов — это автоволны, то есть самоподдерживающиеся нелинейные волны в активных средах. Автоволновые структуры являются основой морфогенеза биологических систем вообще. Автоволны. В целом, если бы не было самоорганизации, то организм должен был бы кто-то непосредственно «собирать» и «чинить», как человек собирает и чинит компьютеры, так как гомеостаз был бы тоже невозможен. Гомеостаз.

>>этом активность каждого нейрона зависит от активности всех остальных нейронов в сети и наоборот

Это - принципиально не верное утверждение.

>>  за счёт десятков тысяч нелокальных отростков, каждый нейрон, можно сказать, находится сразу на пространстве всей сети

Это - еще одно неверное представление. Дендриты нейронов всегда рядом с его телом, а вот аксоны могут ветвиться далеко.

>>зоны и отделы, морфологические особенности которых наследственно предопределены и в целом одинаковы у всех людей

И еще одно. Наследственно конфигурация сети не предопределена, хотя метки-цели роста аксонов и места диффузии созревающих нейронов и определены. Нейросеть развивается по совершенно четко следующим критическим периодам созревания слоев как раз для того, чтобы фиксировать особенности текущего окружения при формировании текущего уровня иерархии распознавателей. Если повреждается одно полушарие, то все сосредотачивается на оставшемся так, что внешне мало что можно заметить.

>>под стимулирующим воздействием возбуждения веса связей нейронов изменяются.

И опять неверно. В отличие от персептрона, реальный нейрон не юстирует проводимость синапсов, а просто делает их проводимыми или нет для данного неспецифического нейромедиатора. В первичных зонах все, что активно на входе созревшего нейрона, становится его профильной функцией, совершенно хаотично и "без учителя". В ассоциативных зонах механизм уже существенно иной, но все равно нет определяющей важности градации проводимостей.

>>сеть обучается как целое, во всём объёме, так как все нейроны в сети взаимосвязаны

Все вовсе не так. Есть критические периоды развития нейросети, когда более молодые слои вообще еще даже не созрели, а в древних формируется функциональность. В префронтальной коре развитие слоев прекращается только к 25 годам, но новые распознаватели формируются всю жизнь и в районе гиппокампа и лобных долей каждый день возникают около 700 новых нейронов для этого.

>>если бы не было самоорганизации, то организм должен был бы кто-то непосредственно «собирать» и «чинить», как человек собирает и чинит компьютеры, так как гомеостаз был бы тоже невозможен.

Вот лобные доли и занимаются отслежитванием результативности имеющихся стереотипов и формируют новые для новых условий. Что касается гомеостаза, то его адаптивные функции очень интересно включаются в нейросеть: Гомеостаз и Система значимости.

Слишком не верные общие представления... Попробуйте пройти блиц-курс.

Вы приводите цитату из моего поста, в которой утверждается, что «активность каждого нейрона зависит от активности всех остальных нейронов в сети и наоборот». По вашему мнению «это — принципиально не верное утверждение». Однако все нейроны в сети взаимосвязаны, а наличие обратных связей подразумевают, что не только нейроны на выходах сети зависит от нейронов на входах, но и нейроны на входах зависят от нейронов на выходах. И позвольте процитировать ещё раз: «Наличие нелинейности и слабых весов не позволяют рассматривать части нейронной сети по отдельности, поскольку динамика группы нейронов любого размера зависит также и от остальных частей целой сети. ...» Модель возникновения лавинообразных биоэлектрических разрядов в нейронных сетях мозга. Институт прикладной физики РАН. ˆ2011 год

Далее вы приводите цитату из моего поста, где написано, что «зоны и отделы, морфологические особенности которых наследственно предопределены и в целом одинаковы у всех людей». Вы считаете, что это неверно, что «наследственно конфигурация сети не предопределена, хотя метки-цели роста аксонов и места диффузии созревающих нейронов и определены». То есть архитектура сети — направление роста аксонов, расположение нейронов и их тип — определена. Но это и имелось в виду.

«Наследуются не только морфологические черты организма, но и сама динамическая картина его развития. Если первая наследственная программа может быть описана через ключевые моменты, связанные с дифференциальной экспрессией специфических генов в определенных зачатках зародыша, то вторая программа, определяющая пространственно-временную организацию развития, не ясна. По-видимому, она носит эпигеномный характер и определяет время и место активации экспрессии генов, закономерности формирования компетенции и время детерминации эмбриональных зачатков. Многими экспериментами показано, что такие регулирующие факторы заложены уже в цитоплазме зиготы, однако не известно, каким образом в реализации пространственно-временной программы развития сочетаются принципы генетического детерминизма и самоорганизации.» Свободнорадикальные процессы в пространственно-временной регуляции развития низших позвоночных.

Если говорить проще, то организм развивается (самоорганизуется) в контексте генетической детерминанты и влияния среды, поэтому ничего не предопределено строго и ничего не возникает вне контекста наследуемого. Это же касается и мозга. Соответственно, строгую границу между тем, что заранее предопределено, и тем, что зависит от среды, провести нельзя. В главе «Самоорганизация организма» подробнее описано почему.

Далее вы утверждаете, что «нейросеть развивается по совершенно четко следующим критическим периодам созревания слоев как раз для того, чтобы фиксировать особенности текущего окружения при формировании текущего уровня иерархии распознавателей.» Действительно, дифференцирование нейронов происходит и после рождения, имеет свои более или менее выраженные этапы и т. д.. Плюс к дифференцированию нейронов (включая рост их связей — то есть усложнение архитектуры сети) развитие мозга происходит также за счёт глии. При этом известно, что количество нейронов у новорождённого такое же как у взрослого человека, хотя масса мозга меньше. В общем, очевидно, что организм развивается и после рождения. Тем не менее, согласно современной физиологии, обучение нейронной сети происходит всё же за счёт синаптической (и нейрональной) пластичности.

Если точнее, то развитие нейронной сети как части организма — это один «уровень» самоорганизации, естественно, тоже связанный со средой. То есть, можно сказать, это тоже некоторое «обучение», упорядочение нейронной сети. В том же смысле под «обучением» можно понимать развитие организма вообще (количество информации в системе есть мера организованности системы). Но под обучением связанным с нервной системой всё-таки принято понимать другой «уровень» — уровень самоорганизации активности нейронов, и этот уровень более всего связан с синаптической пластичностью. В некотором смысле, можно сказать, что под обучением, накоплением личного опыта принято понимать «тонкую» настройку уже сформированной нейронной сети, а не её развитие вообще. Чёткой границы между этими «уровнями» провести, конечно, нельзя, как нет и какого-либо «послойного» обучения, сеть всегда функционирует как целое.

Таким образом, обучение можно описать и как формиование распознавателей — так часто и описывают, в том смысле что каждый нейрон выделяет какие-то признаки в тех признаках, которые выделили нейроны его рецептивного поля. Тем самым уровень абстракции повышается от слоя к слою. Но только понимая, что «формирование распознавателей» в этом случае понимается как «уточнение» уже готовой сети за счёт изменения весов связей.

Далее вы пишете — «если повреждается одно полушарие, то все сосредотачивается на оставшемся так, что внешне мало что можно заметить.» Действительно, за счёт параллельной обработки информации, разрушение нейронной сети естественным образом приводит к перенаправлению импульсов по оставшимся связям. За счёт этого в целом и достигается высокая устойчивость нейронной сети к повреждениям. Однако если исходить из модели, где мозг состоит из подключаемых и отключаемых строго специализированных частей, то утрата соответствующей части будет приводить как раз к полной утрате навыка/функции.

Поэтому, например, нет смысла локализовать образы на нейронах или их слоях, о чём и пишут в ранее приводимых ссылках, — тем более с учётом обратных связей, когда «образы» на выходе сети влияют на «образы» на входе, и в результате какой там может быть «образ» страшно подумать.

«Распознавание мозгом каждого конкретного образа, например, дерева, связано с выделением из памяти по поступающим извне данным наиболее близкого этим данным образа. В памяти человека все возможные реализации образа хранятся в распределенном виде по всей нейронной сети. Обращение к хранимой в памяти информации происходит по содержанию, а не по адресу в памяти (как в современных компьютерах) и этим объясняется очень высокая быстрота процесса распознавания.» Синергетика мозга. 2005, Глава 1. Синергетика и принципы функционирования мозга, стр. 22

Вообще, в сети как таковой нет образов, образы есть только в сознании. Которое, по всей видимости, можно связать с упорядочением активности нейронов. Порядок обобщает «в абстрактное целое» среду и нейронную сеть, не являясь при этом ни тем ни другим. Хотя это, конечно, гипотеза, в сознание нельзя заглянуть.

Далее я пишу, что «если бы не было самоорганизации, то организм должен был бы кто-то непосредственно «собирать» и «чинить», как человек собирает и чинит компьютеры, так как гомеостаз был бы тоже невозможен.» На что вы замечаете: «вот лобные доли и занимаются отслежитванием результативности имеющихся стереотипов и формируют новые для новых условий.» Однако гомеостаз — это функция всего организма на всех его уровнях как единой системы. Другими словами, гомеостаз — это постоянный процесс самоорганизации, поддержания всей системой своей упорядоченной организации. Поэтому выделение частей, которые управляют гомеостазом, и частей, которые указания исполняют, невозможно. Из-за чего, например, в организме выделяют только «уровни» регуляции, считающиеся при этом полностью взаимосвязанными. То есть вся нейронная сеть как одно целое занимается регуляцией «общего» гомеостаза на своём уровне — на уровне нервной регуляции, а не лобные доли или какие-либо другие её части.

Не думаю, что есть смысл пытаться переубеждать вас в чем-то, это даже и не корректно этически. Так что ограничусь тем, что уже привел здесь как свое мнение, не ветвя обсуждение до бесконечности. Просто замечу, что стоило бы более внимательно подойти к тому, как нейросеть развивается и принимает функциональность отдельные ее зоны - в природной реализации потому как именно она выверена в реальном приложении.

Какой вопрос, такой и ответ...

 Вообще тема алгоритмизации очень интересна не только с точки зрения математической, но и психолого-социологической. О том насколько трудна эта задача знают разработчики систем автоматизации и...социологи. Последние особенно хорошо знают цену влиянию на результат правильной постановки вопроса. Они, как и программисты, регулярно сталкиваются с проблемой неявных вычислений/преобразований и с тем как сложно выявлять причины неверных результатов при внешне верном описании. Вот и в этой статье ошибок неявных определений более чем достаточно. Взять хотя бы исходный вопрос выведенный в заголовок: в рамках какой формальной системы выполняется алгоритмизация? Очевидность ответа только кажущаяся т.к. то что формальная система является строго производной человеческого мышления надо ещё доказать. Наше интуитивное понимание не тождественно реальному положению вещей. Тут ситуация примерно та же что и в апории Зенона о черепахе и Ахиллесе, парадокс которой возникает из-за нетождественности между математической моделью и физическим реализмом. Поэтому если выполнять раскрытие всех скрытых постулатов, исходный вопрос превращается в тривиальный и статью надо было закончить на точке в предложении о теоремах Гёделя. Собственно это даже не совсем вопрос, а дилемма: "алгоритмизация человеческого мышления невозможна в рамках человеческих формальных систем" и "алгоритмизация возможна в рамках старших/внешних формальных систем". Для доказательства первой леммы как раз и используются теоремы о неполноте, а вот вторая лемма относится к самоочевидным - существование человека разумного доказывает существование алгоритма мышления хотя бы в формализме нашей вселенной. То что нам пока не доступна эта формальная система не делает её несуществующей.

Вторая важная ошибка неявности - понимание искусственности. Человек полученный в результате экстракорпорального оплодотворения искусственный или естественный? Вопрос не только нетривиальный, но и пока далёкий от разрешения даже на передовой линии философии. Но его можно немного упростить если перевести в математическую плоскость: является ли искусственный интеллект подмножеством естественного? В зависимости от ответа на этот вопрос, будет и ответ на вопрос о возможности написания алгоритма искусственного интеллекта в контексте подмножества человеческих формализмов без всяких сомнительных рассуждений.

Вообще тема алгоритмизации очень интересна не только с точки зрения математической, но и психолого-социологической. О том насколько трудна эта задача знают разработчики систем автоматизации и...социологи. Последние особенно хорошо знают цену влиянию на результат правильной постановки вопроса. Они, как и программисты, регулярно сталкиваются с проблемой неявных вычислений/преобразований и с тем как сложно выявлять причины неверных результатов при внешне верном описании.

Хорошо.

Вот и в этой статье ошибок неявных определений более чем достаточно. Взять хотя бы исходный вопрос выведенный в заголовок: в рамках какой формальной системы выполняется алгоритмизация? Очевидность ответа только кажущаяся т.к. то что формальная система является строго производной человеческого мышления надо ещё доказать. Тут ситуация примерно та же что и в апории Зенона о черепахе и Ахиллесе, парадокс которой возникает из-за нетождественности между математической моделью и физическим реализмом.

В статье как раз и написано, почему «наше интуитивное понимание не тождественно реальному положению вещей», и что из этого следует.

Поэтому если выполнять раскрытие всех скрытых постулатов, исходный вопрос превращается в тривиальный и статью надо было закончить на точке в предложении о теоремах Гёделя.

Если «выполнять раскрытие всех скрытых постулатов», получится статья, которую вы комментируете. И судя по тому, что вы пишете, вам стоит её прочитать.

Собственно это даже не совсем вопрос, а дилемма: "алгоритмизация человеческого мышления невозможна в рамках человеческих формальных систем" и "алгоритмизация возможна в рамках старших/внешних формальных систем". Для доказательства первой леммы как раз и используются теоремы о неполноте, а вот вторая лемма относится к самоочевидным - существование человека разумного доказывает существование алгоритма мышления хотя бы в формализме нашей вселенной. То что нам пока не доступна эта формальная система не делает её несуществующей.

Во-первых, что «алгоритмизация человеческого мышления невозможна в рамках человеческих формальных систем», теоремы Гёделя не доказывают. Теоремы Гёделя доказывают — если формальная система непротиворечива, то формула доказательства непротиворечивости невыводима. Интерпретируя — если знания имеют смысл, то алгоритмизация мышления невозможна, но строго доказать это нельзя. Во-вторых, что «алгоритмизация мышления возможна в рамках старших/внешних формальных систем» утверждать нельзя. Неизвестно возможны ли такие системы. И наконец, в-третьих. Если вам лично кажется, что «существование человека разумного доказывает существование алгоритма мышления хотя бы в формализме нашей вселенной», то прочитайте, что вы сами писали выше: «Наше интуитивное понимание не тождественно реальному положению вещей.»

Несколько отвлекусь от вашего поста. Например, кажется очевидным, что у реальности есть минимальные элементы — элементарные кирпичики, из которых состоит всё. Однако тогда все физические законы должны исходить из геометрии этих «кирпичиков», что уже кажется невозможным. То есть «кирпичики» и должны быть, и не могут быть.

Человек полученный в результате экстракорпорального оплодотворения искусственный или естественный? Вопрос не только нетривиальный, но и пока далёкий от разрешения даже на передовой линии философии.

По-моему, это вопрос просто бессмысленный.

Но его можно немного упростить если перевести в математическую плоскость: является ли искусственный интеллект подмножеством естественного? В зависимости от ответа на этот вопрос, будет и ответ на вопрос о возможности написания алгоритма искусственного интеллекта в контексте подмножества человеческих формализмов без всяких сомнительных рассуждений.

Чтобы ответить на вопрос кто чьим подмножеством является, необходимо вначале интеллект алгоритмизировать, то есть абстрагировать к формальной системе, формуле. А не наоборот.  

Кошкин, эта статья, насколько я понимаю, имеет большое значение для обоснования твоих рассуждений:

Ссылка: http://jetpletters.ac.ru/ps/1929/article_29245.pdf

Название: Модель возникновения лавинообразных биоэлек- трических разрядов в нейронных сетях мозга

В расчетах использовалась сеть из N = 400 возбуждающих нейронов, случайным образом расположенных на квадратной подложке, с вероятностью pcouple для любой пары клеток быть связанными однонаправленной синапти- ческой связью. Скорость распространения сигнала от одной клетки к другой равна Vprop = 50мм/с, а время задержки пропорционально расстоянию между клетками. Все нейроны такой сети находятся в возбудимом режиме в состоянии покоя, и могут генерировать сигнальные события различных масштабов лишь в ответ на синхронную активацию нескольких нейронов.

Прежде всего, давайте укажем, что предположение о значении этой работы вы сделали на основании и в продолжение этого обсуждения: Сообщение № 43804. 

Теперь о значении. Нет, никакого значения для моей статьи эта работа не имеет. В статье изложены положения более общего характера — во всяком случае, касаясь конкретных научных теорий, я стремился не выходить за рамки хорошо известного (почему, собственно, я и не приводил ссылок на АИ). Вывод же данной работы о мозге только лишний раз подтверждает написанное в статье, а чёткость и краткость изложенного по теме позволяет использовать её в качестве цитаты. Что касается самой работы, то там всё следует из названия, а, например, несоответствие архитектуры модели и архитектуры мозга в данном случае не является критичным, так как отражена необходимая общая суть архитектуры — есть связи как между ближайшими, так и между удалёнными нейронами. В итоге авторы делают вывод, что указанные в цитате свойства нейронных сетей «не позволяют рассматривать части нейронной сети по отдельности, поскольку динамика группы нейронов любого размера зависит также и от остальных частей целой сети» и т. д..

Конкретно в цитируемой работе исследуется: «Самоорганизованная критичность — свойство динамических систем, которые имеют точки бифуркации. Поведение в окрестности точки характеризуется тем, что при малом возмущении система может пройти точку бифуркации, тем самым, полностью изменив свою модель поведения. Классическими примерами самоорганизованной критичности является фазовый переход или песчаная куча.» Самоорганизованная критичность. Википедия. Нейронная сеть — это динамическая система с описанными свойствами, понятие фазового перехода к ней также применимо. В статье это описано, а в обсуждении были некоторые цитаты по теме: Сообщение № 13592.