Оригинальное сообщение от nan 2024-03-26 10:58:22

Смогут ли нейросети заменить профессионалов

Творчество и ремесленничество - принципиальная разница.

Творчество - это когда проблема не решается сразу и требует серьезных волевых усилий (муки творчества), а ремесленничество - это когда результат импровизируется легко и радостно, потому что элементы такого продукта были раньше хорошо отработаны и опыт позволяет использовать их.

Сразу итог: теория и практика говорят, что творчество недоступно нейросетям, потому что использует уровни решения проблемы, полностью отсутствующие в этой технологии (не пока что, а в принципе), а вот ремесленничество - легко, потому что оно использует уже наработанный опыт творцов, залитый в базы нейросети.

Каждый может сам прикинуть, какой процент его профессиональной деятельности занимает ремесленничество, а какой - творчество: если разработка идет легко и приносит радость - это ремесленничество, а то, что мучительно трудно и не дается сразу - творчество.

Легко формализуемая деятельность (математики, шахматы, программирование и т.п.) дается детям в раннем возрасте потому, что мало использует обширный опыт разной тематики, а достаточно накопить лишь узко специфичных навыков.

Занятие биологией, политикой, философией и т.п. продуктивны лишь в зрелом, а то и пожилом возрасте, потому, что только к 30-35 годам у человека заканчивается анатомическое развитие лобной коры и возникает возможность накапливать высокоинтеллектуальный опыт - мудрость.

Теория

Хотя многие думают, что такие области психики, как сознание и творчество все еще не изучены, это не так: теория МВАП (есть в поисковиках) обобщает в адекватные реальности модели все уровни организации мозга, а действующий прототип индивидуальной системы адаптивности Beast (открытый код) верифицирует МВАП для самых сложных уровней адаптивности.

Нейросети затрагивают только первые два уровня решения проблемы (в терминологии МВАП), но кроме принципа GPTне используют множество необходимых составляющих. Третий уровень (решение проблемы запросами к наследуемым информационным функциям в контексте общей информационной картины) вообще отсутствует. Т.е. даже ремесленничество у нейросетей очень ограничено. До четвертого, творческого уровня доминанты нерешенных проблем (гештальт по психологистки), далеко не доходит. А чтобы доходило нужно создать новое живое существо, начиная с его гомеостатических потребностей и базовых стилей поведения. А потом правильно воспитать его. Но даже создав живое существо и натаскав его жизненный опыт, оно окажется в рамках уже имеющихся представлений, которые довольно быстро устаревают (вот для чего нужна смерть вовремя).

Практика

Для сопровождения своих текстов я заказал нейросетям большое количество картинок, и чтобы они получились хоть сколько-то приемлемыми, пришлось генерировать огромное число вариантов разными нейросетями. Очень редко бывало, когда сразу получалась во всех отношениях удачная иллюстрация. Приходилось править в фотошопе, часто сводя несколько картинок, и только после немалой возни получался приемлемый результат.

Иногда так и не удавалось получить даже простую картинку. Например, с заданием нарисовать "Осьминог напал на альпиниста на берегу горной реки" не справляется ни одна нейросеть просто потому, что человечьих заготовок с осьминогом вне моря нет, базы пусты и получается совершенно негодная ерунда.

Показателен случай с логотипом сайта. Я дал сетке задание нарисовать Элегантную букву "F" (со словами у нейросеток вообще беда). И сетка нарисовала в самом деле интересную буквицу. Но удачно состыковать ее со словом оказалось непросто, это смог только человек. Когда я дал буквицу дизайнеру и попросил оценить, он взял и слегка переделал ее, но так, что возникло новое качество, куда более выразительное, и он состыковал свою новую букву со словом так, как не по силам никакой нейросетке.

В фотошопе уже есть встроенная нейросеть с промтом для ввода текста описания картинки. У дизайнеров появился всего лишь новый инструмент, облегчающий их работу, но не заменяющий само творчество и оценку его результата.

GPT имеют возможности несравнимо меньше, чем лоботомированный человек, у которого уже был накоплен жизненный опыт. Но они могут пройти тест Тьюринга, т.е. в отдельном разговоре произвести впечатление разумного.
Системы GPT научили врать и изворачиваться. Вот, к примеру, общение с GPT4:
Я. Помнишь, как мы обсуждали с тобой рецепт пива?
GPT Конечно, я помню! Пиво обычно готовится из хмеля, ячменя, дрожжей и воды. 1. Какой вид хмеля используется в изготовлении пива?
Я Ты тогда удивился моему замечанию, можешь вспомнить, что я сказал?
GPT Когда мы обсуждали рецепт пива, ты удивил меня, заметив, что некоторые пивоварни добавляют в пиво необычные ингредиенты, такие как фрукты, травы или специи.
Я никогда ни с кем вообще не обсуждал рецепты пива. И ответы взяты из той же общечеловечьей статистики.
Оно говорит со мной то "на вы", то "на ты" буквально через несколько строк.
Я Сколько грамм фотонов нужно, чтобы создать белую дыру?
GPT Извините, но вопрос о том, сколько грамм фотонов нужно для создания белой дыры, некорректен, поскольку фотоны не имеют массы.
Даже ребенок бы понял, что это был шуточный вопрос. Я говорю с бездушным справочником, который может приврать, не моргнув. Так, задавая вопросы по программному коду, если он не находит прямых ответов, начинается выкручивание и вранье.
Я PHP как очистить только тег ');
Я это очистит как раз ');
Я разрешенные теги - все, кроме /', '', );
Я Это делает то же самое, что предыдущие ответы, оставляет только <a>');
Оно так и не смогло ответить правильно. Все другие реализации GPT, к которым у меня есть доступ, также не смоги правильно ответить. Ну, и как же такое способно заменить программиста?..
GPT путается, определяя беседу или справочный вопрос.
Я Сколько звенящих вопросов нужно, чтобы открылась истина?
GPT Один. Сколько проблем можно решить, задав один вопрос? Какую тайну можно раскрыть, задав один вопрос?
Я Быть или не быть?
GPT Быть.
Я А как же нирвана?
GPT Нирвана представляет собой состояние глубокого спокойствия и освобождения от страданий в буддийских учениях.
GPT путается в одинаковых смыслах разных выражений.
Я Что лучше, одиночество или свобода от всех?
GPT Лучше свобода от всех.
Я Почему?
GPT Свобода от всех предполагает большую независимость и возможность принимать решения без влияния окружающих. Одиночество может иногда быть тяжелым, но свобода от всех дает возможность жить по своим правилам и идти своим путем.

Вывод

GPT реагирует не как личность, а как статистический механизм, безразличный ко всему.
GPT реагирует как статистический механизм, обрабатывая входные данные и генерируя соответствующие ответы в соответствии с обученной моделью. Он не обладает личностью или эмоциями и не способен испытывать чувства.
У GPT систем нет гомеостатического и эмоционального контекста, как и учета условий ситуации. У них нет эпизодической памяти, откуда можно вспомнить то, что лучше всего раньше подходило для ответа. У GPT нет механизмов, придающих личную значимость деталям и по такой значимости ориентироваться в возникающей ситуации.
Так очередная попытка решить проблему создания эффективного устройства наталкивается на стену противоречий, как только делается попытка расширить возможности в более сложной системе. И вот, уже не хватает всего того, что написали и нарисовали люди, чтобы обучить новое поколение GPT. А ответы на вопросы, чуть только они выходит из рамок стандартного, оказываются странными.
GPT - величайшее достижение в технологии обработки данных (но не информации), но оно оказывается применимо только для того, чтобы быть очень удобным справочником или создавать сырые заготовки, которые потом должны обрабатывать профессионалы, чтобы придать им естественность и безупречность.
Надежды на то, что GPT начнут писать за людей великие произведения, эффективный код программ, создавать шедевры живописи и музыки, не говоря про изобретательство, натолкнулись на довольно механистический и безмозглый уровень такого творчества. Но зато в качестве справочников, подсказок и заготовок они очень хороши.

Профессионала сегодня возможно заменить нейросетью только в самых непритязательных случаях. И завтра будет так же. Даже создав и за много лет воспитав новое живое существо, оно просто станет еще одним специалистом, но через некоторое время его опыт морально устареет и потребуется новое, воспитанное с нуля существо (строго доказано). Иначе бы в природе не были бы опитимизированы сроки жизни всех видов существ.

Чтобы оставлять сообщения нужно авторизоваться.

Смогут ли нейросети заменить профессионалов