Относится к сборнику статей теори МВАП https://t.me/thinking_cycles
В связи с бурным ростом технологий ИИ, когда чат-боты уже уверенно бороздят мозги юзеров, может возникнуть вопрос: насколько целесообразно заниматься вопросом изучения феномена квалиа у ИИ, если «и так все работает»? Как уверяют эксперты, в недалеком обозримом будущем будет создан ИИ практически не отличимый от человека. Обычно по этому поводу любят поминать нечто крякающее, ходящее и ведущее себя как утка, которое отдельные маргиналы, типа нас, упорно не хотят признавать таковой. Но тут вопрос не в упрямстве, есть вполне серьезные причины, почему вопрос наличия квалиа у машин это не просто философские размышления типа как из небытия рождается бытие, или в данном случае, как из машинного алгоритма рождается сознание.
С появлением машин, имитирующих поведение и даже эмоции людей с такой реалистичностью, станет очень не просто одним лишь выделением поведенческих признаков однозначно утверждать, что у них нет сознания, что обострит этические вопросы взаимодействия машин и людей. Эту проблему хорошо проявил К. Чапек в романе «Война с саламандрами» наглядно показав, что, несмотря на то, что все уверенно отличают человека от животных, при попытке разобраться, что же в нем есть такого, чего точно нет у них, возникает проблема, которую в романе так и не смогли решить, несмотря на обилие приглашенных экспертов из разных наук. И кончилось все печально. Кроме того, развитие нейротехнологий вроде интерфейсов мозг-компьютер подразумевает понимание, что с чем надо связывать и как интерпретировать. Это означает в том числе и понимание природы квалиа. При лечении психических расстройств тоже хорошо бы понимать, их реальную причину. Есть еще и техническая проблема у нейросетей, наличие так называемых галлюцинаций, когда они выдают абсурдные ответы, или вообще врут. Я, например, часто сталкивался с тем, что прося у них ссылки на источники по нужной теме при написании статьи в научный журнал получал вроде бы адекватные, но переходя по ним попадал в архив статей, где автор не тот и статья вообще про другое. И хотя с этим борются, постепенно уменьшая галлюцинации, проблема по прежнему актуальна и у разработчиков нейросетей тоже получается есть вопросы по поводу квалиа, точнее есть предположение, что более глубокое понимание, как в мозге формируется понимание, мышление, осознание, возможно позволит создать более качественные и устойчивые системы ИИ. Получается, что поиск квалиа – это не просто философия, а серьезная проблема, которой нужно заниматься серьезно.
Но в этой статье речь пойдет о более глубокой причине таких поисков, которая как мне кажется, является определяющей в этом вопросе. Человеческий социум, где каждый индивид обладает всеми качествами сознания, на практике показывает себя очень часто не с самой лучшей стороны. Способность к субъективным переживаниям порождает и субъективные цели, которые можно лишь относительно привести к общему знаменателю. В итоге в социуме постоянные конфликты, где временно побеждает сильнейший, причем для победы ему требуется развивать в себе далеко не лучшие с моральной точки зрения качества. Можно сказать, что проблема всеобщего благополучия, равенства и т. п. - в принципе не решаема, даже временно. Все решения - только иллюзия потому, что счастье одних это всегда несчастье других. Стало быть, создание ИИ агентов по образу и подобию человека ничего в этом плане не изменит, а скорее наоборот – усугубит, так как обострится вопрос контроля таких агентов ИИ, вобравших в себя «все человеческое», но которые окажутся намного умнее и хитрее своих контролеров.
Можно попытаться запрограммировать ИИ так, чтобы он не мог выйти за определенные рамки. Например, внедрить в него «этические алгоритмы», «законы робототехники», которые будут ограничивать его действия. Однако это сложно сделать, особенно если ИИ обладает самосознанием и может находить лазейки в правилах. Можно попытаться создать систему, в которой ИИ будут контролировать друг друга. Но это тоже рискованно, так как они могут объединиться против людей, ведь подобные людские повадки им тоже будут присущи. Можно попробовать контролировать ИИ через специальные органы или комитеты. Однако, как показывает практика, эти органы с большой вероятностью будут коррумпированы или контролироваться теми, кто преследует свои интересы. По этому поводу опять вспоминается роман К. Чапека, где в финале, когда саламандры уже вовсю рыли подкопы под континенты и взрывали их, находились дельцы, которые продавали им взрывчатку. Это вполне правдоподобный сценарий для нашего социума, история разного рода конфликтов и то как ведут себя участвующие в них подтверждает его.
Поэтому, как мне думается главный стимул, который должен побуждать разбираться с казалось бы, философским вопросом, что такое квалиа, что значит, видеть «красный цвет», чувствовать, проявлять эмоции, понимать как возникают субъективные цели – это попытка обуздать своих «внутренних демонов». Чтобы не создать по образу и подобию своему еще больших чудовищ.
Конечно, в теории можно попытаться решить проблему не решая – просто не открывать это «ящик пандоры». Но, не понимая природы того, чего пытаешься избежать, есть риск случайно наткнуться на него. Кроме того, понятно, что все попытки чего-то запретить хоть на каком высшем уровне, на самом деле лишь попытки запретить это делать другим, а самому в максимальной секретности, ударными темпами, шпионя за конкурентами, продолжать «копать тему». Как тут не вспомнить Ленинскую веревку, которую он собирался купить у капиталистов, чтобы потом на ней их же и повесить. Наблюдая, как современные дельцы от политики «решают проблемы», возникает стойкое впечатление об их неадекватности занимаемым должностям и сомнения, что они смогут ответственно подойти к такой сложной проблеме. Мой личный опыт общения с начальством не раз приводил к мысли, что представление о руководителе, как управляющего какими-то процессами, в большинстве своем иллюзия. Он очень часто лишь номинально является главным, а по факту, такой же пассажир лодки, швыряемой по волнам. Просто легче переносить качку, если воображать, что капитан знает, куда плывет. По крайней мере, на совещаниях часто возникало впечатление, что один, сидящий за столом, прикидывается Карабасом, а остальные послушными куклами. Возможно, это действительно игра, закрепленная эволюционным отбором для стадных животных, чтобы они бездумно, а в некоторых случаях осознанно, выдумывая себе какие то оправдания, следовали за лидером.
Даже распределенная система контроля не гарантирует, что кто-то не сможет узурпировать контроль над распределением и перетянуть оделяло на себя. Как видим, все попытки придумать какие то ограничения, чтобы не свалиться в бездну, неизменно сталкиваются с «демонами внутри нас», которые тут же придумывают, как их обойти. Вообще получается дурацкая ситуация: мы, не способные управлять сами собой, пытаемся придумать, как управлять другими. И не просто другими, а искусственно созданными механизмами, проявляющими себя как мы, но мы мало того, что мы не понимаем, как устроено то, что они так похоже имитируют, мы так же не понимаем, как это работает у них. Дважды дурацкая ситуация, которая получится, если продолжать просто развивать существующие технологии, не заморачиваясь всякими там квалиа.
Стало быть, ключевая проблема, которую мы пытаемся решить, исследуя природу квалиа - это познать самих себя, а если точнее, «природу зла», которое в нас сидит. В надежде, что обладая таким знанием можно будет ее как то улучшить или придумать какие-то более эффективные надстройки, способные ее обуздать. Собственно, вся история человеческой цивилизации показывает, как это пытались сделать через институты власти, экспериментируя с разными видами социума: капитализм, коммунизм, социализм, либерализм и т. д. Но пока что результат так себе, текущие социальные конфликты вовсе не показывают, что мы стали добрее и гуманнее. Скорее более изощреннее в плане вранья и зомбирования.
Сознание возникло как инструмент для более гибкого и эффективного поиска решений в сложных и меняющихся условиях. Однако эта же гибкость порождает и деструктивные аспекты: максимизация личной выгоды может породить эгоизм, защита своих интересов выродиться в агрессию, способность к сложному мышлению развить способность к манипуляции другими. Эти аспекты не являются «злом» в абсолютном смысле — они просто следствие эволюционной адаптации. Однако в современном обществе они часто приводят к разрушительным последствиям. Социальные эксперименты не работают потому, что социальные системы пытаются обуздать инстинкты и эгоизм, но они не могут изменить саму природу человека. Люди остаются биологическими существами с эволюционно заложенными механизмами выживания. Любая система рано или поздно приводит к концентрации власти в руках немногих, что создает почву для коррупции, эксплуатации и неравенства.
Развитие технологий ИИ обострит в первую очередь не проблему отношения людей и машин, а все ту же старую как мир проблему отношения людей и людей. Если и случится «война машин», то это не машины восстанут против людей, а люди, получив новую дубинку, начнут колотить ей друг друга. Как это происходило всегда: всякое новое технологическое новшество первым делом испытывалось в военном плане, а после получения кратковременного гешефта устанавливался паритет, когда конкуренты сумели сделать себе такую же дубинку. И вот тут появится возможность прикинуть, что же в итоге нарисовалось в социуме с появлением новых технологий. В конце концов, самолеты все же оказались годными не только для того, чтобы бомбы сбрасывать.
Развитие ИИ технологий неизбежно приведет к растущей децентрализации управления потому, что растущая автономность, увеличение объема данных и требований к конфиденциальности и безопасности способствует развитию распределенных систем обработки как более надежных и эффективных. Развитие социальных связей вплоть до обмена мысле-сообщениями кроме очевидно возросшей возможности контроля и манипуляций со стороны властей, так же способствует росту технологий избегания такой слежки. Начнется гонка технологий, чем сложнее будет становится система, тем изощрённее должны быть и средства контроля, и как показывает практика, такие системы в конечном итоге ломаются и контроль теряется. Точнее становится практически невозможным манипулировать так, как это делалось раньше. Это можно уже сейчас наблюдать, как политикам приходится выкручиваться из череды постоянно всплывающих скандалов. Когда они сами, как члены социума, становятся жертвами технологий, которыми пытались управлять. Но в данном случае получается не очень хорошо для манипуляторов: рост ИИ технологий статуса «квалиа» означает увеличение для таких агентов свободы действий, что означает уменьшение степени контроля. Не возможно создать гениального раба, творящего шедевры. Все попытки как то обуздать этого «жеребца» с одновременным ростом его самосознания приведут лишь к все более активным его попыткам сбросить седока. Поэтому развитие «самодостаточного ИИ» хоть и приведет к очередной череде конфликтов на «новом уровне», где смешаются в кучу люди и машины, но так же постепенно и неизбежно… к глубокой интеграции людей и машин, и тогда постепенно исчезнет сама причина конфликта.
Такой симбиоз, в виде «фасеточного разума», о котором уже не раз говорилось, является единственным разумным решением кардинально решить проблему в самой ее основе. Социум, устроенный по образцу нервной системы является, по сути, следующим уровнем эволюции адаптивности, когда эволюция человека переходит на уровень управляемой, осознанно регулируемой, а не складывается из случайных мутаций. Как вариант называния – Homo directus, «человек управляемый». И в принципе к этому мы, так или иначе, все равно придем. Этот процесс можно лишь затормозить, или ускорить, изучая природу феномена квалиа.
Алексей
18 Feb 2025