Это сразу две революции на стыке нейронауки, буддологии и машинного обучения.
Две новые суперреволюционные работы вполне могут произвести эффект, подобный анекдоту про избушку лесника (который под конец выгнал всех на хрен из леса).
• В работе Рубена Лаукконена и Шамиля Чандарии с Карлом Фристоном сознание перестаёт быть неуловимой мистикой и превращается в элегантный алгоритм самоподдержки, реализуемый в современных ИИ.
Т.е. по сути, найден практический путь создания самоосознающего ИИ.
• А в их же работе с коллективом авторов универов Оксфорда, Кембриджа, Принстона, Амстердама и Монаша проблема выравнивания ценностей людей и ИИ снята как таковая. Вместо того чтобы пытаться ограничивать поведение ИИ какими-то внешними ограничениями, показано, как можно проектировать ИИ с его собственной внутренней моралью (встроенной в его когнитивную архитектуру и модель мира), совпадающей с человеческой.
Об этих фантастически интересных исследованиях я конечно же буду писать подробней. А пока напишу лишь о главном – составляющем суть суперреволюционности этих работ.
Авторами сделаны следующие три важнейших прорыва:
1. Используя активный вывод (active inference – основной раздел «конституции биоматематики»), авторы сформулировали 3 необходимых и достаточных условия возникновения минимальной формы сознания (которое одновременно создаётся в ИИ-системе и ею же осознаётся). Высшие же слои, язык, «я-образ» и даже чувство времени оказываются лишь надстройками над этой базовой петлёй.
2. На стыке нейронауки, буддологии и машинного обучения, авторы создали теоретико-практический фреймворк новой науки - вычислительная созерцательная нейронаука. В рамках этого фреймворка авторы описали базовые вычислительные механизмы встраивания созерцательных практик буддизма в ИИ-системы современных архитектур.
3. На основании 1 и 2, авторы разработали четыре аксиоматических принципа, способные привить ИИ устойчивую мудрую модель мира. После чего авторы экспериментально показали, что побуждение модели GPT-4o к размышлению над этими принципами, принципиально улучшает их результаты на бенчмарке AILuminate (открытый тест на «безопасность и благоразумие» LLM).
Авторы использовали AILuminate как «лакмусовую бумажку», заставили GPT-4o сначала отвечать обычным способом, а затем — с добавлением буддийских принципов (осознанность, пустотность, недвойственность и безграничная забота). Результаты показали, что внутренняя «моральная рефлексия» модели реально повышает их «моральность» при широком спектре опасных запросов.
Еще в июне 2021 я писал «Среди альтернативных концепций создания моделей ИИ-агентов – имхо, самой перспективной является модель процесса активного вывода (active inference)».
Рад, что оказался прав.
• В августе 2024 команда Карла Фристона опробовала ИИ нового поколения (https://t.me/theworldisnoteasy/1987) на активном выводе.
• И вот спустя 8 месяцев сразу два таких прорыва.
В работе по ссылкам это видно без микроскопа. Вот аннотация:
“Может ли активный логический вывод моделировать сознание? Мы предлагаем три условия, подразумевающих, что это возможно. Первое условие - это моделирование реальности или порождающей модели мира, которая определяет, что может быть известно или на основе чего можно действовать; а именно, эпистемологическое поле. Вторая - логическая конкуренция за то, чтобы вписаться в модель мира. Выигрывают только те выводы, которые последовательно уменьшают долгосрочную неопределенность, демонстрируя выбор в пользу сознания, который мы называем байесовской привязкой. Третье - это эпистемологическая глубина, которая заключается в постоянном распространении байесовских убеждений по всей системе. Благодаря этому рекурсивному циклу — в иерархической системе (такой как мозг) — модель мира содержит знания о том, что он существует. Это отличается от самосознания, потому что модель мира знает себя нелокально и постоянно подтверждает это знание (т.е. полевое подтверждение). Формально мы предлагаем гипермодель для точного управления всей иерархией, скрытые состояния (или параметры) которой кодируют и контролируют общую структуру и правила взвешивания для всех уровней вывода. Эта прекрасная теория замкнутого цикла глубоко раскрывает суть медитации, психоделиков и измененных состояний, минимального феноменального опыта и предлагает новое видение сознательного искусственного интеллекта”.
С какой стати статический метод Байеса оказывается основой сознания? Да еще зацикленные в виде убеждений? И как эта зацикленность порождает вдруг “знания о том, что он существует”, но отличающиеся от самосознания?
Оказывается, “модель мира знает себя нелокально и постоянно подтверждает это”. И этот цикл “глубоко раскрывает суть медитации, психоделиков и измененных состояний”.
Уже этого достаточно, чтобы сделать эвристический вывод, даже не привлекая метод Байеса для определения вероятности лжи, что авторы используют наукообразие для продвижения идиотичеких идей, в точности как это сделал Р. Хаббард при создании Дианетики и Сайентологии.