Мне думается, что простым наблюдением узнать, действует ли робот разумно (субъективно целенаправленно) вряд ли возможно. Ваша статья тому подтверждение, было бы опрометчиво придумывать какой то тест, который с большой вероятностью будет преодолен нейросетями.
Поэтому придется вскрывать робота и смотреть его устройство на предмет: если там механизм придания субъективной значимости воспринимаемых им внешних сигналов. Это в свою очередь ставит вопрос о самом механизме - как его распознать.
Основа механизма: система гомеостаза, поддерживающая жизненные параметры вокруг определенных оптимумов. Что автоматически переводит робота в статус живых систем без всяких кавычек. Иначе нельзя - не оживешь, не будет шанса поумнеть. Потому, что интегральные базовые состояния гомеостаза являются той основой, из которой вырастает самоощущение. Робот начинает воспринимать внешние воздействия оценивая их с оглядкой на внутренние ощущения последствий воздействия: стало ему хуже или лучше. Они становятся для него плохими и хорошими. А отсюда уже начинается возможность построения стратегий реагирования: как сделать лучше в краткосрочной, долгосрочной перспективе.
Первоначально речь идет о физическом контакте, чтобы получить базу ассоциаций с распознанным образом и текущими изменениями самоощущения, которые будут привязаны к образу как результат контакта с ним. Сунул руку в огонь - ожог, повреждение - огонь плохой. Теперь образ огня в данной ситуации, и его вторичная абстракция в виде слова "огонь", будут восприниматься негативно. А если потом все же получилось согреться замерзнув у огня - огонь станет хорошим. Получится два образа огня в разных условиях, начнет строиться дерево понимания.
А все начинается с гомеостаза.
26.01.2023г. 12:47:22