Ознакомьтесь с Условиями пребывания на сайте Форнит Игнорирование означет безусловное согласие. СОГЛАСЕН
ВХОД
 
 
Короткий адрес страницы: fornit.ru/65316
Вернуться к исходному документу
Обсуждение статьи К вопросу о возможности создания ИИ (и что под этим можно/нужно понимать, и чем он нам грозит). Часть I.
Страницы: 1 2 3 ВСЕ 
   Palarm список всех сообщений История редактирования (1)
Имеет права полного администратора сайта - админ Качества Palarm, оцененные другими пользователями Оценок: 6 Род: Мужской Сообщений: 2759  Сообщение № 16729 показать
ответ -только после авторизации

автор: Combinator сообщение № 16728:
Ну, при таком подходе, любой современный робот-пылесос действует целенаправленно, и даже способен к адаптации

Цель робота пылесоса задана изначально в виде алгоритмов поиска, а я говорю о цели, которую робот сам себе определяет. Но для этого он должен быть живым, чтобы получить базовое самоощущение, поэтому сначала стоит определить, что есть жизнь:

 

система называется живой, если у нее есть механизм поддержки жизненно важных параметров - гомеостаз.

 

Жизненные параметры называются так потому, что они имеют критические экстремумы, перешагивание которых выводит систему в состояние не живой. Поэтому их нужно постоянно поддерживать. Как их определить?

 

Ясно, что чем сложнее система, тем больше у нее жизненных параметров, которые к тому же взаимосвязаны. Однако можно выделить среди всех живых существ тот минимум, что необходим им всем. Например энергобаланс. Какой бы ни была живая система, она неизбежно теряет энергию из за внутренних процессов. Так же необходима репликация, периодически активируемая, чтобы вид не вымер и для запуска эволюции. Можно подойти с другого бока: для стабилизации жизненного параметра необходимы определенные действия. Стало быть, выделив эти действия у всех живых существ мы выделим и параметры, связанные с ними. Это стили поведения: пищевой и репликационный. Тогда получим определение живого, как обязательно использующего эти два стиля. Если мы их не наблюдаем - система умрет в краткосрочной перспективе (без пищевого), и в долгосрочном как вид (без репликации). Либо она изначально мертва.

 

Но это мы рассматривали систему в идеальном мире без агрессии, борьбы за место, когда корм сам падает в рот. Поэтому, даже у одноклеточных добавляются стили, необходимые для поддержания жизни:

  • поисковое - активация активной фазы стабилизации параметра. Например для параметра энергии это поиск корма. В данном случае, выход из нормы энергобаланса активирует 2 стиля: найти что нибудь съедобное и съесть. В более идеализированном варианте активировался один: открыть рот и съесть, что туда упадет.
  • оборонительное - защищаться от агрессии конкурентов. Кто не защищается, того быстро сожрут
  • агрессивное - отбирать гешефты у конкурентов, например кормовую базу.

В итоге определение жизни, через наличие обязательных для нее стилей поведения:

  • супер-идеализированное: пищевое. Если мы не рассматриваем систему как вид живых существ, а просто как отдельное существо
  • идеализированное: пищевое, репликационное.
  • реальное: поисковое, пищевое, оборонительное, агрессивное и репликационное.

Определяя какую то систему как живую нельзя просто так наугад что то выбрать и придумать компенсирующий механизм, получится именно механизм. Нужно выбирать определенные параметры либо стили поведения системы, а если их нет - система однозначно мертва. С другой стороны, если слишком придирчиво начать копать, можно докопаться до того, что четкой границы между жизнью и смертью нет, она размыта как и все условные границы. Но это не значит, что ее невозможно провести.



29.01.2023г. 15:23:29
 
   Palarm список всех сообщенийИмеет права полного администратора сайта - админ Качества Palarm, оцененные другими пользователями Оценок: 6 Род: Мужской Сообщений: 2759  Сообщение № 16730 показать
ответ -только после авторизации

автор: kak сообщение № 16727:
Ученые впервые создали робота, который может осознавать свое тело

Чтобы осознавать, робот должен иметь самоощущение хотя бы в простейшей форме базовых эмоций: плохо, норма, хорошо. Если он просто видит свое отражение и сопоставляет его со своими частями, при этом никак эмоционально не реагируя - это просто развитие алгоритма обобщения, куда добавилась новая информация. Получилось еще более похоже на живое существо, но только похоже.

 

Но когда он обнаружил поломку в изображении и начал себя ремонтировать, то получилось сравнение текущего состояния с эталонным, заданным изначально в виде схемы целого робота. Эталон - норма, расхождение - плохо, запустился процесс ремонта (адаптационное действие). Схему можно окончательно причесать, если добавить состояние окончания ремонта хорошо для закрепления пробных вариантов ремонта. И тогда можно запустить процесс эволюции: пробовать разными способами, пока не получится завершить, вернуться в норму. Причем не возбраняется эти способы заранее забить ему, типа: попробуй отверткой, попробуй ключом. Это будут автоматизмы, на базе которых можно построить новые варианты. И тогда получим по настоящему живого робота с интеллектом и самоощущением. Которого можно дальше развивать, наращивая  ему жизненных параметров и базу автоматизмов.



26.01.2023г. 17:50:09
 
   Combinator список всех сообщенийПишет без лимита и ограничений - unlimited Качества Combinator, оцененные другими пользователями Оценок: 2 Сообщений: 85  Сообщение № 16731 показать
ответ -только после авторизации

Ну так и глобальные цели поведения человека задаются в виде инстинктов, рефлексов и т.д. генетически (ну и, частично, за счёт его "воспитания" социумом). А уже под влиянием этих напрямую не назначаемых им целей-стимулов он и строит какие-то жизненные планы.

Пока пылесосы имеют только пищевой "стиль поведения", но я лично не вижу никаких принципиальных проблем, что бы добавить к нему "оборонительное" и "агрессивное", а в будущем, даже "репликационное" (в принципе, уже сейчас роботов производят, по большей части, другие роботы), тут главное препятствие, имхо, страх самого человечества, что теоретически всё может закончиться пресловутым "восстанием роботов".

Кстати, если ещё не читали, советую прочитать любопытную статью, во многом затрагивающую обсуждаемые нами проблемы: http://transhumanism-russia.ru/content/view/87/32/

 



26.01.2023г. 18:59:23
 
   kak список всех сообщенийИмеет права полного администратора форума - модератор Качества kak, оцененные другими пользователями Оценок: 5 Род: Мужской Сообщений: 771 Телефон: +79217162023  Сообщение № 16734 показать
ответ -только после авторизации

Термин в заголовке «осознание» - это бред журналистов. Я только хотел подчеркнуть своим сообщением, что без оценки своей границы система не может быть интеллектуальной. Любые алгоритмы – это конечный автомат.

26.01.2023г. 19:19:45
 
   Palarm список всех сообщенийИмеет права полного администратора сайта - админ Качества Palarm, оцененные другими пользователями Оценок: 6 Род: Мужской Сообщений: 2759  Сообщение № 16735 показать
ответ -только после авторизации

автор: Combinator сообщение № 16731:
Пока пылесосы имеют только пищевой "стиль поведения", но я лично не вижу никаких принципиальных проблем, что бы добавить к нему "оборонительное" и "агрессивное",

Проблем действительно нет. А по поводу глобальных целей: есть цель поесть, и множество вариантов, как это сделать. Выбирается какой то из них, в зависимости о текущего самочувствия, воспитания, личного опыта - все участвует, гомеостаз лишь отправая точка, а конечная может быть сильно запутана множеством промежуточных шагов вплоть до того, чтобы отменить саму себя: не буду есть, хотя сильно хочется, потому, что...



26.01.2023г. 19:29:36
 
   Palarm список всех сообщенийИмеет права полного администратора сайта - админ Качества Palarm, оцененные другими пользователями Оценок: 6 Род: Мужской Сообщений: 2759  Сообщение № 16736 показать
ответ -только после авторизации

автор: kak сообщение № 16734:
Любые алгоритмы это конечный автомат.

Сами по себе да, но с управлением внешне/внутренним состоянием уже нет. Химические реакции, при определённой организации становятся биологической системой. Как нет чёткой границы между живым и мёртвым, так нет чёткой границы между алгоритмом и осознанные выбором. 



26.01.2023г. 19:35:45
 
   kak список всех сообщенийИмеет права полного администратора форума - модератор Качества kak, оцененные другими пользователями Оценок: 5 Род: Мужской Сообщений: 771 Телефон: +79217162023  Сообщение № 16737 показать
ответ -только после авторизации

Для Palarm :
«…управлением внешне/внутренним состоянием…» кто управляет? Гомункулюс?
«Химические реакции, при определённой организации становятся биологической системой». Это смелое утверждение, так как химические реакции это далеко не все, что формирует структуру, способную прогнозировать, то есть способностью обладать интеллектуальным свойством . Кроме того, ВСЕ биологические системы открытые, а значит могут имеет входы не предусмотренные алгоритмизатором, то есть иметь импликативный порядок.
«…нет чёткой границы между живым и мёртвым, так нет чёткой границы между алгоритмом и осознанные выбором». В этом умозаключении как минимум 3 термина не определены: живой, мертвый и осознанные. Алгори́тм — конечная совокупность точно заданных правил решения некоторого класса задач или набор инструкций…. Поэтому, есть большие сомнения в адекватности этого умозаключения.


26.01.2023г. 21:13:26
 
   Combinator список всех сообщенийПишет без лимита и ограничений - unlimited Качества Combinator, оцененные другими пользователями Оценок: 2 Сообщений: 85  Сообщение № 16738 показать
ответ -только после авторизации

автор: Palarm сообщение № 16735:
Проблем действительно нет. А по поводу глобальных целей: есть цель поесть, и множество вариантов, как это сделать. Выбирается какой то из них, в зависимости о текущего самочувствия, воспитания, личного опыта - все участвует, гомеостаз лишь отправая точка, а конечная может быть сильно запутана множеством промежуточных шагов вплоть до того, чтобы отменить саму себя: не буду есть, хотя сильно хочется, потому, что...

Просто глобальные цели всё время конкурируют между собой. Соответственно, если, например, условная цель продолжения рода в данной ситуации подаёт более мощный сигнал, чем цель "немного подкрепиться", то мы вполне можем передумать идти в кафе, если вдруг встретили по пути очень симпатичную девушку.)



26.01.2023г. 21:54:43
 
  nan список всех сообщенийИмеет права полного администратора сайта - админ Качества nan, оцененные другими пользователями Оценок: 39 Род: Мужской Сообщений: 12214 E-Mail  Сообщение № 16739 показать
ответ -только после авторизации
fornitscorcher.ru
автор: kak сообщение № 16737:
«Химические реакции, при определённой организации становятся биологической системой». Это смелое утверждение, так как химические реакции это далеко не все, что формирует структуру, способную прогнозировать, то есть способностью обладать интеллектуальным свойством .

Я не вижу ничего кроме химических реакций, что составляет био-систему, в том числе электрохимию. Квантовые явления в био-системе не входят в какой-то механизм, влияние света и тепла в виде ЭМ-квантов происходит через химизм внешних электронных оболочек интегрально, а не за счет квантовых эффектов. Есть пример нехимических механизмов в био-объекте? Хотя это - разговор о том, что называть химией...

автор: Combinator сообщение № 16738:
Просто глобальные цели всё время конкурируют между собой.

Цели - понятие многоуровневое: могут быть простые гомеостатические цели, могут быть более высокоуровневые цели, следующие из усвоенных правил, могут быть еще более высокоуровневые цели - доминанты нерешенной проблемы (творчество). Я могу просто решить, что сделал все на этой Земле и создаю больше проблем, чем пользы, и спокойно уйду в эвтаназию.



27.01.2023г. 7:30:45


p.s. Допускаю, что мое утверждение может быть неверно, поэтому прошу показывать, что именно и почему неверно и запрашивать объяснения, если что-то непонятно.
 
   kak список всех сообщенийИмеет права полного администратора форума - модератор Качества kak, оцененные другими пользователями Оценок: 5 Род: Мужской Сообщений: 771 Телефон: +79217162023  Сообщение № 16740 показать
ответ -только после авторизации

Для nan:
«Я не вижу ничего кроме химических реакций, что составляет био-систему…». Есть гравитация и другие диапазоны ЭМ. Хотя, конечно, наиболее известные методы наблюдения это химические реакции и вольт-амперные характеристики исследования био-систем.


27.01.2023г. 10:34:13
 
Страницы: 1 2 3 ВСЕ 

Чтобы оставлять сообщеня нужно аворизоваться.

! Сообщение пропало?! посмотреть причины...

Написать простое сообщение (только текст)

Написать сообщение полноценным редактором



Последняя активность на сайте >>