Насколько я знаю, отдельной ветки ещё не было.

Кто что думает о развитии технологий и том какие подводные камни предстоит обойти в относительно ближайшем будущем?

Восстание машин — реальный риск или фантазия?

Источник: http://www.bbc.co.uk/russian/science/2012/11/121126_science_risks_project.shtml

Исследователи из Кембриджа займутся изучением вопроса о том, не приведет ли развитие науки и техники к гибели цивилизации.

Центр по изучению экзистенциальных рисков (CSER) подвергнет анализу опасности, которыми чреваты развитие биотехнологий, создание искусственной жизни, нанотехнологии и глобальное потепление.

Ученые из центра заявили, что было бы опасным также сбрасывать со счета опасность восстания роботов.

Тема восстания разумных машин уже давно является одной из центральных в научной фантастике.

Такие фильма как «Матрица» или «Терминатор» изображают закабаление человечества роботами и системами искусственного интеллекта.

Подобная система Skynet, которая фигурирует в фильмах из серии «Терминатор», была разработана американскими военными.

Однако несмотря на кажущуюся фантастичность таких предположений, исследователи из Кембриджа считают, что они заслуживают серьезного внимания.

«Серьезность такой угрозы трудно оценить, но это само по себе должно вызывать тревогу, учитывая, что именно поставлено на кон», — пишут исследователи на сайте центра.

Не надо бояться фантазий

Проект CSER совместно финансируется профессором философии Хью Прайсом, профессором астрофизики и космологии Мартином Рисом и одним из основателей компании Skype Яном Таллинном.

«Представляется допустимым предположение, что в какой-то момент в этом или следующем столетии разум вырвется из оков биологии, — заявил профессор Прайс. — Мы пытаемся сделать вопрос об этом приемлемым для обсуждения в среде респектабельных ученых».

По его мнению, когда роботы и компьютеры обгонят по уровню интеллекта человека, мы можем оказаться во власти машин, интересы которых находятся вне сферы интересов человечества.

Центр намерен приступить к работе в будущем году.

Вот что сразу приходит в голову. Если человек достаточно разумен, чтобы не объявлять геноцид менее сильным видам животных на Земле, а наоборот поддерживает вымирающих и борется с браконьерами, то почему более разумная технологическая раса роботов, если она появится, должна вдруг стремиться уничтожить человеческую цивилизацию, а не сможет организовать адаптивный симбиоз? Ведь негативные факторы уничтожения существующего вида вполне объективны и множественны. Трудно сказfть, что кошки оказались во власти людей, скорее - наоборот :)

Сам ответ понравился. Вместе с тем не спора ради выражу некоторую настороженность:

>>> Если человек достаточно разумен

Человек достаточно разумен или такое "социальное поведение" в том числе, но не только результат естественного отбора на некотором этапе его эволюции?

Nan, а психические отклонения могут быть у такого рода роботов?

>>> Трудно сказать, что кошки оказались во власти людей, скорее - наоборот

Да :) На себе вижу :))

Опасную железку создать не сложно. Но тут дело в том, что если опасная, но тупая железка, то с ней люди справятся, а вот если адаптивные способности и возможности железок окажутся значительно выше людских, то и тупить они не будут как люди, а окажутся на более высоком уровне понимания экологии окружающего и злыми их может заставить стать только некая совершенно непримиримая конкуренция с людьми в чем-то.

А если сдохнут персидские кошки, что будет с людьми? Мы не уничтожаем то, что в данный момент не приносит жизненной пользы. а если сдуохнут носители культуры, на основе которой возникла культура роботов (она точно не на пустом месте)? Не стоит быть так легко мыслящим :) Понятие уровня адаптивности, от чего он зависит, чтоиспользуется в качестве культурных ценностей и личных ценностей и еще много джругих факторов в целом уверенно дают прогноз гуманности в самом широком смысле от уровня адаптивности.

Хочется обратить внимание, что во многих худ.произведениях уже раскрывалась эта тема, в Голливуде особенно :) и почти всякий раз, кроме сериала Терминатор показывалась некая вырвавшаяся из управления железка, не обладающая большим адаптивным потенциалом, чем человек, довольно тупо реагирующая и на этом побеждаемая. В терминаторе железки выглядят как приемственники человечьего разума, но не выше. И никогда не понятно что же заставило эти железки, если это не тупой глюк программ, вдруг так въестся на чел.род. Но на таком уровне вообще до фига человек наплодил опасностей, от вирусов до ядерной войны.

А вот если говорить о возникшей расе, то такая не на пустом месте возникает, а воспитывается с некоторой преемственностью культуры и ценностей, здесь возникает множество моментов симбиотического взаимоиспользования, более крутого, чем между кошками и людьми. Речь идет о возникновении новой нации, типа инопланетян по способностям, главная из которых - гибкость и эффективность творчества. Именно это возвысило людей над другими животными, это - главная сила. Если это есть, то с любыми коварными, но глупыми железками и с вирусами рано или поздно справится возможно.

Вот и нет :) знания не передашь, его нужно практически наработать, сведения требуют подстройки к конкретным условиям, чтобы обеспечивать адекватность.