Ознакомьтесь с Условиями пребывания на сайте Форнит Игнорирование означет безусловное согласие. СОГЛАСЕН
 
 
 

К вопросу о возможности создания ИИ (и что под этим можно/нужно понимать, и чем он нам грозит). Часть I.

Относится к   «Список теоретических статей»

В серии статей предполагается обсудить проблему самосовершенствующегося ИИ и связанного с этим будущего человечества

Относится к разделу искусственный интеллект

Эта статья опубликована автором самостоятельно с помощью автопубликатора, отражает личное мнение автора и может не соответствовать мировоззренческой направленности сайта Fornit. Оценка публикации может даваться в виде голосования (значок качества) или обосновано в обсуждении. Ссылки на обе эти возможности есть внизу статьи.

Искусственный интеллект (далее - ИИ) манил меня ещё со студенческих времён, наверное, примерно так же, как некогда средневековых алхимиков манил магический "философский камень" (кстати, между прочим, в процессе поисков методов превращения свинца в золото попутно было получено много весьма полезных знаний). Тогда, вплоть до первой половины 80-х годов, было широко распространено мнение, что хорошим индикатором момента, когда ИИ превзойдёт своего создателя, будет факт его победы над ним в шахматном матче, ибо шахматы тогда считались той лакмусовой бумажкой, по которой можно оценить мощность логического мышления машины. Запомнилось высказывание Гарри Каспарова на одной и пресс-конференций, состоявшейся вскоре после того, как он получил шахматную корону. В ответе на вопрос про шансы ЭВМ когда-либо победить в поединке чемпиона мира он уверено ответил примерно в таком духе, что машина никогда не победит лучшего белкового шахматиста планеты, так как ей недоступна интуиция. Видимо, излишне напоминать, что ещё до окончания XX-го века он на личном опыте убедился в опрометчивости своих слов. Вскоре после этого печального для человечества события начались разговоры о том, что, на самом деле, шахматы не являются таким уж хорошим индикатором прогресса ИИ, так как в них дерево перебора растёт хоть и быстро, но всё же недостаточно быстро для того, что бы современные суперкомпьютеры не могли компенсировать тупость своего перебора вариантов своими колоссальными вычислительными мощностями. Кстати, впоследствии похожая ситуация будет ещё многократно повторяться. Как сказал кто-то из классиков ИИ (точно не помню кто, запомнилась только сама идея) - "Как только очередная задача, считавшаяся до этого ключевой для теста ИИ, оказывается решена, так сразу же выясняется, что она, на самом деле, вовсе не была таковой". Итак, как и следовало ожидать, скептики после "шахматного фиаско" не стали унывать, а тут же придумали новую "решающую" задачу. Как нетрудно догадаться, это была игра Го. Вот, говорили они, это именно то, что нужно! Дерево перебора там растёт так быстро, что без квантового компьютера машине игроков высших в мире данов ну никак не сбороть. Там же тупой счёт вообще на двадцать пятом месте, а главное - интуиция, и вообще, Го, это, скорее, искусство, чем игра, ну куда здесь глупой машине! Но время шло, железо и (главное!) методы распознавания образов, применяемые в ИИ, постепенно совершенствовались, и, в итоге, в теории распознавания образов наступила эпоха Возражения, что было во многом связано с появлением идей глубокого обучения. Игроки топ уровня всё с большей тревогой наблюдали за быстрым прогрессом "силиконовых" конкурентов. Наконец, в 2016-м году компьютерщики отважились бросить перчатку считавшемуся в то время сильнейшим в мире среди профессиональных игроков Го корейцу Ли Седолю. Подобно Каспарову, перед началом матча он держался довольно уверенно, если даже не сказать самоуверенно. Так, примерно за месяц до начала матча Ли предположил, что сможет выиграть его со счётом 5:0. Увы, несмотря на его неимоверную интуицию и умение находить нестандартные ходы, что ранее часто помогало ему обыгрывать соперников, в этот раз ему удалось выиграть лишь одну партию из пяти.

Такое развитие событий заставило некоторых ИИ-скептиков обратить свои взоры на ещё одну интерпретацию критерия совершенства интеллекта. В соответствии с ней интеллект определяется возможностью одной и той же системы (не важно, живая она, или нет) постоянно самосовершенствоваться, играя в различные игры, то есть, демонстрировать гибкость и отсутствие "заточенности" на решение лишь одной определённой задачи. Указанная возможность была продемонстрирована в 2017-м году компанией DeepMind в новой версии своей системы, которая, играя сама с собой, буквально за несколько часов достигала уровня, позволяющего ей успешно соперничать с лучшими в мире программами, каждая из которых специализировалась на какой-то одной определённой игре – шахматах, сёги или го. Последним пристанищем человеческого интеллекта до самого последнего времени оставались наиболее сложные сетевые компьютерные игры, требующие быстрого принятия важных стратегических, оперативного переключения внимания между различными проблемами, грамотного управления доступными ресурсами и т.д. Указанные качества важны для руководителей высшего звена, таких как, например, тренеры команд топ-уровня, высшие военноначальники во время войны и т.д. Одним из примеров такой игры является StarCraft II, принадлежащая к классу так называемых стратегий в реальном времени. Естественно, у сотрудников DeepMind зачесались руки испытать разработанный ими подход для обучения ЭВМ поведению в различных игровых ситуациях. Была создана версия программы, адаптированная для одной из версий StarCraft II (её назали AlphaStar) и результат опять не заставил себя долго ждать - в 2019-м году, начав анонимно играть в турнирах против живых игроков, программа уже к августу этого же года достигла высшего возможного ранга (уровень грандмастра), что означает, что она стала играть сильнее, чем 99.8% других игроков. После нового триумфа разработчиков ИИ, как это обычно бывает, опять нашлись критики, утверждающие, что условия были неравными, поскольку, например, человек при игре может совершать импульсивные необдуманные действия. В общем, говоря по-простому, лишите ИИ всех его преимуществ (скорость вычислений, отсутствие эмоций, точный расчёт рисков принятых решений и т.д.), и он будет на равных с человеком, а то и ощутимо уступать ему. Естественно, если искусственно целенаправленно ухудшать программу, заставляя её имитировать слабости интеллекта человеческого, то в конце концов она растеряет все свои преимущества, и можно будет торжественно вернуть человека на символический трон, только вот к этому ли мы изначально стремились? Ведь исходная цель была прямо противоположной - за счёт использование преимуществ цифровой элементной базы сделать для человека помощника, который бы не уступал, а, возможно, и превосходил его в решении каких-то важных специфических интеллектуальных задач.
В последнее время появилась ещё одна секта "низвергателей ИИ", члены которой почему-то были уверены, что ему не подвластны игры с неполной информацией, когда нужно учитывать, что мы не знаем заранее всех свойств участвующих в игре "фигур" (скажем, какие карты изначально на руках у соперников, и что в "прикупе", априори не известно), а игроки могут целенаправленно пытаться ввести друг друга в заблуждение относительно своих истинных намерений. Одной из самых популярных игр с неполной информацией является покер. И да, у меня плохая новость для членов вышеупомянутой секты - ещё в 2016-м году программа DeepStack в одну калитку вынесла сборную профессиональных игроков в одну из разновидностей покера (Heads up).



Автор Combinator
Список публикаций >>

Обсуждение Сообщений: 32. Последнее - 28.01.2023г. 13:29:32



Оценить работу >> пока еще нет оценок, ваша может стать первой :)

Об авторе: Статьи на сайте Форнит активно защищаются от безусловной веры в их истинность, и авторитетность автора не должна оказывать влияния на понимание сути. Если читатель затрудняется сам с определением корректности приводимых доводов, то у него есть возможность задать вопросы в обсуждении или в теме на форуме. Про авторство статей >>.

Тест: А не зомбируют ли меня?     Тест: Определение веса ненаучности

В предметном указателе: Вопрос про множественное Я | Десять вопросов навязчивому незнакомцу или Пособие для тех, кто не хочет быть завербованным | Дискуссия фуко хабермас: вопросы теории власти | К вопросу о внутренней речи | Как Астролог Шестопалов пытался отвечать на вопросы | Возможно ли бессмертие | Победа над смертью | Свободнорадикальная теория | Средства от старости | Возможно ли физическое бессмертие человека | Возможные концепции бессмертия в современной культуре | Масоны, Чернобыльская АЭС, холодный ядерный синтез и безграничные возможности для человечества. | Fornit: Эрик Дрекслер Машины создания. Грядущая эра нанотехнологии | Методы поиска идей и создания инноваций | Познай самого себя: Творческое решение проблем - создание новых вариантов | Созданы прототипы лазеров нового типа | Создание искусственной жизни возможно уже сейчас | Создана синтетическая ДНК, способная размножаться и эволюционировать | Лабораторными методами создан новый вид бабочек | Создан первый серийный биопринтер | Гравитация | этапы эволюции жизни | Взаимоотношения церкви и государства на современном этапе российской истории | Все люди маги, только этого они ещё не знают | Депрессия у женщин Клиника, этиология, диагностика, принципы терапии | Комментарии к Мозг? - Это же так просто. | Обсуждение статьи К вопросу о возможности создания ИИ (и что под этим можно/нужно понимать, и чем он нам грозит). Часть I. | Обсуждение статьи К вопросу о возможности создания ИИ (и что под этим можно/нужно понимать, и чем он нам грозит). Часть II. | К вопросу о возможности создания ИИ (и что под этим можно/нужно понимать, и чем он нам грозит). Часть II. (Combinator) | Безусловная вера | божестевенный акт творения | Виртуальные шаблоны понятий | Непознаваемое | О мистике, ее сути и свойствах | Поиск смысла жизни | Сказочные мечты | Сознание - телевизионный прием... | Сущность мистики | Счастливый Переход
Последняя из новостей: Анонс отчета: О программной реализации живого существа.

Чем важнее ген, тем реже он мутирует
Изучение большого массива данных по мутагенезу у модельного растения Arabidopsis thaliana показало, что в разных участках генома мутации возникают с разной частотой. В результате получается, что частота возникновения новых мутаций связана обратной зависимостью с функциональной важностью данного участка генома и с силой действующего на него очищающего отбора. Иначе говоря, в наиболее важных участках новые мутации не только активнее вычищаются отбором, но и реже возникают.

Рецензия: Статья П.К.Анохина ФИЛОСОФСКИЙ СМЫСЛ ПРОБЛЕМЫ ЕСТЕСТВЕННОГО И ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
 посетителейзаходов
сегодня:00
вчера:11
Всего:1863

Авторские права сайта Fornit