Относится к сборнику статей телеграм-канала https://t.me/thinking_cycles
В Стэнфордского университета и Google DeepMin создали новых генеративных агентов на базе GPT-4, моделирующих отношения и поведение 1052 реальных людей. Отобрав около 1000 «типовых американцев» с ними провели углубленное 2-х часовое интервью, и после обработки данных в отдельных агентах получили «цифровые личности» людей. После тестирования людей и ботов по тесту GSS, последние выдавали ответы, совпадающие с человеческими до 85%, что существенно выше результатов в аналогичных экспериментах, когда бота обучали на выборке из множества людей.
Результат хоть и предсказуем (предсказывать поведение одного индивида очевидно проще на основе выборки его персональных данных, а не группы), но все равно дал повод для очередной шумихи: ИИ неумолимо входит в нашу жизнь, поведение людей довольно примитивно и уже сейчас возможно симулировать, скоро количество перейдет в качество и т. д. Но хотя никакого интеллекта в этой симуляции нет, напрячься все-таки стоит, но по другой причине.
В одном из видео обсуждений о перспективах влияния ИИ технологий на нашу повседневность, повторялась привычная мантра о том, как нейросети возьмут на себя рутину, а люди переключатся на чистое творчество. На что Н. Стариков, участвовавший в дебатах, подкинул простую, и весьма правдоподобную версию, как оно будет на самом деле: нейросети будут создавать контент который будут читать … нейросети, и на основе прочитанного, создавать «новый контент», который будут читать… В итоге встанет вопрос: а зачем тут человек? Может в топку его, устроить «ссудный день» путающимся под виртуальными ногами бесполезным «кожаным мешкам»? Или придумать им более «полезное применение» в виде батареек из «Матрицы»?
Очередная вариация антиутопии с тупыми Элоями и Морлоками, где первые отупели потому, что перестали адаптироваться, а вторые изначально были тупыми потому, что адаптация, как основа поведенческих навыков, для них не была заложена изначально. В этом и есть главная проблема, почему, чтобы не придумывали разработчики нейросетей, всегда получается какой-то хоррор в перспективе. Пока направления НТП определяют креативные менеджеры, а суть всех научных и политических новаций – набить карманы кучке избранных, любой прогресс технологий, это очередная обезьяна со все более смертоносной гранатой.
Логическим продолжением такого «развития» может оказаться, например, заявление И. Маска, что запускается проект Матрица Элизиум (в древне-греческой мифологии – часть загробного мира, обитель душ блаженных), где каждый может оцифровать свою копию и оставить ее там. Сначала как прикол для выпендрежников, потом ненавязчиво как совет типа «не удалось в этой жизни – попробуй себя в виртуальной», где открываются бесконечные возможности. А потом так же логично: а может сразу, чтобы зря не мучиться – оцифровался и в ящик? И никаких тебе перенаселений, давлений на экологию, одни бесконечные дата-центры с серверами. Останется только назначить смотрящих за ними, которые получат бесконечную власть одним нажатием кнопки реализовывать любые мечты или отправлять в небытие.
Вопрос как «устроено сознание», откуда берутся чувства, желания, цели, однажды станет не просто философским любопытством, а стратегическим, определяющим наше выживание как вида. Понимание этого дает шанс сделать неизбежный переход от естественной эволюции к искусственной не таким безалаберным, а более осмысленным.