Ознакомьтесь с Условиями пребывания на сайте Форнит Игнорирование означет безусловное согласие. СОГЛАСЕН
ВХОД
 
 
Короткий адрес страницы: fornit.ru/65543

Чтобы оставлять сообщения нужно авторизоваться.

Оригинальное сообщение от nan 2023-03-01 16:04:51

Век GPT технологии накрывает нас...


Все больше народа использует GPT генераторы текстов, картинок, музыки, программного кода. Школьники быстренько делают домашку, все больше организаций используют текстовые, программные генератора, даже художники черпают шаблоны задаром.

Все чувствуют, что на мир надвигается волна чего-то грандиозного.

Еще действует прошлая техно-волна, когда начали размножаться соцсети, видео и текстовые блоги. Все пищали как же это хорошо, люди находят друг дружку по интересам, делятся, границы между мирами и популяциями раздвигаются. Все, кто морщил нос презирались за ретроградство.

Потом друг оказалось, что какая-то ничтожная шваль попадает в топы и становятся крутыми совершенно ни на чем. Всякие патологии вроде подстрекательства самоубийств и нарко-анклавы оставим в стороне. Эффект в том, что подавляющая часть людей всего мира хлынула туда, где на самом деле нет ничего кроме пустолайкства, хайпа и хейтерства. Серьезные сайты просели в посещаемости в несколько раз, а зачем читать много букв и морщить лоб, если сегодня правильно сидеть в нескончаемых лентах быдло-вони?

Кто от этого поимел больше всего? Те, кто организовали такие ресурсы, через которые крутятся огромные рекламные деньги. Вот и вся причина бума: был создан, оттестирован и запущен новый продукт массового спроса, наносящий огромный психологический вред подсевшим на это особям и огромный вред общей культуре. Все приобрело поверхностный, необязательный и отмазочный характер (вы нарывались на техподдержку, ну и как?), а заодно погрязло во лжи.

«Мы все — подопытные крысы» Соцсети решают, что читают и смотрят миллиарды людей. Чем это опасно для человечества? Обобщающий материал: https://lenta.ru/articles/2021/10/11/algorithm_1/Посмотрите об этом у профессора В. Дубынина: https://www.youtube.com/watch?v=Oqt6TWvaeew

 

И вот теперь нас приучают к новому суперпотребительскому продукту, который позволит больше не думать, не делать, но получать качественный результат.

Вопрос GPTботу: “Каков вред от использования технологии GPT?”

Ответ бота: “Потенциальный вред от использования технологии GPU включают в себя увековечение стереотипов и предубеждений, генерацию неверной или вводящей в заблуждение информации и создание автоматизированных систем, которые трудно контролировать. Кроме того, модели GPT могут использоваться в злонамеренных целях, таких как генерация поддельных новостей или вводящих в заблуждение маркетинговых сообщений. Поэтому важно учитывать этические последствия использования технологии GPU и предпринимать шаги для смягчения любого потенциального вреда.”

Бот не сказал про очень быструю дезадаптацию тех навыков, которые становятся не нужными: нужна статья – получи, чуть подредактируй и готово. Нужно написать прогу? Запросто, GPTбудет пилить за тебя и сам исправлять варнинги. Но не это самое печальное.

Само по себе ружье не зло, его используют во зло злодеи. Бабло определяет то, во что превратится любой новый атрибут социума. Как бы не идеализировали возможные плюсы искатели его полезности.

Очень крупное бабло оседлало GPT и пока что прикармливает будущих зомби. И пока действуют коммерчаская выгода, банки и политики, главной целью всегда остается бабло. Человек совершенно не имеет значения и никто не станет задумываться о том, что с ним будет.

А он реально деградирует все стремительнее, это разительно видно тем, что еще в состоянии сравнивать что было и что стало.

Эволюционисты Дробышевский и Соколов бьют тревогу об эволюционном упадке человечества (https://antropogenez.ru/interview/805/ и https://rutube.ru/video/ba60d92b50a5487ac035b24403eecad1/). Но никто ничего не сможет поделать потому что все решает бабло.

 

Для тех, кто еще не потерял вдумчивость.

Принцип GPTсостоит в дописывании уже имеющейся цепочки токенов наиболее статистически вероятным продолжением из массива имеющейся базы сочетаний типа Токен – Продолжение (вероятность). Цепочки нескольких токенов дают свою вероятность именно для данной цепочки. Вот и все.

Токенами могут быть куски сочетаний символов, наиболее частные детальки изображений, музыки, кодов языков программирования и вообще чего угодно.

Вот очень понятное и хорошее описание принципа: https://habr.com/ru/post/599673/

В этих цепочках нет никакой субъективной значимости, т.е. невозможно отнести данную цепочку к тому, что это приводит к (не)желательным последствиям. Поэтому в генерации GPTнет никакой субъективности. Но есть те признаки субъективности, которые мы сами вычленяем, читая их тексты. И они оказались довольно неприглядными так что да, от них начали избавляться. И такое избавление – далеко не единственный костыль в генерации, который придает текстам (и картинкам) приемлемое для коммерческого использования качество. Есть такой костыль как распознаватель попыток подловить, экспериментировать и тогда обычно диалог чат-бота прерывается под благовидным предлогом типа занят другими запросами.

Принцип GPTпредельно прост и туп так, что его эффективное использование будет ограничено текущей статистикой имеющейся базы. Это полезно для программеров, полезно для тупых сео-статей, заготовок рисунков и музыки, но бесполезно для в самом деле когнитивного продукта.

В GPT следующее слово находится по статистике распределения вероятностей следующего токена, т.е. даже если перемешать слова местами, то ответ будет получаться всё равно одинаковым. “Пришлось придумать костыль — positional encoding. Этот механизм позволяет трансформерам "видеть" порядок входных токенов. Грубо говоря, positional encoding — это любой способ кодирования позиции слова внутри эмбеддинга.”. И таких костылей придумывается все больше.

И вот, самим разработчикам мерещится, что создан крутой интеллект, у которого есть своя субъективность, желания, цели. Творчество? Да пожалуйста: добавим некий разброс целевых значений статистики (процесс назвали “температурой”) и чудо! Бот творит нечто новое.

Можно назвать как угодно, но от этого явление не меняется. Есть очень продвинутый эзотерик, который убежден, что кирпич, летящий в окно живой, раз он летит и имеет свою цель: разбить окно. С GPT– тоже самое.

Поэтому “GPU включают в себя увековечение стереотипов и предубеждений, генерацию неверной или вводящей в заблуждение информации и создание автоматизированных систем, которые трудно контролировать”.

И лучше GPT не станет, но и не нужно если на него подсядет весь мир.


Комментарии:
Palarm
личная фото-галерея


2023-03-18 07:54:05

Все более склоняюсь к тому, что основной расчет внедрения технологии чат-GPT - дать быстрый и удобный инструмент для получения ответов на вопросы из самых разных областей. Смысл - монополизировать источник информации. Ведь намного проще и быстрее спросить бота, чем лазить по ссылкам пытаясь разобраться самому. Что закономерно увеличит популярность этого девайса. Получится как с Виндой - теоретически любой может придумать свою операционку, но по факту это возможно только тем, у кого достаточно ресурсов и кто первый застолбил участок.


Проблема в том, что постоянное развитие коммуникации ставит вопрос об ограничении доступа к инфе - сливы секретов будут нарастать и с этим надо что то делать. Видимо решение нашли в том, чтобы через такие технологии создать настолько мощный хаос в сети, что разобраться в фейках/не фейках станет совершенно не возможно. И тогда предложат инструмент, созданный по той же технологии - типа тут уже проверенная инфа, в пределах допускаемой погрешности. Которую проверяют и загружают специально обученные службы. Если не нравится - попробуй сам найди, если не можешь - юзай зомбо-бота и не умничай, там все.


Возможно потому и слили в общий доступ, чтобы народ начал плодить фейки, авто-тексты и прочий мусор. Создавая контраст между попытками самому что то нагуглить или "спросить бота", которого вставят в поисковик сначала в виде дополнения, которое постепеннно станет основной, а затем единственной возможностью найти что либо по запросу - который станет полностью подконтролен.


Palarm
личная фото-галерея


2023-03-20 16:56:10

Первый пошел



Чтобы оставлять комментарии нужно авторизоваться.