Информация и энтропия

ada108 23.09.2011 13:31

После прочтения статьи и ее обсуждения http://www.scorcher.ru/art/information/information.php
у меня просьба к участникам форума высказаться по поводу одного конкретного определения информации, упомянутого в обсуждении и определения контекста (границ) его применимости:
Информация есть мера уменьшения неопределенности (энтропии).

nan 23.09.2011 14:04

Это - "физический" подход к понятию "информация", имеющий узкоспециальный смысл и поддающийся строгому определению, которое конкретизируется из более общего представление: "Информация - сведения о чем-либо независимо от формы их представления." и тогда речь идет о т.н. "объективной информации", в которой главным параметром является "многообразие состояний" объекта, которые могут быть переданы другим объектам. Для наблюдателя (другого объекта) эти состояния представляются как проявление свойств и признаков объекта.

При этом такое понимание никак не связывается с "субъективной информацией", когда сведения не несут никакой информации субъекту пока он не сможет придать им определенную значимость в отношении себя. Именно такой подход использован в статье на сайте. Он - принципиально отличается от информации в понимании физики и никак с ним не совместим.

В физической трактовке есть такое определение энтропии: "Энтропия — это количество информации, приходящейся на одно элементарное сообщение источника, вырабатывающего статистически независимые сообщения." - непосредственно вытекающее из понятия "объективной информации" и базового определения термодинамической энтропии, введенное Клазиусом: "изменение энтропии термодинамической системы при обратимом процессе как отношение общего количества тепла к величине абсолютной температуры (то есть тепло, переданное системе, при постоянной температуре):", Затем понятие было расширено на любые признаки объектов. Отсюда и возникла трактовка в вольно-упрощенном смысле: "Информация есть мера уменьшения неопределенности (энтропии).".

arctic 23.09.2011 14:30

автор: ada108 сообщение 24529

просьба... ...высказаться

Чем больше ты информирована о чем-то /ком-то/, или так считаешь сама себе, тем более "качественные" прогнозы формируется у тебя по-поводу этого "кого /что/-то". А также уменьшается их количество - прогнозов. Которых может и вообще не быть, при определенных условиях и неимением никакой информации. Можно назвать это частное состояние - "ступор". А такое состояние - вааще идеальная неопределенность, на мой взгляд )

Т.е. информация заставляет мозг работать именно по этим "путям", что и "известно" о данном объекте, процессе, явлении и т.д. Причем если это не просто информация, а - знания , то неопределенность уменьшается в гораздо большей степени, чем если б начиталась "умных" книжек или закончила несколько ВУЗов разной тематики.

Если ее нет, или мало /информации/, мозг ищет абстрактные пути решения этой неопределенности /проблемы/, а таких путей может быть очень мнного, что уже является той же самой неопределенностью /в каком-то приближении/.
Случаи "зафиксивания" не имею ввиду, там достачно одного маленького фактика и все "сразу понятно", такие случаи отношения к данной теме не имеют )

...это как я как бы понимаю.

* а почему не в самом обсуждении статьи?? )

ada108 23.09.2011 15:33

автор: nan сообщение №24530

При этом такое понимание никак не связывается с "субъективной информацией", когда сведения не несут никакой информации субъекту пока он не сможет придать им определенную значимость в отношении себя. Именно такой подход использован в статье на сайте. Он - принципиально отличается от информации в понимании физики и никак с ним не совместим.

Сказанное не совсем очевидно, т.е. если мы говорим о сведениях то это только потенциальная возможность получения "субъективной информации" (СИ), которая может быть реализована, а может и нет. О воспринятых и осмысленных (?) сведениях можно предположить, что они сократили субъективную неопределенность и стали таки СИ. Где же принципиальное отличие подходов?
Есть цепочка: Источник->Сведения->форма представления (сообщение)->их передача через некий канал->Получатель(субъект)->Хранилище СИ, в которой можно анализировать отдельные элементы (пары), а можно и объединить их в единую сущность, в зависимости от предмета исследования :) .

nan 23.09.2011 16:55

>>О воспринятых и осмысленных (?) сведениях можно предположить, что они сократили субъективную неопределенность и стали таки СИ.

Все несколько сложнее. Воспринятое и узнанное осознаваемым вниманием - одно (это распознавание ассоциированной с признаками восприятия или "сведениями" значимости) , а осмысленное - уже другое (придание новой, субъективно обусловленной значимости). Второе - предположительно адекватно, - гипотетическое знание пока не будет проверено в реальности: соответствует ли ожидаемое получаемому. Субъективная же неопределенность (степень уверенности распознавания и/или уверенности в предположении) - вообще строится очень сложно и зависит от многих факторов (контекста восприятия-действия), не зависящих собственно от исходных сведений.

В целом нет никакой возможности строго выделять и определять "единицы информации" в психических явлениях.