5235-1 (662841), страница 3

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 3)

Пусть дана термодинамическая система (процесс) S, а Н₀, Н₁ - термодинамические энтропии системы S в начальном (равновесном) и конечном состояниях термодинамического процесса, соответственно. Тогда термодинамическая мера информации (негэнтропия) определяется формулой:

Н(Н₀,Н₁)=Н₀ — Н₁.

Эта формула универсальна для любых термодинамических систем. Уменьшение Н(Н₀,Н₁) свидетельствует о приближении термодинамической системы S к состоянии статического равновесия (при данных доступных ей ресурсах), а увеличение - об удалении.

Поставим некоторый вопрос о состоянии некоторой термодинамической системы. Пусть до начала процесса можно дать p₁ равновероятных ответов на этот вопрос (ни один из которых не является предпочтительным другому), а после окончания процесса - p₂ ответов. Изменение информации при этом:

D I = k ln(p₁ / p₂) = k (ln p₁ — ln p₂ ).

Если p₁ > p₂ (D I >0) - прирост информации, т.е. сведения о системе стали более определёнными, а при p₁2 (D I<0)- менее определёнными. Универсально то, что мы не использовали явно структуру системы (механизм протекания процесса).

Пример. Предположим, что имеется термодинамическая система - газ в объёме 10 (м³), который расширяется до объёма 20 (м³). Нас интересует вопрос о координате некоторой молекулы газа. В начале мы знали ответ на вопрос и поэтому p₁=1 (lnp₁=0). Число ответов было пропорционально [ln10]. После поднятия заслонки мы знаем координату, микросостояние, т.е. изменение информации о состоянии системы равно D I=—kln(20/10)=—kln2 (нат). Это известное в термодинамике выражение для прироста энтропии в расчёте на одну молекулу и оно подтверждает второе начало термодинамики. Энтропия - мера недостатка информации о микросостоянии статической системы.

Величина D I может быть интерпретирована как количество информации, необходимой для перехода от одного уровня организации системы к другой (при D I>0 - более высокой, а при D I>0 - более низкой организации).

Термодинамическая мера (энтропия) применима к системам, находящимся в тепловом равновесии. Для систем, далёких от теплового равновесия, например, живых биосистем, мера - энтропия - менее подходящая.

4. Энергоинформационная (квантово-механическая) мера. Энергия (ресурс) и информация (структура) - две фундаментальные характеристики систем реального мира, связывающие их вещественные, пространственные, временные характеристики. Если А - множество "энергетического происхождения", а В - множество "информационного происхождения", то можно определить энергоинформационную меру (системы A« B) как отношение, связь между этими множествами вида f: A® B. Она должна отражать механизм взаимосвязей физико-информационных и вещественно-энергетических структур и процессов в системе. Сейчас актуально говорить о биоэнергоинформационных мерах, отражающих механизм взаимосвязей биофизикоинформационных и вещественно-энергетических процессов в системе, в ноосфере.

Пример. Процесс деления клеток сопровождается излучением квантов энергии с частотами приблизительно до N=1.5´ 10¹⁵ гц. Этот спектр можно воспринимать как спектр функционирования словарного запаса клетки - как биоинформационной системы. С помощью этого спектра можно закодировать до 10¹⁵ различных биохимических реакций, что примерно в 10⁷ раз больше количества реакций реально протекающих в клетке (их примерно 10⁸), т.е. словарный запас клетки избыточен для эффективного распознавания, классификации, регулировании этих реакций в клетке. Количество информации на 1 квант энергии: I=log₂10^15» 50 бит. При делении клеток, количество энергии, расходуемой на передачу 50 бит информации равна энергии кванта (h - постоянная Планка, n - частота излучения): E=hn =6.62´ 10^—27(эрг/cек)´ 0.5´ 10¹⁵(сек^—1)=3.3´ 10^—12 (эрг). При этом, на 1 Вт мощности "передатчика" или на m =10⁷ эрг/сек. может быть передано количество квантов: n=m /E=10⁷ (эрг/сек)/(3.3´ 10^—12 (эрг))» 3.3´ 10¹⁸ (квант). Общая скорость передачи информации на 1 Вт затрачиваемой клеткой мощности определяется по числу различных состояний клетки N и числу квантов (излучений) m: V=n log₂N=3.3´ 10^18´ 50» 1.6´ 10²⁰ (бит/сек).

4. Понятие о связи информации и самоорганизации

Любая открытая информационная система эволюционирует так, что начиная с состояния наибольшей энтропии (неопределённости) стремится спиралеобразно к новым связям и отношениям, к организованности и порядку в системе в процессе взаимоотношений со средой и перестройки структуры с целью уменьшения энтропии.

Пример. На телевизионной игре “Что? Где? Когда?” обсуждение вопроса часто начинается хаотично, спонтанно, независимо и в конце обсуждения может организоваться в единодушное принятие правильного решения.

Самоорганизация может наблюдаться и в неживых системах.

Пример. Эволюция ЭВМ - пример самоорганизации: от 1-го поколения ЭВМ (40-50-ые годы 19 века) с ненадёжными электронными лампами и быстродействием порядка 10⁴ операций в сек. до 1-го поколения оптических вычислительных нейроподобных структур (конец 90-ых годов) с голографической памятью, с логикой на потоках фотонов, быстродействием порядка 10¹² операций в сек. и высокой надёжностью.

Сформулируем основные аксиомы теории информационных динамических процессов (информационной синергетики).

Аксиома 1. Развитие системы определяется некоторой целью и информационными ресурсами системы.

Аксиома 2. При стремлении к цели система воспринимает входную информацию, которая используется и для изменения внутренней структуры самой системы, внутрисистемной информации.

Аксиома 3. Изменение внутрисистемной информации происходит таким образом, чтобы уменьшалась энтропия (мера беспорядка) в системе.

Аксиома 4. Любое изменение внутрисистемной информации оказывает воздействие на выходную информацию системы (на окружающую среду).

Аксиома 5. Процесс актуализации информации структурирует окружающий нас мир. Все, что не познано в данный момент времени, образует “хаос”, который заставляет актуализировать новую информацию, новые формы представления и описания знаний, приводит к появлению новых ветвей знания; этот хаос развивает при этом и исследователя.

Информация - это знание, которое используется для развития, совершенствования системы и её взаимодействий с окружающей средой.

Информация сама развивается вслед за развитием системы. Новые формы, принципы, подсистемы, взаимосвязи и отношения вызывают изменения в информации, ее содержании, формах получения, переработки, передачи и использования. Благодаря потокам информации система осуществляет целесообразное взаимодействие с окружающей средой, т.е. управляет или управляема. Своевременная и оперативная информация может позволить стабилизировать систему, адаптироваться, восстанавливаться при нарушениях структуры и/или подсистем. От степени информированности системы, от взаимодействия системы и среды зависит развитие и устойчивость системы.

Наблюдаемая математизация и математическая информатизация разделов современной науки показывает, что их эффективность зависит как от сложности и возможности описания её законов и принципов адекватными математическими и логико-информационными моделями, так и от используемого математического аппарата, выбранных мер информации, интеллектуальной деятельности, знаний, конструктивных методов и алгоритмов их измерения, оценивания информационных ресурсов.

Кроме указанных выше подходов к определению меры информации, есть и множество других (меры Винера, Колмогорова, Шрейдера и др.), но основными методами (в образовательной информатике) являются указанные. Рекомендуются для чтения [1-11] (приведены в хронологическом порядке).

5. Задачи для самостоятельного решения

В заключение предложим некоторые задачи для закрепления материала и усиления интереса при обучении рассмотренной выше проблеме.

Задача 1. ДНК человека можно представить себе как некоторое слово в четырехбуквенном алфавите Х={A, B, C, D}, где буквой помечается звено цепи ДНК (нуклеотид). Среднее число их равное примерно 1.5´ 10²³ нуклеотид. Считая, что ядро каждой из примерно 10¹³ клеток человеческого тела является хранителем генетической информации, оценить объем информации в них (в теле человека).

Задача 2. Ресурсы человеческого мозга рассчитаны на переработку информации в 16 бит в сек. Какое количество информации перерабатывает человек за свою жизнь, если предположить что переработка информации идёт непрерывно в течении средней продолжительности жизни, которую принять равной 70 лет (заметим, что и во время сна человек перерабатывает информацию, более того, сон - продукт такой переработки информации).

Задача 3. Некоторая система может находиться в четырёх состояниях: в первом - с вероятностью 0.1, во втором и третьем - с вероятностью 0.5, в четвёртом - с вероятностью 0.4. Чему равно количество информации (или неопределённость выбора) в системе? Если система может находиться только в состоянии номер 2, то чему оно равно?

Задача 4. Система может принимать 128 различных равновероятных состояний. если состояние системы неизвестно, то каково количество информации в системе (неопределённость выбора)? Если известно, что система находится в состоянии номер 8, то чему равно количество информации?

Задача 5. Определить количество информации (в битах) в каждой букве русского алфавита, отождествив вероятность появления этой буквы в словах с частотой по частотному словарю русского языка приведённому ниже. Найти какое количество информации определяется двухбуквенными сочетаниями (всем алфавитом)? Оценить количество информации в каждом слове из букв “а”, “б”, “с” над алфавитом русского языка. Частотный словарь русского языка имеет вид:

Буква Частота Буква Частота Буква Частота

о 0.090 к 0.028 ь, ъ, б 0.014

е, е 0.072 м 0.026 ч 0.013

а, и 0.062 д 0.025 й 0.012

т, н 0.053 п 0.023 х 0.009

с 0.045 у 0.021 ж, ю, ш 0.006

р 0.040 я 0.018 ц, щ, э 0.003

в 0.035 ы, з 0.016 ф 0.002

Задача 6. Увеличиться или уменьшиться количество информации о(в) системе “Сосуд с водой” до и после замораживания воды. Как изменится энтропия этой системы. Ответ обоснуйте.

Задача 7. Передатчик генерирует независимо друг от друга последовательности букв из двух букв “а”, одной буквы “б”, трёх букв “в”. Сколько таких всевозможных различных слов может генерировать передатчик? Какое количество информации несёт в себе каждое такое слово?

Задача 8. Проделайте (достаточно грубый) эксперимент по определению вашего числа Страуда (числа мысленных различений в сек): напарник показывает или называет двадцать букв в определённой (случайной для Вас) последовательности, а Вы воспроизводите их максимально в этой же последовательности; число правильно воспроизведённых букв и есть Ваше число Страуда. Проверьте подчиняются ли эти числа (для нескольких испытуемых) закону типа Хартли.

Задача 9. Оцените грубо быстродействие (гипотетического) компьютера построенного на биочипах (молекулярном способе запоминания информации, например, с помощью выращенных специально молекул, способных окрашиваться в два устойчивых цвета - 0 и 1), если количество таких чипов считается заданным.

Задача 10. На стандартной клавиатуре компьютера имеется 46 клавиш (без управляющих, цифровых и функциональных). Каждая клавиша имеет два регистра и два значения (латинского алфавита и кириллицы). Оцените примерно объём информации, который позволяет вводить этот набор.

Список литературы

Бриллюэн Л. Наука и теория информации. М.: Физматгиз, 1960. - 392 с.

Шеннон К. Работы по теории информации и кибернетике. М.: ИЛ, 1963 - 830 с.

Мазур М. Качественная теория информации. М.: Мир, 1974. - 240 с.

Стратонович Р.Л. Теория информации. М.: Сов. радио, 1975. - 424 с.

Колмогоров А.Н. Теория информации и теория алгоритмов.М:Наука,1987.-303 с.

Дмитриев В.Н. Прикладная теория информации. М: Высшая школа,1989. - 320 с.

Хакен Г. Информация и самоорганизация. М.: Мир, 1991. - 240 с.

Информатика. Энциклопедический словарь для начинающих. Под ред. Поспелова Д.А., М.: Педагогика-Пресс, 1994, - 352 с.

Казиев В.М. Информатика (в 3-х частях), Нальчик, 1997. - 324 с.

Ловцев Д.А. Информационная теория эргасистем. М.: ВАРВСН, 1998. - 124 с.

Райхерт Т.Н., Хеннер Е.К. Место теории информации в подготовке учителя информатики. ИНФО, N2, 1999, с. 32 - 38.

Характеристики

Список файлов реферата