ЧТО ТАКОЕ ИНФОРМАЦИЯ (Темы и ответы на них)

ЧТО ТАКОЕ ИНФОРМАЦИЯ!

Интуитивное представление о том, что такое информация, есть у каждого. Оп­ределение типа «информация есть све­дения о...» — это, по сути дела, тавто­логия. Более содержательно утвержде­ние: информация есть выбор одного варианта (или нескольких) из многих возможных и равноправных. Слово «рав­ноправных» означает, что все вариан­ты, из которых делается выбор, имеют нечто общее, т. е. принадлежат одному множеству.

Если выбор подсказан (или указан), то говорят о получении (рецепции) ин­формации. Если выбор произведен са­мостоятельно и случайно, то говорят о возникновении информации. Если выбор однозначно предопределен ситуацией или предшествующими событиями (т. е. вы­бора, по существу, нет), то об инфор­мации вообще говорить не приходится.

В простейшем случае выбор делается между двумя возможностями. Например, дорога раздваивается, и нужно ре­шить, куда идти – направо или нале­во. Если есть указатель, то выбор ясен; это рецепция информации. Если дорога известна заранее, то никакой информа­ции не нужно. Если решение прини­мается случайно (т. е. бросают моне­ту) или по наитию, то это рождение информации.

В большинстве реальных случаев ситуация промежуточная: можно (на ос­нове ряда соображений) выбрать тот или иной вариант, но не однозначно, а с не­которой априорной вероятностью Р_i. Тог­да количество информации определяется выражением:

, (1)

где i — число вариантов.

Если все априорные вероятности одинаковы (P_i=1/N), то

I=+log₂N. (2)

Минимальное количество информа­ции соответствует случаю, когда N=2. При этом I=1, или, как говорят, имеется один бит информации. Такое ко­личество информации содержится в «ука­зателе», это же количество генерируется при случайном выборе.

В случае, когда выбор i-го варианта предопределен заранее (т.е. выбора нет), все величины Р_i=0, кроме одной P_j=l; количество информации при этом равно нулю.

В данном примере варианты, из ко­торых делается выбор, принадлежат од­ному множеству; общее между ними то, что оба они представляют собой пути, по которым можно следовать. Пред­ложение «Выберите, пожалуйста, пойти направо, налево или прочитать новый детектив» звучит нелепо, ибо последний вариант принадлежит другому мно­жеству. Отметим, что слово "равноправны" не означает, что они равновероятны. Тем не менее, как правило, априорные ве­роятности выбора вариантов из одного множества отличаются не очень сильно. Напротив, априорная вероятность выбо­ра из другого множества равна нулю.

Само по себе количество информации не дает представления о ее свойствах. Поэтому слово «информация» обычно употребляется с эпитетами, «запомнен­ная», «новая», «ценная» и т. п. Обсудим смысл этих понятий и свойства ин­формации.

Свойство запоминаемости — одно из самых важных; впервые на это обра­тил внимание Г. Кастлер. Согласно ему «информация есть запомненный выбор одного варианта (или нескольких) из многих возможных. Физический смысл понятия «запомнить» не так прост, как кажется, и по этому поводу уместно сделать ряд замечаний.

Во-первых, что такое вообще «за­помнить»? На физическом языке это означает привести систему в определен­ное устойчивое состояние. Ясно, что та­ких состояний в системе должно быть несколько (по крайней мере два), иначе теряет смысл понятие информации. Каждое из них должно быть абсолют­но устойчивым, в противном случае система сама может перейти в иное состояние и эффект запоминания исчез­нет. Именно так устроены запоминаю­щие ячейки; они могут находиться в од­ном из двух состояний и переключать­ся только под воздействием внешнего импульса. Свойством запоминания могут обладать лишь макроскопические систе­мы, состоящие из многих атомов. Запом­нить что-либо, имея лишь один атом, невозможно, поскольку он может нахо­диться лишь в одном устойчивом (ос­новном) состоянии. То же относится и к простейшим молекулам. Простейшая (и наименьшая) система, которая может за­помнить один вариант из двух возмож­ных,— молекула, способная находиться в двух различных изомерных состояниях, и то при условии, что спонтанный пере­ход в другую форму практически не происходит (или, точнее, требует очень большого времени). Примером могут служить оптические изомеры, обладающие «левой» или "правой» киральностью^. К ним относятся, например, молекулы Сахаров и аминокислот, содержащие по­рядка десяти — двадцати атомов.

Запоминать могут и биологические макромолекулы, способные находиться в одном из нескольких устойчивых конформационных состояний.

Способностью запоминать обладают не все макроскопические системы. На­пример, термодинамически равновесное состояние для каждой макроскопиче­ской системы только одно. Поэтому запоминающая система (или, как гово­рят, запоминающая ячейка) должна быть термодинамически неравновесной.

Во-вторых, важен вопрос: «На какое время запомнить?» Дело в том, что «Вечная Память» существует разве что в некрологах. Во всех реальных запоми­нающих устройствах время запоминания (или время существования устройства) ограничено. Запоминание означает со­хранение выбранного устойчивого со­стояния на время того процесса, в ко­тором данная информация может по­надобиться. Это время может быть очень различным: можно запомнить на се­кунды (кратковременная память), но можно и на годы (долговременная память). Важно, что время запомина­ния в любом случае существенно боль­ше микроскопических времен (такого, например, как время соударения ато­мов, которое порядка 10^-13 с). Ин­формацию в смысле Кастлера называют также макроскопической, этим подчер­киваются как пространственные мас­штабы запоминающей ячейки, так и мас­штаб времени запоминания.

Отметим, что в реальной практике мы всегда имеем дело с информацией в смысле Кастлера, т. е. запоминае­мой. Тем не менее, часто рассматри­вается информация незапоминаемая (именно в этом смысле употребляют термин «информация Бриллюэна»), кото­рую можно назвать микроскопической. Она обладает существенно иными свойст­вами. Поясним это на примере. Информа­цией (но не в смысле Кастлера) можно считать набор положений и скоростей мо­лекул в сосуде с газом в данный момент времени. Действительно, этот набор — один из возможных вариан­тов состояния данной системы. Важно, однако, что этот набор в системе не запоминается; через микроскопическое время (порядка 10^-13 с) реализуется другой набор, и в силу неустойчивости движения молекул система «забы­вает» о своем прошлом. (Напомним, что свойство «забвения прошлого» — необходимое условие существования тер­модинамически равновесных систем.)

Состояние газа, в котором извест­ны положения и скорости молекул, обладает, формально говоря, нулевой энтропией и максимальной информаци­ей. Напротив, состояние, о котором ничего не известно, обладает макси­мальной энтропией и нулевой информа­цией. В общем случае имеет место соот­ношение, вытекающее из (2) и опре­деления энтропии:

(3)

где S=-klnW – физическая энтропия, W=l/N – вероятность реализации дан­ного выбора, k=l,3810^-16 эрг/град – постоянная Больцмана, коэффициент 1,44= log₂e.

Из (3) следует, что прирост микро­информации I_микр сопровождается уменьшением энтропии S:I_микр= S. В связи с этим было введено понятие негэнтропии, которое совпадает с микроинформацией.

Подчеркнем, речь здесь идет о микро­информации (т. е. информации в смыс­ле Бриллюэна), которая не использует­ся в реальной практике и не совпа­дает с макроинформацией (в смысле Кастлера). Последняя в приведенном примере равна нулю, даже если коорди­наты в скорости частиц в данный мо­мент известны (поскольку эти сведе­ния не запоминаются).

В случаях, когда система имеет несколько стационарных состояний и, следовательно, может обладать макро­информацией, количество последней очень мало по сравнению с количест­вом микроинформации. Так, например, количество макроинформации, содер­жащееся в организме человека, мало по сравнению с величиной 1,44/kS (где S – энтропия тела). На это обстоя­тельство впервые обратил внимание Л. А. Блюменфельд.

Макроинформация практически не связана с физической энтропией си­стемы. По этому поводу можно ска­зать лишь, что получение (или воз­никновение) одного бита макроинфор­мации сопровождается продукцией энт­ропии S_макр, которая существенно пре­восходит величину S₀, соответствую­щую одному биту микроинформации: S_макрS₀=0,7k.

Продукцией физической энтропии со­провождается также и процесс «сти­рания» макроинформации. Эта энтро­пия, как правило, рассеивается в окружающей среде, и количество энтро­пии в самой информационной системе не изменяется ни при рецепции ин­формации, ни при ее стирании.

Иногда используют специальный тер­мин «информационная энтропия» (име­ется в виду макроинформационная). Она не связана с физической энтро­пией и измеряется не в единицах k, а в битах. Она просто равна макроинформации которая по тем или иным причинам исчезла («стерлась») в процессе передачи или хранения. Более глубокого смысла этот термин не име­ет, и ниже мы им пользоваться не будем.

"Далее нас будут интересовать во­просы о том, что такое новая ценная, условная (безусловная) информация. Все эти эпитеты имеют смысл по от­ношению к макроинформации и не при­менимы к микроинформации. Поэтому всюду, где употребляется термин «ин­формация», мы будем иметь в виду именно макроинформацию и для кратко­сти будем называть ее просто инфор­мацией.

Иерархическая структура. В любом реальном процессе выбор варианта при­ходится делать несколько раз. Так, идя по дороге и встретив разветвление, вы делаете выбор (с помощью указателя или случайно) и направляетесь по оп­ределенному пути. Однако и на этом пу­ти вы можете встретиться с разветвле­нием и снова встанете перед пробле­мой выбора. Каждое последующее раз­ветвление имеется только на выбранном (на предыдущем этапе) пути. На других путях будут другие разветвления, не имеющие отношения к данному пути. Поэтому каждый последующий выбор имеет смысл на базе уже сделанного ранее. Важно также, что предыдущий выбор не предрешает, как правило, последующий. Отсюда следует, что не­обходимо различать уровни информации. При этом более нижний уровень является общим для более верхних уров­ней, т. е. он необходим для рецепции (и/или генерации) информации на бо­лее верхних уровнях.

Поясним это на другом примере. Каждый человек, появившись на свет, выбирает, каким языком он будет вла­деть. Как правило, этот выбор опре­деляется окружением, т. е. ребенок рецептирует информацию о языке (в пер­вую очередь от родителей). Затем че­ловек выбирает специальность. Послед­нее возможно только, если человек уже владеет языком (в расширенном его понимании, включая язык жестов). Ов­ладев специальностью, человек трудится и при этом неоднократно выбирает, в каком направлении приложить усилия. Этот выбор он может сделать, владея не только языком, но и специальностью. Подчеркнем: при развитии системы во времени информация на более нижних уровнях возникает раньше, т. е. является эволюционно более древней.

Ценная информация, которой мы пользуемся в повседневности, как прави­ло, принадлежит самому верхнему уров­ню. Для ее восприятия необходимо владеть языком, профессией и т. д.

В теории информации существует специальный термин «тезаурус». Он оз­начает информацию более нижнего уров­ня, которая необходима для рецепции (и/или генерации) информации на более верхнем.