Васильев А.М. Введение в статистическую физику (1185109), страница 8
Текст из файла (страница 8)
Наконец, если событие состоит из двух независимых простых, то, поскольку его вероятность равна произведению вероятностей, неожиданность сложного события равна сумме неожиданностей простых событий, нз которых оно состоит. Для иллюстрации рассмотрим пример. Пусть в сосуде содержится три молекулы и в нем выделен объем, составляющий 0,1 от полного объема, т. е. Лт/У=0,1. Какова неожиданность того, что в этом объеме окажутся все три молекулы? Вероятность интересующего нас события в соответствии с биномиальным распределением (см. также табл. 1) равна 'йт (3) =(ат/Ь')г= 10 г. Отсюда следует, что его неожиданность — 1п Ф(3)=3 1п 10=6,9. Этот же результат можно было получить несколько иначе. Рассматриваемое событие состоит в осуществлении трех независимых ЗТ событий, а именно попадания каждой из трех молекул в Лт.
Неожиданность попадания одной молекулы, поскольку вероятность этого события равна Лт/г'=О,1, есть — 1и Ж' = 1п 10 = 2,3. Неожиданность попадания трех молекул в три раза больше, т. е. получаем тот же результат. Поскольку отношение Лт/$' мало, то попадание молекул в Лт— маловероятное событие и поэтому гораздо менее удивитььы1б, если все три молекулы окажутся вне Ьт. Какова неожиданность этого события? Поскольку соответст у ощая вероятность равна 'Г С>=(1 — йт/1т)а=0,9', то, учитывая, что Лт((1, для неожиданности найдем — 3!п(1 — йт/р') 3(ат/Ь')=0,3. Ее числовое значение в этом случае получилось значительно меньше, чем в предыдущем. Если в результате измерения обнаружено, что событие асуп;ествилось и, например, все три молекулы оказались в Лт, то это означает, что событие стало достоверным н его неожиданность равна кулю.
Уменьшение неожиданности, явившееся следствием измерения, можно рассматривать как меру информации, которая при этом была получена. Так как конечная неожиданность — ноль, то уменьшение неожиданности равно ее первоначальному значению, поэтому выражение — 1п %'(А) является также мерой количества инфо/змации, полученной в опыте, который показывает, что событие А осуществилось. $12.
Энтропия и хаотичность Выше была введена мера неожиданности для случайного события. Пусть рассматривается некоторая полная группа несовместимых событий. Каждое из этих событий обладает своей неожиданностью, и возникает вопрос о характеристике, общей для всей системы, Такая характеристика, называемая э н т р о п и е й или информационной энтропией, вводится как среднее по всей системе значение неожиданностей, т. е.
неожиданность каждого 1-го события умножается на вероятность этого события )г"; и все полученные результаты складываются. Таким образом, обозначив энтропию 5, можем записать математическое выражение, определяющее эту величину, 112. 1) где суммирование распространено на все события, составляющие полную группу.
Энтропия характеризует степень неопределенности или хаотичности, которая имеет место в данной ситуации. Для по- 88 яснения этого смысла энтропии обратимся к уже рассматривавшемуся ранее примеру, в котором молекула А, находящаяся всосуде объема У, может попасть или не попасть в выделенный объем Лт. Предположим вначале, что объем Лт очень мал по сравнению с в'. Интуитивно ясно, что в этом случае неопределенность ситуации очень мала, так как почти наверняка молекула окажется вне Лт.
Энтропия отражает это представление. Действительно, вероятность попадания в Лт есть ((7~=Лт/Р, а вероятность непопадания (Ра= 1 †(Р, = 1 †(Лт/У). Для энтропии, следовательно, имеем * По правплу Лоппталя пмеем д !пх = Им~ (1/х) ~= Им( — х) =О. х а — (1/ха) а Ит(х!пх)=пш х а к а Если Лт/У очень мало, то в первом слагаемом один сомножитель стремится к пулю, а второй — к — оо. Поскольку, однако, возрастание — 1п (Лт/Р) с уменьшением Лт/У очень медленное, то при (Лт/У)- О произведение стремится к нулю*.
Во втором слагаемом первый сомножитель стремится к единице, а второй — к нулю, так что прн малом Лт/Р он тоже очень мал. Таким образом, при малом Лт/г' значение энтропии мало. Легко убедиться, что точно такое же положение имеет место, иогда объем Лт близок к г'. В этом случае почти наверняка молекула А окажется в Лт, Неопределенность ситуации мала, и значение энтропии оказывается снова близким к нулю.
Когда же достигается наибольшая неопределенность? Попытаемся ответить на этот вопрос, выяснив, прн каких условиях энтрогня достигает своего максимального значения, и рассматривая ее как функцию вероятности %'~ — — Лт/(У. По общему правилу нахождения максимума функции продифференцируем 5 по вероятности и приравняем производную нулю, тогда получим — = — [ — )Р', 1и Ф', — (1 — (Р',) 1п (1 — )Уг,)1= дЗ д двг! дР'~ = — 1и Ф'! — 1+!п(1 — В"!)+ 1=0. (12.2) Из этого равенства вытекает, что Яу, = (1 — Я7~) или (Р'! = Лт/У = 1/2.
(12.3) Таким образом, наиболее неопределенное положение достигается тогда, когда Лт составляет половину объема г'. Итак, мерой неопределенности или хаотичности ситуации, ха/акгеризуемой некоторой полной группой несовмесгимьсх событий с вероятностями Ф'ь служит функция этих вероятностей (12.1), называемая информационной энтропией. часть и КЛАССИЧЕСКАЯ СТАТИСТИКА РАВНОВЕСНЫХ СОСТОЯНИЙ ГЛАВА 3 РАСПРЕДЕЛЕНИЕ МАКСВЕЛЛА $ ТЗ. Распределение частиц в пространстве при отсутствии внешних силовых полей Если внешние силовые поля отсутствуют, то частицы, например молекулы идеального газа, распределяются по объему сосуда равномерно. Действительно, в $2 были изложены соображения, по которым можно считать, что вероятность того, что молекула находится в объеме Ат, являющемся частью объема сосуда У, равна Ьт('г' и не зависит от формы и положения этого объема.
Среднее число молекул в бт при общем числе М определяется соотношением (8.3) (и) =ЛГАт(У и, таким образом, оказывается одинаковым для любых равных по величине объемов Лт. Другими словами, среднее значение концентрации, т. е. числа молекул в единице объема (Ьт=1), есть величина постоянная. Из равенства средних значений концентрации еще не следует, что в любой момент времени числа молекул в объеме Ат и равновеликом ему объеме бт' равны друг другу.
Наоборот, истинное число молекул п, как правило, отличается от <и> и различно для этих двух несовпадающих объемов. Отклонения числа молекул от среднего значения носят название флуктуаций. Нетрудно показать, что в большинстве интересных с практической точки зрения случаев флуктуации очень малы и с ними можно не считаться. Чтобы убедиться в этом, рассмотрим пример.
Пусть в сосуде объемом У=10 см' находится идеальный газ с общим числом молекул М=2,69 1О'~, что соответствует нормальным условиям (температуре 0'С н атмосферному давлению). Мысленно выделим часть этого объема Лт, составляющую один процент от т', т. е. Ах=0,1 см'. Среднее число молекул в Ат равно <п>=0,01М=2,69 10'а, а среднее число молекул вне этого объема М вЂ” <а> 2,66 10'а.
Как было показано в $10, при таких больших значениях чисел <л> и М вЂ” <л> число молекул п в объеме Ас 40 может рассматриваться как непрерывная случайная величина, плотность вероятности которой определяется распределением Гаусса (10,З). Легко рассчитать вероятность любого отклонения от среднего значения. Подсчитаем, например, вероятность того, что в приведенном примере число молекул в Ьт будет отличаться от среднего значения больше чем на 0,01О<о. Другими словами, нас интересует вероятность того, что и окан,ется либо меньше (а> (!в — 10-'), либо больше (п> (1<-10-4).
Соответствующая вероятность эвна <л><! — Ю вЂ” 4> >г/ ( 1 ~-(~~юп<<>п) бл<+ )< 2лО + 1 Е-(л-<л>)' ЫО) б)4 1>' 2аЭ <и><>+>ОГ4) Если обозначить и†(и> =<1п, то — >О 4<л> <л 14<'= ~ е — "лч(оп) д(й>4)+ 1 <' 1 е-злт(зп> б(йп). )>' 2лВ )> 2лВ >О 4<л> Подынтегральная функция четна, и поэтому оба интеграла, которые берутся в симметричных пределах, равны друг другу, так что >>т=2 ~ — е — 'л'«'и> б(йг)). 1 2пВ >О 4<л> хо = 10 — 4(л >/T(), тогда 2 г 2>г функция Хл -х' Ф(х )= =! е х'>одх о— о (>зп) косит название ннтегр зле вероятности или функции о>пнбок, и таблицы ее значений приводятся в спревочиикзх по математике 4.
Ф(хо> определяет вероятность того, что случайная величина х, рвспределеяивя по векову ' См., например, [12), с. 81. 41 Аналогичные интегралы часто встречаются в статистике, и поэтому целесообразно остзиовиться нз их вычислении подробнее Прежде всего введем новую переменную х= для'В и обозначим Гаусса, по абсолютной величине окажется меньше х,. Если хр= оо, то, как ясно из смысла интеграла вероятности, 2 Ф(оо)= — Гге х'е бх= 1. )г2п 5! Теперь можно написать хо йг= — е хчтбх — — ~ е «! Йх=1 — Ф(хе). )г"2п 1 йг2 (13.2) Поэтому, когда имеются таблицы функции ошибок, то легко подсчитать 1Р. Если хе( ! или, наоборот, хе» 1, то значение интеграла вероятности определяется и без помощи таблиц, Как показано в приложении 1, при хе< 1 2 Ф (хо) — хе )' 2п (13.3) а при хч)2 интеграл вероятности оценивается формулой 2 1 „з,з Ф(хе) = 1 — — е е )Г2п хе Пзм) Применим полученные результаты для вычисления интересующей нас вероятности. Поскольку дисперсия, как зто следует из формулы, приведенной в конце В 10, равна х = 00 4(гз>Дг,О= ГО 'Р'(и>.
При <и) =2,69 10'з зто даст х,=1,64.!0', так что с очень высокой точностью применимо соотношение (13.4). Из (13.2) с помощью (13.4) находим (13.5) Р" 2,т хо т. е. числовое значение Гьт имеет порядок е — ' ' ""= 10-еаз "'". Трудно представить себе, насколько мала вероятность рассмотренного события. Для иллюстрации можно сравнить ее с вероятностью того, что обезьяна, посаженная за пишущую машинку, напечатала бы в нужном порядке н без ошибок полный текст «Войны и мира» (пример, предложенный 3.
Борелеи). В одном из изданий романа три тома его содержали 2330 страниц. Если принять, что на странице помещается 45 строк, а испо знаков в строке, включая пробелы, 50, то общее число знаков в книге примерно равно 5,25.10', Поскольку предполагается, что обезьяна нажнмает все клавиши наугад, то вероятность того, что будет нажата данная конкретная клавиша, ранна !!50 (общее число клавиш равно 50].