Левин Б.Р. Теоретические основы статистической радиотехники (3-е издание, 1989) (1141996), страница 12
Текст из файла (страница 12)
В отличие от Указанного определения предела детерминированной последовательности определение предела последовательности случайных, величин зависит от критерия сходимости. Это объясняется тем, что последовательность случайных величин представляет множество числовых последовательностей, подчиняющихся вероятностному распределению. Последовательность случайных величин 5ь ..., $ сходится по распределению к случайной величине 6, если последовательность функций распределения Р6,(х), ...„Р1„(х) сходится к функции Распределения Рг (х) во всех точках непрерывности ~последней. Кратко сходимость по указанному критерию записывают в виде: 69 и.
в яли кратко в„ - $. пч Последовательность случайных величин ~ь ..., ь сходится в среднеквадратнческом к случайной величине К, если 1нп ги,(($„— $)') =0 (3.94) и. р. $. Сходимость по распределению ~называют также слабой л+ сходимостью. Если функции Ра (х), й=1, и, и Р1 (х) диффервнцвруемы, то при слабой сходимости плотности ва„(х) сходятся к юа (х) и, соответственно, характеристические функции 91„(о) — к 6а (о). :4ю4а~ Последовательность случайных величин 3ь ..., ь„сходится по вероятности к случайной величине $, если для любого ~)0 1нп Р ( ~ 5„- $ ~ ) з) = 0 (3.93) с. к.
прн кратко 5„ л-~ Из сходимости в среднеквадратическом следует сходимость по вероятности, а из сходимооти по вероятности — сходимость по расп еделению. Е рнведенные критерии сходимости относятся к последовательностям не только скалярных случайных величин, но и векторных. Так, для определения слабой сходимости последовательностей векторных случайных величин достаточно одномерные функции распределения заменить многомерными, а для определения сходи- мости по вероятности и в среднеквадратическом потребовать, чтобы соотношения (3.93) и (3.94) выполнялись для каждой компоненты вектора я„.
3.4.2. Сходимость последовательности сумм случайных величии. Прн теоретических исследованиях н практических приложениях теории часто необходимо решать задачу определения функции распределения сумм конечного числа случайных величин (линейной комбинации случайных, величин). В общем случае решение втой задачи даже при использовании метода характеристических функций сопряжено с известными трудностями (см.
п.3.1.14 и 3.3.6). Исключение составляет сумма конечного числа (даже зависимых) гауссовских случайных величин, которая представляет гауссовскую случайную величину, т. е. подчиняется нормальному закону распределения вероятностей (см. п. 3.3.8). Можно указать и еще несколько примеров, когда закон распределения суммы произвольного конечного числа одинаково распределенных независимых случайных величин совпадает с законами распределения слагаемых (см. задачи 3.14 и 3.15).
Однако, как правило, закон распределения суммы случайных величин не повторяет закона распределения слагаемых. Задача становится еще сложнее, если функции распределения слагаемых суммы различны. 70 (3.96) В тех случаях, когда решение задачи при конечных парамет- рах громоздко или практически !непригодно, применяется аоимп- тотическое решение, которое затем используется в допредельном случае, если сходимость достаточно быстрая. В рассматриваемой задаче асимтотический подход !имеет,место, когда число слагае- мых в сумме неограниченно увеличивается. Для этого необходимо исследовать сходимость последовательности сумм случайных ве- личин >1 = Х $>„когда л-+-со. А=! Прежде всего следует отметить, что содержательное исследо- вание сходимости сумм случайных величин возможно лишь после соответствующего центрирования и нормирования сумм.
~Пусть, на!пример, все слагаемые $ю 4=1, п, независимы и распределены по одному и тому же закойу, причем т!(4ь) =а, райк) =о'(со. Тогда т>(г> ) =ла, >!з(>1 ) =по'. Следовательно, при и — !-оо среднее и дисперсия искомого предельного :распределения неограничены. Однако, есл!и вместо случайных величин суммировать центриро- ванные случайные величины ~~ — а, то среднее суммы всегда будет равно нулю. Нормирование центрированной суммы возможно дву- мя способами: ч = „Х 6 ) (3.95) з=! т1„= — ~ ($ь — а). (2> ! о>; Прн первом способе >!!(г><>>„) =о'/и и, следовательно, >>!(т>о>„)-+О пря л-+-оо, т.
е. последовательность сумм (3.95) сходится (по меньшей мере ло вероятности) к константе (к .нулю). При вто- ром способе >!з(>1!!> ) =1 для любого п и, следовательно, после- довательность (3.96) сходится при п — !-со (по меньшей мере по распределению) к случайной величине г> с параметрами т>(г>) =О, 1!2(>1) = 1. Вел~и распределения слагаемых сумм независимых случайных величин различны, то центрированме и нормирование приводят к следующим выражениям: т1, = — ~'„($„— аь), аь = т, ($„), (3.97) !! ь=! т>„>~ = — У ($» — ах), ах = т, ($д), о„ о~ = ~', р,($д), (3.98) з-! При определенных условиях последовательности нормированных сумм центрированных независимых случайных !величин сходятся к предельной величине, вероятностные характеристики которой не зависят от индивидуальных характеристик слагаемых.
73 (3.100) Формулировка условий возникновения подобных устойчивых закономерностей и их вероятностных характеристик составляют содержание предельных теорем теории вероятностей — закона больших чисел н центральной предельной теоремы. 3.4.3.
закон больших чисел. пусть г,!, ..., 5„ — последовательность независимых, одинаково распределенных случайных величин с конечными дисперсиями 1»»($») =о'(ио, Й= 1, л. Тогда последовательность сумм (3.95) сходится по вероятности к нулю, что равносильно утверждению п. в. — а- т»($»), (3.99) и» ! и в т. е. среднее арифметическое независимых, одинаково распределенных случайных величин сходится при л- сь к среднему значению слагаемого суммы. Сходимость по вероятности среднего арифметического к среднему а следует непосредственно из неравенства Чебышева, Так как (см.
(395)) л!!(!1(!!„)=О, !»в(!!"' ) = ов/и, то из (2.29) находим 1пп Р(! — — 2; $» — а))е) =-О. и-и и Обозначим через 0(о) характеристическую функцию случайной величины ($» — а)!/л, а через 6х (о) — характеристическую функцию суммы (3.95). Тогда в соответствии с (3.88) !п 6х (о) = л 1п 6 (о) = п 1и (1 — о'о'/(2л') + ...) = = ( — о'о'/(2п) + о (1/л'). (3.101) При л — в-иь из (3.101) следует Игп 6х (о) = 1, т.
е. предельное распределение последовательности сумм (3,95) вырожденное— плотность такого распределения представляет дельта-функцию в начале координат. Формула (3.99) я~вляется аналитическим выражением закона больших чисел. Из (3.101) следует, что с точностью до членов порядка 1/л' распределение среднего арифметического независимых одинаково распределенных случайных величин (при конечной дисперсии) нормальное с плотностью (3.102) 'г'2ков/и 1 2 ив/и Если случайные величины 5» в (3.97) не распределены одинаково, то для сходимости распределения суммы (3.97) к вырожденному (плотность представляет дельта-функцию в нуле) достаточно выполнить условие Игп л — <!+ь! ~ л! ( ~$» а» ~!+ь) 0 0(б(1 (3.103) и~ »=1 При б=1 получаем более простой вариант (3.103): 1пп о~/и' = О, (3.103а) где о' = Х р (в.).
(3.103б) ь=! 3.4.4. Центральная предельная теорема теории вероятностей. Пусть вь ..., $„ — последовательность независимых, одинаково распределенных случайных величин, имеющих конечные средние т1(вь) =а и дисперсии 1ььЩ=о'. Тогда последовательность сумм (3.96) сходится по распределению к стандартной гауссовской случайной величине, что равносильно утверждению Ит Р ~- 2,' (ч„— а)(х~ = )' ехр ( — — )йи=г(х), л.+ (о оп ь 1 )/2н „2 Из (3.105) следует 1нп Вх„(о) = ехр ( — о'/2), (3.106) т. е. последовательность характеристических функций сумм (3.96) при и-1-оо сходится к характеристической функции гауссовской случайной величины с нулевым средним и единичной дисперсией.
Если случайные величины $ь в (3.98) не распределены одинаково, то для слабой сходимости сум~м (3.98) к стандартной гауссовской случайной вел~ичине достаточно выполнить условие: при б)0 п !Ипо„!™ У т,(($ — а !2+о) = О. (3.107) 73 (3.104) т. е. последовательность функций распределения центрированных и нормированных сумм (3.96) случайных величин прои и-+-оо сходится к нормальной функции распределения с параметрами (О; 1).
Формула (3.104) является аналитическим выражением центральной предельной теоремы теории вероятностей. Доказательство этой теоремы основано на исследовании последовательности характеристических функций сумм (3.96) при п-ь.оо. Обозначая Вь (о) характеристическую функцию центрированной случайной величины $д — а, получаем согласно (3.71) В соответствии с (3.88) логарифм характеристической функции суммы (3.96) !и Ох„(о) = и !пОь ( ~ = — — и' +о(1/и). (3.105) ~ О)то, 2 вез),то При 6 = 1 (3.107) упрощается: 1ппсзГоз = 0 или !пи с„/о„= О, (3.107а) где (3.1076) (3.109) где сз — произвольные константы и 2 и 2 о„= 2', )гз(сд$з) =о' 2, сз, о'= )гз($„).