А.Н. Ширяев - Вероятность-1 (1115330), страница 71
Текст из файла (страница 71)
Пусть с„, п > 1, — случайные величины с характеристическими функциями ус„(1), и > 1. Показать, что Е„ - О тогда и только тогда, когда ре„(1)- 1, и -+ оо, в некоторой окрестности точки 1 = О. 5. Пусть Хь Хз, ... — последовательность независимых случайных векторов (со значения ми в Й~), имеющих нулевое среднее и (конечную) матрицу ковариаций Г. Показать, что Х!+ "+Х з Р(О Г) ~/а (Ср. с теоремой 3.) 6 Пусть (н 6з, ". и нь пз, ... — две последовательности случайных величин такие, что Е„и п„независимы при каждом и.
Предположим, что х 5„- б,п - п прил- оо, глеб но независимы.Доказать,чтопоследовательность двумерных случайных величин (Е„, и„) сходится по распределению к (6, и). Пусть 1 = )(х, у) — непрерывная функция. Проверить, что последовательность Я„, г)„) сходится по распределению к Я, и).
$4. ))ЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА. ) 42! Т. Привести пример, показывающий, что в утверждении 2) теоремы 1 условие непрерывности «предельной» характеристической функции ,(1) = 1)гп 1»,(1) в нуле, вообще говоря, не может быть ослаблено. (Ина« че говоря, если р(1) не непрерывна в нуле, то может случиться, что ,р„(1)- Р(1), но Р„~ Р.) УбедитьсЯ на пРимеРе, что отсУгствие непРерывности р(1) в нуле может привести к нарушению свойства плотности семейства вероятностных распределений Р„, и > 1, с характеристическими функциями р„(1), и > 1.
$ 4. Центральная предельная теорема для сумм независимых случайных величин. 1. Условие Линдеберга (1.) — ~~~ $ (х — ть) др»(х) — О, и — со. (1) 1 ь=) [»:)»-еч)в«о„) Тогда Зл — Е5» г 4(0 1) ~5» (2) Доказательство. Без ограничения общности можно считать та =О, й > 1. Обозначим рь(1) = Ееиь, Т„= —" = — ", уз„(1) = Ееиз", уг„(1) = » ).)» = Ееиг". !. В этом параграфе центральная предельная теорема для (нормированных и центрированных) сумм 5„ независимых случайных величин С), Сь ..., С„, п > 1, будет доказываться при традиционном предположении выполнения классического условия Линдеберга.
В следующем параграфе будет рассмотрена более общая ситуация: во-первых, центральная предельная теорема будет сразу формулироваться в «схеме серий>, и, вовторых, ее доказательство будет идти при выполнении так называемых неклассических условий. Теорема 1. Пусть с), сз, ... — последовательность независимых случайных величин с конечными вторыми моментами. Пусть т»=Е(ы о~ ~— -0(ь>0, 5»=~) +...+4„, 0«э= ~ оьз и Рь=рь(х) — фунФ=) к)(ия распределения случайной величины сь Предположим, что выполнено «условие Линдеберга»: для всякого е>0 ГЛ.
ВЬ СХОЛИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР Тогда .()=Ееи" =Е' "= '®)=П "® (З) »ьи и для доказательства (2) достаточно (в силу теоремы ! из $ 3) установить, что для каждого ! ЕЛ рг„(!)- е 'Рз, и- оо. (4) Возьмем некоторое ! е !! и будем считать его фиксированным на протяжении всего доказательства. В силу разложений В,у' ееа =1+(у+ — ' 2 ега=1+!у — — + В,!у!' 2 справедливых для каждого действительною у с В~ =В~(у), уз=02(у) таки- ми, что !В~!<1, !В2(<1, находим, что ОО В (Гх)2 р»(!)=Ееле'= ') ем е(Г»(х)= ) (!+!(х+ ' )е(Г»(х)+ — ЕО !Е!>ЕО„ Гзхз В2)Гх!з х + 1 (Ь+ !х- — + — ВГ,(х) = 2 6 ) /Е/<ЕО„ 12 гз !г!3 = 1+ — ~ В~х~г(Г»(х) — — ~ х г(Г»(х) + — $ В2!х(~ г(Г»(х) /Е!>ЕО /Е/<еО, !.е/<ЕО, (здесь мы воспользовались также тем, что, согласно предположению, гп»= ~ хг(Г»(х)=0).
Следовательно, ~р»( — ) = ! — — ~ хтг(Г»(х)+ — к ~ В~хзг(Г»(х)+ 0е 2!!й 2~е !е!в О. + — з $ ~2!~!'ВГ»(~) (б) ! !з ВОз Поскольку ! В~хз г!Г»(х) < — ') х2 ВГ»(х), !е! >ЕО„ !Е!ВЕО э 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА.! 423 то 01х~г(Г4(к) =01 ~ х~Ы4(к), !к!>ео„ 1к!В<0„ (е) 64х~~г(Гд(к) =дя ~ е0„ххах(х), 1к!<к0„ !х!«О„ где дя = 92(1, К и) и Я < 1/6. Положим теперь Ах, = — ~ к ЫР4(х), 1к!<хо„ (7) В»„= — 2 ) х 4(Ра(х). !<1>во„ Тогда в силу (5) — (7) 12А р41 — 1=1 — — ""+1~В~Вал+!1)~кдтА4» (=1+Сея).
( )= Заметим, что (8) я (Аа„+ Вк„) = 1 4=1 (9) и, согласно условию (1), л Вк„-+О, л- оо. 4=1 (10) Поэтому для достаточно больших и гпах )Ск„) <1 ех+е!!)~ ~<4<а )С,„) < !2+,)!!з 4=! Воспользуемся теперь тем, что для комплексных чисел г с 1г! < 1/2 1п(1+ к) = г+ 01г!2, (12) !4» где 01 = д1(1, К й) и !др ! < 1/2. Точно так же Вя)к 1~ г(Ри(х) < — ~ —" (х)~ НЕА(х) < - ~ е0„х йГ4(х), !к!<хо !к1«0„ !к1«0„ и, значит, ГЛ. и!. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР 424 где В =В(г) с )В) < 1 и 1и обозначает главное значение логарифма (!и а = =!и (а(+! агфа, -я<агре<я). Тогда для достаточно больших и из (8) и (11) следует, что для достаточно малых е > 0 !И Ч24( — 1 = !И(1+ Сал) = Сад+ Вад)Сад! ~Рд) где (Вал! < 1.
Следовательно, из (3) тз — + )и Ч!Г„Я вЂ” — + ~ !и <Ра( — ) = — + ~ Са + Ч ~' Вьд!Сад~~. 2=! ь=! 4=! Но л — + ~~' Сал = — 1 — ~~~ Аьл + т ~Ч~ В!(С й, и)Вал+ 2=! ид! 4=! +е(т)з ~ В2(т, й, и)А ., Ф=! и в силу (9), (10) для любого В > 0 можно найти столь большое иа и такое е>0, что для всех п>ао !' — +~ С,л <-,. Далее, в силу (11) и (! 2) л л ~ Вьд(Сад! ~ (и!ах )Сад/ ~~! !Сад/ ~<(г е +е!г! ) (! +е!г! ).
!<Й<л а ! 4=! Поэтому для достаточно больших и за счет выбора е > 0 можно добиться того, что л ч~! В„!С„! и, следовательно, 12 ~ 2 + 1и Рт„(!) ) < 6 Таким образом, для любого действительного ! Э!т„(т)е! т2- 1, и-+со, и, значит, рт.Я- е ' 2, и- со. $4. ЦЕНТРАЛЬНАЯ ПРЕЙЕЛЬНАЯ ТЕОРЕМА. ! 425 2. Остановимся на некоторых частных случаях, в которых выполнено условие Линдеберга (1) и, следовательно, справедлива центральная предельная теорема.
а) Пусть выполнено условие Ляпунова: для некоторого б > 0 к — Е[С вЂ” т»[з+г- О, и- оо. Р2+6 »=! (13) Пусть е > О, тогда Е[с — т [я+4= ~ [х-т»[з+гс(р»(х)> > ~ [х т [з+г др»(х) > »Р» ~ ( )з Ро )л-юла)>го„) (х;(к-ич(>со„) и, значит, л л — (х — т») аР»(х) < — г ° з+г ~~ Е[С» — т»[ ~~. »=1 (к: !х-е~!>еа,) л — [х-т[зЫ»(х)= — з ~ [х-т[зИр)(х)- О, " »=)(:)х- (>го„) (х: (к-а!>гоЩ поскольку(х: [х — т[>еоз,(й)) е), и- со, а от= Еф — т[з <со.
Таким образом, условие Линдеберга выполнено и, следовательно, теорема 3 из $3 вытекает из доказанной теоремы 1. с) Пусть 5, сз, ... — независимые случайные величины такие, что для всех п>1 [с [<К<со, где К вЂ” некоторая постоянная, и Р„ — со, и†оо. Тогда из неравенства Чебышева [х — т»[ г(Г»(х) =Е[(4» — т») 1([Р» — т»[>еР„)[ < (х:(к-е~!Вео„) , 2 <(2К) Р([~» — т»[>еРк)<(2К) з з Следовательно, условие Ляпунова обеспечивает выполнение условия Линдеберга.
Ъ) Пусть (н Сз, ... — независимые одинаково распределенные случайные величины с т=Е~~ и дисперсией 0<озжР~~ <оо. Тогда 426 ГЛ. ВЕ СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР и, значит, ! — 1х — т»1 аГ«(х) < — О, и оо. (2К)2 а=! !к:1к-и»!В»О„) Следовательно, снова выполнено условие Линдеберга и, значит, справедлива центральная предельная теорема. 3. Замечание 1. Пусть Т„= 5„— Е5„ и Гг„(х) = Р (Т„< х). Тогда утверТк» ждение (2) означает, что для всякого х Е 14 Гт„(х)- Ф(х), л- со.
Поскольку функция Ф(х) непрерывна, то на самом деле сходимость здесь равномерная (задача 5 в $1): зир !Гг„(х) — Ф(х)(- О, л - со. (14) кея В частности, отсюда следует, что Р(5„<х) — Ф( ") — О, н- оо. Это утверждение часто выражают словами, что при достаточно большом и величина 5„примерно нормально распределена со средним Е5„и дисперсией Р»взР5„.
Замечание 2. Поскольку в соответствии с предыдущим замечанием сходимость Гг„(х) -+Ф(х), и- со, равномерна по х, то естественно поставить вопрос о скорости сходимости в (14). В том случае, когда величины 5ь 52, ... независимы, одинаково распределены и Еф !а <со, ответ на этот вопрос дается теоремой (неравенством) берри — Эссеена ($1!): Е4 !з зир 1Гг„(х) — Ф(х)) < С к ез,/л (15) где С вЂ” универсальная константа, точное значение которой до сих пор неизвестно. (В [90, гл.
5, $4.3] для этой константы приводятся такие 1 неравенства: — < С < 0,7555.) ~/2« Доказательство (!5) дается в $!!. Замечание 3. Придадим условию Линдеберга несколько иную (и даже более компактную) форму, особенно удобную в случае «схемы серий». Пусть 4Н 52, ... — последовательность независимых случайных вели» чин, та = Есы о~я = Р5ы 02 = 2 „а»2 > О, и > 1, и 5„» = 44». С учетом 44. цн!4трлльндн прндельндн теоре»чй. ! 427 этих обозначений условие (1) принимает следующий вид: л Е[(з l(]~„~] > е)] О, и оо. »ьн (16) Если 5,=6„1+...+6, то 05„=1 н теореме 1 можно придать такую форму: если выполнено условие (16), то 5, — .4'(О, 1). сы сьз ",6- — последовательность независимых случайных величин таких, что Е$ц, = О и 05, = 1, где 5„= с,~ +... + (, . Тогда выполнение условия Линдеберга (!6) достаточно для сходимости 5„- .4'(О, 1).
4. Поскольку щах Есз»(аз+~~> Е[4~»!(К,»]>е)], 1с»сь то ясно, что из условия Линдеберга (16) вытекает, что щах Ес»з„- О, п- оо. 1к»<л (17) Примечательно, что при выполнении этого условия из справедливости центральной предельной теоремы автоматически следует выполнение условия Линдеберга.
Теорема 3. Пусть при каждом п>1 1т,6з, ",6. — последовательность независимых случайных величин таких, что Е6» = О и 05„= 1, где 5„= 6„~ +... +С„„. Пусть выполнено условие (17). 7огда условие Линдеберга является необходимым и достаточным для справедливости центральной предельной теоремы, 5„- Ф'(О, 1). Достаточность следует из теоремы 2. Для доказательства необходимости нам понадобится следующая лемма (ср. с леммой 3 в 3 3). В таком виде центральная предельная теорема справедлива и без предположения о том, что величины С„» имеют специальную форму 4» — т» сы Именно, имеет место следующий результат, доказываемый буквально так же, как теорема 1.