А.Н. Ширяев - Вероятность-1 (1115330), страница 67
Текст из файла (страница 67)
Слабая сходнмость вероятностных мер н распределений 1. Многие из фундаментальных результатов теории вероятностей формулируются в виде предельных теорем. В форме предельных теорем были сформулированы закон больших чисел Я. Бернулли и теорема Муавра— Лапласа, положившие, собственно говоря, начало истинной теории вероятностей и, в частности, указавшие путь многочисленным исследованиям по выяснению условий справедливости разных форм «закона больших чисел» и «центральной предельной теоремы».
В форме предельной теоремы была сформулирована теорема Пуассона об аппроксимации биномиального распределения «пуассоновским» в случае редких событий. Уже на примере этих утверждений, и также результатов о скорости сходимости в теоремах Муавра †Лапла и Пуассона видно, что в теории вероятностей приходится иметь дело с разными видами сходимости распределений, а выяснение скорости сходимости требует введения тех или иных «естественных» мер близости между распределениями. В настоящей главе будут рассматриваться некоторые общие аспекты сходимости вероятностных распределений и их близости.
В данном параграфе рассматриваются вопросы общей теории слабой сходилеости вероятностных мер в метрических пространствах. (Именно к кругу интересов этой теории относятся, в частности, как закон больших чисел Я. Бернулли, так и теорема Муавра — Лапласа — прародительница «центральной предельной теоремыж) Из $3 станет ясно, что метод характеристических функций является одним из самых мощных средств доказательства предельных теорем о слабой сходимости вероятностных распределений в гг". В $7 будут рассмотрены вопросы «метризуемости» слабой сходимости. Затем в $ 9 мы останавливаемся на другом виде сходимостн распределений (более сильном, нежели слабая сходимость) — сходимости по вариации. Доказательству простейших результатов о скорости сходи- мости в центральной предельной теореме н теореме Пуассона отведены зз 11, 12.
В В 13 результаты о слабой сходимостн из Я 1, 2 применяются ГЛ. Ш. СХОЛНМОСТЬ ВЕРОЯТНОСТНЫХ МЕР к некоторым (принципиально важным) задачам математической статистики. 2. Напомним для начала формулировку закона больших чисел (гл. 1, $5) в схеме Бернулли. Пусть (ь Сз, ... — последовательность независимых одинаково распределенных случайных величин с Р(С; = 1) = р, Р(С; =О) = д, р+ д = 1.
Используя введенное в $10 гл. И понятие сходимости по вероятности, закон больших чисел Я. Бернулли можно сформулировать в следующем виде: где Р(х) — функция распределения вырожденной случайной величины С ш р. Пусть также Р„и Р— вероятностные меры на ()г,,йг(й)), отвечающие функциям распределения Р„ и Р.
В соответствии с теоремой 2 из $10 гл. И сходимость по вероятности ул Р Бл — - р влечет за собой сходимость по распределению — -+ р, означаи Л юшую, что Е~( — ")- ЕДр), и- оо, (3) для любой функции 7=)(х) из класса С непрерывных ограниченных функций на )с. Поскольку ЕТ'( — ") = ~ Дх) Р„(г(х), Е/(р) = ~ Дх) Р(г(х), я я то (3) можно переписать в форме ~ )(х) Р„(г(х) -+ ~ )(х) Р(с(х), ~ е С, или (в соответствии с обозначениями $6 гл. И) — в форме ') )(х) г(Р„(х) — ~ ~ г'(х) г(Р(х), г' е С. я я (4) Бп и — р, и- со, и где 5„=(~+... + с'„.
(В гл. !Ч будет показано, что имеет место и сходимость с вероятностью единица.) Обозначим Р„(х)=Р( —" <х~, )1, х>р, (О, х<р, (1) на самом деле здесь (2) 4 ь сллвля сходимость звв В анализе сходимость (4) называют слабой сходимостью (мер Р„ к мере Р, и- оо) и записывают в виде Є— Р (ср. с определением 2). Естественно н сходимость (5) также назвать слабой сходимостью функций распределения Р„ к Р и обозначить ее Р„ — Р. Итак, можно утверждать, что в схеме Бернулли — — р =ь Є— ~Р. (б) п Из (1) нетрудно также вывести, что для функций распределения, введенных в (2), Р„(х)- Р(х), и- со, для всех точек х Е)т за исключением одной точки х= р, где функция Р(х) терпит разрыв.
Это обстоятельство показывает, что слабая сходимость Є— Р не влечегп за собой поточечную сходимость функций Р„(х) к Р(х) при и- со для всех точек х е )т. Оказывается, однако, что как в случае схемы Бернулли, так и в общем случае произвольных функций распределения слабая сходнмость эквивалентна (см. далее теорему 2) так называемой сходимости в основном в смысле следующего определения. Определение 1. Последовательность функций распределения (Р„), заданных на числовой прямой, называется сходящейся в основном к функции распределения Р (обозначение: Р„=ь Р), если при и- со Р„(х) — Р(х), х е С(Р), Р„(х) =Р( — "Р <х~, к Р(х)= — ) е "7тди. ~/юг (8) где С(Р) — множество точек непрерывности предельной функции Р. В рассматриваемом случае схемы Бернулли функция Р=Р(х) вырождена, и отсюда нетрудно вывести (см.
задачу 7 к 5 10 в гл. П), что (Рл~р) ~ ( — -+ р). Таким образом, с учетом приводимой ниже теоремы 2 ('— "-'р) (Р -Р) (Р Р) ('— "-'р) (7) и, следовательно, утверждение закона больших чисел можно рассматривать как одно из утверждений о слабой сходимосгпи й)ункций распределения, определенных в (2). Обозначим ГЛ. П!. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР Теорема Муавра — Лапласа ($6 гл.
1) утверждает, что г"„(х) — г(х) для всех х е )г и, следовательно, г"„=ь Р. В силу отмеченной эквивалентности слабой сходимости р„- р и сходимости в основном р„~ р можно, следовательно, сказать, что теорема Муавра — Лапласа есть также угверждение о слабой сходимости функиий распределения, определенных в (8). Эти два примера оправдывают концепцию слабой сходимости вероятностных мер, вводимую далее в определении 2.
Хотя для случая числовой прямой слабая сходимость равносильна сходимости в основном соответствующих функций распределения, предпочтительнее, однако, в качестве исходной рассматривать именно слабую сходимость, во-первых, потому что она проще поддается анализу, и, во-вторых, по той причине, что она имеет смысл и для более общих пространств, нежели числовая прямая, в частности, для метрических пространств, важнейшими примерами которых для нас являются пространства )с", гг=, С н 0 (см. $3 гл. П). 3. Пусть (Е, в, р) — метрическое пространство с метрикой р=р(х, у), а-алгеброй в борелевских подмножеств, порожденных открытыми множествами, и пусть Р, Рь Рз, ... — вероятностные меры на (Е,в, р).
Определение 2. Последовательность вероятностных мер (Р„) называется слабо сходящейся к вероятностной мере Р (обозначение: Р„ -+ Р; в — от гвеай сопчегаепсе — слабая сходимость), если ) т(х)Р„(йх) -+ ~ )(х)Р(йх) (9) для любой функции Т'= Т(х) из класса С(Е) непрерывных ограниченных функций на Е. Определение 3. Последовательность вероятностных мер (Р„) называется сходящейся в основном к вероятностной мере Р (обозначение: Р„ ~ Р), если Р„(А)- Р(А) для любого множества А из еГ такого, что Р(дА) =О.
(Через дА обозначается граница множества А: (10) дА = [А] П [А], где [А] — замыкание множества А.) Приводимая далее теорема показывает эквивалентность понятий слабой сходимости и сходимости в основном для вероятностных мер, а также содержит другие равносильные формулировки. 4 ь сллнля сходимость 40! Теорема 1.
Следующие утверждения зквивалвнтны: (1) Р„-1Р; (П) 1ип Р„(А) < Р(А), А — замкнутые множества; (П1) !ип Р„(А) > Р(А), А — открытые множества; (1Н) Р„=» Р. Доказательство. (1) =» (П). Пусть А — замкнутое множество и ~а( ) ~! р(» ~)] где р(х, А)=1п!(р(х, у): усА), [х]+=гпах[0, х]. Обозначим также А'=(х: р(х, А) <з) и заметим, что А'4А, с40. Поскольку функции )л(х) ограничены, непрерывны и Рл(А) = ~ (л(х)РП(дх) ~< ~ Ц(х) Рн(дх) Е Е то !1гп Р„(А) <1ип ~ гл(х)Р„(дх) = ) гл(х)Р(дх) < Р(А') 4 Р(А), е40, Е Е что и доказывает требуемую импликацию. Импликации (П) ~ (П1) и (РП) =» (П) становятся очевидными, если от множеств перейти к их дополнениям. (П!) =» (1Н).
Пусть Ао=А~дА — внутренность, а [А] — замыкание множества А. Тогда в силу (П), (П!) и предположения Р(дА) =0 (ип Р„(А) < 1ип Р„([А]) < Р([А]) = Р(А), 1ип Р„(А) ) 11гп Р„(Ао) ) Р(Ао) = Р(А) и, значит, Р„(А)- Р(А) для всякого А с Р(дА) =О. (1Н) =» (1). Пусть г=)(х) — непрерывная ограниченная функция с ]1(х)] < М.
Обозначим Р = (1 ~ )(: Р(х: У(х) = !) ~ О) и рассмотрим разбиение 14=(го, П, „14) интервала [ — М, М]: — М=го<Г~ <...<!»=М, й11, с 0 ф Р, 1=0, 1, ..., й. (Заметим, что множество Р не более чем счетно, поскольку множества ) '(1) не пересекаются, а мера Р конечна.) ГЛ. ВЕ СХОЛИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР 402 Пусть В; =(х: 1; < 1(х) < 11+!). Поскольку функция )(х) непрерывная и, следовательно, множество) '(1В1+!)открыто,тодВ1С1 !(11)!1) !(11+!). Точки 1ь 1;+! К О, поэтому Р(дВ;) = О и в силу (1Ч) 4-1 4-1 1;Р„(В;)- Х~! 1;Р(В1). (12) 1=0 1=0 Но Е-1 ~ 1(х)Р~(с(х) — ~ !(х)Р(с(х) < ~ Дх)Р„(их) — ~~! 1;Р„(В1) + е е )Е 1=О 4-1 4-1 е-! + ~ 11Р„(В;) — ~~! 1;Р(В1) + ~~! 1;Р(В;) — ~ ~(х)Р(йх) 1=0 =о 1=О 4-1 4-1 <2 прах (11+! — 1;)+ ~~! 1;Р„(В;) — ~~! 1;Р(В1), ОК1ЧЕ-! 1=0 =о откуда в силу (12) и произвольности разбненнй Ты й > 1, !пп ~ ~(х)Р„(йх) = ~ 1(х)Р(дх).
С) е е Замечание !. Участвующне в доказательстве нмплнкацнн (1) =ь (Ц) функции 1(х) =1л(х) и )л(х) являются соответственно полунепрерывны- ми сверху и равномерно непрерывными. Учитывая это обстоятельство, нетрудно показать, что каждое нз условий теоремы эквивалентно одному нз нижеследующих условий: (Ч) ) 1(х)Р„(йх)- ) 1(х)Р(йх) для всех ограниченных равномерно е е непрерывных функций 1(х); (Ч!) ) ~(х)Р,(1(х)- ~ 1(х)Р(йх) для всех ограниченных функций, е Е удовлетворяющих условию Липшица (см. лемму 2 в $7); (ЧП) !пп ) 1(х)Р„(с(х) < ) 1(х)Р(йх) для всех ограниченных функций е е 7(х), являющихся полунепрерывными сверху (!нп 7(х„) < 1(х), х„- х); (ЧШ) 1пп ~ )(х)Р„(ах) > ~ 1(х)Р(ах) для всех ограниченных функций е е 1(х), являющихся полунепрерывными снизу (!1нп 1(х„) > 1(х), х„- х).
л Замечание 2. Теорема 1 допускает естественное обобщенне на тот случай, когда вместо вероятностных мер Р и Р„, заданных на (Е, в', р), рассматриваются произвольные (не обязательно вероятностные) конеч- 4 !. слав»я сходимость 403 ные меры р и р„. Для таких мер совершенно аналогично вводятся понятия слабой сходимости р„- и, сходнмости в основном р, ~ р н, так же, как в теореме 1, устанавливается эквивалентность следующих условий: (1') и.