1612725170-875f1dc1af30a046ee4b954c4f0d36bd (828896), страница 2
Текст из файла (страница 2)
Скажем,для общих метрических решеток это означает, что по точкам ε-сети мы можем сколь угодноблизко “подобраться” с двух сторон – “справа” и “слева” – к любой точке рассматриваемогомножества. Поэтому для краткости всюду в дальнейшем будем называть класс A с указаннымсвойством вполне ограниченным относительно P.Теорема (Обобщенная теорема Гливенко – Кантелли). Если класс A вполне ограниченотносительно Px1 , то верна теорема Гливенко – Кантелли.Д ОКАЗАТЕЛЬСТВО . Пусть ε > 0. Обозначим 4n = sup |P∗n (A) − Px1 (A)|.
АбстрактныйA∈A+интервал Bi = { A ∈ A | A−i ⊆ A ⊆ Ai } будем называть брикетом (иногда в литературе3+используют обозначение [A−i , Ai ]). Заметим, что A =SBi – покрытие, но не разбиениеi6N (ε)класса A. Тогда 4n = max sup |P∗n (A)−Px1 (A)|. Утверждение теоремы будет доказано, еслиi6N (ε) A∈Bilim sup sup |P∗n (A) − Px1 (A)| 6 δ(ε), и δ(ε) → 0 при ε → 0. Имеемn→∞A∈A−sup |P∗n (A) − Px1 (A)| = sup |P∗n (A) ± P∗n (A−i ) − Px1 (A) ± Px1 (Ai )| 6A∈Bi6sup (|P∗n (A)A∈BiA∈Bi− P∗n (A−i )|−−+ |P∗n (A−i ) − Px1 (Ai )| + |Px1 (A) − Px1 (Ai )|) 6−−−∗6 sup |P∗n (A) − P∗n (A−i )| + |Pn (Ai ) − Px1 (Ai )| + sup |Px1 (A) − Px1 (Ai )|.A∈BiA∈BiПервое неравенство в этой цепочке следствие применения неравенства треугольника для модуля, второе – для sup.
Так как A−i минимальная точка брикета Bi в смысле частичного по++−∗рядка, а Ai – максимальная, то 0 6 P∗n (A) − P∗n (A−i ) 6 Pn (Ai \ Ai ). Аналогично, 0 6+−6 Px1 (A) − Px1 (A−i ) 6 Px1 (Ai \ Ai ) 6 ε. Тогда−−−+−∗sup |P∗n (A) − Px1 (A)| 6 P∗n (A+i \ Ai ) + |Pn (Ai ) − Px1 (Ai )| + Px1 (Ai \ Ai ).A∈BiСогласно УЗБЧ для эмпирического распределения lim sup |P∗n (A− ) − Px1 (A− )| = 0 иn→∞−+−+−∗lim sup P∗n (A+i \ Ai ) = lim Pn (Ai \ Ai ) = Px1 (Ai \ Ai ) 6 ε.n→∞n→∞В итоге получаем:lim sup sup |P∗n (A) − Px1 (A)| 6 2ε.n→∞A∈BiЗаметим, что правая часть неравенства не зависит от номера i, поэтому:lim sup max sup |P∗n (A) − Px1 (A)| = lim sup 4n 6 2ε.n→∞i6N (ε) A∈Bin→∞В силу произвольности ε выполнено 4n −−→ 0 при n → ∞. п.н.Определение. Пусть (x1 , .
. . , xn ) ∈ Rn . Эмпирической функцией распределения Fn∗ (t),построенной по выборке объема n, называется функция Fn∗ (t) = P∗n (−∞, t). Таким образом, Fn∗ (t) – это доля выборочных наблюдений, попавших строго левее точки t.Если упорядочить все элементы выборки (x1 , . . . , xn ) в порядке возрастания, то получитсяновая последовательность – вариационный ряд: x(1) 6 .
. . 6 x(n) . Каждое x(k) называетсяk-й порядковой статистикой .Теорема (Классическая теорема Гливенко – Кантелли). Для любой функции распределения Fx1 наблюдаемой случайной величины sup |Fn∗ (A) − Fx1 (A)| −−→ 0 при n → ∞.t∈Rп.н.Д ОКАЗАТЕЛЬСТВО . Заметим, что в нашем случае (X, B) = (R, B). Введем в рассмотрениекласс A = {(−∞, t), t ∈ R}. Тогда теорема будет доказана, если класс A вполне ограниченотносительно любой функции распределения Fx1 .Это условие минимальное достаточное для выполнения теоремы Гливенко – Кантелли, ноне является необходимым.Упражнение. Построить класс A, который не будет вполне ограниченным относительного некоторого распределения, но классическая теорема Гливенко – Кантелли будет выполнена.4Вернемся к доказательству теоремы.
Ограничимся рассмотрением непрерывной функциираспределения Fx1 . Укажем алгоритм построения конечной двусторонней ε-сети. Разобьемотрезок [0, 1] на оси ординат на m равных частей и полагаем ε = m1 . Вспомним определение квантильного преобразования: Fx−1(t) = inf{y | Fx1 > t} при t ∈ (0, 1). Заметим, что1km{Fx−1()}–конечныйнаборточек.Будемсчитать для всех распределений, что Fx−1(1) =11m k=1−1 k−1m∞ и Fx1 (0) = −∞. С помощью набора {Fx1 ( m )}k=0 можно построить искомую двусторон( km0 ) 6 t < Fx−1нюю ε-сеть .
Для каждого t ∈ R существует k0 такое, что Fx−1( k0m+1 ). Рассмот11рим два луча: −1 k0;A−=−∞,Fx1k0m−1 k0 + 1.A+=−∞,Fx1k0m−Очевидно, что Px1 (A+k0 \ Ak0 ) 6 ε. Таким образом классическая теорема Гливенко – Кантеллидля непрерывной функции распределения доказана. mЗамечание. В случае разрывной функции распределения построенный класс {A±k }k=0 небудет удовлетворять определению вполне ограниченного класса множеств. Пусть t – точка−−+разрыва и ε h, где h – величина разрыва. Тогда Px1 (A+k0 \ Ak0 ) > h, где Ak0 и Ak0 – любаяпара лучей вида (−∞, tk ), «окоймляющих» с двух сторон луч A = (−∞, t).mЧтобы установить справедливость теоремы предлагается класс {A±k }k=0 брать немногодругими, а именно добавить к только что введенным открытым интервалом еще и замкнутыесправа: i−−1 k0;Ak0 = −∞, Fx1mi+−1 k0 + 1Ak0 = −∞, Fx1.mУпражнение.
Доказать, что в результате объединения этих двух конечных классов получится двусторонняя конечная ε-сеть для любой функции распределения.Теорема. Пусть класс A вполне ограничен относительно распределений P1 и P2 .Тогда для каждого α ∈ (0, 1) класс A вполне ограниченно относительно смеси αP1 +(1 − α)P2 .±Д ОКАЗАТЕЛЬСТВО .
Пусть ε > 0. Построим {A±i }i6N1 (ε) и {Bj }j6N2 (ε) – двусторонниеконечные ε-сети относительно распределений P1 и P2 соответственно. Определим новые элементы Cl± по формулам:+Cl+ ∈ {A+i ∩ Bj , i 6 N1 (ε), j 6 N2 (ε)};−Cl− ∈ {A−i ∪ Bj , i 6 N1 (ε), j 6 N2 (ε)}.Из множества {Cl± }, содержащего не более 2N1 N2 элементов, можно получить необходимуюдвусторонюю ε-сеть для любого α.+−+Пусть A ∈ A.
Выберем номера i0 и j0 так, чтобы A−i0 ⊆ A ⊆ Ai0 и Bj0 ⊆ A ⊆ Bj0 . Заметим,−+++++−что A−Cl−0 = A−i0 ∪ Bj0 . Необходимоi0 ∪ Bj0 ⊆ A ⊆ Ai0 ∩ Bj0 . Положим Cl0 = Ai0 ∩ Bj0 ,проверить, что мера симметрической разности не превосходит ε.ИмеемP(Cl+0 \ Cl−0 ) = αP1 (Cl+0 \ Ci−0 ) + (1 − α)P2 (Cl+0 \ Cl−0 )−+−6 αP1 (A+i0 \ Ai0 ) + (1 − α)P2 (Bj0 \ Bj0 ) 6 αε + (1 − α)ε 6 ε.−−Первое неравенство в этой цепочке следствие того, что Cl+0 ⊆ A+i0 и Bj0 ⊆ Cl0 ;−−Bj0 ⊆ Cl0 , а также монотонности вероятностной меры P.
5Cl+0 ⊆ Bj+0 иТеорема. Класс B вполне ограничен относительно любого дискретного распределения Pд .Замечание. Согласно теореме Лебега любое распределение в измеримом пространствеможет быть представлено в виде смеси: P = αPд + (1 − α)Pн , где Pд – дискретное распределение; Pн – распределение, не имеющее атомов (в одномерном случае Pн – классическоенепрерывное распределение). Тогда на основании двух последних теорем все дальнейшее исследование можно сводить к неатомарным распределениям. В частности, можно не доказывать отдельно классическую теорему Гливенко – Кантелли для случая разрывной функциираспределения.Д ОКАЗАТЕЛЬСТВО . В случае дискретного распределения имеем не более чем счетный набор атомов {ai }Xтаких, что Pд (ai ) = pi > 0.
Рассматривая любое подмножество A ⊆ B, получаем Pд =pi . Вместо B рассмотрим класс Bд = { A ∩ ai | A ∈ B }, состоящий изi:ai ∈Aвсевозможных подмножеств совокупности {ai }. Иногда используют обозначение Bд = 2{ai } .{ai }i6N) = 2N . ПустьДля конечных множеств это обозначениеX разумно, так как знаем, что #(2ε > 0. Существует N (ε) такое, чтоpi 6 ε. Необходимо построить конечный набор парi>N (ε){A±i }i6N (ε) ∈+A−i ⊆ A ⊆ AiBд со следующим свойством: для любого A ∈ Bд найдется номер i такой, что−−{a1 ,...,aN (ε) }и Pд (A+. Определим правыеi \ Ai ) 6 ε.
Положим {Ai }i62N (ε) = 2+концы брикетов по формуле Ai = Ai ∪{aN (ε)+1 , aN (ε)+2 , . . .}. Для каждого A ∈ Bд выберем левый конец брикета: A−Таким образом, искомая конечная двусторонняяi = A ∩ {a1 , . . . , aN (ε) }.X+−ε- сеть построена, так как Pд (Ai \ Ai ) =pi 6 ε. i>N (ε)Существуют многомерные варианты теоремы Гливенко – Кантелли. Пусть xi ∈ Rk с сов(k)(1)местной функцией распределения F (t1 , .
. . , tk ) = P (x1 < t1 , . . . , x1 < tk ). Определим эмпиnP(1)(k)I(xi < t1 , . . . , xi < tk ).рическую функцию распределения по формуле Fn∗ (t1 , . . . , tk ) = n1i=1Тогда для любого истинного распределения наблюдаемой векторнозначной случайной величиныsup |Fn∗ (t̄) − F (t̄)| −−→ 0 при n → ∞.п.н.t̄=(t1 ,...,tk )Упражнение.
Доказать теорему Гливенко – Кантелли в Rm .Построение оценок неизвестных параметров.Пусть θ – неизвестный параметр наблюдаемого распределения (скалярный или векторный). Он является некоторым функционалом от наблюдаемого распределения: θ = G(Px1 ).Распределение может быть неизвестно полностью или частично. Типичный примерZZmmθ = Ex1 = t Px1 (dt) = tm dFx1 (t)RRОпределение.