Ульянов (старое издание) (1115357), страница 10
Текст из файла (страница 10)
Если (1) справедливо для всех ограниченных борелевских функций h(y) при функциях g1 и g2 , то g1 (Y ) = g2 (Y ) совпадают почти всюду.Отсюда вытекает, что равенство (1) можно взять за определениеg(Y ) = E(X|Y ) (условное математическое ожидание).Часть IIМатематическая статистика.15Лекция 1Введем (Ω, A, R) , гдеΩ - выборочное пространствоA - совокупность подмножеств Ω, являющихся σ - алгебройR - cемейство вероятностных мерСемейство R может быть параметрическим, т.е. описываться неизвестными параметрами (θ ∈ Θ). Например, R - нормальное распределение в Rnсо средним µ и ковариационной матрицей V .Семейство R может быть непараметрическим.Замечание 15.1.
Наша цель в статистике состоит в том,чтобы сузить R спомощью статических законов. Мы будем рассматривать задачи оценкинеизвестных парамеиров в случае параметрического R.Пример 15.1 (Бросание некой несимметрической монеты). A = г , рR = p(параметр 0 ≤ p ≤ 1) вероятность выпадения гербаОпределение 15.1. Эмпирическая функция распределения Пустьx1 , x2 , .., xn - выборка. Эмпирическая функция распределения (ЭФР)(выборочнаяфункция распределения) определяется:nFn (y) =1XIx <y .n i=1 iЛемма 15.1. Пусть (X1 , X2 , .., Xn ) - повторная выборка значений случайной величины X, имеющей функцию распределенияF(y) = P (X < y).Тогда для любого y ∈ RP (lim Fn (y) = F(y)) = 1,т.е.Fn (y) сходится к F(y) с вероятностью 1.7415 Лекция 1Определение 15.2.
Повторной выборкой называется выборка, в которой случайные величины (X1 , X2 , .., Xn ) независимы и имеют то же самое распределение, что и X.Замечание 15.2. ηi - повторная выборка, если мы приняли решение самостоятельно. В дальнейшем все выборки будут повторными.Доказательство. Рассмотрим случайные величины Yi = IXi <y⇒ Y1 , .., Yn - независимые одинаково распределенные случайные величины (из условия теоремы).1, P (Xi <y)=F (y)Yi = {0⇒ EYi = F (y)⇒ DYi =E(Yi2 )− (EYi )2 = F (y)(1 − F (y)) < ∞По УЗБЧ⇒ Fn (y) =Y1 , .., Yn n.B.→F (y).nTheorem 15.1 (Гливенко).
Пусть выполняются условия предыдущегоутверждения. ТогдаP ( lim sup |Fn (y) − F (y)| = 0) = 1n→∞ y∈RОпределение 15.3. Эмпирические моменты - это моменты случайнойвеличины, имеющие эмпирическую функцию распределения как функциюраспреления. Иными словами эмпирические моменты - это моментыэмпирического рапределения.Определение 15.4. Эмпирическое среднее:X=X1 + ... + Xnn(среднее арифметическое вектора выборки)EX =E(X1 + ..
+ Xn )EX1 + .. + EXn== EXnnDX =DX1 + .. + DXnDX=2nn16Лекция 2Лемма 16.1. Если неотрицательная целочисленная случайная величинаимеет математическое ожидание, то тогда оно может быть найдено по формуле как первая производная производящей функции в точке,равной 1:∞X0ipi = EX = ϕx (1).i=1Дисперсия случайной величины X, если она существует, вычисляется поформуле:0000DX = EX2 − (EX)2 = ϕx (1) + ϕx (1) − (ϕx (1))2 .Пусть X ∼ P o(λ).
Тогда0ϕx = eλ(s−1) ⇒ ϕx (s) = λe(s−1) .Таким образом EX = λ и DX = λ, или более подробноDX = λ2 + λ − λ2 .Зная производящую функцию, можно однозначно восстановить распределение.Допустим, что есть некая территория площади t. Пусть N - количествовыводков на этой территории (следовательно N - целое неотрицательноечисло).N ∼ P o(λ), λ = αt,λ пропорциональна площади участка. Xi - количество детенышей в i-омвыводке. Xi соотвествует два числа: значение, принимающие значения0,1,2,..., и соответсвующие вероятности p0 , p1 , p2 , ....ZN -общее количество детенышей на всей территории, и ZN = X1 +...+XN .7616 Лекция 2Пример 16.1. Найти ϕZN (S) в терминах ϕN (S) и ϕx (S).Solution 16.1.
Оговорим, что случайные величины X1 , X2 , ... предполагаются независимыми, одинаково распределенными и с общей производящей функцией ϕx (S).Будем действовать по определению:ϕZN (S) = ES ZN = ES x1 +...+xN = EN\S xi .i=1Так как произведение математических ожиданийT равно математическомуожиданию произведения, то есть знаки E иможно поменять местами.Следовательно, получаем, чтоEN\S xi = ϕNx (S).i=1Запишем 1 как сумму индикаторов по всем возможным значениям N :1=∞XI{N =n} .n=0ОтсюдаϕZN (S) = ES ZN∞XI{N =n} =n=0∞XES ZN I{N =n} =n=0ZN{ESопределено только через Xi , а I{N =n} - через N , предполагается,что N, X1 , X2 , ...
независимы }=∞Xn=0ES ZN EI{N =n} =∞Xϕnx (S)P (N = n) = ϕN (ϕx (S)).n=0Таким образом получили общее утверждение.Лемма 16.2. Если X1 , X2 , ..., N - независимые неотрицательные целочисленные случайные величины, и X1 , X2 , ... имеют одинаковые распределения, тоϕZN (S) = ϕN (ϕx (S)).Remark 16.1. Если N ∼ P o(λ), λ = αt, тоϕZN (S) = exp(αt(ϕx (S) − 1)).16.1 Ветвящиеся процессы. Задачи о вырождений Фомина.7716.1 Ветвящиеся процессы. Задачи о вырожденийФомина.Пусть каждая частица порождает (независимо от других) себе подобныхот нуля до бесконечности. Количество частиц в n-ом поколении обозначим через Zn (Zn -величина, как в предыдущей задаче). И пусть ϕ(S)производящая функция случайной величины X, где X- число частиц, порожденных одной частицей.
ТогдаZn = X1 + X2 + ... + Xn−1 .Используя предыдущее утверждение, получаем, чтоϕZN (S) = ϕZn−1 ϕ(S)).(1)Чтобы не путаться, в дальнейшем опустим Z, то есть ϕZn = ϕn . Тогда(1) перепишется:ϕn (S) = ϕn−1 (ϕ(S)).По индукцииϕn+1 (S) = ϕ(ϕn (S)).(2)Пример 16.2. Какова вероятность вырождения фамилии?Solution 16.2.
Вырождение фамилии: сын не порождает сыновей. Например, в 1934г. статистика показывала вероятность pk = 0.21(0.59)k−1 .Обозначим черезxn = p(Zn = 0),x1 = p(Z1 = 0) = p(X = 0) = p0 ,x2 = p(Z2 = 0).Связь между xn+1 и xn :{Zn+1 = 0} ⊃ {Zn = 0}.Отсюдаxn ≤ xxn+1 ,таким образом {xn } - неубывающая последовательность, заключенная винтервал [0,1]. Значит, существуетlim xn = x.S∞Событие, состоящее вSвырождении {вырождение} = n=1 {Zn = 0} ⇒∞P ({вырождение})=P ( n=1 (Zn = 0)) = {по свойству непрерывности неотрицательной последовательности}=lim P (Zn = 0) = x−n→∞7816 Лекция 2вероятность вырождения процесса.
Этот x и будем искать. Из (2) вытекает, чтоxn+1 = P (Zn+1 = 0) = ϕn+1 (0) = ϕ(xn ),xn+1 = ϕ(xn )−производящая функция. Устремим в этом соотношении n к бесконечности. Тогда в силу непрерывностиxn+1 = ϕ(xn ) ⇒x = ϕ(x).(3)Это вероятность вырождения x, удовлетворяющая (3).ϕ(s) = ES x ⇒ ϕ(1) = 1.Значение, равное единице, есть и решение (3).Пусть µ = EX, тогда µ- среднее число потомков в одном поколении.Theorem 16.1. Пусть p0 : 0 < p0 < 1(не рассматривается ситуациявырождения).
Тогда если:- µ ≤ 1, то x = 1;- µ > 1, то x < 1 и x > 0, где x- вероятность того, что вырождениеравно единице.Remark 16.2. Для того, чтобы x = 1, необходимо и достаточноµ≤1(вытекает из второго пункта теоремы).Замечание 16.1. Пусть0µn+1 = EZn+1 = ϕn+1 (1) = µµn .Последовательность µ удовлетворяет следующему соотношению:µn+1 = µµn ⇒ µn+1 = µn+1 .- если µ < 1, то µn+1 → 0;- если µ = 1, то µn+1 = 1, ∀n (удивительный факт);- если µ > 0, то µn+1 → ∞(эксподенциально быстро).Доказательство. Пусть есть единичный квадрат в первой четверти системы координат с осями S (ось абцисс) и x (ось ординат).
И пусть рассматривается функция y = S, которая в первом случае соединяет точку(0, p0 ) с (1, 1), при этом не пересекая диагональ, идущую от начала координат. Во втором случае она пересекает диагональ в точке с абциссой a.Трех пересечений быть не может, поэтому существует только два случая.16.2 Характеристические функции.79ϕ(S) = p0 + Sp1 + S 2 p2 + ... + .ϕ(S)- не убывает, более того строго возрастает.Случай 1. x = 1 - единственное решение уравнения (3).1 − ϕ(S) < 1 − S, ∀0 < S < 1 ⇒1 − ϕ(S)< 1.1−SУстремим S к единице.
Получим0ϕ (1) ≤ 1, µ ≤ 1.Случай 2. Для S < a имеем ϕ(S) > S. Тогдаx1 = ϕ(0) < ϕ(a) = a(получим, что x1 < a). По индукции в силу (2)xn = ϕ(ϕn−1 (0)) = ϕ(xn−1 ) < ϕ(a) = a, ∀n : xn < a.Отсюда действительно вытекает, чтоx = lim x ⇒ x = a.01 − a = ϕ(1) − ϕ(a) = ϕ (θ)(1 − a)0(т.
Лагранжа). ⇒ ∃θ : ϕ (θ) = 1 при этом a < θ < 1. Отсюда вытекает00ϕ (1) > ϕ (θ) ⇒ µ > 1,0так как ϕ (S) возрастает.Из рассматрения этих двух случаев получаем доказательство теоремы.16.2 Характеристические функции.Пусть X-произвольная случайная функция. Характеристической функцией случайной величины X называется функцияfx (t) = Eeixt , t ∈ R1 ,i- мнимая единица.Характеристическая функция определена для любых случайных величин,поскольку | cos Xt |≤ 1 и | sin Xt |≤ 1:fx (t) = Eeixt = E cos Xt = iE sin Xt,fx (t) = Eeixt =8016 Лекция 2Z=Zeity dFx (y)−exp{itX(ω)}P (dω) =ΩRинтеграл Лебега- Стильтьеса, где X(ω)- случайная величина на вероятностном пространстве (Ω, A, P ), иX(ω) : Ω → R.Fx (y) - функция распределения случайной величины X.Частные случаи:1.
Если случайная величина X имеет плотность g, то характеристическаяфункция находится по формулеZfx (t) =g(y)eity dy.R2. Если случайная величина X дискретна, то есть принимает не более, чемсчетное количество значениий, x1 , x2 , ...- случайные величины, а p1 , p2 , ...соответсвующие вероятности. Тогдаfx (t) =∞Xk=1eitxk pk =∞Xeitn pn = ϕx (eit ),n=0X- неотрицательное целое число.Имеет место следующее свойство математического ожидания:Пусть X и Y- случайные величины на одном вероятностном пространстве:X : Ω → R,Y : Ω → R.предположим также | X |≤ Y почти наверное, и EY < ∞ (существованиеозначает конечность математического ожидания).
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
