Ульянов (старое издание) (1115357), страница 11
Текст из файла (страница 11)
ТогдаE | X |< EY(монотонность математического ожидания), в частности существует E |X |.16.2.1 Свойства характеристической функции.1. Характеристическая функция не превосходит единицы ∀t, а максимальное значение достигает в нуле.fx (t) ≤ 1,fx (0) = 1, | ei tx |≤ 1(на самом деле, должно быть = , но запишем ≤ ).2. Характеристическая функция линейного преобразования случайных16.2 Характеристические функции.81величин.Y = aX + t,Y - линейное преобразование случайной величины X.fY (t) = E exp(it(aX + b)) = eitb fx (at).3. Мультипликативное свойство характеристической функции.Если X1 , X2 независимы, тоfx1 +x2 (t) = Eeit(x1 +x2 ) == Eeitx1 · Eeitx2 = fx1 (t) · fx2 (t).4.Характеристическая функция является равномерной и непрерывнойфункцией.Доказательство.
Пользуемся определением и аддитивностью математического ожидания.| fx (t + h) − fx |=| E(ei(t+h)x − eitx ) |==| E(ei(t+h)x − eitx ) · 1 |≤{ eit x исчезает за счет того, что оно по модулю меньше единицы, а единицу представим в виде: 1 = I + I, эти индикаторы соответсвуют двумпротивоположным событиям | X |< A и | X |≥ A, A выберем потом}≤ E | eihx − 1 | ·I{|x|<A} + E | eihx − 1 | ·I{|x|≥A} .(1)| Eeihx − 1 | ·I{|x|≥A} ≤ 2P (| x |≥ A), (2)так как | eihx − 1 | можно ограничить двойкой. Значит,Z aia| e − 1 |=| ieiy dy |≤ a, a > 0 ⇒0E | eihx − 1 | ·I{|x|<A} ≤≤ E | hX | ·I{|x|<A} ≤ A | h | .(3)Фиксируем проивольное ε > 0 , тогда∃A0 : P (| X |≥ A0 ) >Беремδ=ε.2A0ε.48216 Лекция 2Тогда объединяя (1), (2) и (3), получаем| fx (t + h) − fx (t) |≤ A0 ·εε+2· =22A04при условии, что | h |< δ и ∀t. Отсюда и вытекает равномерная непрерывность.5.
Если для некоторого h ≥ 1 ∃ EXn (момент порядка n), то fx дифференцируема n раз и(n)fx (0) = in EXn ,если известна fx (t), то можно найти все моменты. Обратное не верно.Определение 16.1. Выборочным моментом k-го порядка называетсясуммаn1X kmk =X ,n i=1 iгде (X1 , ..., Xn )- выборка из распределения L(X).Как было показано раньше, m1 = X- выборочное среднее.Определение 16.2. Центральным выборочным моментом k-го порядканазывается суммаn1X(Xi − X)k .n i=1Напомним, чтоE(X − EX)kназывается центрированием k-го порядка.Если k = 2, то центральным выборочным моментом 2-го порядка являетсявыборочная дисперсия.Посчитаем математическое ожидание выборочной дисперсии S 2 .nS2 =1X(Xi − X)2 ,n i=1ES 2 = E(X1 − X)2 .X1 , X2 , ... одинаково распределены, тогда их математическия ожиданиясовпадают. Распишем более подробнее X1 − X:X1 − X =n−11X1 − (X2 + ...
+ Xn ) =⇒nn1n−1Y1 − (Y2 + ... + Yn ), Yi = Xi − EX.nnСмысль перехода Xi → Yi : все случайные величине Yi обладают темсвойством, что их математические ожидания равны нулю.16.2 Характеристические функции.83Случайные величины Y1 , ..., Yn независимы. Значит, математическое ожидание прозведение в силу независимости есть произведения математических ожиданий, и каждое равно нулю:E(Yi · Yj ) = EYi · EYj = 0, i 6= j.Следовательно,ES n = (n−1 2n−1n−1 2) EY21 +EY22 =σ ,nn2nσ 2 = EY21 = DX.Определение 16.3. Последовательность случайных величин {Yn } является асимптотически нормальной с параметрами an и σn2 , если ∀z ∈RZ zYn − ant21P(exp(− )dt, n → ∞.< z) → Φ(z) = √σn22π −∞P(Yn − an< z)σnпо определению есть функция распределения случайной величиныYn − an.σnЛемма 16.3. Последовательность выборочных средних X(n) является2асимтотически нормальной с параметрами a и σn , гдеX(n) =1(X1 + ...
+ Xn ),nX1 , ..., Xn - повторная выборка из распределения L(X), иa = EX, σ 2 = DX.Доказательство.P(X(n) − aX1 + ... + Xn − na√√< z) = P (< z) → Φ(z).σ/ nσ/ nСходимость вытекает из центральной предельной теоремы, так как второевыражение равенства есть формулировка ЦПТ.Замечание 16.2. Теорема остается справедливой для выборочных моментов любого порядка k.8416 Лекция 216.3 Порядковые статистики и вариационные ряды.x1 , ..., xn - конкретный набор значений (выборка как набор чисел). Например, есть некоторое число записок с написанными на них числами.Открываем эти записки и записываем числа на них. Допустим, проделаввыше описанное, получили7, 0, 17, 2, 3, 9, 77, ....Всего 100 значений.
Исходную выборку x1 , ..., xn можно упорядочить понеубыванию:X(1) ≤ X(2) ≤ ... ≤ X(n) .Определение 16.4. Порядковой статистикой X(k) называется случайная величина, равная xk .Случайные величины X(1) , X(n) - экстремальные значения выборки, минимальная и максимальная, соответственно, порядковые статистики.X(1) ≤ X(2) ≤ ...
< X(n) −называется вариационным рядом.X(k) - распределение?P (X(n) < z) = P (n\(Xi < z)) =i=1{в силу независимости }=nYP (Xi < z) = F n (z) = (P (X < z))n .i=1P (X(1) ≥ z) = P (n\(Xi ≥ z)) = (P (X ≥ z))n = (1 − F (z))n ⇒i=1P (X(1) < z) = 1 − (1 − F (z))n = 1 − P (X < z).Лемма 16.4.P (X(k) < z) =nXCni F i (z)(1 − F (z))n−i .i=kДоказательство.
Пусть µn (z)-число {j : Xj < z}. Если вспомнить определение эмперической функции распределения, тоFn =µn (z).n16.4 Точечные оценки.P (X(k) < z) = P (µn (z) ≥ k) = P (n[85(µn (z) = i)).i=1События µn (z) и i несовместимы, и µn (z) = i означает, что из n случайныхвеличин ровно k меньше z, а остальные не меньше z.P (X(k) < z) =nXP (µn (z) = i).i=kТак как µn (z) имеет биномиальное распределение с параметрами n и p,тоp = P (X < z) = F (z).Таким образом, получаем доказательство утверждения.16.4 Точечные оценки.ВеличинаYt+1 − YtYtназывается относительной доходностью, где Yt - сумма в момент времениt. Иногда это равенство записывается в виде логарифмаlnYt+1.YtОтносительная доходность описывается нормальным распределением N (a, σ 2 ).При a > 0 в среднем доход больше нуля;при a < 0 цены идут вниз;при a = 0 следует смотреть σ 2 .Пусть рассматриваются два относительных дохода, причем a1 = 0 = a2 ,σ12 > σ22 .
Если a1 = a2 > 0 или a1 > a2 , то σ12 > σ22 .Возникает вопрос: какой финансовый инструмент выбрать? a1 , σ12 - рискованное вложение.Проблема: имея некие данные X1 , ..., Xn , сделать заключения о a, σ 2 .Пусть (X1 , ..., Xn )- выборка из L(X) иL(X) ∈ {F (z, θ), θ ∈ Θ} = {N (a, σ 2 ), a ∈ R, σ 2 > 0, θ = (a, σ 2 )}.{F (z, θ), θ ∈ Θ}−семейство вероятностного распределения, параметризованное θ (возможно θ- вектор). Например, показательное распределение плотности λe−λt , λ >0, имеет параметр θ = λ.Найти точечную оценку неизвестного параметра θ означает, указать такую измеримую функцию от выборки (X1 , ..., Xn ), значение которой при8616 Лекция 2конкретном наборе выборки (X1 , ..., Xn ) будет приниматься за значениенеизвестного параметра.
Заметим, что в качестве оценки можно брать любую измеримую функцию от выборки. Иногда в этом праве отказываетконстанта.a∗ = f (X1 , ..., Xn )−оценка для a, f (X1 , ..., Xn )- измеримая функция, (a∗ − a)- смещение оценки.E(a∗ − a) = 0 =⇒ Ea∗ = q.Последнее есть определение несмещенной оценки.Определение 16.5. Оценка a∗ неизвестного параметра a называетсянесмещенной, если математическое ожидание оценки совпадает с тем,что оценено, т.е.
если выполнена формулаEa∗ = q.Пример 16.3. Если X ∼ N (a, σ 2 ), тогда EX = a. Рассматривается (X1 , ..., Xn ).Возьмем среднеарифметическое:X1 + ... + Xn= X.nEX = EX = aесть несмещенная оценка. Заметим, что несмещенная оценка не являетсяединственной.Пример 16.4.EX1 = EX = a.X1 -несмещенная оценка. Второе требование- требование состоятельности.Определение 16.6. Оценка a∗ неизвестного параметра a называтся состоятельной, если a∗ −→ a по вероятности при неограниченном увеличении a∗ = f (X1 , ..., Xn ) выборки.17Лекция 3(X , A, Pθ (θ ∈ Θ))Ранее были рассмотрены параметрические статистические модели, то естьслучаи, когда Pθ (θ ∈ Θ) ≡ P , где θ - неизвестный скалярный параметр,поскольку Θ ⊂ R1 .T : X →RX - выборочное пространство; X1 , . .
. , Xn - повторная выборка из L(x),то есть X1 , . . . , Xn - независимые одинаково распределенные случайныевеличины, имеющие то же распределение, что и X, то есть Xi =d X.→−Будем использовать запись X = (X1 , . . . , Xn ) или Y = (X1 , . . . , Xn ).T - несмещенная оценка параметра θ, если ET (Y ) = θ.¡¢Пример 17.1. EX = E n1 (X1 + . . . + Xn ) = EX¢¡EX = E n1 (X1k + .
. . + Xnk ) = EX kЕсли Fn (y) - эмпирическая функция распределения, построенная по X1 , . . . , Xn ,то для ∀ y : EFn (y) = F (y) = P (X < y).Свойства несмещенных оценок:1. Несмещенные оценки не единственны.К примеру, для получения EX можно взять EX1 или EX.2. Несмещенные оценки могут не существовать.Пример 17.2. n = 1, Pθ - семейство пуассоновских распределений с параметром θ, Θ = (0, +∞);kX (θ); P (X = k) = θk! exp −θ, k = 0, 1, 2, . . ..Итак, есть X1 ; рассмотрим ET (X1 ) = θ1 . Существует ли такое отображение T , чтобы это равенство имело место?P∞kET (X1 ) = k=0 T (k) θk! exp −θ = exp −θ(T (0) + T (1)θ + . .
.) =? θ1 для∀ θ ∈ Θ.Но при θ → 0 левая часть для любого T стремится к T (0), в то время,8817 Лекция 3как правая - стремится к бесконечности. Из чего следует, что искомойнесмещенной оценки не существует.3. Несмещенные оценки могут существовать, но быть бессмысленными.К примеру, ∃ T (y) : ET (Y ) = θ, но область значений T (Y ) не пересекается с Θ, то есть оценка принимает те значения, которые самавеличина принимать не может.4.