1625915153-62da7fb2e48a28563c377c8e71d63db2 (843881), страница 15
Текст из файла (страница 15)
Также заметим,pчто |A| = |AT | ⇒ |A| = |A| |AT |.] n/2111T−1√=exp − ((y(A CA) , y) .2π2AT CAПокажем, что AT CA – новая ковариационная матрица для вектора!nnXX¯ =η̄ := ξAξi ai,1 , . . . ,ξi ai,n .i=1i=1В случае центрированных величин ковариационная матрица совпадает с матрицей вторых смешанных моментом, совпадающей с матрицей AT CA:c̃k,j := EnXi1 =1ξi1 ai1 ,knXξi2 ai2 ,j =i2 =1nXi1 ,i2 =173Eξi1 ξi2 ai1 ,k ai2 ,j .Прогноз гауссовских последовательностей.Теорема.
Пусть ξ1 , . . . , ξn , ξn+1 , . . . – гауссовская последовательность центрированных случайных величин, т. е. каждые n первых элементов этой последовательности имеют гауссовское многомерное распределение. Тогда оптимальныйпрогноз совпадает с линейным:ξbn+1 = E(ξn+1 |ξ1 , . . . , ξn ) =nXbci ξi ,i=1где {bci ; i = 1, . . . , n} – единственное решение системы линейных уравненийEξn+1 ξk =nXbci Eξi ξk , k = 1, . . . n.i=1Д ОКАЗАТЕЛЬСТВО . Рассмотрим вспомогательный вектор размерности n + 1!nXζ̄ = ξ1 , ξ2 , . . . , ξn , ξn+1 −bci ξi .i=1Этот вектор представляет собой результат невырожденного линейного преобразованиявектора (ξ1 , . .
. , ξn+1 ): ζ̄ = (ξ1 , ξ2 , . . . , ξn , ξn+1 )A, где1 . . . 0 . . . −bcn..A = ....−bcn 0...1и |A| = 1. Вектор (ξ1 , . . . , ξn+1 ) гауссовский по условию теоремы. Тогда по предыдуnPщей теореме вектор ζ̄ – тоже гауссовский. А так как Eξn+1 ξk −bci Eξi ξk = 0 при всехi=1k = 1, .
. . , n, то (n + 1)-я координата вектора ζ̄ некоррелирована с предшествующими.nPСледовательно, случайная величина ξn+1 −bci ξi и n-мерный вектор (ξ1 , . . . , ξn ) незаi=1висимы между собой. Тогдаξbn+1 |L(η̄) = E(ξn+1 | ξ1 , . . . , ξn ) =[по свойствам 1, 5 и 6 УМО]= E ξn+1 −nX!bci ξi | ξ1 , . .
. , ξn+Ei=1nX!bci ξi | ξ1 , . . . , ξni=1=nXЗдесь мы воспользовались также центрированностью наблюдений:!!nnXXE ξn+1 −bci ξi | ξ1 , . . . , ξn = E ξn+1 −bci ξi = 0.i=1bci ξi .i=1i=1Оптимальный линейный прогноз часто используется в различных приложениях, например, при прогнозе погоды.74Глава 6. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ(ПРЕОБРАЗОВАНИЕ ФУРЬЕ РАСПРЕДЕЛЕНИЙ).Определение и свойства характеристических функций.Определение. Под комплекснозначной случайной величиной ζ понимается ζ =ξ1 + iξ2 , где (ξ1 , ξ2 ) – двумерный случайный вектор. Математическим ожиданием этойвеличины мы назовём Eζ = Eξ1 + iEξ2 .Понятно, что в рассматриваемой общности не все свойства обычного математического ожидания будут выполняться (например, линейность имеет место, а монотонность– только «покоординатная»).Определение.
Комплекснозначные случайные величины ζ1 и ζ2 независимы, если(1) (1)(2) (2)соответствующие векторы их вещественных и мнимых частей (ξ1 , ξ2 ) и (ξ1 , ξ2 ) независимы.Теорема (правило умножения для математических ожиданий). Если случайные комплекснозначные величины ζ1 и ζ2 независимы, то при условии существования Eζ1и Eζ2 имеет место равенство Eζ1 ζ2 = Eζ1 Eζ2 .Д ОКАЗАТЕЛЬСТВО .
Выделим в произведении величин действительную и мнимуючасти:ζ1 · ζ2 = Re ζ1 · Re ζ2 − Im ζ1 · Im ζ2 + i(Re ζ1 · Im ζ2 + Re ζ2 · Im ζ1 ).Возьмём от обеих частей последнего равенства математическое ожидание, используяпри этом теорему умножения для вещественных случайных величин:Eζ1 ζ2 = ERe ζ1 · ERe ζ2 − EIm ζ1 · EIm ζ2 + i(ERe ζ1 · EIm ζ2 + ERe ζ2 · EIm ζ1 ) = Eζ1 · Eζ2Заметим, что с помощью математической индукции приведенная теорема распространяется на любое конечное число независимых множителей.Далее, мы можем записать математическое ожидание комплекснозначных случайных величин так:ZEζ = Eξ1 + iEξ2 = ζ(ω) P(dω).ΩИнтеграл Лебега справа определяется для комплекснозначных функций точно так же,как и для вещественных.
Без ограничения общности мы можем полагать дискретныеприближения для ξ1 и ξ2 (построенные ранее) заданными на одном конечном разбиениивероятностного пространства. Тогда интегральная сумма для комплексных случайныхвеличин будет выглядеть так же, как и для вещественных:Xζk P(Ak );k6NPпричем дискретное приближение k6N ζk I(Ak ) с ростом N сходится равномерно повсем ω к случайной величине ζ. Отсюда, в частности, легко получить неравенство треугольника и для интеграла (с помощью соответствующего неравенства для сумм комплекснозначных величин и переходом к пределу):|Eζ| 6 E|ζ|.75Введём теперь основное понятие.
Прежде напомним определение экспоненты Эйлера eix = cos x + i sin x, а также ее основные свойства: |eix | = 1 ∀x ∈ R, и свойствомультипликативности ei(x+y) = eix eiy ∀x, y ∈ R.Определение. Характеристическая функция распределения случайной величины – это функция вещественного аргумента, определённая на всей числовой прямой поформулеZϕξ (t) = Eeitξ =eitx Pξ (dx) = E cos(tξ) + iE sin(tξ).Свойства характеристической функции.1. |ϕξ (t)| 6 1, ϕξ (0) = 1.Следует из неравенства треугольника для математического ожидания.2. Характеристическая функция линейно преобразованной случайной величины сосдвигом имеет вид ϕcξ+a (t) = eita ϕξ (ct).Следует из мультипликативности экспоненты Эйлера.3. Свойство мультипликативности при суммировании независимых наблюдений: если случайные величины ξ1 и ξ2 независимы, то ϕξ1 +ξ2 (t) = ϕξ1 (t)ϕξ2 (t).Это свойство является следствием теоремы умножения: ϕξ1 +ξ2 (t) = Eeitξ1 eitξ2 =ϕξ1 (t)ϕξ2 (t).
Последнее равенство написано на основе того, что борелевские преобразования независимых случайных векторов будут независимыми. Легко видеть, что этосвойство обобщается на любое конечное число слагаемых: для любого конечного набора независимых случайных величин {ξi }ni=1 имеемnϕP(t) =ξii=1nYϕξi (t).i=14. Если ξ – случайная величина с абсолютно непрерывным распределением, тоlim ϕξ (t) = 0.t→∞Это утверждение о поведении интегралов быстро осциллирующих функций составляет содержание классической теоремы Римана.
По теореме Римана оба слагаемых внаписанной ниже сумме стремятся к нулю при t → ∞:ZZϕξ (t) = cos(tx) · pξ (x) dx + i sin(tx) · pξ (x) dx → 0.5. Рассмотрим частный случай дискретного распределения. Если для всех элементарных исходов ξ ∈ {a + hk; k ∈ Z}, то говорят, что случайная величина ξ распределенарешетчато с шагом h > 0 (обычно предполагается, что h – максимальное возможноес указанным свойством) и сдвигом a, где, разумеется, |a| < h. Например, решетчатыми распределенными с параметрами a = 0 и h = 1 будут бернуллевская и пуассоновская случайные величины, а также случайная величина с биномиальным распределением. Вообще, если a = 0 и h = m, где m – натуральное, то решетчатое распределениеназывается арифметическим.Радемахеровская случайная величина — арифметическая с шагом 2.76Теорема (критерий решетчатости). Случайная величина ξ распределена решетчато в том и только в том случае, если |ϕξ (t)| – периодическая функция.Д ОКАЗАТЕЛЬСТВО .
(→) Пусть pk = P(ξ = a + hk). Тогда X XX Xit(a+hk) ita ithk itaithk ithk |ϕξ (t)| = epk = e e pk = |e | · e pk = e pk . kkkkПоследняя функция периодическая с периодом 2π/h.(←) Так как ϕξ (0) = 1, то найдется T > 0 такое, что |ϕξ (T )| = 1, т. е. ϕξ (T ) = eia .Так как ϕξ+c (t) = eitc ϕξ (t), то при c = −a получим ϕξ−a (T ) = 1, или, иными словами,E cos((ξ − a)T ) = 1, откуда E(cos((ξ − a)T ) − 1) = 0.
И так как cos((ξ − a)T ) − 1 6 0,то равенство нулю среднего неотрицательной функции влечет за собой очевидное тожп. н.дество cos((ξ − a)T ) = 1. Поэтому (ξ − a)T ∈ {2πk; k ∈ Z} с вероятностью 1, откудаξ ∈ {a + (2π/T )k; k ∈ Z}. Тем самым мы установили связь периода с шагом решетки:T = 2π/h. Заметим, что так как ϕξ (0) = 1 и для решетчатых распределений модуль характеристической функции периодичен, то значение 1 в указанном случае принимается бесконечно много раз, и поэтому свойство 4 не выполняется (при t → ∞ предела вообщеможет не быть).Упражнение. Доказать, что для любого решетчатого распределения с нулевым сдвигом характеристическая функция периодическая.Упражнение.
Привести пример решетчатого распределения с ненулевым сдвигом, для которого характеристическая функция является периодической.Упражнение. Привести пример решетчатого распределения, для которогохарактеристическая функция не является периодической.6. Характеристическая функция ϕξ (·) вещественнозначна тогда и толькоdтогда, когда ξ симметрично распределена: ξ = −ξ, т.
е. функции распределенияслучайных величин ξ и −ξ совпадают.Д ОКАЗАТЕЛЬСТВО . Имеем:ϕξ (·) ∈ R ↔ ∀t ϕξ (t) = ϕξ (t) = Ee−itξ = Eeit(−ξ) = ϕ−ξ (t).Второе равенство написано на основе того, что операции сопряжения и интегрированиякоммутируют и синус – нечетная функция.dТогда если ξ = −ξ, то ϕξ (t) = ϕ−ξ (t) = ϕξ (t), откуда ϕξ (·) ∈ R.Доказательство в обратную сторону будет следовать из теоремы о взаимно-однозначном соответствии между распределениями и их Фурье-образами, которая будет доказана чуть позже.
Проиллюстрировать это свойство можно на примере радемахеровской случайнойвеличины(1, 1/2,ξ=−1, 1/2,12или стандартного нормального распределения p(t) = √ e−t /2 (проверьте его симмет2πричность). Вообще любое абсолютно непрерывное распределение с четной плотностьюбудет симметричным.77Упражнение. Доказать, что характеристическая функция любого симметричного распределения является чётной функцией.Упражнение. Может ли характеристическая функция иметь нечетное число нулей?7. Любая характеристическая функция равномерно непрерывна.Д ОКАЗАТЕЛЬСТВО . Нужно показать, что sup |ϕξ (t + ∆) − ϕξ (t)| −−−→ 0. Действиt∈Rтельно,∆→0ZZi(t+∆)xitxsup |ϕξ (t+∆)−ϕξ (t)| = sup e−edFξ (x) = sup |eitx |·|eix∆−1 | dFξ (x) =t∈Rt∈Rt∈RZZZix∆ix∆= sup |e − 1| dFξ (x) = |e − 1| dFξ (x) = g∆ (x) dFξ (x) −−−→ 0∆→0t∈Rпо теореме Лебега о мажорируемой сходимости (функция g∆ ограничена числом 2, которое, разумеется, интегрируемо по распределению).
8. Связь моментов случайных величин с характеристическими функциями.Если существует момент порядка k, то есть E|ξ|k < ∞(k ∈ N), то характеристическая функция k раз непрерывно дифференцируема: ϕξ (·) ∈ C k (R). Кроме(m)того, ϕξ (0) = im Eξ m , m = 1, . . . , k.Д ОКАЗАТЕЛЬСТВО . Внесем производную под знак интегралаZ0ϕξ (t) = ixeitx dFξ (x).Чтобы обосновать законность такого действия, воспользуемся теоремой Лебега о мажорируемой сходимости. Действительно, для модуля интегранта |ixeitx | существует интегрируемая мажоранта: |ixeitx | = |x| – интегрируемая по распределению функция, т.