1612725170-d2dcc605205feb3d5b9a0101f2221951 (828894), страница 22
Текст из файла (страница 22)
+ Q~ξ − QP√= (η̂(n) , 0),nнормы одинаковы: k~η(n) k2 = kQ~η(n) k2 = k(η̂(n) , 0)k2 = kη̂(n) k2 . И все этинормы ведут себя согласно (43).У п р а ж н е н и е . Найти среди этих норм величину ρ из теоремы Пирсона и убедиться, что доказательство завершено.§ 3. Вопросы и упражнения= N=1. Случайные величины ξ ⊂a1 , σ21 и η ⊂ Na2 , σ22 имеют коэффициенткорреляции −1 < ρ < 1. Найти плотность совместного распределенияслучайных величин ξ и η.2. Нормально распределённый случайный вектор имеет нулевые средние и следующую матрицу ковариаций: 5 32 12 1Σ==×.3 21 11 1Найти линейное преобразование, переводящее исходный вектор в векторсо стандартным нормальным распределением.3.
Нормально распределённый случайный вектор имеет нулевые средние и следующую матрицу ковариаций:2 1Σ=.1 2Найти поворот, делающий координаты вектора независимыми. Найти линейное преобразование, переводящее исходный вектор в вектор со стандартным нормальным распределением.128ГЛАВА X. МНОГОМЕРНОЕ НОРМАЛЬНОЕ РАСПРЕДЕЛЕНИЕ4.
Случайные величины ξ и η имеют плотность совместного распределения−f (x, y) = C · e1 x2 y 2+2 a2 b2.Найти постоянную C. Найти преобразование, делающее координаты вектора независимыми случайными величинами со стандартным нормальнымраспределением.5. Доказать, что случайная величина η из примера 45 (с. 123) имеетстандартное нормальное распределение.6. Случайные величины ξ и η имеют двумерное стандартное нормальное распределение. Найти вероятность P(ξ2 + η2 < r2 ).7.
Случайные величины ξ и η имеют плотность совместного распределения13xyy21x2−+.f (x, y) = √ · exp −2π20552Найти вероятность попадания случайной точки (ξ, η) в эллипс3xyy29x2−+6.552108. Случайные величины ξ и η имеют двумерное нормальное распределение с вектором средних (a, b) и матрицей ковариаций Σ = B 2 .
Найтивероятность вектору (ξ − a, η − b) принадлежать эллипсу, который получается из круга x2 + y 2 < r2 линейным преобразованием с помощьюматрицы B всех его точек: (x, y) 7→ B(x, y).Г Л А В А XIПОСТРОЕНИЕ ЭФФЕКТИВНЫХ ОЦЕНОКВ этом разделе мы научимся строить эффективные оценки. Напомним, чтодо сих пор мы иногда могли обосновать эффективность оценки с помощьюнеравенства Рао — Крамера. При этом для некоторых регулярных семействмы просто не смогли обнаружить оценок, обращающих это неравенство в равенство. Для нерегулярных же семейств, подобных равномерному, и это средство не работало. Оказывается, эффективные оценки в любом классе строятся с помощью оператора ортогонального проектирования произвольной оценки этого класса на множество случайных величин, являющихся борелевскими функциями от полной и достаточной статистики.
Такая ортопроекцияносит название условного математического ожидания. Условные математические ожидания (УМО) суть жизненно важные объекты для экономистов:например, оценки метода наименьших квадратов в линейной регрессии возникают как раз при ортогональном проектировании некоторого случайноговектора на некоторое линейное подпространство в Rn . Байесовские подходык построению оценок при имеющейся априорной информации о параметретоже сводятся к вычислению УМО.
При изучении случайных процессов вовторой половине курса эконометрики УМО тоже возникают.§ 1. Условные математические ожиданияОпределение УМО. Условное математическое ожидание имеет простойгеометрический смысл, начнём с него.Пусть ξ и η — две случайные величины на некотором вероятностномпространстве, причём E|ξ| < ∞. Ничего принципиально не изменится,если они обе или только одна из них будет многомерной случайной величиной (случайным вектором).Пусть L = L(η) — множество, в котором собраны все случайные величины, имеющие вид ζ = g(η), где g(x) — произвольная борелевская функция. Скалярным произведением двух случайных величин ϕ и ζ назовём(ϕ, ζ) = E(ϕζ), если это математическое ожидание существует.130ГЛАВА XI. ПОСТРОЕНИЕ ЭФФЕКТИВНЫХ ОЦЕНОКУсловное математическое ожидание E(ξ | η) случайной величины ξотносительно η можно представлять себе как результат ортогональногопроектирования случайной величины ξ на пространство L.Изобразим случайные величины векторами в R3 , а пространство L —плоскостью, проходящей через начало координат, как на рис.
12.ξξ−bξbξL(η)0Рис. 12. Ортогональное проектированиеРезультат проектирования — такая случайная величина E(ξ | η) = bξиз L, для которой выполнено основное и единственное свойство ортопроекции: её разность с ξ ортогональна всем элементам L. Ортогональностьозначает, что для любой g(η) ∈ L обращается в нуль (если вообще существует) скалярное произведение ( ξ − bξ, g(η)), т. е.E (ξ − bξ )g(η) = 0 или E ξ g(η) = E bξ g(η) .Это свойство называют тождеством ортопроекции. Чтобы не иметь проблем с существованием матожидания произведения, достаточно в качествеg(y) в тождество подставлять лишь ограниченные функции.О п р е д е л е н и е 35.
Пусть E|ξ| < ∞, L = L(η) — множество всехборелевских функций от случайной величины η. Условным математическим ожиданием E(ξ | η) называется случайная величина bξ ∈ L, удовлетворяющая тождеству ортопроекции:E ξ g(η) = E bξ g(η) для любой ограниченной g(η) ∈ L.(44)Полезно заметить, что вместе с bξ свойством (44) будет обладать любаяξ̃ = bξ п. н. Иначе говоря, условное математическое ожидание определяетсяне однозначно. Различные варианты УМО совпадают друг с другом п. н.Обратим внимание на то, что bξ есть элемент множества L(η), т. е. онаявляется некоторой борелевской функцией h(η) от величины η.Данное выше определение не является конструктивным.
Однако из неговытекают многие замечательные свойства, которых часто бывает достаточно для вычисления УМО. Видимо, самым важным и самым очевидным§ 1. Условные математические ожидания131свойством является следующее. Мы не будем его доказывать, а читательувидит его на рис. 12.С в о й с т в о 15. Пусть E ξ2 < ∞. Тогда расстояние от ξ до её ортопроекции bξ = E(ξ | η) является наименьшим из расстояний от ξ до всех«точек» множества L :22min E ξ − g(η) = E ξ − bξ ,где минимум берётся по всем g(η) ∈ L.УМО обладает обычными свойствами математических ожиданий, например, линейностью E(ξ1 + ξ2 | η) = E(ξ1 | η) + E(ξ2 | η) п.
н. Но теперьборелевские функции от случайной величины η выносятся из-под знакаматематического ожидания как постоянные.С в о й с т в о 16. Если f (η) ∈ L такова, что E|f (η) · ξ| < ∞, то E f (η) · ξ η = f (η) · E(ξ | η) п. н.Д о к а з а т е л ь с т в о. Рассмотрим только случай, когда f (η) ограничена.
Проверим, что ζ = f (η ) · E(ξ | η) удовлетворяет тождеству ортопроекции: для любой ограниченной g(η) ∈ LE f (η) ξ · g(η) = E ζ · g(η) .Обозначим h(η) = f (η)g(η) ∈ L. Эта функция ограничена, поэтомуE ξ f (η) · g(η) = E ξ h(η) = E bξ h(η) = E ζ · g(η) .Второе равенство верно по тождеству (44) для bξ.С в о й с т в о 17. Пусть f (η) ∈ L и E|f (η)| < ∞. Тогда E f (η) η = f (η) п. н.Д о к а з а т е л ь с т в о.
В предыдущем свойстве возьмём ξ = 1.Полезной оказывается формула последовательного усреднения или полной вероятности, вытекающая из тождества (44) при g(η) = 1.С в о й с т в о 18. E ξ = E E(ξ | η) , т. е. E ξ = Ebξ.Более общий вариант этой формулы выглядит следующим образом.С в о й с т в о 19.
Если E|g(ξ, η)| < ∞, тоh iEg(ξ, η) = E E(g(ξ, y) | η)y=η .С в о й с т в о 20. Если ξ и η независимы, то E(ξ | η) = E ξ.132ГЛАВА XI. ПОСТРОЕНИЕ ЭФФЕКТИВНЫХ ОЦЕНОКВычисление УМО. Поскольку мы не особенно различаем случайныевеличины, совпадающие п. н., полезно явным образом предъявить хотябы одну функцию h(y) такую, что E(ξ | η) = h(η) п. н.Можно в качестве такой функции взять h(y) = E(ξ | η = y).
Что такое условное математическое ожидание относительно события {η = y}?Ответим на этот вопрос в двух практически значимых случаях: когда случайные величины ξ и η имеют либо дискретные распределения, либо ихсовместное распределение абсолютно непрерывно.В первом случае пусть ξ принимает значения a1 , a2 , . . . , а η —значения b1 , b2 , . . . Тогда h(η) может принимать только значенияh(b1 ), h(b2 ), .
. . , гдеXh(y) =ai P(ξ = ai | η = y).iИначе говоря, при каждом фиксированном y значение h(y) определяетсякак математическое ожидание дискретного распределения со значениямиai и вероятностями P(ξ = ai | η = y). Такое распределение называетсяусловным распределением случайной величины ξ при условии η = y.Во втором случае пусть fξ, η (x, y) — плотность совместного распределения, fη (y) — плотность распределения величины η. Тогда положимZf (x, y)dx.(45)h(y) = x ξ, ηfη (y)RПри фиксированном y число h(y) есть математическое ожидание абсолютно непрерывного распределения с плотностью распределенияf (x | y) =fξ, η (x, y)=fη (y)R fξ, η(x, y) .fξ, η (x, y) dxRТакое распределение называется условным распределением величины ξпри условии η = y, а функция f (x | y) — условной плотностью.Убедимся формально (скажем, в абсолютно непрерывном случае), чтоопределённая выше h(η), где h(y) задаётся формулой (45), удовлетворяет тождеству ортопроекции (44) и, следовательно, является УМО E(ξ | η).Для любой g(η) ∈ L (такой, что соответствующее математическое ожидание существует) левая часть тождества (44) равнаZZE(ξ g(η)) = xg(y)fξ, η (x, y) dx dy.R2133§ 1.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
