Б.Л. ван дер Варден Математическая статистика (1960) (1186203), страница 36
Текст из файла (страница 36)
1.. апд Бои е !го х1., Соптр1ееепева, Бпп1!ах Воя(опа апд Спв(азад Еавппамоп 1, запйнуа (О Ье 1пд1ап допгпа! о( Ятап), 10 (1930), 305, Гж ГгШ. Опенки неизвещпныл параметров 204 значений мы..., мп случайноп величины и можно вычислить условные вероятности' Р(гг, с) р((и=на>гз(е=г)) (1) з (е) Р(е = 1) и затем определить условное математическое ожидание соз(и)1) как сумму произведений мв и соответствующих условных вероятностен: Я(и~() = ~'маР(ив~1). (2) Если (2) умножить на Р(() и просуммировать по всем значениям 1. принадлежащим некоторому множеству М, то, в силу (1), получим.' ~К (и ~ 1) Р(1) = 2, м, Р((и = ме) Г) (~ е м)). (3) гем й Обратно, если равенство (3) справедливо для любого множества М, то (3) справедливо и для таких множеств, которые состоят лишь из одного значения й Если в этом случае соответствующее равенство разделим на Р(1), то снова получим (2), Предположение о том, что и принимает лишь конечное число значений, не является существенным, Ведь копсчную сумму в правой части (2) можно заменить бесконечным рядом или интегралом точно так же, как мы это делали в ч 3 при определении обычного математического ожидания! Если Р(и ) 1) — функция условного распределения случайной величины и (значение этой функции в любой точке и определяется как условная вероятность события и ( и при условии, что х = 1), то вместо (2) можно на- писать ~,(и ) 1) =- ~а г(Р(и ! С), (4) а вместо (3) ~' Я(те ( 1) Р(Г) = ~ и Р(НЮ), ~езт (5) где М' — случайное событие, которое наступает тогда, когда Т(х) е М.
Правая часть (5) представляет собой интеграл Лебега Символом (и .= иа) и В = с) обозначено событие, являющееся пересечением событии и == пе и е =- г, см. 1 1. Г!оэтому Р(ие, е) = = Р((м = не) Гт и = Г)) — вероятность олноаременного осуществления этих событий. — Приме перев. ' Злесь используется символическое обозначение г а Ы, которое слевует читать так; М прннаплсжит МНожеСтву Мк Случайное событие Ее М наступает тогла п только тоска, когла случайная вели ~ина Е принимает значение, принадлежащее множеству М. — Прим перев. д «0. бвеловние маа«емати««ение ожидания 20б от функции м, определенной на множестве М', по мере р(4) (см, 3 А).
Точно так же левую часть (5) можно понимать как интеграл Лебега по множеству М. Если функцию распределения случайной величины» обозначить Н(1), то (5) можно будет записать в виде равенства ~ ';(м ~ е) е«Н (~) = ~ м р( «л). (6) ~ «о(и ( «) йНЯ = ~ У(х) д(х) а»х. Если й также имеет плотность вероятности Ь(«), то интеграл Стильтьеса в левой части (7) можно заменить обычным интегралом: ~ Я(и ! «) Ь(г) «И = ~У(х) д(х) Нх. Равенство (8) справедливо для любых измеримых множеств М тогда и только тогда, когда оно справедливо для всех интервалов от — до Ь на оси г: ь ~,',(и ! 1) Ь (г) е«г = ~ У(х) д(х) е(х. (9) т«в1 Ь Дифференцированием (9) по верхнему пределу Ь можно найти значения функции Г(8) = Я(и / 8) в тех точках», где 1(в) непрерывна и Ь(~) ф О.
и м До сих пор в качестве функции распределения случайной величины Й мы рассматривали ступенчатую функцию со строго положнтельпымн скачками. Если Ф имеет непрерывную функцию распределения, то определения (1) и (2) оказываются неприменимымн, так как знаменатель в (! ) будет равен нулю. Однако формула (6) всегда сохраняет смысл, н поэтому эту формулу, следуя Колмогорову, можно принять за определение условного математического ожидания (,(и ~ ~). С помощью теоремы Никодима Колмогоров («Основные гюнятия теории вероятностей», 1', 2 4) доказал, что еслиЯисуществует, то всегда найдется такая измеримая функция Г(1) = Я(и ~ г), для которой справедливо равенство (6) прн любом измеримом множестве М на оси й Хотя функция г(~) = со(и ~ в) равенством (6) определяется не однозначно, однако два решения ЯГ) и Г»(Г) уравнения (6) могут отличаться друг от друга лишь на таком множестве точек оси г, которое имеет меру нуль.
Если ш„...,ш„имеют совместную плотность вероятности д(л), то равенство (6) можно записать так: Ге. Г111. Оценки неизвестных параметров вое Покажем теперь, как в некоторых простейших случаях можно вычислить условное математическое ожидание. Пусть, сначала, Ф =х,. Плотность вероятности Л(С) можно найти интегрированием совместной плотности д(С, х, „х„) по хе ° ° . хп. Л(С) = ~ д(С, х.„..., х„) с(хе... сСх„.
(10) Если положим (1(С, хс„..., хп) д(С, хе,..., хп) с(хе... с)хп С,(м 3 С)— д(с хе ° хп) с(хе ° ° . ссхп (11) ) ( (х) д(х) аы с',(и ( г) =— ~ д(х) с(ы (12) где асас — элемент поверхности шара единичного радиуса в п-мерном пространстве и интегрирование в числителе и знаменателе производится по поверхности сферы радиуса г в том же пространстве. Условное математическое ожидание, коль скоро оно определено для всех точек оси С (с точностью до множества точек С меры нуль), обладает следующими свойствами; 1. Я(м — тс / С) = Яи $ С) — С:(тс ! С). 2. Если и равна постоянной с, то С",(и ' С) = о, 3. Если Со(и ) С) равно с~улю для всех С, то С, и = О. 4.
Если тс = д(в), то С,(итс ( С) = С;(и ( С) р(С). Первые три свойства непосредственно следуют из определения. Последнее свойство доказано Колмогоровым («Основные понятия...», стр. 50). $41. Достаточные статистики Вернемся к задаче отыскания наилучшей оценки неизвестного параметра д. Мы снова будем предполагать, что совместная плотность распределения результатов наблюдений х„ ...,х„ имеет внд д(х ) й) = е(С ) д) Л(х), где интегрирование распространяется на все пространство переменных х„., „х„то сразу убеждаемся, что функция (1!) удовлетворяет условию (9). Далее, пусть в = '1'хе, +...
+ х,'н Преобразованием к полярным координатам г, р„..., ср„с этот случай можно свести к предыдущему. Получаем д 41. достаточные сгпатиспшки 207 ~ Н(х) д(х 1 д) ах = ~ Ям ) 1) дН(4), (3) Л1 Ы где Н(4) — функция распределения случайной величины Ф. Докажем теперь теорему: Ксли плотность вероятноспш д(х ~ д) представима в виде (!), пю функцию Сл(и ~ 4) можно определить так, чтобы она не зависела от д. Сначала мы проведем доказательство в предположении, что существует хотя бы одно значение параметра дм такое, что е(1, 'де) ф -,й О для всех й В этом случае, согласно (1), для произвольного д имеем д(х) д) = —,, — е(4)д,) Ь(х) = — '.
д(х)д) е(1)д), е(1,' д) ед, де) о нли, если дробь в правой части обозначить Я((), ( ~д) =Ю(8) ~(*~д) (4) Пусть Я и Я, — символы математических ожиданий, а Н(4) и Н,(4) — функции распределения, соотвезствующие значениям параметра ь н д,. Согласно (3), имеем ~Н(х) д(х)д ) с(х = ~ Яи ! Г) йИ,(8) Лг Л1 ~ Н(х) д(х ! д) г7х = ~ 5(и ! 4) ЙН(4) М Л1 пли, в силу (4), ~ Н(х) (4(1) д(х ! д,) йх = ~~',(и ! 4) ИН(4).
ЗГ Ы Случайная величина 9(Ю) принимает значения (;)(4). Обозначим эту случайную величину буквой ес т1 =. (4(д) = 9[У(х)) = )1(х). (7) где 4 является функцией х, не зависящей от д: ( = У(х). (2) В прежних обозначениях случайная величина Ф = У(х) могла оказаться достаточной оценкой для д. Но так как Ф совсем не обязана быть оценкой для д, то мы Ф назовем досгпаточной статистикой. Мы будем также говорить: статистика Ф = У(х) доститочна длл д, Условное математическое ожидание ~,(и ! 1) случайной величины и = Н(х), как и в ~ 40, определяешься равенством Гл. с'ХХХ. Оценки неизвеенсные нарименсров 208 Рассмотрим условное математическое ожидание произведе- ния иоо = У(х) Р(х) и воспользуемся свойством 4 (Э 40): ~'.:оМ! Х) = Яо(и ! Х) Я(Х), следовательно, по определению Яо(иоо ~ Х), ~У(х) К(х) у(х ~ Во) сХх = ~ск'о(и1Х) ФС)сХХХо(Х).
(8) м м Так как сХ(Х) = Р(х), то левые части (7) и (8) совпадают, и поэтому ) со(и ( Х) сХН(Х) = ~ ~о(и ( Х) ЩХ) сХН (С). и м В частности, при и = 1, согласно (9), получаем ~ ХН(с) = ~фс) ХХХ,(х), (9) (10) где М вЂ” произвольное измеримое множество. Из (10) следует, что для каждой кусочно постоянной функции Х(Х) имеет место равенство Г~(Х) ХН(11 =- Кт а(Х) ХН.(Х). (11) Сравнивая (9) и (12), находим, что ~ Яи ( Х) сХХХ(Х) = ) С,о(и,' Х) сХХХ(Х). (13 м М Следовательно, в правой части (7) Яи ~ Х) можно заменить гп С'.о(и ~ Х) — равенство от этого не нарушится, т. с. при любом о можно считать, что условное матемапическое ожидание 5(и ( Х) Равно Цо(и 1Х), что и тРебовалось Доказать. Для доказательства (11) достаточно М разложить на такие подмножества, где функция Х(Х) постоянна, и к каждому подмножеству применить формулу (1О).
Каждую измеримую функцию можно так аппроксимировать кусочно постоянной функцией, чтабьс их интегралы сколь угодно мало отличались друг от друга. Таким образом, формула (11) справедлива для всех тех измеримых функций, для которых левая часть (! 1) вообще имеет смысл. Если положим Х(Х) = ен (и ~ Х), то получим ') Яо(и ! Х) сХН(Х) = ) Спо(и ! Х) (Х(Х) сХН,(Х). (12,' м и а 41. Дсстатоанае станшстики 209 если е(1! д) обращается и нуль при некоторых значениях 1, зависящих от й, то доказательство этой теоремы становится несколько более трудным. мы предположим, что при всех д функция е(! ~ 9) кусочно пепрерывна по переменкой 1; этого лостаточпо для всех приложений.
Кроме того, предположим, что в точках разрыва е(! ( Ю) = О. Тогда, при каждом д, множество тех точек оси г, гпе е(! ) д) т О, является открытым множеством. Рассмотрим множество В, тех точек 1, в которых е(! (9) = О при всех д. В силу (1), при каждом д вероятность события У е В, равна пулю. На множестве В, условное математическое ожидание можно определить, например, равенством (;(и ~ !) = О; это не повлияет на результат.
Остается исследовать условное математическое ожидание иа множестве С, которое представляет собой дополнение к и~ожсству В,. Для камчой точки 1, принадлежащей множеству С. найдется хотя бы одно значение ь, такое, что е(! ) 9) =,Е- О. Тогла существует также некоторая окрестное;ь В(!) точки ! и во всех точках этойокрестности е(! ( 9) ф О. Таким образом, множество С покрывается открытыми множествами В(!). поэтому из этих впюжеств можно выделить счетное покрытие' В,, В,,... множества С. Пусть, например, множеству В, соответствует значение параметра дп мш>жеству В, соответствует ьа ... и т.