Г.И. Ивченко, Ю.И. Медведев, А.В. Чистяков - Сборник задач по математической статистике (1115272), страница 24
Текст из файла (страница 24)
Рассмотреть случай, когда Р; — нормальное распределение йГ(9ь о'), 1 = 1, 2. 5.8*. Предположим, что наблюдается случайная величина Х, распределенная по нормальному закону с неизвестным средним О и известной дисперсией о', множество решений Э= (А, А, А) и функция потерь Е(9, И) задана следующей таблицей: Рассмотрим решающие функции вида (А при х(а, 5.ь(х) = ~А при а(х<Ь, А при х)Ь, где а(0(Ь. Убедиться в том, что функция риска имеет вид Иб бз~:) +Ф( ) прн О(О, 11(0, 6л) = Ф(а/а)+ Ф( — Ь/о) при 0=0, Ф~ — ") +Ф(:) при 0)О, и построить ее график при Ь = — а. 5.9.
Предположим, что В = (О, Ц, В= (с() = !О, 1|и функция потерь имеет вид Е(0, г() = 10 — д1', ал1. Рассмотрим класс решающих функций вида 6(х) = — сспМ (т. е. решение принимается без предварительных наблюдений). Найти в данном классе байесовское решение, соответствующее априорному распределению параметра п(0) = = а, п(1) = 1 — а, а~[О, 11 5.!О*. !) Показать, что для риска баейсовского решения в задаче классификации (см.
п. 4) справедливо представление (ниже для дискретной случайной величины все интегралы заменяются соответствующими суммами) г(6') = ~ гп1п Ь,(х)г1х. ~ <г<л 2) Введем величины /ч = ')гп1п(п,/(х), и!),(х))г)х, ! = гпах1(!'11), 1 = в(п)()!1), Доказать следующие оценки для г(6*): 1Х тахА, < г(6*) "-'! 2; /н, 1 М !<г<,<л В каком случае эти оценки совпадают? У к а з а н и е. Использовать тождество (при доказательстве воспользоваться методом индукции по Ь) Х а; = гпах а;+ Х ппп(аь ваха;). ~=! ~<~<л 1=2 1<' 5.11л (продолжение задачи 5.!О).
Пусть г"(х) — функция распределения г-мерного невырожденного нормального 61(ро1, А) закона, 1= 1, 2. Доказать формулу 1м= к~Ф( — — — =. 1п — "' ) + 7Р г ти л, лр!л,1 + п,а( — — + —.. ! — ). г т~, лат где р = (!~в — 1сп/А '(!~в — !хсе) — расстояние Махаланобиса между распределеииямий((1гч, А) ий((!Р', А). Вывес- 127 ти аналогичную формулу для )м в случае двух пуассоновскнх распределений. 5.12* (продолжение задачи 5.!1).
Построить байесовское и минимаксное решения в задаче классификации с двумя нормальными распределениями, указанными в предыдущей задаче (ср. с задачей 3.52). 6.13*. Пусть Х = (Хь ..., Х„) — выборка из распределения АЯ)сна = (Р(х; О), 0~6), а априорное распределение параметрал.(0)е=Р*. Семейство распределений параметра Р" называется сопряженным к Г(обозначается Р*;3г"), если при Х = х апостериорное распределениеЕ(0)х)е=Р'. Убедиться в справедливости следующих утверждений (ниже х = 3", х,): 1=! 1) р(а,Ь)<ДВ!(т,0), при этом Е(0(х) = (1(а+х, Ь+ + пгп — х); 2) (1(а,Ь)4В((г,О), при этом А(0(х) = !!(а+х, Ь+нг); 3) Г(а,))<3П(0), при этом А(0(х) = Г(,, ь+х); 4) Г(а,)) сопряжено к экспоненциальному распределению с плотностью ((х; О) = Ое о', к»О, при этом ЦО(х) = =Г( 'ь,,)+ ); 5) распределение Парето, задаваемое плотностью п(0) = аа'/О" ~', 0)а (и, а~О), сопряжено к равномерному распределению й(0, О), при этом п(0!х) есть плотность Парето с параметрами (гпах(и, «и ..., х„), а+ и); 6) распределение Дирихле О(а), а = (аь ..., ал), а,'- О, 1 = !,..., М, задаваемое плотностью г(а,)..л'(аю) сопряжено к полиномнальному распределению М(п; 0 = = (Оь ..., Оф, при этом Е(0!й = (Ьь ..., Ьи)) = 0(а+ А); 7) Ф(Н, и ) 4 Ж(0, Ь'), при этом л10(х) = М(пь п(), где Р~ о( 2 + ~)) о! ( 2 + ~) У к а з а н и е.
Плотность любого распределения достаточно вычислить с точностью до нормирующего множителя, поэтому, используя для любой случайной величины $ запись Ц1) = ср(1) и р(1) (здесь постоянная с определяется условием с)р(1)Ж = 1), при нахождении апостериорной плотности я(0(х) = !(х; О) п(0)/1(х) достаточно ограничиться вычислением чнс- 123 лителя п(9) )(х; 8); аналогично следует поступать и при вычислении плотностей л(0) и 1(х; 8). 5.14. Рассматривается задача оценивания неизвестной вероятности «успеха» О по наблюдению числа успехов Х в и испытаниях Бернулли (таким образом, здесь В = Р = = (9, 1)).
Пусть функция потерь имеет вид 0 09 — 0) а априорное распределение параметра О является равномерным на интервале (9, 1). Доказать, что байесовское решение есть 6»(х) = —. Является ли это решение минимаксным? 5.15 (продолжение задачи 5.14).
Найти байсовское решение 6* для случая, когда функция потерь ЦО, и) = = (Ы вЂ” 8)', а априорное распределение Е(9) = Р(а, Ь). При каких значениях параметров а и Ь решение 6» является одновременно мннимаксным? (ср. с задачей 2.5). ! У к а з а н н е. Воспользоваться решением задачи 5.!3 п. 1). 5.16. Рассмотрим задачу точечной оценки скалярного параметра О с позиций теории решений, т. е. когда множество решений Рсовпадает с параметрическим множеством 1» и решение ЫыР— это значение оценки параметра Оя6. Пусть функция потерь имеет вид Ц9 д) = (о — 8)', тогда функция риска !?(О, 6) = Г«(6(Х) — 8) есть среднеквадратическая ошибка оценки 6(Х).
Доказать, что при наблюдении Х = х байссовское решение (байесовская оценка) 6»(х) имеет следующий вид: 6*(х) = Е(0! х) = 18п(8) х)оО, т. е. совпадает с апостериорным средним параметра, а соответствующий риск г(6*) = Е0(0)Х), где 1)(8)х) = Е((8 — 6«(х))')х] =— )(9 — 6*(х)) (8)х)пО есть дисперсия апостериорного распределения параметра, а математическое ожидание вычисляется относительно плотности (или вероятности в дискретном случае) /(х) (предполагается, что все соответствующие моменты существуют). Применить этот результат при решении задачи 5.! 5.
5.17, Пусть испытания Бернулли продолжаются до получения г-го «неуспеха» и Х вЂ” число «успехов» в этих испытаниях. По наблюдению над Х построить байесовскую э — 190 шэ оценку неизвестной вероятности «успехаь О в случае, когда функция потерь Е(6, Н) = (!( — О)', а априорное распределение Е(8) = 6(а,6). У к а з а н и е. Воспользоваться решениями задач 5.16, 5.13 п.
2). 5.18. По выборке Х = (Х!, ..., Х„) из пуассоновского распределения П(0) построить байесовскую оценку для параметра, если функция потерь ЦО, г!) = (и' — 6)~ и апри- орное распределение ЦО) = Г(а, Л); вычислить риск атой оценки и определить оптимальный объем выборки при цене с)0 одного наблюдения (т. е.
минимнзкрующий общие потери г(5*) + сл). 1,, У к а з а н и е. Воспользоваться решениями задач 5,16, 5.13 п. 3) и 1.39 п. 4). 5.19 (продолжение задачи 5.! 8). Убедиться в том, что если функция потерь А(О, !1) = (и' — 0)'/О, то байесовская л оценка при Л+ Х Х;~1 имеет вид б*(Х) = — ', ~Х Х!+Л вЂ” 1) и ее риск г(б*) = ла+ ! 1 У к а з а н и е. При вычислении моментов воспользоваться формулой Г(7+ 1) = ЯГ(Е).
5,20. Рассмотрим задачу оценивання параметра 8 экспоненциального распределения с плотностью 1(х; 0) = = Ое '", х)0, по выборке Х = (Х!,..., Х,). Пусть функция / ! х2 потерь ЦО, и) = ~ — — Н) и априорное распределение ~а ЦО) = Г(а, Л), Л)2. Доказать, что байесовская оценка имеет вид 6*(Х)=,„' 0( ХХ,+1) и ее риск г(Ь*) = (а'(Л+ п — 1)(Л вЂ” 1)(Л+ 2)) '. Убедиться в том, что оптимальное число наблюдений при цене с) 0 одного наблюдения равно л* = ! — Л+! . яс:тк - х ! Указание. Использовать решения задач 5.13 п. 4) и 1.39 и.
2). !за 5.21. Пусть Х = (Х!, ..., Х„) — выборка из распределения Р(0, О), где априорное распределение параметра О есть распределение Парето с параметрами а и а- 2 (см, задачу 5.13 п. 5) . Убедиться в том, что байесовская оценка О имеет вид 6*(х) = л+а шах(а, х<,!), х!.! = !пах х„ л+а — ! !а!а» вычислить ее риск; определить оптимальный объем выборки при цене с)0 одного наблюдения. У к а з а н и е. Использовать решения задач 5.15, 5.13 п.
5) и 1.35. 5.22. Предположим, что по наблюдению Х оценквается параметр О равномерного распределения )г(О,О), когда параметр имеет априорную плотность п(О) = Ое ', О)0. Доказать, что байесовская оценка в случае квадратичной функции потерь имеет вид 6*(Х) = Х + 1, а ее риск г(бл) = У к а з а я и е. Эаписать среднюю апостериорную потерю для решения о в виде интеграла и продифференцировать по и'; использовать формулу для гаммафункции Г(л+ 1) = ~!"е '!!! = л! 5.23л.
Пусть вектор ч = (т!, ..., тл) имеет полиномнальное распределение М(л; О = (О!, -, Ол)) Требуется по наблюдению над ч оценить О, если функция потерь 1.(О, !!) = Х (А — О,)т, г! = (А, ..., А ), в предположении, что априоряое распределение параметра О есть распределение Дирихле В(а) (см, задачу 5.!3 п. 6). Показать, что при т = Ь = (Ь,, ..., Ьл) байесовская оценка 6*(Ь) = (6!(Ь), ..., 6л(Ь )) имеет вид 6,(Ь) = — ', а+а = 1, ..., Ь!, где а = ~; а„а ее риск а' — ~ а'! бэ а(а+ !)(а+ л) У к а з а н и е. Воспользоваться решениями задач 5.13 п. О), 1.52 и следуюшими формулами для моментов распределения 0(а): гз! а,(а, + 1)...(а, + г — 1) а(а+ 1)...(а+ г — 1) 5.24. По выборке Х = (Х,, ..., Х„) из распределения й(О,Ь») построить байесовскую оценку параметра, минимизирующую среднеквадратнческую ошибку, если априорное распределеннех,(0) =»»1(1»,о»); вычислить риск построенной оценки и определить оптимальное число наблюдений при цене с)0 за одно наблюдение.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
