Левин Б.Р. Теоретические основы статистической радиотехники (3-е издание, 1989) (1141996), страница 56
Текст из файла (страница 56)
Плотность этого распределения называют функцией правдоподобия выборки'. Различают два класса функций правдоподобия: параметрический и непараметрический. Функция правдоподобия параметрического класса )ьт(х~й), хенХ", МВ при каждом фиксированном векторе параметров чг представляет известную функцию аргумента х. Априорная неопределенность в этом случае состоит в том, что положение вектора Ю в пространстве параметров В (область параметрической неопределенности) заранее неизвестно.
Для непараметричес~кого класса вид функции правдоподобия не задан. Этот класс включает любые неотрицательные нормированные функции 1)т(х) выборочных значений х, хе:-Х". При аналоговой форме регистрации на пространстве наблюдений задается плотность вероятности меры, абсолютно непрерывной по отношению к другой мере (производная Радона— Никодима) [35]. ' Заметим, что в отличие от первой части, где случайные величины и аргументы соответствующих им функций распределения обозначались разными символами греческими и латинскими, здесь элементы выборки и аргументы соответствующей функции правдоподобии обозначаются одинаковыми символами, что„ однако, не должно служить поводом для отождествления этих величин.
311 (12.2а) где у; — решение принять гипотезу Нь В задачах оценивання параметров пространство решений Г совпадает с пространством параметров П, а элементами множества Г являются оценки неизвестного параметра у=б~в=Г. (12.3б) Как функция 2(х) выборки или как функционал 2(х(Е)] от наблюдаемой реализации решение у является случайной величиной, которую называют статистикой.
Каждое правило выбора решения 6 (алгоритм обработки наблюдаемой реализации с принятием решения) отображает пространство наблюдений Х на пространстве решений Г: а Х вЂ” Г, В задачах проверки гипотез Нп 1=0, т по выборке х размером и каждое правило выбора решения 6 предписывает разделе- 3!2 (12.4) 12.2.3. Априорное распределение неизвестных параметров. В условиях параметрической неопределенности возникает вопрос: какова природа параметра Ф, определяющего семейство функций правдоподобия, является ли этот параметр неизвестной векторной константой или векторной случайной величиной с известной плотностью вероятности ш (Ф), определенной на пространстве параметров В Ответ на этот вопрос также относится к априорным данным и любое из двух предположений о полной неопределенности значения параметра в данном параметрическом пространстве илн о вероятностном распределении параметра на этом пространстве можно принять за основу при построении теории статистических решений.
В задачах проверки гипотез можно за неизвестный параметр принять номер гипотезы. Задавая априорные вероятности гипотез рз=Р(Нз), / О, т, ~„'р~=!, (12.2) С=а введем случайный параметр б, принимающий целочисленные значения от нуля до т, с распределением вероятностей (12.2) и плотностью распределения Ф) = Х д~ 6 (б — !), у=о где 6(х) — дельта-функция.
12.2.4. Пространство решений и правило выбора решения. Каждое решение представляет статистический вывод на основе наблюдений. Множество возможных решений образует пространство решений Г. В задачах проверки гипотез множество à — конечное, состоящее из элементов уяГ, 1=0, ог, (12.3а) нне выборочного пространства Х" на т+1 непересекающихся об- ластей: Хз еи Х", 1 = О, т, () Хз = Х". (12.5а) д-в Если наблюдаемая выборка попала в область Хь то принимается решение у; б: х у,, хекХь у,е=Г, бя0.
(12.5б) Совокупность 0 правил выбора решения представляет всех возможные способы разделения выборочного пространства Х" на ш+ 1 непересекающихся областей. В задачах оценивания по выборке х размером п каждое правило выбора решения устанавливает соответствие между элементами выборочного пространства и пространства решений изоморфному пространству параметров б:х-~Ь, хек Х", Ь ен й, беп,'1), (12.6) В дальнейшем правило выбора решения, т. е.
алгоритм обработки наблюдений с принятием решения, будем кратко называть алгоритмом принятия решения. Аналоговому и дискретному представлениям наблюдений соответствуют аналоговые и дискретные алгоритмы обработки. Последние разделяются иа два вида: дискретно-аналогозые при дискретизации только по времени и цифровые при дискретизации и по времени, и по уровню наблюдаемой реализации случайного процесса. Алгоритм принятия решения может быть одношаговым, когда решение выдается один раз в результате обработки входных данных за весь фиксированный интервал наблюдений.
Он может быть и многошаговым или последовательным, когда длительность интервала наблюдения заранее не фиксируется. Решение может приниматься на любом этапе наблюдения или не выноситься впредь до получения дополнительных данных прн продолжении наблюдения. 12.2.5. Плата за принятие решения. Принятие решения по любому правилу на основе одной реализации наблюдаемого случайного процесса не может быть всегда безошибочным. Так, при проверке гипотез наблюдаемая случайная выборка может попасть в область Хь и будет принято решение уь (см.
(12.5б)), хотя в действительности имеет место гипотеза Нь ~ФА. При формировании оценки д неизвестного параметра Ф по случайной выборке неизбежны случайные ошибки Ф вЂ” Ючьб. Таким образом, принятие решений связано не только с определенными затратами на обработку наблюдений для получения правильных решений, по и с определенными потерями, если решения оказываются ошибочными. Эти затраты и потери можно учесть, вводя априори так называемую функцию потерь, которая каждой паре утверждений истина — принятое решение ставит в соответ- 313 стане неотрицательную величину — плату за принятие решения. Так, в задачах проверки гипотез Нь /=О, т, вводится матрица потерь размером (и+1) Х(гп+1), элемент П,ь)0 которой является платой за решение Ты когда истинной была гипотеза Нь 1, я=О, гп.
В задачах оценивания параметров вводится неотрицательная функция потерь П(Ф, Ф), зависящая от двух переменных: случайной оценки Ф и оцениваемого параметра Ю. 12.2. КРИТЕРИИ КАЧЕСТВА то по определению среднего значения дискретной случайной величины находим выражение среднего риска т щ )с= Х ХП~.Р(Ь ПН). г=о о=о 'Но согласно правилу умножения (см. п, 1.2.2) Р(ТьПН,) =Р(НДР(ть)Н;). (~12 9) .3!4 (12.8) 12.3.1. Предварительные замечания. Статистическому синтезу алгоритма принятия решения всегда предшествует выбор критерия качества алгоритма. Без формулировки критерия качества задача синтеза становится бессодержательной. Синтез оптимального алгоритма всегда связан с нахождением экстремума определенного критерия качества. Алгоритм, оптимальный по данному критерию качества, может оказаться неоптимальным по другому критерию.
Критерий качества используется и для сравнения двух любых алгоритмов, даже неоптимальных, а также оптимального с кваэиоптимальным, полученным эвристически или путем упрощения структуры оптимального алгоритма. Использование того или иного критерия качества алгоритма принятия решения зависит от полноты располагаемых априорных данных. Критерий качества может быть векторным, когда к алгоритму предъявляется несколько требований. Будем рассматривать только скалярные критерии качества. Ограничимся сначала классом дискретно-аналоговых одношаговых алгоритмов принятия решений и проанализируем несколько критериев качества, каждый из которых соответствует определенному набору располагаемых априорных данных.
12.3.2. Критерии качества алгоритма проверки гипотез. С реди- ийй риск. При наличии полного комплекта априорных данных, указанных в 5 12.2, используется критерий среднего риска — среднее значение платы за принятие решения при проверке статистических гипотез. Если выдвигаются и+1 гипотез Нь 1=0,тп, то плата за решение представляет дискретную случайную величину П .с (и+!)о возможными значениЯми Пяь 1, й=О, и, задаваемыми матрицей потерь. Так как Р(П=ПИ) =Р(уьПН,), Используя (12.2) и (12.5б), получаем из (12.9) Р(чдДН ) =Р,Р(х~Хд(НД, (12.10) причем Р(х~Хд!Нт) = ~ %'(х(Н~) дх, (12.11г л где )ь"'(х'!Н!) — функция правдоподобия выборки х при условии, что верна гипотеза Н,.
Из (12.8) — (12.11) следует . Н вЂ” 2' Х Птдрт ) Ю(х(Нт)дх. у-од=о хд А п о с т е р и о р н а я в е р о я т н о с т ь г и п о т е з ы. Если мат- рица потерь априори не задана, то критерием качества алгоритма принятия решения может служить апостериорная вероятность ги- потезы Р(Н;(х) при условии, что наблюдается выборка х. По* формуле Байеса получаем Р(Н~!х)= р;УР(х(Нт) / 2„ртур(х!Н~), !'=О, т.
(12.13) ! к=ь (12.12) Вероятность правильного решения. Другим критерием в условиях априорной неопределенности матрицы потерь является вероятность правильного решения Рьь=Р Ц (ухП Нд) = 2', Рд ) дк'(х(Нд) ах. П2.14), (д=ь д=о хд Вероятность ошибочного решения Рьш=1 Рпр.
(12.14а) Нетрудно убедиться в том, что вероятность ошибки р, совпадает с частным значением среднего риска Н, когда платы удовлетворяют условию П д= 1 — 31д, где б;д — символ Кронекера, 1, я=О, т. Численные значения приведенных критериев качества зависят от принятого правила разбиения выборочного пространства Х на области Х,, 1=0, и, т.
е. от правила выбора решения 6 (алгоритма проверки гипотез). 12.3.3. Критерии качества алгоритма оценивания параметров. Средний риск. Аналогично п.!2.3.2 при наличии полного комплекта априорных данных в задачах оценивания параметров используется критерий среднего риска — среднего значения функции потерь. Если предположить, что оцениваемый параметр представляет векторную случайную величину с известной плотностью вероятности ш (Ф), заданной на пространстве параметров в, то совместная плотность вероятности оцениваемого параметра Ф н выборки х, которая используется для оценки О(х), Я7фЭ, х) = 3!5. =гв(Ф) У(х)О), Фенв'", хенХ". Тогда среднее значение потерь П(Ф(х), 6] как функции от совокупности случайных величин б, Ь(х) Р=т,(П(Ф, Ф))= ) ~П[Ф(х), Ф)1в(6)йу(х)Ю)дббх, (12.15) хл в Апостериорная плотность вероятности.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
