XVIII Волков И.К., Зуев СМ., Цветкова Г.М. Случайные процессы (1081434), страница 44
Текст из файла (страница 44)
Координаты д1 и )1г удовлетворяют системе алгебраических уравнений 363 9 6 Метод макеимальыогп правдоподобия собой Х-мерную функцию плотности вероятностей изучаемого случайного процесса. Ослабим это условие и предположим, что Ю-мерная функция плотности вероятностей рассматриваемого случайного процесса Д~,еа), ~ б Т, задана функцией ~,(у)о), в то время как в действительности она представляет собой функцию Д(у~а). В этом случае полагают и рассматривают функцию квазиправдоподобия 1 Ца)У ) — ~1п~ (ЯТ1л1 еа1ь1) (о) е=1 В качестве оценки вектора ф неизвестных параметров берут кваэиправдоподобную оценку д =агбшахЕ(а)У ), аеВ Это мы уже рассматривали в 9.5: в теореме 9.2 было показано, что при известных предположениях относительно функции плотности вероятностей нормального закона распределения задача оценивания вектора неизвестных параметров Д имеет единственное решение.
В общем случае следует потребовать выполнения неравенства Ю) > 1( ), ~ В~ Ю Так как выборочное среднее является состоятельной оценкой для математического ожидания, то 1ип Х(о)У ) =Х(се), и с учетом предыдущего неравенства можно доказать состоятельность квазиправдоподобной оценки д вектора неизвестных параметров,9. Пусть Ф(у)а) =1п~,(у(а), 364 9. ЭЛЕМЕНТЫ СТАТИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ где о Е В и у б 1' = (у Е И"~: У.(у)а) Д4(у)о) > 0). Предположим, что выполнены следующие условия.
1. Прн каждом о б В и у Е У существуют все частные производные для функции Ф(у)а) по компонентам вектора о до третьего порядка включительно и А( о)4 В( о)4 2. ПрилюбыхоЕВиуЕУ 1<Ь(у), 1,),/с=1,Ь, дзф(„~ дондо„доь1 причем Ь(у) Д4(у~о) ау (М С оо(М > 0). у 3. При каждом о Е В А (у ) а) ~~ (у ~ о) ау = 9. у 4. При каждом а Е В существуют матрицы Г(о) = — В(у) а) ~~(у) а) йу, Е(о) 4 А (у)о)А(у)о)Яу)о)йу, у причем матрица Г(а) положительно определена.
Теорема 9.4. Если выполнены условия 1 — 4, то квазиправдоподобная оценка д сходится по вероятности к истинному значению неизвестного вектора параметров и является асимптотически несмещенной и асимптотически нормальной оценкой с новариационной .:натрицей — Г ' (д) Е(р) Г 1(,9). 365 9.6. Метод максимального ираадоиодобид Доказательство этой теоремы также можно найти в литературе по математической статистике". Не приводя его, поясним теорему на конкретном примере. Пример 9.6. Рассмотрим скалярный случайный процесс с(с,ен), ~ Е Т = [О,оо), определяемый стохастической моделью состояния в форме Ито дЯЬ, й) = (13з — (А — 9,54)6~,ш)) й+ + 11з~(1,ш) дш(~,ш), (9.45) с(О,ш) = хо, где ев(1,ен), 1 Е Т, — скалярный винеровский процесс с коэффициентом диффузии аз = 1; хо > Π— известное начальное т состоЯние, а 1У = (1У1 сэр дз) — вектоР неизвестных паРаметРов с положительными компонентами.
При 1Уз = О получаем стохастическую модель состояния, рассмотренную в примере 9.5. Однако при 1Уз > О записать Ю-мерную функцию плотности вероятностей изучаемого случайного процесса, как это было сделано в примере 9.5, не удается. Действительно, пусть о(й,ео) = 1пс(й,ш), й Е Т. В этом случае по правилу дифференцирования Игао получаем < дп(с, ) = ~ ~' — (у,) дг+(у,дш(1, ), с(е,ео) 72(О,ен)— : 1п хо, где ву(1,ш), й й Т, — исходный случайный процесс.
Поскольку мы не можем определить Л-мерную функцию плотности вероятностей случайного процесса п(1,со), 1 Е Т, то для решения задачи оценивания неизвестных параметров модели (9.45) по данным наблюдений мы не можем использовать 'Смл Мудрев В.И., Кушко В.л. 366 9. ЭЛЕМЕНТЫ СТАТИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ Н ЦД!1тмн) =~~~ — ~~~ 1п~н1Я1„ыи1) )т(1,)13),Р(1,(13)). 3=1 ~ ге го> Если для упрощения записи ввести обозначение г-1 Ь а % ТИ~ х' =~(гг,~г10), г'= 1,.У, 3 б гц = ( г ть+л), '„ л=г и подставить выражение для функции плотности вероятностей нормального закона распределения, то получим Н Ц13 ~ 13мн) = — 0,53Ч!п(2х) — — ~~> 1и Р(С3~ 13)— 2 3=1 1 1 (х' — т(1 !ф)) ~его~ В соответствии с результатами, приведенными в Т.2, функции т(~)13) и Р(1)й) являются решениями следующих задач Коши: й ~2 ') т(0),3) = хе, (9.47) 2(3г „3,)Р(1~ 3)+„Зг г( ~ 3) 1РЯЯ Р(оу) = 0.
(9.48) метод максимального правдоподобия. Для определенности будем считать, что располагаем данными наблюдений, представленными множеством 1Тмн. Получим квазиправдоподобные оценки неизвестных параметров модели (9.45), представленные вектором,3. Так как в рассматриваемом случае данные наблюдений представлены множеством УмВ и определены согласно (9.4), то функция квазиправдоподобия имеет вид 367 9.7.Метод мвименьшихквадратов 9,7.
Метод наименьших квадратов Рассмотрим случай, когда данные наблюдений представлены множеством Гмв», а математическое ог»гадание т(»)а) и новариационная матрица Е(» ~ о) изучаемого и-мерного случайного процесса Я»,ог), » Е Т, зависящего от Ь-мерного вектора неизвестных параметров»1 Е В, разделяют томки В на множестве Т»»ч1 — — (» ), с Т, Будем считать, что отсутству»ч ет априорная информация относительно одномерной»пункции плотности вероятностей»»(х)»;,3). В этом случае, согласно теореме 9.2, при решении задачи оцениванил вектора неизвестных параметров Д Е В случайного процесса с(»,м), » Е Т, можно использовать плотность нормального распределения. Действительно, согласно теореме 9.2, шах1(о) = 1(»3), (9.49) Нетрудно убедиться в том, что при Ю > 3 функции т(у~»1) и В(у~»1) разделяют точки области изменения параметров на множестве Т»»»1 — — (» )~,.
Поэтому задача оценивания имеет 3 гю!' т единственное решение»1 = (»1»»1г»1з), представляющее собой квазиправдоподобную оценку вектора неизвестных параметров »1. Эта оценка обладает всеми свойствами, перечисленными в теореме 9.4, поскольку выбранная для решения задачи гауссова функция плотности вероятностей удовлетворяет условиям данной теоремы. Заметим, что решения задач Коши (9.47), (9.48) можно записать в явном виде и подставить в правую часть (9.46). Однако сложность получаемых зависимостей не позволяет в явном виде записать координаты точки максимума для функции Х(19) Ум»я), как это было сделано в примере 9.5.
Поэтому в данном случае квазиправдоподобную оценку находят с помощью численных методов решения экстремальных задач (Х1У). 368 9. ЭЛЕМЕНТЫ СТАТИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ где 1(а) А ~ М~1п~н(~(Г,,ь) ) т(Г,,ь),Е(Г,,ь»))). Заменив математическое ожидание его оценкой, приходим к функции, аналогичной функции накеимавьного праедоподобил (9.36): Ца!сгм»»г) = »,— ~~» 1п|нЯу, 1»1) $т(1,1а),Е(Гг|а)). 3=1»егя Так как 1пгн(х / т(Г!а),Е(г/а)) = — — п!п(2к) — — 1п(оеСЕ(Г/а))— 1 1 2 2 — -'(.--М-))'Е-'(г)-) (*-т( ~-)), то точки максимума функции Ца ~ Гм1»г) совпадагот с точками минимума функции Е(а ~ ГМ1»г) 4 — 2Ца ) 1гмгг) — п)У! п(2к) = 1»г »»г = ~1п(ое1Е(г;)а))+~> — ~» (с(»;,ь»61) — т(г»а)) х 1=1 ' »иЦ11 х Е 1(г, $а) (4(г,,ь»61) — т(г,) а)).
Согласно теореме 9.2 и результатам, приведенным в 9.6, кеазипраедоподобная оценке вектора неизвестных параметров ,У Е В равна ,Зм = агбтахЦа) сгм»»г) = аг6»п1пг".(а) 1гм1»г). иев ев Если ковариационная матрица изучаемого случайного процесса известна и не зависит от вектора неизвестных параметров, т.е. Е(г ! а): — Е(г) при а 6 В и г к Т11»»1, то в этом случае Зб9 9.
7. Метод наименьших кеадротоо сумма ) 1п(г1е»Е1г !о)) зем не зависит от а и для решения исходной задачи оценивании можно использовать функцию 1 т Ф(о ~ Умьг) Ь ~~» — ~~» фг„ьэ10) — т(~, ) о)) х 2=» 1ет(11 х Е '(11) ф1э,ь»01) — т(гэ)о)), (9.50) где Е1г,), » = 1, Ю, — известные квадратные матрицы порядка п. Функцию Ф(о) Умч) называют критперием мегпода наименьших квадратов, оценку ДМ = агбпйп Ф(о ~ ь»МГГ) оеВ (9.51) оценкой наименьших квадрагпов для вектора Д, а рассмотренный метод решения задачи оценивания — мегподом наименьтиих квадро»нов. Известные матрицы Е(ь ), 1 = 1, Дг, называют весовыми матрицами критерия.
Поскольку (9.51) в данном случае эквивалентно (9.37), то оценка наименьших квадратов обладает всеми свойствами квазиправдоподобной оценки, т.е. она является состоягпельной, асимпто»пически несмещенной и асимптотически нормальной. Заметим также, что в случае, когда изучаемый случайный процесс является гауссовым, она представляет собой оценку максимального правдоподобия и, как следствие, является еще и асимптотически эйэй»ективной. Отметим, что метод наименьших квадратов позволяет оценивать только те параметры изучаемого случайного процесса, от которых зависит его математическое ожидание, и лишь при условии, что оно определено на множестве Т~к1 единственным 370 н элементы стАтистики слУчАЙных пРОцессОВ образом.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
