XVIII Волков И.К., Зуев СМ., Цветкова Г.М. Случайные процессы (1081434), страница 41
Текст из файла (страница 41)
Эти требования хорошо известны из курса математической статистики [ХЧП). Во-первых, это требование, чтобы оценка была неснец!енной: М[!3к( и=!3 Во-вторых, это требование, чтобы оценка была состояпзельной, т.е. для любого числа с > О !пп Р([[!3к(ь~) — Я >с) =О. Это требование означает, что при неограниченном увеличении объема случайной выборки оценка !3к(м) сходится по еероягнмости к истинному значению вектора параметров !3. Заметим, что оценка,За-(ы) является состоятельной, если !пп О[!3к(о~)] = !пп М[(!3к(со) — Я Як(оэ) — !3)~ = О.
Наконец, втретьих, это требование, чтобы оценка была эффективной, т.е. чтобы зта оценка как Ь-мерный случайный 338 9. ЭЛЕМЕНТЫ СТАТИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ вектор, имела минимальный разброс относительно истинного значения вектора параметров 11, или минимальную дисперсию. Если первые два требования понятны, то понятие эффективности оценки требует разъяснений. 9.4.
Эффективные оценки. Неравенство Рао — Крамера При изучении свойств оценок и методов их определения будем использовать амуницию плотности вероятностей случайной выборки объема К для п-мерного случайноео процесса Д~,м), ~ б Т, зависящего от 1 мерного вектора неизвестных параметров Д б В. В соответствии с (9.13) эту случайную выборку обозначим через е(ы), а ее функцию плотности вероятностей через Дуф). Выясням, что представляют собой случайные выборки и их функцив плотности вероятностеи, соответствующие рассмотренным вариантам данных наблюдений, Пусть Д(Х(й)~,3) — й-мерная функция плотности вероят настей случайного процесса Д1,м), 8 б Т: ~а(Х(й) ~)1) = Д(х(ц,...,хр)~~1ы",ЫЗ), где Х(й) б уь"~.
Будем предполагать существование и ограниченность частной производной (") ~) (9.15) дД рассмотрим множество реализаций изучаемого случайноео процесса, определенных в (9.2), (9.1): = Й(~~) ь(ь~))ь=1 ДТ1ьры1ь1) = 1с(с,м~ь)): с б Т~ц), Т~ь) = (4,),, в Ф(ь) Вследствие независи,ности этих реализаций данным наблюдений соответствует случайная выборка е(м) объема К = т, /с-й пА.
Эффективные оценки. Неравенство Роо — Крамера 339 блок которой ч(о)(~И т~о) ч1я)(1яз,ы) ~<в)(~о) = 6(о)(1ВМ(о) ~ы) нредставляет собой случайный веатнор размерности пМ(й) с функцией плотности вероятностей Д(Х(Ф(/с))~)1). При этом тр(я)(1,ы), $ 6 Т, Й = 1,ш — независимые и-мерные случайные процессы, имеющие те же конечно:.верные законы распределения, что и исходный случайный процесс. Поэтому функция плотности вероятностей рассматриваемой случайной выборки объема ш имеет вид яз у(ур) = П А(х()у(й)) ~Ф). Вм1 (9.16) Если данные наблюдений представляют собой множество Цу, определяемое согласно (9.3): (9.17) Для множества независимых значений Ц~у, определяемого равенствами (9.4): ЕУыу = (с(1,4а>р) ): 1 6 Т11), $ с 1(7),.7 = 11 )ч ) > р-~ Т(о) = Щ, 1(У) = (~пав,+1~ ом1 то К = М и в силу независимостпи значений случайного про- цесса в этом множестве ему соответствует случайяая выборка объема М с функцией плотности вероятностей 340 в злел4енты стАтистики случАЙных ИРОцессОВ функция плотности вероятностей соответствующей случайной выборки объема л) имеет вид (9.18) з=1 ~еЦз1 пусть теперь )3к((о) — оценка вектора неизвестных параметров Д, полученнэл на основе случайной выборки е((о) объема К для п-мерного случайного процесса ~(г,(о), ~ Е Т, зависящего от Ь-мерного вектора Д.
Обозначим через йк(Д) смеяцение оценки )Зк((о)( где в правой части равенства находится пК-кратный интеграл, а область интегрирования имеет вид У = (у Е И": ~(у))8) > О). Смещение оценки зависит от вектора параметров 11, поскольку оценка ДК((о) определена по данным случайной выборки с функцией плотности вероятностей Ду()9). Известно, что неравенство называемое неравенством Рао — Крамера, определяет нижнюю границу для дисперсии оценок вектора параметров.
Это матричное неравенство понимают как поэлементное неравенство. Здесь 6) (Д) Е Мь(К) — производная смещения оценки 9.4. Эффективные оценки. Неравенства рао — Крамера 341 йк(11) по вектору параметров д; 1ь Е Мь(К) — единичная ма- трица; А(13) — инфораеационная .матрица Фишера: А( -,[~д ~(( )М) ~д И ( ) Д ~~ ( УЬ1 )) ( Х(9~11)) е( ) 1)1, (9 21) еа д13 д11 У е(ы) — случайная выборка объема К для и-мерного случайного процесса ч(1,~о), 1 6 Т, зависящего от Е;мерного вектора д.
Случайная выборка е(ш) определена равенством (9.13) и имеет функцию плотности вероятностей Ду~11). Согласно (9.14) — (9.18), информационная матрица Фишера определена для любого Д Е В. Если непавенство Рао — Крамера переходит в равенство, то оценка,зк(ш) является э4фективной оценкой вектора параметров,9. Для уяснения смысла неравенства Рао — Крамера ограничимся анализом скалярного случая, когда д Е Ж и 1, = 1, а неравенство (9.20) имеет вид Р ~ЗК(со)1 = М~(11К(ы) — д)~1 ) (9 22) (1+ кк(11)) А(Д) где А(а~=м~( " ~*~ ~) 1=1 ( " " ~) ло!а)м. (9.23) У Величина А(13) служит мерой информации, содержащейся в случайной выборке, и ее называют количеством информации по Фишеру. Согласно неравенству (9.22), чем больше А(Д), тем меньше дисперсия.
Вопрос лишь в том, удается ли использовать зту информацию полностью, чтобы получить оценку с минимально возможной дисперсией. 342 9. ЭЛЕМЕНТЫ СТАТИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ 1пУ(у]д) =~ 1пл(Х()Ч(й)))д). а=1 Учитывал независимость реалнзацяй н (9.23), находим А)А)=М (1 )~ )]= д,д Г.
Г)А>"А))) >) ))А))'] дд Так как количество ияформации по Фяшеру, содержащеесл в й-й выборочной реализации, равно ~ М~(~~в~'(41')(~) ]д) дд (9.24) то общее количество информация, содержащееси в случайной выборке, соответствующей множеству с)', равно ИА А()6) = ~ Аь()9). АМ1 В частности, если Т(» — — Т(з) = ...
= Т(„,1, то А()6) = юиА1(д). (9.26) Таким образом, учнтыван (9.22)-(9.26), заключаем, что длл случайной выборки, соответствующей давным наблюдений, представленным множеством с)', неравенство Рао — Крамера имеет вид Определим количество янформации по Фишеру, содержашеесл в случайяой выборке, соответствукнцей множеству (А',„, длл чего восцользуемсл равенством (9.16): 9 е Эффектнвнме оценки Неравенство Рао — Крамера 343 В частности, пРи 7 П1 = г 1г1 = ... = Т1о,) Ямеем тА (д) (1+Ь' (д))' А(д)=М ~~ ~ д1пЯс91(ы) ~1,;ф)~г~ дд ~=г юеу(г) ГкВ у(а(;)~ )~ь'а)') 1=1 д Таким образом, если ~(а аа(-,)~ и~„д)) ~ дд то колячество информация в момент времени 1=1 равно т,а (д) я А(д) = ~~1 тгаг(д).
гмг (9.28) В соответствии с (9.22), (9.23), (9.27), (9.28) имеем Полученные неравенства наглядно показывают, что с увеличением объема выборки теоретическя можно строить оценки где Ьк(Д) — смещение оценки 1Ук(ы), определенное в (9.19), и К = т. Для случайной выборки, соответствующей данным наблюдений, представленным множеством 11ыщ, с учетом (9.17) получаем аналогичное соотношение: 344 9. ЭЛЕМЕНТЫ СТАТИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ неизвестного параметра Д со сколь угодно малой дисперсией. При этом, однако, следует учитывать, что мы имеем дело не с выборочными значениями случайной величины, а с выборочными реализациями случайного процесса.
Специфическая особенность последних состоит в том, что задача оценивания параметров случайного процесса требует исследования единственности ее решения. 9.5. Единственность решения задачи оценивания параметров случайного процесса Анализ единственности решения задачи оценивания параметров случайноео процесса по данным наблюдений начнем с примера. Пример 0.4. Рассмотрим скалярный случайный процесс ((1,ы) =Ае ~" +,Вз+ Я,ц(г,ы), ~ е Т= [0,1.), где ц(1,м), 1 е Т, — стационарный еауссовский случайный процесс с нулевым математическим ожиданием и ковариационной -я2И функцией Кч(т) = е ~'~, о — известный параметр, а бь Дз, Дз, Д вЂ” неизвестные положительные параметры.
В данном случае вектор Д неизвестных параметров образован четырьмя компонентами Д: ф=(А А дз Р4) При ~ кТ имеем г( [,) т~(1[/у) = ~31е ' +~Зз, а случайный процесс С(1,и~), 1 е Т, представляет собой скалярный гауссовский процесс. Предположим, что для оценивания вектора ф е й~ мы располагаем данными наблюдений, представленными множеством ПМк, где Х = 2, т.е. наблюдения проводились лишь в моменты времени 1 = 11 и 1 = ~з из Т.
Поскольку изучаемый случайный процесс является гауссовским, то его одномерные функции плотности вероятностей 9.Л. Единственность решения эадачи оценнвания параметров 345 ДС(х ~ С1,13) и ДС(х(С2. .13) полностью определены его математическим ожиданием и дисперсией, которые по условиям испытаний можно оценить с использованием стандартных формул (9.6), (9.7) с учетом того, что М = т1+ тз, т1 > 1, тз > 1. Таким образом, М йьС(С2) = — ~~', 612 о111) 1=ни+1 оь~ тС(С1) = — ~) ~(С1,ьо1,1), т1 ПЪ ~ 1т< (С1) = ~~1 ф(С1,о1(11) — тС(С1)), 1=1 М ОС(С2) = ~~1 (ч(Сг,ы1;1) — тС(С2)) .
~=о~д+1 Оценку параметра 134 можно строить на двух очевидных равенствах: 134 = оС (С1) ~ 134 = оС (С2). В качестве реализации такой оценки используем функцию (ХИ1) 134 ОС(С!) + РС (С2) ° А ехр( —,дгСа) + СУз = тС(Са), /с = 1, 2.
(9.29) Эта система состоит из двух уравнений и содержит три неиз- вестных параметра, т.е. имеет бесчисленное множество реше- ний. Для построения оценок оставшихся неизвестных параметров мы не располагаем никакими данными, кроме оценок математического ожидания тС(С1) и тС(С2), используя которые можно записать систему нелинейных алгебраических уравнений относительно оценок 131, 132, 132 неизвестных параметров 131, 132, Дз соответственно: баб ~ ЗЛЕМЕНТЫ СТА ТИСТИКИ СЛУЧАЙНЫХ ПРОЦЕСССБ Таким образом, по данным наблюдении, представленным множеством См~д с Х = 2, задача оценивания неизвестных параметров изучаемого случайного процесса с,(1,со), 1 е Т, решается неоднозначно не зависимо от того, сколько произведено измерений в моменты времени ~1 и 1з.
Если Ж > 2 и система (Я.29) имеет решение, удовлетворяющее условиям положительности своих компонент, то это решение единственно. Заметим, что рассматриваемый скалярный случайный процвсс при с — ~ +ос становится стационарным случайным процессом с математическим ожиданием 4з и дисперсией Дв.
Пусть 'е"ерь Т = [О,оо) и 1в Е Т вЂ” момент времени, начиная с которого исходный случайный процесс С(с.со), 1 Е Т, можно считать стационарным. Если 1е б Т принять за начало наблюдений, то параметры д1 и Дз оценить невозможно, как бы мы ни выбиоэли моменты измерений ~, > 1о, и сколько бы измерений ни проводилось в эти моменты времени, поскольку стационарные и-менения состояния не зависят от значений параметров Д, )эз и 9г, ) =Из+ IР,П(~ ) ~>се. 4А Для того чтобы сформулировать условие единственности р щения задачи оценивания неизвестных параметров случайного процесса по данным наблюдений, напомним, что любой сяучайный процесс в общем случае не является полностью определенным и при решении различных задач как теоретического, т к и прикладного характера исследователь вынужден ограничиваться использованием конеиномерных законов распределений.
Совокупность конечномерных законов распределений является более или менее полной характеристикой случайногс процесса. При этом, если С(~,св), ~ б Т = [а, Ц, — п-мерный случайный процесс, зависящий от Ь-мерного вектора неизвестных параметров )3, а Тск) = [1~ф С Т, то Ж-мерная функция плотности вероятностей 9.а Едиистиеииость решаииа задачи оиеииваииа па(заиетооа 347 содержит исчерпывающую информацию об исходном случайном процессе на множестве Т«и р Определение 9.1.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
