В.И.Тихонов Статистическая радиотехника (2-е издание, 1982) (1092037), страница 14
Текст из файла (страница 14)
Из (42) и (43) непосредственно видно, что если совместно гауссовские случайные величины $ „не коррелированы (отличны от нуля только корреляционные моменты Р „ чь О), то они и независимы. В данном. случае совместная плотность вероятности (характеристическая функция) равна произведению плотностей вероятностей (1) (характеристических функций (2)) каждой из случайных величин. Отметим адно карактерное свойство совместно гауссовских случайных величин. Пусть, например, имеются три совместно гауссовские случайные величины йт, да, да такие, что $, не ааввсвт от ва и $4 не вависит от ва: (хт, ха) = д (хО Р (ха), Рх (ха, ха] Р (хх)Р (ха). Воспользовавшись формулой (43), нетрудно убедиться, что для таких случайных величин всегда справедливо равенство ра (хт, х, ха) ра (х„х,)р (х,), (1.4.44) которое можно распространить на большее число совместно гауссовских случайвых величин.
Однако такое равенство нельзя записать в общем случае для негауссовсквх случайных величин. Применив формулу (1.3.57) к совместно гауссовским случайным величинам с характеристической функцией (43), можно показать, что все многомерные центральные моменты нечетного порядка равны нулю, а четного порядка выражаются через произведения корреляционных моментов: р,„+,— М ((йг-тг)...
($а„+т-та„„)) =О, Реп= ~чР, П М(Я~,— ти)К,— тт)) = аса пары Иаат — М ((сп — т,)(й,— тт)) М (($а — ть) Д~ — т~))... (1.4.45 асс пары ... М ((с — тр)($д — тд)ттр~,' Хаак Р та д Здесь суммирование производится по всем возможным способам, которыми можно разбить 2п точек на а парных комбинаций. Общее число членов суммы равно 2п(/2пп1 = 1 ° 3 5... (2и — 1). В частности, для четырех совместно гауссовских случайных величин $х, $„$4 и $4 получим М (РДДР) = М ($Да) М (3Д4) + М (545а) М ДДД + + М (йтса) М (йДа) — 2т,т т,та, (1.4.46) М (Ц йя) = М ((йт — т,)' (йх — т,)') + 4т, т, М ((Ът — т,) (се — т,Д+ та)та(ха 74 Покажем, что оптимальной оценкой (по критерию минимума среднего квадрата ошибки) одной из совместно гауссовских алучайных величин в зависимости от остальных является линейная оценка.
Пусть требуется найти такую оценку $„случайной величины 5„ в виде некоторой функции д ($„$м ..., $„,) от остальных случайных величин, чтобы средний квадрат ошибки аР М (($ $а) ) = М Яп д($м $м- ~ $ -1)2) (1.4 47) был минимален. Повторив рассуждения, приведшие к формуле (1.3.67), получим, что оптимальной оценкой является условноематематическоеожиданив й.=а($м 5..-., 1. 1)=М(~.Б., $.,-..5..)= ( х„р(х„!х„..., х„,)дх„= = ~ х„р„(хм..., х„) Нх„/р„,(хо..., х„,). (1.4.48) Допустим ради простоты, что математические ожидания рассматриваемых случайных величин равны нулю: М(я;)=О, 1=1, 2,..., и. (1.4.49) Определим и — 1 постоянных Ь„..., Ь„, так, чтобы выполнялись равенства М (!$„— (Ь1$~+ ...+Ь,,К„,)14Д=О, 1= 1, 2,..., и — 1.
(1.4,50) Сохранив для корреляционных моментов прежнее обозначение )г „, = М Д„Д,) и полагая в (50) ( = 1, и — 1, для определения коэффициентов Ь; получим систему и — 1 линейных алгебраических уравнений 17и Ь1+ )7м "2+ "" + ) '„м; Ь„, = 7(„ь 1 = 1, и — 1. (1,4 51) Если детерминант этой системы отличен от нуля, то система имеет однозначное решение.
Докажем теперь, что при таком подборе коэффициентов Ь,,справедливо равенство М (~„! $м..., $„— 1) = Ь1 41+" + Ьп-~ $а-г (1.4.52) Действительно, случайные величвны $„— (Ь14, + ... + Ь„1с ~), $„$м ..., $„, (как линейная комбинация совместно гауссовских случайных величин) являются совместно гауссовскими. По определению (1.3.76) первая из этих величин ортогоиальна со всеми остальными, поскольку выполняются равенства (50).
Однако при условии (49) ортогональность эквивалентна некоррелированности. Но для совместно гауссовских случайных величин из некоррелироваиности следует их независимость. Поэтому случайная ошибка я„— (ЬД, + ... + Ь„т $„,) 75 не зависит от совокупности случайных величин $о $м ..., Р„ Следовательно, м (5„— (Ь,$,+...+Ь„,$„,) [~„..., й„,) = М (ь — (Ьт й+ ... + Ь„, ~„,)) =.
6, М($„— (Ь $,+...+Ь ~$, ~)[$~„,$. 1)= =М(й„Д„..., 5„,) — М(Ь,~,+...+Ь„,й„,[5„...,5„,,). Так как м(ьд+ ...+Ь„,[[,,[1„.... 1„,) =ь,~,+ ...+ь„,~„„ то предыдущее равенство переходит в (52). Таким образом доказано, что наилучшей оценкой одной из совместно гауссовских случайных величин через другие является линейная оценка. Заметим, что в рассматриваемом случае условная дисперсия М ([ф~ — (Ьг$з+- + Ьп-1 Вп-1))'! Вм" в Ви-1) (1 4 53) равна минимуму среднего квадрата ошибки линейной оценки зД,ы=м([$„— (Ь1$г+...+Ь~,Ца х))э)= — Вь [ь ...,з . (1.4,54) Это следует из того, что случайная ошибка $„— (ЬД, + ...
+ + Ьа т $„,) не зависит от $м ..., $„,. Полученные выше результаты (52) и (54), относящиеся к совмест- но гауссовским случайным величинам, можно сформулировать в виде общего принципа ортогональности, справедливого для оптимальной ли- нейной оценки любых случайных величин. Постоянные Ьо 1 = 1, и — 1, минимизирующие средний квадрат ошибки линейной оценки а'=М([$„— (Ь,1,+...+Ье т$„,Н'), (1.4.55) определяются из условия, что случайная ошибка $„— (ЬД, + ...
+ + Ь„Д„,) должна быть ортогональна со случайными величинами $1, "° $в-1: м ([й» вЂ” (Ь, Ц+ ... + Ьп-1 Вн-1)) БД = О, 1=1,2,..., п — 1. (1.4.56) При этом минимальное значение среднего квадрата ошибки равно з' ы = М ([$„— (Ь, в, + ... + Ь„, В„,)) К„) = Йпп (Ь1111и+" + Ьи-1 )~~а-1,за)ю (1.4.57) где коэффициенты Ь, являются решением системы линейных уравнений (56). Заметим, что если в нашем распоряжении нет никаких данных относительно случайной величины $„, то, как указывалось на а. 49, наилучшей оценкой ее является математическое ожидание, которое было принято равным нулю. При этом средний квадрат ошибки оценки равен дисперсии Вз = )т„„= М ($й). При наличии наблюдений ($„..., $„,) средний квадрат ошибки оценки уменьшается иа величину ЬД,„+ ... + Ь„, Я„м„.
Очевидно, что если эта величина мала по сравненвю с Я„„, то можно не учитывать результаты наблюдения и принять за оценку случайной величины ее математическое ожидание. тв Если результаты наблюдения ($„..., $„,) ортогональиы с й„то К„= О и Ь, = О. Если отдельные наблюдення ортогональны между собой, т. е. Яы — — О при 1чь ) = 1, 2, ..., п — 1, то Ьг — — !сг„))сы. В общем случае увеличение объема располагаемых данных о случайной величине повышает точность ее оценки (уменьшает ошибку е). Однако если новые данные ортогональиы $„— (ЬД, + ...
+ Ь„тХ х $„,), то наилучшей оценкой по-прежнему будет $„— (ЬД, + ...+ + Ь„", $„,). В том случае, когда условие (49) не выполняется, т. е. М Д,) ~ О, оптимальную оценку следует искать в виде $„= М Д„~ ~„..., В„,) = Ь, + ЬД, + ... + Ь„, ~„„ где постоянные коэффициенты Ь„Ьы ..., Ь„, определяются из условия ортогоиальности (56) и равенства нулю математического ожидания ошибки: М (Вп — (Ье + ЬЛ, + ... + Ьп хВп,)) = О. Полученными результатами можно воспользоваться для нахождения условных плотностей вероятностей р(х„..., хд(хд+„..., х„) р„(х„...,х„)7рп д (хд+ы..., х„) (1.458) совместно гауссовских случайных величин $ы ..., $„. В правой части этого выражения стоят нормальные плотности вероятности.
Они представляют собой экспоненциальные функции, показатели которых есть квадратичные многочлены относительно хь Поэтому их отношение будет также экспоненциальиой функцией, показатель которой является полиномом второй степени относительно х„..., хд. Следовательно, условные плотности вероятности совместно гауссовских случайных величин являются нормальными. Оии полностью определяются й+ + (1/2) й (й + 1) параметрами М (9 и ! хд+„..., х„), М (Ц пй, ~ хд .„ .„,х„),)г,о=1, ..., А.
Ясно, что эти параметры зависят от хдч.„...,х„. Покажем на частных примерах, что эти параметры можно сравнительно просто определить при помощи полученных выше формул. Пример !.4.1. Пусть требуется найти условную плотность вероятности 'р (хе ! хь х ) совместно гауссовских случайных величин $ь $е, се с нулевыми мвтемвтическнми ожиданиями. По формуле (52) имеем М (4)йь $в) = Ьгйт + Ьвйя.
Согласно (5!) постоянные Ь! и Ье находятся иэ решения системы двух линейных уравнений р ьлглеь =гт,г ьт+г ь =л Условную дисперсию вычисляем в соответствии с (54) и (57): Од „„=;„„=йев — Ь,йгь — Ь,й Таким обрезом, 1 (хе — Ьг хт — Ье хе) (1,4.59) Пример 1.4.2. Вычислим условную плотность вероятности р [хт, хе ! х,) трех совместно гауссовских случайных величин $т, $ь, аа. Как укааывалось выше, плотность вероятности р (х, ха)хт) есть нормальная плотность вероятности относительно двух случайных величин Ет и $а, она определяется пятью параметрами. Соглаено (1.3.68) и (!.3.70) находим М (1,11т) = —" 1„М (1,12т) = —" 1т. (1.4.60) ргт р»т На основании (64) и (67) определяем условные дисперсии ~1»1И й»»-/11»//1М» О(„Н =/1»» — /11 /Ргт Остается покавать, что условный иорреляпнонный момент М ((1» $г)~$а Ет) ~ Ь(=»»»в» (1 4.62) Действительно, елучайные величины ьв — (ггтвИП)31 и 5а — (Юга/А»11)$т не коррелированы е 5Р Поскольку они совместно гауссовские, то первые две не аависятот $т, Поэтому их произведение также не вависитот $т и в левой части равенетва (62) условие можно опустить.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
