В.И.Тихонов Статистическая радиотехника (2-е издание, 1982) (1092037), страница 116
Текст из файла (страница 116)
имеет единственный максимум) и 2) по обе стороны от вершины имеет ветви, достаточно быстро приближающиеся к нулю при возрастании абсолютного значения аргумента. В большинстве практически интересных случаев наилучшее приближение при заданном й1 будет тогда, когда и и Р выбраны равными среднему значению та и дисперсии Р„ случайной величины г' и разложе/у — пй ние производится по полиномам Н„ ( =!. "(ТО! Будем считать, что и и Р выбраны указанным образом. Тогда воспользовавшись формулой (15) и выражениями первых трех полиномов Чебышева — Эрмита (2.8.31), нетрудно убедиться, что Ьа = 1, Ь, = О, Ь, = О.
Если в (13) ограничиться конечным числом членов, то ряд Грама — Шарлье можно записать в виде р ь)=р(у)~1-~- ~ — — "н„(~~)~. 5.10.36) Ш 1У~! з 1 ~/О 596 Здесь первый член справа соответствует нормальной плотности вероятности (14). Для нормальной плотности вероятности все квазимоменты при п ) 3 равны нулю (Ь„=- О). Первые два коэффициента ряда, характеризующие наиболее существенные отклонения плотности вероятности от нормальной, есть не что иное, как коэффициенты асимметрии и эксцесса соответственно: — з/г — 3/2 у,— Ь,77„= — р,77у =х,х —, у, = Ь4 77„' = 1г„В„' — 3 =- х, х, ', (5.10.17) где х; — кумулянты, а н, и р,, — центральные моменты 3-го и 4-го порядков (1.3.12). На практике прн аппроксимации плотностей вероятностей, не сильно отличающихся от нормальной, часто ограничиваются учетом только коэффициентов асимметрии и эксцесса.
Если в формуле (16) произвести специальную группировку членов суммы и перейти от полнномов Чебышева — Эрмита к производным от интеграла вероятности согласно (2.5.26), то получим приближенное представление плотности вероятности в виде усеченного ряда Эджвор/па: "/2 Фш/ (У У 1+ 71 Ф(7/ (У У 1~ ° (5.10.18) Следует отметить, что при такой аппроксимации может незначительно нарушаться свойство неотрицательности плотности вероятности: аппроксимирующая кривая при больших значениях ~у~ может принимать отрицательные значения, недопустимые для плотности вероятности.
Это следствие того, что формула (18) имеет приближенный характер. Характеристическая функция, соответствующая плотности вероятности (13), равна Э ° (й) = ехр ~1/и 12+ — "~ ~~ — " ( — 1й)". (5.10.19) п„гн~ " 1 ь„ ) ш рп/2 Л/0 У Разлагая экспоненту в ряд Тейлора, производя умножение и сравнивая полученный результат с рядом (1.3.45), составленным из моментов, можно убедиться, что моменты линейно выражаются через квазимоменты (и наоборот), а также найти соответствующие коэффициенты.
Это обстоятельство и дает основание назвать коэффициенты Ь„, представляющие линейную комбинацию моментов, квазимоментами. Можно показать, что многомерные плотности вероятности, не очень сильно отличающиеся от нормальных, аналогично можно представить в виде разложений в ряд по многомерным полиномам Эрмита. Коэффициентами при этих полиномах будут многомерные квазимоментные функции. Квазимоментные функции, так же как моментные и корреляционные, могут быть использованы для описания случайного процесса.
597 Поясним теперь сущность явления нормализации. Представим случайный процесс !) (() на выходе линейной системы с импульсной характеристикой 1! (1) через входной процесс 9 (1) интегралом свертки (5.1.4)! Ч(г) = ) Ь(г' — т) 9(т) !(т. о (5.10.20) л — ! я +Ь л — 1 «1 (1): ~~ )! Ь (Г т) $ (т) !(т ~~ Уя е=а е е=в (5.10.2! ) где г„+л Кя = й (1 (!!) )! $ (т) г(т Здесь в отличие от суммы (2) слагаемые, вообще говоря, являются взаимозависимыми. Однако если выполняется неравенство тс ~ т!! (5,10.23) и Л ъ т„, то они будут слабо зависимыми.
Доказательство этого утверждения в общем случае дать затруднительно; оно должно проводиться в каждом конкретном случае самостоятельно путем вычисления моментных, корреляционных или квазимоментных функций (по крайней мере коэффициентов асимметрии и эксцесса). Здесь мы лишь покажем, что прн Л ъ т„даже соседние члены суммы (21) (на примыкающих временных интервалах) практически не коррелированы. Примем, что входной процесс $ (г) является стационарным в широком смысле, имеет нулевое математическое ожидание и заданную корреляционную функцию: М Д (Г)) =- О, Ят (т) = В!гт (т). (5.10.24) При этом допущении вычислим коэффициент взаимной корреляции между двумя слагаемыми суммы (21) гж и+ ! = М ( и 1 я+ !) (ля 1-19+!) ~ !Оя = й4 Р 9).
Проделав примерно те же вычисления, с помощью которых была найдена формула (5.3.61), получим Ь ~ (Л вЂ” т) ( гт (Л+т) — гт (Л вЂ” т)) !!т 'о г, я.ь!— Ь 2 ~ (Л вЂ” т) г! (т) Нт о 898 Будем считать Г) т,. Разобьем отрезок интегрирования [О, г) на большое число и = 1/Л элементарных интервалов одинаковой длительности Л точками 0 = Г„' гг, ..., 1„, ..., 1„= г, причем выберем Л (( т,. При этом импульсная характеристика системы на каждом из элементарных интервалов будет мало изменяться и можно полагать й (~ — Ь) †., 1! (!).
Запишем интеграл в виде суммы 06 г ду Рис, 5.43. Композиция прямоугольных распределений Плотность вероятности ри1 (у) есть разрывная функция, рм1 (у) непрерывна, но имеет разрывную производную, р<з1 (у) имеет непрерывную первую производную, но разрывную вторую производную и т. д. Графики первых пяти функций рсч1 (у) показаны на рис. 5.43. Математическое ожидание и дисперсия суммы г' равны тз — — а/2 и Рз = и!12.
На рисунке штриховой линией изображена нормальная плотность вероятности с математическим ожиданием ш = 2,5 и дисперсией Р = 5/12. Видно, что уже при и = 5 существенные значения плотности вероятности р<М (у) хорошо аппроксимируются нормальной кривой (исключение составляют ветви при больших отклонениях от гпз). 5,1!.
ЛИНЕЙНОЕ ОЦЕНИВАНИЕ НО МИНИМУМУ СРЕДНЕГО кВАдРАТА ОшиБки Пусть имеется два вероятностно связанных процесса я (1) и Н (1) и требуется оценить некоторый функционал а (1) = Т, Б(1)) (5.11.1) первого процесса по доступному наблюдению второму процессу т! (1). Приведем простейший часто встречающийся в радиотехнике пример. Пусть первым процессом является полезный сигнал $ (1) = з (1), а вторым процессом — принятое колебание в виде суммы полезного сигнала и некоторого шума и (1): И (1) = з (1) + и (1). (5.11.2) Внд функционала Тз может быть различным, например: Я(1)4 д(г), з(г.+Х), ) з(1)г(1 и т.
д, Требуемая оценка д (г') = Тч (т) (и)) (5.!1.3) должна быть получена на основании наблюденных значений процесса И (!) в некоторых точках (=и, образующих на временной оси некоторое множество 1: и 5!. Под 1 можно понимать одну или несколько точек, временной интервал (а, Ь) или всю временную ось. При решении задачи предполагаются заданными: 1) преобразование Тй, т. е. величина, подлежащая оценке; 2) все необходимые вероят- 600 постные характеристики процессов $ (1) и ц (1); 3) данные наблюдений 1[ (и), и Е 1.
Для решения необходимо предварительно выбрать критерий оптимальности оценки и ограничиться видом преобразования Т„, т. е. классом допустимых операций над располагаемыми данными т[ (и). В качестве критерия оптимальности примем критерий минимума среднего квадрата ошибки: математическое ожидание квадрата ошибки "= М ([и Я вЂ” й Я12) (5.1 1.4) должно быть минимальным. При таком критерии оптимальной оценкой д (1) является условное математическое ожидание д (1) = М (д (~) ! ц (и), и Е 1). (5.1 1.5) К такому результату можно прийти путем обобщения формулы (1.4.48) на бесконечное число случайных величин.
Чтобы найти условное математическое ожидание, необходимо знать совместную плотность вероятности д (1) и Ч (1) для каждого и Е 1. .Очевидно, что наименьшее значение среднего квадрата ошибки в общем случае может быть получено, если не накладывать никаких ограничений на вид оператора Тч (нелинейное оцениваниз). Однако мы ограничимся здесь линейной оценкой (линейной обработкой наблюдаемых данных), когда она отыскивается в виде а (1) = У.
11[ (и)1, и Е 1, (5.11.6) где Л вЂ” линейный оператор. Итак, найдем такой оптимальный линейный оператор 1. [1[ (и)1, и Е 1, при котором средний квадрат ошибки з' = и ([д (1) — Ь [и (и)!!') (5.1 1.7) минимален. Покажем, что если задача имеет решение, то оптимальный оператор Ь должен быть таким, что разность (ошибка) д (1) — Е [ч (и)[ ортогональна результатам наблюдения, т. е. ортогональна т[(и) при каждом значении и из У.
Если при этом оператор Е удовлетворяет соотношению М ([д(1) — Е [1[ (и)!1[) (и) )= О, иЕ У, (5.11.8) то средний квадрат ошибки минимален и равен а~~ы = М (1д (1) — 1. [В (и)1! я (1)). (5.11.9) Пусть Е' — линейный оператор, при котором з' = е'ы.
Запишем очевидное равенство д (1) — Л' 1Ч (и)! = д (1) — 1. [ц (и)1 + Е Ь1 (и)1 — Л' [1[ (и)1. Разность двух линейных операторов есть тоже линейный оператор: ь [1[ (и)1 — Ь' Ь! (и)1 = Е" [1[ (и)!. Минимум среднего квадрата ошибки можно представить в виде з' ы = М ([й (1) — Ь' [ц (и)11') = М ([д (1) — Л [11 (и)1 + Ьл 11[ (и)!!з). (5.11.10) 60! Допустим теперь, что разность д (1) — Б [Ч (и) ! ортогональна Ч (и), т.
е. выполняется соотношение (8). Тогда эта разность будет ортогональна любой линейной комбинации ч (и). Следовательно, м ([й' (1) — У. [ч (и)И т." 1ч (и)Ц = О. Расписав квадрат в выражении (10) и использовав это равенство, получим а* м = М ([а (1) — Т. [т] (и)И') + М ([Т." [т] (и)И'). Второе слагаемое в правой части, зависящее только от результатов наблюдений, неотрицательно. Поэтому для получения е'ы оно должно равняться нулю: М ([т'." [т[ (и)Ит) = О. Согласно (1.3.30) это означает, что Е" [т] (и)1 =- 0 и Б = Е' с вероятностью единица, что и завершает доказательство принципа ортогональности.
Так как разность д (1) — Т. 1Ч (и)1 ортогональна линейной комбинации У. [Ч (и)1, то м ([а (1) — т 1ч (и)И') = м ([а (1) — т. [ч (и)И [а (1)— — л.[ч (и)И) = м ([д (1) — Б [т1 (и)И д (1)), (5.1 1.12) 602 что доказывает справедливость формулы (9). Предположим теперь, что процессы д (1) и Ч (1) совместно гауссовские с нулевыми математическими ожиданиями.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
