Васюков В.Н. - Теория электрическо связи - Часть 3. Теория информации и теория помехоустойчивости (1275348), страница 11
Текст из файла (страница 11)
На рис. 18 показаныпримеры априорной и апостериорной ПРВ параметра λ (истинное значениепараметра обозначено λ0 ).14Это означает, что не существует правила оценивания, которое являлось бы наилучшим среди всех возможных правил.78w (⋅)w (λ | z )w (λ )λλ0Рис. 18. Априорная и апостериорная ПРВ оцениваемого параметраВлияние функции правдоподобия на апостериорное распределение выражается в его обострении по сравнению с априорным распределением, чтоестественно, так как наблюдая реализацию z , мы получаем дополнительнуюинформацию о параметре, что уменьшает исходную неопределенность, заключенную в априорной ПРВ.Апостериорное распределение содержит всю информацию о параметре,которую можно получить из наблюдаемой реализации и априорных данных.Поэтому правило оценивания должно использовать апостериорную ПРВ, аспособ использования зависит от выбранного критерия качества оценки.Ошибки оценивания параметра в общем случае приводят к различнымпоследствиям, поэтому естественным способом их учета является введение()функции потерь (штрафной функции) L λ − λ , зависящей от разности оценки и истинного значения параметра.
Усредняя функцию потерь по апостериорному распределению параметра, получаем количественную характеристику, называемую апостериорным (условным) риском()r (λ, z ) = ∫ L λ − λ w(λ | z )d λ ,Λ(25)описывающим потери, связанные с получением оценки λ при наблюденииреализации z . Усреднение апостериорного риска (25) по всевозможным реализациям приводит к среднему риску79R (λ ) =∫ w( z ) ∫ L λ − λ w(λ | z )d λ dz . (λ )( z)()Правило оценивания, которому соответствует наименьший среднийриск, называется байесовским, а соответствующая оценка – байесовской, илиоценкой по критерию минимума среднего риска. Правило, оптимальное всмысле минимума среднего риска находится из условия минимизации условного риска (25).Часто используют квадратичную функцию потерь() ()2L λ − λ = λ − λ ,тогдаr (λ, z ) =∫ ( λ − λ ) w(λ | z )d λ = ( λ − λ ) ,22(26)Λто есть апостериорный риск равен среднему квадрату ошибки (а если оценканесмещенная, то дисперсии ошибки).
Байесовская оценка в этом случае становится оценкой минимума среднеквадратической ошибки. Для нахожденияправила раскроем скобки в выражении (26)( λ − λ )2= λ 2 − 2λ2∫ λ w(λ | z )d λ + ∫ λ w(λ | z )d λ .(λ )(λ )Дифференцируя полученное выражение по λ и приравнивая результатк нулю, получаем правилоλ = ∫ λ w(λ | z )d λ .(λ )Таким образом, оценка, оптимальная в смысле минимума среднеквадратической ошибки, равна апостериорному среднему значению параметра.Кроме квадратичной, на практике часто используется простая функцияпотерь()()L λ − λ = const − δ λ − λ .80(27)Подставляя (27) в (26), получаем∫ const − δ ( λ − λ ) w(λ | z )d λ = const − w(λ | z ) λ =λ .(λ )Очевидно, это выражение достигает минимума, если в качестве оценкиλ принять значение параметра, доставляющее максимум апостериорнойПРВ w(λ | z ) .
Такая оценка называется МАВ-оценкой (оценкой максимумаапостериорной вероятности).Во многих задачах априорная ПРВ параметра неизвестна, тогда принимают ее равной константе, и максимизируют функцию правдоподобияw( z | λ ) . Получаемые таким образом оценки называются оценками максимального правдоподобия, или МП-оценками.Пример 13.
Пусть наблюдается колебаниеz (t ) = γ s (t ) + ξ (t ) ,где s (t ) – сигнал известной формы, γ – амплитудный множитель, подлежащий оцениванию, ξ (t ) – гауссовский шум с нулевым средним и спектральной плотностью мощности N 0 / 2 , постоянной в полосе частот − F < f < F(«квазибелый» шум). Найдем правило оценивания параметра γ , оптимальноепо критерию максимального правдоподобия.Как в п. 3.3, возьмем n отсчетов наблюдаемого колебания на интерваленаблюдения τ с шагом ∆t =1 τ= , при этом отсчеты шума являются не2F nкоррелированными.
Совместная плотность распределения вероятности взятых отсчетов поэтому равнаw( z1,..., zn | γ ) =−1(2π σ)21n∑ ( zk −γ sk )22e 2σ k =1,где σ 2 = N 0 F = N 0 /(2∆t ) . Устремляя ∆t к нулю ( n → ∞ ), запишем функциюправдоподобия81 1 τw( z | γ ) = C exp −[ z (t ) − γ s(t )]2 dt ∫ N 0 0 .Для нахождения правила оценивания следует продифференцироватьфункцию правдоподобия или, что проще, ее логарифм и приравнять результат нулю. Полученное уравнение правдоподобияd [ln w( z | γ )]=0dγдля данного случая имеет вид1 τ∫ [ z (t ) − γ s(t )] s(t )dt = 0 ,N0 0откуда2γ τ 22 τ∫ s (t )dt = N ∫ z (t ) s(t )dt = 0 .N0 000Решением этого уравнения является значение параметра γ , равноеоценке γ , определяемой выражениемγ =1τ∫ z (t ) s(t )dt ,E0(28)τгде E = ∫ s 2 (t )dt – энергия сигнала.0Качество полученной МП-оценки можно оценить, подставив в (28) выражение для z (t ) :ττ∫ [γ s(t ) + ξ (t )]s(t )dtγ = 0E=γEE∫ ξ (t ) s(t )dt+0E=γ +1τ∫ ξ (t ) s(t )dt .E0(29)Второе слагаемое представляет собой ошибку оценивания, причемдисперсия интеграла равна 0,5N 0 E (см.
п. 3.3), поэтому дисперсия ошибки82равна N 0 /(2 E ) . Таким образом, оценка тем точнее, чем больше энергия сигнала на интервале наблюдения и чем меньше спектральная плотность мощности. Из выражения (29) видно, что оценка несмещенная, так как ξ (t ) имеетнулевое математическое ожидание. Учитывая несмещенность и стремление кнулю дисперсии при увеличении интервала наблюдения, можно заключить,что оценка является состоятельной. Кроме того, можно показать, что оценкатакже эффективна. ♦Полученный алгоритм оценивания может быть реализован в видеструктурной схемы, показанной на рис.
19.z(t )TS(t )1E∫0€γРис. 19. Структура устройства оценивания амплитуды сигналаПолученное правило оценивания амплитуды сигнала можно использовать и при медленном изменении этого параметра; вместо интегратора применяется фильтр нижних частот (ФНЧ) и при гармоническом сигнале схемарис. 19превращаетсявсхемусинхронногодетектораамплитудно-модулированных колебаний, рис. 20. Заметим, что синхронный детектор является линейным нестационарным устройством.€γ( t )z(t )ФНЧcosω0tРис.
20. Синхронный детектор АМ колебаний8313.3. Оптимальная фильтрация случайного сигналаБолее общей, чем задача оценивания постоянного параметра, являетсязадача оценивания изменяющегося сообщения на основе наблюдаемой реализации. Сообщение рассматривается как реализация случайного процесса,множество сообщений – как ансамбль реализаций с некоторым вероятностным распределением.
Сообщение (первичный сигнал) модулирует несущееколебание, поэтому сигнал на выходе канала связи также случаен. Таким образом, ставится задача по наблюдаемому случайному колебанию оценитьдругое случайное колебание (закон модуляции), связанное с ним в общемслучае сложным нелинейным образом (задача нелинейной фильтрации).
Этазадача может быть весьма сложной. В этом подразделе рассматривается наиболее простой случай оптимальной линейной фильтрации.На практике линейная фильтрация может применяться, например, дляповышения отношения сигнал/шум на входе демодулятора, рис. 21.S ( t ) + ξ( t )S(t )y(t )b (t )МКСОФДРис. 21. К задаче оптимальной линейной фильтрацииПредположим, что в канале связи модулированный сигнал, представляющий собой стационарный случайный процесс s (t ) со спектральной плотностью мощности Gs (ω ) , суммируется со стационарным шумом ξ (t ) , имеющим спектральную плотность мощности Gξ (ω ) , причем оба процесса имеютнулевые средние и некоррелированны между собой.
Задача состоит в том,чтобы найти характеристики линейной стационарной цепи (оптимальногофильтра), такой, чтобы процесс y (t ) на ее выходе был близок к процессу s (t )в смысле некоторого критерия при условии, что на вход воздействует смесьz (t ) = s (t ) + ξ (t ) .84Поскольку фильтр линейный, то его отклик представляется сверткойy (t ) =∫ z (τ )h(t − τ )dτ = ∫ s(τ )h(t − τ )dτ + ∫ ξ (τ )h(t − τ )dτ .(τ )(τ )(τ )Здесь (τ ) обозначает множество всех допустимых значений переменной τ . Обозначим импульсную характеристику оптимального фильтра, который предстоит найти, ho (t ) , а отклик s (t ) . Ошибка фильтрации представляетсобой разностьε (t ) = s(t ) − s (t ) .(30)Поскольку и сигнал и шум имеют нулевые средние, а фильтр линеен,то ошибка также имеет нулевое математическое ожидание, а ее среднийквадрат совпадает с дисперсией.
Примем в качестве критерия оптимальностифильтра минимум дисперсии ошибки фильтрации.Средний квадрат ошибки для оптимального фильтраE = ε 2 (t ) = [ s (t ) − s (t )]2представляет собой минимальное значение, достижимое при фильтрации любым линейным устройством. Для произвольного линейного фильтра импульсную характеристику можно представить в виде ho (t ) + α ha (t ) , где α иha (t ) – некоторые константа и функция. Тогда средний квадрат ошибки дляпроизвольного фильтраEα = [ s (t ) − ∫ {ho (τ ) + α ha (τ )}z (t − τ )dτ ]2 .(31)Поскольку при α = 0 достигается минимум, то можно записать уравнение∂Eα= 0,∂α α =085решением которого и будет искомая импульсная характеристика оптимального фильтра.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
