Финк М. Теория передачи дискретных сообщений (1970) (1151862), страница 8
Текст из файла (страница 8)
(1.19) г=! Всякая ошибка и н т нала с сооб р о ождествленни принятого сигщенисм, конечно, нежелательна. О н степень нежелательн днако эта ьиости для различных ошибок може~ ыть разной. Так например, если источник сообщений выдает результаты каких-то измерени" рядных десятичных цифр, то разумеется, что ошибка в отождествлении первой циж ы аз я а ьно олее вредна, чем ошибка в последней цифре (разряде единиц).
При этом ошибка в л б а в лю ом раз- р д, изменяющая переданную циф н ру на несколько ц, олее вредна, чем ошибка на одну единицу, другие со и т. д. Для других источников возможны ы и совершенно также пяти а ру оотношеиия. Так, возможен источник, н ., выдающми тнразрядные десятичные цифры, но не озна- чающие результаты изм условные обозначе измерения, а представляющие ния (номера) некоторых сообщений. этом случае оценка значимости ошибок может быть совершенно иной, з.
соо щеиий. авнсящей от конкретного смысла этих Для того чтобы определить, какая из возможных е- шакпцпх схем явл ., яется оптимальной, необходимо преж- де всего ясно и >е. ).дставить, в каком смысле понимае я оптимальность. В ма з тематической статистике использутся ется большое число а.. р зличных статистических крите- О Р иев оптимальности, п Рименимых к различных задачам. дним из наиболее о общих является так называемый 37 6(х< х'!) Р(з 5~[х<) (1.20) [=! [=1 критерц!! среднего риска, предложенный Вальдом (! 3]. Он состоит в том, что каждой паре сообщения х; и решения х'; приписывается некоторая «стоцмос<ьь 6(хь х';), не зависящая от решающей схемы.
Эта стоимость выбирается, вообще говоря, произвольна, ио она должна учитывать конкретные условия рассматриваемой системы связи. Она тем выше, чем более нежелательна ошибка, состоящая в принятии решения х'1, когда в действительности передавался элемент х!. Условным риском 6! называется условное математическое ожидание стоимости, если известно, что передавался элемент х[ Средним риском называется безусловное математическое ожидание стоимости 6,р, которое можно определить, если известны априорные вероятности ообще- ний 6,Р=7 р(х<)6<=~~ ~~ р(х<)6(х<, х'5)р(з'51х<). (1.21) Согласно Вальду оптимальной решающей схемой является такая, которая обеспечивает минимум среднего риска. Этот критерий относится к классу так называемых байесовых критериев.
т е. таких, для применения которых необходимо знание априорнь!х вероятностей р (х[). Ограниченность такого критерия заключается в том, что, во-первых, ои применим лишь в случае, когда априорные вероятности известны, и, во-вторых, в том, что величина стоимости 6(хь к';), хотя и определяется на основе оценки характера сообщепия, все же не может не содержать элемента субъективности.
В большей части случаев проектирования систем передачи дискретных сооб[цений свойства источника заранее известны, хотя бы приблизительно, и, следовательно, приблизительно известны априорные вероятности сообщений. Поэтому в большинстве случаев байесовы критерии вполне применимы для выбора решающей Схемы в таких системах . зв Сложнее Решается вопро б 1ак, для Рассмотрецаого оп Р делении стоимос Лаю[Не[0 численные Рез л ГО Выше ирц<[е сти. Ра цсточцш<а ° !'и'и'[иым положить Рез льтаты изме е стоимость 6 ', сь ы Р ций, казалось б с [нтать, что сгаиыостЬ .
х< Х !) = (! — ! Г ' ' 'ь вна величине ' т. е 'Решности в принятом чи<з абсолютнон Тог а !ИСЛС ОТНОСИТЕЛЬН й по. к да критерцц миццма. но переданного ь, ЛЬНОГО с е не критерию минимальной Р д го риска сведе НОСТИ. ется жить 6(хь х';)=- 1 ' г иь! Основанием можц лрату погрешности, ч ' ~тоимость рав кно поло что п ице авной мальной средней к ' Лет к критерию ваЛРатичной миницвОЛит к соз,< из этик подходов п, погрешности, аждыц схеь[ы, причем как<.1, данию своей еш <5 аа из цпх в н<. ° ающей с[с5! ОПГнмальши" В <'ьотОРОь! сап[, [ ОЗМОжнЫ и, слЕ явдя- иия стоцмосп[, кото' ' Лругие методы о торые п иво .
определетнмальц[,[ь! Реп а Лят' к Разлп, ленной ста . "[ц".' Схемам ЕН1е б ' становится стопь[осг . 1е олее неон еде- [ЦСНИя не СВ ' связаны с количес „ У аях, когда сооб сть в тех твенной ме ой. Э Ределение оптимал в о щем случае. альной решающей схемы Во многих сл аях стемы связ аях, по характе и п нем язи, можно счита ть, что у использования с- оинаково ! Р к[оп Раз мн р мор равной 1 улю при [=[1 При такой оценке с кои оценке средний риск ра Р.(х<) р(з',.)х ) -ч Р (и'<(х<)1 (1 22) н о это вы ую вероятно Р Л тавляет не что Ражение п е с ния в е ть ошибочного п не„иное, как полающей схеме (1,1р " ' ма элемента сообщ минимального рцс ).
Таким обра бок своди и"'а при Одинаковой Ом, критерий тся к к иге оценке все Ности ошиб Рию мннималь ок или нои полцой х оши- аг[аальцоло °, как его обычно на " .вероят б д Р лполагаатся, плесь п е Э<от ври«с -, "'" к< соотвстст скольку П л , Рий касто нага[на от вует чи~лу < с< .
. Котольи Роения тео; "' пиков апсраь[с п отсльннкова, ВНОТ К[[Иге НСЬ< ор <и потенииал Г Рииеннл с<о в [Э«а а<но! понскоус, а Г. лля по о чнвости Легко определить, как должна быть построена решающая схема для того, чтобы она обеспечивала минимум полной вероятности ошибочного приема. Полная вероятность ошибок, очевидно,. будет минимальна, если решающая схема обеспечит минимум вероятности ошибочного приема при каждом принимаемом сигнале.
Пусть на приемное устройство поступаетсигналг'((). Для любой буквы х; из алфавита источника можноопределить апостериорную (обратную) вероятность (1.18). Предположим, что решающая схема относит этот сигнал к подмножеству г'м Тогда вероятность того, что этот сигнал принят правильно, представляетне что иное, как апостериорную р (хн вероятность р [хн ] г"). Если в алфавите существует некоторый другой элемент х„ для которого р(х„/г'))р(хд!г'), то можно было бы увеличить вероятность правильного приема сигнала г'(1) (и, следовательно, уменьшить вероятность ошибки), изменив решающую схему так, чтобы отнести этот сигнал к подмножеству г'„. Отсюда следует, что минимум вероятности ошибки при приеме данного сигнала г'(1) имеет место в том случае, когда он интерпретируется как тот элемент сообщения хю который имеет наибольшую вероятность р(хн]г').
Поскольку это относится к любому из принимаемых сигналов, то решающая схема, основанная на критерии идеального наблюдателя, представляет такое разбиение множества принимаемых сигналов Т, при котором к подмножеству г'н относятся все сигналы, отличающиеся тем, что для них апостериорная вероятность хн больше или равна вероятности любого другого элемента сообщения р(хд]г'д)рр(х~]гд) (1~й).
(1.23) Во многих случаях удается сравнительно просто реализовать такую решающую схему в приемном устройстве. Вероятность ошибки при оптимальной решающей схеме, основанной на критерии идеального наблюдателя, зависит только от свойств канала, определяемых помехами, и характеризует так называемую потенциальную помехоустойчивость системы связи (2]. Вместо того чтобы сравнивать обратные вероятности р(х;]г'), можно сравнивать произведения р(х;)ш(г'~х~), 4О црсдставляюп(ие числители выражения апостериорной вероятности по формуле Байеса (1,!8). Действительно знаменатель в (1.!8) при заданном г' является постоянной всличиной, не зависящей от хн Поэтому неравенство (1,23), характеризующее решающую схему, эквива.
лсцгно неравенству р (хн) ш (г'(хн) .- . р (х,) ш (г1х,) (( ~ь й) или м (М(хн), р (х,) м(г')хт) р(х„) (™ (1.24) Отношение в левой части этого неравенства называют Отноп!енцем правдоподобия для хн относительно хн Таким обРазом, решающая схема для критерия идеального наблюдателя может быть описана и так: сигнал г' относится к подмножеству г'м если отношение правдоподобия для хн относительно всех х~ больше или равно величине, обратной отношению априорных вероятностей. Заметим, что и другие байесовы критерии (с различной функцией стоимости) можно свести к сравненшо отношений правдоподобия, аналогичных неравенству (1.24) с той разницей, что в правой части неравенства вместо отношения априорных вероятностей находятся другие числа, зависящие от й й и определяемые функцией стоимости. Если априорные вероятности всех х; одинаковы, правая часть неравенства (1.24) равна единице.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
