Скляр Б. Цифровая связь (2003) (1151859), страница 245
Текст из файла (страница 245)
Таким образом, к эксперименту мы приступаем, имея некоторые априорные знания, касаюшиеся вероятности состояния природы, а после изучения выборочного сигнала получаем апостериорную (" после свершения") вероятность. Параметр Р(х) — это вероятность принятой выборки й во всем пространстве классов сигналов.
Эту величину, Р(й), можно рассматривать как масштабный множитель, поскольку его значение одинаково для всех классов сигнала. (интуитивно), что она с большей вероятностью могла быть взята из ящика с более высокой концентрацией исправных деталей и с меньшей — из ящика с меньшей концентрацией? Теорема Байеса уточняет априорную статистику выбора ящиков, порождая апостериорную статистику. Пример Б.2. Применение теории принятия решений в теории игр В ящике находится три монеты: обычная, с двумя орлами и с двумя решками. Вам предлагается случайным образом вытянуть одну монету, взглянуть на одну ее сторону и угадать, что находится на другой стороне.
Какой стратегии лучше всего придер:киваться? Решелие Данную задачу можно рассматриваться как задачу детектирования сигнала. Сигнал передается, но вследствие шума канала принятый сигнал не совсем отчетлив. Невозможность взглянуть на обратную сторону монеты равносильна приему сигнала, возмущенного шумом. Пусть Н, представляет гипотезу (~' = Н, О, Р), где индексы Н, О н Р обозначают правильную монету, монету с двумя орлами и монету с двумя решками.
Н„= О, Р (правильная монета) Но = О, О (монета с двумя орлами) Нр = Р, Р (монета с двумя решками) Пусть г, представляет принятую выборку (г = О, Р), где го — орел, а гр — решка. Пусть априорные вероятности гипотез равновероятны, так что Р(Нл) = Р(Но) = Р(Нр) = 1/3. Используем теорему Байеса.
Р(г ~Н,)Р(Н;) Р(НДт)) = Р(г.~ Н, ) Р(Н;) ! Нам необходимо вычислить вероятности всех гипотез лля всех классов сигнала. Следовательно, нам нужно изучить результаты ягесми вычислений, после чего мы сможем установить оптимальную стратегию принятия решения. В кюкдом случае значение Р(дН,) можно вычислить из условных вероятностей, изображенных на рис. Б.1. Пуси мы выбрали монету и увидели орел (го), тогда вычисление трех апостериорных вероятностей дает следующие результаты: (1)(з) 2 (+) + (1)(х) + О 3 Р(Нр)2о) = О.
Если принятой выборкой является решка (гр), вычисления дают следующее: Р(Н,')г )= —, 1 Р(Н ~х )=О, Р(Н,„! х ) = —. 2 о лг а) б) Р о в) )тес. БЛ. условная вероятиоонь р(йнр а) для иравильной монеты; б) для монеты с двумя орлами; в) для монеты сдвумя решками Таким образом, оптимальной стратегией принятия решения является следующая: если принят орел (зо), выбрать гипотезу Но (соответствующую монете с двумя орлами); если принята решка (гл), выбрать гипотезу Нр (соотаетствующую монете с двумя решками). Б.1.2.
Теорема Байеса в смешанной форме Для болыпннстаа приложений связи, представляющих практический интерес, возможные значения принятой выборки принадлежат неирерыеяаму диапазону (прнчина — наличие в канале связи адаптивного гауссового шума). Следователыю, наиболее полезная форма теоремы Байеса содержит плотность вероятности с непрерывными, а нс дискретными значениями. Изменим соответствующим образом формулу (Б.З): р(з) (Б.4) р(с)= ) р(4л,)Р(л,).
Здесь р(ф,) — плотность условной вероятности принятой выборки г (принимающей значения из непрерывного диапазона) при условии принадлежности к классу сигнала лс Пример Б.З. Наглядное представление теоремы Байесд Даны два класса сигнала л! и лз, которые описываются треугольными функциями плотности условной вероятности р(4г,) и р(г(гз), показанными на рис. Б.2. Принят некоторый сигнал; он может иметь любое значение по оси ж Если функции плотности вероятности не перекрываются, сигнал можно классифицировать однозначно. В данном же примере, приведенном на рис. Б.2, нам требуется правило, которое позволит классифицировать принятые сигналы, поскольку некоторые из них попадуг в область перекрывающихся функций плотности вероятности.
Рассмотрим принятый сигнал г». Пусть два класса сигналов л~ и гз являются равновероятными. Нухгно вычислить две возможные апостериорные вероятности и предложить правило принятия решений, которое следует использовать при определении принадлежности сигната гл к определенному классу. То же самое нужно сделать для сигнала сь. 1,0 0,9 й О,Л а! ОЭ 0,2 О,1 0 л, ль(принятые выборки) Рис. Б.2 Наглядное представление теоремы Байеса Решение Из рис. Б.2 видим, что р( ~з,) = 0,5 и р(г„(лз) = О,З.
Следовательно, р(г„(г,)Р(з) р(с, ~ л,)Р(з,) + р(п,!зз)Р(лз) (05)(0,5) 5 (05)(05) +(0,3)(05) 8 (0,3)(0,5) 3 (0,5)(0,5) +(0,3)(Озг 8 Одно из нзниожных правил — определять принятый сигнал к классу с максимальной апостериарной вероятностью (классу зь). Эквивалентное правило, дяя равных априорных вероатнастей,— зто исследовать значение функции плотности вероятности, обусловленной каждым классом сигналов (называемой правпопапобием класса сигналов), и выбрать класс с максимальным значением. Рассмотрим рис. Б.2 и отметим, что правило максимальною лравдонадайгл соответствует нашей интуиции.
Правдоподобие принадлежности сигнала г к каждому классу сигналов соответствует обведенной кружком точке на каждой функции плотности верояпюсги. Правило максимального правпопадобия заключается в выборе класса сигналов, давшего максимальную условную вероятность из всех имеющихся. Повторим вычисления дпя принятого сигнала ть (0,7)(05) 7 (0,7)(0,5) + (0,1)(0,5) 8 (0,1)(0,5) 1 (0,7)(0,5) +(0,1)(05) 8 Как и ранее, правило максимального правдоподобия указывает нам выбрать класс сигналов зь Заметим, что прп принятии выборки гь мы более уверены в точности нашего выбора, по сравнению с принятием сигнала г,. Это объясняется тем, что отношение р(гь|в~) к р(гь)гз) существенно больше отношения р(гмзг) к р(гмзз).
Б.2. Теория принятия решений Б.2.1. Элементы задачи теории принятия решений После того как мы описали проверку гипотез на основе статистики Байеса, перейдем к рассмотрению элементов задачи теории принятия решений в контексте системы связи, как показано на рис. Б.З. Источник сигнала в передатчике содержит множество (з,(г)), ! = К ..., лз сигналов (или гипотез). Принимается сигнал «(г) = з(г) + л(г), где л(г) — присутствующий в канале аддитивный белый гауссов шум (агЫггггче зчЫе гзацззгап пойе— АЮгз)ч).
В приемнике сигнал сокращается до единственного числа г(«=Т), которое может принимать любое значение. Поскольку шум является гауссовым процессом и приемник предполагается линейным, выход г(г) также есть гауссовым процессом (Ц, а число г(Т) — случайной переменной, принимающей значения из непрерывнага диапазона. (Б.5) г(Т) = а,(Т) + пв(Т) Выборка г(Т) состоит из сигнального компонента а(Т) и шумового компонента л,(Т).
Время Т вЂ” это длительносп символа. В каждый момент времени кТ, где й — целое, приемник использует правило принятия решения для определения принадлежности принятого сигнала к определенному классу сипшла. Для простоты записи выражение (Б.5) иногда используют в виде г = а, + «ль где функциональная зависимость от Т не вырюкается явно. л(г) М гипотез М сигналов рвШвнне Н, Нм.'вм «=1... М Рис. Б.З. Элементы задачи теории принятия решений в контексте системы связи Б.2.2. Проверка методом отношения правдоподобий и критерий максимума апостериорной вероятности При определении правила принятия решения для двух классов сигналов разумно начать со следующего соотношения: Н, Р(б !х) ~ ~Р(в, ) г) Н1 (Б.б) Выражсние (Б.б) — это сокращенная запись следующего утверждения: "выбрать гипотезу Н„если апостсриорная вероятность Р(з1(г) больше апостериорной вероятности Р(зф); в противном случае выбрать гипотезу Н,".
Апостсриорные вероятности в формуле (Б.б) можно заменить эквивалентными выражениями, полученными из теоремы Байеса (уравнение (Бл)), что дает следующее: Н, Р(г ) Б) Р(б) ) ~Р(г ) з,) Р(з,) . Н, (Б.7) Итак, у нас есть правило принятия решения, выраженное чсрсз плотности вероятности (правдоподобия). Если переписать выражение (Б.7) и привести его к следующему виду Н, Р(х!Б) > Р(з) Р(~(~,) Р(Б) 2 (Б.8) то отношение в левой части будет называться отношением функций нравдонодобия, а все выражснис часто именуют критерием отношения функций правдоподобия. Выражсние (Б.8) — это принятие решений на основс сравнения принятого сигнала с порогом.
Поскольку проверка опирается на выбор класса сигналов с максимальной апостериорной вероятностью, критерий принятия решения часто называстся критерием максимума аностериорной вероятности (шах1пшш а ромспоп — МАР). Другое название— критерий минимума ошибки, поскольку в среднем он дает минимальное количество неверных решений. Стоит отметить, что данный критерий являстся оптимальным, только если ошибки всех типов наносят одинаковый вред (или имеют равную цену). Если ошибки некоторых типов обходятся дороже других, необходимо применять критерий, который учитывал бы относительные стоимости ошибок (г). Б.2.3. Критерий максимального правдоподобия Н, Р(2)Х) 1 ) Р(~)~,) Отметим, что критерий максимального правдоподобия, приведенный в выражении (Б.9), аналогичен правилу максимального правдоподобия, описанному в примере Б.З.
(Б.9) Довольно часто сведения об априорных вероятностях гипотез или классов сигналов отсутствуют. Даже при наличии такой информации се точность иногда вызывает сомнения. В таких случаях решения обычно принимаются исходя из предположения о возможности наиболес выгодной априорной вероятности; иными словами, значения априорных вероятностей выбираются так, чтобы классы были равноверонтными. Если выбран такой подход, то критерий принятия решения являстся критсрисм максимального правдоподобия, и выражение (Б,З) записывается в следующем виде: Б.З.
Пример детектирования сигнала В.З.1. двоичное решение по принципу максимального правдоподобия В нагляаном представлении процесса принятия решения (пример Б.З) фигурировали треугольные функции плотности вероятности. На рис. Б.4 приведены функции плотностей условных вероятностей Лля двоичных выходных сигналов, искаженных шумом: 2(г) = а~+ пв и г(7) = аг+ п,. Сигналы а, и а, взаимно независимы и равновероятны.
Шум пв предполагается независимой гауссовой случайной переменной с нулевым средним, дисперсией ао2 и плотностью вероятности, описываемой следующей формулой: р(пе) = ехр —— (Б.10) Следовательно, отношение правлополобий, выраженное в формуле (Б.8), можно запи- сать слелующим образом: Л(2) =— Р(4гг) Р(Ф2) 1 ехр а,72як Н, Р(лг) Р(е,) 1 ехр о, /2п (Б.11) Н, Р(е,) ехр —, ехр — ', ехр —,' Н, Нд г Здесь а, — сигнальный компонент на выходе приемника при переданном л,(г), а а,— сигнальный компонент на выходе приемника при переданном гг(с). Неравенство (Б.11) сохраняется при любом монотонно возрастающем (или убывающем) преобразовании. а а о С~ Ф св г(2) о а| вг Рис.