Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 7)

Указание. Энтропия источника с памятью находится по формуле

.

1. Две двоичные случайные величины и имеют совместные вероятности . Найдите , , , и .

2. Сообщения , , и появляются на выходе источника с вероятностями 1/2, 1/4, 1/8 и 1/8. Построить двоичный код Шеннона-Фано и определить вероятности символов 0 и 1, а также среднюю длину кодового слова.

3. Источник вырабатывает два независимых символа и с вероятностями 0.9 и 0.1 соответственно.

Построить коды Хаффмена для отдельных символов и групп по два символа. Найти и сравнить для двух полученных кодов:

среднюю длину кодового слова,

избыточность кода,

вероятность появления символа 0 (1) в кодовой последовательности

скорость передачи информации (длительность посылки принять равной 1 мкс).

1. Для условий задачи 7 построить код Хаффмена для групп по три символа. Найти среднюю длину кодового слова, избыточность кода, вероятность появления символа 0 (1) в кодовой последовательности и скорость передачи информации. Сравнить с аналогичными показателями для случая кодирования отдельных символов и групп по два символа.

1. ОСНОВЫ ТЕОРИИ ПОМЕХОУСТОЙЧИВОСТИ ПЕРЕДАЧИ ДИСКРЕТНЫХ СООБЩЕНИЙ

   1. Основные понятия и термины

В процессе передачи сообщений в системах связи выполняются различные преобразования, основные из которых показаны на упрощенной структурной схеме дискретной системы связи, рис. 4.

Источник сигнала ИС включает в себя источник сообщений и преобразователь сообщения в первичный сигнал . Первичный сигнал подвергается кодированию (экономному и/или помехоустойчивому) в кодере К, после чего сигнал , называемый цифровым, поступает в модулятор М (передатчик), вырабатывающий сигнал , приспособленный по своим характеристикам для передачи по линии связи ЛС. В линии связи происходит искажение сигнала и его взаимодействие с помехой (в простейшем случае аддитивное), в результате чего на вход демодулятора ДМ (приёмника) поступает наблюдаемое колебание . Демодулятор выполняет функцию, обратную модуляции, поэтому на его выходе должен быть выработан в идеальном случае сигнал . Однако вследствие воздействия помех результат демодуляции отличается в общем случае от сигнала , поэтому результат декодирования также не совпадает с первичным сигналом .

В двоичной системе связи с амплитудной телеграфией (АТ) канальный сигнал, соответствующий передаваемому символу «1», представляет собой радиоимпульс с прямоугольной огибающей, а символу «0» соответствует отсутствие сигнала (пауза)⁸. При частотной (фазовой) телеграфии различные символы передаются сигналами одинаковой формы с несущей частотой (начальной фазой), меняющейся скачком от посылки к посылке. Для простоты здесь полагается, что система является изохронной, то есть моменты начала и окончания элементарных посылок точно известны.

Для облегчения восприятия в дальнейшем рассматривается идеализированный канал связи без памяти, в котором отсутствуют искажения сигнала, тогда наблюдаемое колебание

,

где – посылка длительностью , – помеха. Полагая, что отсутствует перекрытие посылок по времени (называемое межсимвольной интерференцией), можно считать, что в каждый момент времени , где – одно из возможных значений цифрового сигнала⁹.

Задача демодулятора состоит в том, чтобы по наблюдаемому колебанию принять решение о переданном сигнале , такое, чтобы обеспечить максимальную верность. Правило (алгоритм) принятия решения – это закон преобразования в . Поскольку помеха является случайной, то задача построения оптимального (наилучшего) демодулятора представляет собой статистическую задачу и решается на основе методов теории вероятностей и математической статистики (теории статистических решений).

Перед принятием решения с целью повышения его качества (верности) часто наблюдаемое колебание подвергают дополнительной обработке. Если обработка линейная, то ее результат может быть записан в форме

,

где для простоты принято, что колебание наблюдается на интервале времени от 0 до , – ядро линейного оператора, описывающего устройство обработки [4, 5]. Видно, что результат обработки представляет собой сумму сигнальной и шумовой составляющих.

В простейшем случае , тогда сигнальная составляющая равна величине

,

то есть отсчету канального сигнала (посылки) в момент времени , рис. 5.

Очевидно, такой способ «обработки» плохо использует посылку: фактически правильность решения зависит не от энергии, а только от одного мгновенного значения сигнала. При этом очень важно, чтобы отсчет был взят точно в тот момент, когда значение сигнала достигает максимума. Улучшить эффективность решения можно путем «накопления» нескольких ( ) отсчетов, взятых в -е моменты времени, ; при этом . Учесть различную значимость отсчетов для принятия решения можно, введя весовые коэффициенты при -функциях, тогда . Увеличивая , в пределе получаем непрерывное ядро оператора обработки – весовую функцию линейного фильтра (см. п. 2.4). Вообще говоря, оптимальная обработка может быть нелинейной.

Материалом для принятия решения в демодуляторе служит в рассматриваемом случае реализация колебания на интервале длительности . Если бы помеха отсутствовала, то эта реализация совпадала бы с элементарным сигналом (посылкой), который можно считать точкой в гильбертовом пространстве сигналов, определенных на заданном временном интервале. Все возможные в данной системе связи посылки изображаются различными точками, и демодулятор должен вырабатывать свои решения в зависимости от того, какой именно точке соответствует принятая реализация . Реализация помехи, взаимодействуя с посылкой, смещает точку, изображающую принятую реализацию, причем смещение случайно вследствие случайного характера помехи. Если смещения будут значительными, демодулятор может ошибаться. Ошибки являются случайными событиями, поэтому качество решений можно описывать вероятностью ошибки.

Задача синтеза оптимального демодулятора (приёмника) ставится следующим образом: нужно найти оптимальный алгоритм обработки и оптимальное правило решения, обеспечивающие максимальную вероятность безошибочного (правильного) решения. Максимум этой вероятности В.А. Котельников назвал потенциальной помехоустойчивостью, а приёмник, реализующий этот максимум – идеальным приёмником.

Алгоритм работы приёмника состоит в разбиении гильбертова пространства реализаций входного колебания на области, так что решение принимается в соответствии с тем, какой области принадлежит принятая реализация. Количество областей равно количеству различных кодовых символов данной системы связи. Ошибка возникает в том случае, если в результате воздействия помехи реализация попадает в «чужую» область. Оптимальный приёмник разбивает пространство реализаций наилучшим образом, так что средняя вероятность ошибки минимальна среди всех возможных разбиений.

Каждая область соответствует предположению (гипотезе) о том, что передан был один из возможных сигналов. Поэтому каждая простая гипотеза есть предположение о том, что наблюдаемое колебание представляет собой реализацию случайного процесса, описываемого определенной многомерной плотностью распределения вероятностей¹⁰ или функционалом плотности распределения.

Пример 9. Предположим, что результатом обработки в двоичной системе связи с амплитудной телеграфией является значение , соответствующее окончанию интервала наблюдения. Если в колебании присутствует только шум, имеющий гауссово распределение с нулевым математическим ожиданием и среднеквадратическим отклонением , то плотность распределения величины имеет вид

,

если кроме шума на вход приемника поступает сигнал, то результат обработки имеет ненулевое (для определенности – положительное) среднее , и плотность распределения величины имеет вид

.

Гипотезы, соответствующие выражениям и , являются простыми. Если среднеквадратическое отклонение неизвестно, гипотезы являются сложными. 

Рассмотрим систему связи, в которой используются различных символов. Тогда демодулятор должен различать различных гипотез. При этом возможны ошибки: может быть принято решение в пользу -й гипотезы, в то время как справедливой является -я гипотеза. Такая ситуация описывается условной вероятностью ошибки . Различные ошибки могут наносить разный вред, поэтому вводится численная характеристика , называемая риском, или потерей. Иногда потери объединяют в квадратную -матрицу , называемую матрицей потерь, при этом её главная диагональ содержит нули, что соответствует нулевым потерям при правильных решениях.

Характеристики

Список файлов книги