Тема 4. Формулы Шеннона (Материалы лекций)

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА И КОДИРОВАНИЕ В главе 5 мы обсуждали проблему цифровой модуляции М=2'сигналов, когда каждый сигнал содержит к бит информации. Мы видели, что некоторые методы модуляции обеспечивают лучшее качество, чем другие. В частности, мы показали, что ортогональный ансамбль сигналов позволяет нам сделать вероятность ошибки произвольно малой, взяв число сигналов М вЂ” э со при обеспечении ОСШ на бит у„> — 1.б дБ. Таким образом, мы можем оперировать с пропускной способностью канала с аддитивным белым гауссовским шумом в пределе, когда показатель расширения канала В, =-И"/Я-+со. Приходится платить высокую цену, поскольку 8, растет экспоненциально с длиной блока 1.

Такое неэканомное использование полосы канала крайне нежелательно. В этой и последующих главах мы рассмотрим сигналы, создаваемые посредством двоичных или недвоичных последовательностей. Результирующие сигналы, обычно, характеризуются показателем расширения полосы, который растет только линейно с к. Следовательно, кодированные сигналы предлагают в потенциале большую частотную эффективность, чем ортогональные М-позицианные сигналы. Мы увидим, что, в общем, кодированные сигналы предлагают преимущество качества не только в системах с ограничением мощности, когда Я/И'<1, но также в системах с ограничением полосы, когда Я/И'>1.

Мы начнем с установления нескольких моделей каналов, которые будут использованы для расчета выгоды канального кодирования, и мы хотим ввести концепцию пропускной способности канала для различных моделей канала. Затем мы будем обсуждать вопросы выбора (синтеза) кодов для эффективной связи.

7.1. МОДЕЛИ КАНАЛОВ И ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛОВ Напомним, что в модели цифровой системы связи, описанной в разделе 1.1, передатчик содержит кодер канала, имеющий дискретный вход и дискретный выход, за которым следует модулятор. Функция дискретного кодера канала состоит во введении в двоичную информационную последовательность некоторой контролируемой избыточности, которую можно использовать в приемнике для преодоления влияния шума и интерференции, возникающих при передаче сигнала по каналу. В общем процесс кодирования включает в себя взятие А информационных бит на определенном временном интервале и отображение каждой к -битовой информационной последовательности в уникальную (взаимна однозначную) и-битовую последовательность, называемую кодовым сяовоэь Величина избыточности, вводимая кодированием данных таким путем, измеряется отношением и/А'.

Величину, обратную этому отношению, а именно /г/и, называют скоростлыо кодо. Двоичная последовательность выхода кодера канала питает модулятор, который служит интерфейсом к каналу связи. Как мы уже обсудили, модулятор может проста отобразить каждый двоичный символ в один из двух возможных сигналов, т.е. «0» 319 7.1.1. Модели канала В этом разделе мы опишем модели канала, которые будут полезны при синтезе кодов..-;,' Наиболее простая — это модель двоичного сизьпеплрпчпого лопали ЩСК), которая .'; соответствует случаю, когда М = 2, и жесткому решению детектора. Двоичный симметричный канал. Рассмотрим канал с аддитивным шумом. и пусть модулятор н демодулятор/детектор включены, как части канала. Выхолило .ыипыс Лсыыср спилил диоиииыа лимЗлмор Вя лиыс яииолс Л лг коа и и солюр к иср ллылл Колол Соаы имя спилл.,ыслрсшыя ио и.олу и по иылолу Рис.

7.1.1. Составной канал, дискретный по входу и по выходу, образованный путем включения в него модулятора и демодулятора/детектора как частей канала Если модулятор применяет двоичные сигналы, и детектор делает жесткие решения, то составной канал, показанный на рнс. 7.1.1, имеет на входе и выходе двоичную последовательность с дискретным временем. Такой составной канал характеризуется набором Х =10, 1~ возможных входов, набором У= 10, 1~ возможных выходов и набором условных вероятностей возможных выходов при условии возможных входов.

Если канальный шум и другие нарушения вызывают статистически независимые ошибки при передаче двоичной последовательности со средней вероятностью р, тогда 1 Чаше всего, говора о декодировании декодером мягких решений детектора, имеют в виду, что Ьл=<о за отобрам<ается сигналом а;(1), а «1» отображается сигналом яз(1). Альтернативное'; модулятор может передавать с7-битовые блоки за определенное время, используя М =2Я .': ВозмОжных сигналоВ. На приемной стороне цифровой системы связи демодулятор обрабатывает сигналн,:.,' искаженные каналом, и преобразует каждый принятый сипгал в скаляр или вектор„:: который представляет оценку переданных символов данных (двоичных или М-пози-; ционных). Детектор, который следует за демодулятором, должен решить, передан «О» илв:; «1».

В этом случае детектор выносит жесткое реьяепие. Если мы посмотрим,на процесс ': вынесения детектором решения как на форму квантования, мы заметим, что жесткас:-. решение соответствует двоичному квантованию выхода демодулятора. В более общем виде ':-' ны можем рассмотреть детектор, который квантует выход на О > 2 уровней, т.е. О-ичныи,': детектор. Если используются М-позиционные сигналы, тогда О> М. В экстремальном,'-'. случае, когда вообще не производится квантования выхода демодулятора, О = со. В случае, „! когда О > М, мы говорим, что детектор выносит сияглое решение. 1 Квантованный выход детектора затем подается на канальный декодер, который использует имеющуюся в его распоряжении избыточность для коррекции искажений в ": канале.

В следующих разделах мы опишем три модели канала, которые будут нспользоваться -,:' ' для установления максимально возможной битовой скорости для канала. Р(У=ЩХ=1)=Р(У=ЦХ=О)=р, ф =ЦХ=1)=Р(У=О~Х=О)=1-р. Таким образам, мы свели каскадное соединение двоичного модулятора, канала и двоичного демодулятора и детектора в эквивалентный канал с дискретным временем, который представлен графом на рис. 7.1.2.

Этот симметричный канал с двоичным входом и двоичным выходом обычно называют двоичным симметричным каналом (ДСК). Поскольку каждый выходной двоичный символ канала зависит только от соответствующего входного двоичного символа, мы говорим, что этот канал без памяти. 1 — р. Вход ход 1 — р Рис. 7.1.2. Двоичный симметричный канал Дискретные каналы без памяти.

ДСК является частным случаем более общего канала с дискретным входом и дискретным выходом. Предположим, что входом кодера канала являются т1-ичные символы, т.е. Х=(х„х„...,х„,~, а выходом детектора являются Д-ичные символы, где Д > М = 2" . Если канал и модуляция без памяти, тогда характеристика вход — выход составного канала, показанного на рис.7.1.1, описывается рядом из дД условных вероятностей Р(У= у,'1Х = х,) = — Р(у,.~х>), (7.12) где 1= О, 1, ..., Д-1 и т' = О, 1, ..., д -1. Такой канал называется дискретным каналом без памяти (ДКБП) и его графическое представление показано на рис.

7.1.3. ТакимЪбразом, если входом ДКБП является последовательность из и символов и„и„...,и„, выбираемых из алфавита Х, и соответствующим выходом является последовательность о„о„..., о, символов из алфавита У, то совместные условные вероятности определяются так: в Р(У,=о„У,=о„...,У„'=о„1Х,=и„Х,=ттт,...,Х„=и)=ПР(У=о„~Х=и) (7.1.3) «=! "дч Уо ~ Рис. 7.1.3. Дискретный канал, о-ичный по входу и О-ичный по выходу 21-56 321 Это выражение — просто математическая констатация условия отсутствия памяти.

В общем, условные вероятности (Р(у,~х,)), которые характеризуют ДКБП, могут быть упорядочены в форме матрицы Р =(р,.), где, по определению, р„— = РЯх,) . Р называется матрицей переходных вероятностей канала. Канал с дискретным входом н непрерывным выходом. Теперь предположим, что иа вход модулятора подаются символы, выбираемые из конечного и дискретного входного алфавита Х=(х„х„..., х„!), а выход детектора не квантован Я=со). Тогда входом декодера канала можно считать любую величину на вещественной оси, т.е. У = (-»>о,оо) . Это ведет нас к определению составного канала без памяти с дискретным временем, который характеризуется дискретным входом Х, непрерывным выходом 1' и рядом условных ФПВ р(У~Х = х„), /с = О, 1, ..., д — 1.

Наиболее важный канал этого типа — это канал с аддитивным белым гауссовским шумом (АБГШ), для которого 1'= Х+(х, (7.1.4) где б — гауссовские случайные величины с нулевым средним и дисперсией а', а Х=х„, /с=0,1,...,9 — 1. Для данного Х=х, следует, что 1' является гауссовской случайной величиной со средним х, и дисперсией а . Это значит -( 1' р(у~ Х = х ) = е (7.1.5) (2яа Для любой входной последовательности Х„!=0,1,...,п имеется соответствующая выходная последовательность У, = Х + б„! = 1» 2, ...,п . (7.1.6) Условие, что канал без памяти, можно выразить так: рЬ!>у2»- у»~Х! — и!»Хя — "2» -»Х» — "„) = » = ПР(У1Ж = Ц). (7.1.7) у(г) = 2 у, ~(г); х(г) = ~~~ х,Дг); п(г) = ~~! п,~(г), (7.1.9) 1 где (х, ~, (у, ~ и (п, ~ — ряд коэффициентов в соответствующих выражениях, например 322 Сигнальные каналы.

Мы можем отделить модулятор и демодулятор от физического канала и рассмотреть модель канала, в котором входы и выходы являются сигналами. Предположим, что такой канал имеет заданную полосу частот Н~ с идеальной частотной характеристикой Си = 1 внутри полосы Ф, а сигнал на его выходе искажен алдитивным белым гауссовским 'шумом. Предположим, что х(г) является частотно-ограниченным входом для этого канала, а у(г) — соответствующий выход.

Тогда у(г) = х(г) + п(г), (7.1.8) где п(г) представляет реализацию аддитивного шумового случайного процесса. Подходящий метод для определения ряда вероятностей, которые характеризуют канал,— это разложить х(г), у(г) и п(г) в полный ряд ортонормированных функций.