В.Н. Васюков - Теория электрической связи (1266498), страница 42

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 42)

В чем состоит цель экономного кодирования?2. Что такое избыточность дискретного источника?3. Какой источник обладает минимальной избыточностью ичему равна его энтропия?4. Может ли равномерный код быть оптимальным (безызбыточным)?5. В результате применения процедуры экономного кодирования получился троичный код с вероятностями символов 0.5, 0.2 и0.3 соответственно. Можно ли считать такой код оптимальным?6. Можно ли применять коды, для которых префиксное правило не выполняется?7. Может ли помехоустойчивый код быть безызбыточным?8.

На чем основано корректирующее свойство помехоустойчивых кодов?9. Что такое кодовое расстояние?10. В какой связи находятся порождающая и проверочная матрицы линейного кода?11. Какой геометрический смысл имеют строки порождающейматрицы?12. Какова размерность линейного пространства, натянутого настроки порождающей матрицы? Каково количество разрешенныхкомбинаций кода? Каково количество запрещенных комбинаций?13.

Что такое синдром?261УпражненияУПРАЖНЕНИЯ1. Рассчитайте для частных случаев, указанных в конце примера8.2, а также для p0  p1  0.25 условную энтропию согласно (8.4).2. Даны источники с алфавитами, содержащими по три символаи с распределениями вероятностей1231/ 3 1/ 3 1/ 3и1231/ 2 1/ 4 1/ 4.Найдите энтропии источников.3. Имеются два дискретных источника с матрицами X   x1 x2   Y   y1 y2 y3  P    p p  ,  Q    q q q  (верхняя строка матрицы12312содержит символы, нижняя – их вероятности). Определите, какойисточник обладает большей неопределенностью в случае, если:а) p1  p2 , q1  q2  q3 ; б) p1  q1 , p2  q2  q3 .4.

По каналу связи передается один из двух символов x1 илиx2 с одинаковыми вероятностями. На выходе они преобразуются всимволы y1 и y2 , причем из-за помех в среднем два символа из стапринимаются неверно. Определите среднее количество информации на один символ, передаваемое по такому каналу.

Сравните саналогичной величиной при отсутствии помех.5. Марковский источник сообщений вырабатывает символы x1 ,x2 и x3 с вероятностями 0,4 , 0,5 и 0,1 соответственно. Вероятности появления пар заданы таблицейxi x jx1 x1x1 x2x1 x3x2 x1x2 x2x2 x3x3 x1x3 x2x3 x3P( xi , x j )0,10,20,10,20,300,100Определите энтропию источника и сравните ее с энтропией источника без памяти с такими же вероятностями символов.Указание. Энтропия марковского источника первого порядкапри объеме алфавита K находится по формулеK KH ( X )     P( x j , xi )log P( xi | x j ) .i 1 j 16.

Две двоичные случайные величины X и Y имеют совместные вероятности P( x  y  0)  P( x  0, y  1)  P( x  y  1)  1/ 3 .Найдите H ( X ) , H (Y ) , H ( X | Y ) , H (Y | X ) и H ( X , Y ) .2628. ОСНОВЫ ТЕОРИИ ИНФОРМАЦИИ7. Сообщения x1 , x2 , x3 и x4 появляются на выходе источника с вероятностями 1/2, 1/4, 1/8 и 1/8. Постройте двоичный кодШеннона – Фано и определите вероятности символов 0 и 1, а такжесреднюю длину кодового слова.8. Источник вырабатывает два независимых символа 1 и 2с вероятностями 0,9 и 0,1 соответственно. Постройте коды Хаффмена для отдельных символов и групп по два символа. Найдите исравните для двух полученных кодов:− среднюю длину кодового слова,− избыточность кода,− вероятность появления символа 0 (1) в кодовой последовательности,− скорость передачи информации (длительность посылкипримите равной 1 мкс).9.

Для условий упражнения 8 постройте код Хаффмена длягрупп по три символа. Найдите среднюю длину кодового слова,избыточность кода, вероятность появления символа 0 (1) в кодовойпоследовательности и скорость передачи информации. Сравните саналогичными показателями для случая кодирования отдельныхсимволов и групп по два символа.10. Найдите две разрешенные кодовые комбинации кода Хэмминга (7, 4), не совпадающие со строками порождающей матрицы,и убедитесь в том, что расстояние между ними не менее трех.11.

Измените в одной из комбинаций два символа, найдитесиндром и «исправьте» в принятой комбинации символ, на который он укажет. Найдите расстояние между «исправленной» и принятой комбинациями.12. Код Хэмминга (7, 4) обнаруживает одно- и двукратныеошибки и исправляет однократные. Считая, что ошибки при приеме двоичных посылок независимы и происходят с вероятностьюp , найдите вероятность появления двукратной ошибки в пределах7-разрядной кодовой комбинации.

Найдите вероятность появленияне более чем одной ошибки.2639.1. Основные понятия и термины9. ОСНОВЫ ТЕОРИИПОМЕХОУСТОЙЧИВОСТИПЕРЕДАЧИДИСКРЕТНЫХ СООБЩЕНИЙ9.1.ОСНОВНЫЕ ПОНЯТИЯ И ТЕРМИНЫпроцессе передачи сообщений в системахВсвязи выполняются различные преобразования, основные из которых показаны на упрощенной структурнойсхеме дискретной системы связи (рис. 9.1).bц (t )b(t )ИСКu (t )М(t )z (t )ЛСbц (t )ДМb (t )ДКПСРис.

9.1. Упрощенная структурная схема дискретной системы связиИсточник сигнала ИС включает в себя источник сообщений ипреобразователь сообщения a (t ) в первичный сигнал b(t ) . Первичный сигнал подвергается кодированию (экономному и/или помехоустойчивому) в кодере К, после чего сигнал bц (t ) , называемый цифровым, поступает в модулятор М (передатчик), вырабатывающийсигнал u (t ) , приспособленный по своим характеристикам для передачи по линии связи ЛС.

В линии связи происходит искажение сигнала и его взаимодействие с помехой (t ) (в простейшем случаеаддитивное), в результате чего на вход демодулятора ДМ (приемника) поступает наблюдаемое колебание z (t ) . Демодулятор выполняет функцию, обратную модуляции, поэтому на его выходе264 9. ПОМЕХОУСТОЙЧИВОСТЬ ПЕРЕДАЧИ ДИСКРЕТНЫХ СООБЩЕНИЙдолжен быть выработан в идеальном случае сигнал bц (t ) . Однаковследствие воздействия помех результат демодуляции bц (t ) отличается в общем случае от сигнала bц (t ) , поэтому результат декодирования b (t ) также не совпадает с первичным сигналом b(t ) .В двоичной системе связи с амплитудной телеграфией (АТ)канальный сигнал, соответствующий передаваемому символу 1,представляет собой радиоимпульс с прямоугольной огибающей, асимволу 0 соответствует отсутствие сигнала (пауза)111. При частотной (фазовой) телеграфии различные символы передаютсясигналами одинаковой формы с несущей частотой (начальной фазой), меняющейся скачком от посылки к посылке.

Для простотыздесь полагается, что система является изохронной, т. е. моментыначала и окончания элементарных посылок точно известны.Для облегчения восприятия в дальнейшем рассматриваетсяидеализированный канал связи без памяти, в котором отсутствуютискажения сигнала, тогда наблюдаемое колебаниеz (t )   bц (t ) s(t  k )  (t ) ,k (9.1)где s(t ) – посылка длительности , (t ) – помеха. Полагая, чтоотсутствует перекрытие посылок по времени (называемое межсимвольной интерференцией), можно считать, что в каждый момент времени z(t )  s(t , bi )  (t ) , где bi – одно из возможных значений цифрового сигнала112.Задача демодулятора состоит в том, чтобы по наблюдаемомуколебанию z (t ) принять решение bˆц (t ) о переданном сигналеbц (t ) , такое, чтобы обеспечить максимальную верность.

Правило(алгоритм) принятия решения – это закон преобразования z (t ) вbˆ (t ) . Поскольку помеха является случайной, задача построенияцоптимального (наилучшего) демодулятора представляет собойстатистическую задачу и решается на основе методов теории вероятностей и математической статистики (теории статистическихрешений).111112Такой способ модуляции называют амплитудной телеграфией с пассивной паузой.Отметим, что выражение (9.1) представляет частный случай модуляции.2659.1. Основные понятия и терминыПеред принятием решения с целью повышения его качества(верности) часто наблюдаемое колебание подвергают дополнительной обработке.

Если обработка линейная, то ее результат y (t )может быть записан в формеTTT000y (t )   z ( ) (t , )d   s ( , bi ) (t , )d   ( ) (t , )d ,где для простоты принято, что колебание наблюдается на интервале времени от 0 до Т, (t , ) – ядро линейного оператора, описывающего устройство обработки (2.30). Видно, что результат обработки представляет собой сумму сигнальной и шумовойсоставляющих.В простейшем случае (t, )  (  t0 ) , тогда сигнальная составляющая равна величинеTT00 s( , bi ) (t , )d   s( , bi ) (  t0 )d  s(t0 , bi ) ,т.

е. отсчету канального сигнала (посылки) в момент времени t0(рис. 9.2).Очевидно, такой способ «обработs(t)ки» плохо использует посылку: фактически правильность решения зависит неот энергии, а только от одного мгноt0венного значения сигнала. При этомtочень важно, чтобы отсчет был взятточно в тот момент, когда значениесигнала достигает максимума. УлучРис. 9.2.

Взятие отсчеташить эффективность решения можнов момент времени t0путем «накопления» нескольких ( K )отсчетов, взятых в i -е моменты времени, i  1,..., K ; при этомK(t , )   (  ti 0 ) . Учесть различнуюi 1значимость отсчетов для принятия решения можно, введя весовыекоэффициенты при-функциях, тогдаK(t , )   hi (  ti 0 ) . Увеi 1личивая K , в пределе получаем непрерывное ядро оператора обработки (t , )  h(t , ) – весовую функцию линейного фильтра(см. разд. 2.7). Вообще говоря, оптимальная обработка может бытьнелинейной.266 9. ПОМЕХОУСТОЙЧИВОСТЬ ПЕРЕДАЧИ ДИСКРЕТНЫХ СООБЩЕНИЙМатериалом для принятия решения в демодуляторе служит врассматриваемом случае реализация колебания z (t ) на интерваледлительности T.

Характеристики

Список файлов книги