Вернер М. Основы кодирования (2004) (1151882), страница 15
Текст из файла (страница 15)
Современные стандартные методы цифровой передачи речи (логарифмические РСМ) требуют затраты 8 бит на кодирование одного отсчета,114Глава 8. Непрерывные источники и каналыТаблица 8.1. Пример дифференциальной энтропии.Распределе- Функция плотности распределения ДифференциальнаяниявероятностиэнтропиядРавномерноед*) = | s; 0Лапласаfix) -Гауссовскоеfix)l*для |i| < \/ZconsiV2M)1п(\/2(те)= 1,94In 2(x2\V2a2j1п(2тг(Т2е)-2,0421n2expfeXPJn(2v/5cr)= 1,79In 2при частоте отсчетов 8 кГц. Таким образом, скорость передачи речисоставляет 64 кбит/сек.Исходя из равномерного распределения вероятностей в интервале[-1,1], опытным путем получим а2 = 1/3. Таким образом, дифференциальная энтропия на один отсчет составляетH{X)битIn 2= 1.(8.9)Так как отсчеты производятся с частотой 8 кГц, получаем, чтонеобходимая скорость передачи речи составляет 8 кбит/сек.
Приоценке энтропии мы не принимали во внимание связи между соседними отсчетами (память источника) и, поэтому, реальная дифференциальная энтропия источника речи будет еще меньше. В самом деле,мы знаем, что современные алгоритмы кодирования речи позволяют осуществлять передачу речевого сигнала со скоростью около 8кбит/сек при качестве, сравнимом со стандартным РСМ.8.2. Пропускная способность канала и границаШеннонаАналогично дискретным каналам, можно определить пропускнуюспособность для непрерывных каналов. Будем искать, как и ранее,8.2. Пропускная способность канала и граница Шеннонанаибольшее значение переносимой информации по всем возможнымфункциям плотностей распределения вероятностей.C = supI(X;Y)./(*)(8.10)Поиск точной верхней грани, в общем случае, представляет собойдовольно сложную задачу. Рассмотрим важнейший частный случайпередачу информации по каналу с аддативным белым гауссовскимшумом (АБГШ) с ограниченной полосой.
Модель такого канала изображена на рис. 8.4. Для гауссовского распределения вероятностиамплитуды сигнала на входе канала получаем формулу пропускнойспособности канала, хорошо известную в теории информации.Ограниченный по полосе каналИсточник* '#"•• ** *,•*•. **»*> •*.>..%..". **„ • ИСТОЧНИКУСпектральная плотностьмощности шума, $NN lo>)N„/2. 'Р и с . 8.4. Модель ограниченного по полосе канала с АБГШ.Теорема 8.2.1. Пропускная способность канала (Хартлей - Шеннон).Пропускная способность идеального канала с шириной полосыпропускания В и аддитивным белым гауссовским шумом мощностиN =' NQ В равна^бит/сек-|).(8.11)NЗдесь, как и ранее, 5 - мощность сигнала в полосе пропусканияканала.
Размерность С - бит/сек.Для интерпретации пропускной способности непрерывного канала-С, рассмотрим выражение (8.11) при ширине полосы пропускания, равной 1 Гц (рис. 8.5). Можно отметить асимптотически линейный характер поведения функции С/В = log2 f(S/N) (рис.
8:5выполнен в полулогарифмическом масштабе).I 16Глава 8. Непрерывные источники и каналыС/ВL ZА— /Hz 'У \—- —/10/——z AР и с . 8.5. Пропускная способность на 1 Гц полосы пропускания как функция отношения сигнал/шум.Пусть задано отношение сигнал/шум (Signal to Noise Ratio SNR)больше 0 дБ. Из формулы (8.11) следует, что удвоение пропускной способности требует квадратичного увеличения отношения сигнал/шум SNR?T.e. квадрата мощности передатчика при постоянномшуме.SNRВремяКоличествопереданнойинформацииШирина полосыР и с . 8.6. Соотношение между шириной полосы пропускания, SNR, временем передачи и максимальнымколичеством переданной информации.Пусть заданы отношение сигнал/шум, полоса пропускания В ивремя передачи t.
Тогда можно определить пропускную способностьканала и максимальный объем информации, который передется зазаданный промежуток времени. Заметим так же, что при фиксированном объеме информации v бит, можно произвольно варьироватьдва из трех параметров (SNR, В, t), а третий параметр будет определяться из соотношения (8.11) и условия г; = С-t.
Все вышесказанноеиллюстрирует рис. 8.6.8.2. Пропускная способность капала и граница-ШеннонаИз рис. 8.6 видно, что объем передаваемой информации за определенное время можно представить как объем параллелепипеда вкоординатах SNR, But.При внимательном рассмотрении соотношения (8.11), возникаетважный вопрос; Как будет меняться пропускная способность каналапри стремлении ширины полосы пропускания к бесконечности? Ответ не очевиден, так как расширение полосы влечет за собой увеличение мощности шума N.
Мощность шума при постоянной спектральной плотности No пропорциональна ширине полосы пропускания.Чем шире полоса, тем больше шум на выходе приемника (рис. 8.7).N = NQB.(8.12)SNN(co)No/2-ЪсВ02яВ"* соР и с . 8.7. Спектр белого гауссовского шума в ограниченнойполосеИсследуем предельный переходС°°= lim — Ц — = lira Bln(l.+-§)log 2 e.(8.13)бит/секв-оо бит/секв-^ооN'*Замечание. Мы использовали натуральный логарифм для упрощения вычисления предела. Переход от размерности пропуской способности нат/сек к размерности бит/сек достигается умножениемправой части вырамсения (8.13) на Iog2(e).gПодставляя (8.12) в предельный переход (8.13), получаем неопределенностьВ—юоРаскрывая неопределенность по правилу Лапиталя, получаем конечное значение предела^ " h-{s15)Выражение (8.15) совместно с (8.13) определяет границу Шеннона.Глава 8.
Непрерывные источники и каналыПропускная способность непрерывного канала с АБГШ и неограниченной полосой пропускания равна^^-«#log 2 e«l,44-J.(8.16)бит/секNoNoВ технике связи при передаче цифровой информации часто используется относительная величина - энергия сигнала Еъ, приходящаяся на бит переданной информации. Так как максимальная скорость передачи информационных бит/сек определяется какминимальная длительность передачи одного бита равна(8.18)Энергия, затрачиваемая на передачу бита.информации, определяется произведением Еъ = S -Тъ- Используя (8.18) и (8.16), переходим кследующему утверждению.Для передачи одного бита цифровой информации необходимо,чтобы отношение энергии на бит Еъ к спектральной плотностимощности белого гауссовского шума No равнялось, как минимум1N0« 0 , 6 9 ^ - 1 , 5 9 dB.(8.19)minЗамечание.
Заметим, что в литературе спектральная плотностьшума иногда определяется не как No/2, а как No. Это приводит кпоявлению дополнительного слагаемого в правой части (8.19), равного 1,42 дВ.Наглядно связь между SNR, В и битовой скоростью R можнопредставить в виде дааграммы. Для этого, прежде всего, формальноподставим R вместо С и NQB вместо N в (8.11), разрешим равенствоотносительно S/{NQB) И получимR/BN0B= 2- 1.(8.20)Устраним зависимость левой части от полосы пропускания В путем умножения обеих частей (8^20) на B/R, получим8.2.
Пропускная способность канала и граница ШеннонаI 19)Энергия Еь, затрачиваемая на передачу одного бита информации, определяется отношением Еь = S/R. Полученная зависимостьмежду ЕЬ/NQ И B/R приведена на рис. 8.8.IdB]Р и с . 8.8. Зависимость между шириной полосы пропускания и SNR при передаче информации.Рис. 8.8 можно рассматривать как стандарт, который позволяет оценить эффективность выбранного метода кодирования в реальных системах связи. Пусть передача информации осуществляетсяпри некоторых фиксированных значениях R, В и SNR.
Этим значениям соответствует некоторая точка на диаграмме рис. 8.8. Согласнотеореме кодирования для канала, скорость R не должна превышатьпропускную способность канала С, поэтому наша точка всегда лежит выще кривой, задаваемой (8.21). Расстояние от граничной линии, которая соответствует значению R = С, позволяет оценить потенциальную возможность улучшения выбранного нами метода кодирования.Замечание. Современные цифровые системы связи используют прогрессивные методы кодирования, такие, например, как турбо - коды.
Применение таких конструкций позволяет приблизиться к граничной кривой ценой некоторой задержки декодирования. При оценки соотношения цена - эффективность, учитываются многие дополнительные факторы, поэтому оптимальность системы, в смысле приближения скорости к пропускной способности канала, иногдаотходит на второй план.Глава 8. Непрерывные источники и каналы8.3. ПримерыПример: Видеотелефония.Рассмотрим возможность передачи изображений между абонентами телефонной сети стандарта ISDN. В этой системе 'для передачи двумерных изображений используется канал со скоростью 64кбит/сек, поэтому, необходимо, чтобы поток видеоинформации былсжат до этой величины.
При этом, алгоритм сжатия должен устранять как избыточность с точки зрения теории информации, так идетали изображения, не существенные для абонента или многократно повторяющиеся. Одной из таких деталей может быть, например,не меняющийся длительное время второй план изображения и т.д.В дальнейшем, мы рассмотрим пример идеального сжатия видеосигнала. _,При вычислении необходимой скорости передачи данных, мы будем исходить из стандарта QCIF ( Quarter Common Intermediate Format).В этом стандарте для передачи цветных изображений используется один сигнал яркости (У) и два сигнала цветности ([/, V).
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
