Тема 4. Формулы Шеннона (Материалы лекций), страница 3
Описание файла
Файл "Тема 4. Формулы Шеннона" внутри архива находится в папке "Материалы лекций". DJVU-файл из архива "Материалы лекций", который расположен в категории "". Всё это находится в предмете "теоретические основы систем управления и передачи информации (то суипи)" из 9 семестр (1 семестр магистратуры), которые можно найти в файловом архиве МАИ. Не смотря на прямую связь этого архива с МАИ, его также можно найти и в других разделах. Архив можно найти в разделе "лекции и семинары", в предмете "теоретические основы систем управления и передачи информации (то суипи)" в общих файлах.
Просмотр DJVU-файла онлайн
Распознанный текст из DJVU-файла, 3 - страница
С другой стороны, когда С'/)г' -+ О, моделей канала мы можем судить о качестве кода при получении жестких и мягких решений (детектора) в цифровых системах связи. Третья модель канала сфокусирована на нахождении пропускной способности в бит!с непрерывного (по входу и выходу) канала. В этом случае мы предположили ограничение полосы частот канала, что сигнал искажается в канале аддитивным белым гауссовским шумом и что средняя мощность передатчика ограничена. При этих условиях мы получили результат, даваемый (7.1.31).
Главное значение формул для пропускной способности канала, данных выше, это то, что они служат верхней границей скорости передачи для реализуемой связи по каналу с шумом. Фундаментальная роль, которую играет пропускная способность канала, определена теоремами кодирования в канале с шумами, данными Шенноном (1948 а). Теоремы кодирования в канале с шумами Существуют кодеры канала (и декодеры),которые делают возможным достичь надежную связь со столь малой, насколько желательно, вероятностью ошибки, если скорость передачи Я <С, где С вЂ” пропускная способность канала. Если Я >С„то нет возможности обеспечить стремление вероятности ошибки к нулю каким угодно кодом.
В следующем разделе мы исследуем выгоду кодирования для моделей каналов с аддитивным шумом, описанных выше, и используем пропускную способность канала. чтобы судить о доступном качестве реального кода. 7 1.3. Пропускная способность канала, достигаемая при помощи ортогональных сигналов 1-[1-фу)1 '<1 (7.1.39) для всех у, мы можем использовать эту границу для у<у„т.к. она плотнее, чем единичная граница. Тогда (5.2.21) можно оценить верхней границей так: Р < ) е-~» ~ ~ и г/у+ ) е «Де~+-~ ~)/~сну (7 1 40) ,/2п,/2к Величину у, которая минимизирует эту верхнюю границу, можно найти дифференцированием правой части (7.1.40) и приравниванием производной нулю. Зто выполняется легко и решение таково: е ~Д=М (7.1.41) или, что эквивалентно, В разделе 5.2 мы использовали простую объединенную границу, чтобы показать, что для ортогональных сигналов вероятность ошибки можно сделать сколь угодно малой путем увеличения числа сигналов М при условии, что ~з / М >21п2.
Мы указывали, что простая объединенная граница не дает наилучшую нижнюю границу для ОСШ на бит. Проблема в том, что верхняя граница, использованная для аппроксимации Ц(х) не очень плотная при малых х. Альтернативный подход сводится к использованию двух различных верхних границ для (3(х) в зависимости от величины х. Начиная с (5.2.21), мы видели, что 1 — (1-(31у)1 <(М вЂ” 1)фу)< Ме ~ . (7.1.38) Зто как раз объединенная граница, которая плотная, когда у велико, т.е. у > у„где у, зависит от М. Если у мало, объединенная граница превышает единицу для больших М.
Поскольку 9.4. Теорема Шеннона-Хартли о пропускной способности канала Шеннон (3) показал, что пропускная способность канала С с алдитивным белым гауссовым шумом (адсййче чч(й(ге бацая!ап по1зе — А%гбХ) является функцией средней мощности принятого сигнала 5, средней мощности шума ЛГ и ширины полосы пропускания И'.
Выражение для пропускной способности (теорема Шеннона-Хартли) можно записать следующим образом: С = И'!оя (+в (9.2) (9.3) Подставив выражение (9.3) в уравнение (9.2) и немного преобразовав последнее, по- лучаем следующее: С ( 5 ~ л'о"'г (9.4) Если битовая скорость передачи равна пропускной способности канава (Я = С), то с помощью тождества (3.30) можно записать следующее: (9.5) поС )Уо Г О Кп и пм ппи иппппичпппиии мопчпяоИИ И КОЛИООВання Если И' измеряется в герцах, а логарифм берется по основанию 2, то пропускная способность будет иметь размерность бит/с.
Теоретически (при использовании достаточно сложной схемы кодирования) информацию по каналу можно передавать с любой скоростью )г ()Г < С) со сколь угодно малой вероятностью возникновения ошибки. Если же )г> С, то кода, на основе которого можно добиться сколь угодно малой вероятности возникновения ошибки, не существует. В работе Шеннона показано, что величины Я, У и )У устанавливают нределы скорости передачи, а не вероятности появления ошибки.
Шеннон [4) использовал уравнение (9.2) для графического представления доступных пределов производительности прикладных систем. Этот график, показанный на рис. 9.2, представляет нормированную пропускную способность канала С/Гч' в бит/с/Гц как функцию отношения сигнал/шум в канале. График, представленный на рис. 9.3, изображает зависимость нормированной полосы пропускания канала Иг/С в бит/с/Гц от отношения сигнал/шум канала. Иногда рис. 9.3 используется как иллюстрация компромисса между мощностью и полосой пропускания, присущего идеальному каналу.
Однако зто не совсем компромисс (5), поскольку мощность детектируемого шума пропорциональна полосе пропускания: С/Ит(бит/с/Гц) Рис. 9.2 Зависиткть нормированной пропускной способности канала от ЮЛт)т канала Ит/С (Гц/бит/с) Недссту сбпесть Рис. 9.3. Зависимость нормированной полаем пропусканип канала от ЗР/К канала 9.4. Теорема Шеннона-Хартли о пропускной способности канала Таким образом, уравнение (9.4) можно модифицировать следующим образом: (9.6,а) (9.6,б) — = — (2 — 1) . Еь ьУ сгя Уо С (9.6,в) иаэс (Гцьеитус) Асим !Я2 = Рис. 94.
Зависимость нормированной тиоси пропусканин ка- нала от Еййго 9.4.1. Предел Шеннона Существует нижнее предельное значение ЕглХ„при котором ни при какой скорости передачи нельзя осуществить безошибочную передачу информации. С помощью соот- ношения ! !и! (1 ь х) нх = в л -ь 0 можно рассчитать граничное значение Е~Ми г о к и пь мспт ппм испппьяоааиии модиляыии и кодиРОВания на рис.
9.4 представлен график зависимости 57с от еь9г„описываемой формулой (9.6,в); асимптотическое поведение этой кривой при С!И'-ь 0 (или ИгС -+ ) рассматривается в следующем разделе. Пусть х= — ( — ). 'Тогда, из уравнения (9.6,а), — = х!ойз(1+ х) С их Иг 1= — !ойз(1+х) ". /уо В предеяе, при С/И'-в О, получаем — = — = 0,693 Еь Не !о8 е (9.7) или, в децибелах, — = -1,6 дБ. Еь л/а 9.4.2. Энтропия Для разработки системы связи с определенной способностью к обработке сообщений нужна метрика измерения объема передаваемой информации.
Шеннон (3) ввел такую метрику Н, называемую энтропией источника сообщений (имеющего л возможных 0.4. Теорема Шеннона-Хаотпи о поопчскной способности канала Это значение Е~/Чв называется пределом Шеннона (ЗЬаппоп !нпй). На рис, 9.1, а предел Шеннона — это кривая зависимости Р, от Е~/Ч, при й-в . При Ев//Чв=-1,6 данная кривая скачкообразно изменяет свое значение с Р, = 1гх на Р, = О. В действительности достичь предела Шеннона невозможно, поскольку /г возрастает неограниченно, а с ростом /г возрастают требования к полосе пропускания и повышается сложность реализации системы.
Работа Шеннона — это теоретическое доказательство существования кодов, которые могут улучшить Р, или снизить требуемое значение Ев//Ч, от уровней некодировацных двоичных схем модуляции до уровней, приближающихся к предельной кривой. При вероятности появления битовой ошибки 10 ' двоичная фазовая манипуляция (Ь~пагу рЬазе-зЬ1й-)геу!п8 — ВРБК) требует значения Ев/Н„равного 9,6 дБ (оптимум некодированной двоичной модуляции). Следовательно, в данном случае в работе Шеннона указано, что теоретически, за счет использования кодирования, производительность можно повысить на 11,2 дБ по сравнению с некодированной двоичной модуляцией.
В настоящее время большую часть такого улучшения (почти 10 дБ) можно получить с помощью турбокодов (см. раздел 8.4). Оптимальную разработку системы можно наилучшим образом представить как поиск рациональных компромиссов среди различных ограничений и взаимно противоречивых требований. Компромиссы модуляции и кодирования, т.е. выбор конкретных схем модуляции и кодирования для наилучшего использования переданной мощности и ширины полосы, являются очень важными, поскольку имеется много причин для снижения мощности, а также существует необходимость экономии спектра радиочастот.
.