Прокис Дж. Цифровая связь (2000) (1151856), страница 23
Текст из файла (страница 23)
Функция искажение-скорость, соответствующая (3.4.11), равна Р'(Л) = — 2 "" """. 1 (3.4.12) 2ле Следовательно, функция скорость-искажение для произвольного источника без памяти с непрерывной амплитудой ограничена сверху и снизу: Р (Р) < Я(Р) < Я,, (Р), и соответствующая функция искажение-скорость ограничена: — я( (3.4.14) Дифференциальная энтропия гауссовского источника без памяти 96 л,(Х) =-,' 1о8, 2леа„, (3.4.15) так что нижняя граница К (Р) в (3.4.11) уменьшается до К,(Р).
Теперь, если выразить Р (Я) в децибелах и нормировать к а„=1 !или деля Р (Р) на а„], мы получаем из (3,4.12) 10!ой~о Ре(Я) = 6Я 6(й„(Х) й(Х)] (3.4.16) Таблица 3.4.1. Дифференциальная энтропия и сравнение скорости и искажений четырех распространенных ФПВ для моделей сигнала Яе(/7)-Л (В) /Э„(Л)-/7 (Л) /о(Х) бит/отсчет дБ ФПВ р(х) 1 -х /2е, — И к ~ГЗе, 1 2/Зе, * 1 — -~Г2!%! "/з /Яще — !,! е.Л!к!/2а. —,'!о8, 2леа„' —,' !о8, !2а„' —,' !о8, 2е'а„ ~; !о8,(4ле""а„' /3) Гауссовское Равномерное Лапласа 0,255 1,53 0,104 0,62 Гамма 0,709 4,25 Следовательно, эквивалентный дискретный во времени гауссовский источник является источником без памяти. Функция скорость-искажение для каждого отсчета дается (3.4.6).
Поэтому функция скорость-искажение для белого гауссовского источника с ограниченной полосой частот в бит/отсчет равна 7 — 56 97 нли, что эквивалентно, 101о8 о = б~й,(Х) /<(Х)] дБ = 6(Я (Р) /1*(Р)] дБ (3 4.17) к( "Ре(Я) Соотношения в (3.4.16) и (3.4.17) позволяют сравнивать нижнюю границу искажений с верхней границей, которая определяет искажения для гауссовского источника. Обратим внимание, что Р*(/<) также уменьшается со скоростью — бдБ/бит. Мы должны также отметить, что дифференциальная энтропия Й(Х) ограничена сверху величиной й„(Х), как показано Шенноном (1948Ь). В табл.3.4.1 даны четыре типа ФПВ, которые являются моделями распределения, обычно используемыми для источника сигнала. В таблице даны значения дифференциальной энтропии, различия в скорости (бит на отсчет) и различия в искажении меокду верхней и нижней границами.
Заметим, что гамма-распределение показывает самое большое отклонение от гауссовского. Распределение Лапласа наиболее близко к гауссовскому, а равномерное распределение занимает второе место по близости среди ФПВ, показанных в таблице. Эти результаты дают некоторое представление о различии мех<ду верхними и нижними границами искажений и скорости. Перед завершением этого раздела рассмотрим гауссовский источник с ограниченной полосой частот со спектральной плотностью ф(у) - ~ ° /21У (~ ~ ~- 'й') (3.4.18) (О (!~/>5). Если выход этого источника дискретнзирован с частотой Найквиста, его отсчеты некоррелированны и, так как источник гауссовский, они также статистически независимы.
2 Р„(.0) = 11' 1од2 —" (О < /7 < и„) . /3 .Соответствующая функция искажение-скорость я( (3.4.19) (3.4.20) Выражая в 'децибелах и нормируя к а„2, получаем 101о8Е>к(Р)/и, = — ЗЯ/К. (3.4.21) Большое количество случаев, в которых гауссовский процесс не является ни белым, ни с ограниченной полосой, было рассмотрено Галлагером (1968) и Гобликом и Холсингером (1967). 3.4.2. Скалярное квантование При кодировании источника квантователь может быть оптимизирован, если известна ФПВ уровней сигнала на входе квантователя. Например„предположим, что последовательность (х„) на входе квантователя имеет ФПВ р(х) и 2'.=2 — желаемое число 22 уровней квантования. Необходимо рассчитать оптимальный скалярный квантователь, который минимизирует некоторую функцию ошибки квантования д =х — х, где х— квантованное значение х.
Для дальнейшей разработки предположим, что /'(х — х) определяет желательную функцию ошибки. Тогда искажение, возникающее за счет квантования сигнальных уровней, равно О = ~ /'(х — х)р(х)!/х. (3.4.22) В общем, оптимальный квантователь минимизирует /3 путем оптимального выбора выходных уровней и входного диапазона для каждого выходного уровня.
Эту оптимизационную проблему рассматривали Ллойд (1982) и Макс (1960), и полученный оптимальный квантователь назван квантователем Ллойда — Макса. У равномерного квантователя выходные уровни определяются как х„= —,' (2А-1)/ь для амплитуды входного сигнала в диапазоне (Й вЂ” 1)Л < х < М, где Л вЂ” размер шага квантования. Если квантователь симметричен (относительно нуля) с конечным числом уровней, среднее искажение (3.4.22) может быть выражено в виде Ь! 2-! /7= 2 ~! 1 /(! (2/с — 1)Л вЂ” х)р(х)с3х+21 /(! (2А — 1)/Ь вЂ” х)р(х)йх. (3.4.23) ~2-12Ь ~!.12-!)Ь и=! В этом случае минимизация /3 выполняется с учетом параметра размера шага /ь.
Путем дифференцирования В по Л получаем !. и-! ~~~ (2Ь -1) ) /'(2 (2А — 1)21 — х)/2(х)!/х+ (/, — 1) ) /'(2 (Х вЂ” 1)2ь — х)/2(х)!/х = О, (3,4 24) 2=! где /'(х) означает производную /'(х). При выборе критериальной функции ошибки Ях) можно получить численное решение (3.4.24) для оптимального размера шага на компьютере для произвольной заданной ФПВ р(х).
Для среднеквадратичного критерия ошибки, кода/(х)=х, Макс(1960) рассчитал оптимальный размер шага 2ь„, и минимальное 2 значение среднеквадратической ошибки, когда ФПВ /2(х) является гауссовской с нулевым средним и единичной дисперсией. Некоторые из этих результатов даны в табл. 3.4:2. Таблйца 3.4.2. Оптимальные размеры шага при равномерном квантовании гауссовских случайных величин Число выходных Оптимальный уровней размер шага Л„, Минимум СКО 10!8 Р„„„(дБ) МИН 1,596 0,9957 0,5860 0,3352 0,1881 0,3634 0,1188 0,3744 0,01154 0,00349 2 4 8 16 32 — 4,4 — 9,25 — 14,27 — 19,38 — 24,57 уравнениями: 1'(х, — х,) = ~(х„„- х„), й = 1, 2, ..., Е -1, (3.4.26) ) ' ~'(х„— х)р(х)Их=О, /с=1,2, ...,Х. (3.4.27) Как частный случай мы снова рассмотрим минимизацию среднеквадратнческих значений искажений.
В этом случае, Д~х) = х', и„следовательно, из (3.4.26) следует х, —,' (х, + х„,), lг =1, 2, ..., Х вЂ” 1, (3.4.28) что является среднеарифметическим х„и х„„. Соответствующие уравнения, определяющие (х„), ~ (х„— х)р(х)дх=О, юг=1,2, „1.. (3.4.29) / -! Таким образом, х„является пеитроидом области р(х) между х„, и х„, Эти уравнения могут быть решены численно для произвольных ФПВ р(х). Таблицы 3.4.3 и 3.4.4 дают результаты оптимизации Макса (1960) для оптимального четырехуровневого и восьмиуровневого квантователя сигнала, распределенного по Гауссу с нулевым средним и единичной дисперсией. Видим, что минимальная среднеквадратическая ошибка Р;„уменыпается немного больше, чем на 5 дБ, при каждом удвоении числа уровней Е. Следовательно, каждый бит, который используется равномерным квантователем с оптимальным размером числа Л,„„ для гауссовского входного сигнала уменьшает искажение более чем на 5 дБ. Если соблюдать условие, что квантователь равномерный, искажение можно дополнительно уменьшить.
В этом случае мы выберем выходной уровень х = х„, когда амплитуда входного сигнала находится в диапазоне х„, < х <х,. Для квантования с Х уровнями крайними точками являются х, = с и х, = со. Результирующее искажение Р=~> ) Дх — х)р(х)сй (3.4.25) ч-! снова минимизируется путем оптимального выбора (х,) и 1х„). Необходимые условия для минимальных искажений можно получить дифференцированием Р по (х„) и 1х,).
Результат такой оптимизации выражается двумя Таблица 3.4.3. Оптимальный 4-уровневый квантователь для гауссовской случайной величины — 1,510 — 0,4528 0,4528 1,510 — 0,9816 0,0 0,9816 0„„„=0,1175 10 18 0„„„= — 9,3 дБ Таблица 3.4.4. Оптимальный 8-уровневый квантизатор для гауссовской случайной величины (Макс, 1960) Уровень /~ х„ х„ й,„„=0,03454 10 18 й„„. = — 14,62 дБ В таблице 3.4.5 сравниваются минимальные среднеквадратические искажения для гауссовской амплитуды сигнала в равномерном и неравномерном квантователях. Из этой таблицы мы видим, что разница в характеристиках двух типов квантователей относительно мала для малых значений Я (меньше чем 0,5 дБ для Я <3), но она растет с ростом А.
Например: при Я=5, неравномерный квантователь примерно на 1,5 дБ лучше равномерного. Таблица 3.4.5. Сравнение оптимальных равномерного н неравномерного квантизаторов для гауссовской случайной величины (Макс, 1960; Паез и Глиссон, 1972) бит/отсчет Равноме нос(дБ Не авноме ное(дБ) — 4,4 — 9,25 — 14,27 — 19,38 — 24,57 — 29,83 — 35,13 Поучительно построить кривые зависимости минимальных искажений от битовой скорости Я =1од, Х бит на отсчет (на символ) источника для равномерного и неравномерного квантователей. Уровень х 1 2 3 4 — 1,748 -1,050 — 0,5006 0 0,5006 1„050 1,748 -2,152 — 1,344 — 0,7560 — 0,2451 0,2451 0,7560 1,344 2,152 — 4,4 — 9,30 — 14,62 -20,22 — 26,02 -31,89 -37,81 Э Эти кривые даны на рис.
3.4.2. Функциональную зависимость искажений О от битовой скорости Я можно выразить' как к1(Я) — функцию искажение-скорость. Мы видим, что функция искажение-скорость для оптимального неравномерного квантователя лежит ниже, чем для равномерного квантователя. Поскольку квантователь превращает непрерывную амплитуду источника в дискретную, мы можем трактовать дискретные амплитуды как символы, скажем х = (х„1 < 1с < Е~ с соответствующими вероятностями (р„~. Если отсчеты сигнала амплитуды статистически независимы, то на выходе квантователя имеем дискретный источник без памяти, и, следовательно, его энтропия Н(А')=-Х р 1оа р (3.4.30) ь ! ватель -15 е -20 и = 1од,А битзотсчет Рис, 3.4.2.
Кривые зависимости искажение-скорость дяя гауссовского источника без памяти с дискретным временем Для примера: оптимальный четырехуровневый неравномерный квантователь для распределенной по Гауссу амплитуды приводит к вероятностям р, = р4 — — 0,1635 для двух внешних уровней и р, = р, = 0,3365 для двух внутренних уровней. В этом случае энтропия дискретного источника Н(Х) = 1,911 бит/символ.
Следовательно, при помощи энтропийного кодирования (кодирование Хаффмена) блоков выходных символов мы можем достичь минимальных искажений ( — 9,30 дБ) посредством 1,911 бит/символ вместо 2 бит/символ. Макс (1960) определил энтропию для дискретных символов источника после процесса квантования. Таблица 3.4,6 показывает значение энтропии при неравномерном квантовании. Зависимость 1т(В) для этого случая также показана кривой на рис.