Прокис Дж. Цифровая связь (2000) (1151856), страница 24
Текст из файла (страница 24)
3.4.2 и обозначена как энтропийное кодирование. 101 Таблица 3.4.6. Энтропия выхода оптимального неравномерного квантователя гауссовской случайной величины 1Макс, 1960) Я Энтропия Искажения (бит/отсчет) бит/символ) 10! /3„,„ 1,0 1,911 2,825 3,765 4,730 -4,4 — 9,30 -14,62 — 20,22 — 26.02 Из этого обсуждения мы заключаем, что качество квантователя можно анализировать, когда известна ФПВ непрерывного выхода источника. Оптимальный квантователь с Е = 2" уровнями обеспечивает минимальное искажение /)(Я), где А =1од, Е бит/отсчет. Такого уровня искажений можно достичь простым представлением каждого квантованного отсчета Я битами.
Однако возможно более эффективное кодирование. Дискретные выходы квантователя характеризуются рядом вероятностей 1р„~, которые можно использовать для расчета эффективных неравномерных кодов для выхода источника (энтропийное кодирование). Эффективность какого-либо метода кодирования можно сравнить с функцией искажение-скорость или, что эквивалентно, с функцией скорость-искажение для дискретного времени и непрерывных амплитуд источника, характеризуемого данной ФПВ. Если мы сравним характеристики оптимального неравномерного квантователя с функцией искажение-скорость, мы найдем, например, что для искажения в — 26 дБ энтропийное кодирование требует скорость на 0,4 бит/отсчет больше, чем минимальная скорость, даваемая (3.4.8), а простое блоковое кодирование каждого символа требует скорость на 0,68 бит/отсчет больше, чем минимальная скорость.
Мы также видим, что функция искажение-скорость для оптимального равномерного и неравномерного квантователей гауссовского источника асимптотически приближается к наклону — 6 дБ/бит для больших Я. !02 3.4.3. Векторное квантование В предыдущих разделах мы рассмотрели квантование выходного сигнала непрерывного источника для случая, когда квантование выполняется последовательно по отдельным отсчетам, т.е. скалярное квантование.
В этом разделе мы рассмотрим совместное квантование блока символьных отсчетов или блока сигнальных параметров. Этот вид квантования называется блоковым или векторным квантованием. Оно широко используется при кодировании речи в цифровых сотовых системах связи. Фундаментальный результат теории искажения заключается в том, что лучшую характеристику можно достичь векторным, а не скалярным квантованием, даже если непрерывный источник без памяти.
Если, кроме того, отсчеты сигнала или параметры сигнала статистически зависимы, мы можем использовать зависимость посредством совместного квантования блоков отсчетов или параметров и таким образом достичь большей эффективности (более низкой битовой скорости) по сравнению с той, которая достигается скалярным квантованием. Проблему векторного квантования можно сформулировать так.
Имеем и-мерный вектор Х = (х„х, . х„) с п вещественными, непрерывными амплитудами компонент (х,, 1</г <и), которые описываются СФПВ р1х„х, х„). Путем квантования вектор Х превращается в другой л-мерный вектор Х с компонентами (х„, 1<1 <л). Выразим операции квантования оператором ф.), так что Х = О(Х), (3.4.31) 4 х„ Т Э ° ' ° )+ в, х, — ° — — (- — °вЂ” ° — ~ ° ( — ° — - ° Т Рис. 3.4.3. Пример квантования в двухмерном пространстве В общем, квантование п-мерного вектора Х в и-мерный вектор Х ведет к ошибке квантования или искажению Ы(Х,Х). Среднее искажение по ряду входных векторов Х равно ь с Р=~~) Р(ХнС,)Е~сМХ,Хь)/ХеС„1= ~> Р(Хе С,)) И(Х,Х„)р(Х)АХ', (3.432) Аы в=1 где Р(Хн Св)-вероятность того, что вектор Х попадет в ячейку Сн а р(Х) — СФПВ п случайных величин. Как и в случае скалярного квантования, мы можем минимизировать Р путем выбора ячеек (С„1<юг < Е) при заданной ФПВ р(Х).
Обычно используемая мера искажений — среднеквадратическая ошибка (12 — норма) определяется как 41,(Х,Х) = — (Х вЂ” Х)'(Х-Х) = — ,'~ (х, — х,)' (3.4.33) п пь, или, в более общем виде, взвешенная среднеквадратическая ошибка и ' В интегРале (3.4.32) и далее обозначение сТХ следУет понимать как ПЫхь — лиффеРенпиал объвма льы мерного пространства векторов Х, Х, где х„— элементы вектора Х (прп). 103 где Х вЂ” выход квантователя, когда на вход поступает вектор Х. В принципе векторное квантование блоков данных можно рассматривать как проблему распознавания образов, включающую в себя классификацию блоков данных через дискретное количество категорий или ячеек в соответствии с некоторым критерием точности, таким, например, как среднеквадратическая погрешность. Для примера рассмотрим квантование двумерных векторов Х = (х„х, ~. Двумерное пространство разделяют на ячейки, как показано на рис.
3.4.3, где мы имеем произвольно выбранные шестиугольные ячейки (С„). Все входные векторы, которые попадают в ячейку Сн квантуются в вектор Х», который на рис. 3.4.3 отмечен как центр шестиугольника. В нашем примере иллюстрируются Ь = 37 векторов, один для каждой из 37 ячеек, на которые разбито двумерное пространство.
Обозначим ряд возможных выходных' векторов как 1Х„1 /с<4 И> (Х,Х) =(Х вЂ” Х) Ж(Х вЂ” Х), (3.4.34) где %' — положительно определенная взвешивающая матрица. Обычно мера Ч' выбирается какрбратная по отношению к матрице ковариаций входных данных Х. Другая мера искажений, которая иногда используется, является частным случаем 1„ нормы и определяется как (3.4.35) Частный случай, когда р = 1, часто используется как альтернатива случаю р=2. Векторное квантование не ограничивается квантованием блока сигнальных отсчетов источника сигнала. Его можно использовать для ' квантования ряда параметров, извлеченных из данных.
Например, при линейном кодировании с предсказанием (ЛКП), описанном в разделе 3.5.3, параметры, извлеченные из сигнала, являются коэффициентами предсказания, которые являются коэффициентами для всеполюсной фильтровой модели источника, который генерирует наблюдаемые данные. Эти параметры можно рассматривать как блок и квантовать как блок символов, используя некоторую подходящую меру искажений. В случае кодирования речи подходящей мерой искажений, которую предложили Итакура и Саити (1986, 1975), является взвешенная среднеквадратическая ошибка, где взвешивающая матрица Ж выбрана как нормированная матрица автоковариации Ф наблюдаемых данных.
При кодировании речи альтернативным рядом параметров, которые могут быть квантованы как блок и переданы к приемнику, могут быть коэффициенты отражения (см. ниже) ~а„, 1<1<и~. Еще один ряд параметров, которые иногда используются для векторного квантования при линейном кодировании с предсказанием речи, содер>кит логарифмические отношения (>я), которые выра>каются через коэффициенты отражения г, =!08 "", 1<1 <и. (3.4.36) г>н Теперь вернемся к математической формулировке векторного квантования и рассмотрим разбиение»-мерного пространства на ь ячеек 1С„, 1< к < Т,~ с точки зрения минимизации среднего искажения'по всем Т,-уровневым квантователям. Имеется два условия для минимизации.
Первое заключается в том, что оптимальный квантователь использует селекцию по правилу ближайшего соседа, которое можно выразить математически как а(Х) = Х„, если, и только если В(Х,Х,) <г>(Х,Х,)„ /г~у„1< у <Х. (3.4.37) Второе условие, необходимое для оптимизации, заключается в том, что каждый выходной вектор Х„выбирается так, чтобы минимизировать среднее искажение в ячейке Сь Другими словами, х, — это вектор в С~, который минимизирует В„= Е(Ы(Х„Х) ! Х ~ С,) = ~ а'(Х,Х)р(Х)аХ.
(3,4.38) Вектор Х, который минимизирует В~„назван пелтроидом ячейки. Таким образом, эти условия оптимизации определяют разбиение л-мерного Г04 Я = бит/отсчет, Н(Х) (3.4.39) ф П где Н(Х) — энтропия квантованного выходФ источника, определяемая как Н(Х) = — ~ р(Х,) 1о8, Р(Х,) . Ф=! Для данной средней скорости л минимально достижимое искажение Р„(Я) = Щ1п ЕИ(Х, Х)), (3.4.4 1) поо где А > Н(Х'у/п н минимум в (3.4.41) берется по всем возможным отображениям ЯХ). В пределе, когда размерность л стремится к бесконечности, получаем В(Я) = 1лп В„(Я), (3.4.42) где /3(Е) — это функция искажение-скорость, которая была введена в предыдущем разделе.
Из этого изложения очевидно, что функция искажение-скорость может быть как угодно приближена к пределу путем увеличения размерности и векторов. Изложенный выше подход приемлем в предположении, что СФПВ р(Х) вектора данных известна. Однако на практике СФПВ р(Х) данных может быть неизвестна. В этом случае, возможно адаптивно выбрать квантованные выходные векторы с использованием ряда обучающих векторов Х(т). Конкретнее, предположим, что мы имеем ряд из М векторов, причем М намного больше, чем /.
(М»С). Итеративный групповой алгоритм, названный алгоритмом К средних, где в нашем случае К=А, может быть применен к обучающим векторам. Этот алгоритм итеративно делит М обучающих векторов на Е групп так, что два необходимых условия оптимальности выполняются.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
