Кловский Д.Д. Теория электрической связи. Сборник задач и упражнений (1990) (1151854), страница 15
Текст из файла (страница 15)
Величину )(Х, У) можно представить твк; <(Х, У) =й(Х) — й(Х(У) =й(У) — й(У!Х). (4.21) Здесь й(Х), й(У) — соответственно дифференциальная энтропия на отсчет процесса Х(<) и У(<); й(Х(У) = — ( ( ш,(х,у) )опш,(х!у)г<хву — условная дифференциальная энтропия отсчета Х(<) при известном отсчете У(<); й (1'<Х) = — ) ) шз (х, у) <ов ш, (у)х) пхг<у (4.23) — условная дифференциальная энтропик отсчета У(0 при взвсстном отсчете Х(1). Эпсилон-энтропией Н (Х) непрерывного источника, или собственной инфор.
мзцией в одном отсчете процесса Х(<), будем называть минимальное количество внформзции, необходимое для воспроизведения сигнала Х(<) по сигналу Х'(<) с допустимой дисперсией ошибхи о': Н, (Х)Х') = ппп ! [Х, Х ) .== й (Х ! Х ) — 1ой Уйлепс (4. 24) Нв(Х(Х') — зто эпсилон-энтропия на один отсчет при условии, что отсчеты сиг. нала фиксированы; й(Х)Х') — дифференциальная энтропия отсчета сигнала пря условии, что отсчеты сигнала фиксированы Если источник выдает неззвиснмые отсчеты непрерывного сообщения дн.
скретно во времени, то его эпсилон-производнтельность Н (Х(Х) =- опН (Х!Х ) = оп [й(Х!Х ) — 1оу )Г 2леоз[ где ов — число отсчетов в единицу. времени. При непрерывном времени Н (Х(Х ) = 2 Рс [й (Х1Х ) — !оя $ 2лео,',[ Избыточность непрерывного стационарного источника ни = ! Не (Х)Х )/Не (Х)мввс 4.3.1. Вычислить количество информации, содержащееся в одном отсчете непрерывного сообщения, создаваемого стационарным источником без памяти при абсолютно точном его .воспроизведении.
Таблица 412 Вариаат 1а :.6 ( 100 70 1 0,4 64 120 О.Т ( ит мВт и~а, МВТ Р,.!О-т, Гц 90 0,4 40 0,9 20 100 0,4 0,8 100 90 1О 0.5 50 40 0,7 !О Таблица 410 1а Вариант 3 300 2 300 4 70 1 70 4 100 1Е 200 мВт К Таблица 4.13 Варваат Рт, мВт Р 1О 1О 60 90 90 40 40 10 90 30 30 50 Та блица 4.11 Таблица 4,14 75 4.3.2. Найти дифференциальную энтропию гауссовского слу- чайного процесса с диспероией от. 4.8.3. Показать, что условная диФференциальная энтропия ста- ПИОНар НОГО ГауССОВСКОГО СЛуЧайНОГО ПрОцЕССа ( ! ир), тсрого зависит только от одного предшествующего отсчета (мо- дель марковского процесса с дискретным временем), определяется формулой Ь(Х!Хир) = 1ой~'2пво'(1 — У), где Я вЂ” нормированная корреляционная функция случайного про- цесса.
4.3.4, Гауссовский случайный процесс с нулевым математиче- СКИМ ОжнлаН~ИЕМ И ДИОПЕРСИЕй па ПРОХОДНт ЧЕРЕЗ ЛИНЕйНЫй УСНЛИ- тель с коэффициентом усиления К. Определить прпраацеине диф- ференциальной энтропии выходного сигнала по сравнению с вход- ным по данным, приведенным л табл. 4.10. 4.8.3. Среррнить дифференциальные энтропии гауссовского процесса и процесса, равномерно распределенного на интервале ( — а, а), если их дисперсии одинекоеы. 4.3.б, Поканалусвязи передается сигнал Х(1), представляющий собой гауссовский случайный процесс с нулевым, математическим ожиданием и дисперсией аа,. В канале действует независимый от сигнала гауссовский шум М(1) с нулевым математическим ожиданием и д~исперсией оа . Найти дифференциальную энтропию входного и выходного сигналов, а также условные дифференциальные энтропии 11(Х(У) и 14(У(Х) по данным, Приведенным в табл.
4.1~1. 4.3.7. Определить эпсилон-энтропию непрерывного источпика при фиксированной пионероки шума воспроизведения. 4.3.8. Найти максимально еозможкое значение эпсилон-энтропии при заданной средяей мощности сигнала Р, и средней моациости шума воспроизведения (канала) Р . 74 4.3.У. Показать, что при фиксированных с!редких мощностях сигнала Р, и шума Р максимально возможная эпсилон-производительность источника определяерся соотношепнем Н'(Х) .,= =пи1ой~р при диокретном времена и Н', (Х) „,=Р,1оц'р при непрерывном времени. 4.8.10. Непрерывный сигнал непрерывного времени Х(1) на выходе источника имеет равномерное распределение с дисперсией а' .
Найти эпсилон производительность источника, если полоса сигнала Р„а дисперсия наума воспреизведения а' . На сколько изменится эпсилон производительность источника, если ои начнет выдавать сипнал с теми же параметрами, но с гауссовским распределением? Числовые данные приведены в табл. 4.12. 4.8.11. Найти избыточность источника, выдающего непрерывное сообщение с ~равномерным распределепием и независимыми отсчетам~я, при мощности сненала Р, и отношении сигнал-шум в канале р. 4.3.12. Решить задачу 4.3.11 для числовых данных, приведенных е табл.
4.13. 4.8.18. Определить избыточность непрерывного гауссовского источника с памятью прв отношении сигнал-шум восюронзведепия, равном 10, и значениях нормированной корреляционной функции случайного процесса, ириведенных а табл. 4.14. 4.4. КОЛИЧЕСТВО И СКОРОСТЬ ПЕРЕДАЧИ ИНФОРМАЦИИ ПО НЕПРЕРЫВНОМУ КАНАЛУ. ПРОПУСКНАЯ СПОСОБНОСТЬ НЕПРЕРЫВНОГО КАНАЛА Если на вход непрерывного канала поступил сигнал ()(1), а в канале действует адднтивная помеха У(1) так, что принимаемое колебание 2(!) =()(О +Ж(Г), то условная дифференциальная энтропия помехи й(2[(1) 4 й(Л) Поэтому (4 28) 1((7, 3) =й(2) — й(%! Скорость передачи информации по непрерывному каналу с дискретным временем Р(С, 2) =о [й(3) — й(У)], (4 29) где рк=2Е, — число отсчегов сигнала, передаваемое а одну секунду по каналу с полосой Р„ Пропускной способностью С непрерывного канала с заданным шумом н э, будем называт~ предельное значение скорости передачи пнфсрчацнн (4 29), до стигаемое прн вариации всевозмо кных ггсточникоэ на входе Прн адднтнвноч шуме в канале С=р, шах[а(2) — й()У)] (4 ЗО) Применительно к непрерывночн источнику основную теоречн оптимального кодирования К Шеннона мо кно сформулировать так если эпсилон-производительность источника меньше пропускной способности канала Н'„(А) (С, то существует способ кодирования н декодирования, при котором с вероятность о, сколь угодно близкой к единице, средняя мощность шума восцроизведення меньше заданной величины Рл Еглн О'э(А) )С, такого способа нет Максимальный объем информации, который может быть передан по непрерывному каналу с пропускной способностью С, (4 311 )г"„=Г С, где 7„— время использования канала Задачи 4.4.!.
По каналу связи передается сигнал 5((), представляющий собой гауссовский случайный процесс с нулевым математическим ожидав~нем, дисперсией о'=8 мВт, равномсрным энергетическим спектрам )((з в полосе частот канала Р=3100 Гц. В канале действует независимая от сигнала флуктуационная помеха типа белый шум с энергетическим спектром 7/э — — 3,22 10 — ' Вв/Гц, гауссовским распределением и нулевым математическим ожидав~нем Определить среднее на один отсчет сигнала количество информации, переданлюе по каналу. 4,4.2. Решить задачу 4.4 1 для вариантов числовых значений величин, приведенных в табл. 4 15. 4А3. С какой скоростью передается информация по каналу, если на его вход поступает о„=100 независимых отсчетов сигнала 76 Таблица 415 Вариант го ок мВт Уо, мкВт/Гц Р, кГц 8 О,З 7 !О 0,7 2 4 0,2 5 п2 7 8 9 0,2 0,7 5 3 2 0,8 9 10 1 4 б 0,5 6 0,7 9 в секунду.
Сигнал 5(!) распределен по гауссовскому закону, т,= =0 и о',=2,8 Вт. В канале действует аддитивный гауссовский шум с т„=О и с' =0,4 Вт. 4.4.4. Решить задачу 4.4.3 для вариантов числовых значений величин, при~веденных в табл. 4.18. Таблица 416 гэ Вариант ЗОО 2,9 0,2 900 3,1 О,б 200 0,3 500 3,0 0,5 900 З,З 0,6 300 1,3 1 900 5,8 0,5 400 1,1 О,! 1000 1,8 0,3 100 2,0 0,2 Пч о'„Вт и', Вт Таблица 4!7 го Ввряаят 2 1 0,1 1О 7 0,2 4 9 0,9 1 7 0,4 7 5 0,9 !О 7 0,5 3 2 0,2 Р, кГц Р„мВт ,Ум чкВт/Гц 5 5 0,6 8 О,З 77 4.4.5.
Показать, что при заданном ансамбле входных сигналов и фиксированной дисперсиями помехи скорость передачи инфор~маци~и по непрерывному каналу будет иметь наименьшее значение при гауссовском шуме в канале. 4.4.6. Найти пропускную спасо!бнасть га|уссовского канала неп~рерывного ~времени, если Р— полоса канала; Р, и Р— фиксированные средние мощности сигнала и шума в канале, которые считаются независимыми. 4.4.7. Найти пропускную способность гауссовского канала, имеющего полосу Р=3,! кГц, если на вход канала поступает сигнал, мощность которого Р,=! мВт, а в канале действует белый шум со спектральной плотностью мощности /н'э=10-т Вт/Гц. 4А.8. Решить задачу 4.4.7 для вариантов числовых значений величин, заданных в табл.
4.17. Таблица 418 !о Варна»т 1 8 !о 1Π— та 2 1О 20 !О р с-т А, Вт1Гц Р, кГц Уо, Вт/Гц 9 2 90 1О тз 2 4 20 10 — 'т 6 7 60 10 10 5 100 1Π— тт 9 2 90 10 — 1» 4 4 40 1Π— т» 3 8 20 1О— 5 9 50 10 — ть (5.1) !о В»р»а»т 1 6 9 6 10 2 7 2 А, Вт/Гц а, с Р, кГц Ую!0-', Вт/Гп и» =! — (1ои К) Дл 1ои т), (5.3) Варвант !о 9 6 20 7 5 20 9 1О 30 8 3 25 10 6 28 Рс, ыкнт Р, кГц д град ! 4 18 7 4 30 6 !О 24 6 8 22 5 1О 27 78 79 4.4.9. Определить максимально возможную величину пропускной способности гауссовского канала при неограниченной полосе.