DAY_INF_LECTURES (1017134), страница 5

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 5)

Вероятность того, что источник пошлет оба эти сообщения, одно за другим, равна произведению вероятностей появления каждого из сообщений:

Р(а₁,а₂)= Р(а₁)Р(а₂).

При умножении двух величин их логарифмы складываются. Поэтому и количество информации должно выражаться логарифмической функцией. Ввиду широкого использования двоичных сигналов в вычислительной технике и связи, чаще всего используют логарифм по основанию два. При этом количество информации оказывается выраженным в битах. Если в примере с влюбленными вероятность ответов «Да» и «Нет» одинакова и, следовательно, составляет 0,5, то количество информации в одном ответе составляет 1 бит.

Ну а что если выбор надо осуществить не из двух сочетаний, а из множества? У древних индейцев Центральной Америки существовало узелковое письмо. Писали, завязывая узелки на веревке. Совершенно очевидно, что при таком способе письма можно использовать двоичный код: есть узелок в данном месте - единица, нет узелка - нуль. Если на каждом сантиметре длины веревки разместить по узелку, то метровая веревка будет нести 100 бит информации.

Еще один пример одного выбора из нескольких возможных. В 1943 году, англо-американские войска готовились к высадке на итальянский остров Сицилию, занятый фашистскими войсками. В это время в одной из тюрем США сидел очень влиятельный гангстер Лучано, выходец из Сицилии. Американская разведка вступила с ним в сговор, пообещав досрочное освобождение. В результате с самолета над Сицилией был сброшен вымпел - шелковый платок с вышитой на нем буквой L. Сицилийские мафиози, в то время не ладившие с немецко-фашистскими оккупантами, прекрасно поняли смысл сообщения: Лучано за союзников! Эффект был поразителен. Мафиози начали партизанскую войну против немцев.

Сейчас нас интересует не значимость для истории сообщения на вышитом платке, а лишь количество переданной информации. В английском алфавите 26 букв, добавим еще служебные знаки препинания-всего 32 знака. Значит, осуществлялся выбор одного из 32 знаков. Пример характерен тем, что при передаче любых телеграмм, на любом языке в приемном устройстве происходит выбор одной буквы из алфавита, который чаще всего содержит 32 знака.

Если вероятность появления каждого из знаков одинакова и, следовательно, составляет 1/32, то при передаче одного знака из 32 необходимо 5 двоичных разрядов:

I = H = log₂N = log₂32 = 5

В рассматриваемом случае вероятность появления каждого знака неодинакова, поэтому для подсчета энтропии H надо использовать формулу Шеннона, что дает (см. выше):

Н≈ 4.72 (бит)

Таким образом, для хранения и передачи информации, содержащий английский алфавит, достаточно 5 бит.

Перенумеруем все буквы алфавита по порядку. Буква L стоит на двенадцатом месте, и ее порядковый номер будет 12. Теперь для выбора этой буквы достаточно передать ее порядковый номер. Число 12, выраженное в двоичном коде, выглядит как 01100. Итак, сообщение гангстера Лучано содержало 5 бит информации.

В народном хозяйстве необходимо передавать значительно больше информации. Не вызовет удивления, например, такая телеграмма, переданная работником снабжения: «В феврале на Чукотку поступило 10000 грампластинок». Информация здесь такова: во-первых, февраль. Надо думать, поставки товаров подобного рода производятся ежемесячно, поэтому февраль надо обозначить цифрой 2. Отсюда определяем число двоичных разрядов, необходимых для передачи номера месяца: 4 (2⁴ = 16, имеется некоторая избыточность информации). Далее необходимо ввести код Чукотки. Пусть соответствующая организация поставляет товары в 120 краев и областей, причем Чукотке ввиду ее удаленности присвоен последний номер. Тогда для передачи кода Чукотки (120) потребуется 7 двоичных разрядов (2⁷ = 128). После кода области надо указать код товара. Если всего поставляется, например, 512 наименований товаров, то для обозначения грампластинок, скажем № 384, потребуется 9 разрядов (2⁹ = 512). И наконец, число грампластинок 10000 в двоичном коде займет 14 разрядов. Получаем следующую таблицу:

Полное сообщение требует 4+7+9+14=34 двоичных разряда. Спереди обычно добавляют несколько разрядов служебной информации - адрес, знак начала сообщения и т. д. Подобные таблицы называются шифрами и ключами к шифрам. Последовательность кодов и число разрядов каждого кода, указанные в таблице, должны быть и у отправителя, и у получателя сообщения, чтобы они имели возможность кодировать и декодировать телеграмму. На линии связи эти процессы автоматизированы, соответствующие устройства называют кодерами и декодерами.

АНАЛОГОВЫЕ СИГНАЛЫ.

АНАЛОГОВЫЕ И ДИСКРЕТНЫЕ ПРОЦЕССЫ.

Сообщение – это информация, выраженная в определенной форме и предназначенная для передачи от передатчика к приемнику текстов, фотографий, речи, музыки, телевизионных изображений и др. Информация (сообщение) передается в виде сигналов.

Чтобы сообщение было передано от источника к получателю, необходима некоторая материальная субстанция - носитель информации. Сообщение, передаваемое с помощью носителя, называется сигналом.

Сигнал – это физический процесс, распространяющийся в пространстве и времени и несущий в себе информацию. Сигнал может быть звуковым, световым, в виде почтового отправления и др. Наиболее распространен сигнал в электрической форме.

В общем случае сигнал - это изменяющийся во времени физический процесс. Такой процесс может содержать различные характеристики (например, при передаче электрических сигналов могут изменяться напряжение и сила тока).

Параметрами сигнала называются его характеристики, которые используется для представления сообщений.

В случае когда параметр сигнала принимает последовательное во времени конечное число значений (при этом все они могут быть пронумерованы), сигнал называется дискретным, а сообщение, передаваемое с помощью таких сигналов - дискретным сообщением. Информация, передаваемая источником, в этом случае также называется дискретной.

Если же источник вырабатывает непрерывное (аналоговое) сообщение (соответственно параметр сигнала - непрерывная функция от времени), сигнал называется непрерывным (аналоговым), а сообщение, передаваемое с помощью таких сигналов, - аналоговым сообщением

Пример дискретного сообщения - процесс чтения книги, информация в которой представлена текстом, т.е. дискретной последовательностью отдельных значков (букв). Примером непрерывного сообщения служит человеческая речь, передаваемая модулированной звуковой волной; параметром сигнала в этом случае является давление, создаваемое этой волной в точке нахождения приемника - человеческого уха.

Типичный пример аналогового сигнала - напряжение на выходе из микрофона при разговоре перед ним, пении или игре на музыкальных инструментах. Давление воздуха при звучании источника изменяется в небольших пределах относительно нормального атмосферного. Мембрана микрофона, прогибаясь под действием звукового давления, создает некоторое напряжение на выводах звуковой катушки микрофона. Это напряжение прямо пропорционально звуковому давлению, т.е. изменяется аналогично ему, откуда и происходит название «аналоговый сигнал».

>Аналоговый сигнал.

Аналоговые сигналы используют в телефонной связи, радиовещании и телевидении. Это проще технически, да и история развития радиотехники сложилась так, что первыми стали применяться аналоговые сигналы. Это никоим образом не относится к телеграфу, где всегда господствовала цифра.

При обычном разговоре мощность громких звуков человеческого голоса в 10 000 раз превосходит интенсивность слабых звуков.

При наличии шумов (в поезде метро, на аэродроме) слабые звуки не должны маскироваться шумом, чтобы их тоже можно было разобрать. Вот почему приходится напрягать голос в метро, кричать в ухо собеседнику на аэродроме, когда ревет двигателями реактивный лайнер.

При передаче аналоговых сигналов требуется значительно большее отношение сигнал-шум, чем при передаче двоичных цифровых сигналов.

Большим недостатком аналоговых сигналов является и то, что аналоговые сигналы нельзя регенерировать, поскольку заранее не известна их форма (известный сигнал незачем передавать!).

При использовании аналогового сигнала в междугородной телефонной линии связи качество связи часто было плохим. Объяснялось это тем, что слабый речевой сигнал при передаче по проводной телефонной линии необходимо было периодически усиливать через каждые 100 - 200 км. Гудят провода, шумят усилители, и каждый из этих источников помех все больше и больше искажает передаваемый сигнал.

Ввиду преимущества двоичных сигналов перед аналоговыми в настоящее время широко используются двоичные каналы для передачи аналоговых речевых сигналов. Внедрение подобных систем на междугородных линиях связи значительно улучшило качество связи.

ИЗМЕРЕНИЕ ОТНОШЕНИЯ СИГНАЛ – ШУМ.

Отношение наибольшей мгновенной мощности сигнала P_max к наименьшей P_min (динамический диапазон сигнала D_s) обычно измеряется в децибелах.

1 Бел – это такая разность уровней мощности, отношение которых равно 10 и соответственно десятичный логарифм этого отношения равен 1.

1 Децибел – это десятичная часть Бела.

(дБ)

Разница уровней в децибелах есть десять десятичных логарифмов отношения мощностей.

т.к. = - средняя мощность сигнала равна квадрату амплитуды сигнала;

= - средняя мощность шума равна квадрату амплитуды шума.

Характеристики

Список файлов лекций