evtiheeva_n_n__izmerenie_yelektricheskih _i_neyelektricheskih (1024282), страница 66
Текст из файла (страница 66)
5.22,6наподрядтребуемойрис.кратчайшегоимпульсысливаются. Однакоиспользование такогополоса спектра импульсногодлительностькакединицахпреодолима, затоегосигнала выгодполосычастот канала с в я з и .сигналат е м ш и р е , ч е м меньэлемента— импульсакратчайший элемент имеет длительность5.22,6,г/2, а н а р и с .кратчайшая длительностьгили паузы.т,в то в р е м яэлементасоставляет5 . 2 2 , в — д а ж е т / 3 . С л е д о в а т е л ь н о , д л я передачи сигналап о р и с . 5 . 2 2 , 6 т р е б у е т с я п о л о с а частот к а н а л а в д в о е м е н ь ш а я , ч е м д л ясигналовпорис.5.22,6,гивтроем е н ь ш а я , чем д л ясигналовпор и с .
5.22, в.Построение А Ц П и ЦАП рассмотрено ранее, в § 2.13.Отметим вз а к л ю ч е н и е , что к о д о в о ^ г м п у л ь с н а я м о д у л я ц и я находитш и р о к о е применение не т о л ь к о в с в я з и с проникновением ц и ф р о в ы хм е т о д о в в о в с е о б л а с т и т е х н и к и , н о и п о т о м у , ч т о к о д и р о в а н н ы е сигналыобладаютнаиболее в ы с о к о йустойчивость м о ж н о неограниченномыекорректирующиеп о м е х о у с т о й ч и в о с т ь ю . Этупомехоп о в ы ш а т ь , п р и м е н я я т а к называек о д ы , п о с т р о е н и е к о т о р ы х о с н о в а н о н а введен и и и з б ы т о ч н ы х с и м в о л о в в к а ж д у ю к о д о в у ю к о м б и н а ц и ю . Т а к и е коды получили распространение в т е л е м е х а н и к е и т е х н и к есвязи.5.3. КОЛИЧЕСТВЕННОЕ ОПРЕДЕЛЕНИЕ ИЗМЕРИТЕЛЬНОЙИНФОРМАЦИИИнформацию, получаемую от объектов к о н т р о л я(исследов а н и я ) , п е р е д а в а е м у ю по к а н а л а м с в я з и , о б р а б а т ы в а е м у ю и воспроизводимую приборами, можно определять количественно.
Количественнаяхарактеристика информации не зависит от ее физического содержания,о т ф и з и ч е с к о й п р и р о д ы с и г н а л о в , е е п е р е д а ю щ и х , и о т с п о с о б о в реализации приборов.В результате п р и е м а получателем с о о б щ е н и я о контр о л и р у е м о м или и з у ч а е м о м о б ъ е к т е , я в л е н и и , событии у него уменьша274ется с т е п е н ьнеопределенностиленности с л о ж и в ш е г о с ястатистическиеус в е д е н и й о н и х и л и с т е п е н ь неопреденегохарактеристикиобразаэтойизучаемого объекта. Имеютсястепенин е о п р е д е л е н н о с т и . Количествоми н ф о р м а ц и и , с о д е р ж а щ и м с я в сообщении, считаетсязначенийдвухстепеней неопределенности:1)доразностьполучениясообщения; 2) после получения с о о б щ е н и я .Приизмеренияхпроисходитизведение и н ф о р м а ц и изначений р а з л и ч н ы хотбор,непрерывныхсообщений,количествонеобходимомиться с оценкой количества информациит.е.
количественныхн е п р е р ы в н ы х ф и з и ч е с к и х в е л и ч и н . Н о ч т о б ы понять, к а к и м о б р а з о м оцениваетсядачепередача, о б р а б о т к а и воспронепрерывного характера, т.и н ф о р м а ц и и п р и перепредварительнопознаков дискретных сообщениях,е . в с о о б щ е н и я х о б о т д е л ь н ы х с о б ы т и я х и л и о д и с к р е т н ы х состоян и я х о б ъ е к т о в . И н ф о р м а ц и о н н ы е х а р а к т е р и с т и к и , н а й д е н н ы е д л я дискретныхсообщений, распространяютсяз а т е м на н е п р е р ы в н ы е сообщения.Количествосяобъект,винформацииспособныйдискретныхн и й , п р о н у м е р о в а н н ы х ч и с л а м и отщениинииотом,чтосообщениях.Пустьимеетп р и н и м а т ь к о н е ч н о е ч и с л о д и с к р е т н ы х состоя1 до п.
П р е д п о л о ж и м , ч т о в сообо б ъ е к т н а х о д и т с я в к а к о м - т о к о н к р е т н о м состоя(7-м), с о д е р ж и т с я т е млее неопределеннымибольшеколичествабыли сведенияинформации, чемоб объекте добоп о л у ч е н и я сообщ е н и я , т . е . ч е м м е н ь ш е б ы л а а п р и о р н о и з в е с т н а я п о л у ч а т е л ю вероятность р { т о г о , ч т ообъектп р и м е т г'-е с о с т о я н и е . И т а к , п о л о ж и м , ч т околичество информацииличиной1/р.симость£f.Далее3 .установим,отв д а н н о м с о о б щ е н и и о п р е д е л я е т с я векакойхарактер должнаиметьзавиЭту з а д а ч у р е ш а ю т н а о с н о в е с л е д у ю щ и х соображений.Е с л и н е к о т о р о е с л о ж н о е с о о б щ е н и е э к в и в а л е н т н о н е с к о л ь к и м простым,взятым вместе,токоличествосложном сообщении, должноции,содержащихсяпримером.вбытькаждомизинформации,содержащеесявравно с у м м е количеств информапростыхсообщений.П о я с н и м зтоП у с т ь о д н о в р е м е н н о р а с с м а т р и в а ю т с я д в а в з а и м н о независ и м ы х о б ъ е к т а , к а ж д ы й и з к о т о р ы х м о ж е т п р и н я т ь л ю б о е и з п состояний с р а в н о й в е р о я т н о с т ь ю р =М о ж н о г о в о р и т ь о к о м б и н а ц и и со2с т о я н и й о б о и х о б ъ е к т о в .
Ч и с л о в о з м о ж н ы х к о м б и н а ц и й р а в н о п , а вер о я т н о с т ь л ю б о й из н и х р.. =21/и . В с л о ж н о м с о о б щ е н и и о т о м , что вданный момент имеет место определенная комбинация состояний двухобъектов(одна из пции, с к о л ь к о2в о з м о ж н ы х ) , содержится столько же информав д в у х с о о б щ е н и я х : о т о м , ч т о п е р в ы й о б ъ е к т находится в г-м с о с т о я н и и , а в т о р о й — в / - м .
К о л и ч е с т в о и н ф о р м а ц и и, сложном сообщенииинформации=определяют2О сл вв е л и ч и н о й 1/р{- = и , а к о л и ч е с т в оCf пр в п р о с т о м с о о б щ е н и и о п р е д е л я е т с я в е л и ч и н о й 1/р} =1/р. = п. Т р е б о в а н и е275npl=Cfсл+CfCf_CS911\~>.£i)будет соблюдено т о л ь к о в т о м случае, если принять, чтосообщении пропорционально л о г а р и ф м у отCf в к а ж д о мnp2П р и э т о м к о э ф ф и ц и е н т п р о п о р ц и о н а л ь н о с т и и о с н о в а н и е логарифм а м о г у т б ы т ь л ю б ы м и .
К а к б у д е т п о к а з а н о д а л е е , в о м н о г и х случая х у д о б н о п о л ь з о в а т ь с я д в о и ч н ы м и л о г а р и ф м а м и , а к о э ф ф и ц и е н т пропорциональности положить р а в н ы м единице. П о к а д л я рассматриваемого примера убедимся, что условие (5.21) соблюдается независимоот основания логарифма. Действительно,Jnpl+ JИтак,nP2= 21°ёколичествои==информации^сл'водиночномнии о событии, имеющем априорную вероятностьJ.дискретномсообщер.,= log(l/p.).Практически(5.22)интереснан е э т а в е л и ч и н а , а с р е д н е е к о л и ч е с т в о информации, приходящееся на одно сообщение, т. е.СГ=2i=lЗдесь=p.
Cf.2i=lр.log - i .Р,=-£P-logpi=l(5.23)у с р е д н е н и е в ы п о л н е н о с у ч е т о м в е р о я т н о с т и п о я в л е н и я кажд о г о и з с о о б щ е н и й : к о л и ч е с т в о и н ф о р м а ц и и в г-м с о о б щ е н и и умножен о н а в е с о в о й к о э ф ф и ц и е н т pt.Выражениевидевправойнеопределенностьчастиз ы в а е т с я энтропией объекта.Н = -(5.23)характеризуетс о с т о я н и я данного'объекта.вусредненномЭта в е л и ч и н а наЕе п р и н я т о о б о з н а ч а т ь б у к в о йН:p.logP/.i(5.24)Д л я р а с с м о т р е н н о г о случая передачи с о о б щ е н и я получилось, что Cf == Н .
Н о э т о р а в е н с т в о с п р а в е д л и в о л и ш ь в т о м с л у ч а е , к о г д а п о с л е получ е н и я с о о б щ е н и я н е о п р е д е л е н н о с т ь с в е д е н и й о б о б ъ е к т е и с ч е з а е т полностью,т.е.когдакаждоеменительнокискажаютсяпомехами и276передачесообщение абсолютно достоверно.информациивсегдазтоозначает, чтоПрисообщенияневоспринимаются получателем в т а к о мвиде, в к а к о м о н и б ы л и переданы.
При э т о м д л я получателя а п р и о р н а яв е р о я т н о с т ь т о г о , ч т о о б ъ е к т н а х о д и т с я в г-м с о с т о я н и и , р а в н а я р., аапостериорнаявероятностьэтогоже событияпослеполучениясообщения р а в н а 1.В о б щ е м случае нужно учитывать, что л ю б о е сообщение м о ж е т бытьискаженованияпомехамиобъекта вединицы.мацииипоэтомуг-м с о с т о я н и иПо-видимому,меньше,чемполучаемоевс о о б щ е н и я хи х2,апостериорнаяпослеотсутствиеxf,... хп,вероятностьпребысообщенияменьшеколичествоинфорполученияприэтомпомех.Обозначимпередаваемыеп р и н и м а е м ы е уу, у2,а( в о б щ е м с л у ч а е м о ж е т б ы т ь т Ф п).ПустьутУрб ы л о переданосообщен и е х{, а п р и н я т о с о о б щ е н и е у}..
П о л у ч е н н о е при э т о м ч а с т н о е(индивидуальное) количество информации определим к а кJ ( x f yj) = l o g \р (Х{\У])1Р (xt)],гдеp(Xj)р(х{\у^)у.вероятность—(5.25)того,чтобылоу с л о в н а я вероятность т о г о , что—переданоприсообщениех.;получении сообщенияи с х о д н о й его п р и ч и н о й б ы л а п е р е д а ч а с о о б щ е н и я х-.Потеоремет и й х,и у.р(хгУ})СучетомБайеса,вероятность=Р(х;\у^р(у^этогополучим=совместногонаступленияр(у}\х{)р(х{).другое выражение, эквивалентное (5.25):3(xr yj) = \о%[р(у}\х.)1<р(у.)] .Приотсутствиипомех(5.26)(искажений)передаче х {П р и э т о м р (х{) = р (yt)вует п р и е м у , ат = п.собы=всегдаPt, р (х{\у.)соответст=р (у{\х{)== 1.ТогдаЖХГУ,)=l0g(l/P;).Следовательно,формула(5.22)являетсячастнымслучаем(5.25)и (5.26).Среднее количествоинформациищ е н и й х, с о д е р ж а щ е е с яниво т н о с и т е л ь н о п е р е д а в а е м ы х сообв п р и н и м а е м ы х с о о б щ е н и я х у , н а й д е м , усред.'/ (х.,у.) по в с е м в о з м о ж н ы м з н а ч е н и я м i и / :тУ(х, у)=2/= 1п2Р(хy ) j ( x ; , y ) .(5.27)i = 1277Здесьвесовымсовместногокоэффициентомнаступленияприусреднении служитс о б ы т и й х{.е.
р(х(,у^ т.yj).вероятностьП р о в е д е м некоторые преобразования:=2 2 p(xv=J(x, у)U p (Xj,Рл)logypiogp(x.\yp-=/ »^y)logp(x{)=/ «2 p0;.)=p(xf,2 2/Суммаp(vf|^)logp(xf|^)2i-*условныхвероятностей2p0;.|x.).2p(*.)Iogp(x.)»'p(v,|x.)/отвечаетусловиюнорми-р о в а н и я , т . е.2 р(у,|х.) =1./Поэтому.У(х,х)=2р(у})/-VpQct\yjfls%pQct\yj)-»"£pC* )iogpC*|).fiВведем обозначениеtffrty) =Этаропиюниеее- 2 p(x.|^.)logp ( х ^ . ) .jвеличинапредставляет собой условнуюпередаваемыхповсем(5.28)сообщенийвозможнымпри(апостериорную)энтп р и е м е с о о б щ е н и я у.. Усреднезначениям у.дает среднююусловную(апостериорную) энтропиюН(х\у) =Zp(yf)HQc\y}).(5.29)/ВеличинаН(х) = - 2 p ( x f ) l o g p ( x . )(5.30)гпредставляет собойм ы х сообщений.278безусловную(априорную)энтропиюпередаваеС учетом (5-28) J(x,у)=(5.30)Н(х)-Н(х\у).Это о з н а ч а е т , ч т о вотносительносредней(5.31)о б щ е м случае среднее количество и н ф о р м а ц и иобъекта,уменьшениюполучимсодержащеесявпринятомнеопределенности состояниясообщении,объекта, т.равное .