D. Jurafsky, J.H. Martin - Speech and Language Processing (796231), страница 31
Текст из файла (страница 31)
ТЬы, йеяе пкк(е1к аге ойеп рпшес( Ьу гепюча! ог" 1окч-ргоЬаЬП!гу ечепгк. Рпнип8 гя а1ко еяяепПа1 гог 1ап8иа8е пюс!е!к йаг аге иьед оп кшаП р!аг)опия яисЬ ак сеПрЬопеь (Иго!с)ге, 1998; СЬигсЬ ег а1., 2007). Р!паПу, йеге Ы а ьчЫе Ьос(у ор гекеагсЬ оп гпсе8гаПп8 яорЫяПсагеП Пп8шкгк ягшсгигея !пго!ап8иа8е пюдеПп8.
Ьап8иа8е шов)е1к Ьакег! оп ьушасПс яггисипе ггош ргоЬаЬПЫгк рагкегк аге 11експЬед гп СЬарсег 14. 1.ап8иа8е пюс)е1к Ьаяес1 оп гЬе сиггепг креесЬ асс гп сПа1о8ие аге 1!експЬед гп СЬарсег 24. Ьаееас ааааляс 1 Гт1ль Тпкьес ягв и-всат иааеЫеиеакея Ф-Всат пьес! опсе ш а Гехв, П кчП! ргоЬаЫу Ье ыес1 а8Ып. гче сап саригге гЫк гас! Ьу а сасЬе 1ап8иа8е пюг!е1 (КиЬп апг! Ве Моп, 1990). Рог ехагпр!е, го ике а ипгргагп сасЬе пюг(е! го ргегПсг гчогс1 1 ог" а гекг согры, чве сгеаге а иш8гаш 8гапипаг ггош йе ргесегПп8 рагг ог йе геяг согриь (гчогг(ь 1 го 1' — 1) апд пнх й!к ьч!й оиг сопчепПопа1 1ч'-8гаш.
'чче пи8Ы ике оп!у а кЬоггег ийпс!огч ггош йе ргечюы иогг1к, гагЬег гЬап йе епПге ьес. СасЬе 1ап8иа8е шойе!к аге чегу ротчегги! !п апу арр1Ыагюпя ш кчЫсЬ вче Ьаче реггесг )гпогч!ефе ог" йе иеогПь. СасЬе пик(е1я вчог(г!еьь ччеП ш дошапк ш вчЫсЬ гЬе ргегПоы иеогг)ь аге по! (гпоччп ехасс1у, 1п ьреесЬ аррИсаПопк, !ог ехашр!е, ип1екя йеге Ы яогпе ччау Гог ыегк го соггесг еггогк, сасЬе пюг!е1к сепг! го "1ос!г !п" еггогя йаг йе ьреесЬ гесо8пгяег Ьак шаг!е оп еагПег ьчогс)ь.
ТЬе гас! йаг ьчогПь аге ойеп гереагед ш а гехг Ы а кушргош ог а пюге 8епега! Гас! аЬош сехии гехш сепг) го Ье аЬии! Пип8к. Росишепгь йас аге аЬош рагг!си1аг !ор!ск гепс1 со ике Ыпп1аг ччогг!к. ТЫк ки88екгя гЬас и е сои!д ггаш ьерагаге 1ап8иа8е пюс1е1ь гог П!Пегеп! горка. 1п !орк-Ьаяей 1ап8иа8е пих1е1к (СЬеп ег а1., 1998; ОППеа апг! Но(шапп, 1999), иее ггу го га)ге айчапга8е ог" йе гас! йаг П!Пегепг горкк иоП Ьаче ППТегепг Мпфтк ог" чеогдк. Рог ехашр!е, ве сап !гаш сИГегепг 1ап8иа8е пюс1е!ь рог еасЬ горй 1 апд гЬеп пих йепг, гче18Ьгес) Ьу Ьоие Иге!у еасЬ горк Ы 81чеп йе Ь!я!игу Рп Кеес!оп 4.10.
Адчапсед: 1псоппас!оп ТЬеогу Вас1с8коипд 115 Сап ше до Ьессег? Ямррояе йас йе яргеад ы йе ассма! гВяспЬмВоп ос йе Ьеся р!асесс апсс йак ше гергеяепг сг ая йе рпог ргоЬаЬс1Лу ос еасЛ Ьогяе ая Со1!осчя: Ногае 1 Ногае 2 Ногае 3 Я я Ногае 4 Ногае 5 я4 Ногае 6— 64 Ногае? я я Ногае 8 ТЛе епсгору оу йе гапдопс чапаЫе Х йас гап8ея очек Ьогяея 8!чея мя а 1ошег Ьомпд оп йе пшпЬег ос Ыгя апд ь Н(Х) = — ~~ р(с) !о8р(!) с=! — с соя с — с соя к — я соя я — кя соя ~у' — 4(р соя р) = 2Ыся (4.55) А сос1е йас ачега8ея 2 Ьсся рег гасе сап Ье Ьш1с шпЬ яЬогс епсогВп8я Сог пюге ргоЬаЫе Ьокяея, апд 1оп8ег епсосВп8я сок!еяя ргоЬаЫе Ьогяея.
Рог ехашр!е, сче сомЫ епсос1е сЬе пюяс Исе!у Логяе сч!сЛ йе соде О, апс! сЛе гешаспсп8 Логяея ая 10, сЬеп 110,1110,111100,111101,111110,апд 111111. %Ьас ск сЛе Ьогяея аге ециа11у Исе!у? %е яасч аЬоче сЬас К ве мяед ап ецма1-!еп8сЛ Ьспагу соде ког йе Ьогяе пшпЬегя, еасЬ Ьогяе соо1с 3 Ьсся со соде, яо йе ачега8е и ах 3. 1я йе епсгору йе яшме?!и сЫя саяе еасЛ Лосхе и ои!д Ьаче а ргоЬаЬ|1пу ор с . ТЬе епсгору оу йе сЛойе ог Логяея ь йсп Н(ьчс, счп..., и и) = — ~ р(И7) 1о8р(И'!") итог %е сои1д дейпе йе епСгору гаге (ие сом!д а!яо йш1с оу йь ая йе рег-иогд епСгору) ая йе епсгору о('сЬВ яецмепсе сВчгдед Ьу йе пшпЬег оГ счогдя: Еп1тору оаа о — Н(И',") = — — ~ ~р(И',") 1о8р(И',") ус л сч" ее 1 (4.58) Вмс со псеаямге йе сгие епсгору ок а 1ап8ма8е, че пеед со сопягдег яециепсея ос !пйп!се 1еп8й.
18 иуе сйп!с оС а 1ап8иа8е ая а ясосЬаядс ргосеяя 1 йас ргодисея а яецмепсе ор счогдя, сся епсгору гасе Н(1) ь дейпед ая с=я Н(Х) = — ~ — !о8 — = — 1о8 — = 3 Ьия 8 8 8 (4.56) 1)п61 пои ше Ьаче Ьееп соспридп8 сЬе епсгору ос а гдп81е чапаЫе. Вмс шояс оГ шЬас и е ад11 мяе си!гору аког спчо1чея яедиепсея. Рог а 8гапипаг, Гог ехашр1е, сче сч!11 Ье соспридп8 сЬе си!гору ок яоше яециепсе ог счокдя И' = (и с, и с, шп, .., и „). Опе ччау со до сЫя ь со Ьаче а чапаЫе йас гап8ея очег яецмепсея ог" счокдя. Рог ехашр1е иуе сап сопсрисе йе епсгору оГ а гапдогп чапаЫе сЬас гап8ея очек а!1 ЛпЛе яецмепсея оГ счокдя ок !еп8сЛ и !и яоше !ап8иа8е Е ая СоПои ш 116 СЬарсег 4.
Н-Огата 1 Н(Т.) = — сип — Н(тчс, тчя..., тчл) л л И 1 л — 1ип — У Р(ч $,...,тчл) 1о8Р(ч с,...,счл) и счев (4.59) ТЬе 8Ьаппоп-МсМП!ап-Все!тип йеогст (А1цоес апд Сочет, 1988; Сочег апд ТЬотпак, 1991) яасек йас 11' йе!ап8иа8е ь ге8и!аг сп сетсатп счаув (со Ье ехасс, 1(К ь Ьой ксасюпагу апд егцотПс), 1 Н(1.) = 1ип — — 1о8 р(счсвс...тчл) л и (4.60) Вталалалу 4.10.1 Сго88-Еп1гору 1ог Согтсрагшд Мос1е!8 1п йтк кес6оп, уче спсгодисе сгокк-епвгору апд гПвсикк тск ике(и!пека сп сотрапп8 дсттегепс ргоЬаЬ$!ьбс тоде!к. ТЬе сговк-епстору ск иве)и1 счЬеп че доп'с Епосч йе ассиа! ргоЬаЫ1Ьу гПкспЬисюп р йас 8епегасед котпе дата.
1$ аПоч к ик со ике когпе т, ъчЫсЬ ь а пют$е! ос р (с.е., ап арргохипабоп со р). ТЬе стока-епсгору ос т оп р Ь дейпед Ьу Сюы-ллилру 1 Н(р,т) = сип — -~~ р(счс,...,чл)1о8т(ис,...,ил) (461) Ивв ТЬас Ь, тче дгасч кетсиепсек ассогйп8 со йе ргоЬаЬс16у тПяпЬтюп р, Ьт кит йе 1о8 оГ йеЬ ргоЬаЬПтдек ассоггПпд со т.
ТЬас ь, ч е сап са1те а ксп8!е кетсиепсе йас ь !оп8 епоиВЬ спксеад ос яиппип8 очег аП рокяЫе кециепсек. ТЬс спсшсюп оК йе БЬаппоп-МсМП1ап-Вгеипап йеогегп Ь йас а 1оп8-епои8Ь кетсиепсе о( ч огсЬ чпП сопсасп сп Ь тапу ойег кЬогтег кетсиепсек апт$ йас еасЬ оС сЬеке кЬогсег кетсиепсек чиП геоссиг сп йе 1оп8ег кетсиепсе ассогйп8 со йеи ргоЬаЬсИ6ев. А яосЬакбс ргосекк ь кагд со Ье квайопагу !1 йе ргоЬаЬП(с!ев П акядпк со а вес)иепсе аге спчапапс тчсй гекресс со кЫВк тп йе типе тпдех. 1п ойег чопЬ, йе ргоЬаЬс!Пу гПкспЬисюп Сот тчогдк ас сапе т !к йе вате ак йе ргоЬаЬ|1Пу гПкспЬибоп ас сапе т+ 1. Магсточ пюде!к, апд Ьепсе Ат-8гатк, аге яа6опэгу. гог ехатр!е, сп а Ь!8гат, Р; ь т1еРепдепт оп1У оп Р; с.
Яо $(чче вЫЙ опт 6псе шдех ЬУ х, Рч.л и к6П дерепдепс оп Рн., с. Вис пасига! 1ап8иа8е Ь пос ксабопату, япсе ак тче кЬосч 1п СЬарсег 12, йе ргоЬаЬт1иу оС' ирсопдп8 тчогдк сап Ье дерепдепс оп ечепь йас учете агЬигап!у гПксапс апд сапе дерепдепс. ТЬив, оиг ксабк6са1 тоде!к оп1у 81че ап арргохипасюп со йе сопесс гПкспЬисюпк аптс епсгор!ек ос пасига! 1ап8иа8е. То кипипапге, Ьу тастсп8 коте ысопесс Ьис сопчешепс ятрПСу!п8 аккитрсюпк, ч е сап сотрисе сЬе епсгору о1 копье ксосЬак6с ргосекк Ьу са(ап8 а чету 1оп8 катпр1е оЕ йе оисрис апт$ сотпри6п8 сск ачега8е 1о8 ргоЬаЬП(су. 1п сЬе пехс кессюп, тче саПс аЬот йе счЬу апд Ьоч: сч)ту тче ч оп!д тчапс Со до йск (с.е., тчЬат ЫптЬ о1 ргоЫепь сЬе епсгору чои!д Ье икеси1 сот), апд !вотч со сопсрисе йе ргоЬаЬ!1Ьу ос а чету 1опд вес!попсе.
Кесл!Оп 4.10. Аг!чапсей!п1оппабоп ТЬеогу Вас1гагонпг! 117 Ааа1п, Го!!олч!пд йе БЬаппоп-МОМ!1!ап-Вгеппап йеогепл, ~ог а алалюпагу егаол!!с РГОСЕ55: 1 Н(р,т) = 1нп — -1одт(иллил...и'„) е» И (4.62) ТЫ5 гпеапх йал, аа Гог еплгору, лче сап еянпаге йе сго55-Оп!гору ОГ а плол!е! т оп хогне г!15плЬнг!Оп р Ьу га)г!па а 5!па!е хег1непсе йаг ь 1опа епонаЬ 1палеал! ОХ 5нплпл!па очег а11 роаяЫе 5ел!непсеа. ИлЬал арпа!ге5 йе сгояиеплгору наей! ь йал йе сго55-епггору Н(Р, т) ь ап нррег Ьонпд оп йе еплгору Н(Р).
Рог апу олог!е1 т: Н(р) (Н(р,т) (4.63) 1 Н(Ие) = — — !оаР(ли~лил...и,ч) Ж (4.64) ТЬе регр!ех!!у ОГ а плол!е! Р оп а 5ецнепсе ОГ ч огг!5 И' ь ноге копна!!у г!ебпег! аа йе ехр об гЫ5 сго55-си!гору: РеерЛее ~Х Регр1ехйу(И') = 2 ( = Р(лрллрг ..иъ) лг (4.65) ТЫ5 теап5 йаг чле сап нас хогне яплр1!Ьег! плол1е! т го Ье!р ехбгпаге йе ггпе епггору о1 а аег!пенсе ОГ аугпЬо15 г!гач и ассогл!!па го ргоЬаЬ!!ну Р. ТЬе пюге асс нгале т В, йе с1оаег йе сго55-еплгору Н(р,т) ч !11 Ье Ло йе Лпле еплгору Н(р). ТЬна, йе г!1!Тегепсе Ьегчлееп Н(р,т) апг! Н(р) ь а гпеаялге ОГ Ьоч асснгаге а плол!е! ь. Веллчееп гчо плог1е15 тл апг! тя гЬе пюге асснгагс пюл!е! лч!11 Ье йе опе ч 1лЬ гЬе 1олчег сго55-епггору. (ТЬе сго55-еплгору сап печег Ье!оч ег йап йе Лпле еплгору, 5о а плел!е1 саппол егг Ьу нпл!егехл)плал1пд йе Лтне си!гору.) Иге аге Йпа!!у леал!у го 5ее йе ге!абоп Ьеллчееп регр!ехИу апл! сго55-со!гору а5 лче аач Ь ю Ел!.
4.62. Сго55-епсгору ь г1ебпег! Ы гЬе 1лппг, аа йе 1епай ОГ йе оЬ5егчел! лчон1 5ел!пенсе аое5 го !пйшгу. %е чч11 пеел! ап арргохнпагюп ло сгоха-епггору, ге!у!па оп а (хайле)епг1у 1опа) аег!ненее ОХ йхел! 1епдлЬ. ТЫ5 аррГОхпнабоп ло йе сго55 епггоРУ ОГ а олог!е! М = Р(лил~ли; дел...и; л ) оп а аел1непсе о1 члогл!5 И' ь 118 СЬаргег 4. Сч'-бган Ая ъче яп88ексес1 сп йе ргечюы яесс1оп, сЬе егозя-епсгору ор яоше пюс1е! т сап Ье икег$ ая ап иррег Ьоппг( оп йе Сше епСгору ог" коше ргосекк, 1че сап ые СЬся шейог$ Со 8ег ап еягипаге ог" йе Сгпе оп!гору ог" Еп81ьЛ. 'яч'Ьу кЬои1д ъче саге аЬоиг йе епггору ог" Еп81ьЬ? Опе геаяоп $к йаг йе Сгие епггору оС Еп81сяЬ ячоп14 81че ик а ко!Ы 1оччег Ьоипг) Гог аП оГ оиг Си!иге ехрепшепгя оп ргоЬаЬс1ьПс 8гапипагя.
Апойег и СЬаг чче сап ые йе си!гору ча!пея гог Еп81ьЬ со Ье1р ипс)егксапс$ счЬас рагь ог" а!ап8па8е ргочЫе йе пюкг Сп(оппаг)оп (е.8., ь йе ргегПсгаЬс!Пу о( Еп8ПкЬ псасп1у Ьакег) оп ячог<$ огг)ег, оп яешапПск, оп пюгрЬо1о8у, оп сопя!)гиепсу, ог оп рга8шаис спея?) ТЬь сап Ье1р ия ишпепяе!у сп 1посч(п8 счЬеге Со Сосок оиг 1ап8иа8е-шос)е1ш8 ейопя. ТЬеге аге Си о сопипоп шеСЬос)я Гог сошрибп8 СЬе епггору ог" Еп81$кЬ. ТЬе Пгкг ячая ешр!оуес$ Ьу Ясаппоп (1951) ая рагг оГ Ык 8гоипс(Ьгеа(ап8 счог)с сп с)ейп)п8 СЬе Пе!П ос Сп(оппаПоп йеогу. Нь Ыеа Ся со ые Ьшпап япЬ)есь апс( со сопксгисс а ряусЬо1о8)са! ехреашепг йаг гецшгея СЬеш Со 8пеяя кгпп8к ог"!еиегк.