8. Лог-оптимальные портфели инвестирования на рынке ценных бумаг (1107647), страница 3
Текст из файла (страница 3)
ó ÕÞÅÔÏÍ ÏÞÅ×ÉÄÎÙÈ ÉÚÍÅÎÅÎÉÊ × ÏÂÏÚÎÁÞÅÎÉÑÈ, ÔÅÏÒÅÍÙ 4 É 5 ÏÓÔÁÀÔÓÑÓÐÒÁ×ÅÄÌÉ×ÙÍÉ ÄÌÑ ÄÉÓËÒÅÔÎÏÇÏ ÒÁÓÐÒÅÄÅÌÅÎÉÑ F (x).8.5 ôÏÔÁÌÉÚÁÔÏÒ ÎÁ ÓËÁÞËÁÈ8.5.1 ïÂÏÚÎÁÞÅÎÉÑ É ÏÐÒÅÄÅÌÅÎÉÑðÕÓÔØ m, ËÁË É ÒÁÎÅÅ, ÏÂÏÚÎÁÞÁÅÔ ÞÉÓÌÏ ÁËÃÉÊ ÎÁ ÒÙÎËÅ ÃÅÎÎÙÈ ÂÕÍÁÇ. ÷ ÜÔÏÍ ÒÁÚÄÅÌÅÍÙ ÂÕÄÅÍ ÉÓÓÌÅÄÏ×ÁÔØ ÐÒÉÍÅÒ ÄÉÓËÒÅÔÎÏÊ ÍÏÄÅÌÉ ÒÙÎËÁ ÃÅÎÎÙÈ ÂÕÍÁÇ, ËÏÇÄÁ ÓÌÕÞÁÊÎÙÊ×ÅËÔÏÒ X = (X1 ; X2 ; : : : ; Xm ) ÏÔÎÏÓÉÔÅÌØÎÙÈ ÓÔÏÉÍÏÓÔÅÊ ÁËÃÉÊ ÍÏÖÅÔ ÐÒÉÎÉÍÁÔØ ÌÉÛØÏÄÎÏ ÉÚ m ×ÏÚÍÏÖÎÙÈ ÚÎÁÞÅÎÉÊ ×ÉÄÁei = (ei1 ; ei2 ; : : : ; eim ); i = 1; 2; : : : ; m;ÇÄŽk = i,= o0i;; ÅÓÌÉÅÓÌÉ k 6= i; k = 1; 2; : : : ; m;Á oi > 1; i = 1; 2; : : : ; m{ÆÉËÓÉÒÏ×ÁÎÎÙÊ ÎÁÂÏÒ ÉÚ m ÐÏÌÏÖÉÔÅÌØÎÙÈ ÞÉÓÅÌ, ÕÄÏ×ÌÅÔ×ÏÒÑÀÝÉÈ ÕÓÌÏ×ÉÀmX1= 1:(11)oi=1 ieikäÉÓËÒÅÔÎÏÅ ÒÁÓÐÒÅÄÅÌÅÎÉÅ ×ÅÒÏÑÔÎÏÓÔÅÊ × ÒÁÓÓÍÁÔÒÉ×ÁÅÍÏÊ ÍÏÄÅÌÉ ÒÙÎËÁ ÃÅÎÎÙÈ ÂÕÍÁǽiif (x) = Pr{X = x} = f (e ); ÅÓÌÉ x = ei ,0;ÅÓÌÉ x 6= e ; i = 1; 2; : : : ; m;12ÏÐÉÓÙ×ÁÅÔÓÑ ÎÁÂÏÒÏÍ ÞÉÓÅÌmXp = (p1 ; p2 ; : : : ; pm ); pi ≥ 0;i=1pi = 1;i-ÁÑ ËÏÍÐÏÎÅÎÔÁ ËÏÔÏÒÏÇÏpi = f (ei ) = Pr{X = ei }ÚÁÄÁÅÔ ×ÅÒÏÑÔÎÏÓÔØ ÐÏÂÅÄÙ × ÚÁÂÅÇÅ i-ÏÊ ÌÏÛÁÄÉ.äÁÎÎÁÑ ÍÏÄÅÌØ ÁÄÅË×ÁÔÎÁ ÔÏÔÁÌÉÚÁÔÏÒÕ ÎÁ ÓËÁÞËÁÈ, × ËÏÔÏÒÙÈ ÕÞÁÓÔ×ÕÀÔ m ÌÏÛÁÄÅÊ É ×ÅÒÏÑÔÎÏÓÔØ ÐÏÂÅÄÙ i-ÏÊ ÌÏÛÁÄÉ × ÌÀÂÏÍ ÉÚ ÚÁÂÅÇÏ× ÒÁ×ÎÁ pi .
üÔÁ ×ÅÒÏÑÔÎÏÓÔØ, ×ÏÏÂÝÅ ÇÏ×ÏÒÑ, ÎÅÉÚ×ÅÓÔÎÁ ÉÎ×ÅÓÔÏÒÕ (ÉÇÒÏËÕ) ËÏÔÏÒÙÊ ÐÅÒÅÄ ÎÁÞÁÌÏÍ ËÁÖÄÏÇÏÚÁÂÅÇÁ ×ËÌÁÄÙ×ÁÅÔ Ó×ÏÊ ËÁÐÉÔÁÌ × ÔÏÔÁÌÉÚÁÔÏÒ, ÒÕËÏ×ÏÄÓÔ×ÕÑÓØ ÐÏÒÔÆÅÌÅÍ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ b = (b1 ; b2 ; : : : ; bm ). åÓÌÉ × ÄÁÎÎÏÍ ÚÁÂÅÇÅ ×ÙÉÇÒÙ×ÁÅÔ i-ÁÑ ÌÏÛÁÄØ, ÔÏ ÐÏÓÔÁ×ÌÅÎÎÙÊÎÁ ÅÅ ÐÏÂÅÄÕ ËÁÐÉÔÁÌ Õ×ÅÌÉÞÉ×ÁÅÔÓÑ × oi ÒÁÚ, Á ËÁÐÉÔÁÌ, ÐÏÓÔÁ×ÌÅÎÎÙÊ ÎÁ ÐÏÂÅÄÙ ÄÒÕÇÉÈ ÌÏÛÁÄÅÊ, ÐÒÏÐÁÄÁÅÔ. þÉÓÌÏ oi ÎÁÚÙ×ÁÅÔÓÑ ÓÔÁ×ËÏÊ ÂÕËÍÅËÅÒÁ ÎÁ ÐÏÂÅÄÕ i-ÏÊ ÌÏÛÁÄÉ.õÞÉÔÙ×ÁÑ ÕÓÌÏ×ÉÅ (11), ××ÅÄÅÍ ×ÅÒÏÑÔÎÏÓÔÎÙÊ ×ÅËÔÏÒmXr = (r1 ; r2 ; : : : ; rm ); ri = o1 ;ii=1ri = 1;ÎÁÚÙ×ÁÅÍÙÊ ÐÏÒÔÆÅÌÅÍ ÂÕËÍÅËÅÒÁ É ÐÒÅÄÓÔÁ×ÌÑÀÝÉÊ ÓÏÂÏÊ ÏÃÅÎËÕ ÂÕËÍÅËÅÒÁ ÄÌÑ ÎÅÉÚ×ÅÓÔÎÏÇÏ ÒÁÓÐÒÅÄÅÌÅÎÉÑ ×ÅÒÏÑÔÎÏÓÔÅÊ p ÎÁ ÓËÁÞËÁÈ.8.5.2 óËÏÒÏÓÔØ ÕÄ×ÏÅÎÉÑ÷ ÒÅÚÕÌØÔÁÔÅ ÐÏÂÅÄÙ i-ÏÊ ÌÏÛÁÄÉ ÎÁÞÁÌØÎÙÊ ËÁÐÉÔÁÌ ÉÇÒÏËÁ ÐÏÓÌÅ ÚÁÂÅÇÁ Õ×ÅÌÉÞÉ×ÁÅÔÓÑ × bi oi ÒÁÚ.
üÔÏ ÐÒÉ×ÏÄÉÔ Ë ÓÌÅÄÕÀÝÅÍÕ ÏÐÒÅÄÅÌÅÎÉÀ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ ÄÌÑ ÔÏÔÁÌÉÚÁÔÏÒÁ ÎÁ ÓËÁÞËÁÈW (b; f ) = W (b; p) ,éÓÐÏÌØÚÕÑ ÏÂÏÚÎÁÞÅÎÉÅ ÒÁÓÓÔÏÑÎÉÅÍ ëÕÌØÂÁËÁD(pkb) =mXi=1mXi=1pi logpi log bi oi :(12)pi≥ 0;biÏÐÒÅÄÅÌÅÎÉÅ (12) ÚÁÐÉÓÙ×ÁÅÔÓÑ × ×ÉÄÅW (b; f ) = W (b; p) =mXi=1µpi log2¶bi pi= D(pkr) − D(pkb):pi ri(13)äÁÎÎÁÑ ÚÁÐÉÓØ ÐÏËÁÚÙ×ÁÅÔ, ÞÔÏ ÉÇÒÏË ÍÏÖÅÔ ÄÏÂÉÔØÓÑ ÐÏÌÏÖÉÔÅÌØÎÏÊ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ,Ô.Å. ×ÙÉÇÒÙÛÁ × ÔÏÔÁÌÉÚÁÔÏÒÅ ÎÁ ÓËÁÞËÁÈ, ÔÏÇÄÁ É ÔÏÌØËÏ ÔÏÇÄÁ, ËÏÇÄÁ ÒÁÓÓÔÏÑÎÉÅ ëÕÌØÂÁËÁ D(pkb) ÍÅÖÄÕ ÅÇÏ ÉÎ×ÅÓÔÉÃÉÏÎÎÙÍ ÐÏÒÔÆÅÌÅÍ b É ÎÅÉÚ×ÅÓÔÎÙÍ ÒÁÓÐÒÅÄÅÌÅÎÉÅÍ pÏËÁÚÁÌÏÓØ ÍÅÎØÛÅ ÒÁÓÓÔÏÑÎÉÑ ëÕÌØÂÁËÁ D(pkr) ÍÅÖÄÕ ÐÏÒÔÆÅÌÅÍ ÂÕËÍÅËÅÒÁ r É p.ðÏÓËÏÌØËÕ ÒÁÓÓÔÏÑÎÉÅ ëÕÌØÂÁËÁ D(pkb) ≥ 0 ÓÏ ÚÎÁËÏÍ ÒÁ×ÅÎÓÔ×Á ÌÉÛØ ÐÒÉ b = p, ÔÏÉÚ ÒÁ×ÅÎÓÔ×Á (3) ×ÙÔÅËÁÅÔ13ôÅÏÒÅÍÁ 6. ïÐÔÉÍÁÌØÎÁÑ ÓËÏÒÏÓÔØ ÕÄ×ÏÅÎÉÑW ∗ (p) = max W (b; p) = D(pkr) =b=mXi=1pi log2 (pi oi ) =mXi=1pi log2 oi +mXi=1pi log2 pi ;ÇÄÅ ÍÁËÓÉÍÕÍ ÄÏÓÔÉÇÁÅÔÓÑ ÎÁ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÍ ÐÏÒÔÆÅÌÅ b∗f = p.8.5.3 ôÏÔÁÌÉÚÁÔÏÒ Ó ÄÏÐÏÌÎÉÔÅÌØÎÏÊ ÉÎÆÏÒÍÁÃÉÅÊ÷ ÒÁÚÄÅÌÅ 8.4 Ó ÐÏÍÏÝØÀ ÔÅÏÒÅÍ 4 É 5 ÂÙÌÁ ÐÏÌÕÞÅÎÁ ÔÅÏÒÅÔÉËÏ-ÉÎÆÏÒÍÁÃÉÏÎÎÁÑÏÃÅÎËÁW ≤ I (X; Y )(14)ÄÌÑ ÓÒÅÄÎÅÇÏ ÚÎÁÞÅÎÉÑ Õ×ÅÌÉÞÅÎÉÑ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ W , ËÏÇÄÁ ÉÎ×ÅÓÔÏÒ ÒÁÓÐÏÌÁÇÁÅÔÄÏÐÏÌÎÉÔÅÌØÎÙÍÉ Ó×ÅÄÅÎÉÑÍÉ Y Ï ÒÙÎËÅ ÃÅÎÎÙÈ ÂÕÍÁÇ X.
ðÕÓÔØq = (q1 ; q2 ; : : : ; qm ); qi ≥ 0;mXi=1qi = 1;{ÐÒÏÉÚ×ÏÌØÎÙÊ ÆÉËÓÉÒÏ×ÁÎÎÙÊ ×ÅÒÏÑÔÎÏÓÔÎÙÊ ×ÅËÔÏÒ, Á g = g(x) { ÓÏÏÔ×ÅÔÓÔ×ÕÀÝÅÅ ÅÍÕÒÁÓÐÒÅÄÅÌÅÎÉÅ ×ÅÒÏÑÔÎÏÓÔÅÊ, ËÏÔÏÒÏÅ ÚÁÄÁÅÔÓÑ ÁÎÁÌÏÇÉÞÎÏ ÒÁÓÐÒÅÄÅÌÅÎÉÀ f = f (x), ××ÅÄÅÎÎÏÍÕ ×ÙÛÅ ÄÌÑ ×ÅÒÏÑÔÎÏÓÔÎÏÓÔÎÏÇÏ ×ÅËÔÏÒÁ p. éÚ ×Ù×ÏÄÁ ÏÃÅÎËÉ (14) ÓÌÅÄÕÅÔ, ÞÔÏ ×ÎÅÒÁ×ÅÎÓÔ×Å (14) ÂÕÄÅÔ ÚÎÁË ÒÁ×ÅÎÓÔ×Á, ÅÓÌÉ ÄÌÑ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ ×ÙÐÏÌÎÅÎÏ ÕÓÌÏ×ÉÅW (b∗f ; f ) − W (b∗g ; f ) = D(f kg) = D(pkq):(15)óÏÇÌÁÓÎÏ ÔÅÏÒÅÍÅ 6, ÄÌÑ ÔÏÔÁÌÉÚÁÔÏÒÁ ÎÁ ÓËÁÞËÁÈ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÊ ÐÏÒÔÆÅÌØ b∗f = p, Á ÌÏÇÏÐÔÉÍÁÌØÎÙÊ ÐÏÒÔÆÅÌØ b∗g = q.
ïÔÓÀÄÁ, × ÓÉÌÕ ÏÐÒÅÄÅÌÅÎÉÑ (12), ×ÙÔÅËÁÅÔ ×ÙÐÏÌÎÅÎÉÅÕÓÌÏ×ÉÑ (15). ôÁËÉÍ ÏÂÒÁÚÏÍ, ÕÓÔÁÎÏ×ÌÅÎÁôÅÏÒÅÍÁ 7. åÓÌÉ ÉÇÒÏË ÔÏÔÁÌÉÚÁÔÏÒÁ ÎÁ ÓËÁÞËÁÈ ÒÁÓÐÏÌÁÇÁÅÔ ÄÏÐÏÌÎÉÔÅÌØÎÙÍÉÓ×ÅÄÅÎÉÑÍÉ Y Ï ÒÅÚÕÌØÔÁÔÅ ÚÁÂÅÇÁ X, ÔÏ ÄÌÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÇÏ ÐÏÒÔÆÅÌÑ ÓÔÁ×ÏË ÉÇÒÏËÁ×ÏÚÎÉËÁÀÝÅÅ ÚÁ ÓÞÅÔ ÜÔÉÈ Ó×ÅÄÅÎÉÊ ÓÒÅÄÎÅÅ ÚÎÁÞÅÎÉÅ Õ×ÅÌÉÞÅÎÉÑ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ WÓÏ×ÐÁÄÁÅÔ Ó ÉÎÆÏÒÍÁÃÉÅÊ I (X; Y ).÷ ÚÁËÌÀÞÅÎÉÅ ÜÔÏÇÏ ÒÁÚÄÅÌÁ ÍÙ ÐÒÉ×ÅÄÅÍ ÎÅÐÏÓÒÅÄÓÔ×ÅÎÎÏÅ ÄÏËÁÚÁÔÅÌØÓÔ×Ï ÔÅÏÒÅÍÙ 7,ËÏÔÏÒÏÅ ÎÅ ÏÐÉÒÁÅÔÓÑ ÎÁ ÏÂÝÉÅ ÒÅÚÕÌØÔÁÔÙ ÔÅÏÒÅÍ 4 É 5 ÄÌÑ ÐÒÏÉÚ×ÏÌØÎÏÇÏ ÒÙÎËÁ ÃÅÎÎÙÈ ÂÕÍÁÇ, Á ÉÓÐÏÌØÚÕÅÔ ÌÉÛØ ÎÅËÏÔÏÒÕÀ ÐÒÉ×ÏÄÉÍÕÀ ÎÉÖÅ ÍÏÄÉÆÉËÁÃÉÀ ÏÂÏÚÎÁÞÅÎÉÊ ÉÏÐÒÅÄÅÌÅÎÉÊ, ÏÐÉÓÙ×ÁÀÝÉÈ ÍÏÄÅÌØ ÔÏÔÁÌÉÚÁÔÏÒÁ ÎÁ ÓËÁÞËÁÈ ÐÒÉ ÎÁÌÉÞÉÉ ÄÏÐÏÌÎÉÔÅÌØÎÏÊÉÎÆÏÒÍÁÃÉÉ Ï ÒÅÚÕÌØÔÁÔÁÈ ÚÁÂÅÇÁ.•ðÕÓÔØ ÐÁÒÁ ÄÉÓËÒÅÔÎÙÈ ÓÌÕÞÁÊÎÙÈ ×ÅÌÉÞÉÎ (X; Y ) ÓÏ ÚÎÁÞÅÎÉÑÍÉ (x; y), ÇÄÅ x =1; 2; : : : ; m, ÉÍÅÅÔ ÓÏ×ÍÅÓÔÎÏÅ ÒÁÓÐÒÅÄÅÌÅÎÉÅ p(x; y) = Pr{X = x; Y = y}; ËÏÔÏÒÏÅÉÚ×ÅÓÔÎÏ ÉÇÒÏËÕ (ÉÎ×ÅÓÔÏÒÕ).
ðÒÉ ÜÔÏÍ{ ÓÌÕÞÁÊÎÁÑ ×ÅÌÉÞÉÎÁ X Ó ÒÁÓÐÒÅÄÅÌÅÎÉÅÍ p(x) =ÌÏÛÁÄÉ, ÐÏÂÅÄÉ×ÛÅÊ × ÚÁÂÅÇÅ;14Py p(x; y )ÏÂÏÚÎÁÞÁÅÔ ÎÏÍÅÒ{ ÓÌÕÞÁÊÎÁÑ ×ÅÌÉÞÉÎÁ Y ÐÒÅÄÓÔÁ×ÌÑÅÔ ÓÏÂÏÊ ÄÏÐÏÌÎÉÔÅÌØÎÙÅ Ó×ÅÄÅÎÉÑ Ï ÒÅÚÕÌØ-ÔÁÔÁÈ ÚÁÂÅÇÁ, Ô.Å. ÐÅÒÅÄ ÎÁÞÁÌÏÍ ÚÁÂÅÇÁ ÉÇÒÏËÕ ÓÏÏÂÝÁÅÔÓÑ ÚÎÁÞÅÎÉÅ ×ÅÌÉÞÉÎÙ Y = y;{ p(x|y) É p(y) ÏÂÏÚÎÁÞÁÀÔ ÓÏÏÔ×ÅÔÓÔ×ÕÀÝÉÅ ÕÓÌÏ×ÎÏÅ É ÍÁÒÇÉÎÁÌØÎÏÅ ÒÁÓÐÒÅÄÅÌÅÎÉÑ.•÷×ÅÄ£Í b(x) { ÐÏÒÔÆÅÌØ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ (ÒÁÓÐÒÅÄÅÌÅÎÉÅ ×ÅÒÏÑÔÎÏÓÔÅÊ) ÉÇÒÏËÁ × ÏÔÓÕÔÓÔ×ÉÅ ÄÏÐÏÌÎÉÔÅÌØÎÙÈ Ó×ÅÄÅÎÉÊ É b(x|y) { ÐÏÒÔÆÅÌØ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ (ÕÓÌÏ×ÎÏÅÒÁÓÐÒÅÄÅÌÅÎÉÅ ×ÅÒÏÑÔÎÏÓÔÅÊ) ÉÇÒÏËÁ, ×ÌÁÄÅÀÝÅÇÏ ÄÏÐÏÌÎÉÔÅÌØÎÙÍÉ Ó×ÅÄÅÎÉÑÍÉ.•ðÕÓÔØ o(x) ÏÂÏÚÎÁÞÁÅÔ ÓÔÁ×ËÕ ÂÕËÍÅËÅÒÁ ÎÁ ÐÏÂÅÄÕ ÌÏÛÁÄÉ x.÷ ÄÁÎÎÙÈ ÏÂÏÚÎÁÞÅÎÉÑÈ ÏÐÔÉÍÁÌØÎÁÑ ÓËÏÒÏÓÔØ ÕÄ×ÏÅÎÉÑ × ÏÔÓÕÔÓÔ×ÉÉ ÄÏÐÏÌÎÉÔÅÌØÎÙÈÓ×ÅÄÅÎÉÊXW ∗ (X ) = max p(x) log2 {b(x)o(x)}:(16)b(x) xåÓÌÉ ÆÉËÓÉÒÏ×ÁÎÏ ÚÎÁÞÅÎÉÅ y, ÔÏ ×ÅÌÉÞÉÎÁW ∗ (X |y) = maxXb(x|y) xp(x|y) log2 {b(x|y)o(x)}(17)Ñ×ÌÑÅÔÓÑ ÏÐÔÉÍÁÌØÎÏÊ ÓËÏÒÏÓÔØÀ ÕÄ×ÏÅÎÉÑ, ËÏÇÄÁ ÉÇÒÏË ÐÅÒÅÄ ÎÁÞÁÌÏÍ ÚÁÂÅÇÁ ÉÍÅÅÔ Ó×ÅÄÅÎÉÑ Y = y.óÏÇÌÁÓÎÏ ÔÅÏÒÅÍÅ 6, ÍÁËÓÉÍÕÍ × (16) ÄÏÓÔÉÇÁÅÔÓÑ ÐÒÉ b(x) = p(x), Á ÍÁËÓÉÍÕÍ × (17)ÄÏÓÔÉÇÁÅÔÓÑ ÐÒÉ b(x|y) = p(x|y).
ðÒÉ ÜÔÏÍW ∗ (X ) =Xxp(x) log2 {p(x)o(x)}; W ∗ (X |y) =Xxp(x|y) log2 {p(x|y)o(x)}:óÌÅÄÏ×ÁÔÅÌØÎÏ, ÓÒÅÄÎÅÅ (Ô.Å. ÕÓÒÅÄÎÅÎÎÏÅ ÐÏ ÒÁÓÐÒÅÄÅÌÅÎÉÀ p(y)) ÚÎÁÞÅÎÉÅ Õ×ÅÌÉÞÅÎÉÑÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑXW =p(y) [W ∗ (X |y) − W ∗ (X )] ==Xx;yyp(x; y) [log2 {p(x|y)o(x)} − log2 {p(x)o(x)}] ===Xx;yXx;yp(x; y) log2p(x; y) log2p(x|y=p(x)p(x; y= I (X; Y ):p(x)p(y)ôÅÏÒÅÍÁ 7 ÄÏËÁÚÁÎÁ.8.6 ÷Ù×ÏÄÙ÷ ÜÔÏÍ ÚÁËÌÀÞÉÔÅÌØÎÏÍ ÒÁÚÄÅÌÅ ÍÙ ÄÁÅÍ Ó×ÏÄËÕ ÏÓÎÏ×ÎÙÈ ÏÐÒÅÄÅÌÅÎÉÊ É ÒÅÚÕÌØÔÁÔÏ×ÔÅÏÒÉÉ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÈ ÐÏÒÔÆÅÌÅÊ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ ÎÁ ÒÙÎËÅ ÃÅÎÎÙÈ ÂÕÍÁÇ.158.6.1 óËÏÒÏÓÔØ ÕÄ×ÏÅÎÉÑ É ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÊ ÐÏÒÔÆÅÌØ÷ÅÌÉÞÉÎÁW (b; F ) = E (log2 bt X ) =Zlog2 bt x dF (x)ÎÁÚÙ×ÁÅÔÓÑ ÓËÏÒÏÓÔØÀ ÕÄ×ÏÅÎÉÑ (doubling rate) ÒÙÎËÁ ÃÅÎÎÙÈ ÂÕÍÁÇ Ó ÒÁÓÐÒÅÄÅÌÅÎÉÅÍÏÔÎÏÓÉÔÅÌØÎÙÈ ÓÔÏÉÍÏÓÔÅÊ ÁËÃÉÊ F = F (x) É ÉÎ×ÅÓÔÉÃÉÏÎÎÙÍ ÐÏÒÔÆÅÌÅÍ b.ïÐÔÉÍÁÌØÎÏÊ ÓËÏÒÏÓÔØÀ ÕÄ×ÏÅÎÉÑ ÎÁÚÙ×ÁÅÔÓÑ ×ÅÌÉÞÉÎÁW ∗ (F ) = max W (b; F );bÁ ÐÏÒÔÆÅÌØ b∗ = b∗ (F ), ÎÁ ËÏÔÏÒÏÍ ÄÏÓÔÉÇÁÅÔÓÑ ÍÁËÓÉÍÕÍ W (b; F ), ÎÁÚÙ×ÁÅÔÓÑ ÌÏÇÏÐÔÉÍÁÌØÎÙÍ ÐÏÒÔÆÅÌÅÍ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ.åÓÌÉ Sn∗ ÏÂÏÚÎÁÞÁÅÔ ÒÏÓÔ ÄÏÈÏÄÁ ÚÁ n ÄÎÅÊ ÐÒÉ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÍ ÐÏÒÔÆÅÌÅ, ÔÏ Ó ×ÅÒÏÑÔÎÏÓÔØÀ 1 ÓÕÝÅÓÔ×ÕÅÔ1lim log2 Sn∗ = W ∗ (F ):n→∞ n8.6.2 ÷ÙÐÕËÌÏÓÔØóËÏÒÏÓÔØ ÕÄ×ÏÅÎÉÑ W (b; F ) ×ÙÐÕËÌÁ ××ÅÒÈ ËÁË ÆÕÎËÃÉÑ ÁÒÇÕÍÅÎÔÁ b,8.6.3 õÓÌÏ×ÉÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÓÔÉ1.
ðÏÒÔÆÅÌØ b∗ Ñ×ÌÑÅÔÓÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÍ ÔÏÇÄÁ É ÔÏÌØËÏ ÔÏÇÄÁ, ËÏÇÄÁµEXi¶b∗ t X½=1;ÅÓÌÉ b∗i > 0,≤ 1; ÅÓÌÉ b∗i = 0; i = 1; 2; : : : ; m.2. íÁÔÅÍÁÔÉÞÅÓËÏÅ ÏÖÉÄÁÎÉÅ ÏÔÎÏÛÅÎÉÑ ÄÏÈÏÄÁ ÐÒÉ ÐÒÏÉÚ×ÏÌØÎÏÍ ÐÏÒÔÆÅÌÅ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ b Ë ÄÏÈÏÄÕ ÐÒÉ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÍ ÐÏÒÔÆÅÌÅ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ ≤ 1, Ô.Å.µ¶SE ∗ ≤ 1:S8.6.4 õ×ÅÌÉÞÅÎÉÅ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑðÕÓÔØ ÒÁÓÐÒÅÄÅÌÅÎÉÅ F = F (x) ÎÁ ÒÙÎËÅ ÃÅÎÎÙÈ ÂÕÍÁÇ ÉÍÅÅÔ ÐÌÏÔÎÏÓÔØ f = f (x).1.
åÓÌÉ ×ÍÅÓÔÏ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÇÏ ÐÏÒÔÆÅÌÑ b∗ (F ) ÉÓÐÏÌØÚÕÅÔÓÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÊ ÐÏÒÔÆÅÌØ b∗ (G), ÄÌÑ ÄÒÕÇÏÇÏ ÒÁÓÐÒÅÄÅÌÅÎÉÑ G = G(x) Ó ÐÌÏÔÎÏÓÔØÀ g = g(x), ÔÏ ÓÏÏÔ×ÅÔÓÔ×ÕÀÝÁÑ ÐÏÔÅÒÑ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑW = W (b∗ (F ); F ) − W (b∗ (G); F )ÕÄÏ×ÌÅÔ×ÏÒÑÅÔ ÎÅÒÁ×ÅÎÓÔ×ÕW≤ D(f kg ) =Z16f (x) log2f (x)dx;g(x)ÐÒÁ×ÁÑ ÞÁÓÔØ ËÏÔÏÒÏÇÏ D(f kg) ÐÒÅÄÓÔÁ×ÌÑÅÔ ÓÏÂÏÊ ÒÁÓÓÔÏÑÎÉÅÍ ëÕÌØÂÁËÁ ÍÅÖÄÕ ÒÁÓÐÒÅÄÅÌÅÎÉÑÍÉ F É G.2. ðÕÓÔØ ÓÌÕÞÁÊÎÁÑ ×ÅÌÉÞÉÎÁ Y , ÎÁÚÙ×ÁÅÍÁÑ ÄÏÐÏÌÎÉÔÅÌØÎÙÍÉ Ó×ÅÄÅÎÉÑÍÉ Ï ÒÙÎËÅÃÅÎÎÙÈ ÂÕÍÁÇ X, Ó×ÑÚÁÎÁ Ó X ÓÏ×ÍÅÓÔÎÏÊ ÐÌÏÔÎÏÓÔØÀ ÒÁÓÐÒÅÄÅÌÅÎÉÑ f (x; y), ËÏÔÏÒÁÑ ÓÞÉÔÁÅÔÓÑ ÉÚ×ÅÓÔÎÏÊ ÉÎ×ÅÓÔÏÒÕ. ïÔÍÅÔÉÍ, ÞÔÏ ÍÁÒÇÉÎÁÌØÎÙÅ ÐÌÏÔÎÏÓÔÉ f (x), f (y) É ÕÓÌÏ×ÎÁÑÐÌÏÔÎÏÓÔØ f (x|Y = y) ×ÙÞÉÓÌÑÀÔÓÑ ÐÏ ÐÌÏÔÎÏÓÔÉ ÓÏ×ÍÅÓÔÎÏÇÏ ÒÁÓÐÒÅÄÅÌÅÎÉÑ:f (x) =Zf (x; y) dy; f (y) =Zf (x; y) dx; f (x|Y = y) =f (x; y):f (y)÷ ÎÁÞÁÌÅ ÄÎÑ ÉÎ×ÅÓÔÏÒÕ ÓÏÏÂÝÁÅÔÓÑ ÚÎÁÞÅÎÉÅ ÓÌÕÞÁÊÎÏÊ ×ÅÌÉÞÉÎÙ Y = y É ÏÎ × ÜÔÏÔ ÄÅÎØ×ÍÅÓÔÏ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÇÏ ÐÏÒÔÆÅÌÑ ÄÌÑ ÐÌÏÔÎÏÓÔÉ f (x) ÐÒÉÍÅÎÑÅÔ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÊ ÐÏÒÔÆÅÌØ ÄÌÑ ÐÌÏÔÎÏÓÔÉ f (x|Y = y).
ïÂÏÚÎÁÞÉÍ ÞÅÒÅÚ WY =y Õ×ÅÌÉÞÅÎÉÅ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ,ËÏÔÏÒÏÇÏ ÉÎ×ÅÓÔÏÒ ÄÏÓÔÉÇÁÅÔ ÚÁ ÓÞÅÔ ÄÏÐÏÌÎÉÔÅÌØÎÙÈ Ó×ÅÄÅÎÉÊ Y = y, É ××ÅÄÅÍ ÕÓÒÅÄÎÅÎÎÏÅ Õ×ÅÌÉÞÅÎÉÅZW = f (y)WY =y dy:yóÐÒÁ×ÅÄÌÉ×Ï ÎÅÒÁ×ÅÎÓÔ×ÏW≤ I (X; Y ) =Z Zx yf (x; y) log2f (x; y)dxdy;f (x)f (y)× ÐÒÁ×ÕÀ ÞÁÓÔØ ËÏÔÏÒÏÇÏ ×ÈÏÄÉÔ ×ÚÁÉÍÎÁÑ ÉÎÆÏÒÍÁÃÉÑ I (X; Y ) [4] ÐÁÒÙ ÓÌÕÞÁÊÎÙÈ ×ÅÌÉÞÉÎ (X; Y ).8.6.5 ôÏÔÁÌÉÚÁÔÏÒ ÎÁ ÓËÁÞËÁÈðÕÓÔØ p = (p1 ; p2 ; : : : ; pm ) {ÒÁÓÐÒÅÄÅÌÅÎÉÅ ×ÅÒÏÑÔÎÏÓÔÅÊ ÎÏÍÅÒÁ ÌÏÛÁÄÉ, ÐÏÂÅÄÉ×ÛÅÊ ×ÚÁÂÅÇÅ, b = (b1 ; b2 ; : : : ; bm ) {ÐÏÒÔÆÅÌØ ÉÇÒÏËÁ, r = (r1 ; r2 ; : : : ; rm ) {ÐÏÒÔÆÅÌØ ÂÕËÍÅËÅÒÁ, ÇÄÅoi = 1=ri , i = 1; 2; : : : ; m {ÓÔÁ×ËÁ ÂÕËÍÅËÅÒÁ ÚÁ ÐÏÂÅÄÕ i-ÏÊ ÌÏÛÁÄÉ.1.