8. Лог-оптимальные портфели инвестирования на рынке ценных бумаг (1107647), страница 2
Текст из файла (страница 2)
ïÔÓÀÄÁ ÓÌÅÄÕÅÔ, ÞÔÏ ×ÅËÔÏÒ b∗6Ñ×ÌÑÅÔÓÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÍ ÔÏÇÄÁ É ÔÏÌØËÏ ÔÏÇÄÁ, ËÏÇÄÁ ÎÁÐÒÁ×ÌÅÎÎÁÑ ÐÒÏÉÚ×ÏÄÎÁÑ ÆÕÎËÃÉÉ W (b) × ÎÁÐÒÁ×ÌÅÎÉÉ ÏÔ b∗ Ë ÌÀÂÏÍÕ ÄÒÕÇÏÍÕ ÐÏÒÔÆÅÌÀ b Ñ×ÌÑÅÔÓÑ ÎÅÐÏÌÏÖÉÔÅÌØÎÏÊ.äÌÑ ÕÄÏÂÎÏÊ ÆÏÒÍÁÌØÎÏÊ ÚÁÐÉÓÉ ÜÔÏÇÏ ÕÓÌÏ×ÉÑ ××ÅÄÅÍ ÏÂÏÚÎÁÞÅÎÉÅb = (1 − )b∗ + b; 0 ≤ ≤ 1:úÁÍÅÔÉÍ, ÞÔÏ ÆÉËÓÉÒÏ×ÁÎÎÙÊ ÐÏÒÔÆÅÌØ b∗ Ñ×ÌÑÅÔÓÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÍ ÐÏÒÔÆÅÌÅÍ ÔÏÇÄÁ ÉÔÏÌØËÏ ÔÏÇÄÁ, ËÏÇÄÁ ÄÌÑ ÌÀÂÏÇÏ ÄÒÕÇÏÇÏ ÐÏÒÔÆÅÌÑ b ÏÄÎÏÓÔÏÒÏÎÎÑÑ ÐÒÏÉÚ×ÏÄÎÁÑ ÆÕÎËÃÉÉW (b ) ÄÅÊÓÔ×ÉÔÅÌØÎÏÇÏ ÁÒÇÕÍÅÎÔÁ ≥ 0 ÐÒÉ = 0+ Ñ×ÌÑÅÔÓÑ ÎÅÐÏÌÏÖÉÔÅÌØÎÏÊ, Ô.Å.w(b) =dW (b ) − W (b∗ )W (b )|=0+ = lim≤ 0:→0+d(4)éÓÐÏÌØÚÕÑ ÏÐÒÅÄÅÌÅÎÉÅ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ W (b), ÐÒÉ ×ÙÞÉÓÌÅÎÉÉ ÕËÁÚÁÎÎÏÊ ÏÄÎÏÓÔÏÒÏÎÎÅÊ ÐÒÏÉÚ×ÏÄÎÏÊ ÐÏÌÕÞÁÅÍ¢d1 ¡W (b )|=0+ = lim E log2 {(1 − )b∗ t X + bt X} − log2 {b∗ t X} =→0+ dµµ¶¶(1 − )b∗ t X + bt X1= lim E log2=→0+ b∗ t Xµµ tµ¶¶¶ · µ t ¶¸bX1bX= E lim log2 1 + ∗ t − 1= E ∗t− 1 log2 e:→0+ b Xb XóÌÅÄÏ×ÁÔÅÌØÎÏ, (4) ÏÚÎÁÞÁÅÔ, ÞÔÏ ÆÉËÓÉÒÏ×ÁÎÎÙÊ ÐÏÒÔÆÅÌØ b∗ Ñ×ÌÑÅÔÓÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÍÐÏÒÔÆÅÌÅÍ ÔÏÇÄÁ É ÔÏÌØËÏ ÔÏÇÄÁ, ËÏÇÄÁ ÄÌÑ ÌÀÂÏÇÏ ÄÒÕÇÏÇÏ ÐÏÒÔÆÅÌÑ b ÓÐÒÁ×ÅÄÌÉ×Ï ÎÅÒÁ×ÅÎÓÔ×ϵ t ¶b X ≤ 1:(5)E ∗tb XðÕÓÔØ ÄÌÑ ÎÅËÏÔÏÒÏÇÏ ÐÏÒÔÆÅÌÑ b ÎÁÊÄÅÔÓÑ ÏÔÒÉÃÁÔÅÌØÎÏÅ ÞÉÓÌÏ < 0 ÔÁËÏÅ ÞÔÏb = (1 − )b∗ + b ∈ B; ≤ ≤ 0:(6)üÔÏ ÏÚÎÁÞÁÅÔ, ÞÔÏ ÎÁÐÒÁ×ÌÅÎÎÙÊ ÏÔÒÅÚÏË, ÐÒÏ×ÅÄÅÎÎÙÊ ÏÔ ×ÅËÔÏÒÁ b Ë ×ÅËÔÏÒÕ b∗ , ÍÏÖÎÏÐÒÏÄÌÉÔØ ÞÅÒÅÚ b∗ ÄÏ ×ÅËÔÏÒÁ b ×ÎÕÔÒÉ ÓÉÍÐÌÅËÓÁ B.
ëÒÏÍÅ ÔÏÇÏ, ÏÞÅ×ÉÄÎÙ ÓÌÅÄÕÀÝÉÅÕÔ×ÅÒÖÄÅÎÉÑ:•ÆÕÎËÃÉÑ W (b ) ÐÒÉ = 0 ÉÍÅÅÔ Ä×ÕÓÔÏÒÏÎÎÀÀ ÐÒÏÉÚ×ÏÄÎÕÀ· µ¶¸dbt X − 1 log e;w(b) = W (b )|=0 = E ∗ t2db X•ÓÐÒÁ×ÅÄÌÉ×Ï ÒÁ×ÅÎÓÔ×Ï w(b ) = −w(b).éÚ ÄÁÎÎÙÈ ÕÔ×ÅÒÖÄÅÎÉÊ É ÎÅÒÁ×ÅÎÓÔ×Á (4) ×ÙÔÅËÁÅÔ, ÞÔÏ × ÒÁÓÓÍÁÔÒÉ×ÁÅÍÏÍ ÓÌÕÞÁÅ Ä×ÕÓÔÏÒÏÎÎÑÑ ÐÒÏÉÚ×ÏÄÎÁÑ w(b) = 0. éÎÙÍÉ ÓÌÏ×ÁÍÉ, ÍÙ ÐÏËÁÚÁÌÉ, ÞÔÏ ÄÌÑ ÐÏÒÔÆÅÌÑ b,ÕÄÏ×ÌÅÔ×ÏÒÑÀÝÅÇÏ (6), ÕÓÌÏ×ÉÅ (5) ×ÙÐÏÌÎÑÅÔÓÑ ÓÏ ÚÎÁËÏÍ ÒÁ×ÅÎÓÔ×Á.7³ t´úÁÍÅÔÉÍ, ÞÔÏ ×ÅÌÉÞÉÎÁ E bb∗ tXX , ÓÔÏÑÝÁÑ × ÌÅ×ÏÊ ÞÁÓÔÉ (5), Ñ×ÌÑÅÔÓÑ ÌÉÎÅÊÎÏÊ ÆÕÎËÃÉÅÊ ÁÒÇÕÍÅÎÔÁ b ∈ B.
ðÏÜÔÏÍÕ ÐÒÉ ÈÁÒÁËÔÅÒÉÚÁÃÉÉ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÇÏ ÐÏÒÔÆÅÌÑ ÄÏÓÔÁÔÏÞÎÏ ÔÒÅÂÏ×ÁÔØ ×ÙÐÏÌÎÅÎÉÑ ÎÅÒÁ×ÅÎÓÔ×Á (5) ÌÉÛØ ÄÌÑ ÓÌÅÄÕÀÝÉÈ m ÚÎÁÞÅÎÉÊ ×ÅËÔÏÒÁb = ei = (ei1 ; ei2 ; : : : ; eim ); i = 1; 2; : : : ; m;ÇÄŽk = i,= 10;; ÅÓÌÉÅÓÌÉ k 6= i; k = 1; 2; : : : ; m;ÓÏ×ÐÁÄÁÀÝÉÈ Ó ÜËÓÔÒÅÍÁÌØÎÙÍÉ ÔÏÞËÁÍÉ ÓÉÍÐÌÅËÓÁ. ìÅÇËÏ ÚÁÍÅÔÉÔØ, ÞÔÏ ÐÒÉ b = eiÕÓÌÏ×ÉÅ (6) ÍÏÖÅÔ ÂÙÔØ ×ÙÐÏÌÎÅÎÏ ÔÏÇÄÁ É ÔÏÌØËÏ ÔÏÇÄÁ, ËÏÇÄÁ i-ÁÑ ËÏÍÐÏÎÅÎÔÁ ÌÏÇÏÐÔÉÍÁÌØÎÏÇÏ ÐÏÒÔÆÅÌÑ b∗i > 0.
ðÏÓÌÅ ÐÏÄÓÔÁÎÏ×ËÉ ÜÔÉÈ ÜËÓÔÒÅÍÁÌØÎÙÈ ÔÏÞÅË ÓÉÍÐÌÅËÓÁ× (5) ÐÏÌÕÞÁÅÍ ÕÔ×ÅÒÖÄÅÎÉÅ ÔÅÏÒÅÍÙ 2.ôÅÏÒÅÍÁ 2 ÄÏËÁÚÁÎÁ.eikðÕÓÔØ S ∗ = b∗ t X ÏÂÏÚÎÁÞÁÅÔ ÏÔÎÏÛÅÎÉÅ ËÁÐÉÔÁÌÁ ÉÎ×ÅÓÔÏÒÁ ÐÏ ×ÓÅÍ ÁËÃÉÑÍ × ËÏÎÃÅ ÄÎÑË ËÁÐÉÔÁÌÕ × ÎÁÞÁÌÅ ÄÎÑ ÐÒÉ ÌÏÇ - ÏÐÔÉÍÁÌØÎÏÍ ÐÏÒÔÆÅÌÅ b∗ = (b∗1 ; b∗2 ; : : : ; b∗m ). äÒÕÇÉÍÉÓÌÏ×ÁÍÉ, S ∗ ÏÂÏÚÎÁÞÁÅÔ ÓÌÕÞÁÊÎÙÊ ÒÏÓÔ ÄÏÈÏÄÁ ÐÏ ×ÓÅÍ ÁËÃÉÑÍ ÚÁ ÏÄÉÎ ÄÅÎØ ÐÒÉ ÌÏÇÏÐÔÉÍÁÌØÎÏÍ ÐÏÒÔÆÅÌÅ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ.
äÌÑ ÐÒÏÉÚ×ÏÌØÎÏÇÏ ÆÉËÓÉÒÏ×ÁÎÎÏÇÏ ÐÏÒÔÆÅÌÑÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ b ÁÎÁÌÏÇÉÞÎÙÊ ÓÌÕÞÁÊÎÙÊ ÒÏÓÔ ÄÏÈÏÄÁ ÏÂÏÚÎÁÞÉÍ ÓÉÍ×ÏÌÏÍ S = bt X.éÚ ÔÅÏÒÅÍÙ 2 ×ÙÔÅËÁÀÔ ÐÒÉ×ÏÄÉÍÙÅ × ÔÅÏÒÅÍÅ 3 ×ÁÖÎÙÅ Ó×ÏÊÓÔ×Á ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÇÏÐÏÒÔÆÅÌÑ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ.ôÅÏÒÅÍÁ 3. óÐÒÁ×ÅÄÌÉ×Ù ÓÌÅÄÕÀÝÉÅ ÕÔ×ÅÒÖÄÅÎÉÑ.1. íÁÔÅÍÁÔÉÞÅÓËÏÅ ÏÖÉÄÁÎÉÅ ÏÔÎÏÛÅÎÉÑ ÄÏÈÏÄÁ ÐÒÉ ÐÒÏÉÚ×ÏÌØÎÏÍ ÆÉËÓÉÒÏ×ÁÎÎÏÍÐÏÒÔÆÅÌÅ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ b Ë ÄÏÈÏÄÕ ÐÒÉ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÍ ÐÏÒÔÆÅÌÅ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ ÎÅ ÐÒÅ×ÏÓÈÏÄÉÔ 1, Ô.Å.E (S=S ∗ ) ≤ 1:(7)2. ðÕÓÔØ b { ÐÒÏÉÚ×ÏÌØÎÙÊ ÆÉËÓÉÒÏ×ÁÎÎÙÊÐÏÒÔÆÅÌØ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ, ÄÌÑ ËÏÔÏÒÏÇÏ¡ ¢ÍÁÔÅÍÁÔÉÞÅÓËÏÅ ÏÖÉÄÁÎÉÅ E SS∗ ≤ 1. ôÏÇÄÁ ÄÌÑ ÄÁÎÎÏÇÏ ÐÏÒÔÆÅÌÑ b ÍÁÔÅÍÁÔÉÞÅÓËÏÅ ÏÖÉÄÁÎÉŵ½ ¾¶SE log2 ∗≤ 0:S3.
ðÒÉ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÍ ÐÏÒÔÆÅÌÅ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ b∗ = (b∗1 ; b∗2 ; : : : ; b∗m ) ÞÉÓÌÏ b∗i ; i =1; 2; : : : ; m ÓÏ×ÐÁÄÁÅÔ Ó ÍÁÔÅÍÁÔÉÞÅÓËÉÍ ÏÖÉÄÁÎÉÅÍ ÓÌÕÞÁÊÎÏÊ ÄÏÌÉ ÄÏÈÏÄÁ ÐÏ i-ÏÊÁËÃÉÉ × ËÏÎÃÅ ÒÁÂÏÞÅÇÏ ÄÎÑ ÒÙÎËÁ. üÔÏ ÏÚÎÁÞÁÅÔ ÓÌÅÄÕÀÝÅÅ Ó×ÏÊÓÔ×Ï ÓÔÁÃÉÏÎÁÒÎÏÓÔÉ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÇÏ ÐÏÒÔÆÅÌÑ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ: ÏÖÉÄÁÅÍÁÑ × ËÏÎÃÅ ÄÎÑ ÄÏÌÑÄÏÈÏÄÁ ÐÏ i-ÏÊ ÁËÃÉÉ ÓÏ×ÐÁÄÁÅÔ Ó ÄÏÌÅÊ ËÁÐÉÔÁÌÁ, ÉÎ×ÅÓÔÉÒÕÅÍÏÇÏ × ÎÁÞÁÌÅ ÄÎÑ ×i-ÕÀ ÁËÃÉÀ, i = 1; 2; : : : ; m.úÁÍÅÞÁÎÉÅ.
îÅÒÁ×ÅÎÓÔ×Ï (7) ÄÁÅÔ ÉÎÔÅÒÅÓÎÕÀ, ÐÏÌÅÚÎÕÀ É ÎÁÇÌÑÄÎÕÀ ÉÎÔÅÒÐÒÅÔÁ-ÃÉÀ "ÏÐÔÉÍÁÌØÎÏÓÔÉ" ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÇÏ ÐÏÒÔÆÅÌÑ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ ÎÁ ÒÙÎËÅ ÃÅÎÎÙÈ ÂÕÍÁÇ. óÌÅÄÕÅÔ ÏÂÒÁÔÉÔØ ×ÎÉÍÁÎÉÅ ÎÁ ÔÏ, ÞÔÏ (7) ÎÅ ÒÁ×ÎÏÓÉÌØÎÏ "ÂÏÌÅÅ ÅÓÔÅÓÔ×ÅÎÎÏÍÕËÒÉÔÅÒÉÀ ÏÐÔÉÍÁÌØÎÏÓÔÉ", ÐÒÉ ËÏÔÏÒÏÍ ÔÒÅÂÕÅÔÓÑ ×ÙÐÏÌÎÅÎÉÅ ÎÅÒÁ×ÅÎÓÔ×Á ES ≤ ES ∗ .ïÔÍÅÔÉÍ ÔÁËÖÅ, ÞÔÏ ÕÔ×ÅÒÖÄÅÎÉÅ 2 ÍÏÖÎÏ ÒÁÓÓÍÁÔÒÉ×ÁÔØ × ËÁÞÅÓÔ×Å "ÏÂÒÁÔÎÏÇÏ" Ë ÕÔ×ÅÒÖÄÅÎÉÀ 1.8äÏËÁÚÁÔÅÌØÓÔ×Ï ÔÅÏÒÅÍÙ 3. 1.
óÏÇÌÁÓÎÏ ÔÅÏÒÅÍÅ 2, ÄÌÑ ÌÀÂÏÇÏ i = 1; 2; : : : ; mÓÐÒÁ×ÅÄÌÉ×Ï ÎÅÒÁ×ÅÎÓÔ×ϵE¶Xib∗ t X≤ 1:õÍÎÏÖÁÑ ÜÔÏ ÎÅÒÁ×ÅÎÓÔ×Ï ÎÁ bi É ÓÕÍÍÉÒÕÑ ÐÏ i = 1; 2; : : : ; m, ÐÏÌÕÞÁÅÍmXi=1µbi EXi¶b∗ t X≤mXi=1bi = 1:ðÏÓÌÅÄÎÅÅ ÎÅÒÁ×ÅÎÓÔ×Ï ÜË×É×ÁÌÅÎÔÎÏ ÎÅÒÁ×ÅÎÓÔ×Õ ÕÔ×ÅÒÖÄÅÎÉÑ 1:µ t ¶µ ¶bXSE ∗t= E ∗ ≤ 1:Sb X2. ðÒÉÍÅÎÑÑ ÎÅÒÁ×ÅÎÓÔ×Ï êÅÎÓÅÎÁ ÄÌÑ ÌÏÇÁÒÉÆÍÉÞÅÓËÏÊ ÆÕÎËÃÉÉ, ÐÏÌÕÞÉ͵½ ¾¶½ µ ¶¾SSE log2 ∗≤ log2 E≤ log2 1 = 0:SS∗3. ðÒÉ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÍ∗ ÐÏÒÔÆÅÌÅ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ b∗ = (b∗1 ; b∗2 ; : : : ; b∗m ) ÓÌÕÞÁÊÎÁÑ ÄÏÌÑÄÏÈÏÄÁ ÐÏ i-ÏÊ ÁËÃÉÉ ÅÓÔØ bbi∗Xt Xi . äÌÑ ÍÁÔÅÍÁÔÉÞÅÓËÏÇÏ ÏÖÉÄÁÎÉÑ (ÓÒÅÄÎÅÇÏ ÚÎÁÞÅÎÉÑ) ÜÔÏÊÄÏÌÉ ÉÍÅÅ͵ ∗ ¶µ¶bi XiXi∗E ∗t= bi E ∗ t= b∗i 1 = b∗i :b Xb XôÅÏÒÅÍÁ 3 ÄÏËÁÚÁÎÁ.8.4 õ×ÅÌÉÞÅÎÉÅ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ ÐÒÉ ÎÁÌÉÞÉÉÄÏÐÏÌÎÉÔÅÌØÎÏÊ ÉÎÆÏÒÍÁÃÉÉ÷ ÜÔÏÍ ÒÁÚÄÅÌÅ (ÄÌÑ ÏÐÒÅÄÅÌÅÎÎÏÓÔÉ) ÂÕÄÅÍ ÒÁÓÓÍÁÔÒÉ×ÁÔØ ÓÉÔÕÁÃÉÀ, ËÏÇÄÁ ÔÅÏÒÅÔÉÞÅÓËÏÅ ÒÁÓÐÒÅÄÅÌÅÎÉÅ F = F (x) ÎÁ ÒÙÎËÅ ÃÅÎÎÙÈ ÂÕÍÁÇ ÏÂÌÁÄÁÅÔ ÐÌÏÔÎÏÓÔØÀ f = f (x).
óÏÞÅ×ÉÄÎÙÍÉ ÉÚÍÅÎÅÎÉÑÍÉ × ÏÂÏÚÎÁÞÅÎÉÑÈ ×ÓÅ ÓÆÏÒÍÕÌÉÒÏ×ÁÎÎÙÅ ÚÄÅÓØ ÒÅÚÕÌØÔÁÔÙ ÂÕÄÕÔÓÐÒÁ×ÅÄÌÉ×Ù ÔÁËÖÅ ÄÌÑ ÓÌÕÞÁÑ ÄÉÓËÒÅÔÎÏÇÏ ÒÁÓÐÒÅÄÅÌÅÎÉÑ F = F (x). üÔÉ ÉÚÍÅÎÅÎÉÑ ÂÕÄÕÔÐÒÏÉÌÌÀÓÔÒÉÒÏ×ÁÎÙ × ÓÌÅÄÕÀÝÅÍ ÒÁÚÄÅÌÅ 8.5, ÇÄÅ × ËÁÞÅÓÔ×Å ×ÁÖÎÏÇÏ ÄÉÓËÒÅÔÎÏÇÏ ÐÒÉÍÅÒÁ ÉÓÓÌÅÄÕÅÔÓÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÊ ÐÏÒÔÆÅÌØ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ ÄÌÑ ÔÏÔÁÌÉÚÁÔÏÒÁ ÎÁ ÓËÁÞËÁÈ.ðÒÅÄÐÏÌÏÖÉÍ, ÞÔÏ ×ÍÅÓÔÏ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÇÏ ÐÏÒÔÆÅÌÑ b∗ (F ) ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ ÉÓÐÏÌØÚÕÅÔÓÑ ÄÒÕÇÏÊ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÊ ÐÏÒÔÆÅÌØ b∗ (G), ÇÄÅ G = G(x) { ÎÅËÏÔÏÒÏÅ ÐÒÏÉÚ×ÏÌØÎÏÅÆÉËÓÉÒÏ×ÁÎÎÏÅ ÒÁÓÐÒÅÄÅÌÅÎÉÅ Ó ÐÌÏÔÎÏÓÔØÀ g = g(x). ôÏÇÄÁW, W (b∗ (F ); F ) − W (b∗ (G); F )(8)ÐÒÅÄÓÔÁ×ÌÑÅÔ ÓÏÂÏÊ ×ÅÌÉÞÉÎÕ, ÎÁ ËÏÔÏÒÕÀ ÍÏÖÎÏ ÂÙÌÏ ÂÙ Õ×ÅÌÉÞÉÔØ ÓËÏÒÏÓÔØ ÕÄ×ÏÅÎÉÑ,ÅÓÌÉ ÉÓÐÏÌØÚÏ×ÁÔØ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÊ ÐÏÒÔÆÅÌØ b∗ (F ).ïÐÒÅÄÅÌÉÍ ÒÁÓÓÔÏÑÎÉÅ ëÕÌØÂÁËÁ [3, 4] ÍÅÖÄÕ ÒÁÓÐÒÅÄÅÌÅÎÉÑÍÉ ×ÅÒÏÑÔÎÏÓÔÅÊ ÎÁ ÒÙÎËÅÃÅÎÎÙÈ ÂÕÍÁÇ F É ÐÒÏÉÚ×ÏÌØÎÙÍ ÆÉËÓÉÒÏ×ÁÎÎÙÍ ÒÁÓÐÒÅÄÅÌÅÎÉÅÍ ×ÅÒÏÑÔÎÏÓÔÅÊ G:Zf (x)D(f kg) , f (x) log2dx ≥ 0:g(x)9ïÔÍÅÔÉÍ, ÞÔÏ ÎÅÏÔÒÉÃÁÔÅÌØÎÏÓÔØ ÒÁÓÓÔÏÑÎÉÑ ëÕÌØÂÁËÁ (ÓÏ ÚÎÁËÏÍ ÒÁ×ÅÎÓÔ×Á ÎÕÌÀ ÌÉÛØ× ÓÌÕÞÁÅ f = g) ×ÙÔÅËÁÅÔ ÉÚ ÈÏÒÏÛÏ ÉÚ×ÅÓÔÎÏÇÏ ÎÅÒÁ×ÅÎÓÔ×Á ÄÌÑ ÎÁÔÕÒÁÌØÎÏÇÏ ÌÏÇÁÒÉÆÍÁln u ≤ u − 1 Ó ÒÁ×ÅÎÓÔ×ÏÍ ÌÉÛØ ÐÒÉ u = 1, Á ÉÍÅÎÎÏ:−D(f kg ) = [log2 e]≤ [log2 e]= [log2 e]·ZZf (x) lng(x)dx ≤f (x)·Z¸g(x)f (x)− 1 dx =f (x)g(x) dx −Z¸f (x) dx = 0:úÁÍÅÞÁÎÉÅ.
ïÔÍÅÔÉÍ, ÞÔÏ × ÓÌÕÞÁÅ ÄÉÓËÒÅÔÎÏÊ ÍÏÄÅÌÉ ÒÁÓÓÔÏÑÎÉÅ ëÕÌØÂÁËÁ, ÕÄÏ×ÌÅ-Ô×ÏÒÑÀÝÅÅ ÕËÁÚÁÎÎÏÍÕ ×ÙÛÅ Ó×ÏÊÓÔ×Õ, ÏÐÒÅÄÅÌÑÅÔÓÑ ÆÏÒÍÕÌÏÊD(f kg) ,Xxf (x) logf (x):g(x)ôÅÏÒÅÍÁ 4. äÌÑ ÌÀÂÏÊ ÐÁÒÙ ÒÁÓÐÒÅÄÅÌÅÎÉÊ F É G ÉÍÅÅÔ ÍÅÓÔÏ ÎÅÒÁ×ÅÎÓÔ×ÏW≤ D(f kg ):äÏËÁÚÁÔÅÌØÓÔ×Ï ÔÅÏÒÅÍÙ 4. ðÒÉ ×Ù×ÏÄÅ ÎÅÒÁ×ÅÎÓÔ×Á ÂÕÄÅÍ ÉÓÐÏÌØÚÏ×ÁÔØ ÓÌÅÄÕÀÝÉÅ ÏÂÏÚÎÁÞÅÎÉÑ ÄÌÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÈ ÐÏÒÔÆÅÌÅÊ: b∗f = b∗ (F ) É b∗g = b∗ (G). ðÒÉÍÅÎÑÑÏÐÒÅÄÅÌÅÎÉÅ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ, ÍÏÖÅÍ ÎÁÐÉÓÁÔØW = W (b∗ (F ); F ) − W (b∗ (G); F ) ===ZZ(f (x) log2=≤ log2(Zf (x) log2 {b∗f t x} dx −ZZf (x) log2 {b∗g t x} dx =)()Zb∗f t x g(x) f (x)b∗f t xdx =dx=f(x)log2b∗g t xb∗g t x f (x) g(x)(f (x) log2))b∗f t x g(x)dx + D(f kg) ≤b∗g t x f (x)b∗ t x g(x)dx + D(f kg) = log2f (x) f∗ tbg x f (x)(Z)b∗ t xg(x) f∗ t dx + D(f kg);bg xÇÄÅ ÉÓÐÏÌØÚÏ×ÁÌÉ ÎÅÒÁ×ÅÎÓÔ×Ï êÅÎÓÅÎÁ ÄÌÑ ÌÏÇÁÒÉÆÍÉÞÅÓËÏÊ ÆÕÎËÃÉÉ.ðÕÓÔØ b∗g Ñ×ÌÑÅÔÓÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÍ ÐÏÒÔÆÅÌÅÍ ÄÌÑ ÒÁÓÐÒÅÄÅÌÅÎÉÑ G, Á b { ÐÒÏÉÚ×ÏÌØÎÙÊ ÐÏÒÔÆÅÌØ.
ôÅÏÒÅÍÁ 3 ÏÚÎÁÞÁÅÔ, ÞÔÏZÃbt xbt Xg(x) ∗ t dx = E ∗ tbg xbg X10!≤ 1:ðÒÉÍÅÎÉÍ ÜÔÏ ÎÅÒÁ×ÅÎÓÔ×Ï ÐÒÉ b = b∗f . ðÏÌÕÞÉÍW≤ log2(Z)b∗ t xg(x) f∗ t dx + D(f kg) ≤ log2 1 + D(f kg) = D(f kg):bg xôÅÏÒÅÍÁ 4 ÄÏËÁÚÁÎÁ.òÁÓÓÍÏÔÒÉÍ ÔÅÐÅÒØ ÓÉÔÕÁÃÉÀ ÎÁ ÒÙÎËÅ ÃÅÎÎÙÈ ÂÕÍÁÇ, ËÏÇÄÁ ÉÎ×ÅÓÔÏÒ ÚÎÁÅÔ ÎÅ ÔÏÌØËÏÓÏ×ÍÅÓÔÎÕÀ ÐÌÏÔÎÏÓÔØ f (x) ×ÅËÔÏÒÁ X = (X1 ; X2 ; : : : ; Xm ) ÏÔÎÏÓÉÔÅÌØÎÙÈ ÓÔÏÉÍÏÓÔÅÊ ÁËÃÉÊ, Á ÔÁËÖÅ ÏÂÌÁÄÁÅÔ ÎÅËÏÔÏÒÙÍÉ ÄÏÐÏÌÎÉÔÅÌØÎÙÍÉ Ó×ÅÄÅÎÉÑÍÉ Ï X.
íÙ ÂÕÄÅÍ ÉÚÕÞÁÔØÓÌÅÄÕÀÝÕÀ ÍÁÔÅÍÁÔÉÞÅÓËÕÀ ÍÏÄÅÌØ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÇÏ ÐÏÒÔÆÅÌÑ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ ÎÁ ÒÙÎËÅÃÅÎÎÙÈ ÂÕÍÁÇ.•÷×ÅÄÅÍ ÓÌÕÞÁÊÎÕÀ ×ÅÌÉÞÉÎÕ Y , ÐÒÉÎÉÍÁÀÝÕÀ ÄÅÊÓÔ×ÉÔÅÌØÎÙÅ ÚÎÁÞÅÎÉÑ y É ÉÍÅÀÝÕÀ ÎÅÐÒÅÒÙ×ÎÕÀ ÐÌÏÔÎÏÓÔØ ÒÁÓÐÒÅÄÅÌÅÎÉÑ f (y). üÔÁ ×ÅÌÉÞÉÎÁ Y ÎÁÚÙ×ÁÅÔÓÑ ÄÏÐÏÌÎÉÔÅÌØÎÙÍÉ Ó×ÅÄÅÎÉÑÍÉ É Ó×ÑÚÁÎÁ Ó X = (X1 ; X2 ; : : : ; Xm ) ÓÏ×ÍÅÓÔÎÏÊ ÐÌÏÔÎÏÓÔØÀÒÁÓÐÒÅÄÅÌÅÎÉÑ f (x; y), ËÏÔÏÒÁÑ ÓÞÉÔÁÅÔÓÑ ÉÚ×ÅÓÔÎÏÊ ÉÎ×ÅÓÔÏÒÕ. ïÔÍÅÔÉÍ, ÞÔÏ ÍÁÒÇÉÎÁÌØÎÙÅ ÐÌÏÔÎÏÓÔÉ f (x) É f (y) ×ÙÞÉÓÌÑÀÔÓÑ ÐÏ ÐÌÏÔÎÏÓÔÉ ÓÏ×ÍÅÓÔÎÏÇÏ ÒÁÓÐÒÅÄÅÌÅÎÉÑ:ZZf (x) = f (x; y) dy; f (y) = f (x; y) dx:•÷ ÎÁÞÁÌÅ ÄÎÑ ÉÎ×ÅÓÔÏÒÕ ÓÏÏÂÝÁÅÔÓÑ ÚÎÁÞÅÎÉÅ ÓÌÕÞÁÊÎÏÊ ×ÅÌÉÞÉÎÙ Y = y É ÏÎ ×ÜÔÏÔ ÄÅÎØ ÐÒÉÍÅÎÑÅÔ ÌÏÇ-ÏÐÔÉÍÁÌØÎÙÊ ÐÏÒÔÆÅÌØ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ × ÓÏÏÔ×ÅÔÓÔ×ÉÉ ÓÕÓÌÏ×ÎÏÊ ÐÌÏÔÎÏÓÔØÀ ÒÁÓÐÒÅÄÅÌÅÎÉÑf (x|Y = y) =•f (x; y):f (y)(9)ïÂÏÚÎÁÞÉÍ ÞÅÒÅÚ WY =y Õ×ÅÌÉÞÅÎÉÅ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ (8), ËÏÔÏÒÏÇÏ ÉÎ×ÅÓÔÏÒ ÄÏÓÔÉÇÁÅÔ ÚÁ ÓÞÅÔ ÄÏÐÏÌÎÉÔÅÌØÎÙÈ Ó×ÅÄÅÎÉÊ Y = y, É ××ÅÄÅÍ ÕÓÒÅÄÎÅÎÎÕÀ ÈÁÒÁËÔÅÒÉÓÔÉËÕZW = f (y)WY =y dy(10)yÎÁÚÙ×ÁÅÍÕÀ ÓÒÅÄÎÉÍ Õ×ÅÌÉÞÅÎÉÅÍ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ ÄÌÑ ÌÏÇ-ÏÐÔÉÍÁÌØÎÏÇÏ ÐÏÒÔÆÅÌÑ ÉÎ×ÅÓÔÉÒÏ×ÁÎÉÑ ÎÁ ÒÙÎËÅ ÃÅÎÎÙÈ ÂÕÍÁÇ X ÚÁ ÓÞÅÔ ÄÏÐÏÌÎÉÔÅÌØÎÙÈ Ó×ÅÄÅÎÉÊ Y .äÌÑ ÓÏ×ÍÅÓÔÎÏÊ ÐÌÏÔÎÏÓÔÉ f (x; y) ÏÐÒÅÄÅÌÉÍ ××ÅÄÅÎÎÕÀ ë.ûÅÎÎÏÎÏÍ (ÄÌÑ ÏÐÉÓÁÎÉÑ ÍÁÔÅÍÁÔÉÞÅÓËÉÈ ÍÏÄÅÌÅÊ ÐÅÒÅÄÁÞÉ É ÈÒÁÎÅÎÉÑ ÓÏÏÂÝÅÎÉÊ × ÓÉÓÔÅÍÁÈ Ó×ÑÚÉ) ×ÁÖÎÕÀ ÞÉÓÌÏ×ÕÀÈÁÒÁËÔÅÒÉÓÔÉËÕ ÓÏ×ÍÅÓÔÎÏÊ ÐÌÏÔÎÏÓÔÉI (X; Y ) ,Z Zx yf (x; y) log2f (x; y)dxdy;f (x)f (y)ÎÁÚÙ×ÁÅÍÕÀ ×ÚÁÉÍÎÏÊ ÉÎÆÏÒÍÁÃÉÅÊ [4] ÐÁÒÙ ÓÌÕÞÁÊÎÙÈ ×ÅÌÉÞÉÎ (X; Y ).
úÎÁÞÅÎÉÅ I (X; Y )ÍÏÖÎÏ ÒÁÓÓÍÁÔÒÉ×ÁÔØ (ÎÁÒÑÄÕ Ó ËÏÒÒÅÌÑÃÉÅÊ) ËÁË ÞÉÓÌÏ×ÏÊ ËÒÉÔÅÒÉÊ Ó×ÑÚÉ ÓÌÕÞÁÊÎÙÈ×ÅÌÉÞÉÎ (X; Y ). éÚ ÎÅÏÔÒÉÃÁÔÅÌØÎÏÓÔÉ ÒÁÓÓÔÏÑÎÉÑ ëÕÌØÂÁËÁ ×ÙÔÅËÁÅÔ, ÞÔÏ ÄÌÑ ÌÀÂÏÊÓÏ×ÍÅÓÔÎÏÊ ÐÌÏÔÎÏÓÔÉ ÉÎÆÏÒÍÁÃÉÑ I (X; Y ) ≥ 0, ÇÄÅ ÚÎÁË ÒÁ×ÅÎÓÔ×Á ÔÏÇÄÁ É ÔÏÌØËÏ ÔÏÇÄÁ,ËÏÇÄÁ ÓÌÕÞÁÊÎÙÅ ×ÅÌÉÞÉÎÙ X É Y ÎÅÚÁ×ÉÓÉÍÙ.11ôÅÏÒÅÍÁ 5 ÄÁÅÔ ×ÅÒÈÎÀÀ ÇÒÁÎÉÃÕ ÄÌÑ ÓÒÅÄÎÅÇÏ Õ×ÅÌÉÞÅÎÉÑ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑ W . üÔÁÇÒÁÎÉÃÁ ÓÏ×ÐÁÄÁÅÔ Ó ×ÅÌÉÞÉÎÏÊ I (X; Y ) , ËÏÔÏÒÕÀ ÍÏÖÎÏ ÉÎÔÅÒÐÒÅÔÉÒÏ×ÁÔØ ËÁË ÉÎÆÏÒÍÁÃÉÀ, ÓÏÄÅÒÖÁÝÕÀÓÑ Ï ÒÙÎËÅ ÃÅÎÎÙÈ ÂÕÍÁÇ X × ÄÏÐÏÌÎÉÔÅÌØÎÙÈ Ó×ÅÄÅÎÉÑÈ Y .ôÅÏÒÅÍÁ 5. óÐÒÁ×ÅÄÌÉ×Ï ÎÅÒÁ×ÅÎÓÔ×ÏW≤ I (X; Y ):äÏËÁÚÁÔÅÌØÓÔ×Ï ÔÅÏÒÅÍÙ 5. ÷ ÓÉÌÕ ÔÅÏÒÅÍÙ 4, ÄÌÑ Õ×ÅÌÉÞÅÎÉÑ ÓËÏÒÏÓÔÉ ÕÄ×ÏÅÎÉÑWY =y , ÄÏÓÔÉÇÁÅÍÏÇÏ ÚÁ ÓÞÅÔ ÄÏÐÏÌÎÉÔÅÌØÎÙÈ Ó×ÅÄÅÎÉÊ Y = y, ÉÍÅÅÔ ÍÅÓÔÏ ÎÅÒÁ×ÅÎÓÔ×ÏWY =y ≤ D(f (x|Y = y)kf (x)) =Zxf (x|Y = y) log2f (x|Y = y)dx:f (x)õÓÒÅÄÎÑÑ ÜÔÏ ÎÅÒÁ×ÅÎÓÔ×Ï ÐÏ ÒÁÓÐÒÅÄÅÌÅÎÉÀ f (y) É ÕÞÉÔÙ×ÁÑ ÏÐÒÅÄÅÌÅÎÉÑ (9) É (10), ÐÏÌÕÞÁÅ;½ZZf (x|Y = y)dx dy =W ≤ f (y)f (x|Y = y) log2f (x)yx¾½Z Zf (x|Y = y) f (y)=dxdy =f (y)f (x|Y = y) log2f (x) f (y)y xZ Zf (x; y)dxdy = I (X; Y ):=f (x; y) log2f (x)f (y)x yôÅÏÒÅÍÁ 5 ÄÏËÁÚÁÎÁ.úÁÍÅÞÁÎÉÅ.