Программа курса
Описание файла
PDF-файл из архива "Программа курса", который расположен в категории "". Всё это находится в предмете "теория информации" из 2 семестр, которые можно найти в файловом архиве МГУ им. Ломоносова. Не смотря на прямую связь этого архива с МГУ им. Ломоносова, его также можно найти и в других разделах. .
Просмотр PDF-файла онлайн
Текст из PDF
.. ¼¿·ª®¢°®£° ¬¬ ª³°± \¥®°¨¿ ¨´®°¬ ¶¨¨"I. ®¯°®±».1. ²¥¬ ²¨·¥±ª ¿ ¬®¤¥«¼ ¯¥°¥¤ ·¨ ¤¨±ª°¥²»µ ° ¢®¢¥°®¿²»µ ±®®¡¹¥¨© ¯® ¤¢®¨·®¬³ ª «³ ±¢¿§¨, ®¯²¨¬ «¼®±²¼ ¤¥ª®¤¨°®¢ ¨¿ ¯® ¬ ª±¨¬³¬³ ¯° ¢¤®¯®¤®¡¨¿.2. ¥°®¿²®±²¼ ®¸¨¡ª¨ ¢ ¤¢®¨·®¬ ±¨¬¬¥²°¨·®¬ ª «¥ ¡¥§ ¯ ¬¿²¨ () ¤«¿ ¤¢³µª®¤®¢»µ ±«®¢.3. °¿¬ ¿ ²¥®°¥¬ ¥® ¤«¿ ª « ± ° ¢®¢¥±»¬ ¸³¬®¬ ().4. ° ¨¶» ¬ ª±¨¬ «¼®£® ®¡º¥¬ ª®¤ ± § ¤ »¬ ° ±±²®¿¨¥¬. ¨¦¿¿ £° ¨¶ ¨±·¥°¯»¢ ¨¿ °¸ ¬®¢ | ¨«¼¡¥°² (). ¨¦¿¿ £° ¨¶ ¤«¿ ± ¬¡«¿ ±«³· ©»µ ª®¤®¢. ¥°µ¿¿ £° ¨¶ ½¬¬¨£ .
¥°µ¿¿ £° ¨¶ «®²ª¨ .5. ¨¥©»¥ ¤¢®¨·»¥ ª®¤» [1, x 6.1]. ®°®¦¤ ¾¹ ¿ ¨ ¯°®¢¥°®· ¿ ¬ ²°¨¶», ª®¤®¢®¥° ±±²®¿¨¥ «¨¥©®£® ª®¤ . ®¤ ½¬¬¨£ . ° ¨¶ ¤«¿ «¨¥©®£® ª®¤ .6. ®¤¥«¼ ±² ²¨·¥±ª®£® ¯®¨±ª . ¥¼¨. ¡° ² ¿ ¨ ¯°¿¬ ¿ ²¥®°¥¬» ¥® ¤«¿(M; k)-¯« . ° ¨¶» ¤«¨» ¨ ®¯²¨¬ «¼»¥ ª®±²°³ª¶¨¨ (M; k)-¯« ®¢.7. ¡° ² ¿ ²¥®°¥¬ ¥® ¤«¿ ¤¨±ª°¥²®£® ª « ±¢¿§¨.
¢®©±²¢ ½²°®¯¨¨ ¨¨´®°¬ ¶¨¨ [1, £«. 2]. ¥®°¥¬ ¯¥°¥° ¡®²ª¨ ¤ »µ, ¥° ¢¥±²¢® ®, ¯°®¯³±ª ¿±¯®±®¡®±²¼ ¤¨±ª°¥²®£® ª « ¡¥§ ¯ ¬¿²¨ (), ®¡° ² ¿ ²¥®°¥¬ ¥® ¤«¿ [1, xx 4.2{4.3]. ¡° ² ¿ ²¥®°¥¬ ¥® ¤«¿ .8. °¿¬ ¿ ²¥®°¥¬ ¥® ¤«¿ . ®°®£®¢®¥ ¤¥ª®¤¨°®¢ ¨¥ ¨ ±«³· ©®¥ ª®¤¨°®¢ ¨¥ ¤«¿ , ²¥®°¥¬» ¥® ¤«¿ ±°¥¤¥© ¨ ¬ ª±¨¬ «¼®© ¢¥°®¿²®±²¨®¸¨¡ª¨ ([1, § ¤ · 5.18]).9. ¢ ±¢®©±²¢ ¢»¯³ª«®±²¨ ¨´®°¬ ¶¨®®© ´³ª¶¨¨ ([1, x 4.4]).10. ¥®°¥¬ ® ¡®«¼¸¨µ ³ª«®¥¨¿µ (), ¢»¢®¤ ½ª±¯®¥¶¨ «¼®© £° ¨¶» ¢¥°®¿²®±²¨ ®¸¨¡ª¨ ¤«¿ ± ¯®¬®¹¼¾ ([1, x 5.4 ¨ § ¤ · 5.14]).11. ®±«¥¤®¢ ²¥«¼»¥ ¯« » ¯®¨±ª .
°¥´¨ª±»© ª®¤, ª®¤®¢®¥ ¤¥°¥¢®, ¥° ¢¥±²¢®° ´² , ²¥®°¥¬ ª®¤¨°®¢ ¨¿ ¤«¿ ¯°¥´¨ª±»µ ª®¤®¢ ([1, £«. 3]), ®¶¥ª ±°¥¤¥©¤«¨» «´ ¢¨²®£® ª®¤ ([2, £«. 4,x 3]), ±°¥¤¥¥ ·¨±«® ¯°®¢¥°®ª ¤«¿ ¡¨®¬¨ «¼®©¬®¤¥«¨ ¯®¨±ª ¤¥´¥ª²®¢.12. ®£-®¯²¨¬ «¼»¥ ¯®°²´¥«¨ ¨¢¥±²¨°®¢ ¨¿ °»ª¥ ¶¥»µ ¡³¬ £. ª®°®±²¼ ³¤¢®¥¨¿ ª ¯¨² « °»ª¥ ¶¥»µ ¡³¬ £ ¯°¨ § ¤ ®¬ ° ±¯°¥¤¥«¥¨¨ ®²®±¨²¥«¼»µ±²®¨¬®±²¥© ª¶¨© ¨ ¨¢¥±²¨¶¨®®¬ ¯®°²´¥«¥, «®£-®¯²¨¬ «¼»© ¯®°²´¥«¼ ¨¢¥±²¨°®¢ ¨¿, ³±«®¢¨¿ «®£-®¯²¨¬ «¼®±²¨. ¢¥«¨·¥¨¥ ±ª®°®±²¨ ³¤¢®¥¨¿ § ±·¥² ¤®¯®«¨²¥«¼®© ¨´®°¬ ¶¨¨.
®£-®¯²¨¬ «¼»© ¯®°²´¥«¼ ¨¢¥±²¨°®¢ ¨¿ ¨£°®ª ¢ ²®² «¨§ ²®°¥ ±ª ·ª µ[3, ch. 6, 16].12. ¤ ·¨1.2.3.4.5.6.7.8.; ®£ °¨´¬¨·¥±ª ¿ ±¨¬¯²®²¨ª Nt ([1, § ¤ · 5.8]). ¤«¿ ¨±¯»² ¨© ¥°³««¨.¥°®¿²®±²¼ ®¸¨¡ª¨ ¢ ¤«¿ ¤¢³µ ª®¤®¢»µ ±«®¢.° ¨¶ ¤«¿ ¤«¿ ± ¬¡«¿ ° ¢®¢¥±»µ ª®¤®¢.¨¥©»© ª®¤ ± ¯°®¢¥°ª®© ·¥²®±²¼.°®¯³±ª ¿ ±¯®±®¡®±²¼ .±¨¬¯²®²¨ª ¤«¨» ¯®±«¥¤®¢ ²¥«¼®£® (M; k)-¯« ¤«¿ ¬®¤¥«¨ .
¥¼¨.®±«¥¤®¢ ²¥«¼»© ¯®¨±ª m ¤¥´¥ª²®¢ ±°¥¤¨ M ®¡º¥ª²®¢ § m log2 M £°³¯¯®¢»µ ¯°®¢¥°®ª.¨²¥° ²³° [1][2][3][4][5] «« £¥° . . "¥®°¨¿ ¨´®°¬ ¶¨¨ ¨ ¤¥¦ ¿ ±¢¿§¼". ., ®¢. ° ¤¨®, 1974.«¼±¢¥¤¥ ., ¥£¥¥° . ¤ ·¨ ¯®¨±ª . ., ¨°, 1982.Cover T, Thomas J. "Elements of information theory". Willey & Sons, New York, 1991.®«¥±¨ª .., ®«²»°¥¢ .., "³°± ²¥®°¨¨ ¨´®°¬ ¶¨¨", ., ³ª , 1982.¨± ° , ¥°¥° . "¥®°¨¿ ¨´®°¬ ¶¨¨.
¥®°¥¬» ª®¤¨°®¢ ¨¿ ¤«¿ ¤¨±ª°¥²»µ ±¨±²¥¬ ¡¥§ ¯ ¬¿²¨", . ¨°, 1985.2.