Лекция 9.0. Коллективные решения. Ансамбли (1185311)

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла

Коллективные решения,ансамблиЛектор – Сенько Олег ВалентиновичКурс «Математические методы обучения»Сенько Олег Валентинович ()Коллективные решения1/8Содержание лекции1Ошибки выпуклых комбинацииСенько Олег Валентинович ()Коллективные решения2/8Коллективные решенияЗадачи прогнозирования некоторой величины Y с помощьюпредикторов Z1 , . . . , ZM . Под предикторами понимаются некоторыеалгоритмы, прогнозирующие Y . Наборы алгоритмов, над которымистроятся коллективные решения в литературе по машинному обучениюпринято называть ансамблями. ПустьZccp =LXci Zi ,i=1гдеLXci = 1,i=1ci ≥ 0, i = 1, . . . , LСенько Олег Валентинович ()Коллективные решения3/8Структура ошибки ZccpВведём обозначение:δi = E(Y − Zi )2 − ошибка предиктора Zi .LXδi =i=1= E{LXci (Y − Zccp + Zccp − Zi )2 } =i=12= E{(Y − Zccp ) +LX2ci (Zccp − Zi ) + 2(Y − Zccp )i=1Сенько Олег Валентинович ()LX(Zi − Zccp )}i=1Коллективные решения4/8Структура ошибки ZccpОднакоLX(Zi − Zccp ) = 0i=1по определению ZccpСледовательно2δZccp = E(Y − Zccp ) =LXδi −i=1LX−E[ci (Zccp − Zi )2 ]i=1Сенько Олег Валентинович ()Коллективные решения5/8Структура ошибки ZccpРассмотрим слагаемое−LXci (Zccp − Zi )2i=1Ннетрудно показать, что оно может быть представлено в виде2Zccp−LXi=1Сенько Олег Валентинович ()ci Zi2 =LL XXci0 ci00 Zi0 Zi00 −i0 =1 i00 =1Коллективные решенияLXci Zi2i=16/8Структура ошибки ZccpВоспользуемся равенством1Zi0 Zi00 = − {(Zi0 − Zi00 )2 −2−Zi20 − Zi200 } =Откуда следуетL XLXci0 ci00 Zi0 Zi00 −i0 =1 i00 =1LXci Zi2 =i=1LL1XX=−ci0 ci00 (Zi0 − Zi00 )2 +2 0 00i =1 i =1+LLLX1X1 Xci0 Zi20 +ci00 Zi200 −ci Zi22 02 00i =1Сенько Олег Валентинович ()i =1Коллективные решенияi=17/8Структура ошибки ZccpОткуда следует−LXi=1LL1XXci (Zccp − Zi ) = −ci0 ci00 (Zi0 − Zi00 )22 0 002i =1 i =1Введём обозначениеρi0 i00 = E(Zi0 − Zi00 )2Сенько Олег Валентинович ()Коллективные решения8/8Структура ошибки ZccpδZccp =LXi=1Сенько Олег Валентинович ()LL1XXδi −ci0 ci00 ρi0 i002 0 00i =1 i =1Коллективные решения9/8.

Характеристики

Тип файла PDF

PDF-формат наиболее широко используется для просмотра любого типа файлов на любом устройстве. В него можно сохранить документ, таблицы, презентацию, текст, чертежи, вычисления, графики и всё остальное, что можно показать на экране любого устройства. Именно его лучше всего использовать для печати.

Например, если Вам нужно распечатать чертёж из автокада, Вы сохраните чертёж на флешку, но будет ли автокад в пункте печати? А если будет, то нужная версия с нужными библиотеками? Именно для этого и нужен формат PDF - в нём точно будет показано верно вне зависимости от того, в какой программе создали PDF-файл и есть ли нужная программа для его просмотра.

Список файлов лекций