2 Обобщенные линейные модели. Регуляризация обучения (1162170), страница 3

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 3)

статистикиНормальное распределениеРешение нерешаемых СЛАУ2 Статистическая постановка задачи машинного обученияВероятностное описаниеБайесовские решающие правила3 Линейная регрессияКлассическая линейная регрессияМетод наименьших квадратовВероятностная постановка задачи4 Задача классификацииЛогистическая регрессияМетод IRLSМинимизация невязкиЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификации• Наиболее часто используемой функцией потерьявляется квадратичная S(t, t̂) = (t − t̂)2• Значение регрессионной функции на обучающейвыборке в матричном виде может быть записано какy = Φw, где Φ = (φij ) = (φj (xi )) ∈ Rn×m• Таким образом, приходим к следующей задачеy − t2 = Φw − t2 → minwВзяв производную по w и приравняв ее к нулю,получаем∂[wT ΦT Φw − 2wT ΦT t + tT t]∂Φw − t2==∂w∂w= 2ΦT Φw − 2ΦT t = 0w = (ΦT Φ)−1 ΦT tРегуляризация задачиЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачи• Заметим, что формула для весов линейной регрессиипредставляет собой псевдорешение уравнения Φw = t• Матрица ΦT Φ ∈ Rm×m вырождена (Упр.)при m > n• Регуляризуя вырожденную матрицу, получаем−1 TΦ tw = ΦT Φ + λI• Отсюда формула для прогноза объектов обучающейвыборки по их правильным значениям−1 Tt̂ = y = Φ ΦT Φ + λIΦ t = HtЗадачаклассификацииС историческим обозначением прогноза — навешиванием шляпкисвязано неформальное название матрицы H, по-английскизвучащее как hat-matrixОсобенности квадратичной функции потерьЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификации• Достоинства• Квадратичная функция потерь гладкая (непрерывнаяи дифференцируемая)• Решение может быть получено в явном виде• Существует простая вероятностная интерпретацияпрогноза и функции потерь• Недостатки• Решение неустойчиво (не робастно) относительно дажемалого количества выбросов.

Это связано с быстрымвозрастанием квадратичной функции потерь прибольших отклонениях от нуля• Квадратичная функция неприменима к задачамклассификацииПлан лекцииЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификации1 ЛикбезОсновные понятия мат. статистикиНормальное распределениеРешение нерешаемых СЛАУ2 Статистическая постановка задачи машинного обученияВероятностное описаниеБайесовские решающие правила3 Линейная регрессияКлассическая линейная регрессияМетод наименьших квадратовВероятностная постановка задачи4 Задача классификацииЛогистическая регрессияМетод IRLSНормальное распределение ошибокЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификации• Рассмотрим вероятностную постановку задачивосстановления регрессии.

Регрессионная переменная t— случайная величина с плотностью распределенияp(t|x)• В большинстве случаев предполагается, что tраспределена нормально относительно некоторого мат.ожидания y(x), определяемого точкой xt = y(x) + ε,ε ∼ N (ε|0, 1)• Необходимо найти функцию y(x), которую мы можемотождествить с уравнением регрессии• Предположение о нормальном распределенииотклонений можно обосновать ссылкой нацентральную предельную теоремуМетод максимального правдоподобия длярегрессииЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификации• Используем ММП (не путать с одноименной кафедрой)для поиска y(x)• Правдоподобие задается следующей формулойp(t|y) =ni=1(ti − yi )21√ exp −→ max22π• Взяв логарифм и отбросив члены, не влияющие наположение максимума, получимni=1(ti − yi )2 =ni=1(ti − wT φ(xi ))2 → minw• Таким образом, применение метода максимальногоправдоподобия в предположении о нормальностиотклонений эквивалентно методу наименьшихквадратовВероятностный смысл регуляризацииЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификации• Теперь будем максимизировать не правдоподобие, аапостериорную вероятность• По формуле условной вероятностиp(t|X, w)p(w)→ max,wp(t, X)знаменатель не зависит от w, поэтому им можнопренебречь • Пусть p(w) ∼ N w 0, λ−1 I .

Тогдаλm/2122p(w|t, X) ∝ √ m+n exp − Φw − t + λw22πp(w|t, X) =• Логарифмируя и приравнивая производную по w кнулю, получаемw = (ΦT Φ + λI)−1 ΦT t• Регуляризация эквивалентна введению априорногораспределения, поощряющего небольшие весаЗачем нужна реугляризация весовЛекция 2Ветров,ЖуравлевЛикбезРассмотрим задачу восстановления регрессии сполиномиальными базисными функциями: x ∈ R, φj (x) = xj ,j = 0, .

. . , MСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификацииM =01t0−10x1Зачем нужна реугляризация весовЛекция 2Ветров,ЖуравлевЛикбезРассмотрим задачу восстановления регрессии сполиномиальными базисными функциями: x ∈ R, φj (x) = xj ,j = 0, .

. . , MСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификацииM =11t0−10x1Зачем нужна реугляризация весовЛекция 2Ветров,ЖуравлевЛикбезРассмотрим задачу восстановления регрессии сполиномиальными базисными функциями: x ∈ R, φj (x) = xj ,j = 0, . . . , MСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификацииM =31t0−10x1Зачем нужна реугляризация весовЛекция 2Ветров,ЖуравлевЛикбезРассмотрим задачу восстановления регрессии сполиномиальными базисными функциями: x ∈ R, φj (x) = xj ,j = 0, .

. . , MСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификацииM =91t0−10x1Значения наиболее правдоподобных весовЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияКлассическаялинейнаярегрессияМетоднаименьшихквадратовВероятностнаяпостановказадачиЗадачаклассификацииweight M = 0 M = 1 M = 30.820.310.35-1.277.99232.37w2-25.43-5321.83w317.3748568.31w0w10.19M=9w4-231639.30w5640042.26w6-1061800.52w71042400.18w8-557682.99w9125201.43Таблица: Значения наиболее правдоподобных весов взависимости от степени полинома.

С увеличением степени,абсолютные значения весов быстро растутПлан лекцииЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияЗадачаклассификацииЛогистическаярегрессияМетод IRLS1 ЛикбезОсновные понятия мат. статистикиНормальное распределениеРешение нерешаемых СЛАУ2 Статистическая постановка задачи машинного обученияВероятностное описаниеБайесовские решающие правила3 Линейная регрессияКлассическая линейная регрессияМетод наименьших квадратовВероятностная постановка задачи4 Задача классификацииЛогистическая регрессияМетод IRLSОсобенности задачи классификацииЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияЗадачаклассификацииЛогистическаярегрессияМетод IRLS• Рассмотрим задачу классификации на два классаt ∈ {−1, +1}• Ее можно свести к задаче регрессии, например,следующим образомt̂(x) = sign(y(x)) = signmwj φj (x)j=1• Возникает вопрос: что использовать в качествезначений регрессионной переменной на этапе обучения?• Наиболее распространенный подход заключается виспользовании значения +∞ для t = +1 и −∞ дляt = −1• Геометрический смысл: чем дальше от нуля значениеy(x), тем увереннее мы в классификации объекта xПравдоподобие правильной классификацииЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияЗадачаклассификацииЛогистическаярегрессияМетод IRLS• Метод наименьших квадратов, очевидно, неприменимпри таком подходе• Воспользуемся вероятностной постановкой длявыписывания функционала качества• Определим правдоподобие классификации следующимобразом1p(t|x, w) =1 + exp(−ty(x))• Это логистическая функция.

Легко показать, чтоt p(t|x, w) = 1 и p(t|x, w) > 0, а, значит, она являетсяфункцией правдоподобияФункционал качества в логистическойрегрессииЛекция 21Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообучения0.5ЛинейнаярегрессияЗадачаклассификацииЛогистическаярегрессияМетод IRLS0−505• Правдоподобие правильной классификации всейвыборки имеет видnnp(t|X, w) =p(ti |xi , w) =i=1i=11 m1 + exp −ti j=1 wj φj (xi )План лекцииЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияЗадачаклассификацииЛогистическаярегрессияМетод IRLS1 ЛикбезОсновные понятия мат. статистикиНормальное распределениеРешение нерешаемых СЛАУ2 Статистическая постановка задачи машинного обученияВероятностное описаниеБайесовские решающие правила3 Линейная регрессияКлассическая линейная регрессияМетод наименьших квадратовВероятностная постановка задачи4 Задача классификацииЛогистическая регрессияМетод IRLSОсобенности функции правдоподобияклассификацииЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияЗадачаклассификацииЛогистическаярегрессияМетод IRLS• Приравнивание градиента логарифма правдоподобия кнулю приводит к трансцендентным уравнениям,которые неразрешимы аналитически• Легко показать, что гессиан логарифма правдоподобиянеположительно определен∂ 2 log p(t|x, w)≤0∂w2• Это означает, что логарифм функции правдоподобияявляется вогнутым.• Логарифм правдоподобия обучающей выборкиL(w) = log p(t|X, w), являющийся суммой вогнутыхфункций, также вогнут, а, значит, имеет единственныймаксимумМетод оптимизации НьютонаЛекция 2Ветров,ЖуравлевЛикбезСтатистическаяпостановказадачимашинногообученияЛинейнаярегрессияЗадачаклассификацииЛогистическаярегрессияМетод IRLSОсновная идея метода Ньютона — это приближение взаданной точке оптимизируемой функции параболой ивыбор минимума этой параболы в качестве следующейточки итерационного процесса:f (x) → minwf (x) g(x) = f (x0 ) + (∇f (x0 ))T (x − x0 ) +1(x − x0 )T (∇∇f (x 0 ))(x − x0 )2∇g(x∗ ) = ∇f (x0 ) + (∇∇f (x0 ))(x∗ − x0 ) = 0 ⇒ x∗ = x0 − (∇∇f (x 0 ))−1 (∇f (x0 ))Пример.

Характеристики

Список файлов лекций