ТЕОРИЯ ВЕРОЯТНОСТЕЙ, МАТЕМАТИЧЕСКАЯ СТАТИСТИКА, (1269688), страница 43
Текст из файла (страница 43)
3.8.2.Рис. 3.8.2Рис. 3.8.3В случае если правила в названном смысле несравнимы (рис. 3.8.3),возможны разные подходы:1) можно сравнивать площади под кривыми изображающими риски;2) можно сравнивать наибольшие значения рисков и т.д.Для каждой решающей функции существует наибольшее значениефункции рискаmax R (q, d ) .qМожно выбрать стратегию, при которой достигаетсяmin max R(q, d ).dqТакую стратегию называют минимаксной. Идея такой стратегиипроста: выбирается стратегия, при которой наибольший из возможныхрисков минимален.
Такая стратегия страхует от слишком больших потерь.В других отношениях это решающее правило может оказаться плохим.Например, стратегия d1 (см. рис. 3.8.3) по этому принципу лучше стратегииd2, хотя при подавляющем большинстве значений q стратегия d1 приводит кбольшему ущербу, чем d2.Для простоты рассмотрим случай, когда X состоит из k элементов:X {q1=, q2 ,K, qk }.Пусть на основе накопленного опыта значения q1 , q2 ,K, qk имеютвероятности q1 , q2 ,K , qk (априорное распределение). Тогда функцию риска250можно определить как математическое ожидание функции потерь поотношению к этому априорному распределению:kkrrrrR (q, d ( X )) å R[=qi , d (X )]qi åå= r L(qi , d ( X )) P ( X / qi )qi .i =1i =1 XСтратегия, обращающая в минимум такую функцию риска,называется байесовской стратегией, отвечающей данному априорномураспределению.Различают два типа стратегий.1.
Чистая или нерандомизованная стратегия. При такой стратегиикаждому результату наблюдений ставится в соответствие четкоопределенное решение.Это означает, что выборочное пространство W разбивается на kвзаимно непересекающихся областей W1 ,W2 ,K,Wk , и если результатыrнаблюдений X ÎWi , то принимается решение q = qi .2. Рандомизованная стратегия(от английского слова random ––rслучайный).набор вероятностейrr Для rкаждого X устанавливаетсяrl1 ( X ), l 2 ( X ),K, l k ( X ) такой, что å l i ( X ) = 1 .
Тогда при полученииirрезультатов наблюдений X производится случайный эксперимент, вкотором реализуется случайная величина, принимающаяrrrзначения1,2,3,K,k с вероятностями соответственно l1 ( X ), l 2 ( X ),K, l k ( X ) . Есливыпадает значение i, то принимается решение q = qi .Выявим особенности минимаксной и байесовской стратегий. Радинаглядности изложения рассмотрим случайX {q1 , q2=}, D = {d1 , d 2 ,K, d n}.Тогда роль функции риска будет игратьвекторrr риска{R (q1 , d ( X )), R(q2 , d ( X ))}.Каждой чистой стратегии di соответствует на плоскости точка скоординатами{R (q1 , d i ), R (q2 , d i )}.Если рассмотреть рандомизованную стратегию с наборомвероятностейrrrl1 ( X ), l 2 ( X ),K, l k ( X ) ,то каждой такой стратегии соответствует вектор риска с координатамиl1R (q1 , d1 ) + l 2 R (q1 , d 2 ) + ¼+ l n R(q1 , d n )иl1R (q2 , d1 ) + l 2 R(q2 , d 2 ) + ¼+ l n R(q 2 , d n ) .Геометрически это координаты центра тяжести масс l1 , l 2 ,K, l n , всумме равных единице и расположенных в точках, соответствующих251чистым решениям.
Каждой чистой стратегии соответствует масса равнаяединице, расположенная в соответствующей этой стратегии точке(остальные массы равны нулю). Если перебрать все возможные наборыl1 , l 2 ,K, l n , то получим выпуклую оболочку точек, соответствующихчистым стратегиям. На плоскости такая оболочка выглядит какмногоугольник (см.
рис. 3.8.4), в общем случае –– как многомерныймногогранник.Рассмотрим минимаксную стратегию. Нам необходимо для каждоговектора риска выбрать максимальную координату, а затем среди нихвыбрать наименьшую, т. е.min max[ R(q1 , d ), R (q2 , d )]123 14243dxyЗаметим, что функция max( x, y ) = c имеет график, изображенный на рис.3.8.4 пунктирной линией.Рис. 3.8.4Необходимо выбрать наименьшее c, при котором график этойфункции имеет общую точку с линейной оболочкой (см. рис.
3.8.4). Изэтого рисунка видно, что минимаксная стратегия почти наверное будетрандомизованной.Из тех же геометрических соображений выявим характербайесовской стратегии. Опять обратимся к случаю двух значений q1 и q2.Пусть P (q1 ) = q1 , P (q2 ) = q2 , (q1 + q2 = 1). Тогда функция риска имеет вид(3.8.1)q1 R (q1 , d ) + q2 R(q2 , d ) =R(d ) =c.12314243xyПо структуре это уравнение q1 x + q2 y = c –– уравнение прямой линии,а коэффициенты q1 и q2 определяют ее наклон.
В многомерном случае этобудет уравнение плоскости (гиперплоскости). Нам необходима стратегия,при которой левая часть выражения (3.8.1) минимальна. Будем увеличиватьc, пока прямая не коснется линейной оболочки (см. рис. 3.8.5).252Рис. 3.8.5В любом случае (и при касании в вершине, и при касании по сторонемногоугольника) среди точек касания будет хотя бы одна вершинавыпуклой оболочки, а вершина соответствует чистой стратегии.
Тем самыммы проиллюстрировали утверждение о том, что при конечном числеисходных стратегий всегда существует чистая байесовская стратегия.Минимаксная и байесовская стратегии связаны между собой:минимаксная стратегия является байесовской по отношению к наименееблагоприятному априорному распределению. Наименее благоприятнымоказывается распределение, при котором максимально возможныйкоэффициент q= 1 в выражении q1 x + q2 y = c соответствует наибольшейкоординате (другой коэффициент тогда равен нулю).
В этом случаеполучаются линии x = c или y = c (см. рис. 3.8.6).Рис. 3.8.6Замечание. Введенные понятия можно связать с теорией игр.Окружающий нас мир (природу) можно считать одним из игроков, аисследователя другим игроком (только в этом случае природа, в качествеучастника игры, не злонамеренна по отношению к исследователю).Природа использует один из возможных ходов {q1 , q2 ,K, qn }, а253исследователь в rответ на ход природы принимает решение d Î D.Величина L(q, d ( X )) указывает потерю исследователя, выбравшего поrrрезультатам наблюдений X стратегию d ( X ) , когда природа выбрала q.rВеличина R (q, d ( X )) характеризует средние потери исследователя,использующего стратегию d.Пример 3.27.
Наблюдается работа некоторого устройства в течениевремени T. Положим X = 0 , если устройство не вышло из строя за этовремя, и X = 1 в противном случае. ПустьP ( X = i / q) qi=(1 – q)1-i ,т.е. P ( X = 0)= q, P ( X = 1) =1 – q.В отношении q есть два предположения: q =q1 = 1 / 4 и q =q2 = 1 / 2 .Иначе говоря, возможны два решения a1 = q1 и a2 = q2 .Функция потерь определяется таблицей.a1a214q132q2Требуется найти минимаксную стратегию и байесовскую стратегиюпо отношению к априорному распределению P(q1 ) = P(q2 ) = 1 / 2.Решение. В этой ситуации возможны следующие чистые решающиеправила:d1 : d1 (0) = a1 , d1 (1) = a1;d 2 : d 2 (0) = a1 , d 2 (1) = a2 ;d 3 : d 3 (0) = a2 , d 3 (1) = a1;d 4 : d 4 (0) = a2 , d 4 (1) = a2 .Решающие правила d1 и d4 соответствуют «предвзятому мнению».Определим вектор риска для каждого решающего правила.ì R (q1 , d1 ) = 1 × 3 / 4 + 1 × 1 / 4 = 1,Для d1 имеем вектор с координатами íî R (q2 , d=1 ) 3 × 1 / 2 + 3 × 1 /=2 3.ì R (q1 , d 3 )= 1 × 3 / 4 + 4 × 1 / 4 = 1,75,Для d2 имеем вектор íî R (q2 , d 3 )= 2 × 1 / 2 + 3 ×1 / 2 = 2,5.ì R (q1 , d 2 ) = 1 × 1 / 4 + 4 × 3 / 4 = 3,25,Для d3 –– íî R (q2 , d 2 )= 3 ×1 / 2 + 2 × 1 / 2 = 2,5.ì R (q1 , d 4 )= 4 × 3 / 4 + 4 × 1 / 4 = 4,Для d4 –– íî R (q2 , d=4 ) 2 × 1 / 2 + 2 × 1 /=2 2.На рис.
3.8.7 жирными точками отмечены концы векторов риска,выделена закраской линейная оболочка векторов. Из этого рисунка видно,что оптимальной байесовской стратегией является стратегия d1. Дляминимаксной стратегии точка касания линейной оболочки примерно в три254раза ближе к точке d2, чем к точке d4. Поэтому следует l взять обратнопропорциональным расстояниям до названных точек, т.е. равным l 2 = 3 / 4,l 2 = 3 / 4, l 4 = 1/ 4, а l1 = l 3 = 0.Рис. 3.8.7Ответ. Оптимальной байесовской стратегией является стратегия d1.Оптимальная минимаксная стратегия реализуется при наборе вероятностейl1 = l 2 = 0, l 3 = 3 / 4, l 4 = 1 / 4.Задача 3.27.1.
Пусть q –– вероятность выхода из строя устройствапри одном цикле испытаний. Обозначим через X –– число цикловиспытаний до выхода из строя устройства. Величина X может приниматьзначения 1, 2, 3, ... с вероятностямиP( X = =k ) (1 - q) k -1 q.В отношении q есть два предположения: q1 и q2 (пространстворешений состоит из двух элементов a1 = q1 и a2 = q2 ). Функция потерьзадана таблицей.a1a2L11L12q1L21L22q2Предлагаются четыре возможных чистых стратегии:d1 : d1 = a1 , если X = 1, и d1 = a1 , если X = 2,3,4,5,¼;d 2 : d 2 = a1 , если X = 1,2, и d 2 = a2 , если X = 3,4,5,¼;d 3 : d 3 = a1 , если X = 1,2,3, и d 3 = a1 , если X = 4,5,6,¼;d 4 : d 4 = a1 , если X = 1,2,3, 4, и d 4 = a2 , если X = 5,6,¼ .255Найдите минимаксную стратегиюотношению к априорному распределению3.27 и исходные данные.)Исходные данные к задачам 3.27.1.№ q1q2 L11 L12 L21 L22 №1/8 1/4 0120116321172 1/10 1/5 03203 1/10 1/6 1181/8 1/2 12304192315 1/10 1/4 0201/5 2/5 01206213217 1/10 1/6 0221/4 1/2 13208232301/5 1/10 124923110 1/2 1/4 02512011 1/2 1/3 02632112 1/3 1/4 02732013 1/4 1/5 12823014 1/10 1/3 12923115 1/4 1/3 030и байесовскую стратегию поP (q1 ) = P (q2 ) = 1 / 2.
(См. примерq11/81/101/101/81/21/81/41/81/101/101/81/101/52/51/3q21/41/51/41/62/51/21/21/41/51/61/21/42/51/41/4L11001100011000110L12133221332213322L21222332223322233L22010010100101001Задача 3.27.2. Подвергаются испытанию три образца изделий ирегистрируется число прошедших испытание образцов X. В отношениивероятности выхода из строя образца при испытании есть двапредположения: q1 и q2. Так как проводятся независимые испытания, тоP ( X = i / q) = C3i (1 - q)i q3-i . Множество решений состоит из двухэлементов а1= q1 и а2 = q2 . Есть три решающих правила:d1 = {a1 при Х 0 =и а2 при Х 1,2,3};=d 2 = {a1 при Х 0,1=и а2 при Х 2,3};=d 3 = {a1 при Х 0,1,2 =и а2 при Х 3}. =Для заданной функции потерь найти:1) минимаксную стратегию;2) байесовскую стратегию, если оба значения q представляютсяравновероятными. (См. пример 3.27 и исходные данные к задаче 3.27.1.)Пример 3.28. В двух внешне одинаковых урнах находятся шары.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
