Н.И. Чернова - Лекции по матстату (1115348), страница 13
Текст из файла (страница 13)
Тогда (см. распределение Стьюдента) p⊂= Tn+m−2 . Осталось подставить в эту дробьS/(n + m − 2)ξ0 и S и убедиться, что σ сократится и что получится в точности tn+m−2 из теоремы 16.~ Y~ ):Введем функцию отклонения ρ(X,rnmsρ=n+mX −Y.~ + (m − 1)S 2 (Y~)(n − 1)S02 (X)0n+m−2Из теоремы 16 следует свойство K1(а):Если H1 верна (a1 = a2 )|=⇒ ρ = tn+m−2 ⊂= Tn+m−2 .Упражнение. Доказать свойство K1(б):pЕсли H2 верна (a1 6= a2 )|=⇒ |ρ| −→∞.Указания. Воспользовавшись ЗБЧ или утверждениями лемм 1-3 из 1-й лекции, доказать, что чис~ + (m − 1)S 2 (Y~) p(n − 1)S02 (X)p0литель и знаменатель сходятся к постоянным: X − Y −→ const 6= 0,−→n+m−2const 6= 0, тогда как корень перед дробью неограниченно возрастает.Поэтому остается по ε выбрать C такое, что для величины tn+m−2 ⊂= Tn+m−2 , в силу симметричностираспределения Стьюдента,ε = P(|tn+m−2 | > C) = 2P(tn+m−2 > C)|=⇒P(tn+m−2 > C) = ε/2|=⇒C = τ1−ε/2 ,где τ1−ε/2 — квантиль распределения Tn+m−2 .И критерий Стьюдента выглядит как все критерии согласия:~~ = H1 , если |ρ(X)| < Cδ(X)~ > C.H2 , если |ρ(X)|Упражнение.
Доказать, что этот критерий имеет точный уровень ε.8.9 Гипотеза о среднем нормальной совокупности с известной дисперсией~ = (X1 , . . . , Xn ), Xi ⊂Имеется выборка X= Na,σ2 , и дисперсия σ 2 известна. Проверяется простая гипотезаH1 : a = a0 против сложной альтернативы H2 : a 6= a0 .Можно построить критерий Колмогорова (или χ2 ) асимптотического уровня ε. Но мы (как и в предыдущей задаче) построим критерий точного уровня ε.~Введем функцию отклонения ρ(X):√ X − a0ρ= n.σОчевидно свойство K1(а):Если H1 верна (a = a0 )|=⇒ ρ ⊂= N0,1 .Упражнение. Доказать свойство K1(б):pЕсли H2 верна (a 6= a0 )|=⇒ |ρ| −→∞.58Поэтому по ε выберем C такое, что для величины ξ ⊂= N0,1 , в силу симметричности стандартного нормального распределения,|=⇒ε = P(|ξ| > C) = 2P(ξ > C)|=⇒P(ξ > C) = ε/2C = τ1−ε/2 ,где τ1−ε/2 — квантиль стандартного нормального распределения.Критерий выглядит как все критерии согласия:~ <CH1 , если |ρ(X)|~δ(X) =~H2 , если |ρ(X)| > C.(17)Упражнение.
Доказать, что этот критерий имеет точный уровень ε.8.10 Гипотеза о среднем нормальной совокупности с неизвестной дисперсией~ = (X1 , . . . , Xn ), Xi ⊂Имеется выборка X= Na,σ2 , и дисперсия σ 2 неизвестна. Проверяется простая гипотеза H1 : a = a0 против сложной альтернативы H2 : a 6= a0 .~Введем функцию отклонения ρ(X):ρ=√ X − a0n,S02nгде S02 =1 X(Xi − X)2 .n−1 1Из леммы Фишера следует свойство K1(а):Если H1 верна (a = a0 )|=⇒ ρ ⊂= Tn−1 .Упражнение. Доказать свойство K1(б):pЕсли H2 верна (a 6= a0 )|=⇒ |ρ| −→∞.Поэтому по ε выберем C такое, что для величины tn−1 ⊂= Tn−1ε = P(|tn−1 | > C) = 2P(tn−1 > C)|=⇒C = τ1−ε/2 ,где τ1−ε/2 — квантиль распределения Tn−1 .Критерий выглядит как все критерии согласия.Упражнение.
Нарисовать критерий и доказать, что этот критерий имеет точный уровень ε.Упражнение. В самом ли деле три последних рассмотренных критерия состоятельны? Напоминание. А Вы доказали выполнение свойства K1(б) для этих критериев, чтобы говорить о состоятельности?Примечание. А что такое «состоятельность» критерия?8.11 Гипотеза о параметрах распределения: критерии, основанные на доверительных интервалах~ = (X1 , . .
. , Xn ), Xi ⊂Имеется выборка X= Fθ . Проверяется простая гипотеза H1 : θ = θ0против сложной альтернативы H2 : θ 6= θ0 .Есть еще один разумный способ строить критерии согласия (помимо поиска функции отклонения ρ).~ θ+ (ε, X))~ дляПусть имеется точный (асимптотический) доверительный интервал (θ− , θ+ ) = (θ− (ε, X),параметра θ уровня доверия 1 − ε: для любого θPθ (θ− < θ < θ+ ) = P(θ− < θ < θ+ | Xi ⊂= Fθ ) = 1 − ε (→ 1 − ε).Тогда критерий~ =δ(X)H1 ,H2 ,если θ0 ∈ (θ− , θ+ )если θ0 ∈6 (θ− , θ+ )имеет точный (асимптотический) уровень ε. Действительно,α(δ) = PH1 (δ = H2 ) = P(θ 6∈ (θ− , θ+ ) | Xi ⊂= Fθ0 ) = 1 − Pθ0 (θ− < θ0 < θ+ ) = ε (→ ε).~ θ) (см.
способы поЕсли доверительный интервал строится с помощью «функции отклонения» G(X,строения доверительных интервалов), то эта же функция годится и в качестве «функции отклонения»~ F) (см. способы построения критериев согласия).ρ(X,59Пример 30. Посмотрим на критерий (17) в задаче о параметре нормальной выборки с известной дисперсией.√~ = H1 ⇐⇒ |ρ(X)|~ < C = τ1−ε/2 ⇐⇒ | n X − a0 | < τ1−ε/2δ(X)στ1−ε/2 στ1−ε/2 σ.< a0 < X + √⇐⇒ X − √nnОсталось вспомнить, что точный доверительный интервал для параметра a нормального распределения сτ1−ε/2 στ1−ε/2 σ).,X + √известной дисперсией как раз и есть (X − √nnУпражнение.
Какие из приведенных выше критериев можно сформулировать, используя доверительные интервалы? Сделать это.609И ССЛЕДОВАНИЕ СТАТИСТИЧЕСКОЙ ЗАВИСИМОСТИ : ЛИНЕЙНАЯ РЕ ГРЕССИЯЧасто требуется определить зависимость наблюдаемой случайной величины от одной или несколькихдругих величин. Самый общий случай такой зависимости — зависимость статистическая: например, наблюдаемая с.в.
X есть функция от двух с.в. ξ и η, а с.в. Z — от ξ и φ. Зависимость между X и Z есть, ноона не является, вообще говоря, функциональной зависимостью. Наличие такой зависимости может бытьпроверено, скажем, по критерию χ2 , если имеется выборка из значений пары с.в. (X, Z).Мы рассмотрим один из случаев этой задачи, когда имеет смысл предполагать наличие «почти функциональной» зависимости между двумя величинами. Часто эту зависимость можно воображать как входи выход некоторой машины («ящика с шуршавчиком»). Входные данные («факторы»), как правило, известны. На выходе мы наблюдаем результат преобразования входных данных в ящике по каким-либоправилам. Мы можем получать даже значения случайных величин, которые (в среднем) функциональнозависят от входных данных.
При этом строгая функциональная зависимость входных и выходных данныхредко имеет место, чаще на нее накладываются случайные «помехи»: ошибки наблюдения, воздействиенеучтенных внешних факторов (случайность, наконец) и т.д.9.1Модель регрессииРассматривается модель, в которой наблюдаемая случайная величина X зависит от другой случайнойвеличины Y (значения которой мы либо задаем, либо знаем). Пусть зависимость математического ожидания X от значений Y определяется формулой E(X|Y = t) = f (t), где f — неизвестная функция.
Послеn экспериментов с входными данными Y = t1 , . . . , Y = tn (какие-то заданные числа или вектора, природакоторых чаще всего не имеет значения) получены значения X1 , . . . , Xn .Пусть X1 = f (t1 ) + ε1 , . . ., Xn = f (tn ) + εn , где εi — ошибки наблюдения, равные в точности разницемежду реальным и усредненным значением случайной величины X при значении Y = ti : εi = Xi −f (ti ) =Xi − E(X|Y = ti ).Требуется по значениям t1 , . . . , tn и X1 , . . .
, Xn оценить как можно точнее функцию f .9.2Метод наименьших квадратов: примерыДаже в отсутствие ошибок наблюдений функцию f можно восстановить лишь приближенно, в видеполинома. Поэтому обычно предполагают, что f есть полином (редко больше третьей - четвертой степени)с неизвестными коэффициентами. Метод наименьшихсостоит в выборе этих коэффициентовPквадратовnтак, чтобы минимизировать сумму квадратов ошибок i=1 (Xi − f (ti ))2 .Пример 31. Пусть Xi = θ + εi , i = 1, . . . , n, где θ — неизвестный параметр.
Здесь f — полиномPnнулевойстепени. Найдем оценку θb для параметра θ, на которой достигается минимум величины i=1 ε2i =Pn2i=1 (Xi − θ)) .nnX∂ X(Xi − θ))2 = −2(Xi − θ)) =0∂θ i=1θ=bθi=1|=⇒θb = X.PnОпределение 31. Оценка θb параметра θ, на которой достигается min i=1 ε2i , называется оценкойθметода наименьших квадратов (ОМНК).Пример 32. Линейная регрессия Рассмотрим линейную регрессию Xi = θ1 + ti θ2 + εi , i = 1, .
. . , n,где θ = (θ1 , θ2 ) — неизвестный параметр. Здесь f — полином первой степени (прямая). Найдем оценкуPnPnМНК (θb1 , θb1 ) для параметра θ, на которой достигается минимум величины i=1 ε2i = i=1 (Xi − θ1 −2ti θ2 )) .PОбозначим t = n1ti . Приравняв к нулю частные производные, найдем точку экстремума.61Упражнение.
Убедиться, что решением системы уравненийявляется параn∂ X 2 ε= 0;∂θ1 i=1 i θ=bθθb2 =1nn∂ X 2 ε=0∂θ2 i=1 i θ=bθPti X i − X · tP;1(ti − t)2nθb1 = X − tθb2 .Линия EX = θb1 + tθb2 называется линией регрессии X на t.Определение 32. Величина1nPti X i − X · tρ =q PP1(ti − t)2 n1 (Xi − X)2n∗называется «выборочным коэффициентом корреляции» и характеризует степень линейной зависимостимежду X и t.Пример 33. Полиномиальная регрессия Модель регрессии имеет вид EX = θ0 + θ1 t + θ2 t2 + . . . +θk−1 tk−1 . В следующем параграфе будет показано, как эта модель сводится к общей модели линейнойрегрессии.Пример 34.
Термин «регрессия» появился впервые в работе Francis Galton, “Regression towardsmediocrity in hereditary stature" (Journal of the Anthropological Institute V. 15, p. 246–265, 1886).Гальтон (в частности) исследовал рост детей высоких родителей, и установил, что он «регрессирует» всреднем, то есть в среднем дети высоких родителей не так высоки, как их родители.
Для линейной моделирегрессии X = θ1 t + θ2 u + c Гальтон нашел оценки параметров:Рост сына = 0, 27 Роста отца + 0, 2 Роста матери + const,а рост дочери еще в 1,08 раз меньше.9.3Общая модель линейной регрессииЗамечание 30. В отличие от обозначений Лекции 6, отныне и навеки все вектора есть вектора-столбцы.Благодарю А. Иванова за соответствующее замечание и надеюсь, что не только он заметил несоответствие обозначений в лемме Фишера курсу алгебры.~ = (β1 , .
. . , βk ) — вектор~ = (Z1 , . . . , Zk ) — вектор факторов регрессии и βВведем два вектора: Zнеизвестных параметров регрессии. Рассматривается модель регрессии, которая в курсе «Эконометрия»называется «простой (линейной) регрессией»:EX = β1 Z1 + . . . + βk Zk .−→(i)(i)Пусть в i-м эксперименте факторы регрессии принимают (известные) значения Z (i) = (Z1 , . . . , Zk ),i = 1, . .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
