Краткая теория по матстату (1120404)

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла

Опр: Пусть ={P} – некоторое семейство вероятностных мер (распределений) на измеримом пр-ве (X,). Тройка (X,,) наз. статистической структурой.

Опр: Наблюдением или выборкой наз. совокупность независимых одинак. распределенных сл. величин x₁,…,x_n, имеющих такое же распределение как и .

Упорядочивая выборку по возрастанию, мы получаем вариационный ряд x₍₁₎x₍₂₎…x_(n).

x_(k)() – k-я порядковая статистика.

Опр: Статистикой T(x₁,…,x_n)=T(x) наз.  измеримая функция T от выборки. Более точно, если (X,,) – стат. структура, то измеримое отображение T измеримого пр-ва (X,) в некоторое измеримое пр-во (Y,) наз. статистикой.

2) Если _k(), то A_nk^P_k()  (по ЗБЧ Хинчина), и с вер. 1 (УЗБЧ).

С любой выборкой можно связать так называемое эмпирическое, или выборочное, распределение, приписывая каждому значению x_i вероятность 1/n. Эмпирической (или выборочной) функцией распределения будет F^{^}(x)=¹/_nk=1ⁿI_{xkx}. Поскольку выборка случайна, то эмпирическая функция распределения при каждом x есть случайная величина. Мат. ожидание (среднее), дисперсия, моменты эмпирического распределения также будут сл. величинами и будут наз. соотв. эмпирическими (или выборочными) мат. ожиданием (средним), дисперсией, моментами. Таким образом, выборочное среднее есть среднее арифметическое элементов выборки x^=¹/_nk=1ⁿx_k, и выборочная дисперсия равна s²=¹/_nk=1ⁿ(x_k-x^)². Выборочные моменты и центральные моменты порядка r опр. выражениями ¹/_nk=1ⁿx^r_i, ¹/_nk=1ⁿ(x_i-x^)^r.

Опр: Выборочным моментом порядка k наз. статистика A_kn(x₁,…,x_n)=A_nk=A_k=¹/_ni=1ⁿx^k_i. A₁=x^ - выб. среднее.

Опр: Центральным выборочным моментом порядка k наз. статистика M_k=¹/_ni=1ⁿ(x_i-x^)^k. Центр. выб. момент порядка k=2 наз. выборочной дисперсией (M₂=s²).

x₁,…,x_n – сл. величины, E_x₁ – мат. ожидание, E_x₁^k=_k() – теоретич. моменты. E_(x₁-₁())^k=_k() – центр. момент.

Св-ва: 1) E_A_k=_k() E_A_k=E_¹/_ni=1ⁿx_i^k=¹/_ni=1ⁿE_x_i^k=¹/_ni=1ⁿ_k()=_k().

Пусть  - параметр, однозначно определяемый по каждому распределению. Пусть (X,,={P_, }) – статистическая структура и  - некоторое отображение  в R^m. Статистика t со значениями в R^m наз. оценкой функции .

Опр: Пусть X=(x₁,…,x_n). Оценка (статистика) T(X) наз. несмещенной оценкой , если E_T(X)=, . E_T(X)=().

Опр: Оценка T_n(X) для заданной () наз. состоятельной, если при n T_n(X)P_(), . Оптимальная оценка – несмещенная оценка с равномерно-минимальной дисперсией.

Теорема о единственности оптимальной оценки. Пусть t₁ и t₂ – оптимальные оценки. Тогда t₁(x)=t₂(x) -почти наверное, т.е. P_{t₁(x)=t₂(x)}=1  (другими словами, статистики t₁ и t₂ эквивалентны).

Док-во: Для  положим t₃=¹/₂(t₁+t₂), v=D_t₁=D_t₂. Тогда t₃ – несмещенная оценка функции  и vD_t₃. С другой стороны, D_t₃=¹/₄[D_t₁+D_t₂+2cov_(t₁,t₂)]v, т.к. согласно нер-ву Коши-Буняковского cov_(t₁,t₂)[D_t₁D_t₂]^1/2=v.  D_t₃=v и cov_(t₁,t₂)=v,  D_(t₁-t₂)=D_t₁+D_t₂-2cov_(t₁,t₂)=0, что эквивалентно равенству P_(t₁=t₂)=1._

Опр: Пусть x₁,…,x_n – независимая выборка из распределения с плотностью p(x,). Функция L(x,)=_i=1ⁿp(x_i,) наз. функцией правдоподобия. При фикс. x₁,…,x_n функцию L будем рассм. как функцию параметра .

Опр: Пусть =(₁,…,_n) – векторная случайная величина, распределение которой p(x,) зависит от параметра , и t(x)=(t₁(x),…,t_m(x)) – векторная функция (набор из m статистик) от x=(x₁,…,x_n). t(x) наз. достаточной статистикой, если условное распределение =(₁,…,_n) при заданном значении t() не зависит от параметра .

Теорема факторизации. Пусть L – функция правдоподобия. Статистика T(x) явл. достаточной   h(x) и g(t,): L(x,)=g(T(x),)h(x), , xX.

Док-во: Пусть X – конечно или счетно. В этом случае L(x,)=P_(=x)

[] t(x) – дост. статистика, T(x)=t  L(x,)=P_(=x)=P_(=x,T()=t)=P_(T()=t)P_(=x|T()=t)=g(t,)h(x).

[] L(x,)=g(T(x),)h(x)  при T(x)=t и P_(T()=t)>0 P_(=x,T()=t)=^P_^{(=x,T()=t)}/_{P(T()=t)}=^h(x)/_{yT-1(t) h(y)}  не зависит от ._

Опр: Статистика T наз. полной, если для  числовой статистики f(T) из условия E_f(T(x))0   f(T(x))=0.

Неравенство Рао-Крамера.

Пусть p(x,) – плотность, зависящая от параметра , ^{^}=(x) – оценка параметра  по выборке x₁,…,x_n (не обязательно несмещенная). Пусть g()=E^{^} ∫^p/_dx0 ∫(x)^p/_dx=g’(), Пусть J()=E(^lnp/_)².

Теорема: Если выполнены условия, то D^{^}^(g’())2/_J()

Док-во: Умножим первый интеграл на g() и вычтем его из второго: ∫((x)-g())^p/_dxg’()  {не-во Коши-Буняковского}  [∫((x)-g())^lnp/_pdx]²∫((x)-g())²pdx∫(^lnp/_)²pdx  (g’())²∫((x)-E(x))²p(x,)dx ∫(^lnp/_)²p(x,)dx=E((x)-E(x))²E(^lnp/_)²=D^{^}J()._

Опр: Оценка ^{^} наз. эффективной если D^{^}=^(g’())2/_J().

Теорема Рао-Блекуэлла-Колмогорова.

Пусть t – достаточная статистика, ^{^}(x) – несмещенная оценка параметра  с конечной дисперсией. Тогда условное мат. ожидание ^{^} при фиксированном t ^{^^}=E(^{^}|t) будет несмещенной оценкой  с дисперсией D^{^^}D^{^}.

Док-во: E^{^^}=E(E(^{^}|t))=E^{^}=0, т.е. оценка ^{^^} - несмещенная.

D^{^^}=E(^{^}-)²=E(^{^}-^{^^}+^{^^}-)²=E(^{^}-^{^^})²+E(^{^^}-)²{=D^{^^}}+2E(^{^}-^{^^})(^{^^}-).

E(^{^}-^{^^})(^{^^}-)=E(E(^{^}-^{^^})(^{^^}-)|t)=E((^{^}-^{^^})E((^{^^}-)|t))=0, т.к. E((^{^^}-)|t)=0  D^{^^}D^{^}._

Опр: Оценка ^{^^} наз. оптимальной, если D^{^^}D^{^}, ^{^}.

Метод моментов.

Пусть x₁,…,x_n – независимая выборка из распределения с плотностью p(x,₁,…,_r), зависящей от r параметров ₁,…,_r. Предположим, что все моменты m_k(₁,…,_r)=∫x^kp(x,₁,…,_r)dx, k=1,…,r конечны и что система уравнений b_k=m_k(₁,…,_r), k=1,…,r (b_k – теоретический момент, напр. b_k=E^k) однозначно разрешима,

причем ее решение _k=m_k^-1(b₁,…,b_r), k=1,…,r (m_k^-1 – непр. обратные функции).

Теорема. Оценки _k, k=1,…,r, получаемые как решение системы m_k^{^}=m_k(₁,…,_r), k=1,…,r (где m_k^{^}=¹/_{n i=1}ⁿx_i^k – выборочные моменты), состоятельны.

Док-во: По УЗБЧ m_k^{^} сходятся к m_k, а из непр-ти функций m_k^-1  _k^{^} при n сходятся к _k. _

Метод нахождения оценок, описанный в теореме носит название метода моментов. Этот метод дает состоятельные оценки, но часто их эффективность и ассимптотическая эффективность меньше 1.

Метод максимального правдоподобия.

Пусть x₁,…,x_n – независимая выборка из распределения с плотностью p(x,). Функция L(x,)=_i=1ⁿp(x_i,) наз. функцией правдоподобия. При фикс. x₁,…,x_n функцию L будем рассматривать как функцию параметра . По методу макс. правдоподобия за оценку ^{^}=^{^}(x₁,…,x_n) принимается значение аргумента , при котором L имеет макс. значение. L(x,^{^})=max_L(x,). Таким образом, по методу макс. правдоподобия выбирается значение , при котором вероятность получения данных значений выборки максимальна. Если функция L(x,) дифф-ма по , то ОМП ^ можно найти, решив относительно  уравнение правдоподобия ^L/_=0. Т.к. при фикс. x₁,…,x_n функция lnL достигает максимума при том же значении , что и L, то ^L/_=0 ~ ^lnL/_=0.

Св-ва:

1) Если  дост. статистика T(x), то ОМП ^(x) L(x,)=g(T(x),)h(x) является функцией от ^{^}(x)=(T(x)).

2) Если  эффективная оценка ^~(x), то ^{^}(x) явл. ОМП тогда, когда ^{^}(x)=^~(x).

^~(x)-=a_n()^{lnL(x,)}/_. Возьмем =^{^}(x). Тогда слева разность эфф. и ОМП, а справа ^{lnL(x,)}/_ будет равно 0.

Доверительные интервалы.

x₁,…,x_n ~ F(x_i,) 

Опр: Доверительным интервалом с коэфф. доверия 0<<1 наз. совокупность 2-х статистик T₁(x), T₂(x), таких, что

1)  T₁(x)T₂(x) почти всюду 2)  P_(T₁(x)T₂(x)). Дов. интервал всегда .

Метод центральной статистики.

x₁,…,x_n ~ F(x_i,); F(x,) непр. по x

Опр: Функция G(x,) наз. центральной статистикой если: 1) G(x,) непр-на и строго монотонна по  при  фикс. x, 2) P_(G(x,)<t)=F(t) 

Алгоритм построения довер. интервала:

1) выберем ₁ и ₂  P_(₁G(x,)₂)=  F(₂)-F(₁)=

2) {^{G(x,)}_{2 G(x,)1}  {^T₂^{(x): G(x,T}₂^(x))=_{2 T1(x): G(x,T1(x))=1} } T₁(x)T₂(x)

P_(T₁(x)T₂(x))=, .  беск. много довер. интервалов. Самый короткий: [maxx_i,^maxx_i/_(1-)]

Метод использования точечной оценки.

Предположим, что T(x) – некот. точечная оценка . H(t,)=P_(T(x)<t)

Мы будем предполагать, что H(t,) – непр. и строго монот. ф-ция  при  фикс. t.

Рассм. задачу: ^P_^(T(x)>₁^{())>1-/}_{2 P(T(x)<2())=}^1-_/2}  {^1-H(₁^{()+0,)=1-/}_{2 H(2(),)=}^1-_/2

Лемма: Если H(t,) возр. по , то ₁() и ₂() убыв., если H(t,) убывает, то ₁() и ₂() возрастают

Док-во: Пусть H(t,) возр., рассм. ₂(). Докажем, что ₁<₂ ₂(₁)>₂(₂). Предположим, что ₂(₁)₂(₂). Возьмем H(₂(₁),₁). Заметим, что ф-ция H(₂(),)=^1-/₂, значит ^1-/₂=H(₂(₁),₁)<H(₂(₁),₂) H(₂(₂),₂)= ^1-/₂.  ^1-/₂<^1-/₂ противоречие. Аналогично др. случаи. _

Проверка гипотез. Значение параметра  вполне определяют плотность p(x,). Те или иные предположения о значениях параметра  наз. стат. гипотезами. Гипотеза наз. простой, если она состоит в том, что =₀ (фикс. знач.), есди ₀, то – сложная гипотеза. Относительно  имеется некоторая основная, или проверяемая, гипотеза H₀: ₀. Мы должны построить такой стат. критерий, который позволяет нам заключить, согласуется ли выборка с гипотезой H₀ или нет. Из мн-ва X всех возм. значений x=(x₁,…,x_n) выделяется такое подмножество S, называемое критическим, что при xS гипотеза H₀ отвергается, а в остальных случаях принимается. S выбирается таким, чтобы вероятность P_(S)=_S∫p(x,)dx выборке x попасть в S при гипотезе H₀ была мала. Ошибка 1-го рода – вероятность =P_H0(S) отвергнуть гипотезу H₀, когда она верна. Ошибка 2-го рода – вероятность =P_H1(X\S) принять основную гипотезу, когда верна конкурирующая Мощность критерия W=1-.

Пусть по выборке x=(x₁,…,x_n) нужно различить 2 простые гипотезы H₀ и H₁, согласно которым выборка имеет соотв. плотности распределения p₀(u), p₁(u), u=(u₁,…,u_n).

Лемма Неймана-Пирсона. Среди всех критериев, различающих гипотезы H₀ и H₁ с заданной ошибкой 1-го рода , наиболее мощным явл. критерий, определяемый крит. мн-вом S_c={u: p₁(u)cp₀(u)}. (1)

Док-во: Пусть S – крит. мн-во произвольного критерия с =P_H0(S). Тогда P_H0(S_c\S_cS)=-P_H0(S_cS)=P_H0(S\SS_c). Используя это нер-во и (1), находим P_H1(S_c\S_cS)=_Sc\SSc∫p₁(u)duc _Sc\SSc∫p₀(u)du=cP_H0(S_c\SS_c)=cP_H0(S\SS_c)=c _S\SSc∫p₀(u)du _S\SSc∫p₁(u)du =P_H1(S\SS_c), т.к. p₁(u)<cp₀(u) на мн-ве S\SS_c. Прибавляя к обеим частям последнего неравенства P_H1(SS_c), получим P_H1(S)P_H1(S_с). _

Критерий Колмогорова:

D_n(x)=sup_x|F_n(x)-F₀(x)| F_n=эмпир. ф-ция распр-ния x₁,…,x_n. F₀ – непр.

Если _n(x)k_, то H₀ отвергается, причем k_ находится из условия P(_n(x)k_|H₀)=.

Характеристики

Тип файла документ

Документы такого типа открываются такими программами, как Microsoft Office Word на компьютерах Windows, Apple Pages на компьютерах Mac, Open Office - бесплатная альтернатива на различных платформах, в том числе Linux. Наиболее простым и современным решением будут Google документы, так как открываются онлайн без скачивания прямо в браузере на любой платформе. Существуют российские качественные аналоги, например от Яндекса.

Будьте внимательны на мобильных устройствах, так как там используются упрощённый функционал даже в официальном приложении от Microsoft, поэтому для просмотра скачивайте PDF-версию. А если нужно редактировать файл, то используйте оригинальный файл.

Файлы такого типа обычно разбиты на страницы, а текст может быть форматированным (жирный, курсив, выбор шрифта, таблицы и т.п.), а также в него можно добавлять изображения. Формат идеально подходит для рефератов, докладов и РПЗ курсовых проектов, которые необходимо распечатать. Кстати перед печатью также сохраняйте файл в PDF, так как принтер может начудить со шрифтами.

Список файлов ответов (шпаргалок)