Раздел №2. Основные положения статистической теории оценок (1151963)

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла

2. Основные положения статистической теории оценокВиды и свойства статистических оценок (интервальные и точечныеоценки). Апостериорная вероятность. Понятие достаточной статистики.Неравенство Рао-Крамера, потенциальная точность. Оценки максимальноправдоподобия, их свойства.В общем случае под статистической оценкой понимается некотораякомбинация математических и логических операций над наблюдениями, порезультатам которых делаются те или иные выводы относительно свойствявлений, процессов, событий и т.п., функционально связанных с наблюдениями,но недоступных для непосредственного восприятия из-за наличия помех.Применительно к задачам, решаемым в навигационной аппаратурепотребителей (НАП) (в том числе задач навигационно-временных определений(НВО)) ГНСС, будем рассматривать следующие модели наблюдений внепрерывном и дискретном времени соответственно t   a  s t, λ t   n t  ,(2.1)k  a  s  t , λ k   nk ,(2.2)где a — дискретный (индикаторный) параметр, ассоциируемый с наличием (a  1 ) или отсутствием ( a  0 ) радионавигационного сигнала в наблюдаемойвыборке;s  t , λ  – сигнальная функция, зависящая от вектора параметров λ ;n – аддитивная помеха, под которой в данном случае понимаетсянекоррелированный случайный процесс с нулевым математическим ожиданием(например, белый гауссовский шум (БГШ)).Замечание.

Здесь и далее математические выражения (формулы,уравнения и др.) будут приводиться преимущественно в матричной форме какнаиболее общей (переход к скалярному случаю при этом будет тривиальным).При этом векторные величины обозначаются жирным прямым шрифтом, аскалярные – нежирным курсивом. Кроме того, во всех случаях (если специально7не оговорено иное) под вектором – λ , ξ и т.д. – подразумевается векторстолбец.Как правило, в статистической радиотехнике рассматривают следующиеосновные задачи:1.Оценка неизвестной функции распределения.2.Оценка постоянных (неизменяющихся на интервале наблюдения)неизвестных параметров сигнала. В математической статистике такая задачаформулируется как задача оценки неизвестных параметров закона распределения(ПВ).3.Статистическая проверка гипотез. К этому классу относятся вчастности задачи обнаружения и различения сигналов.4.Фильтрация случайных процессов (сообщений).

Часто рассматриваютэту задачу как обобщение задачи №2 в случае изменяющихся во временипараметров.В дальнейшем при изложении основ теории нелинейной фильтрации будетпоказано, что в её рамках в принципе могут быть решены многие задачистатистической радиотехники (в том числе задачи обнаружения и задачи оценкинеизменяющихся параметров). Однако по устоявшейся традиции теориястатистических решений (которая включает задачу обнаружения сигналов) иметоды оценивания параметров излагаются отдельно от теории фильтрациислучайных процессов.В рамках настоящего курса мы будем сталкиваться с задачами,относящимися к группам №2 – №4.Прежде чем переходить к особенностям указанных задач, напомнимнекоторые понятия и положения, играющие фундаментальную роль в теориистатистической обработки наблюдений.Считается, что априори (до начала проведения наблюдений и измерений)известны:- условная плотность вероятностей (ПВ) распределения наблюдений прификсированном значении неизвестного параметра – функция правдоподобия –8p  λ  ;- безусловная (априорная) ПВ оцениваемого параметра p pr  λ  .Фундаментальную роль в теории оценок играет условная апостериорнаяплотность вероятности (АПВ) p  λ   , позволяющая оценить по результатамнаблюдения выборки  относительную вероятность того или иного значениянеизвестного параметра λ .

Получить выражение для АПВ можно, есливоспользоваться определением условной ПВ:p  , λ   p  λ    p    p  λ   p  λ  ,учитывая, что p   не зависит от оцениваемого параметра λ и безусловная ПВp  λ  соответствует априорной ПВ p pr  λ  , можно записать конечное выражение:p  λ    c  p  λ   p pr  λ  .(2.3)Выражение (2.3) является основой для решения задач оцениваниянеизменяющихся параметров сигналов.Важнейшее свойство АПВ, определяющее ее особое положение в теориистатистических решений состоит в том, что ней содержится вся информацияотносительнопараметроввыборки(наблюдения),т.е.никакимидополнительными операциями над выборкой увеличить количество этойинформации невозможно.Однако для непосредственного использования на практике выражения(2.3), сопоставляющего каждому значению параметра λ его апостериорнуювероятность p  λ   , должно быть дополнено правилом, на основании которогоодно или некоторое множество значений параметра принимается за его оценку,которая может быть точечной или интервальной.Под точечной оценкой понимают некоторое число λˆ  f   , которое порезультатам данного опыта принимается за оценку параметра λ .

Посколькуточечная оценка является функцией от случайной выборки  , ее значениеменяется случайным образом от опыта к опыту, т.е. оценка λ̂ также являетсяслучайной величиной. Соответственно, она характеризуется условной ПВ9 p λˆ λ с моментами – математическим ожиданием m λ , дисперсией Dλ , а такжемоментами более высоких порядков (если таковые существуют).Под интервальной оценкой параметра λ понимают некоторый интервал егозначений, удовлетворяющий условию:P(λˆ н  λ  λˆ в ) λˆ вˆ p  λˆ λ  dλ   .(2.4)λнВероятность  называется коэффициентом доверия, интервалдоверительным, а оценкиλˆ н , λˆ в λˆ , λˆ нв–– соответственно нижним и верхнимдоверительным пределом.

Длина доверительного интервала λˆ н , λˆ вслучайных оценок и поэтому также случайна.Поэтому зависит отна практикедоверительный интервал часто задается с использованием точечной оценки λ̂ ввиде: λˆ н  λˆ  δ; λˆ в  λˆ  δ ; очевидно, что при этом длина интервала постоянна: λˆн λˆ в  2  δ .Выбор функционального преобразования λˆ  f   (оператора оценки),вообще говоря, может быть произвольным, однако на практике предпочтениеотдается оценкам, удовлетворяющим ряду дополнительных условий, к которымотносятся состоятельность, несмещенность, достаточность, эффективность.СостоятельностьУсловная оценка λˆ  λ   f  λ  , полученная при некотором значениипараметра λ , называется состоятельной, если при неограниченном увеличенииобъема выборки n оценка сходится по вероятности к оцениваемому параметру,т.е. выполняется условиеlim P λˆ n  λ   λ    0;   0 .nПоскольку из закона больших чисел следует состоятельность оценкивыборочного среднего, безусловная (усредненная по априорному распределению10параметра p pr  λ  ) оценка λˆ  f   является состоятельной, если она сходится повероятности к математическому ожиданию параметра:lim P λˆ n  λ   m λ    0;   0 .nНесмещенностьУсловная (см.

выше) оценка λ̂  λ  называется несмещенной, если, прилюбом объеме выборки n, ее математическое ожидание равно оцениваемомуm λˆ  λ   λ ,параметру:инымисловами,m  Δλ   m λˆ  λ   λ  0 . Соответственно,несмещеннойпривыполнениисреднеебезусловнаяравенствазначениеоценкаm λˆ  m  λ  .ошибкиназываетсяРазностьb n  λ   m λˆ  λ называется смещением или систематической ошибкой оценкиλ̂ .Возможны случаи, когда при конечном объеме выборки n оценка обладаетсмещением, однако его величина стремится к нулю при неограниченном объемевыборки: lim b n  λ   0 .nОценки,обладающиетакимсвойством,называютасимптотическинесмещенными.Достаточность Оценка λˆ  λ   f ξ 0k λназывается достаточной, если при ее вычислениисохраняется вся информация, содержавшаяся в выборке ξ 0k  ξ 0 , ξ1 , , ξ k ,соответственно – в АПВ p  λ ξ 0k  .

Иными словами, вместо многомерной выборкиξ 0k  ξ 0 , ξ1 , , ξ k на практике может использоваться редуцированная (имеющая меньшую размерность) функция f ξ 0k , называемая достаточной оценкой(достаточной статистикой) выборки.11Можно показать, что это требование выполняется, если условная ПВ выборки p ξ 0k λˆ зависит только от оценки λ̂ , но не зависит от самого параметраλ , однако использовать на практике этот признак достаточности не всегда удобно из-за необходимости вычислять p ξ 0k λˆ .Существенно проще и удобнее следующий признак факторизации: оценкаявляется достаточной, если функции правдоподобия p ξ 0k λ , может бытьпредставленияввидедвухнеотрицательныхсомножителей p ξ 0k λ  f λˆ λ  g  ξ 0 , , ξ k  , первый из которых зависит от параметра λ и егооценки λ̂ , а второй – зависит от выборки, но не зависит от оцениваемогопараметра.ЭффективностьСпособ определения понятия «эффективная оценка» зависит того, являетсяисследуемая оценка несмещенной или смещенной.Вклассенесмещенныхоценокэффективнойназываютоценку,обеспечивающую при любом объеме выборки n минимальную дисперсию, посравнению с любыми другими оценками, использующими ту же выборку: D λˆ эфф  D λˆ(2.5)Условие эффективности смещенных оценок определяется минимумомсреднеквадратической ошибкиM λˆ эфф  λ λˆ эфф  λT M λˆ  λ λˆ  λ .T(2.6)Замечание.

Здесь и далее матричные неравенства вида A  B понимаютсяв том смысле, что матрица  A  B  является положительно определенной.Важную роль при анализе эффективности оценок играет неравенство РаоКрамера, определяющее нижнюю границу среднеквадратических ошибокоценивания параметров.12Введем следующие определения и обозначения.Корреляционная матрица ошибок R ε вектора оценки λ̂ определяется как:R ε  M λˆ  λ λˆ  λ .T(2.7)Информационной матрицей Фишера называют матрицу вида:kk  ln  p  λ , ξ 0    ln  p  λ , ξ 0   J  MTλλ(2.8)  2 ln  p ξ k λ  20  ln  p pr  λ    M M.TTλλλλПервое слагаемое в (2.8) учитывает информацию, полученную изрезультатов наблюдения, второе – априорную информацию.Тогда для несмещенных оценок неравенство Рао-Крамера для нижнейграницы корреляционной матрицы ошибок будет иметь вид:R ε  J 1 .(2.9)В случае, если оценка λ̂ имеет смещение b n  λ  , неравенство Рао-Крамераприобретает вид b  λ   b  λ  R ε   I  n T   J 1   I  n T  ,λ λ T(2.10)где I – единичная матрица соответствующего размера.Таким образом, правая часть выражений (2.9) и (2.10) определяетпотенциальную точность оценок параметра λ : для несмещенной оценки нижнюю (не всегда достижимую) границу значения ее дисперсии; длясмещенной оценки - нижнюю (тоже не всегда достижимую) границу еесреднеквадратического отклонения.С учетом изложенного, эффективными называют оценки, для которыхвыполняется строгое равенство в (2.9) и (2.10); если же таких оценок несуществует, то за эффективные принимаются оценки, удовлетворяющиеусловиям (2.5) и (2.6).13Следует особо подчеркнуть, что далеко не для всех видов функцийправдоподобия p  λ  существуют оценки, обладающие всеми перечисленнымивыше свойствами – состоятельностью, несмещенностью, достаточностью,эффективностью.В статистической радиотехнике применительно к задачам оценкипостоянных параметров существуют несколько подходов (методов).

Характеристики

Тип файла PDF

PDF-формат наиболее широко используется для просмотра любого типа файлов на любом устройстве. В него можно сохранить документ, таблицы, презентацию, текст, чертежи, вычисления, графики и всё остальное, что можно показать на экране любого устройства. Именно его лучше всего использовать для печати.

Например, если Вам нужно распечатать чертёж из автокада, Вы сохраните чертёж на флешку, но будет ли автокад в пункте печати? А если будет, то нужная версия с нужными библиотеками? Именно для этого и нужен формат PDF - в нём точно будет показано верно вне зависимости от того, в какой программе создали PDF-файл и есть ли нужная программа для его просмотра.

Список файлов лекций