Г.И. Ивченко, Ю.И. Медведев - Математическая статистика (1115270), страница 44
Текст из файла (страница 44)
Выведем Ренурреитную формулу, поза яюш членов а! (б Предположим, ущим — этим н доказывается с ес ущ тваванне всех много. ..., а (1) уже построены. Рассмат им и аяза что для иекаторога т~2 Ега маж адно па зы э !азначпа выразить в виде линейпоз комбннапнв многочленов а, (!1, ..., ат (г) ! ф (!!= ~т а а ) — лчл .газ (). Действительно, нз условия ортогоиальиоств (5.31) прн /=1...., т имеем з г гэ' ф(гг) аг(!!) аг ~э~ а',. (г!1, ! ! ! т.
е. этн равенства однозначна определяет ко инне в частности следует что если ' '11— о если "ь'' — мвогочлеи степени ( т — 1 то з ф(г!) и рй о, Р 159 Рассмотрим теперь многочлея степеия т следуюшего инда: а (!) = (!+ а) а„(/) + За«, (/) (Ь.ЗЗ) (старший коэффициент здесь равен 1). Если / (т — !, то в силу (5.32) и Л и ~,' а, [//»а (/ )= ~ [! +а) а/ [/ ) а [/!)+ 1 ~,' а/(/!! а, [/3=0 ! !=! !=! (так как степень многочлена (!+а) а/(П равна / ( т — 1), т, е. при любых по- стоянных а и 5 многочлеи (5.33) ортогоиален всем многочленам а! (/), ..., а з(!), В бе стояиные так, чтобы многочлен (5.33) был ортогоиален также Выберем эти постоянны а «('/ и ат( . ля (// [/».
для этого должны выполняться следчюшие условия: » « и а , (/й а (/й = ~ /;а , (/!) а [/!! + р ~ а", , (!,.) = О, «! ! А ~', а (/!) а рй = ~3 ~!!а«[/!»+а ~ ат [//! О, :=! с-! б остояниых а и 5 многочлен [5.33) орта!опален всем мно!о. При таком вы оре постоянных [/), ..., (/) и, следовательно, является следуюшнм миогочленом у!) ! Чебйшева, Таким образоы, приведен алгоритм востр ни ое ия системы ортогональных чногочленов Чебышева.
Первые два много н чле а мой системы указаны выше; з частности, из (5.33) и (5,34) имеем общий внд третьего многочлена . а (/»=(/ — /) ( — / — — ) — -' (!) хз (!)1 3 «з [!)) (5.35) Отсюда / « / а — !,.а" (!,)// ~ а' (!!), 5= — Х !а т (/!) а~(/!)// Х а) ! (/!) 15.34! степени, если требуется повысить точность интерполяции, Так, предположим, что для заданного и построен интерполяцнонный многочлен !р((; ))„..., Р») = У', р,а/(1), однако значение Я([)„..., 5») /'= ! '(см.
соотношение (5.36)1 еще велико, что означает недостаточную точность приближения исследуемой функции многочленом степени й — !. Точность интерполяции можно повысить„приближая функ», ! цию многочленом степени й вида !р(1; ()х, " . ()»«т)=.Е~ 5/а/(1) /= ! т. е. добавляя следующий, (й+1)-й многочлен системы Чебышева. При нахождении такого оптимального многочлена оценки коэффициентов 5„..., ))» остаются теми же ()„..., Р„необходимо вычислить только 5»„по формуле (5.30). Далее имеем Я(рх, "., 5»+х) =Я(()х " ))») — а34-!5»ч.! (5.
37) и если точность приближения, достигнутая с помощью иного- члена й-й степени, недостаточна, то можно подбирать далее много- член (А + 1)-й степени и т. д Приз!ер 5.8, В «Основах химии 1[. И. Менделеев приводит следуюшие данные о количестве (х) азотионатрневой соли Ма!'[Оэ которое можно растворить в 100 г воды в зависимости от температуры (/): О 4 !О !5 21 29 36 51 68 к; 66,7 71,0 76,3 80,6 85,7 92,9 99,4 113,6 125,! где ! [!и -., ! 1 за(!) — „ат Р! — 0 .
! Итак, если в схеме параболической регрессии (5.29) много- члены а/ (!) являются ортогональными многочленами Чебышева, то о. н. к. р вычисляют по формулам (5.30», а соответствующее значение Я ((1) =и!1пЯ())) таково: В Я ())) = ~ч ', ~Х! — ~, 'Р/а/(!!) ! = ~~ Х! — 2 д', [»/ ~ч~ и/(1й Х/+ !=1 =! / /-! !.-! л » + ~к~~ 6; У; а/(1!) ~~ Х,' — ~и~ а/()/, !=! ~ ! «=! ! ! (5.36) где а"-; = ~'.'„а/(1/). / 1.
Отметим следующее важное обстоятельство. Как видно изформулы (5.30), о. и. к, р/ определяется только многочленом а/(1) и не зависит от параметра й схемы (5.29). Это позволяет упростить задачу построения ннтерполяционного многочлена более высокой 190 Построим по этим данным приближенную эмпирическую формулу.
вида х аз+с»/, описывавшую зависимость между рассматриваемыми величинами. Здесь имеет место линейная зависимость, поэтому это схема простой регрессии, рвссыотренная з примере 5.1. Используя формулы (5.27), получаем: г«=67,5, г! 0,87. Таким образом, искомая приближенная формула имеет вид к = 67,5+ 0,87/, [5.38) При этом сумма квадратов отклонений, вычисленная по формуле (Ь.ЗВ», равна П,1, Установим, как повышается точность приближения, если в качестве интер- поляпнониого многочлена использовать квадратичную параболу. Запишем иско- Мый многочлен з виде ч!(/! й)=5«а«03+5«а К)+бааз(/), где а/(/) — миогочлеиы Чебышева [здесь а! (/) па!, а,(/) =! — 7=! — 26, много- член аз [/) определен з (5,35)].
Результат (5.38» можно записать в виде к=90,!а, (/)+0,87а,(!); следовательно, 5,=90,1; ба=087. Таким образом, Достаточно вычислить по фоРмУле (5.30) Рэ. В данном слУчае аэ(/)=-[/ — 26) (! — 40) — 451,1, поэтому значения аз(/) в точках // таковы: 588,9; 340,9; 28,9; — 176 1; — 3561! — 484! — 491,1; — 176 1; 7249. Отсюда а',=~~а[[/3=1 6 !Ов, ,'~~ а,(/)х!~ — 22.!О'и, по формуле (5.30» ()з= — 10 "; поправка в [537) с «й Н вЂ” 2,7. 19! Тзяяы образом, учитывая ывогочлев второй степевв, ыы незначительно увелвчвввеы точность аяороксвывцвв двввых; в явчвствс удовяетворятсльяой выяврвчесяой заввсяьюств мох(яо врввять формулу (З.З9!.
$5.3. Нормальная регрессия. Интервальное оцениаание !. Модель нормальной регрессии. До сих пор делались предположения только о первых и иторых моментах наблюдений [см. условия (5.1) и (5.2)). Развитая при этих миннмальных предположениях теория наименьших квадратов позволяет получать только точечные оценки для параметров ()» ..., 5» н их линейных комбинаций. Чтобы получать более сильные утверждения (например, оценивать вероятности заданных отклонений о. н.
к. от истинных значений рассл(атриваемых параметров), необходимо сделать дополнительные предположения о виде распределения случайного вектора Х = (Х» ..., Х„) или, что то же, вектора ошибок е =(е» ..., е„), определенного в (5.1). Чаще всего задачи,регрессионного анализа решают в предположении, что наблюдения подчиняются нормальному закону распределения; в этом случае к условиям (5.1) и (5.2) добавляют третье условие .й (е) =вл (О, а'Е ). (5.39) Если выполнены условия (5.1) и (5.39) (условие (5.2) вытекает нз (5.39)), то говорят о нормальной регрессии. Отметим, что условии (5.1) н (5.39) можно объединить и записать в виде Ж (Х) = Ф" (Х'(), а'Е„).
(5,40) 2. Оценки максимальною правдоподобия параметров нормальной регрессии. Нормальная модель (5.40) определяется (й-(-1)-мерным параметром О =ф» ..., ()„а'), область возможных значений которого представляет собой евклидова полупространство О = =(О: — оо(~/(оо, /'=1, ..., й, ав>0). Если х=(х» ..., х„)— наблюдавшаяся реализация вектора Х, то функция правдоподобия для этой модели имеет вид Ь(х; О)= — „ехр! — — 5(х; (!)), ! ( 1 (5.41) (йлоя)ла йоя где квадратичная форма 5(х; ()) определена в (5.4).
Вычислим оценки параметров О с помощью метода максимального правдоподобия (см. 9 2.4). Из (5.41) имеем, что при любом ов)0 максимизация /. (х; О) по !) эквивалентна минимизации по () квадратичной формы 5 (х; р). Таким образом, для нормальной модели оценки наименьших квадратов коэффициентов регрессии ))„... ° ()ь совпадают с оценками максимального правдоподобия втих параметров. Из теоремы ба следует, что о. в. к. являются олтвывльяымв в кявссе лвявйвых оценок. Дяя схемы нормальной рсгрессвв справедливо более сядь.
!92 все утверждевве: о. я. я. являются оптимальными в классе всех (ве только линейных) яссыешевных оцсяох Озссывтрвввемых параметрических фувкцвй. Найдем оценку максимального правдоподобия дв для остаточ- ной дисперсии а'. Подставив в (5.41) вместо () оценку 1) и про. логарифмировав, находим, что бв — это то значение а', которое минимизирует выражение 5 ф)/ах+и )па'. Отсюда имеем дв = 5 ф)/и. (5.42) Но, как было показано !см.
(5.!4)), в общем случае несмещенная оценка для а' имеет вид 5(р)/(п — й), поэтому о. м. и, д' оказы- вается смещенной и ее смещение Ей — а = Е ~ — а ) — а =: — — 1)а'= — — а' я я (л й я! я /л й ~ й л / ( л / л убывает с ростом числа наблюдений п.
Таким образом, оценка (5.42) является асимптотически несмещенной (что характерно для о. м. и.). 3. Основная теорема. Докажем следующую важную теорему теории нормальной регрессии, которая будет неоднократно исполь. зоваться в дальнейшем. Теорема 5.4. Случайные ееличинь( () и 5(р), а также 5ф) и Я=5 ф) — 5(р) независимы; при мппм ,Е'з()!) =вг ф, аЯА-'), йз(5(р)/ах) = =ух (и — Ф), ХвЩ/ав! = у" (й). (5.43) (з Введем нормированный вектор ошибок е*=е/а: 2;(еь!= вл( (О, Ел)); тогда равенство (5.1) принимает вид Х = Х'р -!- ае'", (5.44) а равенство (5.6) — следующий вид: )) = () + аА-'2еь.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
