4. Математическая статистика. Ивченко_ Медведев (1984) (1186157), страница 45
Текст из файла (страница 45)
Тогда значения й' неизвестных коэффипиентов Р подбирают так, чтобы аютвпствующий эмпирический графин х ф (и й") наилучшим образом проходил около ивблюдавшнхся точек. Если в качестве критерия оптимальности взять и величину 2,' (Х! — ф(гг! Йг)1', то привозим к методу наименьших квадратов с ! с решением ()* вр. Формально такой же внд имеет и классическая вадача математического анализа приближенна функпнй многочленамн, В этом случае данные (гь Х,), ! 1, ..., л, интерпретируют как пары соответствующих асспнс и ординат графика иаучвемой фуикпии и задача состоит в подборе ииямрп,ылчиониога лиогочлгча вида !р (Е р) кат зал бы "лигу"шш лриближгюм Шмгигм т е™ннмнзировал бы величину ~ (Х 1.
р ! ! - ° «ртогональные многочлеиы Чебмшева. В 7, гз мене 5.2 схеме и е ышева. описанной в при- В предполагалось, что многочлены а г1) и частном случае а (1) = У-! /=1, ..., !г; тогда ф(1; ()) = У Й 11-г, т. е. и — к = У. Й, —, йЙу — коэффициенты многочлена !р(1; Й) (это имеет место в приме е 5.1!.
В р . ). других случаях (что особенно характе но точно и оизв для задач интерполяции) многочлены а (1) и б р вольно; их следует взять такими, чтобы можно было упростить дальнейшие вычислени . Н б ия. аи олее просто решается задача вычисления о. н. к. * п и диагон . "„при диагональной матрице А =Хл', этом случае [см.
(5.25)1 г)) = ~' а (1!) Х! !(,У, а)(1!), 1=1, ..., й. с=! (5.30) условием диагональности матрицы А я векторов ху.' является ортогональность л к)хг=,5~ ау((г) а,(1!)=О, ]чьг. ! 1 (5.31) Многочлены, удовлетворяющие условиям '5.31, ням ( . ), называют орптоПоквжем, что прн заданных гь ..., г такие мпо ч ч ~ыш ~юшчлы~ всегда можно по. насти улем предполагать ста шнй к равным еднннпе, т, е. а, иб эн 1, а, (!) 1 ' с, ....
Из ш, а, +с, .... Из условия (5,31) при / 1 Л ь В ~ а,(!й= ~ г! (-пс, т е с= — Е Таким образом,,(11=1 у сочлен по двум предыд н — я ую вычислять следующий мно. Выведем Ренурреитную формулу, поза яюш членов а! (б Предположим, ущим — этим н доказывается с ес ущ тваванне всех много. ..., а (1) уже построены. Рассмат им и аяза что для иекаторога т~2 Ега маж адно па зы э !азначпа выразить в виде линейпоз комбннапнв многочленов а, (!1, ..., ат (г) ! ф (!!= ~т а а ) — лчл .газ ().
Действительно, нз условия ортогоиальиоств (5.31) прн /=1...., т имеем з г гэ' ф(гг) аг(!!) аг ~э~ а',. (г!1, ! ! ! т. е. этн равенства однозначна определяет ко инне в частности следует что если ' '11— о если "ь'' — мвогочлеи степени ( т — 1 то з ф(г!) и рй о, Р 159 Рассмотрим теперь многочлея степеия т следуюшего инда: а (!) = (!+ а) а„(/) + За«, (/) (Ь.ЗЗ) (старший коэффициент здесь равен 1). Если / (т — !, то в силу (5.32) и Л и ~,' а, [//»а (/ )= ~ [! +а) а/ [/ ) а [/!)+ 1 ~,' а/(/!! а, [/3=0 ! !=! !=! (так как степень многочлена (!+а) а/(П равна / ( т — 1), т, е. при любых по- стоянных а и 5 многочлеи (5.33) ортогоиален всем многочленам а! (/), ..., а з(!), В бе стояиные так, чтобы многочлен (5.33) был ортогоиален также Выберем эти постоянны а «('/ и ат( .
ля (// [/». для этого должны выполняться следчюшие условия: » « и а , (/й а (/й = ~ /;а , (/!) а [/!! + р ~ а", , (!,.) = О, «! ! А ~', а (/!) а рй = ~3 ~!!а«[/!»+а ~ ат [//! О, :=! с-! б остояниых а и 5 многочлен [5.33) орта!опален всем мно!о. При таком вы оре постоянных [/), ..., (/) и, следовательно, является следуюшнм миогочленом у!) ! Чебйшева, Таким образоы, приведен алгоритм востр ни ое ия системы ортогональных чногочленов Чебышева.
Первые два много н чле а мой системы указаны выше; з частности, из (5.33) и (5,34) имеем общий внд третьего многочлена . а (/»=(/ — /) ( — / — — ) — -' (!) хз (!)1 3 «з [!)) (5.35) Отсюда / « / а — !,.а" (!,)// ~ а' (!!), 5= — Х !а т (/!) а~(/!)// Х а) ! (/!) 15.34! степени, если требуется повысить точность интерполяции, Так, предположим, что для заданного и построен интерполяцнонный многочлен !р((; ))„..., Р») = У', р,а/(1), однако значение Я([)„..., 5») /'= ! '(см. соотношение (5.36)1 еще велико, что означает недостаточную точность приближения исследуемой функции многочленом степени й — !. Точность интерполяции можно повысить„приближая функ», ! цию многочленом степени й вида !р(1; ()х, " .
()»«т)=.Е~ 5/а/(1) /= ! т. е. добавляя следующий, (й+1)-й многочлен системы Чебышева. При нахождении такого оптимального многочлена оценки коэффициентов 5„..., ))» остаются теми же ()„..., Р„необходимо вычислить только 5»„по формуле (5.30). Далее имеем Я(рх, "., 5»+х) =Я(()х " ))») — а34-!5»ч.! (5.
37) и если точность приближения, достигнутая с помощью иного- члена й-й степени, недостаточна, то можно подбирать далее много- член (А + 1)-й степени и т. д Приз!ер 5.8, В «Основах химии 1[. И. Менделеев приводит следуюшие данные о количестве (х) азотионатрневой соли Ма!'[Оэ которое можно растворить в 100 г воды в зависимости от температуры (/): О 4 !О !5 21 29 36 51 68 к; 66,7 71,0 76,3 80,6 85,7 92,9 99,4 113,6 125,! где ! [!и -., ! 1 за(!) — „ат Р! — 0 . ! Итак, если в схеме параболической регрессии (5.29) много- члены а/ (!) являются ортогональными многочленами Чебышева, то о. н.
к. р вычисляют по формулам (5.30», а соответствующее значение Я ((1) =и!1пЯ())) таково: В Я ())) = ~ч ', ~Х! — ~, 'Р/а/(!!) ! = ~~ Х! — 2 д', [»/ ~ч~ и/(1й Х/+ !=1 =! / /-! !.-! л » + ~к~~ 6; У; а/(1!) ~~ Х,' — ~и~ а/()/, !=! ~ ! «=! ! ! (5.36) где а"-; = ~'.'„а/(1/). / 1. Отметим следующее важное обстоятельство. Как видно изформулы (5.30), о. и. к, р/ определяется только многочленом а/(1) и не зависит от параметра й схемы (5.29). Это позволяет упростить задачу построения ннтерполяционного многочлена более высокой 190 Построим по этим данным приближенную эмпирическую формулу. вида х аз+с»/, описывавшую зависимость между рассматриваемыми величинами. Здесь имеет место линейная зависимость, поэтому это схема простой регрессии, рвссыотренная з примере 5.1.
Используя формулы (5.27), получаем: г«=67,5, г! 0,87. Таким образом, искомая приближенная формула имеет вид к = 67,5+ 0,87/, [5.38) При этом сумма квадратов отклонений, вычисленная по формуле (Ь.ЗВ», равна П,1, Установим, как повышается точность приближения, если в качестве интер- поляпнониого многочлена использовать квадратичную параболу.
Запишем иско- Мый многочлен з виде ч!(/! й)=5«а«03+5«а К)+бааз(/), где а/(/) — миогочлеиы Чебышева [здесь а! (/) па!, а,(/) =! — 7=! — 26, много- член аз [/) определен з (5,35)]. Результат (5.38» можно записать в виде к=90,!а, (/)+0,87а,(!); следовательно, 5,=90,1; ба=087. Таким образом, Достаточно вычислить по фоРмУле (5.30) Рэ. В данном слУчае аэ(/)=-[/ — 26) (! — 40) — 451,1, поэтому значения аз(/) в точках // таковы: 588,9; 340,9; 28,9; — 176 1; — 3561! — 484! — 491,1; — 176 1; 7249. Отсюда а',=~~а[[/3=1 6 !Ов, ,'~~ а,(/)х!~ — 22.!О'и, по формуле (5.30» ()з= — 10 "; поправка в [537) с «й Н вЂ” 2,7.
19! Тзяяы образом, учитывая ывогочлев второй степевв, ыы незначительно увелвчвввеы точность аяороксвывцвв двввых; в явчвствс удовяетворятсльяой выяврвчесяой заввсяьюств мох(яо врввять формулу (З.З9!. $5.3. Нормальная регрессия. Интервальное оцениаание !. Модель нормальной регрессии. До сих пор делались предположения только о первых и иторых моментах наблюдений [см. условия (5.1) и (5.2)). Развитая при этих миннмальных предположениях теория наименьших квадратов позволяет получать только точечные оценки для параметров ()» ..., 5» н их линейных комбинаций. Чтобы получать более сильные утверждения (например, оценивать вероятности заданных отклонений о.
н. к. от истинных значений рассл(атриваемых параметров), необходимо сделать дополнительные предположения о виде распределения случайного вектора Х = (Х» ..., Х„) или, что то же, вектора ошибок е =(е» ..., е„), определенного в (5.1). Чаще всего задачи,регрессионного анализа решают в предположении, что наблюдения подчиняются нормальному закону распределения; в этом случае к условиям (5.1) и (5.2) добавляют третье условие .й (е) =вл (О, а'Е ). (5.39) Если выполнены условия (5.1) и (5.39) (условие (5.2) вытекает нз (5.39)), то говорят о нормальной регрессии. Отметим, что условии (5.1) н (5.39) можно объединить и записать в виде Ж (Х) = Ф" (Х'(), а'Е„).
(5,40) 2. Оценки максимальною правдоподобия параметров нормальной регрессии. Нормальная модель (5.40) определяется (й-(-1)-мерным параметром О =ф» ..., ()„а'), область возможных значений которого представляет собой евклидова полупространство О = =(О: — оо(~/(оо, /'=1, ..., й, ав>0). Если х=(х» ..., х„)— наблюдавшаяся реализация вектора Х, то функция правдоподобия для этой модели имеет вид Ь(х; О)= — „ехр! — — 5(х; (!)), ! ( 1 (5.41) (йлоя)ла йоя где квадратичная форма 5(х; ()) определена в (5.4). Вычислим оценки параметров О с помощью метода максимального правдоподобия (см. 9 2.4). Из (5.41) имеем, что при любом ов)0 максимизация /.
(х; О) по !) эквивалентна минимизации по () квадратичной формы 5 (х; р). Таким образом, для нормальной модели оценки наименьших квадратов коэффициентов регрессии ))„... ° ()ь совпадают с оценками максимального правдоподобия втих параметров. Из теоремы ба следует, что о. в.