А.Д. Вентцель - Курс теории случайных процессов (1134103), страница 19
Текст из файла (страница 19)
в) Закон больших чисел. В дискретном случае л,— ! н,— ! 5а =- т + ~ ~ е'ась(с(Л). 1- я,н! а — -а1 При ля — и! — нее функция под знаком интеграла стремится к единице для Л= О и к нулю для остальных Л; при этом она мажорируется интегрируемой в квадрате относительно !с(с(Л) функцией 1, так что имеет место сходимость в среднсм квадратическом.
Поэтому я; 1 !.!. и!. ~ ~~-— — т+ ~ )с (Л)~(с)Л)= а=а 1-н, я! = т+ ь(0). В непрерывном случае пользуемся задачей 4 й 2.2: с, ! =т+ !. !. т. ~ ~ еоз с!! Ь(с(Л) = =т+ ~ )с (Л)й(!)Л)=т+~(0). 4 А. Д. Веятцеаь Итак, предел среднего существует всегда и равен математическому ожиданию и плюс значение случайной меры ь на одноточечном множестве (О). Необходимое и достаточное условие сходимости среднего к математическому ожиданию состоит в том, чтобы спектральная мера от этого одноточечного множества равнялась нулю: )ь(0) =О.
й 4.3. Решение задачи линейного прогнозирования !. Уставовиы для некоторых стационарных процессов, являются ли оии линейно рсгуляриыми (сиигуляриыми). Примером липейио сингулярного процесса может служить й~ = А соз((+ гр), где совершеипо точный линейный прогноз осуществляется использоааиием формулы вь = яг, тиа. Также сиигуляреи будет процесс с аналитической корреляцвоииой функцией, например К(т) = 1((! + т'). В этом случае процесс вблизи л!обой точки вз оси времеви разлагается в ряд Тейлора, схолищийся в среднем квадратическом; линейная формула, осугцествляющая абсолютно точный прогноз иа небольшой промежуток времени, такая ьп =йг, +-г„((! !е)+ вг,(г! (о) /2+ Лииейио регуляриыьш являются. последовательиость й, с иекоррелироваииыми значениями; последоватсчьиость ее разностей 5~ П стациоварпый вопрог с корреляционной функцией К(т) = (! — )т)) ',' О (доказать!).
11ользуясь этим последиим примером, иы обнаруживаем, что стационарный процесс может быть сингулярным и в то же время линейно регулярным. процесс $~ = Л соз(Ч! + ф) — случайная сииусоилз — допускает абсолютно точный нелинейный прогноз, ио ои линейно регуляреи, если подобрать (Л, Ч) так, чтобы у него была соответствующая корреляционная функция.
2. Рассмотрим применение к задаче линейного прогнозирования спектральных представлений; ограничимся более простым случаем стационарных последовательностей. Предположим для простоты, что от= = М~! =О. Изоморфное соответствие ) ~ ) (л) с,(г().) между и, и! пространствами юз(( — и, и), с()ь) и ййт сводит задачу прогнозирования й по значениям йл, п(0*), к задаче нахождения элемента д замыкания в Аз(г()ь) линейной оболочки функций е'",, п ( 0, такого, что *) Задача прогиозировзиия по изблк1депию случайной последовательиости до момеита л Ф О сводится к рассмотренной задаче при помощи операторов сдвига; см.
п. 8 $ З.З. .98 3. В случае линейно сингулярных последовательностей наилучший (абсолютно точный) линейный прогноз находится при самом доказательстве сингулярности: например, для последовательности, удовлетворяющей условиям микротеоремы п. 2 прогноз на один шаг дается формулой л (в,) „=Х„(Й'г,) " ' Х,Сй(А',)"'( — 1)'с,. Посмотрим, что мы можем сделать в регулярном случае. Рассмотрим самый простой, по-видимому, случай, когда у нашей стационарной последовательности существует спектральная плотность )(т.), ограниченная сверху и снизу двумя положительными константами: 0(С,(((Х) ~Ср< со, — л<1(л.
В этом случае функция на ( — л, л) принадлежит йр(срр) тогда и только тогда, когда она интегрируема в квадрате относительно меры Лебега, и понятия сходимости в среднем квадратическом, замыкания и т. п. относительно меры р и относительно меры Лебега совпадают (не совпадают скалярные произведения, ортогональиость, проекции). Введем ряд пространств функций на ( — л, л).
Прежде всего определим пространства й -р и Й>р— подпространства х,'( — л, л), являющиеся замкнутыми линейными оболочками множеств функций (еР"х, и =. ( О) и (е'"х, и ) 0) соответственно (безпазлично, рассматривать замыкание в пространстве Ь (( — л,л), и(сбр)) или в АР(( — л, л], р(Л)). Любой элемент АР( — л, л) представляется единственным образом в виде суммы элемента из Ймр и элемента из Й>р, но подпространства Ймр и Ь>р не ортогональны в смысле х.з(р(сО,))(они ортогональны только в смысле А'(с(ь)).
Для того чтобы функция принадлежала Ь~р соответственно й>р), необходимо и достаточно, чтобы ее коэффициенты Фурье, отвечающие положительным (соответственно неположительным) степеням е'", были равны нулю (потому что любая функция из х,р( — л, л) разлагается в сходящийся в среднем квадратическом ряд Фурье). Пространства йкср, й>р соответствуют при спектральном представлении нашей случайной последовательности пространствам случайных величин НР р, Н" р. 100 Условие наилучшего прогноза (1) можно теперь переписать в виде ~ (еь"л — й'(Л)])(Л)е ылдЛ=О п(0 или (ео"х — д(Л)] ) (Л) ен Ь>о (2) (причем д е- :Ь.=о).
Далее, рассмотрим множество С<о (С- о) функций на ( — л, и], приближасмых сколь угодно точно линейными комбинациями функций а'"х, и ( 0 (соответственно и чв 0), в смысле равномерной сходимости (все эти функции непрерывны на отрезке от — и до я с отождествленными концами). Эти множества замкнуты нс только относительно сложения и умножения на число, как Ьс а и Ь>о, но н относительно умножения функций друг на друга (т. е.
С~ю, С>о— алгебры функций). Это вытекает из того, что произведение двух тригонометрических многочленов, содержащих только неположительные (неотрицательные) степени е'х,— опять такой же многочлен. Более того, для д е= С.:з также и ехр и ~ С; з (из-за того, что целая функция е' сколь угодно точно приближается многочленами в смысле равномерной сходимости в любой ограниченной области комплексной плоскости). Легко доказать также, что: Задача 2.
Если д, ~ Ь=,, азенС~„, то дй, ~ е-=й~о, если д1 еЬ>о, д,е=С>, то д,н,,е=Ь>м Покажем, как решается задача наилучшей линейной экстраполяции в предположении, что спектральная плотность )(Л) (непрерывная) представляется в виде 7(Л) — Р (Л)Г (Л), где ~, с=С, ) е= С, (з(Л) = ~, (Л) при — л С Л ~ (гь Условие (2) переписывается теперь в виде (е' х — к (Л)](, (Л))з(Л) е='Ь>а. (4) Функции ~з(Л)=(,(Л), ~,(Л) =~,(Л) принадлежат С>з, значит, умножая выражение (4) на ),(Л) — ', получаем равносильное условие: (е' л — ло (Л)) 1, (Л) ~ Ь Обозначая эту функцию Ь(Л), получаем условие наилучшего линейного прогноза: е' $(Л)==у(Л)(,(Л)+Й(Л), дай<о, Ьо=й>о.
Требование принадлежности лг подпрострапству Ько равносильно требованию лг г', е= Ь „, так как ~, ' о=— С .. Значит, дело сводится к тому, чтобы представить функцию е' л~~(Л) в виде суммы функции из Ь~ю и функции из Ь>о. Но это разложение получается очень легко, если разбить ряд Фурье этой функции (сходящийся в среднем квадратическом) на сумму по неположительным степеням е'л и по положительным. Проделаем это. Пусть ), (Л) = с + с,е 'л+ с ге-""+ (ряд сходится в смысле х,г( — и, и)). Тогда е' л) (Л) = с,е' л+ с,ем "л + + с +~е'л+ с + с,е 'л+ ясно, что первые слагаемые (до с о1е'л) представляют собой Ь(Л), а бесконечный ряд, начинающийся с с, дает Ь'(Л)~~(Л).
Значит, наилучший прогноз получается следующим образом: функция лг(Л) =)с и+с,е +с,е '~+...1~,(Л) ' (5) разлагается в ряд Фурье лг(Л) =Ьо+ Ь ~е-'л+ Ь,е-мл+ и прогноз для ~ по значениям ~„, а~О, дается формулой ( )~~ — Ьоьо+ Ь-1ь-1+ Ь-гь-г+ (сходимость в среднем квадратическом). 102 Что касается средней квадратической ошибки прогноза, то она равна п ао (т) = — ~ [ еь"х — с (Л) [') (Л) с(Л =- ! [е»х у(Л)) ~ (Л))ос(Л ~ [й(Л) [2йЛ -л — о = ~ [сое™+с,его-"их+ .. +с,„,,егл[осУЛ= — и = йп [ [ с, ['+ [ с, [о + ... + [ с „~ ~ [о). (7) При га- оо это выражение стремится к 2я ~ [с [о = ~ [)~(Л) [осГЛ= ~ )(Л)г(Л=К(0)= Р",, о о о — ч Таким образом, здесь имеет место линейная регулярность.
4. Чтобы можно было применить построенную теорию, нам нужно научиться разлагать спектральную плотность на сопряженные друг другг множители, принадлежащие вместе с их обратными С-о, соответственно Смо, Для любой достаточно гладкой (на окружности) положительной функции ) это можно сделать следующим образом. Логарифм положительной функции столь же гладок, как и сама функция; значит, его можно разложить в равномерно сходящийся ряд Фурье; 1и 7 (Л) = — ... + а,е мх + а,е ц + ао + + а,егх+а,емх+ ..., причем в силу вещественности логарифма а „=а„, ао действительно. Эту функцию можно представить в виде суммы двух сопряженных друг другу функций; — '+ а,е-ж+ а,е мх+ ...
из С~-,о и — '+ 2 2 +а,ем+а,емх+ ... из Смо. Теперь остается положить ), (Л) = ехр ~ — + а 1е гх+ а,е мх+ ...~ и аналогично для ),. Функции ), и 7, принадлежат С<о как ехр ог функций из С<о. 103 Пользуясь разложением е = 1+ а+ га/2+ ..., мы можем выразить коэффициенты Фурье функции (з ао через ао, а ь а х, ... В частности, со = 1 + — + -1- ... =е (з. Отсюда (а /2)' 21 *(п=оч,(=о„л=о р~(за '1~ ~доз~. Заметим, чго для практвческих применений нам зачастую важнее знать ошибку наилучшего прогноза, чем формулы, осуществляющие этот прогноз.
Дело в том, что, если наилучший прогноз окажется сложным и неудобным для вычисления, можно вместо него пользонаться какой-либо более простой — ца не павлу пней — оценкой; но нам необходимо знать, много ли мы при этом теряем, намного ли лучших результатов можно бы было добиться, используя наилучшую оценку. Выше предполагалось, что функция 1 — гладкая и что ряд Фурье для ее логарифма равномерно сходится. На совершенно нет необходимости, чтобы к функцин 1п(р.) равномерно сходились именно частичныс суммы 5.