Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги / Статистический анализ временных рядов

..pdf
Скачиваний:
2
Добавлен:
19.11.2023
Размер:
47.02 Mб
Скачать

5.3.

РЕДУКЦИЯ ОБЩЕГО СКАЛЯРНОГО УРАВНЕНИЯ

203

Теорема

5.2.3. Если стационарный процесс yt

удовлетворяет

стохастическому разностному уравнению (1) и все характеристи­ ческие корни этого уравнения лежат в единичном круге, то прог­

ноз

(58) имеет

наименьшую

среднеквадратичную

ошибку среди

всех прогнозов, использующих

значения y t-1, yt-2, ....

Наилучшим прогнозом случайной величины yt, использующим

значения yt-s- 1,

yt-s-2, ... (s > 0 ), будет

прогноз

 

(61)

%{yt\ yts - u yt-s- 2,

...}

= aslyt- s-i

+ ••• + a spyt-s-p.

Коэффициенты

asi = aji,

.... asp — a & задаются

соотношениями

(11)

и (2 2 ).

 

 

 

 

 

5.3.РЕДУКЦИЯ ОБЩЕГО СКАЛЯРНОГО УРАВНЕНИЯ

КВЕКТОРНОМУ УРАВНЕНИЮ ПЕРВОГО ПОРЯДКА

Для изучения стохастического разностного уравнения (1) § 5.2 его удобно записать в форме векторного уравнения первого порядка. Положим

У< =

(2)

 

 

 

 

 

строк),

 

 

 

 

0

 

 

 

Pi

Рз

Рз • • •

Рр—1

Рр"

 

 

— 1

0

0 . .

0

0

(3)

в =

0

— 1

0 . .

0

0

 

 

0

0

0 . . .

— 1

0 _

Тогда указанное стохастическое разностное уравнение можно пере­ писать в виде

(4)

У/ + Ву,_, = ur

Первое скалярное

уравнение из (4) есть в точности уравнение

(1) из § 5.2, а все остальные являются тождествами. Таким обра­ зом, скалярное стохастическое разностное уравнение порядка р оказывается частным случаем векторного стохастического разност­ ного уравнения первого порядка.

204

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

Рассмотрим теперь общее стохастическое разностное уравнение первого порядка относительно вектора с р компонентами:

(5) У, + Ву<_, = nt.

Здесь и, — случайный вектор с нулевым средним и ковариационной

матрицей

8 u,u* = 2,

причем

8 u,us =

0,

t Ф s,

а матрица В =

= (р//),

Если в (5) последовательно производить

подстановку

(6 )

 

 

ys = — Bys_i +

us

 

 

для s =

t 1, t 2 ,

, то в конце концов придем к представле­

нию

 

 

 

 

 

 

 

(7)

 

 

у, = 2

( - Б ) Ч - т .

 

 

 

 

 

т=0

 

 

 

 

Пусть Я1(

Я,а, .... кр — характеристические

корни

матрицы —В,

т. е. корни

уравнения

 

 

 

 

 

(8 )

 

 

|В +

М/ = 0.

 

 

 

Если все эти корни различны,

то найдется матрица С, такая, что

(9)

 

 

— В = СЛСГ1,

 

 

где Л -- диагональная

матрица о

 

 

 

 

 

 

( К

0 .,,.

0

 

 

(10)

 

 

 

^ . ..

0

 

 

 

 

 

 

 

 

 

ч?

\о 6 .... к

Вэтом параграфе, а также в § 5.5 и 5.6 мы получим ряд результатов, справедливых в случае, когда все характеристические корни

х) Если существует р линейно независимых характеристических векторов, то (10) является канонической формой матрицы —В. Более общей является Жорданова каноническая форма, имеющая диагональные блоки вида

““Я

1

0 ...

0

0

0

Я

1 . . .

0

0

0

0

0 . . .

Я

1

_ 0

0

0 . . .

0

Я_

в которых Я — корень характеристического уравнения (8). (См. Халмош (1958) йли Тернбулл и Эйткен (1952). Они называют такую форму классической канони­ ческой формой.) Каждому из линейно независимых характеристических векторов будет при этом соответствовать ровно один такой блок. (См. упр. 17 и 18.)

5.3. РЕДУКЦИЯ ОБЩЕГО СКАЛЯРНОГО УРАВНЕНИЯ 205

матрицы В (или В) лежат в единичном круге. Так как вычисления с использованием общей жордановой канонической формы трудо­ емки, будем доказывать соответствующие результаты исходя из диагонального характера матрицы А. Что касается общего случая, то здесь мы предлагаем читателю обратиться к подстрочным приме­

чаниям и к

упражнениям.

 

 

Из соотношения

(9) имеем

 

 

(И)

 

(— В)т == CAtC“ 1,

где ’>

 

/%\

0 ...

0

 

 

(12)

 

Лт = [ о

ц ...

0

 

 

 

 

 

 

о •

о •

 

Поэтому

(7) можно записать в виде

 

(13)

 

со

л ч г Ч - т .

 

у, = С 2

 

 

т=о

 

Ряд в правой части сходится тогда и только тогда (в среднеквадра­

тичном,

см. разд.

7.6,1), когда

| A . J < 1 ,

i = 1, ..., р. Действи­

тельно,

 

 

 

 

(14)

у, - s

( - В)тщ ,т = у

, — с 2

Лтс - V x -

 

т=»0

 

т= 0

 

 

 

=CAs+,C- 1y<-(s+i)-

В предположении стационарности ковариационная матрица

(15)

 

8yMs+i)y;_(s+1) * F

не зависит ни от t, ни от s. Поэтому ковариационная матрица раз­

ности

(14) равна

(16)

CAS+1C-1F (С-1)' Л’+1С.

Поскольку каждый элемент матрицы (16) является линейной комби­ нацией элементов (%i‘Kj)s+l, он будет сходиться к нулю при s -> оо,

только

когда

каждое |

| <;

1 2>.

(Для

того чтобы было

верно и

*) В

случае

когда

матрица Л имеет обш ую ж орданову каноническую ф орм у,

диагональны й

блок

разм ера т X т матрицы Л т ,

соответствую щ ий

характеристи­

ческому

корню

 

ki,

будет иметь следую щ ий

вид.

Все его элем енты ,

располож ен ­

ные на

/

мест

 

выше главной

диагонали,

равны

(у)

/ =

0 , 1,

. . .

, т 1.

Элементы

ж е,

располож ен ны е

под

главной диагональю , равны

нулю . (См. упр.

17.)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2) В

случае

общ ей

ж ордановой

канонической формы

(kikj)s^ 1 зам еняю тся

полиномами от

 

s (степени не выш е чем 2р— 2), ум нож енны м и на

 

1k дН - 1 - *.

206

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

обратное, т. е. чтобы условие /Я^ | < 1, i = 1

было

также

и необходимым для сходимости ряда в (13), требуется невырожден­ ность ковариационной матрицы вектора уг )

Обратимся снова к соотношению (4), представляющему собой векторную форму записи скалярного уравнения порядка р. Пока­ жем, что корни характеристического уравнения (23) из § 5.2. сов­

падают с корнями уравнения

 

 

 

 

(17)

 

 

|В +

М| = 0 .

 

 

Определитель

 

 

 

 

 

 

 

 

 

Pi + ^

Рз

Рз •

рр-1

Рр

 

 

 

1

X

0 ...

0

0

(18)

|В +

М| =

0

— 1

X ...

0

0

 

 

 

 

 

 

 

 

0

0

0 ...

%

0

 

 

 

0

0

0 ...

1

X

легко вычислить последовательно, прибавляя к каждому (/ + 1)-му столбцу i-й столбец, предварительно умноженный на Я, i =* 1, ...

При этом получим

(19)

Pi + Я Р2 +

РхЯ + Я2 . . . РР + Ярр—1 + • • •

+

!рх +

Яр

1

0

 

 

 

0

1

 

 

 

0

6

 

 

 

 

— Рр + ярр—1 +

• • •

+ Яр

*Pi + Яр,

а это и есть характеристический полином из (23) § 5.2. Поскольку предполагается, что все корни этого полинома лежат в единичном круге, то таковыми же будут и характеристические корни матрицы

—В. Отсюда вытекает, что сумма

(2 0 )

у, = | ] ( — В )Ч -*

 

т=0

является определенной (т. е. ряд (2 0 ) сходится в среднем).

5.3. РЕДУКЦИЯ. ОБЩЕГО СКАЛЯРНОГО УРАВНЕНИЯ 207

Если все корни

xlt

..., хр различны

то найдется матрица С,

 

 

 

где

0 . ..

0 '

 

 

 

 

(

Ч

 

(21)

 

А =

0

.. .

0

 

 

 

 

 

 

Тогда, как

следует

из

к о

0 . . .

х р

записать анало­

предыдущего, (2 0 ) можно

гично (13). При этом первая компонента равна

 

 

 

 

©о

р

 

 

 

(22)

 

%=■ 2

S

СЧХУ

«*-т,

 

где2>(с/‘) =

С- 1 . Это

Т=0 /=1

 

 

представлению

соотношение эквивалентно

(28) § 5 .2 . Таким образом, представление (28) можно получить еще одним способом. Именно, для этого следует найти матрицу С, столбцы которой являются характеристическими векторами мат­

рицы —В, и использовать (2 2 ). (См. упр. 2 0 .)

В случае общего векторного уравнения соотношение (13) можно

использовать для отыскания

ковариационной матрицы

вектора y t

при заданных

матрицах

В

и 2.

Действительно (при

%yt — 0),

искомая

матрица имеет

вид

 

 

 

(23)

Ц

ty ’ =

2

( -

B)TSttt.rU ts ( - B')s =

 

 

 

 

x,s=0

 

 

 

 

 

 

oo

BT2 B x =

 

 

 

 

= 2

 

 

 

 

x=0

 

 

 

 

 

 

= C 2

ATC- 1 2 (C“ V AXC' = F.

 

Здесь 3)

 

 

T = 0

 

 

 

 

 

 

 

 

 

 

(24)

 

fij =

2

cig 2

XlgC^ohkclkk]ci! =*

 

 

 

 

g,h,k,l=1

T = 0

 

 

 

 

 

,

л

s

v

 

 

 

 

V

h,k=1

 

 

____________ ~ gi

i

ig

 

iu

 

Из упр. 19 вытекает, что если имеются кратные корни, то при этом не существует р линейно независимых характеристических векторов и каноническая форма состоит из диагональных блоков, как это было указано в предыдущих примечаниях.

2) В случае общей

жордановой

канонической формы 2 ci/

следует

надлежащим образом изменить.

М

 

 

 

3) В случае общей

жордановой канонической формы вместо суммирования по

индексу

т произведений A,gA,] возникает суммирование степеней 'кх~ и №1~~х)%умно­

женных

на полиномы от т (степени

не выше чем 2р — 2). Такие суммы

сходят­

ся при |

| < 1.

 

 

 

208

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

Если

С и А

определяются

исходя

из

матрицы В, то выражение

(24)

можно

упростить:

о (0) =

fu,

а (1) = fu+i = ft+u

, ...

.... о (р 1) — UP = fpi-

Если умножить (5) на транспонированное (7), а также на тран­

спонированное (7) с заменой в последнем индекса t на

t s, то

получим

 

 

 

 

 

 

(25)

%/У; + влу,_,у; = Е,

 

 

(26)

h ty’-s + BSy<-iy;_s =

о,

S = 1,

2 , ... .

 

Поскольку

Лу<—1у^—s =

Sy<y<_(S_i),

мы

можем,

действуя

последо­

вательно,

получить из

(26)

 

 

 

 

(27)

 

h ty't-s = (— B)sSy(y<.

 

 

Беря последнее выражение при s — 1 и подставляя его в транспони­ рованном виде в (25) вместо Sy<_iy<, получим соотношение

(28)

а д - в а д в ' = 2

ИЛИ

 

(29)

F — BFB' = 2.

Решение системы линейных уравнений (29) является, таким обра­ зом, еще одним способом отыскания матрицы F. При этом F0 = 2 можно взять в качестве начального приближения и применить

итерационный метод, вычисляя

последовательные приближения

F. = S + RF*_iB\

Если

В =

В

и

 

 

 

о

о

..

о

(30)

2

..

о

=

 

 

 

 

 

. 0

о

. . .

о

это даст нам возможность вычисления а (h).

В векторное уравнение независимые переменные можно ввести, полагая

При этом модель принимает вид

(32)

 

у, +

By<-i + Tzt = и,

и

 

 

 

(33)

у, = 2

( -

B )V x — S (— B)Tfz ^ t.

 

х=0

 

т=0

5.4.

ОЦЕНКИ МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ

209

5.4.ОЦЕНКИ МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ

ВСЛУЧАЕ НОРМАЛЬНОГО РАСПРЕДЕЛЕНИЯ

Одной из первоочередных задач при статистическом исследова­ нии модели стохастического разностного уравнения является оценка коэффициентов (Зь ..., и дисперсии <т2 по наблюдениям отрезка ряда уъ ..., ут. Если щ распределены нормально и модель описы­ вается разностным уравнением (1) из § 5.2 для всех /, то набор этих коэффициентов вместе с дисперсией а 2 (при — 0 ) полностью определяет распределение величин yt. Мы займемся более общей задачей оценки коэффициентов в модели

рч

(1)

S

$гУ‘~г + 2 Vi*» = ut>

t = i. • • •, т .

 

 

Найдем оценки максимального правдоподобия параметров

...,

Рр» Уъ •••» Уя и ° 2* При

этом будем

предполагать,

что величины

щ независимы

и нормально распределены с нулевыми средними

и дисперсиями

= а 2.

Исходное

предположение о стационар­

ности процесса мы изменим, полагая

(помимо того, что мы ввели

в модель переменные Zu),

что наблюдения yt начинаются в точке

t =

(р— 1) И

что при

этом */-(р_1), */-(р-2),

у о— заданные

известные числа. Тогда совместное распределение величин иъ ..., ит будет полностью определять совместное распределение наблюда­ емых величин уъ ..., ут (заметим, что zn , ..., zqU ..., Z\T, ..., гдт— заданные числа). Указанное предположение сделано для удобства отыскания оценок максимального правдоподобия. (В гл. 6 рассмот­ рены трудности, возникающие при отсутствии такого предположе­ ния.) Заметим, что любая процедура оценивания для этой модели является оценкой максимального правдоподобия или ее незначи­ тельной модификацией. Во всяком случае при больших Т влияние такого предположения невелико, а в асимптотической теории оно и вовсе не требуется. Оценки максимального правдоподобия и соот­ ветствующая асимптотическая теория для рассматриваемой модели были предложены Манном и Вальдом (1943b).

Обозначим

(2)

Полагая р0= 1, уравнение (1) запишем в виде

(3)

Ut + Р'У<-1 + i h = ио t = l ,

Т.

210 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Г л . 5.

Поскольку иъ

ит не зависят

от у -р+и

у 0,

то условная

плотность распределения случайных величин иъ

 

ит при задан­

ных значениях у~р+\, ...» у асовпадает с безусловной

и равна

(4)

1

ехр

1

 

 

(2яоа)г/2

2а2

 

 

 

 

 

 

При фиксированных значениях #~р+ь • ••, Уо соотношение (3) опре­ деляет взаимно однозначное отображение переменных уъ ут на переменные иъ ...» ит. Якобиан этого преобразования есть

1 0 0

(5)

дщ

I

Pi

1

о

1.

Р2

Pi

1

~дуГ I

 

 

 

 

 

 

 

 

0

0

О . ..

1.

Отсюда следует, что при заданных значениях у~р+\, ..., у9 сов­ местная плотность вероятностей значений ylt ..., ут есть

(2яо2)г/2 6Х^ [

2а5- 2

+ Р У<-> + V ztf j •

Если это выражение рассматривать как функцию правдоподобия по отношению к параметрам р и у, то для получения оценок мак­ симального правдоподобия для этих параметров необходимо мак­ симизировать последнее выражение на множестве всех возможных значений Р и у. Для этого в свою очередь достаточно найти значе­ ния параметров Р и у, при которых достигает минимума сумма

(7)

 

г

2

(yt + P'y<-i + v 4 ) 2 = 2 у < ~ (~ Р'

 

/=1

/=1

Таким образом, мы приходим к обычной задаче наименьших квад-

• А

ратов. Нормальными уравнениями относительно значений Р == Р

л

иу = у, минимизирующих сумму (7), будут здесь уравнения

(8)i H $ « . » ( - ! ! ) - £ * ( » -

*=1 \ Zt J

\ ---

у /

/=I

\ Zt

Их можно записать в матричной форме следующим образом:

(9)

/Аи

Ala\ / f h

_/а0\

\ASx

А23/ \у /

' d / *

5.4.

ОЦЕНКИ МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ

211

где

 

 

 

Г

-

 

 

 

т

„ „

 

Аи

=

2

 

А12 == A2I = 2

У'-12)-

(10)

 

Г

 

t=l

 

 

 

 

г

 

т

 

 

 

 

А22 ^

2

z*z*»

а0 = 2 У/У<-ь

d =

2 №

 

 

/=1

 

/=1

 

f=l

Оценкой максимального правдоподобия для а2 будет

(И)> = - f - S ( f c + P'y*-' + v V -

Непосредственно видно, что плотность (6 ) зависит от значений наблюдаемых переменных через выражение (7). Последнее же равно

(12)

2

у] +

2р'а0 + 2Y'd +

P'Anp + 2p'A12v + v'A22V-

 

м

 

 

т

 

 

 

 

 

 

 

 

 

 

 

 

Отсюда следует,

что 2#?»

а0,

^ Ац

и А12 образуют достаточное

 

 

 

/= 1

 

 

 

 

множество статистик.

q =

1, zlt = 1

положим

уг = у; уравнения

В

частном случае

для оценок

примут вид

 

 

 

 

(13)

 

Р

А

_

~

— я«ь

i = 1,

• • •, А

 

^

^/Р/ +

тУа)У =

 

 

1

 

 

 

 

 

 

(Н)

 

Г 2

Л/)Р/ + Г ? -- Г у ,

 

где

 

/-1

 

 

 

 

 

 

т

 

 

 

 

 

(15)

 

 

U I =

1,

• •

• > />.

ац

У*-№-ь

(16)

 

Я/о =

т

‘ =

1,

• • •. р.

 

2

(17)

 

=

2 yt-u

i — 0.

1,

• • •, р,

 

<=i

ц у =* *(0, Если из

г-го уравнения (13) вычесть умноженное на

Уи) уравнение (14),

то получим

(18) 2 [2 yt-wt-i—тттп1fe = — 2

+ ту<оу»

/=1 L<=i

J

<=i

 

i = 1, • • •, р,

212 л и н е й н ы е Мо д е л и с к о н е ч н ы м чи сло м п а ра м етро в Г л . 5.

или,

что

равносильно,

 

 

 

 

р

т

_

_ /ч

т

 

(19)

2

2 (#-< — №))(У‘ч ~ У а )) Р/ = — 2 (#-* ~~»й) (//<— У)>

 

/=1 *=1

 

 

/=1

 

 

 

 

 

 

/ = 1,

д.

Суммы по t в (19), соответствующие одному и тому же значе­ нию разности (i — /), отличаются только добавлением или вычита­ нием крайних членов. Эти суммы можно различным образом видо­ изменять, Например, можно вместо (19) записать уравнения

( 2

0

)

2

 

 

=

____Г *

1*

 

/ =

1 , . .

• >

р ,

 

 

 

 

 

 

 

/ = i

 

 

 

 

 

 

 

 

 

 

 

 

 

Р

 

 

 

 

 

 

 

 

 

( 2

1

)

2 С

А

-

 

 

/

=

1 , . .

• >

р ,

 

 

 

 

 

 

 

 

/ =

1

 

 

 

 

 

 

 

 

 

 

 

 

Р

 

 

 

 

 

 

 

 

 

 

( 2 2 )

2 С

А

=

" ~ ~ г р

t

=

1 , . .

. ,

р .

 

 

 

 

 

 

 

 

 

 

 

/ “

1

 

 

 

 

 

 

 

 

 

Из соображений удобства и для согласования с последующим изложением определим входящие сюда величины следующим обра­ зом:

(23)

С; = с1„ =

 

г2

(У,-

У) (У«*-

У).

 

 

 

 

 

<=1

 

 

 

 

 

 

 

 

 

 

 

/1 =

0 ,

1..........Т - 1 ,

(24)

 

!

Т-Н

 

 

 

 

 

 

сн= Сн = т

2 ( и — у) (#+»— у).

 

 

 

 

 

 

<=1

 

 

 

 

 

 

 

 

 

 

 

/1 =

0 ,

1 ,

Г

- 1,

 

 

 

 

т

 

 

 

 

Гн = Cft/co,

h — 0, 1 , . . ,

Г — 1, и у = 2 & /Т .

Отметим,

что

(2 2 )

 

 

 

 

<=i

 

 

 

 

получается из (2 1 ) делением всех с\ на со.

 

 

 

 

Если Т

относительно

велико, то различие между уравнениями

максимального правдоподобия (19)

(при

наблюдениях

у~р+ь ...

..., ут) и уравнениями (2 0 ), (2 1 ), (2 2 ) (включающими только наблю­ дения уи .... ут) становится незначительным. При этом последние уравнения обладают большей симметрией. Каждая диагональ матрицы коэффициентов состоит в этом случае из одинаковых эле­ ментов. Что касается правых частей, то они образованы из тех же элементов, к которым добавляется еще один.