Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги / Статистический анализ временных рядов

..pdf
Скачиваний:
2
Добавлен:
19.11.2023
Размер:
47.02 Mб
Скачать

5.5.

АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК

233

Сумма математических ожиданий квадратов компонент последней матрицы также равномерно ограничена. (См. доказательство теоремы 5.5.1.)

Наконец,

(8 6 ) 2 y f t — 2 yth = — в

Ш*=1

Таким образом, теорема доказана. н

 

Как и

в разд. 5.5.2, асимптотические свойства оценок

В, Г

и

соответствующих предположениях) одинаковы

и для

2 (при

у*,

определяемого (73) при / = 1, 2, ... с фиксированным вектором

у в,

и для

у/, определяемого (73) при всех t ..., —1, 0,

1........

В связи с этим мы в дальнейшем будем рассматривать только пос­ ледний случай, используя обозначение у( для (78).

Л емма 5.5.8. Пусть yt определяется соотношением (78), в кото­

ром

и< независимы, ffu( =

0,

Ли^и\ =

2,

а матрица —В такова,

что все ее характеристические корни

лежат в единичном круге.

Тогда, если z'tzt <

N, t =

1 , 2 , . , . ,

для некоторого N,

то

(87)

 

 

plim

1

1

п,у'м

= 0 ,

 

 

 

 

1

^

 

 

 

 

 

Т-+со

 

 

 

 

 

 

 

(8 8 )

 

 

 

 

1

т

иЛ =

0 .

 

 

 

 

plim ^

 

 

 

 

 

Г-*ос

 

/_]

 

 

 

 

 

Д о к а з а т е л ь с т в о .

Сумма

математических ожиданий

квадратов

компонент допредельной матрицы в (87) равна

 

 

(89)

4 r tr 2

 

 

 

= -

^ t r S

t r 2

§У'-'У<_1 =

 

 

/,г=1

 

 

 

 

 

 

 

/=1

 

 

 

 

 

 

 

= 4 " tr 2 ( tr F + т

2 wi_iw<-'j

и сходится к нулю

при Т —>■оо. Сумма математических ожиданий

квадратов компонент допредельной матрицы в (8 8 ) равна

 

Т

 

 

 

 

 

 

7

 

 

 

(90)

4 а tr 2

8u*z;z*'u;, = - 4 tr 2 2

< 4 -

tr s л/

 

и также сходится к нулю, а

234

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

Из леммы 5.58 вытекает, что

 

 

 

 

 

 

 

 

(91)

plim

т 2

 

У(У^\

^

7

2

 

 

 

^

^r

2 zJ U i l = ° *

 

Г-4- ОО

 

 

 

 

 

 

6=i

 

 

 

м

 

 

 

 

 

м

J

(92)

plim [ у - 2

 

УЛ +

в 4 г 2

yt-izi +

г -зг 2

 

z^;] = 0.

 

Г-Ч 1 Ы

1 S

 

 

 

 

' м

J

 

Последние соотношения

в совокупности

 

с

леммой 5.5.2

дают

(93)

Plim J"

2

 

У,У, +

В~ г 2

У«—*У*' +

г “Г 2

 

2<У*'] "

s -

Предположим теперь, что существуют пределы

 

 

 

(94)

 

 

 

 

lim 4 " Ц

hh =

М,

 

 

 

 

 

 

 

 

7’->0°

7

1

 

 

 

 

 

 

 

(95)

 

 

 

 

1

Г

 

=

 

L,

 

 

 

 

 

 

 

lim -=г 2

 

 

 

 

 

 

 

 

 

 

Г -4 -0© 1

 

 

 

 

 

 

 

 

 

Тогда

 

 

 

1

г

 

 

2

 

г

 

 

 

 

(96)

 

 

 

 

 

 

 

 

 

 

 

 

 

* т

2

у*—1< = у

2

Wt~i27 —^ L

 

и

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(97)

tr 8 [4 - i i

(у<-| -

w,_.) z; j ^

2

 

(У''-' -

W’-i) г'г

 

1Т

=--уг 2 z;z/-trH(y^i— w,_i)(y,-_, — W<-^l)' <

<N ~ r tr [IF (I + В'Г1+ (I + ВГ* F — F1.

Правая часть последнего неравенства сходится к нулю. Таким образом,

(98)

plim 4 -

2 У^-iz; - L.

 

 

 

7

*=i

Из (92) и (98) выводим, что

 

 

(99)

1

т

 

plim - у 2

У/z; — — BL — ГМ.

 

Г-4-ОО 1

£ __ ]

 

Из (91), (93) и того факта,

 

что (30) сходится по вероятности к ну­

левой матрице,

получаем

 

 

 

(100)2 = plim( 4 - 2 У , У ; - В ^ 2 W -iy^B' —

Г-Ю© \

f ~ ]

М

6.5. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК 235

-

В у

2

У'-12/г

+ г - г i

I

=

 

 

/=«1

 

/=i

 

=

plim (■4 - 2 y(y

; - B y 2

У,*®') - B L r' - r L 'B' -

 

T-к» \

'

S

te.1

 

)

ГМГ.

т

Это показывает, что (1/T) 2 У<Уt имеет предел по вероятности

ичто этот последний должен быть равен

(101)lim %4 - У У<У == F + Нт у - V w,w; = F + Н.

Г■+оо

/=»]

7’-*-оо

Здесь мы предположили существование предела

(102)

Н = Иш 4 * 2

w,w,.

 

т~*°° ' м

 

Теорема 5.5.10. Пусть характеристические корни матрицы —В лежат в единичном круге, пределы (94), (95) и (102) существуют и

ztzt <

(V при / —

1, 2, ... для

некоторого N.

Пусть

при

этом

либо и, одинаково распределены, либо

&|ы«|2+8<

т,

i = 1,

р,

t =« 1,

2, ..., для

некоторого

е > 0 ,

Тогда,

если

и,

независимы.

Ли, = 0 и Ли,и* = 2 , то

-[ Т

2 У'- iy ^ i

Ы\

(103)plim

Г->-оо 1 т

т2 2/—1

1 V,

*=1

Пуз-ч

JN

1

F + H L

U IV1

Для состоятельности оценок В и Г при этих условиях нужно еще, чтобы матрица (103) была невырожденной.

Лемма 5.5.9. Если матрицы F и М положительно определены, то

иматрица (103) положительно определена.

Доказательство. Поскольку

,104) ,х' у,)(" мХ уИ - ^ ! * ' у- > ( 7 ) < " ,.,

= Нш4I -2 lx'w<-*>+У%1а>°.

Т.4.0©

236 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Гл. 5.

матрица этой квадратичной формы положительно полуопределена. Квадратичная форма

(105)

(х'у')

F + H

* ) = х Т х + ( х У ) ( " £

L'

 

 

 

является суммой двух неотрицательных квадратичных форм и поэтому может равняться нулю, только если обе они обращаются в нуль. Поскольку F положительно определена, то из хТх =0 следует, что х = 0 . Поэтому, для того чтобы (105) равнялось нулю, необходимо, чтобы у'Му = 0. Последнее выполняется лишь при

У = 0- ■

Т еорема 5.5.11. Если в условиях теоремы 5.5.10 матрица F положительно определена, а матрица М из соотношения (94) не вырождена, то

(106)

plim В =

В,

 

Г-юо

 

(107)

plim Г =

Г,

 

Т —►OQ

 

(108)

plim 2 =

2 .

 

Т-*со

 

Обратимся

теперь к асимптотической

нормальности

(l/j/T) X

т

 

 

_

т

 

 

 

 

X 2 у м « ( И

( 1 / К Т ) 2 а д .

Средние

этих случайных величин

<=i

 

 

t= 1

 

 

 

(90), пока­

равны нулю. Выкладки, подобные проведенным в (89) и

зывают,

что

 

 

 

 

 

 

 

 

(109)

Hm - у

S 2

 

 

® S

W t-i = (F + Н) ® 2,

 

 

Г - к »

/ = I

 

 

t= 1

 

 

 

(ПО)

l i m ^ r S ^

У<-1«

;

= L ®

 

 

т-*°°

1

 

 

 

1^\

 

 

( 111)

 

l i m ^ - S ^

 

u<z; = M(g)2 .

 

Положим

г-*-00

 

 

 

/=1

 

 

 

 

 

 

 

 

 

 

( 112)

 

 

 

 

У1

t=1

 

 

 

 

 

 

 

 

 

 

 

(118)

 

 

ZkT =

W

J , u' (фу' - ' +

 

 

 

 

 

где y\k) и Хкт

те

же,

 

что и раньше. В данном случае слагаемые

в ZkT не будут одинаково распределенными, даже если и, одинаково

5.5.

АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК

237

распределены. Если моменты четвертого порядка и, равномерно ограничены по t, легко показать, что будут равномерно ограничен­

ными и четвертые моменты слагаемых в Y~TZkT. Сложнее показать (с использованием неравенства Гёльдера), что если Л | ы«|2+е равномерно ограничены, то будут равномерно ограниченными и моменты порядка 2 + е этих слагаемых.

Теорема 5.5.12. Пусть у( определяется

соотношениями (76)

или (78), случайные векторы ut независимы,

Ей, = 0 , Лиtvit = 2

и все характеристические корни матрицы — В лежат в единичном

круге. Пусть, кроме того, гtzt <

N, t =

1,2, ...,

для некоторого N

и существуют пределы (94), (95)

и (102).

Тогда,

если

Ли» < N*,

1 = 1 , .... р, t =

1, 2 , ... , для некоторого N*. то

 

(114)

т

т Ь

- "

,

 

 

 

 

 

 

 

 

 

 

 

V'T

Z'U'

 

 

 

имеет в пределе

при Г -> оо нормальное

распределение

с нулевым

средним и ковариационной

матрицей

 

 

 

 

(115)

F + H L

 

 

 

 

 

L'

М

 

 

 

 

 

 

 

 

 

 

Теорема 5,5.13. Если выполнены условия теоремы 5.5,12 и если

со

 

 

 

Т

 

 

матрицы F = 2

BS2B'S и

М =

Нш (ИТ)

положительно

s = 0

 

Г-» 00

 

<=1

 

 

определены, то

 

 

 

 

 

 

 

(116)

V T (В' — В'),

V T (Г — Г')

 

 

имеет в пределе нормальное распределение с нулевым средним и кова­ риационной матрицей

Невырожденность матриц F и М предполагается, так что обрат­ ная матрица в (117) существует. Если 2 вырождена, то вырожден­ ным будет и предельное нормальное распределение. Если zt есть

скалярная постоянная, то утверждение теоремы будет

вытекать

из

одинаковой распределенности и, с

ковариационной

матрицей

2,

без привлечения условий на моменты более высокого порядка.

Дело

в том,

что при этом щ (Фу<^1 +

Qz,) образуют стационар­

ный

процесс

с конечной зависимостью.

В общем случае

условия

238

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

на z, и и, можно ослабить в том смысле, что можно требовать только, чтобы и\ (Фу<-1 + вг<) удовлетворяли условию типа Линдеберга.

Условие w t < N можно также ослабить, заменив его условием

со

И а/ I zjt I <

/ =

1. •••. я-

1=1

 

 

Теорема

5.5.14.

Пусть yt определяется соотношением (1) из

§ 5 .4 , в котором ut независимо распределены, %ut = 0 , %и] = о2 > 0 , причем все характеристические корни матрицы —В лежат в еди­

ничном круге. Пусть, кроме того, z<z, < N, t = 1,2, ..., для неко­

торого N,

а %и* < т,

t— 1,

2,

...,

для

некоторого т, матрица

М из

(94)

положительно определена и существуют пределы (95) и

(102),

где

 

 

 

 

 

 

 

 

 

<-i

 

~

ft % S

(118)

 

W, =

(

1

О'

 

- 2

- B )

 

 

s= 0

о

Тогда V Т ($ — Р), Y Т (у у) имеет в пределе при Т -> оо нор­ мальное распределение с нулевым средним и ковариационной мат­ рицей

F + H L 4 1

(П9)

L' Ж)

5.6.СТАТИСТИЧЕСКИЕ ВЫВОДЫ

О МОДЕЛЯХ АВТОРЕГРЕССИИ, ОСНОВАННЫЕ НА ТЕОРИИ БОЛЬШИХ ВЫБОРОК

5.6.1. Связь с регрессионными методами

 

 

В § 5.4 было

показано,

что оценки

максимального

правдо­

подобия векторов

р = (Рь

..., рр)',

у =

(у1( .... Ye)' и

диспер­

сии а2 получаются при минимизации

выражения

 

( 1)

T

i p

2

(& +

 

<=1

 

2

1=1

q

\2

biyt-t + 2

cizA

/-1

 

и потому формально являются оценками наименьших квадратов. Следствием этого является то, что в этих моделях можно исполь­ зовать все вычислительные процедуры обычного регрессионного анализа.

5.6.

СТАТИСТИЧЕСКИЕ ВЫВОДЫ О МОДЕЛЯХ АВТОРЕГРЕССИИ

239

 

В § 5.5 мы показали, что при надлежащим образом выбранных

 

л

л

 

условиях соответствующие оценки р и у имеют асимптотически нормальное распределение, как и в случае обычной регрессии. Таким образом, при больших выборках (т. е. при больших значе­ ниях Т) эти оценки можно рассматривать как нормально распре­ деленные и использовать при этом процедуры обычного регрессион­ ного анализа. Аппроксимирующее многомерное нормальное распре­

деление статистик У~Т (р — Р) и У~Т (у — у) имеет ковариацион­ ную матрицу

F + H

(2)

 

 

 

 

 

 

L'

тm

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

В свою очередь матрица (2) аппроксимируется матрицей

(3)

 

 

 

 

 

.,/Ат-

Lr

 

 

 

 

где

 

 

 

 

 

 

Lr

MW

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(4)

=

T - p - q

2

(yt + P'y/-i +

y'Z()2 =

 

Го2

 

 

 

 

jg

 

 

 

 

 

 

 

(5)

Ar = -jr 2

У<-1У<-1

=

 

 

 

 

 

 

 

 

j '

 

Ut

]

 

1

r

 

* s •

 

y t —\y t p

 

 

 

 

T

У*xyt—*2

 

 

 

 

t= \

 

 

 

ЫХ

 

 

 

t= \

 

 

1

г

yt—^yt—X

1

У\-~2

 

 

2 yt-2yt-P

 

 

rr~2

rn 2

 

 

 

 

 

t= l

 

 

 

Ш

 

 

 

 

 

 

1

T

 

 

 

1

T

 

 

{

T

 

 

T

2

y t—pyt l ~~p~ 2

У^pyt— 2

• • •

"jT

y t—p

 

 

 

t= 1

 

 

Ы

 

 

 

M

(6 )

Lr = -j- 2

y<-iz; =

 

 

 

 

 

 

 

 

 

t= l

 

 

J

Г

 

 

J

Г

-

 

 

~ l

T

 

 

 

 

 

 

- f 2

у* - '2" т Ъ

y t - ' 2* • • • - f 2

yt-iZ q t

 

 

 

t= 1

 

 

 

/=1

 

 

 

t= 1

 

 

 

1

r

 

 

1

T

JJt2%2t

*• •

1

T

y t—2Zqi

 

 

Г

y t—2^1/

 

^ [

я.

 

 

~

 

f=1

 

 

 

t= I

 

 

 

<=1

 

 

 

1

Г

 

 

J

Г

 

 

j

r

 

 

 

712 yt—pZu

'r

2 yt—Pzit

• • •

~ jr 2 yt—Pz4t

t=*i

<=i

fo=i

240 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Гл. 5.

(7)

Mr = 4

' S

z^ =

 

 

 

 

 

 

 

 

*=1

 

 

 

 

 

 

 

 

1

Т

 

J

т

1

т

ZuZqt

 

 

 

2

4

Т

2 ^ ^ 2 /

~т~2

 

 

 

 

*=1

 

/=1

1

t= 1

 

 

 

 

1

 

z*Zit

1

4

1

т

 

 

 

■ у-2

 

т ” 2

Z2tZqt

 

 

 

t=\

 

Ы1

 

t=i

 

 

 

1

т

2

т

2

т

Zqf

 

 

 

у

2

 

“'р”

Zqt%2t

• • • j>

 

 

Обычно, полагая

Zu = 1, в модель

вводят

некоторую константу.

При этом если

л

исключить из уравнений для оценок, то все исполь­

 

зуемые суммы квадратов и попарных произведений будут вклю­ чать отклонения от соответствующих средних. (Мы опустили знак ~ у F, Н, и L, так как в § 5.6 общий векторный случай не рассмат­

ривается.)

каждой диагонали

Как было замечено в конце § 5.4, элементы

т ^ ^

 

матрицы (1/Т) 2 У*-1У*-1 различаются только

членами, относя-

t= 1

 

щимися к началу и концу ряда. Поскольку мы занимаемся теорией больших выборок, то этими «концевыми» эффектами можно пре­ небречь и использовать матрицу, на диагоналях которой стоят одинаковые элементы. Кроме того, можно изменить и нормировоч­

ный

множитель (l/Т).

Тогда каждая диагональ, отстоящая на s

от главной диагонали,

будет состоять из элементов

(8)

т 4_s

2

s

о, 1, . . . , р.

 

^ Н

t— p-f-s-f-1

 

 

 

 

 

Т

 

 

Если

вычитается

среднее у* = 2

у Л т + р), то сумма примет вид

(9)

"T + y - s

is

 

 

 

 

 

t-—P+S+1

 

 

Возможны идругие модификации, например

2 ytyt-J{T + p—s) —

_

 

 

 

t=—p-j-s-M

у*2.

Отметим, что мы располагаем наблюдениями на отрезке от

—р +

1 до Т.

5.6.

СТАТИСТИЧЕСКИЕ ВЫВОДЫ О МОДЕЛЯХ АВТОРЕГРЕССИИ

241

5.6.2.

Проверка

гипотез и доверительные интервалы

 

Рассмотрим

статистики

 

 

 

 

(Ю)

 

-1Лг

Pf —

у т

41— Vi

 

 

V

s V Z 1

s Y

m'i

 

 

 

 

 

где s2ail и s2mii

соответственно

i'-й и (p +

/)-й диагональные эле­

менты матрицы из (3). Из обычной теории регрессии можно вывес­ ти, что каждая из статистик в (10) имеет распределение, близкое к нормальному с нулевым средним и единичной дисперсией. Поэтому для проверки гипотез относительно или ус и построения дове­ рительных интервалов для этих параметров можно использовать обычные методы.

Пусть нас интересует некоторая совокупность коэффициентов,

например p£l, ..., $ig,

yh, ...,

yih.

Тогда

можно

воспользоваться

тем,

что

статистика

 

 

 

 

 

 

 

 

<п>

- J r ( i

( Р \ - Р .. н А .- Р - .) “< л +

 

 

 

 

 

 

+ 2 1

I

 

 

 

 

 

 

 

 

 

 

u=1 v=l

 

 

 

 

 

 

 

 

 

 

 

 

 

+

h

(Viu — V/„)(Y/0—

J

 

 

 

 

 

 

 

u,v= 1

 

 

имеет распределение, близкое к распределению X2 с g +

h степе­

нями свободы. Здесь

aiulv,

llu)v, miujv

образуют

матрицу,

обрат­

ную

к

матрице, составленной

из

строк

и столбцов с

номера­

ми

н,

.., t'g,

h + p , ....

jh +

Р

матрицы

J j )

. Это

приводит к соответствующим критериям и доверительным интер­ валам. (Можно, кроме того, использовать и F-распределение с g + h и Т + д) степенями свободы.)

5.6.3. Проверка гипотез о порядке процесса авторегрессии

Порядок стохастического разностного уравнения определяется входящим в него (с ненулевым коэффициентом) переменным, име­ ющим наибольшее запаздывание. При той форме записи урав­ нения, которую’мы используем, порядок равен просто р (РР Ф 0 ). Если не считать влияния «независимых переменных» 2«, то непос­ редственно на значение yt влияет самое большее р запаздыва­ ющих переменных, именно y t - ь . . . . yt-p. Поэтому для прогно­ зирования следует использовать только такие переменные.

242

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Г л. 5.

В связи с этим представляет

интерес

определение

порядка мо­

дели

авторегрессии. Мы исследуем

эту

задачу

для

разност­

ного

уравнения

 

 

 

 

 

 

 

 

 

(12)

yt +

 

+

fypDi-p +

Y ^

ur

 

 

Уравнения для оценок параметров рь

(5р

имеют в этом случае

вид

 

 

 

 

 

 

 

 

 

 

(13)

/=1

 

i = l ,

 

Л

 

 

 

 

 

где

 

 

 

 

 

 

 

 

 

 

г

 

_

 

 

 

 

 

 

(14)

а</=

yt—tyt—i

 

i, j =

1,

р|

 

2

Ту^уц),

 

 

 

<=1

 

 

 

 

 

 

 

 

 

 

г

Vt-iVt — ТУ(‘)У>

1=

 

 

 

 

 

(15)

< 0 =

2

1> • • • -

Р*

 

 

 

 

<=|

 

 

 

 

 

 

 

 

Р = г/<0), а У(() задается соотношением (17) из §5.4. [Уравнения (13) соответствуют (18) из § 5.4. ]

Рассмотрим сначала задачу выбора между решениями о том, что порядок уравнения равен р или р — 1 соответственно. Иными словами, требуется решить, будет ли |$р = 0. Мы поставим эту задачу как задачу проверки нулевой гипотезы Н: рр = 0 против альтернативы рр ф 0 . Критерий отношения правдоподобия будет здесь аналогичен двустороннему ^-критерию, использовавшемуся при исследовании регрессии. Мы отвергнем нулевую гипотезу, если

(16)

_ L & J _ X (e ),

 

s V a pp

где (а*1?) = (a*/)"-1, a

t (е) — двусторонняя 100 е-процентная точ­

ка стандартного нормального распределения. При достаточно больших значениях Т уровень значимости этого критерия будет

близок к

е.

Пусть

нулевая гипотеза неверна. В общем случае мы имеем

(!7)

f t ( + ° v ) = F.

 

А

где F выражается соотношением (37) § 5.5, plim s =

а и plim рр =

Т

Т-+оо

= рр. Статистика критерия, стоящая в левой части (16), ведет себя

примерно как V T \ $ p\l(aVfpp)- Это утверждение можно сделать строгим и использовать его для доказательства состоятельности указанного критерия. Иными словами, можно доказать, что для заданной альтернативы рр Ф 0 вероятность отвергнуть нулевую гипртезу с ростом Т приближается к единице.