книги / Статистический анализ временных рядов

И. (Разд. 9.2.3) Проверьте следующую формулу «суммирования по частям»:

L L

Оказание. Использовать формулу суммирования по частям из упр. 11 поочередно

15.(Разд. 9.3.1) Пусть

— последовательность случайных величин, такая, что

Нш Mk = 0,

k-+OQ

Нш Lk = L

k-+OQ

Покажите, что

Пш 8S l = I.

Г-.оо

16.(Разд. 9.3.1) Используя вторые формы записи (16) и (19) §9.2, дока­ жите соотношение (9) из теоремы 9.3.1.

17.(Разд. 9.3.2) Покажите, что

Нш

Кт

если Л (ж) интегрируема по Риману на [— 1, 1 ].

19.(Разд. 9.3.3) Покажите, что

ичто Гсрг (r; g , Л) равно нулю для всех других значений г.

20.(Разд. 9.3.3) Докажите (43).

21.(Разд. 9.3.3) Пусть для — 1 < а < b < 1

l Указание. Доказательство можно провести по образцу доказательства в упр. 16. |

4л, а для q между 1 + п и Т — л число слагаемых в разности не превосходит 8л.)

: (х4 + Зо4) sup А4 (дг) J i^ i - + 3a4j ,

Г л а в а 1 0

Л И Н Е Й Н Ы Е ТР Е Н Д Ы

ИС ТА Ц И О Н А Р Н Ы Е С Л У Ч А Й Н Ы Е

СО С ТА ВЛ ЯЮ Щ И Е

ЮЛ. ВВЕДЕНИЕ

В гл. 2, 3 и 4 мы рассматривали задачи статистических выво­ дов для моделей, в которых функции тренда предполагались ли­ нейными относительно коэффициентов, а в качестве случайной со­ ставляющей рассматривалась последовательность независимых случайных величин с одинаковой дисперсией. В гл. 5 предположе­ ние о независимости было заменено предположением о том, что слу­ чайная составляющая удовлетворяет некоторому стохастическому разностному уравнению. Теперь же мы займемся оценкой коэффи­ циентов при произвольной ковариационной функции ошибок (разд. 1 0 .2 . 1 и 1 0 .2 .2 ) и проведем асимптотическое исследование в ситуации, когда случайная составляющая образует стационарный случайный процесс (разд. 10.2.3 и 10.2.4). Поскольку оценки наи­ меньших квадратов можно получать вне зависимости от того, из­ вестна или неизвестна случайная составляющая, представляет осо­ бый интерес выяснение связи между оценками наименьших квадра­ тов и наилучшими линейными несмещенными оценкайи.

Т. Андерсоном (1948) было указано на то, что если независимые переменные образуют характеристические векторы ковариацион­ ной матрицы ошибок, то критерии типа рассмотренных в § 6.3 подобны и оптимальны, а оценки максимального правдоподобия коэффициентов регрессии в предположении нормальности совпада­ ют с оценками наименьших квадратов (§ 2.4). Ватсон (1952), (1955), а также Ватсон и Хеннан (1956) изучали эффективность оценок наименьших квадратов. Полученное Ватсоном неравенство показы­ вает, что оценки наименьших квадратов эффективны тогда и только тогда, когда независимые переменные образуют совокупность со­ ответствующих характеристических векторов. Магнесс и Макгир (1962) вновь нашли эти условия и доказали их необходимость и

достаточность. Более полное изучение этих условий и обзор литера­ туры можно найти у Ватсона (1967) и Зискинда (1967).

Гренандер (1954), Розенблатт (1956), а также Гренандер совмест­ но с Розенблаттом (1957, гл. 7) исследовали соответствующие зада' чи в асимптотическом плане. В разд. 10.2.3 их результаты разви­ ваются в форме, аналогичной случаю конечного Т . В разд. 10.2.4 показано, что и в общей ситуации с коэффициентами можно обра­ щаться как с нормально распределенными, если только значение

Тдостаточно велико.

Вгл. 8 и 9 мы занимались оцениванием ковариаций и спектраль­ ной плотности в случае, Когда либо математическое ожидание про­ цесса было известно, либо оно оценивалось как константа. В § 10.3- мы рассмотрим оценивание ковариаций и спектральной плотности** для случая, когда математическое ожидание процесса является ли­ нейной функцией регрессии и коэффициенты оцениваются по методу1 наименьших квадратов. Это исследование проводится на основе ре­ зультатов Хеннана (1958).

Вгл. 6 для проверки независимости были развиты достаточно общие критерии. Однако построение точных распределений и таб­ лиц процентных точек опиралось там на тот факт, что математичес­

кое ожидание было известно или предполагалось постоянным.. В § 10.4 мы проведем это исследование для случая, когда использу­ ются остатки от оценки регрессии.

10.2.ЭФФЕКТИВНОЕ ОЦЕНИВАНИЕ Ф УНКЦИЙ ТР ЕН Д Л

10 .2 .1. Эффективное оценивание по методу наименьших квадратов

Рассмотрим функцию тренда, линейную относительно неизвест­ ных коэффициентов. Как было показано в § 2.4, в выражения ддж наилучших линейных несмещенных оценок этих коэффициентов: (марковских оценок) входит ковариационная матрица (определен­ ная с точностью до масштабного множителя). Последняя же часто бывает неизвестной. В то же время оценки наименьших квадратов: всегда вычислимы и являются несмещенными. Однако они уже мо­ гут не иметь минимальные дисперсии (среди несмещенных линей­ ных оценок). В настоящем разделе сравниваются оценки наимень­ ших квадратов и марковские оценки.

жащих оценке по наблюдению вектора у, а 2 положительно опре­ деленная матрица. Тогда марковская оценка вектора р (при из­

Маркоьской оценкой и оценкой наименьших квадратов произволь­ ной линейной комбинации у'Р будут соответственно у'Ь и у'Ь*. Дисперсии этих оценок равны

(9)у' (Z'ST'zy-y < у' (Z'Zr'Z'SZ (Z'Z)_,y

для всех у.

В § 2.4 было показано, что марковская оценка совпадает с оцен­ кой наименьших квадратов в том случае, когда Z = V* С, причем р столбцов матрицы V* (Т X р) являются характеристическими век­

торами матрицы 2 и матрица С не вырождена. Докажем, что эти условия являются и необходимыми.

Т еорема 10.2.1. Оценка наименьших квадратов (4) совпадает с марковской оценкой (3) тогда и только тогда, когда Z = V*C, при­ чем р столбцов матрицы V* являются линейно независимыми ха­ рактеристическими векторами матрицы 2, а матрица С не вырож­ дена.

Д оказательство. Исследуемые оценки совпадают тогда и только

тогда, когда соотношение Ь* = Ь является тождеством относитель­ но у, т. е. тогда и только тогда, когда

Таким образом, столбцы матрицы ZP являются характеристиче­ скими векторами матрицы 2, а диагональные элементы матрицы D — соответствующими им характеристическими корнями. Если поло­

жить ZP = V* и С = Р-1, то получится утверждение теоремы.щ

Поскольку несмещенные линейные оценки с минимальной дис­ персией единственны, то любая несмещенная линейная оценка с минимальной дисперсией будет марковской. Оценки наименьших квадратов имеют минимальную дисперсию тогда и трлько тогда, когда они удовлетворяют условию теоремы 10.2.1. Условие совпаде­ ния оценок наименьших квадратов с марковскими для всех компо­ нент вектора (1 (т. е. для всех векторов у) можно сформулировать и иначе. Это совпадение будет в том и только в том случае, когда су­ ществует р линейно независимых линейных комбинаций столбцов матрицы Z, являющихся характеристическими векторами матри­ цы 2. Еще одна возможная формулировка состоит в том, что

матрицы 2. Соответствующий результат выведем с помощью кова­ риационных матриц оценок. Пусть характеристические корни мат­ рицы 2 равны > А.а %т. Пусть матрица V такова, что ее столбцы являются характеристическими векторами матрицы 2 и нормированы таким образом, что V'V = I, т. е. 2V = VA, где Л — диагональная матрица, на диагонали которой стоят характери­ стические корни матрицы 2. Если эти корни различны, то соответ­ ствующие характеристические векторы определяются однозначно. Далее, любую матрицу Z размера Т X р можно представить в виде Z = VA, где V — определенная выше матрица, а А — некоторая мат­

рица размера Т X р. Поскольку V'2V = Л и V'2~‘ V = Л-1, то

В том случае, когда имеются кратные характеристические кор­ ни, характеристические векторы уже не будут однозначно опреде­ ленными. Предположим, что различающиеся между собой значения

яде единичные матрицы имеют порядки тъ т3, ..., тн соответствен­

но. Разобьем на соответствующие блоки также матрицы V=(V(I)V<2)...

Матрицы V(ft>, h = 1, ..., Я, являются неоднозначно определенными в том смысле, что V(A) можно заменить на V(A) Q(A), где Q(A) — произ­ вольная ортогональная матрица порядка тн. При этом матрицы А(Л)

(21) и (22) не изменятся (поскольку А(А) = V(A)’ Z для заданной V(A)). Сформулируем теперь условие совпадения марковских оце­ нок и оценок наименьших квадратов с использованием рангов мат­ риц А(Л), h =* 1 , ..., Я.