Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги / Эконометрика. Начальный курс

.pdf
Скачиваний:
15
Добавлен:
20.11.2023
Размер:
21.93 Mб
Скачать

Линейная алгебра

501

Предложение. Если А

> В и обе матрицы обратимы, то

В -1 > А ’ 1.

 

Предложение. У положительно определенной (неотрицательно определенной) матрицы А все собственные числа положительны (неотрицательны).

В самом деле, пусть х — собственный вектор, соответствую­ щий собственному числу А, т. е. А х = А*. Так как матрица поло­ жительно определена, то х 'А х > 0. Но х ' А х = х'Хх = А*'* > 0, следовательно, А > 0 {х'х > 0, как скалярный квадрат ненулевого вектора).

Для положительно определенных матриц можно определить дробные степени и другие функции от матриц следующим об­ разом. Представим положительно определенную симметричную матрицу А в виде разложения на ортогональную и диагональную (ЛА.13):

А = О АО '.

Диагональные элементы Л являются собственными числами мат­ рицы А , следовательно, неотрицательны (см. выше). Тогда можно определить

А 1/2 = О А ^ 2(У,

(Л 1/2)2 = 0 Л 1/20 ,0 Л 1/20 / = 0 А 1/2Л 1/20 / = ОАО/ = А,

и аналогично для любой другой дробной степени (в том числе отрицательной).

Здесь, конечно,

 

Га1/2

0 ...

0

Л 1/2 =

0

л2А1/2

• .

:

...

 

••

0

 

 

 

. 0

* »

0

АУ2

502

Приложение ЛА

16.Идемпотентные матрицы

Определение. Матрица М называется идемпотентной, если она совпадает со своим квадратом: М = М 2. Мы далее будем счи­ тать матрицу М также и симметричной, так как именно такие матрицы встречаются в эконометрике. Однако многие приведен­ ные ниже результаты верны и без предположения симметрично­ сти матрицы М . Часто требование симметричности включают в определение идемпотентной матрицы.

Предложение. Собственные числа идемпотентной матрицы мо­ гут принимать значения только 0 или 1.

В самом деле, если х — собственный вектор идемпотентной матрицы М , а А — соответствующее собственное значение, то

А* = М х =

М 2х = М Х х = АМ х = А2*, или (А —А2)* = 0,

откуда А(1 -

А) = 0.

Предложение. Ранг идемпотентной матрицы равен ее следу. Пусть М — идемпотентиаи (симметричная) матрица. В си­

лу (ЛА.13) се можно представить в виде М = ОАО7, где на диагонали А стоят пули и единицы (собственные числа матри­ цы М ). Из свойств ранга матрицы (см. ЛА, п. 10) следует, что rank(M) = гапк(А), т. к. ортогональная матрица О невырождена (dct(O) = ±1). Ранг матрицы А равен, очевидно, числу ненулевых элементов на диагонали, т. е. числу собственных значений матри­ цы М , равных 1. След матрицы М равен tr(Af) = tr(OAO') = tr(O'OA) = tr(A), также равен числу собственных значений мат­ рицы М , равных 1, что и требовалось показать.

Пример. Обозначим через t n x l - вектор-столбец, состоящий из одних единиц. Рассмотрим матрицу М = I — £ n'. Проверим, что она идемпотентиая.

М 2 = ( l - - n ' ) ( l -

—ггЛ = J -

-гг' + -\гг'гг' = / -

-гг' = М .

\

п ) \

п )

11

п£

п

Эта матрица обладает следующим свойством (вычисление откло­ нений от среднего значения):

Линейная алгебра

503

Xj —X

1

п

М х = х — хг =

, где X = -

'y 'x j .

Хп ~ X

п »*1

С геометрической точки зрения идемпотентная матрица соот­ ветствует оператору проектирования на векторное подпростран­ ство. Так, например, матрица М = I —£»»' является проектором на подпространство, ортогональное вектору * = (1, . . . , 1)'.

17.Блочные матрицы

Часто, в соответствии со смыслом задачи, удобно разбить матри­ цу на подматрицы (блоки). Например, т х п матрицу А можно разбить на блоки:

а _ А п

-Ап]

(ЛА.16)

[An

A22J ’

 

где А п — mi х 711 матрица, А 12 — mi х п2 матрица, A2I -- m2 х ni матрица, А 22 — т 2 х п2 матрица, m = ттц + т 2, п = щ + п2.

Две матрицы, разбитые на блоки одинаковым образом (т.е. размерности матриц Aij и B y совпадают), можно складывать

А + В = А п + В ц

A I2 + В12

A2I + В 21

А22 + B 22J ‘

Можно также умножать матрицы, разбитые на блоки подхо­ дящим способом, т. е. так, чтобы все операции в приведенной ниже формуле были корректны (для этого необходимо, чтобы количе­ ство столбцов в матрице Ау и строк в матрице B jk совпадали для всех t, j, к)

А В = А ц

A I2

Вц

В12

A 2I

А22

B21

В 22

А ц В ц

+ А 1 2 В 2 1

А л В ,2 + А , 2В 22

A 2I B H

+ А 2 2 В 2 1

A 2i B i 2 + A 2 2 B 2 2 '

504 Приложение ЛА

Определитель блочной матрицы

Пусть п х п матрица А разбита на блоки (ЛА.16), такие что А ц и А 22 являются квадратными матрицами. Тогда верна сле­ дующая формула для определителя матрицы А:

А п А ц —|Ац||А2$ - A i l A j j A a l = |А22||Ац А ц А ^ А ц 1 .

А21 А 22

Вчастном случае, когда А |2 и А21 — нулевые матрицы (такая маорица А называется блочно-диагональной)

Ац

О

О

Ч А п П А я ! .

А22

Матрица, обратная к блочной матрице

Для блочно-диагональной матрицы А обратная матрица рав­

на

Ац

О

[Aii

О

О

А п

О

A d . •

Для блочной матрицы общего вида можно получить (см. упражнение ЛА.9)

Л и

Л 12\~1 _ \

А 11

-A f/A .a A 22'

(ЛА.17)

А21

A22J

[ - i 422A 2iA j'1I

А 22

 

А22= (А22—А2]А ^ А ю) *, A1I = (A n-i4i2A ^1A2i)-1. (ЛА.18)

18.Произведение Кронекера

Некоторые вычисления, связанные с системами регрессионных уравнений, значительно сокращаются, если использовать понятие произведения Кронекера.

Определение. Произведением Кронекера двух матриц А (размер­ ности т х п ) и В (размерности k x l) называется блочная матрица

Линейная алгебра__________________________________________ 505

А ® В размерности km х In:

 

 

'а.цВ

а ц В

 

...

а\пВ '

 

А ® В —

<*21В

0%2В

 

...

02пВ

 

 

flmlB ОпйВ ... ОтпВ.

Пример.

 

 

 

 

 

 

 

 

 

1

2

0

о

2

0'

1

2

1

1

4

£

1

4

 

 

 

1

 

t

1

0

3

0

2

0

3

2

0

 

 

 

1

4

 

!

4

(ЛА.19)

0

4

0 '

 

4

2

8

 

0

6

0

'

0

3

12

 

Произведение Кронекера обладает следующими свойствами.

1. Если матрицы А, В обратимы, то [А ® В)~х = А ~1 <8>В ~ 1.

2. Если А т х m матрица и В — п х п матрица, то det(A <8>

В ) = (det(A))"(det(B))m.

3.( А ® В ) ' = {А1® В 1).

4.tr(A ® В ) = tr(A) tr(B).

19.Дифференцирование по векторному аргументу

Мы следуем подходу, изложенному в книге (Magnus, Neudecker, 1988).

Определение. Производной скалярной функции <р(х) от вектор­ ного п х 1 аргумента * = ( х , , . . . , х„)' называется 1 х п вектор (вектор-строка)

д<р(х)

/

д<р{х)

д<р(х) \

(ЛА.20)

дх>

~ ^

ах, ’"

’ ~ а £ Г /

 

Определение. Производной векторной m х 1 функции f ( x ) от векторного п х 1 аргумент х = (х,,... ,хп)' называется т х п

506 Приложение ЛА

матрица, составленная из производных

 

 

 

d f{x )

a®i

а д м ]

 

 

 

 

дхп

 

(матрица Якоби).

(ЛА.21)

 

д х 1

 

 

в/ тЫ)

 

ОХх

 

 

 

 

 

1

9хп

т

 

 

 

 

Заметим, что при m = 1 второе определение совпадает с пер­

вым.

 

 

 

 

 

 

 

 

 

Важные примеры

 

 

 

 

 

 

 

1.

у>(*) = а 'х, а =

(в|,... ,ап)/, * =

(х,,...,х„)'

п х 1 век-

 

торы.

 

д<р(х) _

д(а'х) _

,

 

 

 

 

(ЛА.22)

 

 

 

 

дх!

 

дх!

~ Л '

 

 

 

 

 

 

2.

¥>(*) = х 'А х , А

— п х п матрица.

 

 

 

 

 

д<р(х) _ д(х!Ах)

= х '(А + А').

(ЛА.23)

 

 

д х1

 

дх!

 

 

 

 

 

 

 

 

 

Докажем последнее равенство.

 

 

 

 

 

 

 

XaAstXt)

_ V"4

d(xsA 3tXt)

 

 

dXi

dXi

 

~

a t

 

®Xi

 

 

( < 5 j j + xsA at6ti) — ^

| AnXt +

XgAai

 

a

t

 

 

 

 

 

t

a

= ( z '( A ' + A ) ) t

(здесь S{j — символ Кронекера (ЛА.2)).

В том случае, когда матрица А симметричная, (ЛА.23) при­

нимает вид

 

 

 

д<р(х) _ д(х'Ах) _

2х' А.

(ЛА.24)

д х'

дх!

 

 

3. /(* ) = А х , А — тх. п матрица.

 

 

d f(x ) __ д А х

= А.

(ЛА.25)

дх'

дх'

Подробное и последовательное изложение аппарата векторно­ го и матричного дифференциального исчисления можно найти в книге (Magnus, Neudecker, 1988).

Упражнения

507

Упражнения

ЛА.1. Докажите, что tr(AB) = tr(BA). (Указание. Напишите это условие в координатах.)

ЛА.2. Докажите, что tr(A® В) = tr(A) tr(В).

ЛА.З. Покажите, что матрица Х ( Х ' Х ) ~ 1Х ' —идсмпотентная.

ЛА.4. Матрица А —идемпотентная. Докажите, что матрица В = I —А также идемпотентная и В А = 0.

ЛА.5. Пусть А —п х п матрица А = (1 - а)1 +агг\ где t = [1 ... 1]' — п х 1 вектор. Найдите собственные числа и собственные векторы мат* рнцы А.

ЛА.6. Пусть п х п матрица А зависит от скалярной переменной i, А = А(£), х —вектор п х 1.

а) Найдите d{x'Ax)/dt.

б) Найдите d(x'Ax)/dt, если х зависит от t: х = x(t).

ЛА.7. Пусть A: L —* М линейный оператор, dim(L) = n, dim(M) = тп. Докажите, что

а) Im(A), Кег(А) — векторные пространства;

б) dim(Im(A)) < inin(n,m);

в) dim(Ker(A)) + dim(Im(A)) = n.

ЛА.8. Покажите, что многочлены р(х) с вещественными коэффици­ ентами и естественными операциями сложения и умножения на число образуют векторное пространство L.

а) Найдите размерность L.

б) Выберите базис в L. Какие матрицы соответствуют в выбранном вами базисе операторам А: р(х) —»dp(x)/dx\ В: р(х) —*р(х 1). Найдите собственные числа и собственные векторы этих операто­ ров.

ЛА.9. Докажите формулы (ЛА.17), (ЛА.18) для обращения блочной матрицы. (Указание. Используйте формулу для произведения блочных матриц из п. 17 и определение обратной матрицы).

508

 

 

 

 

 

Приложение ЛА

ЛА.10. Покажите, что:

 

 

,

да'f{x)

_,df(x)

 

 

а)

 

 

 

 

 

 

«>

W

g

^

, {9W)- ^ ) + ( / w y

^

) ;

•)

- (/-(^

Л9(-

- Ш ) ' * Ц & + т

и

ф -

Приложение МС

Теория вероятностей

иматематическая

статистика

Вэтом приложении приводится краткий обзор основных понятий

ирезультатов теории вероятностей и математической статистики,

которые используются в основном тексте книги. Приложение но­ сит справочный характер и не может служить заменой стандарт­ ному курсу теории вероятностей и математической статистики.

1.Случайные величины, случайные векторы

На содержательном уровне случайной величиной мы называем какую-либо числовую характеристику, связанную с изучаемым объектом, значение которой принципиально не может быть пред­ сказано точно и зависит от случал.

Формально случайная величина X — это числовая функция, заданная на некотором вероятпостном пространстве (П, Р): X =

Х(ш), ш Cl. Функцией распределения случайной величины X на­ зывается числовая функция числового аргумента, определяемая

509

510

 

Приложение МС

равенством

 

 

F(x) = Р(Х < х),

х € Я

(МС.1)

(R — множество действительных чисел). Часто, чтобы подчерк­ нуть связь функции распределения со случайной величиной, ис­ пользуют обозначение F(x) = Fx(x). Каждая функция распреде­ ления обладает следующими свойствами:

F1) 0 < F(.X') < 1 при любом х е R ;

F2) F(x) является неубывающей, непрерывной справа функ­ цией;

F3) limx__oo F(x) = 0, limz_oo F(x) = 1.

Верно и обратное, т.е. любая функция, удовлетворяющая условиям Fl)-F3), является функцией распределения некоторой случайной величины. Нестрого говоря, функция распределения содержит всю вероятностную информацию о случайной величине X . В частности, Р(Х € (о, b]) — F(b) - F(a) для любых чисел а <6.

Можно выделить два класса случайных величин — дискрет­ ные и непрерывные. Случайная величина X называется дискрет­ ной, если множество ее значений конечно или счетно. Несмотря на то что функция распределения универсальным образом описы­ вает вероятностный характер случайной величины, дискретную случайную величину удобно представлять в виде таблицы

X = ( l '

2

Pk

Pfc = P (* = xfc).

(МС.2)

\P l

Р2 •••

•••/

 

Случайная величина X называется непрерывной, если ее функ­ ция распределения дифференцируема, т. е. существует производ­ ная р(х) = F'(x), называемая плотностью распределения случай­ ной величины X . В этом случае для любого (измеримого) множе­ ства А С R справедливо равенство

Р (Х € А )= [ p(x)dx.

(МС.З)

J А