Артамонов - Введение в эконометрику

Это означает (см. случай лог-линейной парной модели регрессии), что значение фактора y в среднем изменится в pβj j раз.

Если pj = 1 + rj и rj достаточно мало, то pβj j 1 + rjβj, т.е. при изменении регрессора xj на rj ·100% процентов, значение x изменяется

(в первом приближении) на (βj · rj) · 100% процентов.

В лог-линейной модели регрессии коэффициент βj есть не что иное как коэффициент эластичности y по переменной xj. В самом деле,

Другие примеры нелинейных моделей В предыдущих приме-

рах рассматривались модели, в которых y или ln y линейно зависит от регрессоров x или их логарифмов ln x. Однако в некоторых ситуациях линейной зависимости недостаточно и необходимо рассматривать нелинейную зависимость от объясняющих переменных, но линейную относительно параметров. К таким моделям применимы все выводы множественной модели регрессии, при этом каждое слагаемое должно рассматриваться как отдельный фактор.

На необходимость включения нелинейных членов может указывать анализ графиков зависимости y от регрессоров.

Рассмотрим пример

Пример (Wage-equation). Рассмотрим зависимость уровня почасовой оплаты труда wage от возраста age. В качестве зависимой переменной естественно рассматривать фактор ln(wage). Согласно полулогарифмической модели

ln(wage) = β0 + β1age + "

сувеличением возраста уровень почасовой оплаты будет расти (если

ˆ), что не соответствует реальности: до определенного возраста

β1 > 0

зарплата будет расти, а потом снижать. Другими словами, эта полулогарифмическая модель не учитывает старение человека. Чтобы учесть старение индивидуума введем в модель регрессии фактора age2:

ln(wage) = β0 + β1age + β2age2 + ".

Естественно ожидать, что после оценки параметров модели коэффи-

циент b будет отрицательный и значим. В этом случае легко найти

β2

91

возраст, при котором будет (в среднем!) максимальный уровень почасовой оплаты:

b

β1 agemax = − b .

2β2

Подробнее о спецификации см. раздел Спецификация модели в Главе 3.

2.8.Стохастические регрессоры

Мы использовали вероятностную модель множественной регрессии, в которой значения объясняющих факторов считались неслучайными (детерминированными). Однако в некоторых приложениях значения регрессоров необходимо считать случайными. Например, в ситуации когда их значения не могут быть получены точно и измерены с некоторыми случайными ошибками. В этом случае статистические выводы должны быть несколько скорректированы.

Рассмотрим следующую вероятностную модель

где y, x1, . . . , xk, u – случайные величины, причем y и xj наблюдаемы , а u ненаблюдаемо . Случайная величина (ошибка) u как и раньше описывает влияние факторов, не включенных в модель. Для удобства записи обозначим

Тогда модель регрессии (2.4) можно записать в матричном виде

y = β0 + x0β + u.

Относительно ошибки u будем предполагать выполнения следующих условий:

1)M(u|x1, . . . , xk) = 0 (в матричном виде M(u|x) = 0),

2)M(u2|x1, . . . , xk) = σ2 (в матричном виде M(u2|x) = σ2),

92

3) u|x1, . . . , xk N (0, σ2) (в матричном виде u|x N (0, σ2)). При выполнении условия 1) очевидно

M(y|x1, . . . , xk) = M(y|x) = β0 + β1x1 + · · · + βkxk = β0 + x0β.

Предложение. Если выполнены условия 1) и 2), то

a)Var(u|x1, . . . , xk) = σ2,

b)Mu = 0 и Var(u) = σ2,

c)cov(xj, u) = 0, j = 1, . . . , k.

Доказательство. Аналогично случаю парной регрессии. Обозначим через x симметричную матрицу ковариаций объясня-

Замечание. Можно показать, что для произвольной корреляционой матрицы det x > 0.

Предложение. Для модели регрессии (2.4) при выполнении условий

1) и 2)

β0 = My − β1Mx − · · · − βkMxk,

а коэффициенты β1, . . . , βk удовлетворяют системе уравнений

>>· · ·

>

:cov(x1, xk)β1 + cov(x2, xk)β2 + · · · + Var(xk)βk = cov(y, xk)

Доказательство. Так как Mu = 0, то

My = M(β0 + β1x1 + · · · + βkxk + u) =

β0 + β1Mx1 + · · · + βkMxk + Mu = β0 + β1Mx1 + · · · + βkMxk

93

и получаем первую формулу. Далее, так как cov(xj, u) = 0 при j = 1, . . . , k, то по свойству ковариации

cov(y, xj) = cov(β0 + β1x1 + · · · + βkxk + u, xj) =

β1 cov(x1, xj) + β2 cov(x2, xj) + · · · + βk cov(xk, xj).

Замечание. Система линейных уравнений на коэффициенты β1, . . . , βk может быть записана в матричном виде

0cov(y, x1)1

Эта система имеет единственное решение тогда и только тогда, когда det x 6= 0 (а значит det x > 0). В этом случае решение системы имеет вид

Замечание. В случае det x = 0 говорят, что есть (чистая) мультиколлинеарность регрессоров. В этом случаем один из регрессоров линейно выражается через остальные и коэффициенты регрессии определены неоднозначно.

Рассмотрим задачу оценивания параметров β0, . . . , βk и σ2 на ос-

cov(

94

где b – выборочная ковариационная матрица.

x

Основной результат дается следующей теоремой.

Теорема (Гаусс – Марков). Пусть для линейной модели (2.4) выполнены условия 1) и 2), det x 6= 0 и (yi, xi) – случайная выборка. Тогда

нейными несмещенными оценками с минимальной дисперсией3, т.е. BLUE оценками. Кроме того, эти оценки состоятельны, т.е.

при n −! +1

Доказательство. 1. Так же как и в случае детерминированных регрессоров показывается, что

Аналогично случаю детерминированных регрессоров показывается, что OLS–оценки коэффициентов имеют минимальную дисперсию среди всех линейных по y оценок.

2. Докажем состоятельность OLS-оценок коэффициентов регрессии. Так как при n ! +1 (j = 1, . . . , k,)

3имеется ввиду условная дисперсия Var(·|x1, . . . , xn)

95

Также как в случае детерминированных регрессоров определяются предсказанные значения yˆi, остатки, полная TSS, объясненная ESS и остаточная RSS суммы квадратов. Для них верно равенство

TSS = ESS + RSS .

Коэффициент R2 определяется равенством

R2 = RSSESS = 1 − RSSTSS.

Теорема. При выполнении условий 1), 2) и 3) для OLS-оценок параметров регрессии и для коэффициента детерминации верны все статистические свойства модели регрессии с детерминированными регрессорами.

Замечание. Следует отметить, что статистические свойства для модели со стохастическими регрессорами следует понимать в смысле условных распределений: tj|x1 . . . , xn tn−m и т.д.

2.8.1.Асимптотические свойства OLS-оценок

При доказательстве оптимальности OLS-оценок коэффициентов в модели со стохастическими регрессорами мы использовали только условия 1) – 2) на ошибки модели регрессии, а условие нормальной распределенности ошибок было нужно для доказательства статистических свойств OLS-оценок коэффициентов (проверки простых и сложных гипотез, построении доверительных интервалов и т.д.).

При больших объемах выборки условие нормальной распределенности ошибок регрессии можно ослабить. А именно, верна следующая теорема.

Теорема. Пусть распределение ошибок регрессии имеет конечную дисперсию и выполнены условия 1) – 2) на ошибки регрессии. Тогда

1. Таким образом, асимптотически (при большом объеме выборки) доверительный интервал для коэффициента βj с доверительной вероятностью γ имеет вид:

P ˆ − · ˆ ·

βj sj zγ < βj < βj + sj zγ γ,

96

где zγ есть решение уравнения

1 + γ Φ(zγ) = 2 ,

где Φ(·) – функция стандартного нормального распределения. 2. Для проверки статистической гипотезы

H0 : βj = 0

против двусторонней альтернативы

H1 : βj 6= 0

используется обычная t-статистика

ˆ −

t = βj 0 . sj

При большом объеме выборки для проверки нулевой гипотезы получаем следующий приближенный статистический критерий:

при заданном уровне значимости гипотеза H0 отвергается при

|t| > zкр,

где zкр есть двустороннее критическое значение стандартного нормального распределения и находится как решение уравнения

Φ(zкр) = 1 − 2 .

3. Для проверки статистической гипотезы

H0 : βj = 0

против односторонней альтернативы

H1 : βj > 0

используется обычная t-статистика

ˆ −

t = βj 0 . sj

При большом объеме выборки получаем следующий приближенный статистический критерий проверки нулевой гипотезы при односторонней альтернативе:

97

при заданном уровне значимости гипотеза H0 отвергается при t > zкр0 ,

где zкр0 есть одностороннее критическое значение стандартного нормального распределения и находится как решение уравнения

Φ(zкр0 ) = 1 − .

4. Для проверки сложной гипотезы о линейных ограничениях на коэффициенты модели регрессии

H0 : Rβ = r

используется F -статистика (2.2) и следующий приближенный статистический критерий4, называемый иногда тестом Вальда:

при заданном уровне значимости гипотеза H0 отвергается при qF > χ2кр,

где q – число линейных ограничений на коэффициенты, а χ2кр есть критическое значение распределения χ2q. Отметим, что статистика теста Вальда

2.9.Мультиколлинеарность

Как уже отмечалось, система нормальных уравнений для модели ре-

b

грессорами модели есть чистая мультиколлинеарность. Это означает, что в выборке один из регрессоров линейно выражается через остальные и в этом случае OLS-оценки коэффициентов определены неоднозначно.

4так как для распределения Фишера qFq,N χ2q при N >> 1

98

Однако в прикладных задачах явление чистой мультиколлинеарности может встречаться крайне редко. Чаще возникает ситуация когда один из регрессоров хорошо линейно приближается остальными регрессорами. Такое явление называется мультиколлинеарностью. Рассмотрим как это качественно влияет на оценки коэффициентов регрессии.

Можно доказать следующее

Предложение. Для дисперсии OLS-оценки коэффициентов регрессии верно равенство

i=1

есть общая вариация фактора xj, а коэффициент Rj2 вычислен в линейной регрессии фактора xj на константу и остальные регрессоры модели.

Замечание. Другими словами, коэффициент Rj2 показывает, насколько хорошо фактор xj линейно приближается остальными регрессорами.

Следствие. Для выборочной дисперсии оценок коэффициентов регрессии верно равенство

Таким образом, большие значения Rj2 (т.е. близкие к единице) приводят (при прочих равных) к большой выборочной стандартной ошибке коэффициента βj и, следовательно, к большому доверительному интервалу. Таким образом, точность оценки коэффициента снижается и мы можем сделать вывод о незначимости коэффициента, хотя из экономических соображений фактор должен влиять на зависимую переменную. Более того, может даже случиться, что все коэффициенты в модели незначимы, но регрессия в целом значима. Кроме того, из-за низкой точности мы можем получить неправильный знак OLS-оценки коэффициента регрессии.

99

Замечание. Из формулы (2.5) видно, что к большим стандартным ошибкам коэффициента также приводят и малые значения TSSj.

Пример. Рассмотрим двухфакторную модель

y = β0 + β1x1 + β2x2 + u.

Тогда коэффициент R12 вычисляется в регрессии

x1 = γ0 + γ1x2 + error,

а коэффициент R22 – в регрессии

x2 = δ0 + δ1x1 + error

Из соотношений для парной модели регрессии получаем

R12 = R22 = corrd2(x1, x2).

Следовательно, чем сильнее коррелируют регрессоры (т.е. чем ближе по абсолютной величине к единице коэффициент corr(d x1, x2)), тем больше выборочные стандартные ошибки коэффициентов (при прочих равных условиях).

Важно понимать, что явление мультиколлинеарности носит не ко-

личественный, а качественный характер. В самом деле, в каком смысле следует понимать коэффициент Rj2 близок к единице илибольшая стандартная ошибка коэффициента ? Как следствие, когда следует считать, что в модели регрессии мы имеем проблему мультиколлинеарности ? Среди эконометристов нет единого мнения на этот счет. Некоторые эконометрические пакеты для каждого фактора вы-

числяют показатель V IFj = 1/(1 − Rj2) (Variance Inflation Factor) и

некоторые эконометристы предлагают считать, что в модели регрессии присутствует проблема мультиколлинеарности для фактора xj , если показатель V IFj > 20 (см. [21], Гл. 4.9.1 и ссылки). В книге [29] Гл. 3.4 указывается на пороговое значение 10 для показателя V IFj. Эти пороговые значения для V IFj предлагаются исходя из эмпирического анализа выборочных данных.

Другой подход к мультиколлинеарности основан на состоятельности OLS-оценок коэффициентов регрессии: так как выборочные дисперсии коэффициентов (а, следовательно, и стандартные ошибки) по

100