Ежов - ТеорВер
.pdf7.2. Центральнi граничнi теореми |
71 |
Маємо ξ = ξ1 + . . . + ξn, де ξk - кiлькiсть успiхiв при k-ому iспитi, ξk незалежнi i однаково розподiленi, P {ξk = 1} = p, P {ξk = 0} = q, M ξk = p, Dξk = pq. Щоб порiвняти iз (7.26) необхiдно покласти
ξk ξ = ξ1 + . . . + ξn, M ξk = µ M ξ = np .
Теорему доведено.
Теорема 19. Якщо поряд з умовами попередньої теореми х. ф. випадкової величини ξk є
абсолютно iнтегрованою на |
R1 |
густина pn(x) випадкової величини (7.26) при n |
→ ∞ |
|||||
1, то |
|
x2 |
|
|
||||
збiгається до густини p0(x)= |
√ |
|
exp − |
|
|
рiвномiрно по x. |
|
|
2 |
|
|||||||
2π |
|
Доведення не приводимо.
Зараз ми позбавимося вiд небажаного у багатьох випадках припущення про однаковий розподiл випадкових величин ξk.
Теорема 20. (Центральна гранична теорема Ляпунова) Нехай {ξk} – послiдовнiсть незалежних випадкових величин, що мають M ξk = µk, Dξk = σk2 та M |ξk − µk|3 < ∞, k = 1, 2, . . . Тодi, якщо виконується умова Ляпунова
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
1 |
k |
− µk |3 −→ 0 |
|
при |
|
|
||||||||||||
|
|
|
|
|
B3 |
|
|
|
M |ξk |
|
n → ∞ , |
|
|||||||||
|
|
|
|
|
n |
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
n |
|
n |
|
|
|
, то послiдовнiсть випадкових величин |
|
|||||||||||||
де Bn = k=1 Dξk = |
k=1 σk2 |
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
1 |
n |
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
(ξk − µk) |
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
ηn = |
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
Bn |
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k |
|
|
|
|
|
|
|
збiгається за розподiлом до N (0, 1) рiвномiрно на R1. |
|
|
|||||||||||||||||||
Покладемо χnk = |
ξk − µk |
. Тодi |
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
Bn |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|||
|
|
|
ηn = k=1 χnk , |
|
|
|
M χnk = |
|
M (ξk − χk ) = 0 , |
||||||||||||
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
Bn |
||||||||||||||
|
|
|
|
1 |
|
|
σk2 |
|
3 |
1 |
3 |
|
|||||||||
|
|
|
Dχnk = |
|
|
Dξk |
= |
|
, M |χnk | |
|
= |
|
M |ξk − µk| |
. |
|||||||
|
|
|
|
Bn2 |
Bn2 |
|
Bn3 |
||||||||||||||
Внаслiдок незалежностi для х.ф. маємо спiввiдношення |
|
|
|||||||||||||||||||
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
fηn (t) = ϕχnk (t) , |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(7.28) |
|||||
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k; |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
де ϕχnk (t) - х.ф. випадкової величини χnk .
72 |
|
|
|
Роздiл 7. |
Центральнi граничнi теореми |
||||||
Розкладемо ϕχnk (t) ≡ ϕ(t) в ряд Тейлора iз залишковим членом у формi Лагранжа |
|||||||||||
|
|
|
t2 |
|
σ2 |
|
t2 |
|
t3 |
||
|
|
+ Rnk (t) = 1 − |
k |
|
|
|
|
||||
ϕ(t) = ϕ(0) + ϕ |
(0)t + ϕ |
(0) |
2 |
Bn2 |
|
2 |
+ ϕχnk |
(θ) |
6 |
. |
При n → ∞ оцiнка цього залишкового члена проводиться за допомогою спiввiдношення (7.8),
тобто |
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
5 |
5 |
|
|
|
|
|
|
|
− µk |3 −→ 0 . |
|
|
||||||||
Тодi |
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
≤ Bn3 M |ξk |
|
|
||||||||||||||||||
|
5ϕχnk (θ)5 |
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
σ2 |
|
|
t2 |
3 |
|
|
|||
|
ln ϕχnk (t) = − |
|
k |
· |
|
|
|
|
|
|||||||||||
|
|
|
|
|
+ O(t ) , |
|
|
|||||||||||||
|
Bn2 |
2 |
|
|
||||||||||||||||
i внаслiдок (7.28) маємо |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k |
σ2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
ln fηn (t) = |
|
k |
|
· |
|
t2 |
+ O(t3) |
−→ |
n→∞ |
− |
t2 |
||||||||
|
|
|
2 |
2 |
2 |
|||||||||||||||
|
|
− Bn |
|
|
|
|
|
|
та |
t2 |
|
|
fηn (t) = exp − |
. |
||
2 |
Рiвномiрну збiжнiсть доводити не будемо.
7.3.Застосування центральних граничних теорем
Спочатку зазначимо випадки, коли не можна застосовувати ЦГТ. Нехай ми хочемо оцiнити ймовiрнiсть P {ηn < x}, причому мова йде про тi значення x, при яких ця ймовiрнiсть близька до нуля або одиницi. Якщо ми замiнимо P {ηn < x} → Φ0(x), то вiдносна похибка може бути дуже великою, оскiльки, хоча рiзниця P {ηn < x} − Φ0(x) рiвномiрна мала по x, але невiрно твердження, що вiдношення P {ηn < x}/Φ0(x) → 1 рiвномiрно по x, тобто "хвости"розподiлiв потребують дуже обережної оцiнки.
Оцiнимо, наскiльки сильно може вiдрiзнятися частота вiд ймовiрностi у серiї з n випробувань Бернуллi. Оцiнка ґрунтується на спiввiдношеннi
|
&5 |
n |
− |
|
5 |
' |
$5 |
√npq |
5 |
|
pq % ≈ |
||
P |
5 |
ηn |
|
p |
5 |
> ε = P |
5 |
ηn − np |
5 |
> ε |
|
n |
|
|
5 |
|
|
|
5 |
|
5 |
|
5 |
|
|
|
|
≈ √1 2π
Оскiльки p + q = 1, то pq звiдки pq ≤ 14 . Тодi
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
−ε√ |
n |
|
|
|
|
|
∞ |
|
|
|
|
|
|
|
. |
|||
pq |
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
e− |
x2 |
1 |
|
|
|
|
e− |
x2 |
−ε |
n |
||||||
|
2 |
dx + |
√ |
|
|
|
|
2 |
dx = 2Φ0 |
|
|
|||||||
|
pq |
|||||||||||||||||
|
|
2π |
||||||||||||||||
|
|
|
|
|
|
|
n |
|
|
|
||||||||
−∞ |
|
|
|
|
|
ε√ |
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
pq |
|
|
|
|
|
|
|
|
= p(1 − p) = 14 − 14 + p − p2 = 14 − ( 12 − p)2, тобто pq + ( 12 − p)2 = 14 ,
|
|
|
|
|
|
|
|
|
|
|
|
||||
2Φ0 −ε |
n |
≤ 2Φ0 |
−2ε√n . |
||||
pq |
7.3. Застосування центральних граничних теорем |
73 |
Звiдси має мiсце оцiнка |
|
|
|
|||
P & |
ηn |
−ε<p< |
ηn |
+ε'≈1−2Φ0 |
−ε |
n |
|
|
|
||||
n |
n |
pq |
√
≥1−2Φ0 −2ε n .
Таким чином, якщо вiдома кiлькiсть успiхiв в серiї з n випробувань Бернуллi, можна побудувати iнтервал (ηn/n −ε, ηn/n + ε), який буде мiстити iстинне (невiдоме) значення ймовiрностi p з довiльною заданою ймовiрнiстю 1 − α. Для цього просто необхiдно за таблицями обрати значення ε таким, щоб 2Φ0(−2ε√n) = α. Тодi
P & |
ηn |
|
|
|
|
|
|
|
|
|
|
ηn |
+ ε(α)' = 1 − α . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(7.29) |
||||||||||||||||||||
|
|
− ε(α) < p < |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||
n |
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||
Iнтервал |
ηn |
|
ε(α), |
ηn |
|
+ ε(α) |
|
називається довiрчим iнтервалом з рiвнем довiри 1 α. |
||||||||||||||||||||||||||||||||||||||||||||
n |
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
Нехай ξ1, ξ−2, . . . |
- незалежнi випадковi величини, M ξk = µ, Dξk = σ2 для усiх k−. Закон |
|||||||||||||||||||||||||||||||||||||||||||||||||||
великих чисел (6.5) стверджує, що при n → ∞ є справедливою рiвнiсть |
||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
5 |
|
ξ |
|
|
. . |
|
ξ |
|
|
5 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
P |
$5 |
|
|
1 |
+ .n + |
|
n − µ5 |
> ε% = 0 . |
|
|
|
|
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
5 |
|
|
|
|
|
|
|
|
|
|
|
|
5 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
Якщо ξ1, ξ2, . . . не тiльки попарно 5 |
незалежнi |
(що |
є достатнiм5 |
для застосування закону великих |
||||||||||||||||||||||||||||||||||||||||||||||||
чисел), але й незалежнi у сукупностi, то можна застосувати теорему (7.27): |
||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
P |
$5 |
|
1 |
+ n + n −µ5 |
>ε%=P $5 |
1+ |
|
σ√nn− |
|
5 |
> |
|
σ |
% = |
|||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
5 |
ξ |
|
|
|
. . . ξ |
|
|
|
|
|
|
5 |
|
|
|
|
|
|
5 |
ξ . . . +ξ |
|
nµ |
5 |
|
ε√n |
||||||||||||||||||||
|
|
|
|
|
|
|
5 |
|
|
|
|
|
|
|
ε√ |
|
|
|
5 |
|
|
|
|
|
|
5 |
ε√ |
|
|
|
|
|
|
|
|
5 |
ε√ |
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
n |
|
|
|
|
|
|
n |
|
|||||||||||||||||||||||
|
|
|
|
|
|
|
$ |
|
|
|
− |
|
|
|
|
% $ |
|
|
|
|
|
|
|
|
% |
|
|
|
− |
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
σ |
|
|
|
|
σ |
|
|
|
σ |
|
|
||||||||||||||||||||||||||||||
|
|
|
|
|
= P5 |
|
ηn < |
|
ε√ |
|
|
|
|
5 |
+ P ηn >5 |
|
|
|
|
|
= 2Φ0 |
5 |
|
|
|
|
|
. |
||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
3σ |
|
|
|
|
|
|
|
|
|
||||||||||||
Iз таблиць випливає, що при |
|
σ |
= 3 (тобто |
ε = |
√ |
|
) ймовiрнiсть |
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||
|
n |
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||
P $|ηn| < |
√ |
|
|
% = 1 − 2Φ0 |
− |
|
√ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
ε |
n |
ε |
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(7.30) |
|||||||||||||||||||||||||||
σ |
|
|
σ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
дорiвнює 0.997. Це є правило 3 σ.
Роздiл 8
Математична статистика
Теорiя ймовiрностей вивчає математичнi моделi експериментiв iз випадковим результатом. Математична статистика вивчає питання, що виникають при порiвняннi цих моделей iз реальнiстю.
8.1. Розподiл ортогональних проекцiй
Нехай |
|
|
|
|
|
ei |
|
|
ξ - випадковий вектор в n-вимiрному евклiдовому просторi Rn |
з базисом |
{ |
}: |
ξ = |
||||
n |
|
|
n |
|
|
|||
|
|
|
|
|
= ei, ξ |
|||
i=1 ξiei |
. Розглянемо скалярний добуток у цьому просторi ξ, η = i=1 ξiηi Величини ξi |
|||||||
(проекцiї вектора) є випадковими величинами. |
|
|
|
|
|
|
||
|
|
|
є випадковим вектором, причому |
|
|
|
|
|
Нехай A - лiнiний оператор в Rn. Тодi η = Aξ |
|
|
|
|
||||
ηi = (ei, η) = ei, Aξ |
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
(8.1) |
||
= j=1 aij ξj , |
|
|
|
|
|
|||
де величини aij = (ei, Aej ) є матричними елементами оператора A в ортономованому базисi |
|
|
|
|
|
˘ |
|
|
{ei}. Вiдповiдну матрицю будемо позначати A. Перейдемо до нового ортонормованого базису |
|||||||
{ei} за допомогою ортогонального перетворення U |
|
||||||
|
|
|
|
|
ei = U ei, i = 1, . . . , n , |
|
|
|
|
|
|
˘ |
|
|
|
яке має такi властивостi (U - матриця перетворення U ) |
|
||||||
˘ T |
˘ |
−1 |
, |
˘ |
|
|
(8.2) |
U |
= U |
|
det U = ±1 . |
|
|
||
У новому базисi матричнi елементи aij оператора A обчислюються за формулами |
|||||||
|
|
|
|
aij = ei, Aej |
|
|
n |
|
|
|
|
|
|||
|
|
|
|
= (U ei, AU ej ) = |
ei, U +AU ej |
= k,l=1 uikT akluljT . |
Нагадаємо, що внаслiдок (8.2) (x, y) = (U x, U y) i норма вектора зберiгається x = U x , де
-
x = (x, x).
74
8.1. Розподiл ортогональних проекцiй |
|
|
|
|
|
|
|
|
|
|
75 |
||||||||
Нехай L - лiнiйний пiдпростiр Rn i L - ортогональне доповнення L в Rn, тобто |
|
|
|
||||||||||||||||
L = {x Rn, (x, y) = 0, y L} . |
|
|
|
|
|
|
|
|
|
(8.3) |
|||||||||
Покажемо, що розклад |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
x = x1 + x2, x1 L, x2 L |
|
|
|
|
|
|
|
|
|
|
|
(8.4) |
|||||||
є единим. Дiйсно, iз рiвностi |
x = x |
+ x |
, x |
|
L, x |
|
L |
i лiнiйностi пiдпросторiв |
L |
та |
L |
||||||||
|
1 |
2 |
1 |
2 |
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
(x1 − x1), (x2 − x2) |
, то x1 −x1 2 + x2 −x2 2 = |
|||||||||
випливає (x1 −x1 |
) + (x2 |
−x2) = 0. Оскiльки |
|||||||||||||||||
|
1 |
1 |
2 |
|
2. Таким чином, кожному вектору |
|
|
n розклад (8.4) ставить у |
|||||||||||
0 = x |
= x , x = x |
|
|
|
|
|
|
|
|
x |
R |
|
|
|
|||||
вiдповiднiсть вектор x1 L, або |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
x1 = Πx , |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(8.5) |
|||
де Π - оператор проектування на L, (ортогональний проектор). |
|
|
|
||||||||||||||||
Властивостi оператора проектування Π: |
|
|
|
|
|
|
|
|
|
|
|||||||||
1) Π - лiнiйний оператор. Дiйсно, нехай |
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
x = x1 + x2, y = y1 + y2, x1, y1 L, x2, y2, L . |
|
|
|
||||||||||||
Тодi |
|
αx + βy = (αx1 + βy1) + (αx2 + βy2), αx1, βy1 L, αx2, βy2, L . |
|
|
|
||||||||||||||
|
|
|
|
|
|||||||||||||||
Як наслiдок |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Π(αx + βy) = αx1 + βy1 = αΠx + βΠy . |
|
|
|
|
|
|
|
|
(8.6) |
||||||||||
2) Π - самоспряжений оператор, тобто для будь-яких x, y Rn |
|
|
|
|
|||||||||||||||
(Πx, y) = (x, Πy) . |
|
|
|
|
|
|
|
|
|
|
|
|
|
(8.7) |
|||||
Дiйсно |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(Πx, y) = (x1, y) = (x1, y1) = (x, y1) = (x, Πy) . |
|
|
|
|||||||||||
3) Π2 = Π . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(8.8) |
|||
Дiйсно, для довiльного x Rn має мiсце |
|
|
|
|
|
|
|
|
|
|
|
Πx = x1 = Πx1 = Π (Πx) .
Властивостi 1)-3) є необхiдними i достатними для того, щоб оператор Π був ортогональним проектором.
Визначимо вiдстань вiд вектора x до L |
|
ρ(x, L) = inf {x − y , y L} . |
(8.9) |
Тодi
ρ(x, L) = x − Πx .
76 Роздiл 8. Математична статистика
Дiйсно, для довiльного y L маємо
Πx − y L та x − Πx = (I − Π)x L .
Як наслiдок
x − y 2 = x − Πx + Πx − y 2= x − Πx 2 + Πx − y 2 ≥ x − Πx 2,
причому рiвнiсть виконується тiльки у випадку Πx = y.
Теорема 21. Нехай 1, . . . , ξn) випадковий вектор, координати якого незалежнi у су-
ξ
ξ
(
=
купностi i нормальнi N (0, σ2). Якщо U - оператор ортогонального перетворення в Rn, то
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
розподiл вектора η = U ξ |
спiвпадає з розподiлом вектора ξ. |
|
||||||||||||
Маємо |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
xi2 |
|
|
|
|
n (x, x) |
|
|||
|
; |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
e−2σ2 |
= |
1 |
|
e− 2σ2 . |
(8.10) |
||||||
pξ (x)=pξ1...ξn (x1, . . ., xn)= i=1 |
√ |
|
|
√ |
|
|
||||||||
2πσ |
2πσ |
Далi (якщо η = Aξ)
(
pη (y)dy
D
Звiдси
= { } = |
&Aξ |
1' |
= |
|
& |
|
1 |
||||
|
P |
η |
D |
P |
|
D |
|
P |
|
|
|
|
A−(D |
|
|
( |
|
|
|
|
|
|
|
= |
|
1 |
pξ (x)dx = |
pξ (A− y) |det A− |
|||||||
|
|
|
|
|
D |
|
|
|
|
|
|
'
A−1D =
| dy .
pη (x) = pξ (A−1x) |
5det A−15 |
, |
|
|
|
|
|
|
|
(8.11) |
|||||
i якщо A = U , то вiдповiдно5 |
до5 |
(8.10) та (8.11) маємо |
|
||||||||||||
1 |
|
n |
|
|
( |
U |
− |
1x, U |
− |
1x |
|
|
|||
pη(x)=pξ (U −1x)= |
√ |
|
|
|
exp |
− |
|
|
) |
=pξ (x) . |
(8.12) |
||||
|
|
|
2σ2 |
|
|
||||||||||
2πσ |
|
|
|
|
Звiдси випливає, що координати вектора η незалежнi у сукупностi та нормальнi N (0, σ2). Очевидно, що твердження теореми можна сформулювати iнакше: якщо координати ξ1, . . . , ξn
|
незалежнi у сукупностi i нормальнi N (0, σ |
2 |
) у деякому ортонормова- |
випадкового вектора ξ |
|
ному базисi Rn, то вони незалежнi у сукупностi i нормальнi N (0, σ2) i в будь-якому iншому ортонормованому базисi Rn.
Наслiдок 21.3. Нехай Rk - k-вимiрний лiнiйний пiдпростiр Rn, i Πk - оператор проектування на Rk . Якщо виконанi умови теореми (8.12), то випадкова величина
|
|
|
|
|
|
|
2 |
≡ |
|
|
(8.13) |
Πkξ |
|
Πk ξ, ξ |
= Πk ξ, Πk ξ |
розподiлена як випадкова величина σ2χ2k.
8.1. Розподiл ортогональних проекцiй |
77 |
Доведення не приводимо.
Наслiдок 21.4. Нехай Π1 - оператор ортогонального проектування на одновимiрний пiд-
|
|
|
||
простiр R1, що натягнутий на одиничний вектор e, тобто Π1ξ = (e, ξ)e. Якщо випадковий |
||||
|
задовольняє умовам теореми, то випадкова величина |
|
||
вектор ξ |
|
|||
|
|
|
|
|
τn−1 = |
(e, ξ) |
(8.14) |
||
" (I − Π1)ξ 2/(n − 1)#1/2 |
|
має розподiл Ст’юдента з n − 1 степенями свободи.
Нагадаємо, що розподiл Ст’юдента з k степенями свободи має випадкова величина τk = |
|||||||||||||||||||||||||||||||||||||||||||||
|
|
η |
|
|
, якщо η |
|
|
|
|
|
|
2 |
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
) та τk = |
|
|
η |
|
. |
||||
|
|
|
N (0, 1), χk |
|
|
χрозподiл, або якщо |
η |
N (0, σ |
|
|
|
||||||||||||||||||||||||||||||||||
|
|
χk2 1/2 |
|
|
σ2χk2 1/2 |
||||||||||||||||||||||||||||||||||||||||
|
|
k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
2 |
|
|
k |
|
||
Згiдно з теоремою (8.12) величина |
(e, ξ) N (0, σ |
|
) i не залежить вiд (I −Π1)ξ |
. Одначасно |
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
2 |
2 |
|
2 |
. . |
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|||||||
(I − Π1)ξ |
= σ |
χn−1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||
|
|
Розглянемо окремий випадок, коли e = |
√ |
|
|
|
i=1 ei. Тодi координати вектора Π1ξ дорiв- |
||||||||||||||||||||||||||||||||||||||
|
|
n |
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||
нюють |
|
|
|
|
|
|
|
Π1ξ |
|
= "(e, ξ)e#j |
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
= |
|
|
|
i=1 ξi, |
|
j = 1, . . . , n , |
|
|
|
|
|
|
|||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
j |
n |
|
|
|
|
|
|
|
||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
тобто всi координати вектора Π1ξ однаковi. Далi, вектор |
(I − Π1)ξ має координати |
|
|
||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
(I − Π1)ξ |
|
= ξ − Π1ξ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
= ξj − |
|
|
i=1 ξi, |
j = 1, . . . , n . |
|
|
|
|
|
|||||||||||||||||||||||||
|
|
|
|
|
|
|
|
j |
j |
n |
|
|
|
|
|
||||||||||||||||||||||||||||||
Тодi у цьому випадку величина (8.14) набуває вигляду |
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ξi |
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
√ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
(e, ξ) |
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
τn−1= |
|
|
|
|
|
|
|
|
|
|
|
= |
|
|
|
|
|
|
|
|
i |
|
|
|
|
|
|
|
|
. |
|
|
|
|
|
(8.15) |
|||||||||
" − |
|
|
|
|
− |
# |
1/2 |
|
0n−1 j=1 |
ξj − n i=1 ξi |
2 |
1 |
1/2 |
|
|
|
|
|
|||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
(I Π1)ξ |
|
/(n 1) |
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
У випадку, коли ξi, i = 1, . . . , n незалежнi у сукупностi i нормальнi N (µ, σ2), то у формулi |
|||||||||||||||||||||||
(8.15) замiсть ξ треба пiдставити вектор ξ −nm, де m = µ |
i ei. Тодi випадкова величина |
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
(ξi |
− |
µ) |
|
|
|
|
||
|
|
− |
m) |
|
|
|
|
|
|
√ |
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
e, (ξ |
|
|
|
|
|
|
|
|
n |
=1 |
|
|
|
|
|
||||||
τn−1= |
|
|
|
|
|
|
|
= |
0n−1 j=1 |
|
|
|
i |
|
|
|
|
|
(8.16) |
||||
|
|
|
|
|
− |
# |
1/2 |
|
|
|
ξj − n i=1 ξi |
|
2 |
1/2 |
|||||||||
|
" − |
|
|
|
|
|
|
|
|
1 |
|
|
|||||||||||
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
(I Π1)ξ |
|
|
/(n 1) |
|
|
|
1 |
|
|
|
|
|
1 |
|
|
|
|
|
|
має розподiл Ст’юдента з n − 1 степенями свободи. Тут ми використали той факт, що (I −
Π1)m = 0.
78 |
Роздiл 8. Математична статистика |
8.2.Оцiнка математичного сподiвання при вiдомiй дисперсiї
Нехай ξi, i = 1, n, нормальнi N (µ, σ2), причому дисперсiя σ2 є вiдомою, а математичне сподi-
вання |
µ |
– невiдомо. Нехай { |
ξi |
} |
незалежнi у сукупностi. Послiдовнiсть ξ1, . . . , ξn називається |
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
2 |
) об’ємом n. |
|||||||||
випадковою виборкою iз нормального розподiлу N (µ, σ |
|
|||||||||||||||||||||
Оскiльки випадкова величина 1 |
n |
нормальна N (µ, |
σ2 |
), то випадкова величина |
||||||||||||||||||
|
|
ξi |
||||||||||||||||||||
|
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
n |
=1 |
|
|
|
|
|
|
|
n |
|||
|
|
1 |
n |
√ |
|
|
|
|
|
i |
|
|
|
|
|
|
|
|
||||
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
η = . |
|
=1 (ξi − µ)/ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(8.17) |
|||||
n |
σ |
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
є нормальною N (0, 1), i, як наслiдок, можна пiдрахувати ймовiрнiсть |
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
1 |
|
ε |
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
e− |
x2 |
|
|
|
|
||||||
|
|
|
|
P {|η| < ε} = |
√ |
|
|
dx = Φ0(ε) − Φ0(−ε) . |
||||||||||||||
|
|
|
|
|
2 |
|||||||||||||||||
|
|
|
|
2π |
−ε
Задамо значення α, 0 < α < 1, i за таблицями нормального розподiлу визначимо таке ε > 0, для якого
1 |
n |
|
√ |
|
|
|
||
n |
|
|||||||
|
|
i |
|
|
|
|
|
|
P −ε < .n |
(ξi − µ)/ σ < ε =Φ0(ε) − Φ0(−ε)=1 − α . |
(8.18) |
||||||
=1 |
При цьому випадкова величина η (8.17) може опинитися зовнi iнтервала (−ε, ε) лише iз ймовiрностю α. Вираз (8.18) можна переписати iнакше
|
|
n |
|
|
|
|
|
n |
|
|
= 1 |
|
|
|
1 |
|
|
εσ |
1 |
i |
εσ |
|
|
||||||
P |
|
|
ξi − |
√ |
|
< µ < |
|
=1 ξi + |
√ |
|
− α . |
(8.19) |
||
n |
n |
|||||||||||||
i=1 |
n |
n |
Вiдповiдно до (8.19) iстинне значення математичного сподiвання µ лежить у випадковому iнтервалi
|
|
n |
|
|
|
|
n |
|
|
/ |
|
|
1 |
i |
εσ |
|
1 |
|
εσ |
|
|||||
. |
|
=1 ξi − |
√ |
|
, |
|
i=1 ξi + |
√ |
|
(8.20) |
||
n |
n |
|||||||||||
n |
n |
з ймовiрностю 1 − α. Iнтервал (8.20) називається iнтервальною оцiнкою параметра µ, або довiрчим iнтервалом для параметра µ (з рiвнем довiри (1 − α) · 100%).
8.3.Оцiнка дисперсiї при вiдомому математичному сподiваннi
Нехай маємо ту ж саму послiдовнiсть ξi iз N (µ, σ2), але µ - вiдомо, а σ2 - невiдомо. Тодi випадковi величини (ξi − µ), i = 1, n, N (0, σ2) i незалежнi у сукупностi. Як наслiдок
n
величина (ξi − µ)2 має розподiл σ2χ2n з n степенями свободи.
i=1
8.4. Оцiнка математичного сподiвання при невiдомiй дисперсiї |
79 |
Якщо заданi величини ε1 > 0 та ε2 > 0, то за таблицями χ2-розподiлу можна пiдрахувати
ймовiрнiсть |
= 1 − α . |
|
P ε1 < χn2 < ε2 |
(8.21) |
Але при заданому α, 0 < α < 1 величини ε1 та ε2 обчислюються неоднозначно. Тому звичайно
припускають |
|
|
|
|
|
|
P χn2 |
|
|
ε1 = P χn2 ≥ ε2 = |
α |
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
≤ |
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
. |
|
||||||||
|
|
|
|
|
|
|
|
|
|
2 |
|
||||||||||
Тодi виконується умова (8.21) i в результатi отримаємо |
|
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
i |
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
P ε1 < |
σ2 |
|
=1 (ξi − µ)2 < ε2 = 1 − α , |
|
||||||||
або |
|
|
|
|
|
|
|
|
|
|
|
|
i |
|
|
|
|
||||
|
|
|
|
|
1 |
|
n |
|
|
|
1 |
n |
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
P |
|
i=1 |
(ξi − |
µ)2 |
< σ2 < |
|
=1 (ξi |
− µ)2 = 1 |
− α , |
|||||||
|
|
|
|
|
ε2 |
ε1 |
|||||||||||||||
або |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
P $ |
1 |
ξ − m 2 |
< σ2 < |
1 |
ξ − m 2% = 1 − α . |
|
|
|
(8.22) |
||||||||||||
|
|
|
|
|
|
||||||||||||||||
ε2 |
|
ε1 |
|
|
|
||||||||||||||||
Вiдповiдно до (8.22) iстинне значення дисперсiї σ2 лежить у випадковому iнтервалi |
|||||||||||||||||||||
1 |
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
ξ − m 2 , |
|
|
ξ − m 2 |
|
|
|
|
|
|
|
|
(8.23) |
||||||
ε2 |
ε1 |
|
|
|
|
|
|
|
|
з ймовiрностю 1 − α. Iнтервал (8.23) називається iнтервальною оцiнкою параметра σ2, або довiрчим iнтервалом для параметра σ2 (з рiвнем довiри (1 − α) · 100%).
8.4.Оцiнка математичного сподiвання при невiдомiй дисперсiї
Вiдповiдно до (8.16) величина τn−1 має розподiл Ст’юдента з n − 1 степенями свободи. За таблицями значень розподiлу Ст’юдента для заданого α (0, 1) можна визначити ε таке, щоб P {|τn−1| < ε} = 1 − α. Або
|
|
|
n |
|
|
- |
− |
|
|
|
|
|
|
n |
|
- |
|
|
− |
|
|
|
|
|
|
|
|
|
|
|
|||
|
1 |
|
|
|
|
|
|
|
1 |
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
P |
|
|
|
ξ |
|
ε (I−Π1)ξ |
<µ< |
|
|
|
ξ |
+ |
ε (I−Π1)ξ |
=1 |
|
α . |
|
|
|
||||||||||||||
n i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||
|
|
i− |
n(n |
|
1) |
|
|
n |
=1 |
i |
|
|
n(n |
|
1) |
|
|
− |
|
|
|
(8.24) |
|||||||||||
Зазначимо, що тут |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
(I |
− |
|
|
|
|
i=1 |
. |
|
|
− n k=1 |
ξk |
/ |
2 . |
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
Π1)ξ = |
n |
ξi |
|
1 |
n |
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
80 Роздiл 8. Математична статистика
Вiдповiдно до (8.24) iстинне значення математичного сподiвання µ лежить у випадковому iнтервалi
|
|
n |
|
|
- |
|
− |
|
|
|
|
n |
|
|
- |
|
− |
|
|
/ |
|
1 |
|
|
|
|
|
|
|
1 |
i |
|
|
|
|
|
|||||||
|
|
|
ξ |
|
ε (I − |
Π1)ξ |
, |
|
|
ξ |
+ |
|
(I − |
Π1)ξ |
|||||||
.n i=1 |
i − |
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
n(n 1) |
n |
=1 |
i |
|
|
n(n 1) |
зймовiрнiстю 1 − α.
8.5.Оцiнка дисперсiї при невiдомому математичному сподiваннi
Вiдповiдно до (8.13) маємо
|
|
|
|
|
|
< |
|
|
|
|
|
|
|
2 |
|
< |
|
|
< |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
< за |
|
|
|
= σ2χn2 −1 . |
||||||||
|
|
|
|
|
|
<(I |
− Π1)(ξ − m)< |
= |
<(I |
− Π1)ξ < |
|
|||||||||||||
|
|
|
|
|
< |
|
|
|
|
|
|
< |
|
< |
|
|
< |
|
|
|
|
|
||
За заданим α |
|
(0, 1)1 визначимо ε1 та ε1 |
|
умовами |
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
P χn2 |
−1 ≤ ε1 |
|
= P χn2 |
−1 ≥ ε2 |
|
= |
α |
|
||||||||
|
|
|
|
|
|
|
|
. |
|
|||||||||||||||
Тодi |
|
|
|
|
|
2 |
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
2 |
|
|
|
|
|
||
або |
|
|
|
|
|
|
|
|
|
|
< |
|
|
|
|
< |
|
|
|
|
|
|
||
|
|
|
|
P $ε1 < σ2 |
|
|
|
|
< ε2% |
= 1 − α , |
||||||||||||||
|
|
|
|
|
|
|
<(I − Π1)ξ |
< |
||||||||||||||||
|
|
|
|
|
P $ |
1 |
<(I − Π1)ξ < |
<2 |
|
|
1< |
|
|
2 |
|
= 1 − α . |
||||||||
|
|
|
|
|
ε2 |
< σ2 < ε1 <(I − Π1)ξ < % |
||||||||||||||||||
|
|
|
|
|
|
|
< |
|
|
< |
|
|
|
|
|
< |
|
< |
|
|
|
|||
Випадковий iнтервал |
|
< |
|
|
< |
|
|
|
|
|
< |
|
< |
|
|
|
||||||||
|
1 |
< |
|
2 |
|
|
1 |
< |
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
< |
|
|
|
2 |
|
< |
|
|
|
|
|
|
|
|
|
|
||||
|
ε2 |
− |
, |
|
ε1 |
|
= 1 − α |
|
|
|
|
(8.25) |
||||||||||||
|
<(I |
Π1)ξ < |
|
<(I − Π1)ξ < |
|
|
|
|
||||||||||||||||
є |
|
|
< |
|
< |
|
|
|
< |
|
|
|
< |
|
|
|
|
|
|
|
|
|
|
|
|
iнтервальною оцiнкою дисперсiї σ при невiдомому математичному сподiваннi µ (з рiвнем |
довiри (1 − α) · 100%).
8.6.Точковi оцiнки
Нехай |
|
|
|
|
випадкова вибiрка iз розподiлу |
|
|
|
|
|
ξ = (ξ1, . . . , ξn) |
F (x, θ), що залежить вiд параметра |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
θ = (θ1 |
, . . . , θk ) Θ, i нехай τ (θ) - вiдома функцiя, що визначена на Θ. Необхiдно обчислити |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
τ (θ), але аргумент невiдомий. У цьому випадку єдина доступна iнформацiя про τ (θ) мiститься |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
у виборцi ξ, i найкраще, що ми можемо зробити, це побудувати оцiнку τ (θ), що базується на |
||||||||||
виборцi |
|
|
|
|
|
|
|
|
|
|
ξ. Тобто, необхiдно побудувати функцiю t(·), що визначена на виборочному просторi |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
Rn, з метою використати статистику t(ξ) |
замiсть τ (θ). Статистика t(ξ) називається точковою |
|||||||||
оцiнкою |
|
|
|
|
|
|
|
|
|
|
τ (θ), i ми припускаємо, що розподiл t(ξ) концентрується бiля значення τ (θ), де |
θ - |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
параметр розподiлу вибiрки ξ. |
|
|
|
|
|
|||||
Приклад 45. Нехай |
|
|
|
2 |
|
= |
||||
ξ = (ξ1, . . . , ξn) є вибiркою iз нормального розподiлу N (µ, σ |
|
), θ |
||||||||
(µ, σ2), Θ = {−∞ < µ < ∞, 0 ≤ σ2}. Розглянемо статистику |
|
|
|
|||||||
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
1 |
j |
|
|
|
(8.26) |
||
µn = t(ξ) = |
n |
|
ξj . |
|
|
|
||||
6 |
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|