Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги из ГПНТБ / Острем К.Ю. Введение в стохастическую теорию управления

.pdf
Скачиваний:
10
Добавлен:
24.10.2023
Размер:
10.97 Mб
Скачать

30

Глава 2

* ( / ) = £ а,-МО.

(3-16)

>=1

где а,-— случайные переменные, а МОизвестные функции, которые часто использовались при первых попытках описать случайные процессы, представляют более общий пример чисто детерминированных процессов.

Упражнения

 

 

 

 

 

 

 

 

 

 

1.

Пусть

{x(t),

teT}—нормальный

 

процесс с

нулевым

средним значением. Показать, что

 

 

 

 

 

 

 

Е

х (tt) х (t3) х (/,)]

=

г

/2) т (/8> Q +

 

 

 

 

 

+ r(t1,t3)r(t2,ti)

+

r(t1,

tt)r(tt,

t3).

 

 

2. Пусть

{x(t),

t

e 7 } — нормальный

процесс с нулевым сред­

ним значением. Показать, что

 

 

 

 

 

 

 

 

 

E[x[t1)x{t2)--.x(tbl)]=S[Ex[tli)x[tlt)y.-

 

 

 

 

 

 

 

 

 

•••[Ex^xfrJ],

 

 

 

 

 

где сумма берется

j раз.

 

 

 

 

 

 

 

3.

Пусть

х и

у

вектор-столбцы произвольной размерности

и допустим,

что

У'

— нормальный

вектор

со средним

значеии-

 

 

 

 

 

X

 

 

 

 

 

 

 

ем

тп"л:

и ковариацией

 

 

 

 

 

 

пг„

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Rx

 

Rxy

 

 

 

 

 

 

 

 

 

Ryx

 

Rg .

 

 

 

Показать, что условное распределение х при заданном у явля­ ется нормальным со средним значением

m=mx + Rxy Ry~l {у — my)

и ковариацией

R — Rx — Rxy Ry Ryx-

4. Пусть x есть n-мерный вектор-столбец, имеющий нормаль­ ное распределение со средним значением m и ковариацией Ro- Пусть 5 — симметрическая матрица и v — квадратичная форма

v=xT Sx.

Показать, что

Ev = mT Sm + tr R0 S/

 

Случайные

процессы

31

5. Является

ли процесс скользящего

среднего

первого по­

рядка

x(l) = e{t)+ce(t—

 

 

 

1),

 

где {e(t), 1=...,

1 , 0, 1, ...} —последовательность

независимых

нормальных случайных величин

с параметрами (0, 1), стацио­

нарным, нормальным, марковским, эргодическим и сингуляр­ ным? Имеет ли он независимые приращения?

6. Рассмотреть процесс авторегрессии первого порядка

 

x(t+l)

+ ax(l) = e(t), t = t0,

t0

+

l

 

 

 

где | а | < 1 ,

{e{t)}

— последовательность

независимых

нормаль­

ных случайных величин с параметрами

(0, 1), а начальное со­

стояние x(t0)

—нормальное

с параметрами

(0, а). Последова­

тельность {e(t)}

независима

от x(t0).

Является

ли процесс

ста­

ционарным,

нормальным, марковским,

эргодическим

или

вы­

рожденным? Имеет ли он независимые

приращения?

 

 

7. Рассмотреть процесс авторегрессии из упражнения б, но

считать, что x(t0)

и e(t0) —совместно

нормальные

процессы

с корреляцией р. Будет ли этот процесс

марковским?

 

{x(t),

8. Рассмотреть вырожденный

случайный

процесс

0 ^ ^ < ° о } ,

определяемый соотношением

 

 

 

 

 

^= 0,

dt

где начальное состояние — нормальное с параметрами (0, о).

Будет

ли он эргодическим?

Найти упредитель

для

процесса,

который будет предсказывать x{t-\-h)

на основании

измерений

x(t).

 

 

 

 

 

 

 

9. Рассмотреть стохастический

процесс

 

 

 

 

dx_

0

Г

X,

 

 

 

 

dt

- 1

0_

 

 

 

где начальное состояние — нормальное с нулевым средним

зна­

чением

и ковариацией cov[x(0),

x(0)]=^q ^J.

Является

ли

процесс эргодическим? Найти упредитель, который будет пред­

сказывать x{t-\-h)

на основании наблюдений {xi(s),

to^s^t}.

10. Пусть {x(t),

teT}—винеровский

процесс

с единичным

значением параметра дисперсии. Показать, что

 

Р (со; maxxft, со) > а\ = 2Р (со; х(Т,) > с )

=

]Л>я7\ J

32

 

 

 

 

 

 

Глава

2

 

 

 

 

 

 

 

 

4 . КОВАРИАЦИОННАЯ ФУНКЦИЯ

 

 

 

В разделе кратко изложены свойства

ковариационных функ­

ций. Пусть {x(t),

teT}

и {y{t),

teT}

—случайные процессы вто­

рого

порядка. Их

ковариационная

 

функция

была

определена

выше соотношением

 

 

 

 

 

 

 

 

 

 

гху

(s, t) = cov [х (s),

у (/)] =

Е

(s) -

Ex (s)] \у (t) - Еу

(t)]т.

(4.1)

В

частности,

если

rxy(s,

t)

есть

функция

разности

аргументов

s—t,

то эти

процессы

совместно

стационарны

в широком смыс­

ле. Следовательно,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

rxy{s,l)

 

= rxu{s-i).

 

 

 

(4.2)

Если процессы {x(t),

teT}

и

{y(t),

t еТ}

одинаковы, то rxx(s,

t)

называют автоковариационной

функцией.

Для простоты rxx(s,

t)

обозначают иногда через rx(s,

t).

 

 

процессов

{x(t),

teT}

 

Взаимная

корреляционная

функция

и

{#(0> teT}

определяется

выражением

 

 

 

 

PXy(S,t)= ГХ"{5'П

Уrxx{s, s)ryy (t, t)

Автокорреляционная

функция процесса {x(t), teT} определяет­

ся выражением

 

Px,(«,0= .

' " < « ' ' » = .

 

 

V rxx(s,

S) г х х (t, t)

В частности, для стационарных

процессов

Рху{1)

=

-

 

.

 

 

У

гхх(.0уу(0)

Р „ ( т

) - ^ - .

 

 

 

Гхх ( 0 )

 

Поскольку нормирование

является

трудоемкой операцией, кор­

реляционные функции используются редко. Отметим, что иногда в литературе термин «автокорреляционная функция» использу­

ется для обозначения Ex(t)x{t-\-%)1.

Если х

и у — векторные

величины

(например, n-мерные векторы), ковариационная функ­

ция определяется следующим выражением:

 

1 В

отечественной литературе по теории вероятностей и ее применениям

обычно

rxy(s,

t)

называется взаимной корреляционной функцией случайных

функций

x(t)

и

y(t), a rxx(s, t) — автокорреляционной

функцией случайной

функции x(t); функция pxV(s, t) называется нормированной взаимной корре­ ляционной функцией x(t] и y{t), a pxx(s,t) —нормированной автокорреляци­ онной функцией x(t). — Прим. ред.

 

 

 

Случайные

процессы

 

 

 

 

33

Rxy (s,i)

= cov [x(s),

у(/)] =E[x(s)-Ex(s)}

 

 

 

[y(t)-Ey(t))T

 

'cov [xx (s), y± (0| cov {xx (s), y2 (t)} •••

cov [xx (s),

г/„ (*)]'

 

cov [*„ (s),

г/х

(/)] cov [x2 (s), уг(t)]

• • •

cov [x2

(s),

г/„ {t)]

 

L cov [x„ (s), yx

{t)\ cov [x„ (s), y2{t)]

• • •

 

cov [x„ (s), yn{t)]

J

Заметим,

что все определения

справедливы

для процессов

как

с непрерывным

временем,

так

и

с

дискретным.

Рассмотрим

свойства ковариационной функции.

 

 

 

 

 

 

Теорема 4.1. Пусть {x(t),

teT}

—действительный

случайный

процесс второго порядка с ковариационной

функцией rx(s,

t).

Тогда

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

I) rx(s,t)

= rx(t,s);

 

 

 

(4.3)

л

 

 

 

 

 

 

 

 

 

 

 

 

2) ^ ]

ZiZjrx(ti,

ij)

—квадратичная

форма

Zj, неотрицательно

определенная для всех чисел п и для каждого выбора точек от­

счета tjtT, 1=\,

2,

п;

 

 

 

 

 

 

3) х {s,t)\2<rx

{s,s)rx

{t,t);

(4.4)

4) если rx(s,

t)

непрерывна

вдоль

диагонали

s = t, то она

непрерывна для всех t.

 

 

 

 

Доказательство. Первое утверждение следует непосредствен­

но из определения ковариационной

функции

 

тх (s, 0 =

cov (s), х (/)] =cov

[х (t), х (s)] =

гх (t, s).

Для доказательства второго утверждения предположим, что

Ех—0, и составим выражение

 

Я ( [ i > , * & ) f } = £ ziziE[x(ti)x(ti))=

t^z,rx(ti,t,).

Так как в левой части записано математическое ожидание неотрицательной величины, то оно неотрицательно, и утверж­ дение 2 доказано. Утверждение 3 следует из неравенства Шварца

E\xy\<VEx*Ey\

(4.5)

для доказательства которого допустим, что а — действительная постоянная величина, и рассмотрим неравенство

(\х\ +

а\у\)>>0.

3-403

34 Глава 2

Взяв среднее от обеих частей, получим

Ex2 + 2аЕ \ху\ + а? Еу2 = (Еу2)

Е\ху\

+ Ех2-

И ) 8

>0.

Еу*

Eif-

Так как левая часть должна оставаться неотрицательной для всех а, то получим

[Е\ху\]2^Ех2Еу\

что и требовалось доказать.

Чтобы доказать утверждение 4, рассмотрим

\r£(s

+

h, t + k)~rx(s,t)\

= \cov [x(s

+

h),

x((

+ k)~x(t)j

+

 

-fcov

[x(s +

h) — x{s),

* ( 0 ] | <

 

 

 

 

 

 

 

 

<

[rx

(s +

h,

s + h) [rx

 

{t +

k,t

+

k) — 2rx

 

(t +

k, t) +

 

 

+

rx it, t\\'h+

{[rK (s +

h,s

+

h)~

2rx

(s +

h,s)

+

 

 

+ rx(s,s)]rx(t,t)\'/-.

 

 

 

 

 

 

 

 

 

 

(4.6)

Неравенство

в этом выражении

следует

из

неравенства

(4.4).

Пусть

h,

fe-vO,

тогда rx(t+k,

t)-+rx{t,

 

t)

и

rx(t+k)-+rx{t,

t),

так как rx(s,

t)

—непрерывная

функция

для

s=t.

В этом

слу­

чае правая часть выражения

(4.6)

сходится к нулю, и утвержде­

ние 4 доказано.

 

 

 

 

 

 

 

 

 

 

 

 

 

Ковариационная функция стационарных в широком смысле

процессов имеет следующие

 

свойства:

 

 

 

 

 

 

 

Е 2,-z; г,

 

 

О,

 

 

 

 

 

 

 

 

 

 

 

|гЛ*)КМ0).

 

 

 

 

 

 

 

 

 

 

 

 

Если

гх(х)

непрерывна

для

т = 0 ,

то

гх(%)

 

непрерывна

для

всех т.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Упражнения

!. Могут ли следующие функции быть ковариационными функциями стационарных случайных процессов:

г(т) = const,

г(т) = cos т,

r(x) =

f 1 '

N < 1 .

 

 

10,

| т | > 1 ,

 

( , _

1 о ,

Ы > 1 ,

.

Случайные процессы

3 5

 

 

 

 

 

1-г-2||г|-|-т2 '

 

 

 

 

 

 

 

 

 

 

 

2,

т = 0,

 

 

 

 

 

 

 

 

 

 

 

е - | т | ,

т=^0 .

 

 

 

 

 

 

2.

Пусть

{e(t),

t=...,

— 1 , О, 1,...} —последовательность

неза­

висимых нормальных случайных

величин

с параметрами

(0,1).

Рассмотреть случайный

процесс

 

 

 

 

 

 

 

 

 

 

x(t)

+ ax{t — l) = e(t) +

ce{t~\),

 

 

 

 

где | а | < 1 . Определить ковариационную

функцию данного

про­

цесса.

 

 

 

 

 

 

 

 

 

 

 

 

3. Случайный телеграфный сигнал есть непрерывный случай­

ный процесс {x(t),

— о о ^ ^ о о }

со

следующими

свойствами:

х может принимать только

значения

+ 1 или — 1 ; вероятность

того, что х

изменит свое значение на интервале

(t,

t~\-h),

есть

%h-\~0(h). Определить

ковариационную

функцию

этого

про­

цесса.

 

 

 

 

 

 

 

 

 

 

 

 

Указание.

Вероятность

того, что процесс

изменяется

п

раз

на интервале длины t, есть

(Kt)n/n\

ехр(—М).

 

 

 

 

 

4.

Пусть X—линейный

оператор, коммутативный

с операци­

ей нахождения математического

ожидания.

Показать, что не­

обходимым

условием того, что

стационарный

процесс

 

{x(t),

teT}

сингулярный,

или чисто детерминированный, т. е. X х = 0 ,

являются следующие свойства ковариационной

 

функции

r(s, t)

этого

процесса:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Xr(-,t)

= 0,

t = const,

 

 

 

 

 

 

 

 

Xr

(s, •) = 0,

s = const.

 

 

 

 

 

5. Доказать, что

 

 

 

 

 

 

 

 

 

 

 

 

cov [Ах + а,

Ву + Ь]

A{cov[x,

у]\ВТ.

 

 

 

5. ПОНЯТИЕ СПЕКТРАЛЬНОЙ ПЛОТНОСТИ

Рассмотрим стационарный в широком смысле случайный процесс {x(t), teT} со средним значением т и ковариационной функцией гх(х). Найдем другую характеристику этого процесса, которая позволит дать иную физическую интерпретацию и упро­ стить некоторые формулы. Этой характеристикой в сущности является преобразование Фурье для ковариационной функции. По теореме 4.1 ковариационная функция имеет следующие свойства:

г (т) = г {—%),

(5.1)

 

(5.2)

3 *

36

Глава 2

Таким образом, ковариационная функция есть неотрицательно определенная функция, которую по теореме Бохнера всегда можно представить в виде

 

 

 

го

 

 

 

 

 

 

 

 

 

г ( т ) =

J* ешх dF (со) (для процесса с непрерывным

временем)

(5.3)

или

 

 

 

 

 

 

 

 

 

 

 

 

 

 

я

 

 

 

 

 

 

 

 

 

г(т) =

j

eimdF(a)

(для процесса с дискретным временем),

(5.4)

 

 

—я

 

 

 

 

 

 

 

 

 

где

F — неубывающая функция. Функция F

называется

спект­

ральной

 

функцией

распределения

случайного

процесса. Она мо­

жет быть разложена на три компоненты:

 

 

 

 

 

 

 

 

 

F(w)

= Fa(®) + FA«>) + Fs(<u),

 

 

(5.5)

где

Fa

— абсолютно

непрерывная

 

функция,

Fa — ступенчатая

функция

и Fs— непрерывная почти

везде постоянная

функция.

Функция

Fs

называется сингулярной

частью. Функции

Ра

и Fa

можно записать в следующем виде:

 

 

 

 

 

 

 

 

 

 

 

F e H = J q > ( a > W ,

 

 

(5.6)

 

 

 

 

 

 

 

 

 

 

 

 

(5.7)

 

 

 

 

 

 

V

 

 

 

 

 

 

где Ф(со) называется функцией

спектральной

плотности, или

просто

спектральной

плотностью.

Если предположить,

что син­

гулярная

часть Fs

и ступенчатая

функция Fd равны

нулю, то

можно найти уравнения, связывающие спектральную

плотность

и ковариационную

функцию:

 

 

 

 

 

 

Ф(ю) =

2п

• j

е~шг{1) dt

 

 

 

 

 

(5.8)

 

 

 

 

 

(для

 

процесса с непрерывным

 

 

 

 

 

е ш ф (со)

 

временем),

 

 

(5.9)

r(t)-

 

 

 

 

 

 

 

<р(со) •

1

 

 

 

 

 

 

 

 

(5.10)

2п

 

 

(для процесса с дискретым

 

 

 

——оо

 

 

 

 

 

 

 

 

г{п)

 

J

е'п и ф(со)^(й

 

временем).

 

 

(5.11)

 

 

 

 

 

 

Случайные

процессы

37

Если считать, что спектральная плотность есть распределение, или обобщенная функция, то эти уравнения будут справедливы также при РаФО.

Заметим, что

varx = r(0) = j d F (со),

(5.12)

где интеграл берется по интервалу (—п, я) для процесса с ди­ скретным временем и по ( — оо, оо) для процесса с непрерыв­ ным временем. Таким образом, сумма элементарных дисперсий, распределенных по всему диапазону частот, дает дисперсию слу­ чайного процесса. Аналогично сумма

—а,

ш.

со,

 

J dF (со) +

J dF (со) + j dF (со) при соа > сох > 0

(5.13)

— С О ,

СО,

СО,

 

может быть интерпретирована как общая дисперсия случайного процесса в диапазоне частот (<±>г, сог)- Таким образом, функция F(a>) дает представление о распределении дисперсии по частоте. Отсюда и возникло название «спектральная функция распре­ деления».

Влитературе иногда можно встретить множитель 2я в пре­ образовании Фурье. Рассмотренная выше физическая интерпре­ тация дает простое правило [выражение (5.2)] для запомина­ ния принятого в данной книге фурье-преобразования.

Влитературе часто используется следующая пара преобра­ зований:

S(f)=

(

e-^rtfdt,

(5.14)

г ( т ) =

J

e+3n4xS{f)df.

(5.15)

Если ввести

— го

 

 

 

 

ср (со) da =

S(f)df,

со = 2nf,

то можно найти связь между ср(со) и S(f):

" M - h s f f i -

< 5 Л 6 )

Используя единицы измерения радиан в секунду и герц, найдем,

что как ф, так и S обладают одним свойством: для

процессов

с Fd=0 и Fs=0 площадь под кривой спектральной

плотности

равна общей дисперсии процесса.

 

38

Глава 2

 

Разложение стационарных процессов

 

Существует разложение стационарных процессов {x(t),

teT},

которое соответствует

разложению спектральной функции

рас­

пределения [выражение (5.5)]. Можно показать, что стацио­

нарный случайный процесс {x(t), teT}

можно разложить на три

независимых процесса: {xa(t), teT},

{Xd(t), teT}

и {xs(t),

teT},,

имеющие

соответственно спектральные

функции

распределения

Fa, Fd и Fs,

так, что

 

 

 

 

 

( 0 +

+ * , ( ' ) •

 

(5Л7)

Если функция Fa имеет конечное число скачков, то процесс Ха состоит из конечной суммы гармоник. Следовательно, процесс Xd есть процесс, определяемый соотношением (3.16), где й,(7) — синусоидальные функции. Следовательно, этот процесс чисто детерминированный. В общем случае процесс ха будет иметь счетное число разрывов. Однако и в этом случае можно пока­ зать, что он является детерминированным. Можно показать, что процесс xs также чисто детерминированный. Процесс ха может быть как детерминированным, так и недетерминиро­ ванным.

Колмогоров показал, что для дискретного параметра процесс является чисто детерминированным, если интеграл

 

/ =

f|log^>)|dc o

(5.18)

 

 

 

—л

 

 

 

бесконечен, и

процесс

является

недетерминированным, если

интеграл (5.18)

конечен.

 

 

 

 

Соответствующий критерий

для

процессов с

непрерывным

параметром определяется

интегралом

 

 

 

 

со

I log F'(со)|

 

 

/

 

Г

(5.19)

 

=

1

 

da>.

 

 

J

-

1 + ш 2

 

 

Этот критерий предложен Винером. Критерий того, что интеграл (5.19) конечен, называется условием Винера—Пэли.

Понятие белого шума

Используем введенную выше спектральную функцию распре­ деления .F(cu) для определения характеристик частного вида случайного процесса — белого шума. Рассмотрим стационарный в широком смысле случайный процесс {x(t), teT}. Без потери общности можно считать, что среднее значение этого процесса равно нулю. Поскольку спектральная функция распределения

Случайные процессы

3 9

характеризует распределение дисперсии процесса по

частоте,

можно дать следующее определение:

 

Определение 5. 1. Стационарный в широком смысле

процесс

с функцией /г(со) = const-co называется белым шумом. Отметим,

что для белого шума сингулярная часть Fs

и дискретная часть

Fd разложения спектральной

функции

распределения

обраща­

ются в нуль. Таким образом,

белый

шум

имеет

постоянную

спектральную плотность ср (со) == const. Сделаем теперь

некото­

рые выводы из данного определения

отдельно для

процессов с

дискретным и непрерывным временем.

 

 

 

 

Белый шум с дискретным временем

Для анализа свойств белого шума с дискретным временем вычислим сначала его ковариационную функцию. Подставляя в выражение (5.11) формулу cp(co) =const=c , находим

л

 

(5.20)

Таким образом, для белого шума

с дискретным временем

л = 0,

(5.21)

п = ± 1,

± 2 , • .

Это означает, что значения этого процесса в различные моменты времени не коррелированы, а для нормального белого шума также независимы. Таким образом, белый шум с дискретным временем есть процесс, который состоит из последовательности некоррелированных (в нормальном случае также независимых) случайных переменных. Поэтому белый шум с дискретным вре­ менем называют иногда полностью некоррелированным процес­ сом, или чисто случайным процессом.

Белый шум с непрерывным временем

В введении отмечалось, что анализ непрерывных процессов намного сложнее анализа дискретных процессов. На примере белого шума с непрерывным временем можно проиллюстриро­ вать некоторые трудности, с которыми приходится сталкиваться при анализе непрерывных процессов. Из определения 5.1 следу­ ет, что

ср (со) = const = с.

Поскольку дисперсия процесса есть интеграл от ср (со) по (—со, о о ) , обнаруживаем, что белый шум с непрерывным временем не имеет конечной дисперсии. Следовательно, белый шум с непре-