книги из ГПНТБ / Острем К.Ю. Введение в стохастическую теорию управления

20

Глава J

Press, Princeton, New Jersey, 1961.

Русский перевод: Беллман P., Про­

цессы регулирования с адаптацией, нзд-во «Наука», М., 1964.

10. Aoki М., Optimization of Stochastic

Systems, Academic Press, New York,

1967, Русский перевод: Аоки M.,

Оптимизация стохастических систем,,

изд-во «Наука», М., 1971.

.12. Yule

G. U., «Оп

a Method

of

Investigating Periodicities

in Disturbed

Se­

ries

with Special

Reference

to

Walter's Numbers*, Phil.

Trans. Roy.

Soc.

A226, 267—298 (1927).

18. Joseph P. D., Tou J. Т., On Linear

Control Theory, Trans. A I E E (Appli­

cations and Industry), 80, 193—196

(1961).

(множеству

параметров

или мнооюеству индексов).

Параметр t

часто будем

интерпретировать

как

время

и

будем

рассматри­

вать

два разных множества индексов. Если

7 = { . . . , — 1 , 0,

1...}

или

7 =

{0, 1, 2,...}, то случайный

процесс

называется процессом-

с дискретным

параметром

или

процессом

с дискретным

време­

нем.

Если T={t,

0s£^<;оо} или

T={t;

— оо<</<;оо},

то

про­

цесс

называется

процессом

с непрерывным

параметром

или

про­

цессом

с непрерывным

временем.

Мы

будем

предполагать

так­

же,

что

случайные

переменные

x(t)

принимают

значения

на

действительной

оси

или

в

/г-мерном

евклидовом

пространстве..

Случайный процесс

{x(t),

teT}

есть

функция

двух

аргументов

{x(t,

со), teT,

coeQ}, где Q называется

выборочным

пространст­

вом.

Следовательно,

для

фиксированного

teT

функция

x(t,

•)

есть

случайная переменная, а для фиксированного

со

функция-

х(-,

со) есть функция времени, которая называется

реализацией-

процесса, выборочной

функцией,

траекторией. Выборочные функ-

22

Глава 2

ции можно рассматривать как элементы пространства X, кото­

рое

называется пространством выборочных

функций.

Основной трудностью теории случайных

процессов является

го пространства Q (или пространства выборочных функций

X),

поскольку меру можно

определить не на всех подмножествах

Q,

а только на борелевском поле В подмножеств.

Определение вероятностной меры Р на борелевском поле под­

множеств

Я требует привлечения теории

меры. Для

обычных

случайных

переменных,

пространствами

выборочных

функций

номерного

выборочного

пространства

случайного

процесса.

Пусть

{x(t);

t

еТ}

— случайный процесс. Предположим, что рас­

пределение

вероятностей

многомерной

случайной

величины

x(ti),

x(tk)

для

любого

k и произвольного

titT

можно

пред­

ставить

функцией

распределения

F(g|t

1 2

, . . . , t u

i,,...

,tk) =

P

{хfc)

< %

(2.1)

удовлетворяющей условиям

симметрии

и согласованности.

Рас­

пределение

(2.1)

называется

конечномерным

распределением

процесса.

F — симметричная

Условие

симметрии

означает, что

функ­

ция для всех пар (£,-,

Условие согласованности

определяется

следующим соотношением:

(2.2)

быть определена на борелевском

поле

подмножеств Q и

что

существует стохастический

процесс

{x(t);

teT},

такой, что

сов­

местное распределение

значений

х

в

моменты

tu

tu имеет

функцию распределения

F(lu

g2,

Ы

tu

t2, ....

h).

Вероятност­

Итак, случайный процесс

{x(t, со), teT)

есть функция, которая

отображает выборочное

пространство Q в пространство выбо­

рочных функций X. Мера

Р,

определенная на подмножествах Q,

и функция x(t, со)

будут

порождать меру на X следующим об­

разом. Рассмотрим

множества А'еХ,

такие, что множества

Случайные

процессы

23-

{со;

х(•,

со)б A'} eQ измеримы.

Тогда

можно

определить

Р{хеА'}

=

Р{со;х(-,со)еЛ'}.

Сучайный процесс можно также описать, представив х как

функционал от известного

случайного процесса.

Рассмотрим,,

например, процесс с дискретным временем при Т=

{...,—1,

0, 1,...}.

Пусть случайный процесс

{e(t),

teT}

есть просто последователь­

ность

нормальных

случайных

величин

с

параметрами

(0,1).

Введем

случайный

процесс

{x(t),

teT],

определяемый

соотно­

шением

x(i)

= e(t) + cle(t-l)

+ --- + cne(t-n),

t£T.

(2.3)

Этот

процесс называется

процессом

скользящего

среднего

по­

рядка п. Если все корни полинома

••• + а „ = 0

находятся внутри круга единичного-ради-уса, можно

ввести так­

же процесс {x(t),

teT}, описываемый

выражением

x(t)

+ alX(t-l)

+ .--+anx(t-n)

= e(t),

t£T.

(2.4)

Этот

процесс называется

процессом

авторегрессии

порядка

п.

Выше

было

отмечено, что

невозможно

определить

вероят­

ностную меру на всех подмножествах Q, а только на тех множе­

ствах,

которые принадлежат борелевскомуполю подмножеств Q,

т. е. на множествах,

которые

получаются

бесконечным пересече­

нием

и объединением интервалов. Что касается приложений, то-

это в общем не сильное ограничение для

процессов

с дискрет­

ным параметром. Однако

оно существенно

для процессов с не­

прерывным временем, так как, например, множество

{to; x(t, со)<с

для

всех

t^(a,b)}

не есть борелевское

множество.

Можно показать, что на .таких множествах мера по конечно­

ным образом. Следовательно, для

процессов

с

непрерывным

временем, определяемых

только

конечномерным

распределени­

ем, невозможно вообще найти такие вероятности,

чтобы все вы­

борочные функции были

ограничены,

непрерывны,

дифферен­

цируемы и т. д.

Среднее значение процесса,

определяемое

выражением

(0 = Ех (0 =

j х (t, со) Р (dto) = J UF (Е, 0,

(2.5).

2 4

Глава 2

<:ov [х (s), x (01 = E [x (s) — m (s)) [x (t) — m (t)] =

=

j

[* (s, со) — m (s)] [л (/, со) — m (t)] P {dm) =

a

=

J

J [Sl - «(*)] & - ( ' ) ] ^ d i . «. t). (2.6)

Р {со; x(t,

со) <

0,5

для всех /) = 1,

Р (со; y(t,

со) <

0,5

для всех t) = 0.

2. .Для процесса

скользящего среднего первого порядка

x(t)

= e(t) +

ce(t-l),

•где {e{t)\

t=..., — 1, 0,

1,...}

есть

последовательность

независи­

мых нормальных случайных величин с параметрами

(0,1), оп­

ределить ковариацию x(t) и

x(s).

3. Для процесса

авторегрессии

x(t)+ax(t—l)

= е(1),

где | а | < 1 и {e(t),

t=...,—[,

0, 1,...} есть последовательность не-

-зависимых

нормальных

случайных величин с параметрами (0,1),

найти ковариацию x(t)

и x{s).

рии, которые позволяют получить распределение x(t{),

x{t2),..-,

x(th) простым путем. В этом разделе мы рассмотрим

некоторые

2 6

Глава 2

и

г (s, t) =

cov

[х (s), х (0] = Е

[х (s) — т (s)\

[х (t) — т

({)}Т,

которые называются

функцией

среднего значения

и

ковариаци­

онной функцией

соответственно.

Для стационарного нормально­

го процесса

среднее

значение

постоянно,

а

ковариационная

Р \х(t) <Цх(Q,

х ( 4 ) , х =

Р {х(I) < £| х(У),

(3.3)

где через Р{-1*(4)}

обозначена условная вероятность

при

фик­

сированном x(tk).

Если

даны функция

распределения

x(t{),

на­

чальная

функция

распределения

F(ti,

tl)=P\x(t1)<b\

(3.4)

и функция

распределения

вероятностей

перехода

F (£,,

* | | s )

s) = Р [х(0 < Ь |х(s) = Ц,

(3.5)

менных x(ti),

x(t2),...,

x(th)

определяется

соотношением

F ft, %,...,

lk; tv t2

tk)

= j

j •. •

)lF

[ln, tn J v . , , ^ )

x

0

0

0

•XdF{X_vtn_x\X__vtn_^

...dFfa.ti).

(3.6)

циями:

абсолютной

функцией

распределения

F(i\; s) и

вероят­

ностями

перехода

t\t], S).

Процессы второго порядка

Случайный процесс {x(t),

t

е

Т) называется процессом

второ­

го порядка, если £ х 2 ( 7 ) < ° °

Д л я

всех t е Т.

Функция

среднего

Случайные процессы

27

m(i) =

Ex(t),

г (s, t) =

E[x (s) — т (s)] [х (0 — т

(/)]Т.

рядка могут быть выражены через эти две функции.

Процессы с независимыми приращениями

Случайный

процесс {x(t), t е Т}

с U е Т для i=l,

2,..., k и

^ i < ^ 2 < . . . < 4

называется процессом

с независимьши

прираще­

то процесс {x(t),

t е Г} называется процессом с

некоррелирован­

ными пли ортогональными

приращениями.

Процесс с независимыми приращениями определяется рас­

пределением приращений x(t)—x(s)

для произвольных

t и s и

распределением

x(ti). Если

распределение x(t)—x(s)

зависит

только от t—s,

то говорят, что процесс называется

процессом со

стационарными приращениями. Если {x(t)—x(s)}

имеет

нор­

мальное

распределение,

то

{x(t),

teT}

называется процессом

с независимыми нормальными

приращениями.

Для

{x(t),

teT}—векторного

процесса

с независимыми

ор­

тогональными

приращениями — можно

найти функции F,

такие,

что

F(i)—F(s)

= cov fx(/), x(t)\

—

cov

\x(s),

x(s)J.

(3.7)

Выражение (3.7)

можно записать также в виде

cov \dx, dx] = dF (t).

Дифференциал

dF называется

ковариацией

приращений

про­

цесса.

{x(t),

teT}

Если

процесс

имеет

стационарные

приращения,

разность

F(t)—F(s)

зависит

только

от s — t.

В

этом

случае

разность

обозначают через Fx(t

— s),

s<ct.

Следовательно,

Fx

(t + s) =

Fx

(t) + Fx

(s),

s>0,

t^O.

(3.8)

Ft

(0 = At.

(3.9)

Рассмотрим свойства ковариационной

функции для

процесса

с ортогональными приращениями. Для s^t

имеем

г (s, t) =

cov

fx (s), X

(t)]

=

cov fx (t) +

x (s) — X (f), X

(/)],

r (s, t) =

cov

[x (t), X

(t)]

+

cov [x (s) — X (t), X (/)],

'28

Глава 2

r(s,t) = COV \x(t),

x(t)\,

следнее— из того, что процесс {x(t),

teT)

имеет

некоррелиро­

ванные приращения.

Итак, мы нашли, что

ковариационная

функция

процесса с

•ортогональными

приращениями имеет

следующие свойства:

= cov [х (min (s, t)), х (min (s, t))].

(3.10)

Винеровский процесс

Винеровский

процесс,

или процесс

броуновского

движения,

•является нормальным процессом. Он

имел большое значение

пределения на интервале (t, t-\-x)

такие же, как и на интервале

(s, s + т ) , т. е. что распределения

на непересекающихся

интер­

валах времени независимы и что трение при движении

отсутст­

Случайные

процессы

29

m{t) = Ex{t) = 0.

Так

как винеровский

процесс

имеет

независимые

стационар­

ные

приращения и л:(0)=0, то из выражений (3.9)

и (3.10) со­

ответственно следует, что

и

varx{t)

= ct

(3.11)

г (s, t) =

cov [х (s);

x (/)] =

cmin (s, 0-

(3.12)

Понятие вырожденного

процесса представляет

интерес для

теории упреждения (прогнозирования). Оно также

иллюстриру­

ет тот факт, что не совсем

тривиально получить

модель случай­

ного процесса.

Пусть вектор-столбец х

есть /г-мерная

случайная

перемен­

ная. Распределение х называется сингулярным,

или, более точ­

но, линейно-сингулярным,

если существует

м-мерный

вектор а,

такой,что

Р{т;атх{а)ф0}=0.

(3.13)

Р {а;£х

Ф 0} =

0.

(3.14)

Процесс

х (t, со) = а (со)

для

всех t,

(3.15)

где а — случайная переменная,

есть

простой

пример

сингуляр­

ного процесса. Очевидно, что x(tu

со)—x(t0 ,

со)=0 для всех t

и со. Это означает, например, что процесс может быть

представ­