книги из ГПНТБ / Острем К.Ю. Введение в стохастическую теорию управления
.pdf4 0 |
Глава 2 |
рывиым временем не является случайным процессом второго порядка.
Так как преобразование Фурье от постоянной величины оз начает распределение всей массы в начале (координат), или яв ляется б-функцией Дирака, то формально ковариационная функция белого шума имеет вид
г (т) = 2псб(т). |
|
|
|
Следовательно, и белый шум с непрерывным |
временем |
обладает |
|
свойством некоррелированности x(t) |
и x(s) |
для 1фэ, что явля |
|
ется полной аналогией дискретного |
случая. |
Заметим, |
однако, |
что белый шум с непрерывным временем не имеет конечной дис персии. Если попытаться обойти эту трудность, построив слу чайный процесс с конечной дисперсией так, что x(t) и x(s) бу дут не коррелированы для £=£s, то такой процесс в некотором
смысле не существует. Более подробно этот вопрос |
рассмотрен |
||
в гл. 3 |
(теорема 3.4). |
|
|
Так как белый шум имеет конечную дисперсию, можно попы |
|||
таться |
получить другие процессы, которые имеют. постоянную |
||
спектральную плотность, но конечную дисперсию. |
Это |
можно |
|
выполнить многими способами, например ограничением |
по ча |
стоте белого шума, т. е. получением белого шума |
со спектраль |
|||||||||||
ной плотностью вида |
|
|
|
|
|
|
|
|
||||
Этот процесс имеет ковариационную функцию |
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
(5.22) |
|
|
|
|
—Q |
|
|
|
|
|
|
|
|
Выбирая Q достаточно большим, можно получить произвольно |
||||||||||||
малую корреляцию между двумя |
значениями |
процесса x(t) и |
||||||||||
x(s), |
разделенными |
заданным |
интервалом |
\t—s|>5. |
Однако |
|||||||
заметим, что для заданного Q значения процесса |
в моменты t |
|||||||||||
и s |
коррелированы |
всегда, когда t и s |
выбраны |
достаточно |
||||||||
близко. |
|
|
|
|
|
|
|
|
|
|
|
|
Найдем предел ковариационной функции (5.22) при Q->-oo. |
||||||||||||
Для |
хфО |
значение этой функции |
стремится |
к нулю. Поскольку |
||||||||
r(0)=2cQ, |
то |
г(0) |
стремится |
|
к |
бесконечности. Для |
определе |
|||||
ния поведения ковариационной |
|
функции при Q—>-оо более удобно |
||||||||||
рассмотреть интеграл от г: |
|
|
|
|
|
|
|
|
||||
|
|
|
т |
|
С sin Qs , |
о |
Г |
sin |
|
dx. |
||
|
J? (т) = |
г (s) ds = 2с |
|
|||||||||
|
|
|
ds = |
2с |
\ |
|
|
— оо
Случайные процессы |
41 |
|
Находим |
|
|
(0, |
т < 0 , |
|
lim R (т) = 1 то, |
т = |
0, |
1 2яс, |
т > 0 , |
так как
' sin* , |
|
1 |
ас - я. |
|
Таким образом, интеграл от ковариационной функции есть ступенчатая функция. Формально в пределе ковариационная функция становится б-функцией Дирака
г (т) -> 2пс8 (%).
Помимо ограниченного в некоторой полосе шума, часто исполь зуется случайный процесс с ковариационной функцией
г ( т ) = = * L £ L . e - « w
v2
пспектральной плотностью
Ф (со) = • а2 со* + а2
В этом случае имеем
lim ср (со) = 1,
Итг(т:) — 2яб(т).
Несмотря на трудности, естественно возникающие вследствие бесконечности дисперсии, понятие белого шума очень важно в теории случайных процессов и ее приложениях. Белый шум ча сто используется для моделирования случайных процессов, име ющих постоянную спектральную плотность в определенной поло се частот в тех случаях, когда несущественно поведение спек тральной плотности вне интересующего диапазона частот.
Некоррелированность (и независимость для гауссова процес са) значений белого шума в различные моменты времени — ос новная причина его широкого применения. При использовании ограниченного по полосе шума мы все же получаем корреляцию между значениями процесса в соседних точках, что часто за трудняет анализ. Использование белого шума в теории случай ных процессов во многом аналогично использованию б-функции Дирака при анализе линейных систем.
42 |
Глава 2 |
Упражнения
1. Стационарный стохастический процесс имеет ковариаци онную функцию
г(т) |
= |
е - а | т | , |
г (т) = |
А + В cos со0 т, |
|
Г (т) |
= |
е _ а , т | cos рт. |
Определить соответствующие спектральные функции распреде ления и их разложения.
2. Найти |
спектральные |
плотности и ковариационные |
функ |
||||
ции для следующих стохастических процессов: |
|
|
|||||
|
x(t) = |
e(t) |
+ |
ce(t-l), |
|
|
|
|
x(f)+ax(t— |
l) |
= e(t— |
1), |
|
|
|
|
х (t) + |
ax (t — 1) = e (t) + |
ce (t — 1),' |
|
|||
где {e(t), /=...,— 1, 0, |
1,...}—последовательность |
независимых |
|||||
нормальных |
случайных |
величин |
с параметрами |
(0,1) и |
а < 1 . |
3. Более точное описание броуновского движения дается сле дующей моделью (уравнение Ланжевена):
—+ ccv = е (0,
at
где и — скорость частицы и {е(0} —ограниченный по полосе белый шум с ковариационной функцией (5.22). Определить ко вариационную функцию скорости и показать, что ковариацион ная функция сходится к r(x) =const-exp (—at), если полоса шу ма стремится к бесконечности.
6. АНАЛИЗ СТОХАСТИЧЕСКИХ ПРОЦЕССОВ
Для анализа динамических систем, входными переменными которых являются стохастические процессы, необходимо разра ботать методы их анализа. Необходимо рассмотреть такие понятия, как непрерывность, производная и интеграл стохасти ческого процесса. В этом разделе даны основы анализа стохасти ческих процессов, начиная с понятия сходимости случайных ве личин. Оказывается, что теория в этом случае имеет больше возможностей, чем для действительных переменных, ибо имеет ся более богатый выбор топологий.
После понятий сходимости определены понятия непрерывно сти, производной и интеграла для стохастических процессов.
Случайные процессы |
43 |
|
Сходимость |
|
|
Рассмотрим последовательность |
случайных |
переменных |
{#п(со), /г=1,2...}. Что понимать под |
пределом такой последо |
|
вательности? Здесь возможно определение предела |
нескольки |
ми способами. Позже будет рассморено наиболее общее понятие предела.
Определение 6.1. Последовательность {хп{®)} сходится с вероятностью 1 к стохастической переменной х(со), если х„(со)->- -^-х(со) для всех со, за исключением, возможно, множества зна
чений со, имеющего вероятностную меру 0. |
Математически это |
||||||||
можно записать следующим |
образом: |
|
|
|
|
|
|||
|
Р(со; хп |
(со) ->хЩ |
= 1. |
|
|
(6.1) |
|||
Определение |
6.2. |
Последовательность |
{хп{(о)} |
сходится к |
|||||
х(со) по вероятности, если для каждого |
е > 0 |
|
|
|
|
||||
lira Р (со; |
\хп (со) — х (со)| > |
е) = |
0. |
|
|
(6.2) |
|||
Л-»-со |
|
|
|
|
|
|
|
|
|
Определение |
6.3. |
Последовательность |
{хп{(о)} |
сходится к |
|||||
х(а) в среднеквадратическом, |
если |
|
|
|
|
|
|||
ПтаЕ\хп — х\2= |
limJ|*„(<o) — * (со) |2 Р (dco) = |
0. |
(6.3) |
||||||
Данные определения |
понятия сходимости |
связаны |
между |
||||||
собой, о чем утверждает теорема 6.1. |
|
|
|
|
|
||||
Теорема 6.1. Из сходимости с вероятностью |
1 следует |
сходи |
|||||||
мость по вероятности. |
Из |
среднеквадратической |
сходимости |
||||||
следует сходимость по вероятности. |
|
|
|
|
|
||||
Понятия сходимости |
|
|
|
|
|
|
|
|
|
Теперь определим |
такие |
понятия, как |
непрерывность, диф- |
ференцируемость и интегрируемость. Можно сказать, например, что процесс непрерывен в / с вероятностью 1, если x(t-\-h) схо дится к х (t) с вероятностью 1, когда h стремится к 0. Посколь ку мы рассмотрели три возможных определения сходимости, ес тественно возникает вопрос: какое понятие сходимости наиболее приемлемо для применения в стохастической теории управле ния? В приложениях было бы весьма желательно, например, ус танавливать, что все выборочные функции непрерывны. Это оз
начает равномерную сходимость с вероятностью 1 по |
t. |
||
В разд. 2 отмечено, что для процессов с непрерывным време |
|||
нем множества |
|
|
|
{со; х (^,со) < с |
для всех t £ |
(a,b)}, |
|
{со; x(t,a>), |
непрерывные |
для всех t£ |
{a,b)} |
44 |
Глава 2 |
не есть борелевские |
множества. Следовательно, таким множест |
вам нельзя приписать вероятностную меру, используя конечно мерные распределения.
Заметим также, что непрерывность с вероятностью 1 не озна чает, что все выборочные функции непрерывны. Рассмотрим, на
пример, случайный телеграфный сигнал — процесс, |
принимаю |
||
щий только два значения |
+ 1 или — 1 . Вероятность |
его измене |
|
ния на интервале [t, t-j-h] |
есть ХЛ+о(/г). Выборочные функции |
||
этого процесса |
не являются непрерывными, так как вероятность |
||
непрерывности |
на интервале длины Т равна ехр (—XT) и стре |
мится к нулю, когда Т стремится к бесконечности. Однако для фиксированного t=t0 этот процесс непрерывен, так как
Р{а; x(t0 + h,a)~хЦ0&)ф0} = 1 — е~ы
и правая часть сходится к нулю, когда h стремится к нулю. Часто трудно установить критерии для сходимости с вероят
ностью 1. В дальнейшем мы будем пользоваться понятием среднеквадратической сходимости, так как оно упрощает анализ. Ни же показано, что для процессов второго порядка существуют простые критерии для непрерывности, дифференцируемое™ и интегрируемости в среднеквадратическом. Введя понятие преде ла, можно перейти непосредственно к введению понятий непре рывности, интеграла и производной, создавая таким образом ос новы для анализа стохастических процессов. Однако следует подчеркнуть, что во многих приложениях предпочтительнее ис пользовать равномерную сходимость no t с вероятностью 1.
Свойства среднеквадратической сходимости
Для исследования среднеквадратической сходимости исполь
зуем критерий |
Коши. Пусть |
{хп} — последовательность |
случай |
||||
ных переменных, таких, что |
хп—*-х |
в |
среднеквадратическом. |
||||
Имеем |
|
|
|
|
|
|
|
\Хп — *тР = \Хп — X— (*т — *) I* < |
I |
~ * \* + I *т ~ |
* I*+ |
||||
+ 2\хп-х\\хт-х\<2\хп-х\* |
|
|
+ |
2\хт-х\*, |
|||
так как 2|а||61 ^а 2 - |- с? 2 . Взяв |
математическое ожидание |
от обе |
|||||
их частей неравенства, получим |
|
|
|
|
|
||
Е}хп-хт\*<.2Е\хп-х\* |
|
+ 2Е\хт-х\*. |
|
(6.4) |
|||
Первый член этого неравенства сходится |
к нулю при п, |
т—voo, |
|||||
так как хп-^-х |
при п—УОО. |
|
|
|
|
|
|
Обратно, можно показать, что если Е\хп |
— хт\2—Ю |
при п., |
|||||
/?7->-оо, то существует х, такое, что хп-+х |
в |
среднеквадратиче |
|||||
ском при л->-оо. Это известная теорема |
Фишера — Рисса. Мы |
получаем также следующий важный результат.
Случайные процессы 45
Теорема 6.2. Пусть {хп} |
— последовательность случайных пе |
|||||||||
ременных. Предположим, что Ех2п<оо |
и что |
хп-+х |
в |
средне- |
||||||
квадратическом при п—мх>. Тогда |
|
|
|
|
|
|||||
|
|
|
lim Ехп |
= Е lim хп |
|
= Ex. |
|
|
(6.5) |
|
|
|
|
П-ь со |
|
П -У «э |
|
|
|
|
|
Доказательство. Имеем |
|
|
|
|
|
|
|
|||
|
|
\E{xn-x)\KE\xn~x\<VE\*.E\xn-x\\ |
|
|
|
|
(6.6) |
|||
где первое |
неравенство |
следует |
из условия |
| J / ( x ) d x | ^ |
||||||
<; j \f(x) |
\dx, |
а второе — неравенство |
Шварца (4.5). |
Так как |
||||||
хп-+х |
в |
среднеквадратическом, |
то |
правая |
часть |
неравенства |
||||
(6.6) |
сходится к нулю, и таким |
образом получаем |
соотноше |
|||||||
ние |
(6.5). |
|
|
|
|
|
|
|
|
|
Непрерывность
Понятие непрерывности стохастического процесса определя ется следующим образом.
Определение 6.4. Стохастический процесс {x(t), t еТ} второго порядка непрерывен в t в среднеквадратическом, если
ШЕ{х {t + h) — x{t)]2 = 0.
ft-0
Анализируя ковариационную функцию случайного процесса, легко установить, непрерывен ли процесс в среднеквадратиче ском.
Для доказательства последующих теорем докажем лемму. Лемма. Пусть хп-^-х и уп-+у в среднеквадратическом. Ех2 и
Еу1— ограниченные величины. Тогда
\\хпЕхпуп = Еху.
Доказательство. Имеем
хп Ут~хУ = (хп — х) (ут — у)+хпу + хут — 2ху = = (хп — х) (ут — у) + (хп — х)у + х{ут — у).
Однако
I Е(хп — х) (ут — у)\2< |
Е(хп — xf Е(ут |
— у)2-+ |
0 при |
п,т^оо, |
||
\Е{хп~х)у|2<Е[хп |
— х)2Еу% |
-*0 |
при |
л->со, |
||
Е\(Ут— У) I " < Ex2Е |
(ут |
— у)2 |
->0 |
при |
т->оо. |
Здесь первое неравенство и его сходимость к нулю следует из неравенства Шварца и сходимостей хп и уп. Следовательно,
Е (х„Ут — ху)->0 при п,т->оо,
и лемма доказана.
46 |
Глава 2 |
Теорема 6.3. Стохастический процесс {x(t), teT} второго по рядка непрерывен в среднеквадратическом в моменты t е Т тогда и только тогда, когда функция его среднего значения непрерывна Bin ковариационная функция непрерывна в (t, t).
Доказательство. Имеем
[x(t + h) - л- (О]2 |
= x(t |
+ ft) - |
m (t + ft) — x (t) + m (/)]2 + |
|||||
+ |
2{x{t |
+ h) — x(t)\ |
[m(t |
-\-h) — m(t)] — [m(t + h) — m(t)]2- |
||||
Возьмем |
математическое |
ожидание от обеих частей и найдем |
||||||
|
|
|
£ [ * ( * + А ) - * ( / ) ] » = |
|
||||
|
= |
cov [*(/ +ft ) _ * ( / ) , |
X(t + h) — x(f)} |
+ |
||||
|
|
|
+ [m(t + h)-m |
(()]* = |
|
|||
|
= |
г(t |
+ h,t |
+ A ) - 2r(t |
+ h,t) + r (/,/) |
+ |
||
|
|
|
+ |
{m(t + h) — m(t)]2. |
(6.6a) |
Если r(s, t) и m(t) —непрерывные функции, то l i m £ U (/ + A) — л:(/)}2 = 0.
Таким образом, доказана необходимость заданных условий. До кажем их достаточность. Из теоремы (4.1) (утверждение 3) сле дует, что
r(t + h,t+h) — 2r(t + h,t) + r (t,t) > 0.
Таким образом, правая часть выражения (6.6а) есть сумма двух неотрицательных величин. Если левая часть равенства сходится к нулю, то каждый член правой части также сходится к нулю. Отсюда следует, что непрерывность процесса в среднеквадрати ческом означает непрерывность его функции среднего значения. Для доказательства второй части достаточного условия — непре рывности корреляционной функции — рассмотрим
г (tlt t2) = Е[х &) - m &)] [х (4) - m &)].
Так как х и m — непрерывные функции, имеем
х (/х) — m ->х (s) — m (s)
и
x (/a) — m (t2) -> x (t) — m (t) |
|
|
в среднеквадратическом |
при t\—>-s и tr+t. Из леммы |
следует |
Е [xfo) - m Ш [х {Q - |
m (Q) ->Е \х (t) - m (t)] [x (s) |
-m(s)). |
Итак, установлено, что непрерывность процесса в среднеквадра тическом означает, что его функция среднего значения и кова риационная функция непрерывны.
Случайные |
процессы |
47 |
Пример 1
В качестве примера исследуем непрерывность винеровского процесса. Для этого процесса
E[x(t-\-h) — x(t)]2 = Ah.
Итак, по определению этот процесс непрерывен. Ковариацион ная функция винеровского процесса составит
r(s,t) — Amln(s, ().
Так как она непрерывна, то из теоремы 6.3 также следует непре рывность винеровского процесса. Можно также показать, что траектории винеровского процесса непрерывны с вероятностью 1.
Дифференцируемость |
I |
Перейдем к определению дифференцируемое™ и производ ной.
Определение 6.5. Стохастический процесс {x{t), teT) второго порядка дифференцируем в среднеквадратическом в точке t0 tT, если
lim |
*('. + *)-*('•>) = x f { t |
) |
|
|
|
||
Л-о |
h |
|
|
|
|
т. е. |
|
существует в смысле |
среднеквадратической |
сходимости, |
|||||
если |
|
|
|
|
|
|
|
l l m f ? |
[ * ( ' • + * ) - * ( * . ) - ^ о ) Г = 0. |
|
|
||||
л-о |
( |
h |
|
) |
|
|
|
Если процесс дифференцируем для всех teT, |
то говорят, что это |
||||||
дифференцируемый стохастический процесс. |
|
|
|
|
|||
Рассмотрим критерий дифференцируемое™. |
|
|
|
||||
Теорема 6.4. Стохастический процесс {x(t), |
teT) |
второго по |
|||||
рядка дифференцируем в среднеквадратическом в |
точке |
t0eT |
|||||
тогда и только тогда, когда его функция среднего значения |
m(t) |
||||||
дифференцируема |
в точке 4 и в точке s = t=tQ |
существует |
сме |
||||
шанная производная |
второго |
порядка |
от |
ковариационной |
|||
функции |
|
|
|
|
|
|
|
|
|
д"-г (s.t) |
|
|
|
|
|
|
|
dsdt |
' |
|
|
|
|
Доказательство. Докажем сначала необходимость заданных условий. Смешанная производная второго порядка определяется как предел выражения
Г (S + ft, t + fe) - г (s, t + k) — г (s + ft, t) + r (s,t) Ilk
при h, /е-Ю.
4 8 |
Глава 2 |
Чтобы доказать существование предела, сформируем после довательность Коши
Г x(t0 |
+ h)-x(t0) |
x(t0 + |
k)—x(t0) |
|
|||
L |
|
h |
|
k |
|
|
|
= X(t0 |
+ |
h)-x(t0) |
x (t0 + |
h) - x |
(t0) |
|
|
|
|
|
h |
' |
h |
|
|
2 |
x(t0 |
+ h)-x(t0) |
x(t0 |
+ k)-x(t0) |
, |
||
|
|
|
h |
' |
k |
|
' |
i |
x(t0 |
+ |
k)-x(t0) |
x (/„ + |
k) — x |
(i0) |
|
' |
|
|
k |
' |
k |
|
|
Возьмем математическое ожидание от обеих частей равенства. Получим
р х (ta -f- Л) — х (t0) |
|
х (t0 + k) — x (tg |
_ |
|
|
||||
|
|
|
|
|
|
'о; |
|
|
|
|
h |
|
' |
|
k |
|
|
|
|
= cov |
— ^ + |
/ |
Q |
X ( t |
0 |
+ k)-x(ta) |
1 |
|
|
|
|
|
h |
' |
|
k |
|
|
|
+ m (t0 + h) — m (t0) |
m (t0 + k) — m (tn) _ |
|
|
||||||
|
h |
|
|
' |
|
k |
|
|
|
_ r ( t 0 + h , t a + k ) |
— r(t0+h,t0)-r{t0,t0+k) |
+ |
r(t0,t0) |
, |
|||||
|
|
|
|
h-k |
|
|
|
|
|
m (t0 |
+ h) — |
m (t0) |
in (l0 |
+ |
k) — m |
(t0) |
|
(6.7) |
|
|
h |
|
|
' |
|
k |
|
|
|
|
|
|
|
|
|
|
Согласно принятым допущениям, среднее значение функции дифференцируемо и существует смешанная вторая производная функции r(s, t). Следовательно,
l i m £ |
xV0 |
+ h) — x(t0) |
x{f0 + k) — x{t0) |
_ av ( s ,o |
j |
h,k-*o |
|
h |
k |
dsdt I |
s=t=t„ |
+ |
«' |
(t0)-m'(t0). |
|
|
|
Таким образом, правая часть выражения (6.7) конечна. Вычис лив все три члена, найдем, что
х {t0 + h) — х (t0) _ |
х (tp +k)—x jtB) |
-0 |
|
h |
k |
||
|
при h, fe-9-0. Итак, доказана необходимость условий. Для дока зательства достаточности положим h=k и отметим, что правая часть выражения (6.7) есть сумма двух неотрицательных членов. Если левая часть сходится к нулю, каждый член правой части будет также сходиться к нулю. Следовательно, мы имеем про стой критерий для дифференцируемости. Приведем некоторые
Случайные процессы 49
результаты, которые могут оказаться |
полезными |
при проведе |
|||||||||||||
нии формальных |
процедур над случайными |
процессами. |
|
||||||||||||
Пусть случайный процесс |
{x(t), |
t |
еТ} |
|
дифференцируем на |
||||||||||
t б Т. Тогда из теоремы 6.2 и леммы следует, что |
|
|
|
|
|||||||||||
|
|
|
' d |
|
= |
dt |
|
|
±Exit)=dJlML |
|
|
(6.8) |
|||
|
|
|
|
|
|
|
|
dt |
|
|
|
|
|
||
d |
, . |
d |
.,."] |
d |
— |
cov [x (s), |
x ft)] = |
d"r { |
|
, (6.9) |
|||||
cov |
x (s), |
X ft) == |
|
s , t ) |
|||||||||||
|
dt |
|
L |
w |
W |
J |
dsdt |
4 |
; |
||||||
L ds |
v ' |
dt |
K J |
ds |
|
|
|
|
|
|
|
|
|
(6.10) |
|
cov |
' 4 - |
Л: (S), x(t)] = |
4 - |
\x (s), x ft)] = |
d r ( |
s < t ) |
|
|
|||||||
|
ds |
v " |
W J |
ds |
' w ' |
W J |
|
c7s |
|
|
|
|
|||
Для |
стационарных |
в широком |
смысле |
|
процессов, для кото |
||||||||||
рых |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
r(s,t) |
=r{s |
— t), |
|
|
|
|
|
|
||
имеем |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
J ^ i = |
A . l r ( |
M |
= |
_ r ' ( s _ f ) . |
|
|
||||||||
Итак, доказано, что стационарный процесс |
дифференцируем |
||||||||||||||
в среднеквадратическом, |
если |
его |
ковариационная |
|
функция |
дважды дифференцируема в начале координат. Более того, из соотношения (6.9) следует, что продифференцированный про цесс является стационарным в широком смысле с ковариацион ной функцией — г " ( х ) .
Пример 2
Исследуем диффереицирумость вииеровского процесса. Сна чала используем непосредственно определение производной
r x(t+h)—x(t)
lim——•— — .
л-о h
Если {x(t), t 6 Т} —винеровский процесс, то
E[x(t + h) — x{t)Y = h
х (t+h) — х (ty |
' = Л - \ |
(6.11) |
h |
|
|
Очевидно, при h->-0 выражение (6.11) расходится, т. е. вине ровский процесс недифференцируем.
Получим теперь тот же результат, используя теорему 6.4. Ви неровский процесс имеет ковариационную функцию
r(s,t) = mm (s,t).
4—403