книги из ГПНТБ / Липцер Р.Ш. Статистика случайных процессов. Нелинейная фильтрация и смежные вопросы

1.

Значительный круг задач статистики случайных процес­

сов формулируется в рамках следующей схемы.

задан

На

некотором вероятностном пространстве (Q, 9~, Р)

частично наблюдаемый случайный процесс (Ѳ, £) — (Ѳ,, %t),

t ^ O ,

у которого наблюдаться может лишь вторая компонента

£=(£*),

трации)

по Ц и будет изучаться в настоящей

книге.

Хорошо

известно, что если МѲ^<оо,

то

оптимальной

в среднеквадратическом смысле оценкой Ѳ, по

является апо­

стериорное

среднее mt = М (Ѳ ,|^ ), где £Г\ — о {со: ls, s <

есть ст-алгебра, порожденная величинами

Таким образом,

С вычислительной же точки

зрения желательно, чтобы фор­

мулы, определяющие «фильтр»

mt, t '^

0,

носили рекуррентный

характер.

Грубо говоря, это означает, что значение пц+д, А > 0,

должно восстанавливаться

по

значению

mt и наблюдениям

^ +i = {£s,

f ^ s ^ f + A}.

В

случае

дискретного времени

Аmt = a{t, mt) + b(t, mt){lt+x — \ t),

(1)

где Amt — mt+[ — mt. В

случае непрерывного времени

0

такой формой обладают

стохастические дифференциальные

ВВЕДЕНИЕ

9

Отметим, что необходимость рассмотрения коэффициентов

A0(t, |)

и

Л, (/, |), зависящих от

всех

«прошлых» значений

( |0,

ІО,

возникает, например,

в задачах управления (§ 3,

воздействий, в задачах теории информации (§

4, гл. 16), где

пара функций

(Л0(^, |), Л, (t, |)) трактуется как «кодирование»,

использующее бесшумную обратную связь.

оценка

mt —

Оказалось,

что для схемы (7)

оптимальная

= М (Ѳ,|^"|) и условная дисперсия

yt — М [(Ѳ — mtf \&~\]

также

=

у.А. (t, £)

l)mt), mQ= m, (8)

, , :2- ,, .. ' (1<+1 — A0(t, D — Ai(t,

1-h Л, (t, l ) y t

A](t, l ) y 2t

(9)

Ayt =

— 1+ A\ (/, І)V/ ’ Yo = Y-

В схемах (3) и (7), по существу,

речь

шла о традиционной

задаче

математической статистики — о байесовской оценке слу­

чайного параметра по наблюдениям

Следующий шаг в услож­

чины Ѳ рассматривать случайный процесс

Ѳг.

< =

Будем

предполагать, что случайный

процесс (Ѳ, %) — (Ѳ*, | (),

0, 1, . . . , описывается

рекуррентными уравнениями

Ѳ<+і =

a0(t,

I) +

ах (t,

|) Ѳ; + b (t,

I) в, (t + 1),

!*-н =

Лэ(/,

£) +

A ^t,

+

|) е 2(Ң - 1),

(

}

где

e, (t),

s2(t),

t = 1,

2, . . . , — последовательность независимых

величин, имеющих нормальное распределение N (0, 1) и не за­

висящих также

от (Ѳ0, | 0). Коэффициенты

a0(t, |), . . . ,

B(t,

|)

предполагаются ^-измеримыми при каждом

^ = 0, 1, . . .

Чтобы

получить для оценки т t — М {Q

и условной

дис­

персии

— М {[0,— mtf\@~))

рекуррентные

уравнения,

пред­

положим,

что

условное

распределение

Р(Ѳ0^ х | | 0) является

(для почти всех | 0)

нормальным, N (т,

у).

Суть этого

предпо-

ложения состоит в том, что оно позволяет доказать (см.

гл. 13),

10

ВВЕДЕНИЕ

уравнений:

tn(+{ =

а0 + almt +

в

2

- 1

[h+i

A m/]>

то

m>

т

-^iYf

Vt+i =

lab t + b2\ -

Yo =

Y

(у коэффициентов

aQ,

. . . .

В для

простоты

записи

опущены

чах экстраполяции (оценивания

Ѳг по |£, когда %> f) и интер­

поляции (оценивания Ѳт по

при т < ty Применениям этих

результаты в исследовании

первоначальных задач.

Отмеченная (для случая

непрерывного

времени) простота

формулировок, естественно,

даром не

дается — приходится

ВВЕДЕНИЕ

11

стемой

(10))

dQt =

a(t)Qt d

t b{t)dwi{t),

d \t = A{t)Qt dt + B{t)dw2{t),

(12)

где wx{t) и ^ ( O - -независимые

между собой и от (Ѳ0,

| 0) стан­

дартные винеровские процессы,

а B { t ) ^ C > 0. Будем

считать

компоненту Ѳ=

(Ѳ/), t ^ O ,

ненаблюдаемой. Рассматриваемая за­

дача фильтрации состоит

в том, чтобы в каждый момент вре­

мени

0 оптимально (в

среднеквадратическом смысле)

оце­

нивать

по Ѵ0.

Процесс (Ѳ, I) по предположению является гауссовским, по­

этому оптимальная оценка

m t — М(Ѳ; |^ |)

линейным

образом

зависит от наблюдений £g={£s>

Более точно, существует

t

(лемма 10.1) такая функция G{t, s) с J G2(t, s)ds < оо, t > 0,

что

(почти

наверное)

о

mt =

m0-{- J G {t,s)dls.

(13)

о

Если формально продифференцировать это выражение,

то

получим

dmt = G (t,

+

dGg ; s)

ds^jdt.

(14)

dG (t, s)

A4t) 1

Ft

B2(t) JG(t, s),

t > s,

(15)

G (s ,S) = l

^

,

Ys — M [0S— tns]2.

(16)

t >

Учитывая (15) и (14),

получаем,что оптимальная оценка ть

0,

удовлетворяет

линейному

стохастическому

дифферен­

циальному уравнению

у. А (t )

dmt = а (t) mt dt +

(17)

ßi ^

[ d tt~ A{t)m t dt}.

В

это

уравнение входит

величина ошибки «отслеживания»

Yt — М [0* — tnt\2, которая

в

свою

очередь является

решением

12

ВВЕДЕНИЕ

уравнения Риккати

yt = 2a(t)yt - - ~ f + b2(t).

(18)

V, А (t)

t.

(20)

dmt — a{t ) mt d t d w

Введенный процесс (wt),

0, весьма примечателен и играет

в задачах фильтрации фундаментальную

роль. Дело

в том,

что этот процесс, во-первых,

оказывается

винеровским

(отно­

это означает, что для всех t ^ O

о-алгебры Т™ =

0 {ак ws, s ^ .t}

и

= * {ш: ls,

s <Д} совпадают:

9 7 = &\,

і > 0

(21)

(см. теорему 7.16).

процесса w

Именно эти

свойства

послужили

основанием

называть его обновляющим

процессом

(innovation

process).

Совпадение

ст-алгебр 9~\

и @~Т наталкивает

на

мысль, что

для

mt справедливо не

только

равенство (13),

но

и предста­

вление

t

mt ==tn0+ J

F{t, s)dws,

(22)

о

ВВЕДЕНИЕ

13

ствием предположения гауссовости

процесса

(Ѳ, £). Приведем

теперь пример, в

котором оптимальная фильтрация является

нелинейной.

— марковский процесс,

выходящий из нуля,

Пусть (Qi), t ^ O

с двумя

состояниями 0 и 1 и единственным

переходом 0 — 1

в случайный момент ст, который распределен

(в силу предпо­

лагаемой

марковости) экспоненциальным

образом: Р (<?>/)==

= е~и , X > 0. Предположим, что наблюдаемый процесс £ = (£;),

0, имеет дифференциал

äh — Qt dt-\- dwt,

g0 =

0,

(23)

где w = (wt), t ^ 0—винеровский процесс,

не зависящий от про­

цесса Ѳ=

(Ѳг), t ^

0.

Ѳ из «нулевого» со­

Будём

трактовать переход процесса

по наблюдениям

определить,

произошла ли

до этого

мо­

мента «разладка» или нет.

t\ &~f).

Ясно,

что

Обозначим

nt =

Р (Ѳ, = 11&~Ѵ) — Р (о ^

nt — m t = М

I &~f).

Поэтому апостериорная

вероятность

п(,

і ^ О , является

оптимальной (в

среднеквадратическом

смысле)

оценкой состояния ненаблюдаемого процесса Ѳ= (ѲД

0.

Для апостериорной

вероятности щ,

0,

можно

вывести

(используя, например,

формулу

Байеса и результаты

относи­

тельно производной меры,

отвечающей процессу g, по вине-

ровской мере) следующее

стохастическое дифференциальное

уравнение:

dnt = X ( \ — nt)d t-\-n t ( l — я t)[d%t — nt dt\, я0 = 0.

(24)

14

ВВЕДЕНИЕ

оказывается винеровским и

—

0.

Следовательно,

уравнение (24) может быть записано также в следующем

экви­

валентном виде:

сІщ = К(1— щ) dt +

Л(( 1 — щ) dwt,

я0 = 0.

(25)

3.

Оказывается, что все эти примеры укладываются в рамк

следующей общей схемы, принятой в данной книге.

Пусть

(Q, ЗГ, Р) — некоторое вероятностное

пространство

0 (£Tss ^ s ^

,

s<^)- На этом вероятностном пространстве

предполагаются

заданными

частично

наблюдаемый

процесс

(Ѳ^,

It),

0, и

оцениваемый

процесс (ht),

0, зависящий,

вообще

говоря,

как от ненаблюдаемого

процесса

Ѳ^, t ^

0,

так и наблюдаемой компоненты (£*),

0.

£ = (£*, ЗГt)

бу­

дет

Относительно

наблюдаемого

процесса*)

предполагаться, что он допускает стохастический дифферен­

циал

d lt= At(а) dt + dwt, ^

=

0,

(26)

где

w — (wt,3T^),

t ^ 0 , — стандартный

винеровский

процесс

(т. е. квадратично

интегрируемый

мартингал

с непрерывными

траекториями с

М [(wt — w^f- \ !FS]= t — s

при

t ^ s

и да0 =

0),

а Л = (ЛД(о), ЗГt),

0, — некоторый интегрируемый случайный

процесс **).

Ѳ== (Ѳ^, $Гt),

0,

не­

Структура ненаблюдаемого процесса

оцениваемый процесс h =

(ht, Srt),

0, допускает следующее

представление:

t

ht — h0-f f as {(ü) ds + xt,

/ > 0 ,

(27)

о

где

а =

(щ(а>),

ЗГt),

0, — некоторый

интегрируемый

процесс,

x =

(xt, &~t),

0, — квадратично интегрируемый мартингал.

Для

всякого интегрируемого процесса

g = (gt, 3Tt), t ^ 0 ,

обозначим nt (g )= М [

g

, Тогда,

если

М ^ < о о ,

т оя Д^ )

по U = { l s,

.

*) Запись | = (It,

t) подразумевает, что величины g1 являются йД-из-

ВВЕДЕНИЕ

15

Один из

основных

результатов

книги

(теорема 8.1)

утвер­

ждает,

что

для

nt (h)

справедливо

следующее представление:

t

t

яД/г) =

я0 (/z) + J

яS(a)ds +

J

яS(D) dws +

-f

J

[ns{hA) — я5(/і)я^(Л)] dws.

(28)

Здесь

w =

(wt,

i ^ O , — винеровский

процесс (cp.

с обно­

D = (Dt, 9~t),

0,

характеризует

«корреляцию» между ви.не-

ровским процессом

w = {wt,

9~t),

0,

и мартингалом

х —

= {xt, 9~t),

0.

Точнее,

процесс

Dr

d (х, w)t

(29)

dt

где (х, w)t — случайный

процесс,

участвующий

в разложении

Дуба — Мейера произведения

мартингалов х и

w:

М \xtwt — xsws I 9~s\ =

M [(x, w)t — (x, w)s I 9~s).

(30)

Представление

(28)

мы

называем

основным уравнением

результатов

(в рамках

предположений (26),

(27)) может быть

выведено из этого уравнения.

Покажем, например, как из (28) выводятся уравнения филь­

трации

(17),

(18) в схеме

Калмана — Бьюси,

считая для про­

стоты

b(t) =

В (/)=

1.

(26)

и (27),

видим, что ЛДсо) == A (t) Ѳ„

Сравнивая (12)

с

wt — w2(t). Положим

ht — Qt. Тогда

в силу (12)

t

ht = h0 +

J a{s)Qs ds +

да, (0-

(31)

о

Процессы Wi — (w{(t))

и w2 = (w2(t)),

0,

являются незави­

для них Dt s=0 (Р-п. н.). Тогда

в силу (28)

яДѲ) имеет диффе­

ренциал

dnt (Q) = a(t)nt (B)dt +

А {t)\nt {&) -

n2t {ü)\dwt,

(32)

т. е.

(33)

dmt = a(t) mt dt -j~ A (t)yt dwt,

где мы воспользовались тем, что в силу гауссовости

процесса

9, I), Р-п. н.

я, (Ѳ2) - п] (Ѳ) = М [(0, - m ty j 9~Ц = М [0t - mtf «

yf.

16

ВВЕДЕНИЕ

Чтобы вывести из (28) уравнение для

у(,

возьмем

ht =

Q2.

Тогда из первого уравнения системы (12)

по

формуле

замены

переменных Ито (теорема 4.4)

получаем

t

Ѳ2== Ѳц + J

as(®) ds +

xt,

(34)

о

где

t

as(co) = 2a(s)02 + b2(s)

и xt =

j

2b(s)Bs dwl(s).

о

Поэтому согласно (28)

dnt(Ѳ2) = [2a(t) яДѲ2)+ b2(t)\ dt Ar А (t) [nt(Ѳ3) — nt(0) яД Ѳ2)] dwt.

(35)

(Ѳ, I) моменты я* (Ѳ'г) =

М (Ѳ" |

) для всех д ^ З выражаются

через я/ (Ѳ)

и

яДѲ2).

В

частности,

лДѲ3) — nt (Ѳ) яДѲ2) =

= М [6f(0t — >nt)\@~}] =

2 т гу;,

и, значит,

dnt (Ѳ2) =

[2а (t) яДѲ2) +

b2 (/)] dt +

2Л (t) mtyt dwt.

(36)

По формуле замены

переменных Ито

из (33) находим, что

dm2 =

2mt [a (t) m t dt +

А (t) уtm t dw^ + A2{t) y2(t) dt.