Proste Procesy Stochastyczne i ich zastosowaniastaff.elka.pw.edu.pl/~pszablow/PPSZ/h/ho2.pdf ·...

Proste Procesy Stochastyczne i ich zastosowania

Pawe÷J. Szab÷owski

March 2007

Pawe÷J. Szab÷owski () Wyk÷ad 2 March 2007 1 / 22

Warunkowa wartosc oczekiwana

Niech (Ω,F ,P) b ¾edzie przestrzeni ¾a probabilistyczn ¾a , X - zmienn ¾a losow ¾aokreslon ¾a na tej przestrzeni, i A F pewnym σ-cia÷em podzbiorów Ω.Jesli σ(X ) A, to mówimy, ·ze zmienna losowa X jest A- mierzaln ¾a .

FactJesli A = σ(Y ) dla pewnego wektora losowego Y , to zmienna losowa Xjest A-mierzaln ¾a wówczas i tylko wówczas, gdy istnieje funkcja Borelowskag taka ·ze, X = g(Y )p.n.

DenitionWarunkow ¾a wartosci ¾a oczekiwan ¾a zmiennej losowej X wzgl ¾edem σ-cia÷a Anazywamy tak ¾a zmienn ¾a losowa A-mierzaln ¾a (oznaczan ¾a E (X jA)), któraspe÷nia warunek :

E (YE (X jA)) = E (YX ) (war_def)

dla ka·zdej A-mierzalnej zmiennej losowej Y takiej, ·ze E jXY j < ∞.


W÷asnosci warunkowych wartosci oczekiwanych.

FactJesli σ- cia÷o A=σ(Y ), dla pewnego wektora losowego Y , to piszemyE (X jY ) zamiast E (X jσ(Y )). (Z uwagi (1) wynika, ·ze istnieje wówczasfunkcja Borelowska h taka, ·ze E (X jY ) = h(Y ) p.n.) .

1. Jesli E jX j < ∞ to dla dowolnego σ-cia÷a A, E (X jA) istnieje i jestokreslona jednoznacznie w nast ¾epuj ¾acym sensie: jesli Z1 i Z2 s ¾adwoma A- mierzalnymi zmiennymi losowymi spe÷niaj ¾acymi warunekwar_def, to P(Z1 = Z2) = 1.

2. Dla ka·zdych α, β 2 R i zmiennych losowych X , Y takich, ·ze E jX j< ∞, E jY j < ∞ jest spe÷niona równosc :

E (αX + βY jA) = αE (X jA) + βE (Y jA) p.n.

3. Jesli X 0 p.n. i E jX j < ∞, to E (X jA) 0 p.n. dla ka·zdegoσ-cia÷a A 2 F .Pawe÷J. Szab÷owski () Wyk÷ad 2 March 2007 3 / 22


4. Je·zeli E jX j < ∞i A i B s ¾a dwoma σ- cia÷ami takimi, ·ze A B F ,to

E (E (X jB)jA) = E (X jA) p.n.w szczególnosci: E (E (X jA)) = EX p.n. A wi ¾ec, jesli Y1 i Y2 s ¾apewnymi wektorami losowymi, toE (E (X j(Y1,Y2))jY1) = E (X jY1)p.n.

5. Je·zeli E jX j < ∞ i X jest A- mierzaln ¾a zmienn ¾a losow ¾a , toE (X jA) = X p.n. .



6. Je·zeli E jX j < ∞ i Y jest A- mierzaln ¾a zmienn ¾a losow ¾a , toE (YX jA) = YE (X jA) p.n.

7. Je·zeli E jX j < ∞ i X jest zmienn ¾a losow ¾a niezale·zn ¾a od A [tzn.zdarzenia fω: X (ω) < xg i A s ¾a niezale·zne dla ka·zdego x R iA A] oraz E jX j < ∞, to

E (X jA) = EX p.n.

8. Je·zeli E jX j < ∞, to minE (X Y )2YAmierzalna = E (X E (X jA)) 2 . Jest to rozwi ¾azanie postawionego wy·zej zadnia.

9. Je·zeli E jX j < ∞, to dla ka·zdej zmiennej losowej Y -A mierzalnej itakiej, ·ze E jXY j < ∞, zmienne losowe Y i X E (X jA) s ¾anieskorelowane.

Zauwa·zmy, ·ze w ka·zdym z tych przypadków mamy:E (X przybli zenie)(dowolny element przestrzeni na ktorejminimalizowano) = 0



Podobnie jesli zdeniowac odwzorowanie P przyporz ¾adkowuj ¾ace zmiennejlosowej X optymalne przybli·zenie to w ka·zdym z tych przypadków mamy:

P(P(X )) = P(X )

Okazuje si ¾e, ·ze ka·zda z tych w÷asnosci deniuje cos co nazywa si ¾eoperatorem rzutu.


Kilka informacji o procesach stochastycznych

DenitionProcesem stochastycznym X okreslonym na przestrzeni (Ω,F ,P) owartosciach w przestrzeni Rk nazywamy indeksowana rodzin ¾e fXtgt2Izmiennych losowych o wartosciach w Rk okreslonych na przestrzeni(Ω,F ,P) (I jest tu zbiorem indeksów. Najcz ¾esciej jest to podzbiór R lubZ - w tym przypadku parametr t nazywamy czasem . Piszemy wówczasX = fXtgt2I .

Uogólnienie. Cz ¾esto (szczególnie w naukach in·zynierskich zwi ¾azanych zelektrycznosci ¾a, elektronik ¾a itp. ) rozwa·za si ¾e tak·ze procesy o wartosciachzespolonych Ck .

FactZauwa·zmy, ·ze w istocie proces stochastyczny jest funkcj ¾a dwu zmiennychω i t o wartosciach w Rk i takich, ·ze dla ka·zdego ustalonego t, X (ω, t)jest zmienn ¾a losow ¾a. Wartosci funkcji X (ω, t) nazywaj ¾a si ¾e stanamiprocesu.

FactNa proces stochastyczny mo·zna patrzec tak·ze nast ¾epuj ¾aco: Dla ustalonegow rozwa·zamy funkcj ¾e X (ω, .) :! Rk . (Funkcja ta nazywa si ¾e realizacj ¾arozwa·zanego procesu) Zatem proces stochastyczny jest zmienn ¾a losow ¾a owartosciach z przestrzeni realizacji!!

Example

Niech Y b ¾edzie dowoln ¾a zmienn ¾a losow ¾a okreslon ¾a na (Ω,F ,P), I = R ,Xt = tY ; t 2 I . Realizacjami tego procesu s ¾a proste.

W zale·znosci od potrzeb i kontekstu wszystkie te spojrzenia na processtochastyczny s ¾a u·zywane!!!


Klasykacja procesów stochastycznych.

-ze wzgl ¾edu na zbiór I . Jesli I jest dyskretnym podzbiorem R (wszczególnosci podzbiorem Z) to mówimy o procesach z czasemdyskretnym. Jesli I jest odcinkiem lub sum ¾a (mnogosciow ¾a) odcinkówto mówimy o procesie z czasem ci ¾ag÷ym. Jesli I jest podzbiorem Rm ;m > 1 to mówimy o polu losowym.

-ze wzgl ¾edu na zbiór wartosci funkcji X (ω, t) czyli tzw przestrzenstanów procesu Jesli zbiór ten jest dyskretny to mówimy o procesie zdyskretn ¾a przestrzeni ¾a stanów lub cz ¾esciej mówimy o ÷ancuchu.

Remark×ancuchy mog ¾a byc z czasem ci ¾ag÷ym lub dyskretnym.

RemarkJesli czas jest ci ¾ag÷y i k = 1 to wykresami realizacji ÷ancucha s ¾a funkcjeschodkowe!



DenitionRodzin ¾e rozk÷adów zmiennych losowychf(Xt1 , ....Xtn ); t1, . . . , tn 2 Ig nazywamy rodzin ¾a rozk÷adów skonczeniewymiarowych procesu X.

Rozk÷ad (Xt1 , ...,Xtn ) b ¾edziemy oznaczali symbolem Pt1,...,tn (.) zasdystrybuant ¾e tego rozk÷adu symbolem Ft1,...,tn (.).

DenitionDwa procesy stochastyczne Xt ,Yt ;t 2 I nazywamy równowa·znymi, jesliP(Xt = Yt ) = 1 : t 2 I . Procesy stochastyczne równowa·zne nazywamywersjami (pewnego procesu wspólnego).


Ka·zda rodzina rozk÷adów skonczenie wymiarowych procesustochastycznego spe÷nia nast ¾epuj ¾ace warunki zgodnosci:

1 Jesli fτ1, . . . , τkg ft1, . . . , tng to rozk÷ad (Xτ1 , ...,Xτn ) (czyliPτ1,...,τn ) (jest rozk÷adem brzegowym rozk÷adu (Xt1 , ...,Xtn ) (tj.Pt1,...,tn ).

2 Jesli σ jest permutacj ¾a zbioru (1, ..., n), to dla ka·zdego zbioruBorelowskiego

(x1, . . . , xn) 2 Rk : Ft1,...,tn (x1, . . . , xn) = Ftσ(1),...,tσ(n)(xσ(1), . . . , xσ(n)).

Twierdzenie Ko÷mogorowa stwierdza, ·ze ka·zda rodzina rozk÷adów Pt1,...,tn(.); t1, . . . , tn 2 I spe÷niaj ¾aca warunki zgodnosci jest rodzin ¾a rozk÷adówpewnego procesu stochastycznego!!!Procesy stochastyczne zatem istniej ¾a.



Ze wzgl ¾edu na w÷asnosci rodziny rozk÷adów skonczenie wymiarowychwyró·zniamy

procesy Gaussowskie - jesli wszystkie ich rozk÷ady skonczeniewymiarowe s ¾a Gaussowskie.procesy o przyrostach niezale·znych - jesli dla wszystkich t1 < t2 < t3< t4 ; t1, t2, t3, t4 2 T rozk÷ady (Xt2 Xt1) i (Xt4 Xt3) s ¾aniezale·zne.procesy o przyrostach nieskorelowanych - jesli dla ka·zdycht1 < t2 < t3 < t4 ; t1, t2, t3, t4 2 T zmienne losowe (Xt2 Xt1) i(Xt4 Xt3) s ¾a nieskorelowane.procesy Markowa ( markowskie) - jesli dla wszystkicht1 < < tn < τ ; ti , τ 2 T : i = 1, . . . n rozk÷ad warunkowy Xτ podwarunkiem Xt1 , ...,Xtn zale·zy tylko Xtn tj. dok÷adniej

A 2 Bk : : P(Xτ 2 AjXt1 , ...,Xtn ) = P(Xτ 2 AjXtn )

prawie na pewno.Pawe÷J. Szab÷owski () Wyk÷ad 2 March 2007 11 / 22


FactWszystkie rozk÷ady skonczenie wymiarowe procesów Markowskich s ¾aokreslone przez tzw. funkcje przejscia (deniowane przez rozk÷adydwuwymiarowe). Mamy wi ¾ec bardzo znaczne uproszczenie opisu.

procesy stacjonarne (w w¾e·zszym sensie) - jesli dla ka·zdego s takiego,·ze s + t1, . . . , s + tn 2 I jesli tylko t1, . . . , tn 2 I rozk÷ad(Xs+t1 , ...,Xs+tn ) jest taki sam jak (Xt1 , ...,Xtn ) .

ExampleNiech Xt ; t 0 b ¾edzie procesem o przyrostach niezale·znych i za÷ó·zmy, ·zeX0 0, Xt Xs N(0, (t s)σ2). Zauwa·zmy, ·ze mo·zna na podstawiepowy·zszych za÷o·zen, otrzymac wszystkie rozk÷ady skonczenie wymiarowetego procesu! Mamy bowiem np. dla rozk÷adów dwuwymiarowych dlas < t Xt = Xs + (Xt Xs ).



Example

Ale z za÷o·zenia XsN(0,sσ2), (Xt Xs )N(0, (t s)σ2) i zmienne te s ¾a

niezale·zne. A wi ¾ecXsXt

=

1 01 1

XsXt Xs

.



ExampleSt ¾ad

XsXt

N

00

,

1 01 1

sσ2 00 (t s)σ2

1 10 1

czyli

XsXt

N

00

,

sσ2 sσ2

sσ2 σ2t

.

Podobnie rozumujemy dostaj ¾ac rozk÷ady 3,4 i wi ¾ecej wymiarowe. Takzdeniowany proces nazywa si ¾e procesem Wienera lub procesem ruchuBrowna. Mo·zna sprawdzic, ·ze proces ten jest procesem Markowa. Okazujesi ¾e, ·ze da si ¾e znalezc wersj ¾e tego procesu, która ma ci ¾ag÷e realizacje!!Pokazuje si ¾e ponadto, ·ze realizacje te s ¾a w prawie ka·zdym punkcie nieró·zniczkowalne!!!! Poni·zej przedstawiamy dwie realizacje procesu Wieneraotrzymane przy pomocy tzw. rozwini ¾ec Karhunena-Loevea (patrz np. [?]).



Example

2 realizac je procesu Wienera

W( )t

W W( )t

0

.5

.5

t

procesy stacjonarne (w szerszym sensie) - jesli EXt nie zale·zy od t idla wszystkich t, s 2 I cov(Xt ,Xs ) zale·zy tylko od js tj. FunkcjaK (s, t) = cov(Xs ,Xt ) nazywa si ¾e funkcj ¾a kowariancji procesu X.



FactJak wspomniano bardzo cz ¾esto w naukach technicznych szczególnieelektronice i elektrotechnice rozpatruje si ¾e procesy stochastyczne owartosciach zespolonych. Wówczas np. denicja funkcji kowariancjitakiego procesu jest nast ¾epuj ¾aca: K (s, t) = EXsX t EXsEX t .

FactJak wspomniano bardzo cz ¾esto w naukach technicznych szczególnieelektronice i elektrotechnice rozpatruje si ¾e procesy stochastyczne owartosciach zespolonych. Wówczas np. denicja funkcji kowariancjitakiego procesu jest nast ¾epuj ¾aca: K (s, t) = EXsX t EXsEX t .



ExampleNiech Y1, . . . ,Yj b ¾ed ¾a pewnymi, wzajemnie nieskorelowanymi, zmiennymilosowymi okreslonymi na (Ω,F ,P) i takimi, ·zeEYk = 0,EY 2k = σ2; k = 1, . . . , j . Niech dalej I = R. Po÷ó·zmy

Xt =j

∑k=1

Yk exp(iνk t),

gdzie ν1, . . . , νj s ¾a pewnymi liczbami nieujemnymi. Przestrzeni ¾a stanutakiego procesu jest zbiór liczb zespolonych. Realizacjami tego procesu s ¾asumy sinusoid, cosinusoid o cz ¾estotliwosciach ν1, . . . , νn. Obliczmy funkcj ¾ekorelacyjn ¾a takiego procesu. Zauwa·zmy, ·ze 8t 2 I : EXt = 0. Mamy:K (s, t) = EXsX t = E

∑jk=1 Yk exp(iνk s)

∑jk=1 Yk exp(iνk t)

=

∑jk=1 σ2 exp(iνk (s t)). Okazuje si ¾e wi ¾ec, ·ze jest to proces stacjonarny

(w szerszym sensie).



Poni·zej prezentujemy dwie realizacje cz ¾esci rzeczywistych takiego procesu.Ze wzgl ¾edu na czytelnosc rysunku do jednej z nich dodano 10 aby jejwykres przesun ¾ac w gór ¾e. Wzi ¾eto tu j = 25 νk = πk2; k = 1, . . . j .

0 0 .2 0 .4 0 .6 0 .8 12 0

1 0

0

1 0

2 0

3 0

R e( )X( )t

R e( )Z( )t 1 0

t


Rozk÷ad wyk÷adniczy. Proces PoissonaRozk÷ad geometryczny:

.Mówimy, ·ze zmienna losowa X ma rozk÷ad geometryczny z parametremp2(0, 1) jesli

P(X = i) = p(1 p)i1; i = 1, 2, . . . .

×atwo zauwa·zyc supp(X ) = N.Interpretacja. Wyobrazmy sobie ci ¾ag jednorodnych niezale·znychdoswiadczen Bernoulliego. Za÷ó·zmy, ·ze prawdopodobienstwo sukcesu pjest wi ¾eksze od zera. Oznaczmy przez X numer pierwszego sukcesu.Oczywiscie zdarzenie fX = ig znaczy, ·ze przed pierwszym sukcesem (który zdarzy÷si ¾e w momencie i ) by÷o i 1 pora·zek. CzyliP(X = i) = p(1 p)i1 a wi ¾ec X ma rozk÷ad geometryczny.


Okazuje si ¾e, ·ze rozk÷ad geometryczny jest stosowany tak·ze w teoriiniezawodnosci do modelowania tzw. czasów ·zyciaczyli okresów czasu dopierwszych uszkodzen ró·znych urz ¾adzen. Z punktu widzenia tychzastosowan nies÷ychanie wa·zna jest nast ¾epuj ¾aca w÷asnosc rozk÷adugeometrycznego zwana brakiem pami ¾eci:

8n, k 2 N : P(X > n+ k jX > n) = (1 p)k (1)

nie zale·zy od n !!! . Zatem procesy starzenia si ¾e nie wp÷ywa÷yby w sposóbistotny na urz ¾adzenie o takim czasie ·zycia. Uszkadza÷oby si ¾e ono naskutek dzia÷ania czynników zewn¾etrznych.Dowód. tej w÷asnosci jest bardzo prosty. Zauwa·zmy po pierwsze, ·zeP(X > n+ k jX > n) = P (X>n+k )

P (X>n) . Pozostaje wi ¾ec obliczyc P(X > m)

dla dowolnych m . Mamy P(X > m) = ∑∞i=m+1 p(1 p)i1 =

p(1 p)m ∑∞i=0(1 p)i = (1 p)m . St ¾ad ju·z bardzo ÷atwo otrzymac

formu÷¾e (1) .


Rozk÷ad wyk÷adniczy:

Ci ¾ag÷¾a wersj ¾a rozk÷adu geometrycznego jest tzw. rozk÷ad wyk÷adniczyokreslony w nast ¾epuj ¾acy sposób. Niech a 2 R, λ 2 R+. G ¾estosc tegorozk÷adu dana jest wzorem:

1

f (x) =

λ exp(λ(x a) dla x a0 dla x < a

zas nosnikiem jest zbiór < a,∞).Jesli zmienna losowa X ma rozk÷ad wyk÷adniczy z parametrami a i λ,piszemy wówczas: XExp(a,λ). Jesli zas a = 0 to piszemy po prostu:XExp(λ). Wykresy g ¾estosci tego rozk÷adu dla wartosci parametrówa = 1, a = 0 , a = 2 i λ = .5, λ = 1, λ = 2.


0 1 2 3 4 5

0.5

1.0

1.5

2.0

x

y


Proste Procesy Stochastyczne i ich zastosowaniastaff.elka.pw.edu.pl/~pszablow/PPSZ/h/ho2.pdf ·...

Documents

Transcript of Proste Procesy Stochastyczne i ich zastosowaniastaff.elka.pw.edu.pl/~pszablow/PPSZ/h/ho2.pdf ·...