Profesor Milan Merkle [email protected] milanmerkle.etf.rs...

Slucajne promenljive i njihove raspodele

Profesor Milan [email protected] milanmerkle.etf.rs

Verovatnoca i Statistika-prolece 2018

Milan Merkle Slucajne promenljive ETF Beograd 1 / 35

Sta su slucajne promenljive

U skoro svim statistickim eksperimentima u primerima i u stvarnosti,ishodi se mogu predstaviti kao realni brojevi, a skup svih ishoda Ω jeonda podskup skupa R.

X -slucajna promenljiva. x-brojna vrednost slucajne promenljive

XXXXXKoliko jeX ? → Kolike su verovatnoce P(X = x),P(X ∈ (a, b]) . . .?

Slucajna promenljiva se definise pomocu svoje raspodele verovatnoca.

Primer 51. Bernulijeva raspodela-model za eksperimente sa dva ishoda.P(X = 1) = p, P(X = 0) = 1− p.

Diskretne raspodele

Diskretna slucajna promenljiva: skup mogucih vrednosti je konacanili prebrojiv.

Diskretna raspodela

Bernulijeva raspodela (0-1) je diskretna.

Zakon raspodele: Skup mogucih vrednosti + njihove verovatnoce.

Slede primeri

Diskretne raspodele

Diskretna raspodela

Slede primeri

Diskretne raspodele

Diskretna raspodela

Slede primeri

Diskretne raspodele

Diskretna raspodela

Slede primeri

Diskretne raspodele

Diskretna raspodela

Slede primeri

Diskretne raspodele

Diskretna raspodela

Slede primeri

Jednostavan primer

Zakon raspodele slucajne promenljive X moze se prikazati tabelom:x 1 2 3

Naci verovatnoce:

P(X ≤ 2.5)

P(X > 3)

P(X ≥ 3)

P(X ∈ [2, 5))

P(X ∈ (2, 5])

Jednostavan primer

Naci verovatnoce:

P(X ≤ 2.5)

P(X > 3)

P(X ≥ 3)

P(X ∈ [2, 5))

P(X ∈ (2, 5])

Jednostavan primer

Naci verovatnoce:

P(X ≤ 2.5)

P(X > 3)

P(X ≥ 3)

P(X ∈ [2, 5))

P(X ∈ (2, 5])

Jednostavan primer

Naci verovatnoce:

P(X ≤ 2.5)

P(X > 3)

P(X ≥ 3)

P(X ∈ [2, 5))

P(X ∈ (2, 5])

Jednostavan primer

Naci verovatnoce:

P(X ≤ 2.5)

P(X > 3)

P(X ≥ 3)

P(X ∈ [2, 5))

P(X ∈ (2, 5])

Jednostavan primer

Naci verovatnoce:

P(X ≤ 2.5)

P(X > 3)

P(X ≥ 3)

P(X ∈ [2, 5))

P(X ∈ (2, 5])

Jednostavan primer

Naci verovatnoce:

P(X ≤ 2.5)

P(X > 3)

P(X ≥ 3)

P(X ∈ [2, 5))

P(X ∈ (2, 5])

X ∼ Bin (n, p) - Binomna raspodela

Binomna raspodela je model za broj uspeha u n Bernulijevih opita(Sta su Bernulijevi opiti?) sa verovatnocom uspeha p.Zakon raspodele se definise formulom koju vec znamo

P(X = k) =

)pk(1− p)n−k , k = 0, 1, . . . , n.

Binomna raspodela - histogram

Zakon raspodele binomne slucajne promenljive moze se predstaviti prekohistograma.

(https://onlinecourses.science.psu.edu/stat414/node/70)

Slika .

X ∼ Poiss (λ)- Puasonova raspodela

Ovo je model za broj retkih dogadaja u datom vremenskom intervalu(opcionalno: videti zadatak 208 za preciznu formulaciju).Parametar λ je prosecan broj tih dogadaja.

P(X = k) = e−λλk

k!, k = 0, 1, 2, . . . , λ > 0

l... =0.5

1...=5

o 123 o I 2 3 4 5 6 7 8 9 10 x

Slika 18. Histogrami Poissonove raspodele sa λ = 0.5 i λ = 5.

Geometrijska raspodela

X je broj opita u kome se dogodio prvi uspeh u nizu Bernulijevih opita saverovatnocom uspeha p.U zadatku sa pet kljuceva smo izveli formulu

P(X = k) = p(1− p)k−1, k = 1, 2, . . .

i to je zakon raspodele.

Diskretna uniformna raspodela

X ima diskretnu uniformnu raspodelu na skupu od n > 0 tacakaS = x1, x2, . . . , xn ako je

P(X = xi ) =1

n, i = 1, 2, . . . , n.

Ova je model slucajnog izbora iz skupa S .Histogram ove raspodele je iste visine u svim tackama.

U ∼ Unif [a, b] - Uniformna raspodela

Ovo je model za slucajan izbor broja U ∈ [a, b] po pravilugeometrijske verovatnoce.

S obzirom da je za svako x ∈ R,

P(U = x) = 0,

zakon raspodele je beskoristan i ne odreduje raspodelu

Ova raspodela nije diskretna (skup tacaka intervala je neprebrojiv!)

Zakon raspodele ima smisla samo za diskretne slucajne promenljive.

P(U = x) = 0,

Funkcija raspodele

Za slucajnu promenljivu X definisemo funkciju raspodele

F (x) = P(X ≤ x) = P(X ∈ (−∞, x ]), x ∈ R.

Ova funkcija je definisana za svaku raspodelu.

Primer 62. Naci funkciju raspodele za U ∼ Unif [a, b].

Primer: Nacrtati grafik funkcije raspodele F za jednostavan primerdiskretne raspodele:

x 1 2 3

Funkcija raspodele

F (x) = P(X ≤ x) = P(X ∈ (−∞, x ]), x ∈ R.

x 1 2 3

Funkcija raspodele

F (x) = P(X ≤ x) = P(X ∈ (−∞, x ]), x ∈ R.

x 1 2 3

Osobine funkcije raspodele

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

F je neopadajuca funkcija,

F je neprekidna zdesna u svakoj tacki x ∈ R,

F ima levi limes, F (x−), u svakoj tacki x ∈ R,

F neprekidna u tacki x ako i samo ako je P(X = x) = 0.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

0 ≤ F (x) ≤ 1 za svako x ∈ R,

F (−∞) = 0, F (+∞) = 1.

P(X ≤ x) = F (x),

P(X = x) = F (x)− F (x−).

P(X < x) = F (x−)

P(X ∈ (a, b]) = F (b)− F (a).

Neprekidne raspodele

Ako je P(X = x) = 0 za svako x ∈ R i ako se funkcija raspodele mozepredstaviti preko integrala ne-negativne funkcije f

F (x) =

−∞f (t) dt f (t) ≥ 0

onda kazemo da slucajna promenljiva X ima neprekidnu raspodelu.Funkcija f je gustina verovatnoce slucajne promenljive X , odnosnoodgovarajuce raspodele.

Primer 62+. Gustina uniformne raspodele na [a, b]

f (t) =

b−a a ≤ x ≤ b

0 inace

Neprekidne raspodele

Ako je P(X = x) = 0 za svako x ∈ R i ako se funkcija raspodele mozepredstaviti preko integrala ne-negativne funkcije f

F (x) =

−∞f (t) dt f (t) ≥ 0

onda kazemo da slucajna promenljiva X ima neprekidnu raspodelu.Funkcija f je gustina verovatnoce slucajne promenljive X , odnosnoodgovarajuce raspodele.

Primer 62+. Gustina uniformne raspodele na [a, b]

f (t) =

b−a a ≤ x ≤ b

0 inace

Izracunavanje verovatnoce preko integrala gustiney

Slika 21.

Za svako a, P(X = a) = 0.

Za svako a, b : P(a < X < b) = P(a ≤ X ≤ b) =∫ ba f (t) dt

∗∗ -verovatnoca je predstavljena povrsinom∫ +∞

−∞f (t) dt = 1.

P(X ∈ [x , x + ∆x ]) ∼ f (x) ·∆x (kao kod histograma)

Slika 21.

−∞f (t) dt = 1.

Slika 21.

−∞f (t) dt = 1.

Slika 21.

−∞f (t) dt = 1.

X ∼ Exp (λ) -Eksponencijalna raspodela - Vazno!Gustina:

f (x) = λe−λx · H(x)

Funkcija raspodele:

F (x) =

−∞f (t) dt = 1− e−λx (x ≥ 0), F (x) = 0 (x < 0).

Gustina eksponencijalne raspodele sa λ = 1 (crvena) i λ = 2 (plava)Milan Merkle Slucajne promenljive ETF Beograd 15 / 35

X ∼ Exp (λ) -Eksponencijalna raspodela - Vazno!Gustina:

f (x) = λe−λx · H(x)

Funkcija raspodele:

F (x) =

−∞f (t) dt = 1− e−λx (x ≥ 0), F (x) = 0 (x < 0).

Gustina eksponencijalne raspodele sa λ = 1 (crvena) i λ = 2 (plava)Milan Merkle Slucajne promenljive ETF Beograd 15 / 35

X ∼ Exp (λ) - Eksponencijalna raspodela-osobine

X ∼ Exp (λ) je vreme izmedu dva dogadaja sa Poiss (λ) raspodelom.Parametar λ je reciprocna vrednost prosecnog takvog vremena.

Vreme zivota uredaja (ili vreme izmedu dva otkaza). Vreme potrebnoda se usluzi klijent.

Osobina nedostatka memorije:

P(X > s + t | X > s) = P(X > t), za svako s, t > 0

Interpretacija u slucaju kad je X vreme zivota uredaja.

Eksponencijalna raspodela se koristi uvek kad je realno pretpostavitiodsustvo memorije u neprekidnom vremenu.

U diskretnom vremenu istu osobinu ima geometrijska raspodela.

Ni diskretna ni neprekidna?

Klasifikacija na diskretne i neprekidne slucajne promenljive nije potpuna.

Primer 65.

F (x) =

0 x < 0x2 0 ≤ x < 1x+2

4 1 ≤ x ≤ 21 x ≥ 2

l Y 3/4 112

Slucajni vektori (Visedimenzionalne slucajne promenljive)

Ako imamo dve velicine i interesuje nas zavisnost izmedu njih,predstavljamo ih kao dvodimenzionalne slucajne promenljive, tj. kaoslucajne vektore.

Najjednostavnji slucaj: 2D diskretne slucajne promenljive.

Zajednicki zakon raspodele =⇒ Marginalni zakon raspodele

X\Y 1 2 3

724 0 13

∑= 1

Koristeci tablicu mozemo da resimo sve zadatke sa 2D diskretnimraspodelama.

X\Y 1 2 3

724 0 13

∑= 1

X\Y 1 2 3

724 0 13

∑= 1

3D histogram

Slika 101. 3D Histogram: Verovatnoce 2D slucajne promenljive(http://morgan.dartmouth.edu)

Verovatnoca je predstavljena kao zapremina.

Neprekidne 2D raspodele

Zajednicka funkcija raspodele za (X ,Y )

F(X ,Y )(x , y) = P(X ≤ x ,Y ≤ y) , −∞ < x , y < +∞.

Marginalne funkcije raspodele:

FX (x) = P(X ≤ x) = P(X ≤ x ,Y < +∞) = F(X ,Y )(x ,+∞)

i slicno FY (y) = F(X ,Y )(+∞, y).

Zajednicka gustina f (x , y):

F(X ,Y )(x , y) =

−∞

−∞f (u, v) dv du , f ≥ 0,

Marginalna gustina

fX (x) =

∫ +∞

−∞f (x , y) dy .

F(X ,Y )(x , y) = P(X ≤ x ,Y ≤ y) , −∞ < x , y < +∞.

FX (x) = P(X ≤ x) = P(X ≤ x ,Y < +∞) = F(X ,Y )(x ,+∞)

F(X ,Y )(x , y) =

−∞

−∞f (u, v) dv du , f ≥ 0,

Marginalna gustina

fX (x) =

∫ +∞

−∞f (x , y) dy .

F(X ,Y )(x , y) = P(X ≤ x ,Y ≤ y) , −∞ < x , y < +∞.

FX (x) = P(X ≤ x) = P(X ≤ x ,Y < +∞) = F(X ,Y )(x ,+∞)

F(X ,Y )(x , y) =

−∞

−∞f (u, v) dv du , f ≥ 0,

Marginalna gustina

fX (x) =

∫ +∞

−∞f (x , y) dy .

F(X ,Y )(x , y) = P(X ≤ x ,Y ≤ y) , −∞ < x , y < +∞.

FX (x) = P(X ≤ x) = P(X ≤ x ,Y < +∞) = F(X ,Y )(x ,+∞)

F(X ,Y )(x , y) =

−∞

−∞f (u, v) dv du , f ≥ 0,

Marginalna gustina

fX (x) =

∫ +∞

−∞f (x , y) dy .

F(X ,Y )(x , y) = P(X ≤ x ,Y ≤ y) , −∞ < x , y < +∞.

FX (x) = P(X ≤ x) = P(X ≤ x ,Y < +∞) = F(X ,Y )(x ,+∞)

F(X ,Y )(x , y) =

−∞

−∞f (u, v) dv du , f ≥ 0,

Marginalna gustina

fX (x) =

∫ +∞

−∞f (x , y) dy .

Slika 102. Tipicna 3D gustina 2D raspodeleVerovatnoca je predstavljena kao zapremina.

Primer 67+. a) Zajednicka gustina slucajnog vektora (X ,Y ) data je sa

f (x , y) = C (2− |x | − |y |) − 1 ≤ x , y ≤ 1, f (x , y) = 0 inace.

Odrediti konstantu C kao i gustine raspodele verovatnoce za X i Y .b) Isto pitanje, za gustinu f (x , y) = C (|x |+ |y |).

R:a) C = 1/4, f (x) = 3−2x4 b) C = 1/4, fX (x) = 2|x |+1

Slika 103. 3D gustina iz primera 67a

Slika 104. 3D gustina iz primera 67bMilan Merkle Slucajne promenljive ETF Beograd 23 / 35

Uniformne raspodele - 2D, 3D

Po modelu geometrijske verovatnoce (primeri u 2D):

U krugu B poluprecnika r sa centrom u (0, 0):

f (x , y) =1

r2π· I(x ,y)∈B ;

U kvadratu K sa stranama duzine a,

f (x , y) =1

a2· I(x ,y)∈K

Uniformne raspodele - 2D, 3D

Po modelu geometrijske verovatnoce (primeri u 2D):

U krugu B poluprecnika r sa centrom u (0, 0):

f (x , y) =1

r2π· I(x ,y)∈B ;

U kvadratu K sa stranama duzine a,

f (x , y) =1

a2· I(x ,y)∈K

Nezavisne slucajne promenljive

Slucajne promenljive X ,Y ,Z , . . . su nezavisne ako su njihovi dogadajiX ∈ A, Y ∈ B, Z ∈ C ,. . . nezavisni za proizvoljne skupove A,B,C , . . .

Teorema 3.6a) Opsti slucaj: Slucajne promenljive X i Y su nezavisne ako i samo ako

u svakoj tacki (x , y) ∈ R2 vazi da je

F(X ,Y )(x , y) = FX (x)FY (y).

b) Diskretan slucaj: Vektor (X ,Y ) uzima vrednosti (xj , yk),j , k = 1, 2, . . .. Slucajne promenljive X i Y su nezavisne ako i samo ako je

P(X = xj ,Y = yk) = P(X = xj)P(Y = yk) (j , k = 1, 2, . . .).

c) Neprekidan slucaj: Slucajne promenljive X i Y su nezavisne ako i samoako ako postoje gustine f(X ,Y ), fX i fY , takve da je

f(X ,Y )(x , y) = fX (x)fY (y)

za svako (x , y) ∈ R2 ili samo dve funkcije f (x) i g(y) tako da je

f(X ,Y )(x , y) = f (x)g(y)

Primer 69.Gustina slucajnog vektora (X ,Y ) data je sa

f (x , y) = 6e−2x−3y , (x , y ≥ 0), f (x , y) = 0, (x < 0 ili y < 0).

Da li su X i Y nezavisne slucajne promenljive?

Primer 71. Zajednicka gustina raspodele slucajnog vektora (X ,Y ) je

f (x , y) =

12xy 0 ≤ x ≤ y , 0 ≤ y ≤ 2,

0 inace

Da li su X i Y nezavisne ?

Primer 72. - Buffon-ov problem U ravni je dat skup paralelnih pravih,pri cemu je rastojanje izmedu susednih pravih 2a, a > 0. Na ravan se bacaigla duzine 2l (l < a). Odrediti verovatnocu da igla sece neku od pravih.

Slika 23. Uz Buffonov problem bacanja igle.

R: 2laπ

Uzorak obima n iz raspodele

Niz od n nezavisnih slucajnih promenljivih sa istom raspodelom je najcescimodel za uzorak iz odredene raspodele. Primer: Registrujemo signal Xt un vremenskih trenutaka i dobijamo uzorak obima n: X1, . . . ,Xn. Ukolikose moze pretpostaviti da imaju istu raspodelu i da su nezavisni, ovo jenezavisni uzorak iz te raspodele.

Funkcije slucajnih promenljivih

Zadatak: Znajuci raspodelu za X , naci raspodelu za Y = g(X )

Y = X 3

Y = X 2

Opsti slucaj ide slicno (Teorema 3.7 na strani 75, primer 76).

Primer sa diskretnom raspodelom: Primer 79 na strani 77.

Y = X 3

Y = X 2

Y = X 3

Y = X 2

Y = X 3

Y = X 2

Y = X 3

Y = X 2

Y = X 3

Y = X 2

Funkcije slucajnih vektora

Diskretni slucaj: preko tablica, primer 80.

Neprekidni slucaj: preko integrala, primeri 82,83.

Primer 81 Ako su X i Y nezavisne sa gustinama fX i fY , gustina njihovogzbira je

fX+Y (t) =

∫ +∞

−∞fX (x)fY (t − x) dx =

∫ +∞

−∞fY (y)fX (t − y) dy .

(konvolucija)

fX+Y (t) =

∫ +∞

−∞fX (x)fY (t − x) dx =

∫ +∞

−∞fY (y)fX (t − y) dy .

(konvolucija)

fX+Y (t) =

∫ +∞

−∞fX (x)fY (t − x) dx =

∫ +∞

−∞fY (y)fX (t − y) dy .

(konvolucija)

fX+Y (t) =

∫ +∞

−∞fX (x)fY (t − x) dx =

∫ +∞

−∞fY (y)fX (t − y) dy .

(konvolucija)

Varijacioni niz - order statistics

Polazimo od uzorka obima n (nezavisne s.p. sa istom raspodelom)

X1,X2, . . . ,Xn

Kada se vrednosti urede u neopadajucem poretku, dobija sevarijacioni niz

X(1) ≤ X(2) ≤ · · ·X(n).

Primer: Za uzorak sa brojnim vrednostima

65 79 70 73 67 74 66 63 58 68 71 75 64 68 63 63 77 72 67 77

realizovani varijacioni niz je

58 63 63 63 64 65 66 67 67 68 68 70 71 72 73 74 75 77 77 79

Clanovi varijacionog niza nisu nezavisni i nemaju istu raspodelu.

X1,X2, . . . ,Xn

X(1) ≤ X(2) ≤ · · ·X(n).

65 79 70 73 67 74 66 63 58 68 71 75 64 68 63 63 77 72 67 77

58 63 63 63 64 65 66 67 67 68 68 70 71 72 73 74 75 77 77 79

X1,X2, . . . ,Xn

X(1) ≤ X(2) ≤ · · ·X(n).

65 79 70 73 67 74 66 63 58 68 71 75 64 68 63 63 77 72 67 77

58 63 63 63 64 65 66 67 67 68 68 70 71 72 73 74 75 77 77 79

Raspodele clanova varijacionog niza

Neka je F raspodela iz koje dolazi nezavisni uzorak X1, . . . ,Xn.

Maksimum: Fn(t) = P(X(n) ≤ t) = (F (t))n

Minimum: F1(t) = P(X(1) ≤ t) = 1− (1− F (t))n

Opsti sluaj: Fk(t) = P(X(k) ≤ t) =∑n

)F j(t)(1− F (t))n−j

Za vezbu: zadaci 56-61, 63, 67-70, 72-7562,64,66,71

Profesor Milan Merkle [email protected] milanmerkle.etf.rs...

Documents

Transcript of Profesor Milan Merkle [email protected] milanmerkle.etf.rs...