Suurima toepara meetod
Eesmark: Antud konkreetse valimi {x1, . . . , xn} pohjal leidajaotuse Pϑ parameetri(te) ϑ = (ϑ1, . . . , ϑm) selline vaartus t, etjuhusliku valimi korral uldkogumist teoreetilise jaotusega Pϑ olekskonkreetse valimi {x1, . . . , xn} saamine suurim siis kui ϑ = t.
Kirjutame valja tingimuse:
PX (X1 = x1, . . . ,Xn = xn;ϑ) =n∏
i=1
PX (Xi = xi ;ϑ).
Kasutades suurima toepara meetodit leitakse parameetri(te) ϑhinnang ϑ∗ selliselt, et
PX (X1 = x1, . . . ,Xn = xn;ϑ∗) = maxϑ∈Θ
n∏i=1
PX (Xi = xi ;ϑ).
Selleks leiame toeparafunktsiooni maksimumi hulgal Θ:
L(x1, . . . , xn;ϑ) = PX (X1 = x1, . . . ,Xn = xn;ϑ) =n∏
i=1
PX (Xi = xi ;ϑ).
Suurima toepara meetod
Eesmark: Antud konkreetse valimi {x1, . . . , xn} pohjal leidajaotuse Pϑ parameetri(te) ϑ = (ϑ1, . . . , ϑm) selline vaartus t, etjuhusliku valimi korral uldkogumist teoreetilise jaotusega Pϑ olekskonkreetse valimi {x1, . . . , xn} saamine suurim siis kui ϑ = t.Kirjutame valja tingimuse:
PX (X1 = x1, . . . ,Xn = xn;ϑ) =n∏
i=1
PX (Xi = xi ;ϑ).
Kasutades suurima toepara meetodit leitakse parameetri(te) ϑhinnang ϑ∗ selliselt, et
PX (X1 = x1, . . . ,Xn = xn;ϑ∗) = maxϑ∈Θ
n∏i=1
PX (Xi = xi ;ϑ).
Selleks leiame toeparafunktsiooni maksimumi hulgal Θ:
L(x1, . . . , xn;ϑ) = PX (X1 = x1, . . . ,Xn = xn;ϑ) =n∏
i=1
PX (Xi = xi ;ϑ).
Suurima toepara meetod
Eesmark: Antud konkreetse valimi {x1, . . . , xn} pohjal leidajaotuse Pϑ parameetri(te) ϑ = (ϑ1, . . . , ϑm) selline vaartus t, etjuhusliku valimi korral uldkogumist teoreetilise jaotusega Pϑ olekskonkreetse valimi {x1, . . . , xn} saamine suurim siis kui ϑ = t.Kirjutame valja tingimuse:
PX (X1 = x1, . . . ,Xn = xn;ϑ) =n∏
i=1
PX (Xi = xi ;ϑ).
Kasutades suurima toepara meetodit leitakse parameetri(te) ϑhinnang ϑ∗ selliselt, et
PX (X1 = x1, . . . ,Xn = xn;ϑ∗) = maxϑ∈Θ
n∏i=1
PX (Xi = xi ;ϑ).
Selleks leiame toeparafunktsiooni maksimumi hulgal Θ:
L(x1, . . . , xn;ϑ) = PX (X1 = x1, . . . ,Xn = xn;ϑ) =n∏
i=1
PX (Xi = xi ;ϑ).
Suurima toepara meetod
Eesmark: Antud konkreetse valimi {x1, . . . , xn} pohjal leidajaotuse Pϑ parameetri(te) ϑ = (ϑ1, . . . , ϑm) selline vaartus t, etjuhusliku valimi korral uldkogumist teoreetilise jaotusega Pϑ olekskonkreetse valimi {x1, . . . , xn} saamine suurim siis kui ϑ = t.Kirjutame valja tingimuse:
PX (X1 = x1, . . . ,Xn = xn;ϑ) =n∏
i=1
PX (Xi = xi ;ϑ).
Kasutades suurima toepara meetodit leitakse parameetri(te) ϑhinnang ϑ∗ selliselt, et
PX (X1 = x1, . . . ,Xn = xn;ϑ∗) = maxϑ∈Θ
n∏i=1
PX (Xi = xi ;ϑ).
Selleks leiame toeparafunktsiooni maksimumi hulgal Θ:
L(x1, . . . , xn;ϑ) = PX (X1 = x1, . . . ,Xn = xn;ϑ) =n∏
i=1
PX (Xi = xi ;ϑ).
Kasutades logaritmfunktsiooni monotoonsust, st. kuiL(x1, . . . , xn;ϑ) saavutab maksimumi punktis ϑ = ϑ∗, siis kalogaritmiline toeparafunktsioon
l(x1, . . . , xn;ϑ) = ln L(x1, . . . , xn;ϑ) =n∑
i=1
lnPX (Xi = xi ;ϑ)
saavutab maksimumi punktis ϑ = ϑ∗
, s.t.
l(x1, . . . , xn;ϑ∗) = maxϑ∈Θ
l(x1, . . . , xn;ϑ).
Hinnangu ϑ∗ leidmiseks peame lahendama vorrandisusteemi
∂
∂ϑkl(x1, . . . , xn;ϑ) =
∂
∂ϑk
n∑i=1
lnPX (Xi = xi ;ϑ) = 0, (k = 1, . . . ,m)
tingimusel ϑ ∈ Θ ning kontrollima, kas tegemist onmaksimumpunktiga.
Kasutades logaritmfunktsiooni monotoonsust, st. kuiL(x1, . . . , xn;ϑ) saavutab maksimumi punktis ϑ = ϑ∗, siis kalogaritmiline toeparafunktsioon
l(x1, . . . , xn;ϑ) = ln L(x1, . . . , xn;ϑ) =n∑
i=1
lnPX (Xi = xi ;ϑ)
saavutab maksimumi punktis ϑ = ϑ∗, s.t.
l(x1, . . . , xn;ϑ∗) = maxϑ∈Θ
l(x1, . . . , xn;ϑ).
Hinnangu ϑ∗ leidmiseks peame lahendama vorrandisusteemi
∂
∂ϑkl(x1, . . . , xn;ϑ) =
∂
∂ϑk
n∑i=1
lnPX (Xi = xi ;ϑ) = 0, (k = 1, . . . ,m)
tingimusel ϑ ∈ Θ ning kontrollima, kas tegemist onmaksimumpunktiga.
Kasutades logaritmfunktsiooni monotoonsust, st. kuiL(x1, . . . , xn;ϑ) saavutab maksimumi punktis ϑ = ϑ∗, siis kalogaritmiline toeparafunktsioon
l(x1, . . . , xn;ϑ) = ln L(x1, . . . , xn;ϑ) =n∑
i=1
lnPX (Xi = xi ;ϑ)
saavutab maksimumi punktis ϑ = ϑ∗, s.t.
l(x1, . . . , xn;ϑ∗) = maxϑ∈Θ
l(x1, . . . , xn;ϑ).
Hinnangu ϑ∗ leidmiseks peame lahendama vorrandisusteemi
∂
∂ϑkl(x1, . . . , xn;ϑ) =
∂
∂ϑk
n∑i=1
lnPX (Xi = xi ;ϑ) = 0, (k = 1, . . . ,m)
tingimusel ϑ ∈ Θ ning kontrollima, kas tegemist onmaksimumpunktiga.
Naide: Poissoni jaotus
Leiame Poissoni jaotuse parameetri λ hinnangu.
P(Xi = xi ) = e−λλxi/xi !.
L(x1, . . . , xn;λ) =n∏
i=1
e−λλxi
xi !.
Laheme ule logaritmilisele toeparafunktsioonile:
l(x1, . . . , xn;λ) =n∑
i=1
ln
(e−λ
λxi
xi !
)= −nλ+lnλ
n∑i=1
xi−n∑
i=1
ln(xi !)
Leiame tuletise nullkohad tingimusel λ > 0.
dl
dλ= −n +
1
λ
n∑i=1
xi = 0 ⇒ λ =1
n
n∑i=1
xi .
Kunad2l
dλ2= − 1
λ2
n∑i=1
xi < 0,
siis on tegemist maksimumiga.
Naide: Poissoni jaotus
Leiame Poissoni jaotuse parameetri λ hinnangu.P(Xi = xi ) = e−λλxi/xi !.
L(x1, . . . , xn;λ) =n∏
i=1
e−λλxi
xi !.
Laheme ule logaritmilisele toeparafunktsioonile:
l(x1, . . . , xn;λ) =n∑
i=1
ln
(e−λ
λxi
xi !
)= −nλ+lnλ
n∑i=1
xi−n∑
i=1
ln(xi !)
Leiame tuletise nullkohad tingimusel λ > 0.
dl
dλ= −n +
1
λ
n∑i=1
xi = 0 ⇒ λ =1
n
n∑i=1
xi .
Kunad2l
dλ2= − 1
λ2
n∑i=1
xi < 0,
siis on tegemist maksimumiga.
Naide: Poissoni jaotus
Leiame Poissoni jaotuse parameetri λ hinnangu.P(Xi = xi ) = e−λλxi/xi !.
L(x1, . . . , xn;λ) =n∏
i=1
e−λλxi
xi !.
Laheme ule logaritmilisele toeparafunktsioonile:
l(x1, . . . , xn;λ) =n∑
i=1
ln
(e−λ
λxi
xi !
)= −nλ+lnλ
n∑i=1
xi−n∑
i=1
ln(xi !)
Leiame tuletise nullkohad tingimusel λ > 0.
dl
dλ= −n +
1
λ
n∑i=1
xi = 0 ⇒ λ =1
n
n∑i=1
xi .
Kunad2l
dλ2= − 1
λ2
n∑i=1
xi < 0,
siis on tegemist maksimumiga.
Naide: Poissoni jaotus
Leiame Poissoni jaotuse parameetri λ hinnangu.P(Xi = xi ) = e−λλxi/xi !.
L(x1, . . . , xn;λ) =n∏
i=1
e−λλxi
xi !.
Laheme ule logaritmilisele toeparafunktsioonile:
l(x1, . . . , xn;λ) =n∑
i=1
ln
(e−λ
λxi
xi !
)= −nλ+lnλ
n∑i=1
xi−n∑
i=1
ln(xi !)
Leiame tuletise nullkohad tingimusel λ > 0.
dl
dλ= −n +
1
λ
n∑i=1
xi = 0 ⇒ λ =1
n
n∑i=1
xi .
Kunad2l
dλ2= − 1
λ2
n∑i=1
xi < 0,
siis on tegemist maksimumiga.
Naide: geomeetriline jaotus
Leiame geomeetrilise jaotuse P(X = k) = (1− p)pk−1 parameetrip hinnangu.
Kasutame logaritmilist toeparafunktsiooni
l(x1, . . . , xn; p) = ln
(n∏
i=1
pxi−1(1− p)
)
=n∑
i=1
[(xi − 1) ln p + ln(1− p)]
= n ln(1− p) + ln pn∑
i=1
xi − n ln p
Leiame tuletise nullkoha
dl
dp=−n
1− p+
1
p
n∑i=1
xi −n
p= 0 ⇒ p = 1− 1
x.
Naide: geomeetriline jaotus
Leiame geomeetrilise jaotuse P(X = k) = (1− p)pk−1 parameetrip hinnangu. Kasutame logaritmilist toeparafunktsiooni
l(x1, . . . , xn; p) = ln
(n∏
i=1
pxi−1(1− p)
)
=n∑
i=1
[(xi − 1) ln p + ln(1− p)]
= n ln(1− p) + ln pn∑
i=1
xi − n ln p
Leiame tuletise nullkoha
dl
dp=−n
1− p+
1
p
n∑i=1
xi −n
p= 0 ⇒ p = 1− 1
x.
Naide: geomeetriline jaotus
Leiame geomeetrilise jaotuse P(X = k) = (1− p)pk−1 parameetrip hinnangu. Kasutame logaritmilist toeparafunktsiooni
l(x1, . . . , xn; p) = ln
(n∏
i=1
pxi−1(1− p)
)
=n∑
i=1
[(xi − 1) ln p + ln(1− p)]
= n ln(1− p) + ln pn∑
i=1
xi − n ln p
Leiame tuletise nullkoha
dl
dp=−n
1− p+
1
p
n∑i=1
xi −n
p= 0 ⇒ p = 1− 1
x.
STP pideva jaotuse korral
Kui pideva js. X jaotus soltub parameetri(te)st ϑ = (ϑ1, . . . , ϑm),st. jaotustihedusel on kuju f (x ;ϑ). Valimi elementidesoltumatusest saame
f (x1, . . . , xn;ϑ) =n∏
i=1
f (xi ;ϑ).
Tegemist on valimi jaotustihedusega.
Parameetri(te) ϑ hinnang ϑ∗ valitakse selliselt, et
f (x1, . . . , xn;ϑ∗) = maxϑ∈Θ
f (x1, . . . , xn;ϑ) = maxϑ∈Θ
(n∏
i=1
f (xi ;ϑ)
).
Toeparafunktsiooniks on pideva juhusliku suuruse korral funktsioon
L(x1, . . . , xn;ϑ) =n∏
i=1
f (xi ;ϑ).
STP pideva jaotuse korral
Kui pideva js. X jaotus soltub parameetri(te)st ϑ = (ϑ1, . . . , ϑm),st. jaotustihedusel on kuju f (x ;ϑ). Valimi elementidesoltumatusest saame
f (x1, . . . , xn;ϑ) =n∏
i=1
f (xi ;ϑ).
Tegemist on valimi jaotustihedusega.Parameetri(te) ϑ hinnang ϑ∗ valitakse selliselt, et
f (x1, . . . , xn;ϑ∗) = maxϑ∈Θ
f (x1, . . . , xn;ϑ) = maxϑ∈Θ
(n∏
i=1
f (xi ;ϑ)
).
Toeparafunktsiooniks on pideva juhusliku suuruse korral funktsioon
L(x1, . . . , xn;ϑ) =n∏
i=1
f (xi ;ϑ).
STP pideva jaotuse korral
Kui pideva js. X jaotus soltub parameetri(te)st ϑ = (ϑ1, . . . , ϑm),st. jaotustihedusel on kuju f (x ;ϑ). Valimi elementidesoltumatusest saame
f (x1, . . . , xn;ϑ) =n∏
i=1
f (xi ;ϑ).
Tegemist on valimi jaotustihedusega.Parameetri(te) ϑ hinnang ϑ∗ valitakse selliselt, et
f (x1, . . . , xn;ϑ∗) = maxϑ∈Θ
f (x1, . . . , xn;ϑ) = maxϑ∈Θ
(n∏
i=1
f (xi ;ϑ)
).
Toeparafunktsiooniks on pideva juhusliku suuruse korral funktsioon
L(x1, . . . , xn;ϑ) =n∏
i=1
f (xi ;ϑ).
Logaritmiliseks toeparafunktsiooniks nimetatakse funktsiooni
l(x1, . . . , xn;ϑ) = ln L(x1, . . . , xn;ϑ) =n∑
i=1
ln f (xi ;ϑ).
Statsionaarsete punktide leidmiseks tuleb lahendadavorrandisusteem (m vorrandist)
∂
∂ϑk
n∑i=1
ln f (xi ;ϑ) = 0 (k = 1, . . . ,m).
Logaritmiliseks toeparafunktsiooniks nimetatakse funktsiooni
l(x1, . . . , xn;ϑ) = ln L(x1, . . . , xn;ϑ) =n∑
i=1
ln f (xi ;ϑ).
Statsionaarsete punktide leidmiseks tuleb lahendadavorrandisusteem (m vorrandist)
∂
∂ϑk
n∑i=1
ln f (xi ;ϑ) = 0 (k = 1, . . . ,m).
Naide: eksponentjaotus
Leiame eksponentjaotuse f (x) = λ exp(−λx) (x > 0) parameetri λhinnangu STP abil.
Moodustame logaritmilise toeparafunktsiooni
l(x1, . . . , xn;λ) =n∑
i=1
ln(λe−λxi
)=
n∑i=1
[ln(λ)−λxi ] = n lnλ−λn∑
i=1
xi .
Leiame statsionaarse punkti
dl
dλ=
n
λ−
n∑i=1
xi = 0 ⇒ λ∗ =1
n
n∑i=1
xi .
Kunad2l
dλ2= − n
λ2< 0,
siis on tegemist lokaalse maksimumiga, mis osutub ka globaalseksmaksimumiks.
Naide: eksponentjaotus
Leiame eksponentjaotuse f (x) = λ exp(−λx) (x > 0) parameetri λhinnangu STP abil.Moodustame logaritmilise toeparafunktsiooni
l(x1, . . . , xn;λ) =n∑
i=1
ln(λe−λxi
)=
n∑i=1
[ln(λ)−λxi ] = n lnλ−λn∑
i=1
xi .
Leiame statsionaarse punkti
dl
dλ=
n
λ−
n∑i=1
xi = 0 ⇒ λ∗ =1
n
n∑i=1
xi .
Kunad2l
dλ2= − n
λ2< 0,
siis on tegemist lokaalse maksimumiga, mis osutub ka globaalseksmaksimumiks.
Naide: eksponentjaotus
Leiame eksponentjaotuse f (x) = λ exp(−λx) (x > 0) parameetri λhinnangu STP abil.Moodustame logaritmilise toeparafunktsiooni
l(x1, . . . , xn;λ) =n∑
i=1
ln(λe−λxi
)=
n∑i=1
[ln(λ)−λxi ] = n lnλ−λn∑
i=1
xi .
Leiame statsionaarse punkti
dl
dλ=
n
λ−
n∑i=1
xi = 0 ⇒ λ∗ =1
n
n∑i=1
xi .
Kunad2l
dλ2= − n
λ2< 0,
siis on tegemist lokaalse maksimumiga, mis osutub ka globaalseksmaksimumiks.
Naide: eksponentjaotus
Leiame eksponentjaotuse f (x) = λ exp(−λx) (x > 0) parameetri λhinnangu STP abil.Moodustame logaritmilise toeparafunktsiooni
l(x1, . . . , xn;λ) =n∑
i=1
ln(λe−λxi
)=
n∑i=1
[ln(λ)−λxi ] = n lnλ−λn∑
i=1
xi .
Leiame statsionaarse punkti
dl
dλ=
n
λ−
n∑i=1
xi = 0 ⇒ λ∗ =1
n
n∑i=1
xi .
Kunad2l
dλ2= − n
λ2< 0,
siis on tegemist lokaalse maksimumiga, mis osutub ka globaalseksmaksimumiks.
Naide: Rayleigh’ jaotus
Leiame Rayleigh’ jaotuse f (x) = 2h2x exp(−h2x2) (x > 0)parameetri h hinnangu STP abil.
l(x1, . . . , xn;λ) =n∑
i=1
ln(
2h2e−h2x2
i
)=
n∑i=1
[ln(2) + 2 ln(h)− h2x2i ]
= n ln(2) + 2n ln(h)− h2n∑
i=1
x2i .
Leiame statsionaarse punkti
dl
dh=
2n
h− 2h
n∑i=1
x2i = 0 ⇒ h∗ =
√n∑n
i=1 x2i
.
d2l
dh2= −2n
h2− 2
n∑i=1
x2i < 0 ⇒ maksimum.
Naide: Rayleigh’ jaotus
Leiame Rayleigh’ jaotuse f (x) = 2h2x exp(−h2x2) (x > 0)parameetri h hinnangu STP abil.
l(x1, . . . , xn;λ) =n∑
i=1
ln(
2h2e−h2x2
i
)=
n∑i=1
[ln(2) + 2 ln(h)− h2x2i ]
= n ln(2) + 2n ln(h)− h2n∑
i=1
x2i .
Leiame statsionaarse punkti
dl
dh=
2n
h− 2h
n∑i=1
x2i = 0 ⇒ h∗ =
√n∑n
i=1 x2i
.
d2l
dh2= −2n
h2− 2
n∑i=1
x2i < 0 ⇒ maksimum.
Naide: Rayleigh’ jaotus
Leiame Rayleigh’ jaotuse f (x) = 2h2x exp(−h2x2) (x > 0)parameetri h hinnangu STP abil.
l(x1, . . . , xn;λ) =n∑
i=1
ln(
2h2e−h2x2
i
)=
n∑i=1
[ln(2) + 2 ln(h)− h2x2i ]
= n ln(2) + 2n ln(h)− h2n∑
i=1
x2i .
Leiame statsionaarse punkti
dl
dh=
2n
h− 2h
n∑i=1
x2i = 0 ⇒ h∗ =
√n∑n
i=1 x2i
.
d2l
dh2= −2n
h2− 2
n∑i=1
x2i < 0 ⇒ maksimum.
Naide: Rayleigh’ jaotus
Leiame Rayleigh’ jaotuse f (x) = 2h2x exp(−h2x2) (x > 0)parameetri h hinnangu STP abil.
l(x1, . . . , xn;λ) =n∑
i=1
ln(
2h2e−h2x2
i
)=
n∑i=1
[ln(2) + 2 ln(h)− h2x2i ]
= n ln(2) + 2n ln(h)− h2n∑
i=1
x2i .
Leiame statsionaarse punkti
dl
dh=
2n
h− 2h
n∑i=1
x2i = 0 ⇒ h∗ =
√n∑n
i=1 x2i
.
d2l
dh2= −2n
h2− 2
n∑i=1
x2i < 0 ⇒ maksimum.
Naide: normaaljaotus
Leiame normaaljaotuse f (x) =1
σ√
2πexp
(−(x − a)2
2σ2
)parameetrite a ja σ hinnangud STP abil.
l(x1, . . . , xn; a, σ) =n∑
i=1
ln1
σ√
2πexp
(−(xi − a)2
2σ2
)
=n∑
i=1
[− lnσ − ln
√2π − (xi − a)2
2σ2
]
= −n lnσ − n ln√
2π − 1
2σ2
n∑i=1
(xi − a)2
Statsionaarsete punktide leidmiseks lahendame vorrandisusteemi:∂l
∂a= − 1
2σ2
∑ni=1(xi − a) · 2 · (−1) =
1
σ2
∑ni=1(xi − a) = 0
∂l
∂σ= −n
σ+
1
σ3
∑ni=1(xi − a)2 = 0
Naide: normaaljaotus
Leiame normaaljaotuse f (x) =1
σ√
2πexp
(−(x − a)2
2σ2
)parameetrite a ja σ hinnangud STP abil.
l(x1, . . . , xn; a, σ) =n∑
i=1
ln1
σ√
2πexp
(−(xi − a)2
2σ2
)
=n∑
i=1
[− lnσ − ln
√2π − (xi − a)2
2σ2
]
= −n lnσ − n ln√
2π − 1
2σ2
n∑i=1
(xi − a)2
Statsionaarsete punktide leidmiseks lahendame vorrandisusteemi:∂l
∂a= − 1
2σ2
∑ni=1(xi − a) · 2 · (−1) =
1
σ2
∑ni=1(xi − a) = 0
∂l
∂σ= −n
σ+
1
σ3
∑ni=1(xi − a)2 = 0
Naide: normaaljaotus
Leiame normaaljaotuse f (x) =1
σ√
2πexp
(−(x − a)2
2σ2
)parameetrite a ja σ hinnangud STP abil.
l(x1, . . . , xn; a, σ) =n∑
i=1
ln1
σ√
2πexp
(−(xi − a)2
2σ2
)
=n∑
i=1
[− lnσ − ln
√2π − (xi − a)2
2σ2
]
= −n lnσ − n ln√
2π − 1
2σ2
n∑i=1
(xi − a)2
Statsionaarsete punktide leidmiseks lahendame vorrandisusteemi:∂l
∂a= − 1
2σ2
∑ni=1(xi − a) · 2 · (−1) =
1
σ2
∑ni=1(xi − a) = 0
∂l
∂σ= −n
σ+
1
σ3
∑ni=1(xi − a)2 = 0
Statsionaarsete punktide leidmiseks lahendame vorrandisusteemi:∂l
∂a= − 1
2σ2
∑ni=1(xi − a) · 2 · (−1) =
1
σ2
∑ni=1(xi − a) = 0
∂l
∂σ= −n
σ+
1
σ3
∑ni=1(xi − a)2 = 0
a∗ =1
n
n∑i=1
xi = x ∧ σ∗2 =1
n
n∑i=1
(xi − x)2.
Naide: Weibulli jaotus
Leiame Weibulli jaotuse f (x) = αλxα−1 exp(−λxα) (x > 0)parameetrite α > 0 ja λ > 0 hinnangud STP abil.
Moodustame logaritmilise toeparafunktsiooni
l(x1, . . . , xn;α, λ) =n∑
i=1
ln(αλxα−1
i exp(−λxαi ))
=n∑
i=1
[lnα + lnλ+ (α− 1) ln xi − λxαi ]
= n lnα + n lnλ+ (α− 1)n∑
i=1
ln xi − λn∑
i=1
xαi
Statsionaarsete punktide leidmiseks lahendame vorrandisusteemi∂l
∂α=
n
α+∑n
i=1 ln xi − λ∑n
i=1 αxα−1i = 0
∂l
∂λ=
n
λ−∑n
i=1 xαi = 0
Naide: Weibulli jaotus
Leiame Weibulli jaotuse f (x) = αλxα−1 exp(−λxα) (x > 0)parameetrite α > 0 ja λ > 0 hinnangud STP abil.Moodustame logaritmilise toeparafunktsiooni
l(x1, . . . , xn;α, λ) =n∑
i=1
ln(αλxα−1
i exp(−λxαi ))
=n∑
i=1
[lnα + lnλ+ (α− 1) ln xi − λxαi ]
= n lnα + n lnλ+ (α− 1)n∑
i=1
ln xi − λn∑
i=1
xαi
Statsionaarsete punktide leidmiseks lahendame vorrandisusteemi∂l
∂α=
n
α+∑n
i=1 ln xi − λ∑n
i=1 αxα−1i = 0
∂l
∂λ=
n
λ−∑n
i=1 xαi = 0
∂l
∂α=
n
α+∑n
i=1 ln xi − λ∑n
i=1 αxα−1i = 0
∂l
∂λ=
n
λ−∑n
i=1 xαi = 0 ⇒ 1
λ=
1
n
∑ni=1 x
αi ⇔ λ =
n∑ni=1 x
αi
Asendame λ avaldise esimesse vorrandisse ning saame
n
α+
n∑i=1
ln xi −n∑n
i=1 xαi
·n∑
i=1
αxα−1i = 0
�
�STP rakendamine voib viia mittelineaarsete
vorrandisusteemide lahendamisele!
∂l
∂α=
n
α+∑n
i=1 ln xi − λ∑n
i=1 αxα−1i = 0
∂l
∂λ=
n
λ−∑n
i=1 xαi = 0 ⇒ 1
λ=
1
n
∑ni=1 x
αi ⇔ λ =
n∑ni=1 x
αi
Asendame λ avaldise esimesse vorrandisse ning saame
n
α+
n∑i=1
ln xi −n∑n
i=1 xαi
·n∑
i=1
αxα−1i = 0
�
�STP rakendamine voib viia mittelineaarsete
vorrandisusteemide lahendamisele!
∂l
∂α=
n
α+∑n
i=1 ln xi − λ∑n
i=1 αxα−1i = 0
∂l
∂λ=
n
λ−∑n
i=1 xαi = 0 ⇒ 1
λ=
1
n
∑ni=1 x
αi ⇔ λ =
n∑ni=1 x
αi
Asendame λ avaldise esimesse vorrandisse ning saame
n
α+
n∑i=1
ln xi −n∑n
i=1 xαi
·n∑
i=1
αxα−1i = 0
�
�STP rakendamine voib viia mittelineaarsete
vorrandisusteemide lahendamisele!
Teooria
Lause 1Kui eksisteerib parameetri α (st. jaotusel on ainult uks parameeter)efektiivne punkthinnang α∗, siis toeparavorrand
∂
∂α
n∑i=1
ln f (xi ;α) = 0 (1)
∂
∂α
n∑i=1
lnPX (Xi = xi ;α) = 0 (2)
on uheselt lahenduv ja lahendiks on see efektiivne hinnang.
NB! Viimane vaide ei anna mingit infot selle kohta, kui parameetrilα ei ole efektiivset punkthinnangut.
χ2-test empiirilise jaotuse vordlemiseks teoreetilisega
Praktikas esineb sageli olukordi, kui on antud pideva juhuslikusuuruse X valim (naiteks pinge elektrivorgus moodetuna mingispunktis, tuule tugevus, tuule suund jne). Sellisel juhul onotstarbekas jaotada valim klassidesse ja moodustada klassidesagedustabel
klass [a0, a1) [a1, a2) · · · [am−1, am]
sagedus n′1 n′2 · · · n′m
kus klasside arv m maaratakse jargnevalt
valimi maht n alla 50 50− 100 100− 250 ule 250
klasside arv m 5− 7 6− 10 7− 12 10− 20
Moned autorid soovitavad klasside arvuks m votta√n taisosa.
Uhesuguse ulatusega klasside korral valitakse
h =xn − x1
m, a0 = x1, ai = a0 + ih (i = 1, . . . ,m)
h =xn − x1
m − 1, a0 = x1 − h/2, ai = a0 + ih (i = 1, . . . ,m)
χ2-test empiirilise jaotuse vordlemiseks teoreetilisega
Praktikas esineb sageli olukordi, kui on antud pideva juhuslikusuuruse X valim (naiteks pinge elektrivorgus moodetuna mingispunktis, tuule tugevus, tuule suund jne). Sellisel juhul onotstarbekas jaotada valim klassidesse ja moodustada klassidesagedustabel
klass [a0, a1) [a1, a2) · · · [am−1, am]
sagedus n′1 n′2 · · · n′m
kus klasside arv m maaratakse jargnevalt
valimi maht n alla 50 50− 100 100− 250 ule 250
klasside arv m 5− 7 6− 10 7− 12 10− 20
Moned autorid soovitavad klasside arvuks m votta√n taisosa.
Uhesuguse ulatusega klasside korral valitakse
h =xn − x1
m, a0 = x1, ai = a0 + ih (i = 1, . . . ,m)
h =xn − x1
m − 1, a0 = x1 − h/2, ai = a0 + ih (i = 1, . . . ,m)
Oletades, et teoreetiline jaotus on kas P(X = x) (diskreetsel juhul)voi teoreetiline jaotusfunktsioon FX (x) (pideval juhul).
��
��
Peame teadma tapset jaotust voi jaotusfunktsioo-ni! NB! Jaotuse parameetritel peavad olema kind-lad arvulised vaartused!
Hupoteesi H0 :”empiiriline jaotus langeb kokku teoreetilise
jaotusega“ kontrollimiseks moodustatakse teststatistik
θ∗ =m∑i=1
(ni − ni )2
ni,
kus teoreetilised sagedused ni leitakse jargmiselt pideval js. korraljargmiselt
n1 ≈ n·FX (a1), ni ≈ n·(F (ai )−F (ai−1)), nm ≈ n·(1−F (am−1)).
Diskreetse js. korral kasutame js.-i jaotust (diskreetsel juhul onklassid enamasti uheelemendilised)
ni ≈ n · PX (X = xi ), nm ≈ n · PX (X > xm−1),
Oletades, et teoreetiline jaotus on kas P(X = x) (diskreetsel juhul)voi teoreetiline jaotusfunktsioon FX (x) (pideval juhul).��
��
Peame teadma tapset jaotust voi jaotusfunktsioo-ni! NB! Jaotuse parameetritel peavad olema kind-lad arvulised vaartused!
Hupoteesi H0 :”empiiriline jaotus langeb kokku teoreetilise
jaotusega“ kontrollimiseks moodustatakse teststatistik
θ∗ =m∑i=1
(ni − ni )2
ni,
kus teoreetilised sagedused ni leitakse jargmiselt pideval js. korraljargmiselt
n1 ≈ n·FX (a1), ni ≈ n·(F (ai )−F (ai−1)), nm ≈ n·(1−F (am−1)).
Diskreetse js. korral kasutame js.-i jaotust (diskreetsel juhul onklassid enamasti uheelemendilised)
ni ≈ n · PX (X = xi ), nm ≈ n · PX (X > xm−1),
Oletades, et teoreetiline jaotus on kas P(X = x) (diskreetsel juhul)voi teoreetiline jaotusfunktsioon FX (x) (pideval juhul).��
��
Peame teadma tapset jaotust voi jaotusfunktsioo-ni! NB! Jaotuse parameetritel peavad olema kind-lad arvulised vaartused!
Hupoteesi H0 :”empiiriline jaotus langeb kokku teoreetilise
jaotusega“ kontrollimiseks moodustatakse teststatistik
θ∗ =m∑i=1
(ni − ni )2
ni,
kus teoreetilised sagedused ni leitakse jargmiselt pideval js. korraljargmiselt
n1 ≈ n·FX (a1), ni ≈ n·(F (ai )−F (ai−1)), nm ≈ n·(1−F (am−1)).
Diskreetse js. korral kasutame js.-i jaotust (diskreetsel juhul onklassid enamasti uheelemendilised)
ni ≈ n · PX (X = xi ), nm ≈ n · PX (X > xm−1),
Oletades, et teoreetiline jaotus on kas P(X = x) (diskreetsel juhul)voi teoreetiline jaotusfunktsioon FX (x) (pideval juhul).��
��
Peame teadma tapset jaotust voi jaotusfunktsioo-ni! NB! Jaotuse parameetritel peavad olema kind-lad arvulised vaartused!
Hupoteesi H0 :”empiiriline jaotus langeb kokku teoreetilise
jaotusega“ kontrollimiseks moodustatakse teststatistik
θ∗ =m∑i=1
(ni − ni )2
ni,
kus teoreetilised sagedused ni leitakse jargmiselt pideval js. korraljargmiselt
n1 ≈ n·FX (a1), ni ≈ n·(F (ai )−F (ai−1)), nm ≈ n·(1−F (am−1)).
Diskreetse js. korral kasutame js.-i jaotust (diskreetsel juhul onklassid enamasti uheelemendilised)
ni ≈ n · PX (X = xi ), nm ≈ n · PX (X > xm−1),
Kui klassi sagedus on vaiksem kui 5, siis uhendatakse seenaaberklassiga.
Kriitiline piirkond on parempoolne kriitiline piirkond. Kriitilinevaartus θkr = χ2
k−1
(1− α), kus vabadusastmete arv k leitaksevalemist
k = klasside arv− jaotuse parameetrite arv− 1.
Kui klassi sagedus on vaiksem kui 5, siis uhendatakse seenaaberklassiga.Kriitiline piirkond on parempoolne kriitiline piirkond. Kriitilinevaartus θkr = χ2
k−1
(1− α), kus vabadusastmete arv k leitaksevalemist
k = klasside arv− jaotuse parameetrite arv− 1.
Sageli kasutatakse pideva teoreetilise ja empiirilise jaotusevordlemiseks (hupoteesi H0:
”teoreetiline jaotus vastab
empiirilisele“ kontrollimiseks) Kolmogorov-Smirnovi testi (vtpohiopik).
Naide
Mesitarus moodeti kindlas punktis temperatuuri 40 paeva jooksul.Saadi jargmised tulemused:
5,6 7,9 6,1 5,0 8,8 4,4 2,0 5,8 10,1 9,67,1 3,9 5,5 1,3 5,9 4,7 1,5 3,9 -2,4 4,6-1,3 7,2 3,6 3,3 3,8 0,7 2,5 4,4 2,1 2,16,0 9,4 1,4 9,4 7,0 3,9 4,0 4,3 3,4 5,8
Leida teoreetiline jaotusseadus ja kontrollida usaldusnivool 0, 05hupoteesi H0 :
”empiiriline jaotus vastab teoreetilisele“.
m = b√
40c = 6, h =10, 1− (−2, 4)
6≈ 2, 1
[−2, 4;−0, 3) [−0, 3; 1, 8) [1, 8; 3, 9) [3, 9; 6) [6; 8, 1) [8, 1; 10, 2]
2 4 11 13 5 5
Naide
Mesitarus moodeti kindlas punktis temperatuuri 40 paeva jooksul.Saadi jargmised tulemused:
5,6 7,9 6,1 5,0 8,8 4,4 2,0 5,8 10,1 9,67,1 3,9 5,5 1,3 5,9 4,7 1,5 3,9 -2,4 4,6-1,3 7,2 3,6 3,3 3,8 0,7 2,5 4,4 2,1 2,16,0 9,4 1,4 9,4 7,0 3,9 4,0 4,3 3,4 5,8
Leida teoreetiline jaotusseadus ja kontrollida usaldusnivool 0, 05hupoteesi H0 :
”empiiriline jaotus vastab teoreetilisele“.
m = b√
40c = 6, h =10, 1− (−2, 4)
6≈ 2, 1
[−2, 4;−0, 3) [−0, 3; 1, 8) [1, 8; 3, 9) [3, 9; 6) [6; 8, 1) [8, 1; 10, 2]
2 4 11 13 5 5
Histogram of X
X
Density
-2 0 2 4 6 8 10
0.00
0.05
0.10
0.15
Oletame normaaljaotust, leiame
a∗ = x = 4, 61, σ∗ =
√√√√ 1
40
40∑i=1
(xi − x)2 ≈ 2, 83
i xi−1 xi ni FX (xi−1) FX (xi ) ni1 −2, 4 −0, 3 2↓ 0 0, 04 1,65↓2 −0, 3 1, 8 4 0, 04 0, 16 4,763 1, 8 3, 9 11 0, 16 0, 40 9,644 3, 9 6 13 0, 40 0, 69 11,515 6 8, 1 5 0, 69 0, 89 8
6 8, 1 10, 2 5 0, 89 1 4,4
θ∗ =(6− 6, 41)2
6, 41+
(11− 9, 64)2
9, 64+
(13− 11, 51)2
11, 51+
(5− 8)2
8+
(5− 4, 4)2
4, 4
θ∗ = 1, 62, k = 5 − 2− 1 = 2, θkr = χ22−1
(1− 0, 05) = 5, 99.
Kuna θ∗ < θkr , siis ei ole alust nullhupoteesi tagasi lukata.
Oletame normaaljaotust, leiame
a∗ = x = 4, 61, σ∗ =
√√√√ 1
40
40∑i=1
(xi − x)2 ≈ 2, 83
i xi−1 xi ni FX (xi−1) FX (xi ) ni1 −2, 4 −0, 3 2↓ 0 0, 04 1,65↓2 −0, 3 1, 8 4 0, 04 0, 16 4,763 1, 8 3, 9 11 0, 16 0, 40 9,644 3, 9 6 13 0, 40 0, 69 11,515 6 8, 1 5 0, 69 0, 89 8
6 8, 1 10, 2 5 0, 89 1 4,4
θ∗ =(6− 6, 41)2
6, 41+
(11− 9, 64)2
9, 64+
(13− 11, 51)2
11, 51+
(5− 8)2
8+
(5− 4, 4)2
4, 4
θ∗ = 1, 62, k = 5 − 2− 1 = 2, θkr = χ22−1
(1− 0, 05) = 5, 99.
Kuna θ∗ < θkr , siis ei ole alust nullhupoteesi tagasi lukata.
Oletame normaaljaotust, leiame
a∗ = x = 4, 61, σ∗ =
√√√√ 1
40
40∑i=1
(xi − x)2 ≈ 2, 83
i xi−1 xi ni FX (xi−1) FX (xi ) ni1 −2, 4 −0, 3 2↓ 0 0, 04 1,65↓2 −0, 3 1, 8 4 0, 04 0, 16 4,763 1, 8 3, 9 11 0, 16 0, 40 9,644 3, 9 6 13 0, 40 0, 69 11,515 6 8, 1 5 0, 69 0, 89 8
6 8, 1 10, 2 5 0, 89 1 4,4
θ∗ =(6− 6, 41)2
6, 41+
(11− 9, 64)2
9, 64+
(13− 11, 51)2
11, 51+
(5− 8)2
8+
(5− 4, 4)2
4, 4
θ∗ = 1, 62, k = 5 − 2− 1 = 2, θkr = χ22−1
(1− 0, 05) = 5, 99.
Kuna θ∗ < θkr , siis ei ole alust nullhupoteesi tagasi lukata.
Oletame normaaljaotust, leiame
a∗ = x = 4, 61, σ∗ =
√√√√ 1
40
40∑i=1
(xi − x)2 ≈ 2, 83
i xi−1 xi ni FX (xi−1) FX (xi ) ni1 −2, 4 −0, 3 2↓ 0 0, 04 1,65↓2 −0, 3 1, 8 4 0, 04 0, 16 4,763 1, 8 3, 9 11 0, 16 0, 40 9,644 3, 9 6 13 0, 40 0, 69 11,515 6 8, 1 5 0, 69 0, 89 8
6 8, 1 10, 2 5 0, 89 1 4,4
θ∗ =(6− 6, 41)2
6, 41+
(11− 9, 64)2
9, 64+
(13− 11, 51)2
11, 51+
(5− 8)2
8+
(5− 4, 4)2
4, 4
θ∗ = 1, 62, k = 5 − 2− 1 = 2, θkr = χ22−1
(1− 0, 05) = 5, 99.
Kuna θ∗ < θkr , siis ei ole alust nullhupoteesi tagasi lukata.
Histogram of X
X
Density
-2 0 2 4 6 8 10
0.00
0.05
0.10
0.15
Kolmogorov-Smirnovi test tarkvaraga R
http://www.r-project.org
> T<-c(5.6, 7.9,6.1,5,8.8,4.4,2.0,5.8,10.1,9.6,7.1,3.9,5.5,1.3,5.9,4.7,1.5,3.9,-2.4,4.6,-1.3,7.2,
3.6,3.3,3.8,0.7,2.5,4.4,2.1,2.1,6,9.4,1.4,9.4,7,3.9,4,4.3,3.4,5.8)
>
> ks.test(T,"pnorm",4.61,2.83)
One-sample Kolmogorov-Smirnov test
data: T
D = 0.0743, p-value = 0.9801
alternative hypothesis: two-sided
0 2 4 6 8 10
0.2
0.4
0.6
0.8
1.0
xx
pnor
m(x
x, 4
.61,
2.8
3)
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
Naide
Robotiklubi valmistas pealeviskeid sooritava roboti. Testimisel pidirobot 40 korda sooritama vabaviskeid kuni esimese moodaviskeni.
visete arv 1 2 3 4 5
katsete arv 14 13 7 4 2
Leidke teoreetiline jaotusseadus ja kontrollida usaldusnivool 0, 05hupoteesi H0 :
”empiiriline jaotus vastab teoreetilisele“.
Oletamegeomeetrilist jaotust P(X = k) = qpk−1:
p∗ = 1− 1
x= 1− 40
87=
47
87, q∗ = 1− p∗ =
40
87.
n1 ≈ n · q∗ = 18, 4, n2 ≈ n · q∗p∗ = 9, 9, n3 ≈ n · q∗p∗2 = 5, 4
n4 ≈ n · q∗p∗3 = 2, 9, n5 ≈ n · [1− q∗(1 + p∗ + p∗2 + p∗3)] = 3, 4
θ∗ =(14− 18, 4)2
18, 4+
(13− 9, 9)2
9, 9+
(7− 5, 4)2
5, 4+
(6− 6, 3)2
6, 3=
Naide
Robotiklubi valmistas pealeviskeid sooritava roboti. Testimisel pidirobot 40 korda sooritama vabaviskeid kuni esimese moodaviskeni.
visete arv 1 2 3 4 5
katsete arv 14 13 7 4 2
Leidke teoreetiline jaotusseadus ja kontrollida usaldusnivool 0, 05hupoteesi H0 :
”empiiriline jaotus vastab teoreetilisele“. Oletame
geomeetrilist jaotust P(X = k) = qpk−1:
p∗ = 1− 1
x= 1− 40
87=
47
87, q∗ = 1− p∗ =
40
87.
n1 ≈ n · q∗ = 18, 4, n2 ≈ n · q∗p∗ = 9, 9, n3 ≈ n · q∗p∗2 = 5, 4
n4 ≈ n · q∗p∗3 = 2, 9, n5 ≈ n · [1− q∗(1 + p∗ + p∗2 + p∗3)] = 3, 4
θ∗ =(14− 18, 4)2
18, 4+
(13− 9, 9)2
9, 9+
(7− 5, 4)2
5, 4+
(6− 6, 3)2
6, 3=
Naide
Robotiklubi valmistas pealeviskeid sooritava roboti. Testimisel pidirobot 40 korda sooritama vabaviskeid kuni esimese moodaviskeni.
visete arv 1 2 3 4 5
katsete arv 14 13 7 4 2
Leidke teoreetiline jaotusseadus ja kontrollida usaldusnivool 0, 05hupoteesi H0 :
”empiiriline jaotus vastab teoreetilisele“. Oletame
geomeetrilist jaotust P(X = k) = qpk−1:
p∗ = 1− 1
x= 1− 40
87=
47
87, q∗ = 1− p∗ =
40
87.
n1 ≈ n · q∗ = 18, 4, n2 ≈ n · q∗p∗ = 9, 9, n3 ≈ n · q∗p∗2 = 5, 4
n4 ≈ n · q∗p∗3 = 2, 9, n5 ≈ n · [1− q∗(1 + p∗ + p∗2 + p∗3)] = 3, 4
θ∗ =(14− 18, 4)2
18, 4+
(13− 9, 9)2
9, 9+
(7− 5, 4)2
5, 4+
(6− 6, 3)2
6, 3=
Naide
Robotiklubi valmistas pealeviskeid sooritava roboti. Testimisel pidirobot 40 korda sooritama vabaviskeid kuni esimese moodaviskeni.
visete arv 1 2 3 4 5
katsete arv 14 13 7 4 ←2
Leidke teoreetiline jaotusseadus ja kontrollida usaldusnivool 0, 05hupoteesi H0 :
”empiiriline jaotus vastab teoreetilisele“. Oletame
geomeetrilist jaotust P(X = k) = qpk−1:
p∗ = 1− 1
x= 1− 40
87=
47
87, q∗ = 1− p∗ =
40
87.
n1 ≈ n · q∗ = 18, 4, n2 ≈ n · q∗p∗ = 9, 9, n3 ≈ n · q∗p∗2 = 5, 4
n4 ≈ n · q∗p∗3 = 2, 9, n5 ≈ n · [1− q∗(1 + p∗ + p∗2 + p∗3)] = 3, 4
θ∗ =(14− 18, 4)2
18, 4+
(13− 9, 9)2
9, 9+
(7− 5, 4)2
5, 4+
(6− 6, 3)2
6, 3=
θ∗ =(14− 18, 4)2
18, 4+
(13− 9, 9)2
9, 9+
(7− 5, 4)2
5, 4+
(6− 6, 3)2
6, 3= 2, 51
Vabadusastmete arv
k = 4 − 1− 1 = 2, θkr = χ22−1
(1− 0, 05) = 5, 99.
Kuna θ∗ < θkr , siis ei ole alust nullhupoteesi tagasi lukata.
θ∗ =(14− 18, 4)2
18, 4+
(13− 9, 9)2
9, 9+
(7− 5, 4)2
5, 4+
(6− 6, 3)2
6, 3= 2, 51
Vabadusastmete arv
k = 4 − 1− 1 = 2, θkr = χ22−1
(1− 0, 05) = 5, 99.
Kuna θ∗ < θkr , siis ei ole alust nullhupoteesi tagasi lukata.
θ∗ =(14− 18, 4)2
18, 4+
(13− 9, 9)2
9, 9+
(7− 5, 4)2
5, 4+
(6− 6, 3)2
6, 3= 2, 51
Vabadusastmete arv
k = 4 − 1− 1 = 2, θkr = χ22−1
(1− 0, 05) = 5, 99.
Kuna θ∗ < θkr , siis ei ole alust nullhupoteesi tagasi lukata.
> dd <- c(14,13,7,6)
> null.probs <- dgeom(c(0,1,2,3),40/87)
> tt <- 1 - sum(null.probs)
> null.probs[4] <- null.probs[4]+tt
> null.probs * 40
[1] 18.390805 9.935262 5.367326 6.306608
> chisq.test(dd,p=null.probs)
Chi-squared test for given probabilities
data: dd
X-squared = 2.5052, df = 3, p-value = 0.4743
Top Related