file.upi.edufile.upi.edu/Direktori/FPMIPA/JUR._PEND._MATEMATIKA/... · dan matrik ∑dengan p...
Transcript of file.upi.edufile.upi.edu/Direktori/FPMIPA/JUR._PEND._MATEMATIKA/... · dan matrik ∑dengan p...
BAB III
ISI
4.2 Kepadatan Normal Multivariat dan Sifat-sifatnya
Kepadatan normal multivariat merupakan generalisasi dari kepadatan
normal univariat untuk dimensi p ≥ 2.
2[( ) / ] / 2
2
1( )
2
xf x e µ σ
πσ− −= x−∞ < < ∞ (3-1)
( ) ( ) ( )2
12 .x
x xµ µ σ µ
σ−− = − −
(3-2)
Bentuk (3-2) di atas pada fungsi kepadatan normal univariat menunjukan besaran
jarak yang dikuadratkan darix keµ pada satuan standar deviasi. Bentuk ini dapat
digeneralisasi untuk vektor x ( 1p× ) dari suatu observasi pada beberapa variabel
sebagai
( ) ( )1' −− ∑ −x xµ µ (3-3)
Vektorµdengan 1p× menunjukkan nilai harapan (ekspektasi) dari vektor acak X,
dan matrik∑ denganp p× merupakan varian-covarian matrik. Disini
diasumsikan∑ terbatas positif, sehingga (3-3) merupakan generalisasi jarak yang
dikuadratkan dari x ke µ .
Kepadatan normal multivariat didapat dengan mengganti jarak pada
univariat (3-2)jarak multivariat hasil generalisasi (3-3) pada fungsi kepadatan
(3-1). Saat pergantian terjadi, konstanta normal univariat ( ) ( ) 1/ 21/ 2 22π σ−−
juga
harus diganti dengan konstanta umum yang membuat suatu volume dibawah
permukaan fungsi kepadatan multivariat untuk setiap p. Hal ini diperlukan karena
pada multivariat, probabilitas digambarkan oleh volume dibawah permukaan pada
daerah yang didefinisikan oleh interval dari nilaiix . Konstanta yang
menggantikannya adalah( ) / 2 1/ 22 | |pπ − −∑ , kepadatan normal pada dimensi p untuk
vektor acak 1 2[ , ,..., ] 'pX X X=X memiliki bentuk
( )( )
( ) ( )1' / 2/ 2 1/ 2
1
2 | |pf e
π−− − ∑ −=
∑
x µ x µx (3-4)
dimana ix−∞ < < ∞ , bentuk ini akan diotasikan dengan ( ),pN ∑µ .
Pada persamaan (3-4) jelaslah bahwa alur atau garis edar dari nilai x yang
merupakan konstanta ketinggian untuk kepadatan adalah sebuah elipsoid.
Sehingga kepadatan normal multifariat adalah sebuah konstanta dimana:
Peta kepadatan kemungkinan konstan = {all x ∋ ( ) ( )1 2' c−− ∑ − =x xµ µ }
= permukaan dari elipsoida dengan titik
pusat µ .
Titik-titik pada elipsoid dari suatu kepadatan normal adalah suatu vektor eigen
berarah dari 1−∑ dan panjangnya adalah akar nilai eigen dari ∑ dikali dengan akar
dari c.
Akibat 1. Jika ∑ terbatas positif sehingga terdapat 1−∑ ,
λ∑ =e e menyebabkan 1 1
λ−∑ =e e
jadi( ),eλ adalah pasangan nilai dan vektor eigen dari ∑ yang berhubungan
dengan pasangan ( )1/ ,eλ untuk 1−∑ . Dimana 1−∑ juga terbatas positif.
Proof. Untuk ∑ terbatas positif dan e ≠ 0 adalah vektor eigen, kita punya
0 '< ∑e e = '( )∑e e = '( )λe e = 'λe e = λ . Selain itu e = 1−∑ ∑e = 1 λ−∑ e =
1λ −∑ e dan jika dibagi dengan 0λ > memberikan 1 (1/ )λ−∑ =e e. Sekarang
untuk
( )
1
1
2
1
1' ' '
1' 0
p
i ii i
p
ii i
λ
λ
−
=
=
∑ =
= ≥
∑
∑
x x x e e x
x e
( )21 ' 0i iλ− ≥x e sehingga 'i =x e 0 untuk setiap i jika dan hanya jika =x 0 . Jadi
≠x 0 , menyebabkan ( )( )2
1
1/ 'p
i ii
λ=∑ x e > 0 dan 1−∑ terbatas positif.
Dibawah ini merupakan ringkasan konsep diatas
Contoh soal
Kita harus mendapatkan titik koordinat dari contour probabilitas density
saat 11 22σ σ= dari (3-5) titik yang kita cari diberikan oleh nilai eigen dan vektor
eigen ∑ . Disini 0λ∑− =I menjadi
( )
( ) ( )
211 12 211 12
12 11
11 12 11 12
0σ λ σ
σ λ σσ σ λ
λ σ σ λ σ σ
−= = − −
−
= − − − +
Konsekuensinya, nilai eigennya 1 11 12λ σ σ= + dan 2 11 12λ σ σ= − . Vektor eigennya
didapat dari
( )11 12 1 111 12
12 11 2 2
e e
e e
σ σσ σ
σ σ
= +
atau
( )11 1 12 2 11 12 1e e eσ σ σ σ+ = +
( )12 1 11 2 11 12 2e e eσ σ σ σ+ = +
Persamaan ini mengakibatkan2 1e e= dan setelah normalisasi pasangan nilai eigen
dan vektor eigen adalah
1 11 12λ σ σ= + , 1
1
21
2
e
=
Kontur dari kepadatan konstan untuk distribusi normal pada dimensi p adalah
sebuah elipsoid dengan x variabelnya sehingga
( ) ( )1 2' c−− ∑ − =x xµ µ (3-5)
Ellipsoid ini berpusat pada µ dan memiliki titik kooardinat i ic λ± e dimana
λ∑ =e e,
i = 1, 2, ..., p.
Dengan cara yang sama 1 11 12λ σ σ= − menghasilkan 2' 1 2 , 1 2e = − .
Saat kovarian 12σ (korelasi 12ρ ) bernilai positif, 1 11 12λ σ σ= + adalah nilai
eigen tebesar dan dihubungankan dengan 1' 1 2 , 1 2e = terletak bersama
dalam 450 melewati titik [ ]1 2' ,µ µ=µ . Hal ini aka benar untuk setiap nilai positif
dari kovarian.
11 12c σ σ+
11 12c σ σ−
2µ
1µ 1x
Gambar 1. Kontur untuk distribusi normal bivariat dengan 11 22σ σ= dan 12 0σ >
Untuk merangkumnya, titik pada elips dari suatu kepadatan konstan untuk
distribusi normal bivariat dengan 11 22σ σ= dapat ditentukan oleh
11 22 11 22
1 1
2 2dan
1 1
2 2
c cσ σ σ σ
± + ± − −
Akibat 2. Jika X berdistribusi ( ),pN ∑µ , maka setiap kombinasi
linier dari variabel a’X = 1 1 2 2 ... p pa X a X a X+ + + akan berdistribusi
( ) ( )
[ ]
1 1 2 2
1 1 1 1
1 1 1 1
1 1 1 1
1
11 1 1
1
' ....
( ) ( )
( ) ( )
, ,...,
'
n nE E a X a X a X
E a X E a X
a E X a E X
a a
a a a
µ µµµ
µ
= + + += += += +
=
=
a X
a µ
M
( )' , 'pN ∑a µ a a . Demikian juga jika a’X berdistribusi ( )' , 'pN ∑a µ a a untuk
setiap a, maka X berdistribusi ( ),pN ∑µ .
Proof. Disini hanya akan dibuktikan untuk ( )1E aX = a'µ
( ) ( )1 1 1E aX aE X aµ= = .
Contoh
[ ]' 1,0,...,0=a
[ ]1
21' 1,0,...,0
p
X
XX
X
= =
a XM
[ ]1
21' 1,0,...,0
p
µµ
µ
µ
= =
a µM
[ ]11 12 1
21 22 211
1 2
1
0' 1,0,...,0
0
p
p
p p pp
σ σ σσ σ σ
σ
σ σ σ
Σ = =
a a
L
L
M M O M M
L
Melalui akibat 2 kita dapatkan bahwa 1X berdistribusi ( )1 11,N µ σ . Hal ini dapat
diperumum jika untuk iX maka distribusinya akan ( ),i iiN µ σ .
Akibat 3. Jika X berdistribusi ( ),pN ∑µ , q kombinasi linier dari
11 1 1
21 1 2
1
1 1
...
...
...
p p
p p
q p p
q qp p
a X a X
a X a X
a X a X
× ×
+ + + + = + +
A XM
akan berdistribusi ( ), 'pN ∑Aµ A A . Begitu juga untuk ( ) ( )1 1p p× ×
+X d , dimana d adalah
vektor konstanta, akan berdistribusi ( ),pN + ∑µ d .
Contoh:
Diberikan X berdistribusi ( )3 ,N ∑µ , cari distribusi untuk
11 2
22 3
3
1 1 0
0 1 1
XX X
XX X
X
− − = = − −
AX
Dari akibat 3, distribusi dari AX adalah normal multivariat dengan rata-rata
11 2
22 3
3
1 1 0
0 1 1
µµ µ
µµ µ
µ
−− = = −−
Aµ
dan kovariannya
11 12 13
12 22 23
13 23 33
11 12 22 12 23 22 13
12 23 22 13 22 23 33
1 01 1 0
1 10 1 1
0 1
2
2
σ σ σσ σ σσ σ σ
σ σ σ σ σ σ σσ σ σ σ σ σ σ
− ∑ = − − −
− + + − − = + − − − +
A A'
Alternatif lainnya kita dapat mencari vektor rata-rata dan covarian kita dapat
mengubah terlebih dahulu dalam bentuk 1 1 2Y X X= − dan 2 2 3Y X X= − .
Akibat 4. Semua subset dari X berdistribusi normal. Jika kits partisi
X, rata-rata dan covariannya akan berbentuk
1 1( 1) ( 1)
1 ( )( 1)
2 2(( ) 1) (( ) 1)
11 12( ) ( ( ))
21 21(( ) ) (( ) ( ))
q q
p p pp
p q p q
q q q p q
p q q p q p q
× ×
× ××
− × − ×
× × − = − − − − = − − − − ∑ = − × − × −
∑ ∑ ∑ ∑
X µ
X µ
X µ
maka iX berdistribusi ( )1 11,pN µ ∑ .
Dari akibat di atas kita punya bahwa semua subset dari vektor acak X yang
berdistribusi normal adalah berdistribusi normal pula.
Contoh
Jika X berdistribusi ( )5 ,N ∑µ , cari distribusi dari 2
4
X
X
. Kita himpun
sebelumnya 21
4
X
X
=
X , 21
4
µµ
µ
=
, dan 22 2411
24 44
σ σσ σ
∑ =
dari ( )5 ,N ∑µ kita punya
X ,µ , dan ∑ yang kemudian akan kita susun kembali dan kita partisi menjadi
22 24 12 23 25
24 44 14 34 45
12 14 11 13 15
23 34 13 33 35
25 45 15 35 55
σ σ σ σ σσ σ σ σ σσ σ σ σ σσ σ σ σ σσ σ σ σ σ
∑ =
2
4
1
3
5
µµµµµ
=
µ
2
4
1
3
5
X
X
X
X
X
=
X ,
atau
( )
( )
12 1
23 1
×
×
=
X
XX
( )
( )
12 1
23 1
×
×
=
µ
µµ
( ) ( )
( ) ( )
11 122 2 2 3
21 223 2 3 3
× ×
× ×
∑ ∑ ∑ = ∑ ∑
dengan menggunakan akibat 4 untuk 21
4
X
X
=
X ,
kita akan memiliki distribusi dengan bentuk
( ) 2 22 242 2 11 2
4 24 44
, ,N Nµ σ σ
µµ σ σ
∑ =
.
Dari contoh disini jelas bahwa untuk setiap bagian (subset) dari distribusi normal
dapat diekspresikan dengan pemilihan yang tepat rata dan kovarian dari µ dan
∑ awal.
Akibat 5.
(a) Jika ( )1
11q ×
X dan ( )2
21q ×
X independen, maka akan selalu benar bahwa
( )1 2,Cov =X X 0 , 1 2q q× menghasilkan matrik nol.
(b) Jika 1
2
− −
X
X
berdistribusi , maka X1 dan
X2 independen jika dan hanya jika 12∑ = 0 .
(c) Jika X1 dan X2 independen dan berdistribusi ( )1 1 11,qN ∑µ dan
( )2 2 22,qN ∑µ , maka 1
2
− −
X
X
merupakan multivariat normal.
1 111 2
2 22
,'q qN +
∑ ∑
µ 0
µ 0
Contoh
Diberikan ( )3 1×X berdistribusi ( )3 ,N ∑µ dengan
4 1 0
1 3 0
0 0 2
∑ =
. Apakah
1X dan 2X independent? Bagaimana dengan ( )1 2,X X dan 3X ?
Karena 1X dan 2X memiliki 12 1σ = , 1X dan 2X tidak independent. Tetapi
1
2
3
X
X
X
=
X ,
1 11 121 2
2 21 22
,q qN +
∑ ∑ ∑ ∑
µ
µ
( ) ( )
( ) ( )
11 122 2 2 1
21 221 2 1 1
4 1 0
1 3 0
0 0 2
× ×
× ×
∑ ∑ ∑ = = ∑ ∑
Kita lihat bahwa 11
2
X
X
=
X dan 3X memiliki matrik kovarian 12
0
0
∑ =
. Hal ini
menyebabkan ( )1 2,X X dan 3X independent menurut akibat 5. Hal ini juga
mengimplikasikan bahwa 3X independent terhadap1X dan 2X .
Akibat 6. Misal 1
2
= − −
X
X
X
berdistribusi ( ),pN ∑µ dengan ,
, dan| | 0∑ > . Maka distribusi bersyarat dari X1, memberikan
X2 = x2, berdistribusi normal dengan
Rata-rata = 11 12 12 1 2( )−+∑ ∑ −µ x µ , dan
Kovaian = 111 12 22 21
−∑ −∑ ∑ ∑
Catat bahwa kovarian tidak tergantung ada nilai 2x dari variabel bersyarat.
Proof. Akan dibuktikan dengan pembuktian tak langsung, ambil
sehingga
dan
1111 12 11 12 22 2112 22
121 22 12 22 22
'−−
−
∑ ∑ ∑ −∑ ∑ ∑ −∑ ∑∑ = = ∑ ∑ −∑ ∑ ∑
I 0 0IA A
I 00 I
Karena ( )11 1 12 22 2 2X Xµ µ−− −∑ ∑ − dan 2 2X µ− memiliki kovarian nol, sehingga
keduanya independent. Lebih lagi ( )11 1 12 22 2 2X Xµ µ−− −∑ ∑ − memiliki distribusi
( )111 12 22 21,qN −∑ −∑ ∑ ∑0 . Diberikan 2 2X x= , ( )1
1 12 22 2 2xµ µ−+∑ ∑ − adalah suatu
konstanta. Karena ( )11 1 12 22 2 2X Xµ µ−− −∑ ∑ − dan 2 2X µ− independent, distribusi
bersyarat dari ( )11 1 12 22 2 2X xµ µ−− −∑ ∑ − adalah sama dengan distribusi tak
11 12
21 22
∑ ∑ ∑ = ∑ ∑
1
2
=
µµ
µ
( ) ( )11 1 1 1 12 22 2 2
2 2 2 2
X X X
X X
µ µ µµ µ
−− − −∑ ∑ − − = = − −
A X µ A
( )
( ) ( )
( ) ( ) ( )
112 22
q q q p q
p p
p q p qp q p
−
× × −
×
− × −− ×
−∑ ∑ =
IA
0 I
bersyarat dari ( )11 1 12 22 2 2X Xµ µ−− −∑ ∑ − . Di awal kita sudah tahu bahwa
( )11 1 12 22 2 2X Xµ µ−− −∑ ∑ − berdistribusi ( )1
11 12 22 21,qN −∑ −∑ ∑ ∑0 , sehingga vektor
acak ( )11 1 12 22 2 2X xµ µ−− −∑ ∑ − ada saat 2X memiliki nilai khusus 2x . Hal ini
equivalen juga untuk 1X , sehingga nantinya distribusinya akan berbentuk
( )( )1 11 12 22 2 2 11 12 22 21,qN xµ µ− −+∑ ∑ − ∑ −∑ ∑ ∑
Akibat 7. JikaX berdistribusi ( ),pN ∑µ dengan | | 0∑ > . Maka:
(a) ( ) ( )1' −− ∑ −x xµ µ berdistribu 2pχ dimana 2
pχ dinotasikan berdistribusi
chi-kuadrat dengan derajad kebebasan p.
(b) Distribusi ( ),pN ∑µ memberikan kemungkinan 1 α− untuk elipsoid padat
( )1 2{ : ( ) ' ( ) }pχ α−− ∑ − ≤x x µ x µ , dimana ( )2pχ α menotasikan persentil
ke( )100α dari distribusi 2pχ .
Proof. Kita tahu bahwa 2pχ didefinisikan sebagai distribusi dari jumlah
2 2 21 2 pZ Z Z+ + +K , dimana 1 2, , , pZ Z ZK independent ( )0,1N variabel random.
Selanjutnya, melalui spectral decomposotion [lihat persamaan (2-16) dan (2-21)
dengan = ∑A , dan melihat ke akibat 4.1] 1
1
1'
p
i ii iλ
−
=∑ =∑ e e ,
dimana i i iλ∑ =e e sehingga ( )1 1i i iλ−∑ =e e . Akibatnya,
( ) ( ) ( ) ( ) ( ) ( ) ( )( )
( ) ( )
21
1 1
22
1 1
' 1 ' ' 1 '
1 ' , ini untuk singkatnya.
p p
i i i i ii i
p p
i i ii i
Z
λ λ
λ
−
= =
= =
− ∑ − = − − = −
= − =
∑ ∑
∑ ∑
X µ X µ X µ e e X µ e X µ
e X µ
Sekarang ( )Z = A X - µ , dimana ( )
1
2
1,
p
p
Z
Z
Z
×
=
ZM
( )
1
1
2
2
1'
1'
1'
p p
p
p
e
e
e
λ
λ
λ
×
=
A
M
danX µ− berdistribusi ( ),pN ∑0 . Karenanya, dengan menggunakan akibat 3,
( )Z = A X - µ berdistribusi ( ), 'pN ∑0 A A , dimana
( ) ( ) ( )
1
1
2
2 1 21 1 2
1 1
2 21 2
1 2
3 3
1'
1' 1 1 1
' ' ' '
1'
'
' 1 1 1' ' '
'
1
p
i i i pp p p pp p i p
p
p
p
p
e e e
e e e
λ
λ λλ λ λ
λ
λλ
λ λ λλ
× ×× =
∑ =
=
=
∑
e
eA A e e
e
e
e
e
K
M
KM
Oleh akibat 5 1 2, , , pZ Z ZK variabel indeendent normal standar dan kita simpulkan
bahwa ( ) ( )1'X Xµ µ−− ∑ − memiliki distribusi 2pχ .
Sampai sini kita bisa menyimpulkan dari akibat-akibat di atas 2 hal
penting:
1. Menyangkut dengan kemungkinan isi sebuah elipsoid suatu konstanta
kepadatan.
2. Berkenaan dengan bentuk lain dari kombinasi linier.
Distribusi chi-kuadrat dapat menentukan variabilitas dari varian sampel
211s s= untuk sampel yang berasal dari populasi normal univariat. Dasar ini juga
akan memainkan hal penting ada distribusi multivariat.
Akibat 8. Diberikan 1 2, ,..., nX X X saling bebas dengan iX
berdistribusi ( ),p jN ∑µ . (Perhatikan bahwa setiap jX memiliki kovarian matrik
∑ yang sama.) Maka 1 1 1 2 2 ... n nc c c= + + +V X X X
Berdistribusi1 1
, .n n
p j j jj j
N c c= =
∑
∑ ∑µ 1V dan 2 1 1 2 2 ... n nb b b= + + +V X X X juga
merupakan normal multivariat dengan kovarian matrik.
( )
( )
2
1
2
1
'
'
n
jj
n
jj
c
b
=
=
∑ ∑
∑ ∑
∑
∑
b c
b c
Konsekuensinya, 1V dan 2V independent jika 1
' 0n
j jj
c b=
= =∑b c .