Eigenvector dan eigenvalues - Diponegoro...

73
Eigenvector dan eigenvalues Pengertian Sebuah matriks bujur sangkar dengan orde n x n misalkan A, dan sebuah vektor kolom X. Vektor X adalah vektor dalam ruang Euklidian n R yang dihubungkan dengan sebuah persamaan: X AX λ = (7.1) Dimana λ adalah suatu skalar dan X adalah vektor yang tidak nol Skalar λ dinamakan nilai Eigen dari matriks A. Nilai eigen adalah nilai karakteristik dari suatu matriks bujur sangkar. Vektor X dalam persamaan (7.1) adalah suatu vektor yang tidak nol yang memenuhi persamaan (7.1) untuk nilai eigen yang sesuai dan disebut dengan vektor eigen. Jadi vektor X mempunyai nilai tertentu untuk nilai eigen tertentu. Perhitungan eigenvalues Kita tinjau perkalian matriks A dan X dalam persamaan (7.1) apabila kedua sisi dalam persamaan tersebut dikalikan dengan matriks identitas didapatkan: IAX = X Iλ AX = IX λ [ ] 0 = X A I λ (7.2) Persamaan (7.2) terpenuhi jika dan hanya jika: det [ ] A I λ (7.3) Dengan menyelesaikan persamaan (7.3) dapat ditentukan nilai eigen ( ) λ dari sebuah matriks bujur sangkar A tersebut. Perhitungan eigenvector Kita tinjau kembali persamaan X AX λ = dimana A adalah matriks bujur sangkar dan X adalah vektor bukan nol yang memenuhi persamaan tersebut. Dalam subbab 7.1 telah dibahas tentang perhitungan nilai eigen dari matriks A( λ ), pada

Transcript of Eigenvector dan eigenvalues - Diponegoro...

Page 1: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Eigenvector dan eigenvalues

• Pengertian

Sebuah matriks bujur sangkar dengan orde n x n misalkan A, dan sebuah vektor

kolom X. Vektor X adalah vektor dalam ruang Euklidian nR yang dihubungkan

dengan sebuah persamaan:

XAX λ= (7.1)

Dimana λ adalah suatu skalar dan X adalah vektor yang tidak nol Skalar λ

dinamakan nilai Eigen dari matriks A. Nilai eigen adalah nilai karakteristik dari suatu

matriks bujur sangkar. Vektor X dalam persamaan (7.1) adalah suatu vektor yang

tidak nol yang memenuhi persamaan (7.1) untuk nilai eigen yang sesuai dan disebut

dengan vektor eigen. Jadi vektor X mempunyai nilai tertentu untuk nilai eigen

tertentu.

• Perhitungan eigenvalues

Kita tinjau perkalian matriks A dan X dalam persamaan (7.1) apabila kedua sisi

dalam persamaan tersebut dikalikan dengan matriks identitas didapatkan:

IAX = XIλ

AX = IXλ

[ ] 0=− XAIλ (7.2)

Persamaan (7.2) terpenuhi jika dan hanya jika:

det [ ]AI −λ (7.3)

Dengan menyelesaikan persamaan (7.3) dapat ditentukan nilai eigen ( )λ dari sebuah

matriks bujur sangkar A tersebut.

• Perhitungan eigenvector

Kita tinjau kembali persamaan XAX λ= dimana A adalah matriks bujur

sangkar dan X adalah vektor bukan nol yang memenuhi persamaan tersebut. Dalam

subbab 7.1 telah dibahas tentang perhitungan nilai eigen dari matriks A(λ ), pada

Page 2: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

subbab ini kita bahas vektor yang memenuhi persamaan tersebut yang disebut vektor

eigen(vektor karakteristik) yang sesuai untuk nilai eigennya.

Kita tinjau sebuah matriks bujur sangkar orde 2 x 2 berikut:

A =

2221

1211

aaaa

Persamaan XAX λ= dapat dituliskan:

2221

1211

aaaa

=

2

1

2

1

xx

xx

λ (7.4)

Persamaan (7.4) dikalikan dengan identitas didapatkan:

1001

2221

1211

aaaa

2

1

xx

=

1001

λ

2

1

xx

2221

1211

aaaa

2

1

xx

=

λ

λ0

0

2

1

xx

−λ

λ

2221

1211

aaaa

2

1

xx

= 0 (7.5)

Persamaan (7.5) dalam bentuk sistem persamaan linier dituliskan:

0)(0)(

222121

212111

=−+=+−

xaxaxaxa

λλ

(7.6)

Persamaan (7.6) adalah sistem persamaan linier homogen, vektor dalam ruang Rn

yang tidak nol didapatkan jika dan hanya jika persamaan tersebut mempunyai solusi

non trivial untuk nilai eigen yang sesuai.

Page 3: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Contoh soal:

1. Misalkan Sebuah vektor

=

21

X dan sebuah matriks bujur sangkar orde 2 x 2

=

2404

A , Apabila matriks A dikalikan dengan X maka:

AX =

2404

21

=

++

4404

=

84

Dimana:

84

=

21

4 = Xλ

Dengan konstanta 4=λ dan

2404

21

=

21

4

Memenuhi persamaan (7.1). Konstanta 4=λ dikatakan nilai eigen dari matriks

bujur sangkar

=

2404

A

2. Dapatkan nilai eigen dari matriks A =

2312

Jawab:

Dari persamaan (7.3) maka:

det

−23

12λ

λ = 0

03)2)(2( =−−− λλ

03442 =−+− λλ

0142 =+− λλ

Page 4: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Dengan menggunakan rumus abc didapatkan:

2,1λ = 2

1.1.4)4(4 2 −−±

= 2

4164 −±

= 2

124 ±

=

= 2 3±

Maka penyelesaian adalah: 321 +=λ dan 322 −=λ .

Nilai eigen matriks A =

2312

adalah:

321 +=λ dan 323 −=λ

3. Dapatkan nilai eigen dari matriks A =

5114

Jawab:

Nilai eigen ditentukan dengan persamaan:

det

−51

14λ

λ = 0

maka:

01)5)(4( =−−− λλ

012092 =−+− λλ

01992 =+− λλ

2324 ±

Page 5: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Dengan rumus abc didapatkan:

2

19.1.4)9(9 2

2,1

−−±=λ

2

768192,1

−±=λ

2

592,1

±=λ

Didapatkan 5215,41 +=λ dan 5

215,42 −=λ , jadi nilai eigen matriks

A =

5114

adalah 5215,4 ±=λ

4. Tentukan vector eigen dari matriks berikut:

𝐴 = � 3 2−1 0�

Jawab:

• Nilai eigen dari matriks A adalah

A x = λ x

� 3 2−1 0� x = λ x

� 3 2−1 0� x = �λ 0

0 λ� x

�λ 00 λ� x - � 3 2

−1 0� x = 0

�λ − 3 −21 λ � x = 0

Maka polynomial karakteristik A adalah :

Det (λI – A) = 0

{( λ-3) . λ} – (- 2.1) = 0

λ 2 - 3 λ + 2 = 0

Page 6: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

(λ – 1) (λ – 2) = 0

λ = 1 dan λ = 2 (nilai eigen valuenya)

• Sekarang tentukan nilai vektornya yaitu : sebuah vector tak 0 yang memenuhi persamaan Ax = λx. - Untuk nilai eigen λ = 1

Ax = λx

� 3 2−1 0� x = λ x

� 3 2−1 0� �

𝑥1𝑥2� = 1. �

𝑥1𝑥2�

�3𝑥1 + 2𝑥2−𝑥1

� = �𝑥1𝑥2�

�3𝑥1 + 2𝑥2 − 𝑥1−𝑥1 − 𝑥2

� = 0

Maka di dapat persamaan :

3x1 + 2x2 – x1 = 0

-x1 – x2 = 0

Dan jika diselesaikan maka :

2x1 + 2x2 = 0 artinya x1 = - x2

-x1 – x2 = 0 artinya x1 = - x2

Jika x2 = k (merupakan konstanta sembarang)

Maka di dapat

X = �𝑥1𝑥2� = �−𝑘𝑘 �

- Untuk nilai eigen λ = 2

Ax = λx

� 3 2−1 0� x = λ x

� 3 2−1 0� �

𝑥1𝑥2� = 2. �

𝑥1𝑥2�

Page 7: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

�3𝑥1 + 2𝑥2−𝑥1

� = �2𝑥12𝑥2

�3𝑥1 + 2𝑥2 − 2𝑥1−𝑥1 − 2𝑥2

� = 0

Maka di dapat persamaan :

3x1 + 2x2 – 2x1 = 0

-x1 – 2x2 = 0

Dan jika diselesaikan maka :

x1 + 2x2 = 0 artinya x1 = - 2x2

-x1 – 2x2 = 0 artinya x1 = - 2x2

Jika x2 = k (merupakan konstanta sembarang)

Maka di dapat

X = �𝑥1𝑥2� = �−2𝑘

𝑘 �

Page 8: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Linear Algebra

Generalized Inverses

Misalkan matriks A = (aij) � Cnxm . Sebuah matriks X = (xij) � Cnxm dikatakan sebagai

generalized atau pseudo invers dari matriks A jika X memenuhi satu atau lebih dari

sifat-sifat berikut:

(i) AXA = A

(ii) XAX = X

(iii) (AX)H =AX (6.10)

(iv) (XA)H = XA

Disini AH = (A)T ! conjugate transpose dari matriks A. Jika elemen-elemen dari

matriks A � � maka AH = AT (AH dibaca A- Hermitian)

Jika X memenuhi persamaan (6.10) maka X disebut sebagai satu-invers (one invers )

yang secara umum tidak tunggal.

Jika X adalah satu-invers , maka seluruh satu-invers yang lain dari matriks A adalah :

Satu-invers X adalah tunggal jika dan hanya jika matriks A adalah matriks bujur

sangkar

nonsingular.

Matriks X dikatakan sebagi Moore-Penrose Generalized Invers dari matriks A jika

dan

hanya jika matriks X memenuhi keempat sifat yang diberikan pada persamaan (6.10)

dan

dinotasikan dengan A+

Contoh matriks A* (AH)

If

Page 9: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

then

Teorema 1 pada generalized inverse pada matriks mempunyai 4 persamaan:

1. BAB = B

2. ABA = A

3. (BA)H = BA

4. (AB)H = AB

Matriks B disebut pseudo-invers atau invers matriks tergeneralisasi dari A.

Contoh:

Teorema 1

Diberikan A sembarang matriks berukuran mxn, maka terdapat invers matriks tunggal

tergeneralisasi dari A berukuran nxm.

Bukti:

Jika X,Y adalah invers matrik tergenerasliasi dari A, maka X, Y memenuhi keempat

sifat pada teorema 1. Sehingga berlaku:

AY = (AXA)Y= (AX)(AY)

Page 10: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Karena AX dan AY matriks Hermitian dengan sifar nomer 4, di peroleh:

AY = ((AX(AY))H

= (AY)H(AX)H

= (AY)(AX)

= (AYA)X

= AX

Dengan cara yang sama didapatkan YA= XA. Berikutnya AY= AX dikalikan dengan

Y dari kiri, didapatkan Y = YAY = YAX

Selanjutnya YA =XA dikalikan matriks X dari kanan, didapatkan :

YAX = XAX = X

Jadi Y = YAX = X

Terbukti vahwa X= Y, artinya invers A tunggal.

Page 11: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

TEORI

SUBSPACE

Di dalam matematika, sebuah subspace merupakan vector space yang berada di dalam

vector space lain. Jadi, setiap subspace adalah vector space yang berada dalam subspace

itu sendiri atau bisa juga merupakan vector space yang ada di dalam vector space lain

(yang lebih besar).

Dimisalkan ada dua buah vector space, yaitu V dan W yang keduanya memiliki bagian

vector dan bagian skalar. Dimisalkan bahwa W merupakan subspace dari V, dengan W ⊆

V. Apabila V adalah vector space yang didefinisikan C4, melalui sebuah matriks

berbentuk 4x4, maka sudah jelas bahwa W ⊆ V apabila objek dari W adalah vektor

kolom yang berjumlah 4.

INVARIANT SUBSPACE

Invariant subspace merupakan suatu istilah yang ditujukan pada sebuah subspace, yang

apabila ada transformasi linier

T : V → V

Kemudian W ≤ V, λ adalah eigenvalue dari sebuah transformasi T, v adalah eigenvector

yang koresponden / sesuai dengan λ tsb, kemudian Tv=λv, sehingga T(w) terletak di

dalam subspace W. Atau dengan kata lain, W merupakan sebuah subspace yang

memiliki sifat invariant terhadap transformasi T. Atau bisa disebut juga bahwa W adalah

T-invariant subspace.

Perhatian :

T : transformasi linier, contoh T(x)=Ax.

V : vektor space yang mengalami transformasi T, bisa berbentuk himpunan

ataupun matriks

W : subspace dari V, bisa berbentuk himpunan atau matriks

X : eigenvector dari sebuah matriks persegi, biasanya berbentuk matriks

Page 12: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

λ : eigenvalue dari sebuah matriks persegi, biasanya berbentuk konstanta

Contoh soal:

1. Transformasi linear dari T: C4―> C4 didefinisikan sebagai T(x)=Ax.

Dimana A=

Dan w1 dan w2:

Dan himpunan W={w1,w2}. Kita akan periksa apakah W merupakan invariant subspace

dari C4 dengan T. Dari definisi W, setiap vector yang dipilih dari W dapat ditulis sebagai

kombinasi linear dari w1 dan w2. Anggap w 𝜖 W, berikut penjelasan untuk

pemeriksaannya.

T(w) = T(a1*w1+a2*w2)

= a1* T(w1)+ a2*T(w2)

Page 13: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

=a1* + a2*

=a1*w2+a2*((-1)w1++2w2)

=(-a2)*w1+(a1+2a2)*w2 𝜖 W

Oleh karena itu berdasarkan definisi dari invariant subspace maka W merupakan

invariant subspace dari C4 dengan T.

2. Dan x1 dan x2:

Dan himpunan X={x1,x2}. Kita akan periksa apakah X merupakan invariant subspace dari

C4 dengan T. Dari definisi X, setiap vector yang dipilih dari X dapat ditulis sebagai

kombinasi linear dari x1 dan x2. Berikut penjelasan untuk pemeriksaan apakah X

merupakan invariant subspace dari C4 atau tidak.

T(w) = T(b1*x1+b2*x2)

= b1* T(x1)+ b2*T(x2)

=b1* + b2*

=a1*(-11,7*x1+8,1*x2)+a2*(-28,57*x1+22,98*x2)

=-(11,7*a1+28,57*a2)*x1+(8,1*a1+22,98*a2)*x2 𝜖 X

*

Page 14: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Oleh karena itu berdasarkan definisi dari invariant subspace maka X merupakan

invariant subspace dari C4 dengan T.

Page 15: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Linear Subspaces (Sub Ruang Linier)

1. Pembuka

Dalam tulisan ini sedikit menyinggung tentang beberapa istilah dalam aljabar linier yang perlu dimengerti sebelum belajar kontrol robust. Beberapa istilah lain ada di tulisan lain untuk melengkapi tulisan ini. Selain belajar dari tulisan ini, diharapkan peserta kuliah juga aktif menelusuri lebih dalam tentang aljabar linier di beberapa referensi buku yang disodorkan agar peserta bisa lebih memahami tentang istilah-istilah yang di tulis disini yang nantinya akan mempengaruhi pemahaman kita saat belajar kontrol robust.

Dalam tulisan ini akan di jelaskan seperti apa sub ruang vektor (Subspace), kombinasi linier suatu vektor, span, kebebasan linier, basis dan dimensi yang mana seluruhnya saling berhubungan. Selain itu juga akan disinggung mengenai vektor yang ortogonal, ortonormal, kernel, image, dan trace.

2. Subruang

Jika diketahui V adalah ruang vektor dan U adalah sub himpunan V, maka U dikatakan sub ruang dari V jika memenuhi dua syarat:

• Jika �̅�, 𝑞� ϵ U maka �̅� + 𝑞� ϵ U (syarat penjumlahan)

• Jika �̅� ϵ U maka untuk skalar k berlaku k�̅� ϵ U (syarat perkalian)

Untuk lebih memahami pernyataan di atas kita bisa perhatikan contoh di bawah ini:

2.1. jika U= �𝑥0� adalah sub himpunan R2 maka tunjukanlah apakah U subruang R2 ?

Kita uji U dengan 2 syarat diatas:

#Syarat penjumlahan

misal �̅� = �20� dan 𝑞� = �30� dimana kita tahu bahwa �̅�, 𝑞� ϵ U maka

�̅� + 𝑞� = �20� + �30�= �50�

�̅� + 𝑞�= �50� ϵ U, berapapun nilai x pada �̅�, 𝑞� ϵ U akan tetap mengakibatkan �̅� + 𝑞� sebagai anggota

U (Syarat penjumlahan terpenuhi)

Page 16: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

#Syarat perkalian

misal �̅� = �20�, maka k�̅� ϵ U dengan k skalar. Berapapun nilai k dan berapapun nilai x yang ada

pada �̅�, k�̅� tetap akan berada dalam himpunan U (syarat perkalian terpenuhi)

karena dua syarat di atas terpenuhi maka U adalah subruang dari R2

2.2. jika U= �𝑥𝑦� dan x ≥0 , dan U adalah sub himpunan R2 maka tunjukanlah apakah U subruang

R2 ?

Kembali kita uji U dengan 2 syarat diatas:

#Syarat penjumlahan

misal �̅� = �24� dan 𝑞� = �36� dimana kita tahu bahwa �̅�, 𝑞� ϵ U maka

�̅� + 𝑞� = �24� + �36�= � 510�

�̅� + 𝑞�= � 510� ϵ U, berapapun nilai x asalkan x≥0 dan berapapun nilai y pada �̅�, 𝑞� ϵ U akan tetap

mengakibatkan �̅� + 𝑞� sebagai anggota U (Syarat penjumlahan terpenuhi)

#Syarat perkalian

misal �̅� = �24�, maka ada nilai k yang tidak dapat memenuhi syarat k�̅� ϵ U yaitu ketika k ≤ 0 .

misalkan k = -1 maka k�̅� = �−2−4� , padahal nilai x harus ≥0 agar tetap berada di dalam anggota U.

(syarat perkalian tidak terpenuhi)

karena ada syarat yang tidak terpenuhi maka U bukanlah subruang dari R2

3. Kombinasi Linier dan Span

Page 17: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

• Jika U= { 𝑥1���, 𝑥2���, . . . . . . 𝑥𝑛��� } maka 𝑢� = k1.𝑥1��� + k2. 𝑥2���+. . . kn.𝑥𝑛��� bisa disebut kombinasi linier dari U

• Jika U= { 𝑥1���, 𝑥2���, . . . . . . 𝑥𝑛��� }, maka Span{U} adalah semua kombinasi linier yang mungkin terjadi dari U

• jika V adalah ruang Vektor dan U adalah Sub himpunan dari V maka Span{U} bisa dikatakan sebagai subruang dari V, atau secara matematis Span{U}= Subruang V jika U adalah subruang V

berikut ini adalah contoh soal untuk memperjelas pernyataan di atas:

3.1. jika U={�̅�, 𝑞�} = {�𝑥1𝑦1� , �

𝑥2𝑦2�} dan U adalah sub himpunan R2 maka tunjukanlah , tunjukanlah

bahwa span{U} adalah subruang R2 ?

misal �̅�=�12� 𝑞�=�43�, maka span{�̅�, 𝑞�} adalah:

span{�̅�, 𝑞�} adalah kombinasi linier yang mungkin terjadi dari {�̅�, 𝑞�} , maka katakanlah

𝑢� = span{�̅�, 𝑞�}

𝑢� = k1.�̅� + k2.𝑞�=k1.�12� + k2. �43� = � 𝑘1 + 4𝑘2

2𝑘1 + 3𝑘2�

Untuk mengujinya dengan 2 syarat sub ruang, maka kita definisikan lagi �̅� sebagai kombinasi linier yang lain dari U, maka

�̅� = span{�̅�, 𝑞�}

�̅� = m1.�̅� + m2.𝑞�=m1.�12� + m2. �43� = � 𝑚1 + 4𝑚2

2𝑚1 + 3𝑚2�

Jika kita masukan nilai k1, k2, m1, dan m2 ke dalam 𝑢� dan �̅� maka 𝑢� dan �̅� akan tetap menjadi anggota himpunan U, selanjutnya adalah pengujian terhadap syarat subruang :

#syarat penjumlahan

𝑢� + �̅�= � 𝑘1 + 4𝑘22𝑘1 + 3𝑘2

�+ � 𝑚1 + 4𝑚22𝑚1 + 3𝑚2

� = � 𝑘1 + 4𝑘2 + 𝑚1 + 4𝑚22𝑘1 + 3𝑘2 + 2𝑚1 + 3𝑚2

Berapapun nilai k1, k2, m1, dan m2, 𝑢� + �̅� tetap anggota himpunan U (syarat penjumlahan)

#Syarat perkalian

𝑢� = � 𝑘1 + 4𝑘22𝑘1 + 3𝑘2

�, maka c𝑢� ϵ U dengan C skalar. Berapapun nilai c serta berapapun nilai k1 dan k2

yang ada pada 𝑢�, c𝑢� tetap akan berada dalam himpunan U (syarat perkalian terpenuhi)

karena dua syarat di atas terpenuhi maka span{U}=span{�̅�, 𝑞�} adalah subruang dari R2

Page 18: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

4. Kebebasan Linier, Basis, dan Dimensi

U = { 𝑥1���, 𝑥2���, . . . . . . 𝑥𝑛��� } dikatakan bebas linier (Linearly independent) jika :

• 𝑠𝑝𝑎𝑛{U} = k1.𝑥1��� + k2. 𝑥2���+. . . kn.𝑥𝑛��� =0 dan hanya memiliki penyelesaian k1= k2 = kn =0 ,

• Jika ada penyelesaian lain maka dikatakan bergantung linier (Linearly Dependent) • Misalkan V ruang vektor dan U= { 𝑥1���,𝑥2���, . . . . . . 𝑥𝑛��� }. U disebut basis dari V bila U bebas

linier • Dimensi Ruang Vektor didefinisikan sebagai banyaknya unsur basis ruang vektor, misal

dim (R3)=3 berikut ini adalah contoh soal untuk memperjelas pernyataan di atas:

4.1. misal U={�̅�, 𝑞�},𝑑𝑖𝑚𝑎𝑛𝑎 �̅�=�12� 𝑞�=�43�, apakah U basis dari R2 ?

Cek kebebasan liniernya, maka

Span{U} = span{�̅�,𝑞�}= k1.�̅� + k2.𝑞� = �00�

Span{U} =k1.�12� + k2. �43� = � 𝑘1 + 4𝑘2

2𝑘1 + 3𝑘2� = �00�

Atau bisa kita tulis dalam bentuk

�1 42 3� �

k1k2� = �00�

�k1k2� = �1 4

2 3�−1�00�

�k1k2� = �00�

karena k1=k2=0, maka U bebas linier, karena U bebas linier maka U adalah basis dari R2. Dapat diliat secara langsung juga bahwa U memiliki 2 vektor dan dim (R2) adalah 2 maka U adalah basis dari R2.

4.2. misal U={�̅�, 𝑞�, �̅� },𝑑𝑖𝑚𝑎𝑛𝑎 �̅�=�12� 𝑞�=�43� �̅�=�51�, apakah U basis dari R2 :

Page 19: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Cek kebebasan liniernya, maka

Span{U} = span{�̅�,𝑞�, �̅� }= k1.�̅� + k2.𝑞� + k3. �̅� = �00�

Span{U} =k1.�12� + k2. �43� + k3. �51� = �𝑘1 + 4𝑘2 + 5𝑘3

2𝑘1 + 3𝑘2 + 𝑘3� = �00�

�1 4 52 3 1� �

k1k2� = �00�

Invers dari suatu matriks A adalah A-1 = 𝑎𝑑𝑗 𝐴det𝐴

Matriks �1 4 52 3 1� tidak memiliki determinan, maka matriks tersebut tidak bisa di inverskan, oleh

karena itu

�k1k2� ≠ �00�

karena k1≠ k2 ≠ 0, maka U bergantung linier, karena U bergantung linier maka U bukanlah basis dari R2. Dapat diliat secara langsung juga bahwa U memiliki 3 vektor dan dim (R2) adalah 2 maka U bukanlah basis dari R2.

5.1 Kernell atau Null space

Didefinisikan dengan

Ker A = N(A) := {�⃑� ∈ Rn | A �⃑� = 0�⃑ },

Adalah semua nilai vektor x (�⃑�) yang memenuhi persamaan, dimana �⃑� adalah anggota Rn

dan matriks A jika dikali �⃑� akan menghasilkan vektor 0 (0�⃑ ).

5.2 misal A=�1 1 1 11 2 3 44 3 2 1

�, maka berapakah Null A (N(A))?

A=�1 1 1 11 2 3 44 3 2 1

� �

𝑥1𝑥2𝑥3𝑥4

�=�

0000

� N(A) := {�⃑� ∈ Rn | A �⃑� = 0�⃑ }

Matriks di atas bisa diwaki denagn persamaan linear sebagai berikut

X1 + X2 + X3 +X4 =0 X1 +2X2+3X3+4X4 =0 4X1+3X2+2X3+X4 =0 Persamaan diatas bisa diwakili dengan sebuah matriks buatan yaitu

Page 20: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

�1 1 1 11 2 3 44 3 2 1

�000�

kemudian : baris ke 2 diganti dengan : baris ke 2 dikurangi baris ke 1 dan

baris ke 4 diganti dengan : 4 x baris ke 1 dikurangi baris ke 4

sehingga matriks tersebut menjadi :

�1 1 1 10 1 2 30 1 2 3

�000�

kemudian : baris ke 1 diganti dengan : baris ke 1 dikurangi baris ke 2 dan

baris ke 4 diganti dengan : baris ke 4 dikurangi baris ke 3

sehingga matriks tersebut menjadi :

�1 0 −1 −20 1 2 30 0 0 0

�000�

Matriks di atas bisa dituliskan menjadi persamaan :

X1 – X3 – 2X4 =0 maka X1= X3 + 2X4 X2+2X3+3X4 =0 maka X2= –2X3 – 3X4

Sehingga

𝑥1𝑥2𝑥3𝑥4

�= X3�

1−210

�+ X4 �

2−301

Jadi N(A) = Span��

1−210

�+ �

2−301

��

Sebagai catatan tambahan jika kolom – kolom pada Matriks A merupakan bebas linear(linieary independent) maka �⃑� yang memungkinkan �⃑� = 0�⃑

Dan gambaran atau range dari A adalah

Page 21: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

ImA = R(A) := {y ∈ Fm : y = Ax, x ∈ Fn}.

Biarkan ai, i = 1 , 2,...,n menyatakan colom dari matriks A ∈ Fm x n ; maka

Im A = span{a1,a2,...,an}.

Sebuah pesegi matriks U ∈ Fn x n yang kolomnya membentuk basis orthonormal untuk Fn disebut

kesatuan matriks ( atau matriks orthogonal jika F = R), dan itu membuktikan U*U = I = UU*.

6.1 Trace Trace dari matriks persegi ordo n x n didefinisikan sebagai jumlah elemen pada diagonal utama, yaitu diagonal dari kiri atas ke kanan bawah dinotasikan dengan Tr(A), yaitu

a11+a22+a33+...ann=∑ aiini=1

atau bisa juga dituliskan :

Trace(A): = � aii

n

i=1

Sebagai contoh :

matriks A=�−1 2 01 2 −2−1 1 3

� hitung trace dari A?

Dapat dituliskan tr(A)= a11+a22+a33

= (-1) + 2 +3 = 4

6. Referensi

1. Anton, Howard dan Rorres, Chris. Elementary Linear Algebra-Ninth Edition. John Wiley and Sons, Inc. 2005

2. Sibaroni, Yuliant. Buku Ajar Aljabar Linier. STT Telkom Bandung. 2002 3. www.Youtube.com (channel: khan academy, bagian Lenear Algebra)

Page 22: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Definisi inverse

JIka A dan B matriks bujur sangkar sedemikian rupa sehingga A B = B A = I , maka B disebut balikan atau invers dari A dan dapat dituliskan ( B sama dengan invers A). Matriks B juga mempunyai invers yaitu A maka dapat dituliskan .

Metode penentuan inverse : Ada beberapa metode untuk menetukan invers dari suatu matriks ,antara lain :

1. subtitusi

2. matriks adjoint

3. eliminasi guass-jordan

4. dekomposisi

5. perkalian matriks inverse elementer

6. dan lain lain

Pada pembahasan kali ini kami hanya kan membahas 2 metode saja yaitu menggunakan

matriks adjoint dan partisi matriks-dekomposisi, karena erat kaitannya dengan mata kuliah yang

sedang kami ambil yaitu teknik control robust terutama metode dekomposisi.

Penjelasan matriks adjoint

Misalkan A suatu matriks kuadrat dengan baris dan kolomnya masing masing sebesar n.

Jadi A = (ai j) ; i,j = 1,2,….n. Dan setiap element dari matriks mempunyai kofaktor, yaitu elemen

ai j mempunyai kofaktor k i j .Apabila semua kofaktor itu dihitung untuk semua elemen matriks

A, kemudian dibentuk suatu matriks K dengan kofaktor dari semua elemen matriks A

sebagai elemennya, maka:

Page 23: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Yang disebut adjoint matriks A ialah suatu matriks yang elemen elemennya terdiri dari

transpose semua kofaktor dari elemen-elemen matriks A, yaitu apabila: k=( k i j ), dimana k i j

ialah kofaktor dari elemen ai j , maka adjoint matriks A yaitu :

Jadi, jelasnya Adj (A) ialah transpose dari matriks kofaktor K, yaitu:

Matriks orde 2 x 2 :

=

= Invers Matriks A Adj (A) = Matriks adjoint dari matriks A Det (A) = Determinan matriks A

Untuk matriks berordo 2X2 dimana matriks A =

A =

Untuk nilai invers dari matriks :

=

=

=

=

=

Page 24: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Matriks orde 3 x 3 :

Contoh soal :

Carilah invers matriks dibawah ini :

Penyelesaian :

• Mencari determinan matriks A = Untuk matriks berukuran 3x3, maka determinan matriks dapat dicari dengan aturan Sarrus

Det (A) = a11a22a33 + a12 a23 a31 + a13 a21 a32 – a31 a22 a13 – a32 a23 a11 – a33 a21 a12

Jadi untuk mencari determinan dari soal matriks A adalah, Det (A) = 3(1)(1) + (-1)(4)(2) + 2(0)(-2) – 2(1)(2) – (-2)(4)(3) – 1(0)(-1) 3 – 7 – 0 – 4 + 24 + 0 =16

• Mencari Adjoint A

A11 =

Page 25: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Det (A11) =(1)(1) – (-2)(4) = 1 + 8 = 9

A21 =

Det (A11) =(-1)(1) – (-2)(2) = -1 + 4 = 3

A31 =

Det (A31) =(-1)(4) – (1)(2) = -4 - 2 = -6

A12 =

Det (A12) =(0)(1) – (2)(4) = 0 - 8 = -8

A22 =

Page 26: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Det (A22) =(3)(1) – (2)(2) = 3 - 4 = -1

A32 =

Det (A22) =(3)(4) – (0)(2) = 12 - 0 =12

A13 =

Det (A13) =(0)(-2) – (2)(1) = 0 - 2 =-2

A23 =

Det (A23) =(3)(-2) – (2)(-1) = -6 + 2 =-4

Page 27: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

A33 =

Det (A33) =(3)(1) – (-1)(0) = 3 + 0 = 3

A =

Matriks kofaktor yang terbentuk adalah :

Adjoint matriks didapat dari transpose matriks kofaktor, didapat:

Page 28: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Penyelesaian inverse dengan metode dekomposisi

Dekomposisi adalah menuliskan suatu matriks sebagai jumlah atau perkalian dua

matriks , yang masing-masing bentuknya tertentu. Cara menentukan invers dari

matriks A berukuran nxn dengan metode dekomposisi dimulai dengan teknik partisi.

Partisi matriks adalah membagi matriks menjadi submatriks-submatriks. Ada 2

macam teknik partisi , yaitu partisi simetri dan partisi tak simetri. Partisi simetri

adalah apabila matriks asal dibagi menjadi empat buah submatriks yang ukurannya

sama. Partisi tak simetri adalah apabila matriks asal dibagi menjadi empat buah

submatriks yang ukurannya berbeda, dalam hal ini blok diagonal harus merupakan

matriks bujur sangkar dan dua blok lainnya adalah matriks garis dan matris kolom.

Penggunaan matriks dekomposisi bertujuan untuk menyelesaikan suatu invers

dari matriks yang berukuran besar, karena apabila kita menggunakan metode yang

biasa digunakan seperti matriks adjoint atau operasi baris elementer (OBE) rentan

terjadi kesalahan dalam proses perhitungannya dan relative lebih sulit, namun apabila

kita menggunakan metode dekomposisi maka matriks yang besar tersebut kemudian

akan dibagi menjadi submatriks –submatriks yang berukuran lebih kecil sehingga

akan lebih teliti dalam perhitungan menentukan invers dari suatu matriks.

Untuk lebih memahami bagaimana penyelesaian inverse dengan metode

dekomposisi, kita bisa membuat formula atau rumus umumnya .

Dimisalkan matriks Z adalah matriks bujur sangkar hasil partisi dari suatu matriks

besar ,dimana A11 dan A22 adalah juga merupakan sebuah matriks bujur sangkar.

Z = A11 A12

A21 A22

Misal A11 = A ; A12 = B ; A21 = C ; A22 = D

Maka ;

Z = A B

C D

Page 29: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Anggapan A adalah matriks nonsingular (formula 1)

Kemudian pada matriks Z dilakukan dekompoisi, sehingga didapat :

Z = A B = Im 0 A 0 Im A’B

C D CA’ In 0 ∆ 0 Iq

A 0 = Im 0 A B Im A’B

0 ∆ CA’ In C D 0 Iq

Dengan ∆ disebut schur complement dari A;

∆ = D – CA’B

Kronologi didapatkannya formula umum diatas adalah sebagai berikut :

Persamaan 1 :

Untuk membuat diagonal blok menjadi 0 , maka C + RA = 0. Sehingga

R= - CA’ dan menyebabkan nilai D + RB = D – CA’B .

Sehingga persamaan 1 menjadi

<=>

Persamaan 2 :

Kemudian untuk membuat diagonal blok menjadi 0, maka B +AQ = 0 ,

sehingga nilai Q = - A’ B dan menyebabkan nilai D+CQ = D – CA’B.

Sehingga persamaan 2 menjadi

<=>

persamaan 3 :

Page 30: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

=

Dengan melakukan subtitusi nilai R dan Q dari persamaan 1 dan 2 didapat

Tujuan dari penjabaran ketiga persamaan diatas adalah untuk pembuktian

penjabaran dari formula umum dekomposisi matriks .

Yaitu (dari persmaan 3) ,kita dapat melakukan dekomposisi dari matriks Z.

-1

Berdasarkan teori ,bahwa :

Im C -1 = Im 0 Im B -1 = Im -B

0 In -C In dan 0 In 0 In

Sehingga untuk persamaan 3 menjadi :

Z = =

Kemudian dikembalikan lagi kedalam permisalan: A11 = A ; A12 = B ; A21 = C ;

A22 = D, sehingga didapat kembali formula umum dari dekomposisi matriks dengan

Anggapan A11 adalah matriks nonsingular dan ∆ = A22 – A21 A11’ A12 (∆ adalah schur

complement dari A11 ).

Page 31: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Z = A11 A12 = I 0 A11 0 I A11-1A12

A21 A22 A21A11-1 I 0 ∆ 0 I

Anggapan permisalan D = A22 adalah matriks nonsingular (formula 2)

Z = A11 A12

A21 A22

Misal A11 = A ; A12 = B ; A21 = C ; A22 = D

Maka ;

Z = A B

C D

Maka berlaku juga pada permisalan A= A22 adalah matriks nonsingular, sehingga

didapat

Z = A B = Im BD’ ∆ 0 Im 0

C D 0 In 0 D D’C Iq

Dengan ∆ disebut schur complement dari D;

∆ = A – BD’C atau ∆ = A11 –A12 A22 ‘ A21

Kronologi didapatkannya formula umum diatas adalah sebagai berikut :

persamaan 1

persamaan 2

Page 32: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

dari persamaan 1 dan 2 didapat persamaan 3

dari persamaan 3 didapat bahwa

A B = Im -BD’ - 1 ∆ 0 Im 0 -1

C D 0 In 0 D -D’C Iq

Berdasarkan teori ,bahwa :

Im C -1 = Im 0 Im B -1 = Im -B

0 In -C In dan 0 In 0 In

Sehingga untuk persamaan 3 menjadi

A B = Im BD’ ∆ 0 Im 0

C D 0 In 0 D D’C Iq

Selanjutnya perhitungan matriks dari formula 1 dan 2 :

Misal A11 = A ; A12 = B ; A21 = C ; A22 = D dan A11 adalah matriks

nonsingular

Formula 1 ;

Z = A B = I 0 A 0 I A’B

C D CA’ I 0 ∆ 0 I

Dari Persamaan 1 :

Page 33: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

x y V

Dari matriks diatas

Dan = ∆

Y = V X-1

Y -1 = V -1 X , sehingga :

Dari teori

Maka dapat dipersamakan dengan persamaan 1

Misal A11 = A ; A12 = B ; A21 = C ; A22 = D dan A22 adalah matriks

nonsingular

Formula 2 ;

A B = Im BD’ ∆ 0 Im 0

C D 0 In 0 D D’C Iq

Page 34: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Kronologi mendapatkan rumusnya adalah sebagai berikut ;

Dengan F adalah ∆ (schum complement dari D) =

Dianalogikan bahwa

Lalu didapat

persamaan 1

persamaan 2

Dari persamaan 1 didapat

lalu

Berarti : dan

Dari persamaan 2 didapat

S = D-1- D-1CQ

Dan f = sehingga

Lalu didapat

Dan

Jadi sudah didapat semua komponen (P Q R S)

=

Page 35: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Contoh soal penyelesaian matriks dengan metode dekomposisi :

• Langkah yang pertama mempartisi matriks diatas menjadi 2 x 2 sesuai dengan bentuk umum dibawah ini :

A =

A11 =

A12 =

A21 =

A22 = [2]

Maka kita dapat menggunakan rumus karena A11 merpakan matriks Non singular sehingga kita menggunakan rumus :

A11 A12 = A11 -1 + A11 -1 A12 ∆-1 A21 A11 -1 - A11 -1 A12 ∆-1

A21 A22 -∆-1 A21 A11 -1 ∆-1

Berdasarkan rumus diatas kita cari nilai – nilai dari setiap matriks diatas :

A11 -1 =

∆ = A22 – A21 A11 -1 A12

Page 36: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

∆ = [2] – *

∆ = -2 ∆-1 = - 0.5

A11 -1 + A11 -1 A12 ∆-1 A21 A11 -1 =

- A11 -1 A12 ∆-1 = =

-∆-1 A21 A11 -1 = -0.5 * =

Sehingga invers matriks B dengan metode dekomposisi adalah ,

B-1 = A11 A12 = 0 -0.5 0.5

A21 A22 -0.5 0 0.5

0.5 0.5 -0.5

Mencari invers matriks dengan menggunakan matlab :

>> A = [2 5; 1 3]

A =

2 5

1 3

>> inv(A)

ans =

3 -5

-1 2

Page 37: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

SEMIDEFINIT MATRICES

Suatu matriks Hermitian A∈Mn dikatakan definit positif jika x*Ax > 0, untuk semua x ∈Cn. Jika ketaksamaan di atas diperlemah menjadi x * Ax ≥ 0 maka A dikatakan semidefinit positif. Secara implicit, ruas kiri pada ketaksamaan di atas menyatakan suatu bilangan real.

• Matrik Hessian

Beberapa konsep dalam matriks dan aljabar seperti matriks Hessian dapat kita gunakan sebagai salah satu metode untuk menentukan jenis matriks seperti matriks definite positive, semidefinite positif, definite negative atau indefinite dan definit negative.

Diberikan f(x1, x2, …, xn) adalah sebuah fungsi dengan n variable, (x1, x2, …, xn). Matriks Hessian adalah matriks yang merupakan turunan parsial dari fungsi tersebut dengan susunan seperti berikut :

(H) =

⎣⎢⎢⎡𝑓11 𝑓12 𝑓1𝑛𝑓21 𝑓22 𝑓2𝑛

. . .. . .𝑓𝑛1 𝑓𝑛2 𝑓𝑛𝑛⎦

⎥⎥⎤

𝑓11 = 𝜕2𝑓(𝜕𝑥2)2 𝑓1𝑛 = 𝜕2𝑓

𝜕𝑥1𝜕𝑥𝑛

𝑓2𝑛 = 𝜕2𝑓𝜕𝑥2𝜕𝑥𝑛

𝑓𝑛𝑛 = 𝜕2𝑓(𝜕𝑥𝑛)2

Contoh :

Tentukan matriks hessian dari suatu fungsi dengan tiga variabel berikut :

f(x) = x12 + 2x2

2 - 3x32 + 4x1x2 - 5x1x3 + 6x2x3

turunan parsial I :

𝜕𝑓𝜕𝑥1

= 2x1 + 4x2 - 5x3 𝜕𝑓𝜕𝑥2

= 4x2 + 4x1 + 6x3 𝜕𝑓𝜕𝑥3

= - 6x3 - 5x1 + 6x2

turunan parsial II :

𝑓11 = 𝜕2𝑓(𝜕𝑥1)2 = 2 𝑓12 = 𝜕2𝑓

𝜕𝑥1𝜕𝑥2 = 4 𝑓13 = 𝜕2𝑓

𝜕𝑥1𝜕𝑥3 = -5

𝑓21 = 𝜕2𝑓𝜕𝑥2𝜕𝑥1

= 4 𝑓22 = 𝜕2𝑓(𝜕𝑥2)2 = 4 𝑓23 = 𝜕2𝑓

𝜕𝑥2𝜕𝑥3 = 6

𝑓31 = 𝜕2𝑓𝜕𝑥3𝜕𝑥1

= -5 𝑓32 = 𝜕2𝑓𝜕𝑥3𝜕𝑥2

= 6 𝑓33 = 𝜕2𝑓(𝜕𝑥3)2 = -6

Page 38: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Maka akan diperoleh matriks hessian :

(𝐻) = �2 4 −54 4 6−5 6 −6

• Bagian-bagian matriks hessian

Jika terdapat suatu matriks berukuran (n x n), maka principal minor ke k (k≤n) adalah suatu sub matriks dengan ukuran (k x k) yang diperoleh dengan menghapus (n-k) baris dan kolom yang bersesuaian dari matriks tersebut.

Contoh :

(𝑄) = �1 2 34 5 67 8 9

Principal minor ke-1 adalah elemen-elemen yang diagonal yaitu 1,5,9.

Principal minor ke-2 adlah matriks-matriks (2 x 2) berikut :

�1 24 5� �1 3

7 9� �5 68 9�

Principal minor ke-3 adalah matriks Q itu sendiri.

Determinan dari suatu principal minor dinamakan principal determinan.

Leading principal minor ke k dari suatu matriks n x n diperoleh dengan menghapus (n - k) baris terakhir dan kolom yang bersesuaian. Dengan matriks Q diatas leading minor ke-1 adalah 1 (hapus dua baris terakhir dan dua kolom terakhir). Leading principal minor ke-2 adalah :

�1 24 5�

Sementara yang ke-3 adalah matriks Q itu sendiri.

Banyaknya leading Principle determinan dari suatu matriks (n x n) adalah n. Determinan dari leading principal minor dinamakan leading principal determinan.

• Menentukan jenis matriks hessian

Cara pengujian sederhana untuk menentukan apakah suatu matriks adalah definit positif, semidefinit positif, definit negative, semidefinit negative atau indefinite. Semua pengujian ini berlaku hanya jika matriksnya simetris.

Page 39: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Ketentuan uji bagi matriks definit positif adlah :

1. Semua elemen diagonal harus positif 2. Semua leading principal determinan harus positif ( > 0 )

Ketentuan uji untuk matriks semidefinit positif adalah :

1. Semua elemen diagonal positif 2. Semua leading principal determinan non negative ( ≥ 0)

Untuk membuktikan bahwa suatu matriks definit negative (semidefinit negatif), uji negative dari

matriks itu untuk definit positif (semidefinit positif). Suatu uji cukup bagi suatu matriks menjadi indefinite adalah bahwa sekurang-kurangnya dua elemen diagonalnya memiliki tanda berlawanan.

• Sifat-sifat penting berkaitan dengan matriks definit positif

Beberapa sifat penting berkaitan dengan matriks definit positif adalah: a. Penjumlahan sebarang dua buah matriks definit positif menghasilkan matriks definit positif juga.

Secara umum berlaku sebarang kombinasi linear nonnegative dari matriks-matriks semidefinit positif menghasilkan matriks semidefinit positif Bukti: Misalkan A dan B keduanya semidefinit positif, dan a,b ≥ Ο . Perhatikan bahwa x∗(aA + bB)x = a(x∗ Ax)+ b(x∗Bx)≥ Ο untuk semua x ∈Cn.

b. Setiap nilai eigen dari matriks definit positif adalah bilangan real positif Bukti: Misalkan A definit positif dan λ ∈σ (A), yaitu suatu nilai eigen dari A dan x adalah vektor eigen yang bersesuaian dengan λ . Perhatikan,

x∗ Ax = x∗λx = λx∗x

Oleh karena itu kita peroleh λ = (𝑥∗𝐴𝑥)𝑥∗𝑥

dimana pembilang dan penyebut keduanya positif.

c. Sebagai akibat dari bagian (b), trace dan determinan dari matriks definit positif adalah positif • Karakterisasi Matriks Definit Positif

Pada bagian ini kita akan melihat syarat cukup yang harus dipenuhi oleh matriks definit dan semidefinit positif yang dinyatakan dalam teorema berikut. Teorema 2

1. Suatu matriks Hermitian A∈Mn adalah semidefinit positif jika dan hanya jika semua nilai eigennya nonnegative.

Page 40: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

2. Suatu matriks Hermitian n A∈M adalah definit positif jika dan hanya jika semua nilai eigennya positif.

Bukti: Jika setiap nilai eigen dari A adalah positif maka untuk sebarang vektor tak nol x ∈Cn Berlaku

x* Ax = x* U* DUx = y* Dy =∑ 𝑑𝑖 𝑦𝑖′ 𝑦𝑖 >𝑛𝑖= ∑ 𝑑𝑖 |𝑦𝑖 ||𝑦𝑖 | >𝑛

𝑖= 0 Dimana D adalah matriks diagonal dengan entri-entri diagonal adalah nilai-nilai eigen dari A, y = Ux dan U uniter. Dengan menggunakan teorema di atas kita dapat memperoleh akibat berikut Akibat 3 Jika n A∈M suatu matriks semidefinit positif maka demikian juga matriks Ak, k = 1,2,… Bukti: Jika λ adalah suatu nilai eigen dari A maka λk adalah nilai eigen untuk Ak. Berdasarkan Teorema di atas maka Ak semidefinit positif.

Contoh Soal :

Contoh 1 :

f(x) = 7x12 + 10x2

2 + 7x32 – 4x1x2 + 2x1x3 – 4x2x3

maka

(𝐻) = �14 −4 2−4 20 −42 −4 −14

dengan leading principal determinan H1 = 14, H2 = 264, H3 = 3456

sehingga (H) definit positif.

Contoh 2 :

f(x) = – x12 – x2

2 – x32 + 3x1x2 – 3x1x3 + 4x2x3

maka

(𝐻) = �−2 3 −33 −2 4−3 4 −2

Page 41: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

dengan leading principal determinant H1 = -2, H2 = -5, H3 = -12

sehingga (H) definit negatif.

Contoh 3 :

f(x) = 2x12 + 2x2

2 + 2x32 + 4x1x2 + 1x1x3 + 4x2x3

maka

(𝐻) = �2 4 14 8 41 4 2

dengan leading principal determinan H1 = 2, H2 =0 , H3 = 24

sehingga (H) semidefinit positif

Ulinnuha L (L2F009030)

Susdarminasari T (L2F009034)

Achmad ulul Azmy (L2F009091)

Page 42: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Singular Value Decomposition

A. Pengertian

Singular Value Decomposition ( SVD ) adalah suatu cara memfaktorkan matrik A dengan cara

menguraikan matrik kedalam dua matrik P dan Q. Jika terdapat matrik berukuran m x n dengan rank

r > 0, maka penguraian matrik dapa dinyatakan sebagai

A = P Δ QT

Rank ( r ) menyatakan banyaknya jumlah baris atau kolom yang saling independent antara baris atau

kolom lainnya dalam suatu matrik. Matrik P merupakan matrik orthogonal berukuran m x r

sedangkan matrik Q merupakan matrik orthogonal berukuran n x r. Matrik Δ adalah matrik diagonal

berukuran r x r yang elemen diagonalnya merupakan akar positif dari eigenvalue matrik A.

Terbentuknya matrik Δ tergantung kondisi matrik A, yaitu :

a. Δ, bila r = m = n

b. � Δ(0)� bila r = n dan r < m

c. [Δ (0)] bila r = m dan r < n

d. �Δ (0)

(0) (0)� bila r < m dan r < n

Matrik P dapat diperoleh melalui perkalian antara A, Q, dan Δ-1 sehingga dapat dinyatakan P = AQΔ-1

CONTOH

Contoh 1 :

Menghitung SVD matrik non singular

X = �2 12 3� Hitung SVD dari matrik X

Jawab :

Pertama mencari nilai eigenvalue dari X XT

A = X XT = �2 12 3� �

2 21 3� = �5 7

7 13�

�XXT − λI� = 0,, ��5 77 13� − �λ 0

0 𝜆� � = 0

�5 − λ 77 13 − λ� = 0

Page 43: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

( 5-λ)(13-λ) – (7)(7) = 0

65 - 5λ - 13λ + λ2 – 49 = 0

λ2 - 18λ + 16 = 0

λ1,2 = −𝑏 ± √𝑏2− 4𝑎𝑐2𝑎

= − (−18)± �(−18)2−4(1)(16)2(1)

= 9 ±√65

• eigenvalue yang didapat adalah λ1 = 9 - √65 = 0.9377 dan λ2 = 9 + √65 = 17.0623

kedua mencari eigenvektor dari masing masing λ

• λ1 = 0.9377

( XXT – λI)x = 0

( �5 77 13� - �

0.9377 00 0.9377� ) �

𝑥1𝑥2� = �0

0�

�4.0623 77 12.0623� �

𝑥1𝑥2� = �0

0�

4.0623x1 + 7 x2 = 0 ; 7 x1 + 12.0623 x2 = 0

x1 =- 74.0623

x2 = - 1.7232 x2

Proses normalisai

𝑥1∗ = 𝑥1�𝑥1𝑇 𝑥1�

1/2 = �𝑥1𝑥2�

�(𝑥1 𝑥2) �𝑥1𝑥2��

1/2 = �−1.7232𝑥2

𝑥2�

�(−1.7232𝑥2 𝑥2) �−1.7232𝑥2𝑥2

��1/2

= �−1.7232

1 �𝑥2

�2.9693𝑋22+ 𝑥22�1/2 =

�−1.72321 �𝑥2

𝑥2√3.9693 = �−0.8649

0.5019 �

• λ2 = 17.0623

( XXT – λI)x = 0

( �5 77 13� - �

17.0623 00 17.0623� ) �

𝑥1𝑥2� = �0

0�

�−12.0623 77 −4.0623� �

𝑥1𝑥2� = �0

0�

-12,0623x1 + 7 x2 = 0 ; 7 x1 – 4.0623 x2 = 0

x1 = 712.0623

x2 = 0.5803 X2

Page 44: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Proses normalisai

𝑥2∗ = 𝑥1�𝑥1𝑇 𝑥1�

1/2 = �𝑥1𝑥2�

�(𝑥1 𝑥2) �𝑥1𝑥2��

1/2 = �

0.5803 X2𝑥2

�(0.5803 X2 𝑥2) �0.5803𝑥2𝑥2

��1/2

= �0.5803

1 �𝑥2

�0.3367 𝑥22+ 𝑥22�1/2 =

�0.5803 1 �𝑥2

𝑥2√1.3367 = �0.5019

0.8649�

Sehingga eigenvektor yang didapat dari 𝑥1∗ 𝑑𝑎𝑛 𝑥2∗ adalah P = �−0,8649 0,50190,5019 0,8649�

Ketiga mencari nilai eigenvalue dari XTX

B = XT X = �2 21 3� �

2 12 3� = �8 8

8 10�

�XTX − λI� = 0,, ��8 88 10� − �λ 0

0 𝜆� � = 0

�8 − λ 88 10 − λ� = 0

( 8-λ)(10-λ) – (8)(8) = 0

80 - 8λ - 10λ + λ2 – 64 = 0

λ2 - 18λ + 16 = 0

λ1,2 = −𝑏 ± √𝑏2− 4𝑎𝑐2𝑎

= − (−18)± �(−18)2−4(1)(16)2(1)

= 9 ±√65

• eigenvalue yang didapat adalah λ1 = 9 - √65 = 0.9377 dan λ2 = 9 + √65 = 17.0623

Keempat mencari nilai eigenvektor dari masing masing λ pada XTX

• λ1 = 0.9377

( XTX – λI)x = 0

( �8 88 10� - �

0.9377 00 0.9377� ) �

𝑥1𝑥2� = �0

0�

�7.0623 88 9.0623� �

𝑥1𝑥2� = �0

0�

7.0623x1 + 8 x2 = 0 ; 8 x1 + 9.0623 x2 = 0

x1 =- 87.0623

x2 = - 1.1328 x2

Page 45: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Proses normalisai

𝑥1∗ = 𝑥1�𝑥1𝑇 𝑥1�

1/2 = �𝑥1𝑥2�

�(𝑥1 𝑥2) �𝑥1𝑥2��

1/2 = �−1.1328𝑥2

𝑥2�

�(−1.1328𝑥2 𝑥2) �−1.1328𝑥2𝑥2

��1/2

= �−1.1328

1 �𝑥2

�1,2832𝑥22+ 𝑥22�1/2 =

�−1.13281 �𝑥2

𝑥2√2.2832 = �−0.7497

0.6618 �

• λ2 = 17.0623

( XT X– λI)x = 0

( �8 88 10� - �

17.0623 00 17.0623� ) �

𝑥1𝑥2� = �0

0�

�−9.0623 88 −7.0623� �

𝑥1𝑥2� = �0

0�

-9,0623x1 + 8 x2 = 0 ; 8 x1 – 7.0623 x2 = 0

x1 = 89.0623

x2 = 0.8828 X2

Proses normalisai

𝑥2∗ = 𝑥1�𝑥1𝑇 𝑥1�

1/2 = �𝑥1𝑥2�

�(𝑥1 𝑥2) �𝑥1𝑥2��

1/2 = �

0.8828 X2𝑥2

�(0.8828 X2 𝑥2) �0.8828𝑥2𝑥2

��1/2

= �0.8828

1 �𝑥2

�0.7793 𝑥22+ 𝑥22�1/2 =

�0.8828 1 �𝑥2

𝑥2√1.7793 = �0.6618

0.7497�

Sehingga eigenvektor yang didapat dari 𝑥1∗ 𝑑𝑎𝑛 𝑥2∗ adalah Q = �−0,7497 0,66180,6618 0,7497�

Sedangkan matrik Δ adalah Δ = ��𝜆1 0

0 �𝜆2� diambil dari eigenvalue matrik A atau B, pilih salah satu.

Δ = �√0,9377 00 √17,0623

� = �0,9684 00 4,1307�

Page 46: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Matrik SVD adalah bila P Δ Q = X

P Δ Q =�−0,8649 0,50190,5019 0,8649� �

0,9684 00 4,1307� �−0,7497 0,6618

0,6618 0,7497�

=�−0,8376 2,07330,4861 3,5727� �

−0,7497 0,66180,6618 0,7497�

= �2 12 3�

Terbukti bahwa P Δ Q = X = �2 12 3�

Contoh 2 :

Menghitung SVD matrik simetri non singular, bedanya ini langsung mencari eigenvalue tanpa

harus mengalikannya dengan transposenya.

1. Diketahui A = �5 22 2�

2. Mencari nilai eigenvalue matrik A

|A − λI| = 0,, ��5 22 2� − �λ 0

0 𝜆� � = 0

�5 − λ 22 2 − λ� = 0

( 5-λ)(2-λ) – 4 = 0

10 - 5λ - 2λ + λ2 – 4 = 0

λ2 - 7λ + 6 = 0

• eigenvalue yang didapat adalah λ1 = 1 dan λ2 =6

3. Mencari eigenvektor matrik A

λ1 = 1

( A – λI)x = 0

( �5 25 2� - �

1 00 1� ) �

𝑥1𝑥2� = �0

0�

�4 22 1� �

𝑥1𝑥2� = �0

0�

2x1 + x2 = 0

x1 =- 12 x2 = - 0,5 x2

Page 47: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Proses normalisasi

𝑥1∗ = 𝑥1�𝑥1𝑇 𝑥1�

1/2 = �𝑥1𝑥2�

�(𝑥1 𝑥2) �𝑥1𝑥2��

1/2 = �−0,5𝑥2

𝑥2�

�(−0,5𝑥2 𝑥2) �−0,5𝑥2𝑥2

��1/2

= �−0,5

1 �𝑥2

�0,25𝑥22+ 𝑥22�1/2 =

�−0,251 �𝑥2

𝑥2√1,25 = �−0.4472

0.8944 �

λ2 = 6

( A – λI)x = 0

( �5 22 2� - �

6 00 6� ) �

𝑥1𝑥2� = �0

0�

�−1 22 −4� �

𝑥1𝑥2� = �0

0�

-x1 + 2 x2 = 0

x1 = 2 X2

Proses normalisai

𝑥2∗ = 𝑥1�𝑥1𝑇 𝑥1�

1/2 = �𝑥1𝑥2�

�(𝑥1 𝑥2) �𝑥1𝑥2��

1/2 = �

2 X2𝑥2

�(2 X2 𝑥2) �2𝑥2𝑥2��1/2

= �2 1�𝑥2

�4 𝑥22+ 𝑥22�1/2 =

�2 1�𝑥2𝑥2√5

= �0.89440.4472�

Sehingga eigenvektor yang didapat dari 𝑥1∗ 𝑑𝑎𝑛 𝑥2∗ adalah X = �−0,4472 0,89440,8944 0,4472�

4. Menentukan Δ

Δ = �𝜆1 00 𝜆2

� = �1 00 6�

5. Mencari SVD dengan rumus A = X Δ XT

A = �−0,4472 0,89440,8944 0,4472� �

1 00 6� �−0,4472 0,8944

0,8944 0,4472�

= �−0,4472 5,36640,8944 2,6832� �−0,4472 0,8944

0,8944 0,4472�

= �5 22 2� maka terbukti nilai X Δ XT = A = �5 2

2 2�

Page 48: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Contoh 3:

Menghitung SVD matriks A(mxn) = A(3x2)

A=

011011

Jawab:

AT =

011101

ATA =

011101

011011

=

2112

Eigenvalue ATA

00

02112

=

λ

λ 0

2112

=−

−λ

λ

(2- λ )2-1=0

4-4 λ + λ 2-1=0

λ 2-4 λ +3=0

( λ -3)( λ -1)=0

λ 1=1 λ 2=3

Page 49: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Eigenvektor ATA

• Untuk λ 1=1

0)( 1 =− xIA λ

=

−00

2112

2

1

xx

λλ

=

−00

121112

2

1

xx

=

00

1111

2

1

xx

x1 + x2 = 0 x1 = - x2

Proses Normalisasi

( ) ( )2

1

2

222

2

2

21

2

121

2

1

*1

−−

=

=

xx

xx

xx

xx

xx

xx

x

[ ]

−=

=+

=

21

21

22

2

2

212

222

2

2

xx

x

xx

xx

Page 50: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

• Untuk λ 1=3

0)( 2 =− xIA λ

=

−00

2112

2

1

xx

λλ

=

−00

321132

2

1

xx

=

−00

1111

2

1

xx

-x1 + x2 = 0 x1 = x2

Proses Normalisasi

( ) ( )2

1

2

222

2

2

21

2

121

2

1

*2

=

=

xx

xx

xx

xx

xx

xx

x [ ]

=

=+

=

212

1

22

2

2

212

222

2

2

xxx

xx

xx

Sehingga eigenvektor ATA

−=

21

21

X

212

1

AAT =

011011

011101

=

101011112

Page 51: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Eigenvalue AAT

000

0000

101011112

=

λλ

λ 0

101011112

=−

−−

λλ

λ

( λ−2 )( )1 λ− ( )1 λ− +0+0-( )1 λ− -( )1 λ− =0

( λ 2-2 λ +1)(2- λ )-(2-2 λ )=0

2 λ 2-4 λ +2- λ 3-2 λ - λ -2+2 λ =0

- λ 3-3 λ =0

- λ ( λ 2-3)=0 λ =0 ; λ =1 ; λ =3

Eigenvektor AAT

• Untuk λ 1 = 0

0)( 1 =− xIA λ

=

−−

000

101011112

3

2

1

xxx

λλ

λ

=

000

101011112

3

2

1

xxx

2x1 + x2 + x3 =0 ; x1 + x2 = 0 ; x1 + x3 = 0

x2 = - x1 ; x3 = - x1

Page 52: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Proses Normalisasi

𝑥1∗ =

�𝑥1𝑥2𝑥3�

�[𝑥1 𝑥2 𝑥3] �𝑥1𝑥2𝑥3��

12�

𝑥1∗ =

�𝑥1−𝑥1−𝑥1

�[𝑥1 −𝑥1 −𝑥1] �𝑥1−𝑥1−𝑥1

��

12�

𝑥1∗ =

�𝑥1−𝑥1−𝑥1

(3𝑥12)1 2�=

�𝑥1−𝑥1−𝑥1

√3𝑥1 =

⎣⎢⎢⎢⎢⎢⎡

1√3

−1√3

−1√3⎦⎥⎥⎥⎥⎥⎤

• Untuk λ 2 = 1

=

−−

000

101011112

3

2

1

xxx

λλ

λ

=

000

001001111

3

2

1

xxx

x1 + x2 + x3 =0 ; x1 = 0 ; x1 = 0

x3 = - x2

Page 53: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Proses Normalisasi

𝑥2∗ =

�𝑥1𝑥2𝑥3�

�[𝑥1 𝑥2 𝑥3] �𝑥1𝑥2𝑥3��

12�

𝑥2∗ =

�0−𝑥3𝑥3

�[0 −𝑥3 𝑥3] �0−𝑥3𝑥3

��

12�

𝑥2∗ =

�0−𝑥3𝑥3

(2𝑥32)1 2�=

⎣⎢⎢⎢⎡

0

−12√

212√

2 ⎦⎥⎥⎥⎤

• Untuk λ 3 = 3

=

−−

000

101011112

3

2

1

xxx

λλ

λ

=

−−

000

201021111

3

2

1

xxx

-x1 + x2 + x3 =0 ; x1 – 2x2 = 0 ; x1 – 2x3 = 0

x2 = 12 x1; x3 = 1

2 x1

Page 54: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Proses Normalisasi

𝑥3∗ =

�𝑥1𝑥2𝑥3�

�[𝑥1 𝑥2 𝑥3] �𝑥1𝑥2𝑥3��

12�

𝑥3∗ =

𝑥112𝑥1

12𝑥1�

��𝑥112𝑥1

12𝑥1� �

𝑥112𝑥1

12𝑥1��

12�

𝑥3∗ =

𝑥112𝑥1

12𝑥1�

�1 12𝑥12�

12�

=

𝑥112𝑥1

12𝑥1�

1,2247𝑥1= �

0,81650,40820,4082

Mencari Nilai P:

P = AQ∆-1

= �1 10 11 0

� �− 1

√21√2

1√2

1√2

� �1√1

0

0 1√3

=

⎣⎢⎢⎡ 0 √2

1√2

1√2

− 1√2

1√2 ⎦⎥⎥⎤�1√1

0

0 1√3

Page 55: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

=

⎣⎢⎢⎢⎡ 0 √6

3√22

√66

− √22

√66 ⎦⎥⎥⎥⎤

A = P∆Q

=

⎣⎢⎢⎢⎡ 0 √6

3√22

√66

− √22

√66 ⎦⎥⎥⎥⎤

�1 00 √3� �

− √22

√22

√22

√22

=

⎣⎢⎢⎢⎡ 0 √2√22

√22

− √22

√22 ⎦⎥⎥⎥⎤ �− √2

2√22

√22

√22

= �1 10 11 0

Page 56: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Contoh 4

Menghitung SVD matriks A(mxn) = A(2x3)

Dapatkan Singular Value Decomposition (SVD) dari matrik yang berukuran mxn berikut ini :

B(2×3) =

−224422

Jawab:

1. Menghitung Matrik BTB dan BBT

BTB = C =

224422

242242

=

−−20416

48416420

BBT = D =

242242

224422

=

24121224

2. Mencari Eigenvalue (λ) dari Matrik BTB dan BBT

Eigenvalue Matrik BTB: C-λI= 0

000

0000

20416484

16420=

−−

λλ

λ

020416

48416420

=−−

−−−

λλ

λ

Page 57: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

⇒ [(20−λ)(8−λ)(20−λ) + 4(−4)16 + 16(4)(−4)] − [16(8−λ)16 + (−4)2(20−λ) + 42(20−λ)] =

0

⇒ [−λ3 + 48λ2 −720λ + 3200 −256 −256] − [256(8−λ) + 16(20−λ) + 16 (20−λ)] = 0

⇒ (−λ3 + 48λ2 −720λ + 2688) − (2048 − 256λ + 320 − 16λ + 320 −16λ) = 0

⇒ (−λ3 + 48λ2 −720λ + 2688) − (2688 − 288λ) = 0

⇒ −λ3 + 48λ2 − 432λ = 0

⇒ −λ(λ2 − 48λ − 432) = 0

⇒ −λ (λ − 12)(λ − 36) = 0

λ1 = 0, λ2 = 12, dan λ3 = 36

Jika dinyatakan dalam bentuk matrik diagonal ∆12 =

36000120000

Eigenvalue Matrik BBT: D-λI= 0

00

024121224

=

λ

λ

02412

1224=

−−

λλ

⇒ [(24−λ)(24−λ) − 122] = 0

⇒ (λ2− 48λ + 576 − 144) = 0

⇒ λ2− 48λ + 432 = 0

⇒ (λ − 12) (λ − 36) = 0

λ1 = 12 dan λ2 = 36

Page 58: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Jika dinyatakan dalam bentuk matrik diagonal ∆22 =

360012

Pada proses mencari eigenvalue matrik BTB (matrik C) didapatkan λ1 = 0, mengacu pada

prosedur penyelesaian SVD matrik m×n terdapat catatan bahwa: jika dalam perhitungan

eigenvalue didapatkan λ = 0 maka untuk prosedur perhitungan eigenvalue λ = 0 diabaikan

yang berakibat eigenvektor untuk kolom λ = 0 pada prosedur selanjutnya akan dihilangkan

dari matrik eigenvektornya.. Sehingga, matrik diagonal ∆12 = ∆2

2 = ∆2.

∆2 =

360012

3. Mencari Eigenvektor Matrik BTB dan BBT

Untuk λ1 = 0

Eigenvektor Matrik BTB:

• Untuk λ1 = 0 (C – 1x = 0

020416

48416420

1 =

−−−−

−x

λλ

λ

0020416

4084164020

3

12

11

=

−−−−

xxx

020416

48416420

3

12

11

=

−−

xxx

Page 59: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

=

+−−+++

000

2041648416420

131211

131211

131211

xxxxxxxxx

=+−=−+=++

0204160484016420

131211

131211

131211

xxxxxxxxx

Eliminasi Pers.1 dan Pers.3:

20x11 + 4x12 + 16x13 = 0

16x11 – 4x12 + 20x13 = 0

+

36x11 + 36x13 = 0

x11 + x13 = 0

x11 = – x13 Pers.4

Subsitusikan Pers.4 ke Pers.2

4(−x13) + 8x12 − 4x13 = 0

8x12 − 8x13 = 0

x12 = x13 Pers.5

Pers.1

Pers.2

Pers.3

Page 60: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Proses normalisasi untuk 1x :

*1x = ( ) 2/1

11

1

xx

xT

= 2/1

13

12

11

131211

13

12

11

)(

xxx

xxx

xxx

= 2/1

13

13

13

131313

13

13

13

)(

−−

xx

xxxx

xx

x

=

=

=++

3/1

3/1

3/1

)3()( 2/1213

13

13

13

2/1213

213

213

13

13

13

xxx

x

xxxxx

x

=

5774,05774,05774,0

• Untuk λ2 = 12 (C – λ2Ι) 2x = 0

020416

48416420

2 =

−−−−

−x

λλ

λ

01220416

412841641220

23

22

21

=

−−−−

xxx

08416444

1648

23

22

21

=

−−−

xxx

=

+−−−++

000

8416444

1648

232221

232221

232221

xxxxxxxxx

Page 61: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

=+−=−−=++

08416044401648

232221

232221

232221

xxxxxxxxx

Eliminasi Pers.1 dan Pers.3:

8x21 + 4x22 + 16x23 = 0

16x21 – 4x22 + 8x23 = 0

+

24x21 + 24x23 = 0

x21 + x23 = 0

x21 = – x23 Pers.4

Subsitusikan Pers.4 ke Pers.2

4(−x23) − 4x22 − 4x23 = 0

−4x22 − 8x23 = 0

x22 = −2x23 Pers.5

Proses normalisasi untuk 2x :

*2x =

( ) 2/1

22

2

xx

xT

= 2/1

23

22

21

232221

23

22

21

)(

xxx

xxx

xxx

= 2/1

23

23

23

232323

13

23

23

2)2(

2

−−

−−

−−

xx

xxxx

xx

x

Pers.3

Pers.2

Pers.1

Page 62: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

=

=

−−

=++

−−

6/1

6/2

6/1

)6(

2

)4(

2

2/1223

23

23

23

2/1223

223

223

23

23

23

xx

xx

xxxx

xx

=

−−

4082,08165.04082,0

• Untuk λ3 = 36 (C – λ3Ι) 3x = 0

020416

48416420

3 =

−−−−

−x

λλ

λ

03620416

436841643620

33

32

31

=

−−−−

xxx

0164164284

16416

33

32

31

=

−−−−

xxx

=

−−−−++−

000

16416428416416

333231

333231

333231

xxxxxx

xxx

=−−=−−

=++−

01641604284

016416

333231

333231

333231

xxxxxx

xxx

Pers.1

Pers.3

Pers.2

Page 63: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Eliminasi Pers.1 dan 4 × Pers.2:

−16x31 + 4x32 + 16x33 = 0

16x31 – 112x32 + 16x33 = 0

+

108x32 = 0

x32 = 0 Pers.4

Subsitusikan Pers.4 ke Pers.3

16x31 − 4(0) − 16x33 = 0

16x31 − 16x33 = 0

x31 = x33 Pers.5

Proses normalisasi untuk 3x :

3x =( ) 2/1

33

3

xx

xT

= 2/1

33

32

31

333231

32

32

31

)(

xxx

xxx

xxx

= 2/1

33

33

3333

13

33

0)0(

0

x

xxx

x

x

=

=

=+

2/1

02/1

)2(

0

)(

0

2/1233

33

33

2/1233

233

33

33

xx

x

xxx

x

=

7071,00

7071,0

Page 64: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Sehingga, eigenvektor yang didapatkan adalah:

X =

−−−

7071,04082,05774,008165,05774,0

7071,04082,05774,0

Akan tetapi, untuk prosedur selanjutnya eigenvektor yang digunakan adalah eigenvektor dari

kolom yang nilai eigenvalue (λ) lebih dari nol (positif).

Q =

−−

7071,04082,008165,0

7071,04082,0

Eigenvektor Matrik BBT:

• Untuk λ1 = 12 (D – λ1I) 1x = 0

02412

12241 =

−x

λλ

0122412

121224

12

11 =

−xx

012121212

12

11 =

xx

=

++

00

12121212

1211

1211

xxxx

=+=+

0121201212

1211

1211

xxxx

12x11 + 12x12 = 0

x11 + x12 = 0

x11 = – x12 Pers.3

Pers.1

Pers.2

Page 65: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Proses normalisasi untuk 1x :

*1x = ( ) 2/1

11

1

xx

xT

= 2/1

12

111211

12

11

)(

xx

xx

xx

= 2/1

12

121212

12

12

)(

−−

xx

xx

xx

=

−=

=+

2/12/1

)2()( 2/1212

12

12

2/1212

212

12

12

xxx

xxxx

=

−7071,07071,0

• Untuk λ2 = 36 (D – λ2I) 2x = 0

02412

12242 =

−x

λλ

0362412

123624

22

21 =

−xx

01212

1212

22

21 =

−xx

=

−+−

00

12121212

2221

2221

xxxx

=−

=+−01212

01212

2221

2221

xxxx

−12x21 + 12x22 = 0

−x21 + x22 = 0

x21 = x22 Pers.3

Pers.1

Pers.2

Page 66: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Proses normalisasi untuk 2x :

*2x =

( ) 2/1

22

2

xx

xT

= 2/1

22

212221

22

21

)(

xx

xx

xx

= 2/1

22

212221

22

21

)(

xx

xx

xx

=

=

=+

2/12/1

)2()( 2/1222

22

21

2/1212

221

22

21

xxx

xxxx

=

7071,07071,0

Sehingga, eigenvektor yang didapatkan adalah:

Y =

−7071,07071,07071,07071,0

4. Dekompisisi Nilai Singular (SVD) Matrik B

Diketahui: ∆2 =

360012

⇒ ∆ =

=

600464,3

360012

∆-1 =

12/10012/1 =

1667,0002887,0

Didapatkan:

P1 = B Q1 ∆-1

P1 =

−−

−1667,0002887,0

7071,04082,008165,0

7071,04082,0

224422

P1 =

− 1667,00

02887,02426,44494,22426,44494,2

P1 =

− 7071,07071,0

7071,07071,0

Page 67: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Dekomposisi matrik B = P1 ∆ Q1T

B =

−−

− 7071,007071,0

4082,08165,04082,0600464,3

7071,07071,07071,07071,0

B =

−−

− 7071,007071,0

4082,08165,04082,02426,44494,22426,44494,2

B =

−0001,20000,29999,39999,30000,20001,2

B =

−224422

Page 68: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Vector Norms and Matrix Norms VECTOR NORM

Norm merupakan konsep yang dimaksudkan untuk memperluas pengertian

magnitude atau “besar” sebuah besaran scalar dan vector atau bisa juga norm

mendefinisikan panjang suatu vector di ruang Euclidean (system koordinat yang

lazim digunakan. Untuk lebih mudahnya, pada konsep panjang kita dapat

membandingkan mana yang lebih besar antara dua buah vector yaitu dengan

membandingkan panjang keduanya.

Norm didefinisikan dengan symbol ||•||

Besaran vektorx =(xi) ∈Rn dinyatakan "panjang" atau "besar"-nya dengan norm dari

x, dilambangkan oleh ||x||. Dalam literature dikenal ada 3 buah definisi tentang ||x||:

1. norm-1 : ||x||1 ≡ ∑=

n

iix

1

;

2. norm-2 : ||x||2 ≡ ||x|| ≡ ∑=

n

iix

1

2 = (xTx)1/2;

3. norm-∞ : ||x|| ∞ ≡ max( ix ; i = 1,2,..,n ).

Ketiga definisi ini masing-masing memenuhi 3 sifat-dasar, yaitu definit positif,

homogeny dan memiliki sifat ketidaksamaan segitiga. Antara lain :

(i) Positif ||x|| ≥0

Pembuktian : Vector x = 3i + 4j. Maka||x|| = 22 43 + = 25 = 5

Vector x = -3i -4j. Maka||x|| = 22 )4()3( −+− = 25 = 5

Jadi norm dari suatu vector akan selalu bernilai positif untuk semua nilai vector (baik

itu positif maupun negative)

(ii) Definit positif ||x|| = 0 jika dan hanya jika x = 0

(iii) Homogen ||αx|| = |α|.||x|| ,dimana α merupakan nilai skalar

Pembuktian :

Misalkan α = 5 dan x = 3i+4j.

Maka ||αx|| = |α|.||x||

Page 69: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

||5(3i+4j)|| = |5|.||3i+4j||

||15i + 20j|| = |5|.5

22 2015 + = 25

625 = 25

25 = 25 (Terbukti)

(iv) Sifat segitiga ||x+y|| ≤ ||x||+||y||

Pembuktian :

Misalkan x = 3i+4j , y = 2i+3j

Maka ||x+y|| ≤ ||x||+||y||

||(3i+2i) + (4j+3j)|| ≤ ||3i+4j|| + ||2i+3j||

||5i + 7j|| ≤ 5 + 3,605

22 75 + ≤ 5 + 3,605

8,602 ≤ 8,605 (Terbukti)

Page 70: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

MATRIX NORM

Norm juga digunakan pada matriks. Ruang matriks Mn adalah suatu ruang

vector berdimensi n2. Dengan demikian sifat-sifat norm vektor di ruang berdimensi-

hingga tetap berlaku di sana. Perbedaannya, untuk sembarang A dan B di Mn kita

dapat mengalikan keduanya yang menghasilkan matriks baru AB di Mn juga.

Sangatlah wajar jika kita menginginkan suatu ukuran matriks yang memberikan

hubungan antara ukuran ketiganya

Suatu fungsi||.||: Mn→ R disebut norm matriks jika untuk sembarang A,

B∈Mn berlaku lima sifat berikut:

(1). ||A||≥ 0 untuk norm matrix akan selalu bernilai positif

(1a).||A||= 0 jika dan hanya jika A = 0

(2). ||cA||= |c|.||A|| untuk semua scalar kompleks c.

(3). ||A + B||≤ ||A||+ ||B||

(4). ||AB||≤ |A|.||B||(sub-multiplikatif)

Pada definisi di atas keempat sifat pertama tidak lain merupakan sifat-sifat norm

vektor. Adapun sifat terakhir ditambahkan untuk menghubungkan “ukuran” matriks –

matriks A, B dan hasil perkalian keduanya yaitu matriks AB. Inilah yang membedakan

Norm matriks dengan norm vektor.

Dengan melihat keterkaitan antara ruang Mn dan Cn maka kita dapat mendefinisikan

suatu norm di Mn dengan melibatkan norm di Cn seperti pada definisi berikut.

Norm matriks yang dibangunoleh norm vector. (Induced Norm)

Misalkan ||.|| adalah norm vector di Cn(n merupakan kolom matriks) dan Cm(m

merupakan baris matriks) ,yaitu ||.|| :Cm x n→R, didefinisikan matrix p-norm :

||A||p = max{||Ax||p : x ∈Cn dengan ||x|| = 1

= max {||𝐴𝑥||𝑝||𝑥||

: x ∈ Cn dengan ||x|| ≠ 0}

Untuk p = 1, 2, dan ∞

Page 71: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

Untuk p =1

||A||1 = max1≤𝑗≤𝑛 ∑ |𝑎𝑖𝑗𝑚𝑖=1 | ,nilai maksimum dari masing-masing

penjumlahan kolom matriks.

Contoh :

A = �3 5 72 6 40 2 8

||A||1= max (3+2+0, 5+6+2, 7+4+8) = max (5,13,19) = 19

Jadi ||A||1 = 19

Untuk p = ∞

||A||∞= max1≤𝑖≤𝑚 ∑ |𝑎𝑖𝑗𝑛𝑗=1 | ,nilai maksimum dari masing-masing

penjumlahan baris matriks.

Contoh :

A = �3 5 72 6 40 2 8

||A||∞= max (3+5+7, 2+6+4, 0+2+8) = ma x(15,12,10) = 15

Jadi ||A||∞ = 15

Untuk p= 2 atau sering disebut dengan Euclidian norm / spectral norm.

||A||2= ||A|| = �λmax(𝐴 ∗ 𝐴) = (akar dari nilai eigen maksimal dari (A transpose x A)

Contoh :

A = �2 14 3�

Page 72: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

A* = �2 41 3�

A*A =�2 41 3� �2 1

4 3�= �20 1414 10�

λmax(𝐴 ∗ 𝐴) = |SI – (A*A)|

= |�𝑆 00 𝑆� - �20 14

14 10�|

=|�𝑆 − 20 −14−14 𝑆 − 10�|

= (S-20)(S-10) - 196

= S2- 30S + 200 -196

= S2-30S + 4

S1,2 = −𝑏 ± √𝑏2−4𝑎𝑐2𝑎

= 30 ± �(−30)2−4(4)2

= 30 ± √900−162

= 15 ±14,86

S1 = 15 + 14,86 = 29,86 (nilai eigen maksimal)

S2 = 15 –14,86 = 0,14

Jadi ||A||2 = ||A|| = √29,86 = 5,4644

Page 73: Eigenvector dan eigenvalues - Diponegoro Universityaristriwiyatno.blog.undip.ac.id/files/2012/09/Linear-Algebra.pdf · Kita tinjau perkalian matriks A dan X dalam persamaan ... subbab

FROBENIOUS NORM

Matriks norm yang lain yang sering digunakan adalah frobenius form. Frobenius

form dituliskan:

||A||f := �𝑡𝑟𝑎𝑐𝑒(𝐴 ∗ 𝐴) = �∑ ∑ |𝑎𝑖𝑗|2𝑛𝑗=1

𝑚𝑖=1 = �∑ 𝜕𝑖

2𝑖

Lebih mudahnya, perhitungan frobenius form adalah akar dari jumlah kuadrat nilai

eigen dari (A transpose x A).

Contoh:

A = �2 14 3�

A* = �2 41 3�

A*A =�2 41 3� �2 1

4 3�= �20 1414 10�

λmax(𝐴 ∗ 𝐴) = |SI – (A*A)|

= |�𝑆 00 𝑆� - �20 14

14 10�|

=|�𝑆 − 20 −14−14 𝑆 − 10�|

= (S-20)(S-10) - 196

= S2- 30S + 200 -196

= S2-30S + 4

S1,2 = −𝑏 ± √𝑏2−4𝑎𝑐2𝑎

= 30 ± �(−30)2−4(4)2

= 30 ± √900−162

= 15 ±14,86

S1 = 15 + 14,86 = 29,86

S2 = 15 –14,86 = 0,14

Maka ||A||f = �𝑆12 + 𝑆2

2 = �29,862 + 0,142 = 29.86