Αριθμητική Ανάλυσηhelit.org/ece-notes/numerical.pdfΠρέπει να βρούμε...

Αριθμητική ΑνάλυσηΣημειώσεις από τις παραδόσεις

Για τον κώδικα σε LATEX, ενημερώσεις και προτάσεις:https://github.com/kongr45gpen/ece-notes

2017Τελευταία ενημέρωση: 28 Οκτωβρίου 2017

Περιεχόμενα

1 Εισαγωγή 31.1 Ακρίβεια vs Ταχύτητα . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

3 Επίλυση Εξισώσεων 53.1 Μέθοδος Διχοτόμησης . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

3.1.1 Σύγκλιση . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63.2 Μέθοδος Χορδής ή Τέμνουσας . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63.3 Μέθοδος Μεταβαλλόμενης Χορδής . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73.4 Μέθοδος Newton . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73.5 Μέθοδος Σταθερού Σημείου . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83.6 Ασκήσεις . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

4 Παρεμβολή 124.1 Το πρόβλημα . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124.2 Μορφές Αναπαράστασης Πολυωνύμου . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134.3 Μέθοδοι Παρεμβολής . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

4.3.1 Μέθοδος διηρημένων διαφορών . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154.3.2 Μέθοδος πεπερασμένων διαφορών . . . . . . . . . . . . . . . . . . . . . . . . . . . 164.3.3 Μέθοδος Aitken . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

4.4 Ασκήσεις . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

5 Προσέγγιση 215.1 Στοιχεία Αριθμητικής Γραμμικής Άλγεβρας . . . . . . . . . . . . . . . . . . . . . . . . . . . 22

5.1.1 Εσωτερικό γινόμενο . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225.1.2 Μήκος - Νόρμα (norm) διανύσματος . . . . . . . . . . . . . . . . . . . . . . . . . . 225.1.3 Ορθογώνιοι Υποχώροι . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23

5.2 Πίσω στο αρχικό πρόβλημα . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23

6 Αριθμητική Ολοκλήρωση 256.1 Κανόνας Παραλληλογράμμου . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 266.2 Κανόνας Τραπεζίου . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276.3 Κανόνας Simpson . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296.4 Κανόνας Μέσου Σημείου . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 306.5 Ασκήσεις . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

1

https://github.com/kongr45gpen/ece-notes

7 Υπολογισμός Ιδιοτιμών 337.1 Εισαγωγή . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33

7.1.1 Άνω Φράγματα . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 347.2 Μέθοδος δύναμης . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35

7.2.1 Αλγόριθμος . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 367.3 Μετασχηματισμοί Householder . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 367.4 Παραγοντοποίηση QR (Εισαγωγή) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377.5 Παραγοντοποίηση QR . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38

7.5.1 Εισαγωγή . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 397.5.2 Ορθογώνιος πίνακας . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40

7.6 Μετασχηματισμοί Householder . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40

9 Επίλυση Γραμμικών Συστημάτων 469.1 Ακριβής επίλυση με παραγοντοποίηση QR . . . . . . . . . . . . . . . . . . . . . . . . . . . 479.2 Ακριβής επίλυση με απαλοιφή Gauss . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47

9.2.1 Στοιχειώδεις πράξεις . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479.2.2 Κλιμακωτή Μορφή . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 489.2.3 Ομογενή Συστήματα . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 499.2.4 Στοιχειώδεις Πίνακες . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 499.2.5 Επίλυση . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49

9.3 Ακριβής επίλυση με LU χρησιμοποιώντας άλλες μεθόδους . . . . . . . . . . . . . . . . . 519.3.1 Μερική οδήγηση . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 519.3.2 Ειδικοί τύποι πινάκων . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52

9.4 Επαναληπτική μέθοδος Jacobi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 549.5 Επαναληπτική μέθοδος Gauss-Seidel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 579.6 Μέθοδος SOR . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 589.7 Μέθοδος Doolittle-Crout . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 599.8 Σφάλματα . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59

9.8.1 Συμβατά μήκη . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 609.8.2 Δείκτης κατάστασης . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 609.8.3 Βελτίωση Λύσεων . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62

9.9 Ασκήσεις . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62

11 Κανονικές Διαφορικές Εξισώσεις 6611.1 Μέθοδος Euler . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6711.2 Σφάλματα . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6811.3 Μέθοδος βελτιωμένου Euler . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6811.4 Μέθοδος Μέσου Σημείου . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6811.5 Μέθοδοι Runge-Kutta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6811.6 Μέθοδοι Πολλαπλού Βήματος . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7011.7 Συστήματα κανονικών διαφορικών εξισώσεων . . . . . . . . . . . . . . . . . . . . . . . . . 71

11.7.1 Μετατροπή ΔΕ n-οστής τάξης σε σύστημα . . . . . . . . . . . . . . . . . . . . . . 72

10 Γραμμικός Προγραμματισμός & Βελτιστοποίηση 7310.1 Αλγόριθμος Simplex . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75

12 Ποιες σχέσεις θα δίνονται; 77

Αριθμητική ανάλυση - Numerical AnalysisΜάθημα 4 ώρες την εβδομάδα - δεν υπάρχει διάκριση μεταξύ θεωρίας και ασκήσεων.Και τα δύο βιβλία προτείνονται, το μάθημα γίνεται περισσότερο με βάση το βιβλίο του κ. Πιτσούλη,

του κ. Δούγαλη είναι περισσότερο μαθηματικό.

2

Στις εξετάσεις δεν θα υπάρχει τυπολόγιο/βιβλίο, αλλά θα δίνονται τύποι που χρειάζονται σταθέματα. Απαραίτητο το κομπιουτεράκι.

Κεφάλαιο 1 Εισαγωγή

Η αριθμητική ανάλυση μάς δίνει προσεγγιστικές λύσεις σε μοντέλα και μαθηματικά προβλήματα.Σε δύσκολα προβλήματα, ζητάμε:

• Ακρίβεια αποτελέσματος

• Ταχύτητα υπολογισμού

Θα δούμε τα εξής προβλήματα:

• Επίλυση εξισώσεων

Παράδειγμα Ένας πελάτης θέλει να καταθέσει 𝑃 € για 𝑁 χρόνια στην τράπεζα, και εγώ τουλέω ότι θα του επιστρέψω 𝐴 € από την κατάθεση. Ο πελάτης όμως ενδιαφέρεται για το ετήσιοεπιτόκιο 𝑅.Προκύπτει μια εξίσωση της μορφής:

𝐴 = 𝑃 + 𝑃 (1 + 𝑅12) +…

𝑓(𝑅) = 𝑃𝑅/12 [(1 + 𝑅

12)𝑁

− 1] = 0, 𝑅 = ?

Θυμόμαστε ότι μπορούμε να χρησιμοποιήσουμε το θεώρημα Bolzano για να βρούμε ότι υπάρχειμια τουλάχιστον λύση μέσα σε ένα διάστημα, οπότε μπορούμε να "φανταστούμε" έναν αριθμόκοντά στη λύση, και να κλείνουμε συνεχώς ένα διάστημα γύρω από αυτήν (το διάστημα στιςεξετάσεις θα δίνεται, π.χ. βρείτε μία λύση στο διάστημα [2.5, 3.5] με ακρίβεια 10−5), αν καιαυτό δεν θα γίνεται στον πραγματικό κόσμο.

• Παρεμβολή

Σε έναν σταθμό διοδίων μετράω πόσα αυτοκίνητα περνάν το κάθε λεπτό (π.χ. το 11ο λεπτόπερνάν 4, το 12ο περνάν 7, κλπ.)

11 12 13 14 154 7 11 1 22

Θέλω να βρω ένα πολυώνυμο που να συνδέει όλα τα σημεία μεταξύ τους (θα αποδείξουμε ότιτέτοιο πολυώνυμο πάντα υπάρχει), ή ένα πολυώνυμο (αρκετά χαμηλού βαθμού, ώστε να μηνγίνονται πολλές πράξεις) με αρκετά καλή προσέγγιση.Με αυτόν τον τρόπο θα μπορώ να προσεγγίσω τιμές που δεν γνωρίζω, π.χ. αν πήγα για καφέστο 13ο λεπτό.

• Προσέγγιση

• Αριθμητική Γραμμική Άλγεβρα

Exact και προσεγγιστικές λύσεις συστημάτων πολλών αγνώστων.

3

• Ολοκλήρωση

• Υπολογισμός ιδιοτιμών & ιδιοδιανυσμάτων

• Παραγοντοποίηση πινάκων σε γινόμενο πινάκων

Βολεύει κυρίως για την επίλυση συστημάτων.

• Επίλυση κανονικών διαφορικών εξισώσεων

• Βελτιστοποίηση

Για παράδειγμα, να πρέπει να ελαχιστοποιήσω μια συνάρτηση τη στιγμή που πρέπει να τη-ρούνται κάποιες συνθήκες.

1.1 Ακρίβεια vs Ταχύτητα

Απόλυτο Σφάλμα: ∣𝑋𝑡 −𝑋𝑐∣ (απόσταση της λύσης που βρήκα από την πραγματική)

Σχετικό Σφάλμα:∣𝑋𝑡 −𝑋𝑐∣

∣𝑋𝑡∣Επειδή δεν θα γνωρίζουμε την πραγματική λύση 𝑋𝑡, θα βρίσκουμε το μέγιστο σφάλμα.Για παράδειγμα, σε υπολογιστές έχουμε σφάλματα στρογγύλευσης και αποκοπής:

0.666660.66 ← αποκοπή0.67 ← στρογγύλευση

4

Κεφάλαιο 3 Επίλυση Εξισώσεων

𝑓(𝑥) ∶ βρείτε 𝑥 έτσι ώστε 𝑓( 𝑥) = 0.Η επίλυση είναι εύκολη όταν η 𝑓 είναι πολυώνυμο μέχρι 2ου βαθμού, όχι όμως όταν είναι μεγα-

λύτερου, ή όταν έχει κι άλλους όρους (π.χ. εκθετικούς) μέσα.Ο τρόπος που θα ακολουθήσουμε για να λύνουμε τέτοια προβλήματα είναι:

• Δημιουργούμε μια ακολουθία 𝑥1,… , 𝑥𝑛 προσέγγισης της 𝑥.

• Σε κάθε βήμα κάνουμε έλεγχο σύγκλισης για να δούμε πόσο κοντά είμαστε.

3.1 Μέθοδος Διχοτόμησης

Θα χρησιμοποιήσω θεώρημα Bolzano (𝑓(𝑎)⋅𝑓(𝑏)<0):

𝑓

𝑎𝑏

𝑐1𝑐2

𝑐3

𝑐1 = 𝑎 + 𝑏2

𝑐2 = 𝑐1 + 𝑏2

Ξεκινάω από μία αρχική προσέγγιση/διάστημα (η μέθοδος διχοτόμησης δεν δίνει λύση συγκεκρι-μένη, αλλά διάστημα - τη λύση την παίρνω σαν το μέσο του διαστήματος).

Συνέχεια κόβω το διάστημα στη μέση, έτσι ώστε 𝑓(των άκρων) να είναι ετερόσημα, και παίρνωσυνεχώς ένα μικρότερο διάστημα.

Σταματάω όταν είναι επιτυχής ο έλεγχος σύγκλισης, π.χ ∣𝑐𝑘+1 − 𝑐𝑘∣ < 𝜖 → 10−5, δηλαδή το διά-στημα στο οποίο βρίσκεται η ρίζα είναι αρκετά μικρό.

Θα διαπιστώσουμε ότι, αν και αυτή η μέθοδος λειτουργεί πάντα, είναι αρκετά αργή.

Παράδειγμα Να βρεθεί ρίζα της εξίσωσης 𝑓(𝑥) = 𝑥3 + 𝑥 − 1 στο διάστημα [0, 1] με ακρίβεια10−3.

𝑓(0) ⋅ 𝑓(1) < 0

𝑘 = 1, 𝑎1 = 0, 𝑏1 = 1, 𝑚1 = 𝑎1 + 𝑏12 = 0.5

𝑓(𝑚1) = −0.375 < 0𝑓(0.5) ⋅ 𝑓(1) < 0

Άρα η λύση βρίσκεται μεταξύ 0.5 και 1.

5

Για το επόμενο βήμα:

𝑘 = 2, 𝑚2 = 0.5 + 12 = 0.75

𝑓(𝑚2) = 0.172 > 0𝑓(𝑚1)𝑓(𝑚2) < 0

𝑘 = 3, 𝑚3 = 0.5 + 0.752 = 0.625

𝑓(𝑚3) = −0.131𝑓(𝑚2)𝑓(𝑚3) < 0

⋮3.1.1 Σύγκλιση

Όπου 𝑟 και 𝑚𝑛 η πραγματική και προσεγγιστική λύση αντίστοιχα:

∣𝑟 − 𝑚𝑛∣ ≤ (12)

𝑛(𝑏 − 𝑎)

επειδή στη 𝑛−οστή επανάληψη έχω κόψει 𝑛 φορές το διάστημα στα 2.Για σφάλμα 10−5, θέλουμε |𝑟 − 𝑚𝑛| = 10−5:

10−5 ≤ (12)

𝑛(1 − 0) ⟹

⟹ 𝑛 ≃ 16.667 ⟹ 𝑛 = 17

3.2 Μέθοδος Χορδής ή Τέμνουσας

Σαν τη μέθοδο Bolzano, όμως δεν παίρνουμε το μέσο του διαστήματος, αλλά κάποια άλλη τιμή.Παρατηρείται ότι αυτή η μέθοδος συγκλίνει γρηγορότερα.

(𝑏1, 𝑓(𝑏1))

𝑓

(𝑎1, 𝑓(𝑎1))

𝑎1

(𝑎2, 𝑓(𝑎2))

𝑎2

Πρέπει να βρούμε τη ρίζα εντός του διαστήματος (𝑎1, 𝑏1).• Παίρνουμε τη χορδή που ενώνει τα 𝑎1, 𝑏1.

• Η χορδή αυτή τέμνει τον άξονα των 𝑥 στο σημείο 𝑎2, επομένως η ρίζα βρίσκεται μεταξύ των𝑎2, 𝑏1.

• Παίρνουμε τη χορδή που ενώνει τα 𝑎2, 𝑏2• Η χορδή αυτή τέμνει τον άξονα των 𝑥 στο σημείο 𝑎3, επομένως η ρίζα βρίσκεται μεταξύ των

𝑎3, 𝑏1

6

• ⋯

Παρατηρούμε ότι η μέθοδος χορδής λειτουργεί για κυρτές συναρτήσεις.

Κυρτές συναρτήσεις

Όταν λέμε ότι μια συνάρτηση είναι κυρτή, εννοούμε ότι η καμπύλη της είναι κυρτή, δηλαδήγια δύο σημεία της, η χορδή που τα ενώνει δεν τέμνει κάποιο σημείο της 𝑓 . Στην αντίθετηπερίπτωση, η συνάρτηση λέγεται μη κυρτή.

𝑎1, 𝑏1 όπου 𝑓(𝑎1)𝑓(𝑏1) < 0 for 𝑘 = 1, 2,…

(𝑎, 𝑓(𝑎)) (𝑏, 𝑓(𝑏))

𝑦 − 𝑓(𝑏) = 𝑓(𝑏) − 𝑓(𝑎)(𝑏 − 𝑎) (𝑥 − 𝑏)

Σημείο τομής με άξονα 𝑥 ∶ 𝑥 = 𝑎𝑓(𝑏) − 𝑏𝑓(𝑎)𝑓(𝑏) − 𝑓(𝑎)

𝑐 = 𝑎𝑘𝑓(𝑏𝑘) − 𝑏𝑘𝑓(𝑎𝑘)𝑓(𝑏𝑘) − 𝑓(𝑎𝑘)

𝑓 ∶ 𝑓(𝑎𝑘)𝑓(𝑐) < 0 ⟹ 𝑎𝑘+1 = 𝑎𝑘, 𝑏𝑘+1 = 𝑐else ⟹ 𝑎𝑘+1 = 𝑐, 𝑏𝑘+1 = 𝑏𝑘

Αν και η μέθοδος χορδής είναι αργή, συνεχίζει να είναι γρηγορότερη από τη μέθοδο διχοτόμησης.

3.3 Μέθοδος Μεταβαλλόμενης Χορδής

(𝑏1, 𝑓(𝑏1))

𝑎1 𝑎2

(𝑏1, 𝑓(𝑏1)2 )

𝑎3

Όπως η μέθοδος χορδής, αλλά μεταβάλλουμε την κλίση της χορδής γρηγορότερα, ώστε να φτάσειπιο κοντά στη ρίζα.

Αυτό μπορούμε να το πετύχουμε π.χ. θεωρώντας ως 2ο σημείο το (𝑏1, 𝑓(𝑏1)2 ) αντί για το (𝑏1, 𝑓(𝑏1)),όπως φαίνεται στο σχήμα. Αντί για να διαιρέσουμε με 2, μπορούμε να επιλέξουμε έναν άλλον αριθμό,π.χ. 4 για συναρτήσεις που έχουν πιο κάθετες χορδές.

3.4 Μέθοδος Newton

Αν και η μέθοδος Newton δεν συγκλίνει πάντα και απαιτεί παραγωγισιμότητα, είναι πολύ πιογρήγορη από τις προηγούμενες μεθόδους, και χρησιμοποιείται πολύ πιο συχνά.

Παίρνουμε το ανάπτυγμα Taylor της 𝑓 :

𝑓(𝑥) = 𝑓(𝑥0) + (𝑥 − 𝑥0)𝑓′(𝑥0)𝑓(𝑥0) + (𝑥 − 𝑥0)𝑓′(𝑥0) = 0

𝑥 = 𝑥0 − 𝑓(𝑥0)𝑓′(𝑥0)

7

for 𝜅 = 1, 2,…

𝑥𝜅+1 = 𝑥𝜅 − 𝑓(𝑥1)𝑓′(𝑥1)

→ ΕΠΑΝΑΛΗΠΤΙΚΗ

if ∣𝑥𝜅+1 − 𝑥𝜅∣ < 𝜖 → ΚΡΙΤΗΡΙΟ ΤΕΡΜΑΤΙΣΜΟΥ

stop, αλλιώς 𝜅 = 𝜅 + 1Η μέθοδος Newton έχει αρκετά περίπλοκες συνθήκες σύγκλισης που δεν θα μελετήσουμε.

3.5 Μέθοδος Σταθερού Σημείου

Ένα σημείο 𝑥 της 𝑓(𝑥) λέγεται σταθερό σημείο αν 𝑓( 𝑥) = 𝑥.Ορισμός 3.1: Σταθερό Σημείο

𝑓(𝑥) το 𝑥 σταθερό σημείοανν 𝑓( 𝑥) = 𝑥

Μπορώ να βρω μια ρίζα 𝑥 της 𝑓(𝑥) στο (𝑎, 𝑏) αν κατασκευάσω 𝑔(𝑥) τέτοια ώστε το 𝑥 να είναισταθερό σημείο της 𝑔:

𝑥 = 𝑔( 𝑥) ⟺ 𝑓( 𝑥) = 0

Παράδειγμα

𝑓(𝑥) = 𝑥2 − 𝑥 − 2Μπορούμε να θέσουμε:

𝑔(𝑥) = 𝑥2 − 2𝑔(𝑥) =

√𝑥 + 2

𝑔(𝑥) = 1 − 2𝑥

Αντί να λύσω την 𝑓 , βρίσκω υποψήφιες λύσεις μέσω της 𝑔, όπως φαίνεται παρακάτω.Αν η εύρεση μιας κατάλληλης συνάρτησης είναι δύσκολη στις εξετάσεις, θα δίνεται η 𝑔(𝑥).

Μέθοδοςfor 𝑖 = 1, 2,… (𝑥0, 𝑔(𝑥), 𝜖)

𝑥𝑖 = 𝑔 (𝑥𝑖−1)if ∣𝑥𝑖 − 𝑔(𝑥𝑖)∣ < 𝜖 → ΚΡΙΤΗΡΙΟ ΤΕΡΜΑΤΙΣΜΟΥ

Προϋποθέσεις σύγκλισης

1. Για αρχικό 𝑥0, τα 𝑥1, 𝑥2,… να είναι υπολογίσιμα στην 𝑔(𝑥)

π.χ. 𝑔(𝑥) = −√𝑥 για 𝑥0 > 0𝑥1 = 𝑔(𝑥0) = −√𝑥0𝑥2 = 𝑔(𝑥1) = −√𝑥1

2. 𝑥1, 𝑥2,… να συγκλίνουν σε ένα 𝑥3. Το σημείο σύγκλισης 𝛾 να είναι σταθερό σημείο της 𝑔(𝑥).Τα παραπάνω μετασχηματίζονται σε 3 κριτήρια σύγκλισης:

8

Κριτήρια Σύγκλισης

1. Υπάρχει [𝑎, 𝑏] στο οποίο ορίζεται η 𝑔(𝑥) και 𝑔(𝑥) ∈ [𝑎, 𝑏], δηλαδή:

𝑔 ∶ [𝑎, 𝑏] → [𝑎, 𝑏]

2. 𝑔(𝑥) συνεχής στο [𝑎, 𝑏]

3. 𝑔(𝑥) παραγωγίσιμη και να υπάρχει 𝑘 < 1:

∀𝑥 ∈ [𝑎, 𝑏], ∣𝑔′(𝑥)∣ ≤ 𝑘

Θεώρημα Αν ισχύουν οι 3 παραπάνω προϋποθέσεις, τότε στο διάστημα [𝑎, 𝑏] υπάρχει ακριβώς ένασταθερό σημείο 𝛾 της 𝑔, και η μέθοδος σταθερού σημείου συγκλίνει σε αυτό το 𝛾.

3.6 Ασκήσεις

Άσκηση

𝑥3 + 2𝑥 − 1 = 0Να αποδειχθεί ότι έχει μια μόνο ρίζα στο [0, 12] και να προσεγγιστεί με τη μέθοδο σταθερού σημείου.

Λύση

𝑓(0) = −1, 𝑓 (12) = 1

8 ⟹ 𝑓(0)𝑓 (12) < 0

𝑓′(𝑥) = 3𝑥2 + 2 > 0 } μοναδικότητα

𝑔(𝑥) = 𝑥 ⟺ 𝑓(𝑥) = 0

𝑔(𝑥) = 12(1 − 𝑥3) (περιμένω να δουλέψει, δηλαδή να ικανοποιούνται τα κριτήρια σύγκλισης)

Y1 ✓Y2 ✓

Y3 ∶ 𝑔′(𝑥) = −32 𝑥2

∣𝑔′(𝑥)∣ = 32𝑥

2 ≤ 32 (1

2)2= 3

8 < 1

Άρα: Y3 ✓

(όπου Y τα κριτήρια σύγκλισης)Επομένως, η 𝑔(𝑥) που επέλεξα ικανοποιεί τη σύγκλιση.Επιλέγω: 𝑥0 = 0

𝑥1 = 𝑔(𝑥0) = 𝑔(0) = 12

𝑥2 = 𝑔(𝑥1) = 𝑔 (12) = 1

2 (1 − (12)

3) = 0.4375

𝑥3 = 𝑔(𝑥2) =12 (1 − 0.43753) = 0.4581298

𝑥4 = 𝑔(𝑥3) =12 (1 − 0.45812983) = 0.451923191

Άσκηση Να υπολογιστεί ένας τύπος με τη μέθοδο Newton που θα βρίσκει την τετραγωνική ρίζαθετικού αριθμού.

9

Λύση

𝑥 = √𝑎 ⟹ 𝑥2 = 𝑎

𝑓(𝑥) = 𝑥2 − 𝑎𝑓′(𝑥) = 2𝑥

𝑥𝑛+1 = 𝑥𝑛 − 𝑓(𝑥𝑛)𝑓′(𝑥𝑛)

= 𝑥𝑛 − 𝑥2𝑛 − 𝑎2𝑥𝑛

= 12 (𝑥𝑛 + 𝑎

𝑥𝑛)

Παράδειγμα√3 = ?, με 𝑥0 = 1.5

𝑥1 = 12 (𝑥0 + 3

𝑥0) = 1

2 (1.5 + 31.5) = 1.75

𝑥2 = 12 (𝑥1 + 3

𝑥1) = 1.7321428

Υπολογισμός με ακρίβεια 3 δεκαδικών ψηφίων (δύο διαδοχικές ρίζες να απέχουν 0.5 ⋅ 10−3 ⟹ )(σφάλμα) → 0.5 ⋅ 10−3

𝑥3 = 12 (𝑥2 + 3

𝑥2) = 1.7320528

∣𝑥3 − 𝑥2∣ < 0.5 ⋅ 10−3 (ικανοποίηση κριτηρίου τερματισμού)

Άρα:

𝑥3 = 1.7320528

Άσκηση

𝑥3 + 2𝑥2 + 10𝑥 − 20 = 0Να προσεγγιστεί μια ρίζα της παραπάνω εξίσωσης (π.χ. για 3 επαναλήψεις)

Λύση


= 2𝑥3𝑛 + 2𝑥2

𝑛 + 203𝑥2𝑛 + 4𝑥𝑛 + 10

𝑥0 = 1

𝑥1 = 2 ⋅ 13 + 2 ⋅ 12 + 203 ⋅ 12 + 4 ⋅ 1 + 10 = ⋯ = 1.41764706

𝑥2 = 2𝑥31 + 2𝑥2

1 + 203𝑥2

1 + 4𝑥1 + 20 = 1.369336471

𝑥3 = 2𝑥32 + 2𝑥2

2 + 203𝑥2

2 + 4𝑥2 + 10 = 1.368908108

Άσκηση Να βρεθεί μια λύση της εξίσωσης

𝑥3 + 𝑥 − 1στο διάστημα (0, 1) με ακρίβεια 2 δεκαδικών ψηφίων χρησιμοποιώντας τη μέθοδο χορδής, και νασυγκριθεί με τη μέθοδο Newton.

10

Λύση (με μέθοδο χορδής)

𝑥𝑛+1 = 𝑥𝑛 − 𝑓(𝑥𝑛)𝑥𝑛 − 𝑥𝑛−1

𝑓(𝑥𝑛) − 𝑓(𝑥𝑛−1)𝑥2 = 𝑥1 − 𝑓(𝑥1)

𝑥1 − 𝑥0𝑓(𝑥1) − 𝑓(𝑥0)

= 1 − 112 = 0.5

𝑥3 = 𝑥2 − 𝑓(𝑥2)𝑥2 − 𝑥1

𝑓(𝑥2) − 𝑓(𝑥1)= 0.636

𝑥4 = 𝑥3 − 𝑓(𝑥3)𝑥3 − 𝑥2

𝑓(𝑥3) − 𝑓(𝑥2)= 0.606

⋮𝑥6 = ⋯ = 0.687𝑥7 = ⋯ = 0.682

Άρα με ακρίβεια 2 δεκαδικών ψηφίων, 𝜌 = 0.68, και χρησιμοποιήσαμε 7 επαναλήψεις.

Λύση με μέθοδο Newton


𝑥𝑛+1 = 𝑥𝑛 − 𝑥3𝑛 + 𝑥𝑛 − 13𝑥2𝑛 + 1

𝑥𝑛+1 = 2𝑥3𝑛 + 1

3𝑥2𝑛 + 1𝑥0 = 0.5

𝑥1 = 2 ⋅ 0.52 + 13 ⋅ 0.52 + 1 = 0.714

𝑥2 = 0.683𝑥3 = 0.682

Άσκηση Να βρεθεί μια λύση της:

𝑓(𝑥) = 𝑥10 − 1 (0, 1.3)

0 0.2 0.4 0.6 0.8 1 1.2 1.4

0

5

10

Λύση με διχοτόμηση Με τη μέθοδο της διχοτόμησης έχουμε:

𝑎𝑘 𝑏𝑘 𝑐0 1.3 0.65

0.65 1.3 0.9750.975 1.3 1.13750.975 1.1375 1.056250.975 1.05625 1.015625

11

Λύση με μέθοδο χορδής Με τη μέθοδο της χορδής έχουμε (εφαρμόζοντας τον τύπο όπως καιστην προηγούμενη άσκηση):

𝑎𝑘 𝑏𝑘 𝑐0 1.3 0.09430

0.09430 1.3 0.181760.18176 1.3 0.262870.26287 1.3 0.338110.33811 1.3 0.40708

Παρατηρούμε ότι σε αυτήν την περίπτωση, η μέθοδος χορδής είναι αρκετά πιο αργή. Για να τοαποτρέψουμε αυτό, μπορούμε να χρησιμοποιήσουμε μεταβαλλόμενη χορδή.

Λύση με μέθοδο Newton

𝑥𝑖+1 = 𝑥𝑖 −𝑥10𝑖 − 110𝑥9

𝑖

𝑖 𝑥𝑖0 0.51 51.652 46.4853 41.83654 37.65285⋮ ⋮40 1.002316

Άσκηση Να βρεθεί μία ρίζα της εξίσωσης

𝑓(𝑥) = 𝑥3 − 2𝑥 − 5στο διάστημα [2, 3] χρησιμοποιώντας τη μέθοδο της διχοτόμησης, με ακρίβεια 𝜖 = 10−6.

Λύση

𝑖 𝑎𝑘 𝑏𝑘 𝑐1 2 3 2.52 2 2.5 2.253 2 2.25 2.125⋮ ⋮ ⋮ ⋮

19 2.0945530

Κεφάλαιο 4 Παρεμβολή

4.1 Το πρόβλημα

Έστω μια άγνωστη 𝑓(𝑥) ορισμένη στο [𝑎, 𝑏] και οι τιμές 𝑥𝑖 (𝑖 = 0,… , 𝑛 − 1). Επίσης, έστω μια𝑝(𝑥) που παρεμβάλλει την 𝑓(𝑥), δηλαδή:

𝑝(𝑥𝑖) = 𝑓(𝑥𝑖).

Θα ψάξω να βρω την 𝑝(𝑥) με βάση τις τιμές 𝑝(𝑥𝑖).Όταν ψάχνω να βρω μια προσέγγιση για κάποια τιμή 𝑥 ( 𝑥 ∈ [𝑥0, 𝑥𝑛−1]) με βάση την 𝑝(𝑥) που

προκύπτει με δεδομένες τιμές για 𝑥𝑖, λέγεται ότι κάνω intrapolation.Για 𝑥 ∉ [𝑥0, 𝑥𝑛−1] (πιο επικίνδυνη περίπτωση), ονομάζεται extrapolation.

12

Θεώρημα 4.1

Για οποιαδήποτε συνάρτηση, υπάρχει ένα πολυώνυμο που την παρεμβάλλει, δηλαδή:

lim𝑛→∞

𝑃𝑛(𝑥) = 𝑓(𝑥)

𝑓(𝑥)𝑝(𝑥)

Και μάλιστα:

∣𝑃𝑛(𝑥) − 𝑓(𝑥)∣ ≤ 𝜖 𝜖 δεδομένη ακρίβεια

Όσο το 𝜖 μικραίνει, ο βαθμός του 𝑃𝑛(𝑥) αυξάνεται.Για παράδειγμα, αν έχουμε μερικά σημεία της 𝑓 :

𝑥𝑖 1 2 3 4𝑓(𝑥𝑖) 7 12 21 20

ψάχνω ένα πολυώνυμο (κάποιου βαθμού) που να περνάει από αυτά τα σημεία.

𝑝(𝑥)

Αν έχω δύο σημεία, το ζητούμενο πολυώνυμο είναι μια ευθεία, δηλαδή ένα πολυώνυμο 1ου βαθμού.Για τρία σημεία, θα χρειαστώ πολυώνυμο 2ου βαθμού, και γενικά έχω ένα μοναδικό πολυώνυμο 𝑛βαθμού για 𝑛 + 1 διακριτά σημεία, όπως θα δούμε αργότερα.

Η πραγματική συνάρτηση μπορεί να έχει διαφορετική συμπεριφορά ανάμεσα στα σημεία της ταοποία γνωρίζουμε.

Στο επόμενο κεφάλαιο θα μάθουμε την προσέγγιση, δηλαδή την εύρεση ενός πολυωνύμου συγκε-κριμένου βαθμού που να φτάνει κοντά στην 𝑓 , έτσι ώστε να είναι πιο εύκολα υπολογίσιμο αν π.χ.έχουμε 300 σημεία της συνάρτησης.

4.2 Μορφές Αναπαράστασης Πολυωνύμου

Εκθετική μορφή 𝑃𝑛(𝑥) = 𝑎0 + 𝑎1𝑥 + 𝑎2𝑥2 +⋯+ 𝑎𝑛𝑥𝑛

Μορφή κέντρων 𝑃𝑛(𝑥) = 𝑏0 + 𝑏1(𝑥 − 𝑐) + 𝑏2(𝑥 − 𝑐)2 +⋯+ 𝑏𝑛(𝑥 − 𝑐)𝑛

Μορφή Newton 𝑃𝑛(𝑥) = 𝑎0+𝑎1(𝑥−𝑐1)+𝑎2(𝑥−𝑐1)(𝑥−𝑐2)+⋯+𝑎𝑛(𝑥−𝑐1)(𝑥−𝑐2)⋯ (𝑥−𝑐𝑛) =

𝑎0 +𝑛∑𝑘=1

𝑎𝑘𝑘∏𝑖+1

(𝑥 − 𝑐𝑖)

13

Φωλιασμένη μορφή Newton

𝑃𝑛(𝑥) = 𝑎0 + (𝑥 − 𝑐1) [𝑎1 + 𝑎2(𝑥 − 𝑐2) + 𝑎3(𝑥 − 𝑐2)(𝑥 − 𝑐3) + ⋯ + 𝑎𝑛(𝑥 − 𝑐2)⋯ (𝑥 − 𝑐𝑛)] = …= 𝑎0 + (𝑥 − 𝑐1) [𝑎1 + (𝑥 − 𝑐2) [𝑎2 + (𝑥 − 𝑐3) [𝑎3 +⋯+ (𝑥 − 𝑐𝑛−1) [𝑎𝑛−1 + (𝑥 − 𝑐𝑛)𝑎𝑛]]]]

Μορφή Lagrange Δεδομένων 𝑛 + 1 σημείων 𝑥0, 𝑥1,… , 𝑥𝑛, έχουμε τα πολυώνυμα:

𝑙𝑗(𝑥) =(𝑥 − 𝑥0)(𝑥 − 𝑥1)⋯ (𝑥 − 𝑥𝑗−1)(𝑥 − 𝑥𝑗+1)⋯ (𝑥 − 𝑥𝑛)

(𝑥𝑗 − 𝑥0)(𝑥𝑗 − 𝑥1)⋯ (𝑥𝑗 − 𝑥𝑗−1)(𝑥𝑗 − 𝑥𝑗+1)⋯ (𝑥𝑗 − 𝑥𝑛)

=𝑛∏𝑖=0𝑖≠𝑗

(𝑥 − 𝑥𝑖)(𝑥𝑗 − 𝑥𝑖)

για 𝑗 = 0, 1,… , 𝑛 ονομάζονται πολυώνυμα Lagrange (ο παρονομαστής σταθερός).Παρατηρούμε ότι τα πολυώνυμα είναι φτιαγμένα με τέτοιον τρόπο ώστε:

𝑙𝑗(𝑥𝑖) = {0 𝑖 ≠ 𝑗1 𝑖 = 𝑗 = 𝛿𝑖𝑗

Άρα για σταθερές 𝑎0, 𝑎1,… , 𝑎𝑛 και σημεία 𝑥0, 𝑥1,… , 𝑥𝑛, το πολυώνυμο

𝑃𝑛(𝑥) = 𝑎0𝑙0(𝑥) + 𝑎1𝑙1(𝑥) + ⋯ + 𝑎𝑛𝑙𝑛(𝑥)ονομάζεται πολυώνυμο σε μορφή Lagrange.

4.3 Μέθοδοι Παρεμβολής

𝑃(𝑥𝑖) = 𝑓(𝑥𝑖)

𝑃 (𝑥𝑖) =𝑛∑𝑘=0

𝑎𝑘𝑙𝑘(𝑥𝑖) = 𝑎𝑖

𝑃(𝑥) =𝑛∑𝑘=0

𝑓(𝑥𝑘)𝑙𝑘(𝑥)

Παράδειγμα Έχουμε τη συνάρτηση:

𝑖 0 1 2𝑥𝑖 −1 0 1

𝑓(𝑥𝑖) 1 1 2Αναζητώ πολυώνυμο που να παρεμβάλλει την 𝑓 σεα) μορφή Lagrange

β) εκθετική μορφή

Λύση

𝑙0(𝑥) =(𝑥 − 0)(𝑥 − 1)

(−1 − 0)(−1 − 1) = 𝑥(𝑥 − 1)2

𝑙1(𝑥) =(𝑥 + 1)(𝑥 − 1)(0 + 1)(0 − 1) = 1 − 𝑥2

𝑙2(𝑥) =(𝑥 + 1)(𝑥 − 0)(1 + 1)(1 − 0) = 𝑥(𝑥 + 1)

2𝑃(𝑥) = 1𝑙0(𝑥) + 1𝑙1(𝑥) + 2𝑙2(𝑥) ← μορφή Lagrange

= 12𝑥

2 + 12𝑥 + 1 ← εκθετική μορφή

14

Ένας άλλος τρόπος θα ήταν να θεωρήσουμε πολυώνυμο 2ου βαθμού με 3 άγνωστους συντελεστές,και να λύσω το σύστημα για να τους βρω, κάτι που θα χρησιμεύει αργότερα στην προσέγγιση:

𝑃(𝑥) = 𝑎0 + 𝑎1𝑥 + 𝑎2𝑥2

𝑃(−1) = 𝑎0 − 𝑎1 + 𝑎2 = 1𝑃(0) = 𝑎0 = 1𝑃(1) = 𝑎0 + 𝑎1 + 𝑎2 = 2

4.3.1 Μέθοδος διηρημένων διαφορών

Η ιδέα είναι να ξεκινάμε από τον μικρό βαθμό, και να χτίζουμε το ζητούμενο πολυώνυμο βαθμό-βαθμό.

𝑃𝑘+1(𝑥) = 𝑎0 + 𝑎1(𝑥 − 𝑥0) + ⋯ + 𝑎𝑘(𝑥 − 𝑥0)⋯ (𝑥 − 𝑥𝑘−1)⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟𝑃𝑘(𝑥)

+𝑎𝑘+1(𝑥 − 𝑥0)⋯ (𝑥 − 𝑥𝑘)

𝑓(𝑥𝑘+1) = 𝑃𝑘+1(𝑥𝑘+1) = 𝑃𝑘(𝑥𝑘+1) + 𝑎𝑘+1𝑘∏𝑖=0

(𝑥𝑘+1 − 𝑥𝑖)

𝑎𝑘+1 = 𝑓(𝑥𝑘+1) − 𝑃𝑘(𝑥𝑘+1)∏𝑘

𝑖=0 (𝑥𝑘+1 − 𝑥𝑖)

Για να διευκολύνω τις πράξεις ορίζω:

Ορισμός 4.1: Πρώτη Διηρεμένη Διαφορά

𝑓 [𝑥𝑖, 𝑥𝑖+1] =𝑓(𝑥𝑖+1) − 𝑓(𝑥𝑖)

𝑥𝑖+1 − 𝑥𝑖

Η 𝑘-οστή Διηρεμένη Διαφορά είναι:

Ορισμός 4.2: k-οστή Διηρεμένη Διαφορά

𝑓 [𝑥𝑖, 𝑥𝑖+1,… , 𝑥𝑖+𝑘] =𝑓[𝑥𝑖+1, 𝑥𝑖+2,… , 𝑥𝑖+𝑘] − 𝑓[𝑥𝑖, 𝑥𝑖+1,… , 𝑥𝑖+𝑘−1]

𝑥𝑖+𝑘 − 𝑥𝑖

Για διευκόλυνσή μας, αντί να χρησιμοποιούμε τους τύπους, μπορούμε να χρησιμοποιήσουμε τονΠίνακα Διηρημένων Διαφορών.

Πίνακας ΔΔ

1η 2η 3η 4η𝑥0 𝑓(𝑥0) 𝑓[𝑥0, 𝑥1] = 𝑓(𝑥1)−𝑓(𝑥0)𝑥1−𝑥0𝑥1 𝑓(𝑥1) 𝑓[𝑥1, 𝑥2] 𝑓[𝑥0, 𝑥1, 𝑥2] = 𝑓[𝑥1,𝑥2]−𝑓[𝑥0,𝑥1]𝑥2−𝑥0𝑥2 𝑓(𝑥2) 𝑓[𝑥2, 𝑥3] 𝑓[𝑥1, 𝑥2, 𝑥3] 𝑓[𝑥0, 𝑥1, 𝑥2, 𝑥3] = 𝑓[𝑥1,𝑥2,𝑥3]−𝑓[𝑥0,𝑥1,𝑥2]𝑥3−𝑥0𝑥3 𝑓(𝑥3) 𝑓[𝑥3, 𝑥4] 𝑓[𝑥2, 𝑥3, 𝑥4] 𝑓[𝑥1, 𝑥2, 𝑥3, 𝑥4] 𝑓[𝑥0, 𝑥1, 𝑥2, 𝑥3, 𝑥4]𝑥4 𝑓(𝑥4)

Τότε το πολυώνυμο θα είναι:

𝑃𝑘(𝑥) = 𝑓(𝑥0) + 𝑓[𝑥0, 𝑥1](𝑥 − 𝑥0) + 𝑓[𝑥0, 𝑥1, 𝑥2](𝑥 − 𝑥0)(𝑥 − 𝑥1)+ ⋯ + 𝑓[𝑥0, 𝑥1,… , 𝑥𝑘](𝑥 − 𝑥0)(𝑥 − 𝑥1)⋯ (𝑥 − 𝑥𝑘−1)

15

Παράδειγμα𝑖 0 1 2 3𝑥𝑖 0 1 2 4

𝑓(𝑥𝑖) 1 1 2 5Πίνακας ΔΔ:

0 1 ↘1−11−0 ↘

1 1↗↘ 12 ↘

1↗↘ − 112

2 2↗↘ 16 ↗

32 ↗

4 5 ↗

Άρα:

𝑃3(𝑥) = 1 + 0(𝑥 − 0) + 12(𝑥 − 0)(𝑥 − 1) − 1

12(𝑥 − 0)(𝑥 − 1)(𝑥 − 2)

= 112(−𝑥3 + 9𝑥2 − 8𝑥 + 12)

𝑥

𝑦

4.3.2 Μέθοδος πεπερασμένων διαφορών

Για τη μέθοδο αυτή, θεωρούμε ότι τα σημεία της 𝑓 που έχουμε ισαπέχουν μεταξύ τους:

𝑥0, 𝑥1,… , 𝑥𝑛 ∈ [𝑎, 𝑏]

𝑥𝑖 = 𝑥0 + 𝑖ℎ όπου ℎ = 𝑏 − 𝑎𝑛

𝑓 [𝑥𝑖, 𝑥𝑖+1] =𝑓(𝑥𝑖+1) − 𝑓(𝑥𝑖)

ℎΟρίζω συμβολισμούς για ευκολία:

Δ0𝑓(𝑥𝑖) = 𝑓(𝑥𝑖)Δ1𝑓(𝑥𝑖) = 𝑓(𝑥𝑖+1) − 𝑓(𝑥𝑖) = 𝑓(𝑥𝑖 + ℎ) − 𝑓(𝑥𝑖)

⋮Δ𝑘𝑓(𝑥𝑖) = Δ(Δ𝑘−1 (𝑓(𝑥𝑖))) = Δ𝑘−1𝑓(𝑥𝑖+1) − Δ𝑘−1𝑓(𝑥𝑖)

16

Ορισμός 4.3: k-οστή πεπερασμένη διαφορά

𝑓 [𝑥𝑖, 𝑥𝑖+1,… , 𝑥𝑖+𝑘] =Δ𝑘𝑓(𝑥𝑖)𝑘! ℎ𝑘 προκύπτει μετά από πράξεις

Άρα το πολυώνυμο γίνεται:

𝑃𝑛(𝑥) = 𝑓(𝑥0) + 𝑓[𝑥0, 𝑥1](𝑥 − 𝑥0) + …⋯+ 𝑓[𝑥0, 𝑥1,… , 𝑥𝑛](𝑥 − 𝑥0)(𝑥 − 𝑥1)… (𝑥 − 𝑥𝑛−1)

= 𝑓(𝑥0) +Δ1𝑓(𝑥0)1! ℎ1 (𝑥 − 𝑥0) +

Δ2𝑓(𝑥0)2! ℎ2 (𝑥 − 𝑥0)(𝑥 − 𝑥1) + …

⋯+ Δ𝑛𝑓(𝑥𝑛)𝑛! ℎ𝑛 (𝑥 − 𝑥0)(𝑥 − 𝑥1)⋯ (𝑥 − 𝑥𝑛−1)

Θα βρούμε μια διαδικασία ώστε να υπολογίζουμε το πολυώνυμο γρηγορότερα. Αν 𝑥 = 𝑥0 + 𝑟ℎ,αποδεικνύεται πως (οι πράξεις υπάρχουν στο βιβλίο):

𝑃𝑛(𝑥0 + 𝑟ℎ) =𝑛

∑𝑖=0

(𝑟𝑖)Δ𝑖𝑓(𝑥0)

όπου (𝑟𝑖) = 𝑟(𝑟 − 1)⋯ (𝑟 − (𝑖 − 1))

𝑖!

Παράδειγμα𝑖 0 1 2 3 4𝑥𝑖 1 2 3 4 5

𝑓(𝑥𝑖) 1 -1 1 -1 1

𝑥0 𝑓(𝑥0) ↘Δ1𝑓(𝑥0) ↘

𝑥1 𝑓(𝑥1)↗↘ Δ2𝑓(𝑥0) ↘

Δ1𝑓(𝑥1)↗↘ Δ3𝑓(𝑥0) ↘

𝑥2 𝑓(𝑥2)↗↘ Δ2𝑓(𝑥1)

↗↘ Δ4𝑓(𝑥0)

Δ1𝑓(𝑥2)↗↘ Δ3𝑓(𝑥1) ↗

𝑥3 𝑓(𝑥3)↗↘ Δ2𝑓(𝑥2) ↗

Δ1𝑓(𝑥3) ↗𝑥4 𝑓(𝑥4) ↗⋮

όπου τα στοιχεία Δ1𝑓(𝑥0), Δ2𝑓(𝑥0), … είναι ίσα με τη διαφορά των δύο προηγούμενων στοι-χείων, δηλαδή:

Δ1𝑓(𝑥0) = 𝑓(𝑥1) − 𝑓(𝑥0)Δ1𝑓(𝑥1) = 𝑓(𝑥2) − 𝑓(𝑥1)Δ1𝑓(𝑥2) = 𝑓(𝑥3) − 𝑓(𝑥2)Δ2𝑓(𝑥0) = Δ1𝑓(𝑥1) − Δ1𝑓(𝑥0)

κλπ.

και γενικά:

Δ𝑘𝑓(𝑥𝑖) = Δ𝑘−1𝑓(𝑥𝑖+1) − Δ𝑘−1𝑓(𝑥𝑖)

17

1 1 ↘−2 ↘

2 −1↗↘ 4 ↘2↗↘ −8 ↘

3 1↗↘ −4↗↘ 1−2↗↘ 8 ↗

4 −1↗↘ 4 ↗2 ↗

5 1 ↗

𝑃4(1 + 𝑟) = 1 − 2(𝑟1) + 4(𝑟

2) − 8(𝑟3) + 6(𝑟

4)

όπου 𝑥 = 𝑥0 + 𝑟ℎ ⟹ 𝑟 = 1.5 για 𝑥 = 2.5

𝑃(2.5) = 1 − 2(1.51 ) + 4(1.5

2 ) − 8(1.53 ) + 16(1.5

4 )

4.3.3 Μέθοδος Aitken

Έστω 𝑝, 𝑞 δύο πολυώνυμα παρεμβολής μικρότερου βαθμού (για 𝑚+2 σημεία), και 𝑟 το πολυώνυμοπαρεμβολής για όλα τα σημεία (𝑚+ 3 σημεία) 𝑥0, 𝑥1,… , 𝑥𝑚, 𝑦, 𝑧, και γνωρίζω:

• 𝑝(𝑥𝑖) = 𝑞(𝑥𝑖) = 𝑟(𝑥𝑖) = 𝑓(𝑥𝑖) για 𝑖 = 0, 1,… ,𝑚

• 𝑝(𝑦) = 𝑟(𝑦) = 𝑓(𝑦)

• 𝑞(𝑧) = 𝑟(𝑧) = 𝑓(𝑧)Τότε η 𝑟(𝑥) που είναι η συνάρτηση που θέλω να παρεμβάλλει την 𝑓 είναι:

𝑟(𝑥) = (𝑦 − 𝑥)𝑞(𝑥) − (𝑧 − 𝑥)𝑝(𝑥)𝑦 − 𝑧

Έστω 𝐴𝑘,𝑟 η τιμή στο 𝑥 του πολυωνύμου παρεμβολής της 𝑓(𝑥) στα σημεία 𝑥0, 𝑥1,… , 𝑥𝑘−1, 𝑥𝑟:

𝐴𝑘,𝑟 = 𝑓[𝑥0] + 𝑓[𝑥0, 𝑥1]( 𝑥 − 𝑥0) + 𝑓[𝑥0, 𝑥1, 𝑥2]( 𝑥 − 𝑥0)( 𝑥 − 𝑥1) + …⋯+ 𝑓[𝑥0, 𝑥1,… , 𝑥𝑘]( 𝑥 − 𝑥0)( 𝑥 − 𝑥1)⋯ ( 𝑥 − 𝑥𝑘−1)

𝐴𝑘,𝑟 = (𝑥𝑘−1 − 𝑥)𝐴𝑘−1,𝑟 − (𝑥𝑟 − 𝑥)𝐴𝑘−1,𝑘−1𝑥𝑘−1 − 𝑥𝑟

𝑥0 𝐴0,0 𝑥0 − 𝑥𝑥1 𝐴0,1 𝑥1 − 𝑥𝑥2 𝐴0,2 𝑥2 − 𝑥𝑥3 𝐴0,3 𝑥3 − 𝑥𝑥4 𝐴0,4 𝑥4 − 𝑥

𝐴1,1𝐴1,2𝐴1,3𝐴1,4

𝐴2,2𝐴2,3𝐴2,4

𝐴3,3𝐴3,4

𝐴4,4

π.χ.

𝐴2,3 = (𝑥1 − 𝑥)𝐴1,3 − (𝑥3 − 𝑥)𝐴1,1𝑥1 − 𝑥3

18


Άσκηση Να βρεθεί πολυώνυμο Lagrange που να παρεμβάλλει την 𝑓(𝑥) = 𝑒𝑥 στα σημεία 𝑥0 =−1, 𝑥1 = 0, 𝑥2 = 1.

Λύση Θυμόμαστε ότι το πολυώνυμο Lagrange δίνεται από τους τύπους:

𝑃𝑛(𝑥) = 𝑙0(𝑥)𝑓(𝑥0) + 𝑙1(𝑥)𝑓(𝑥1) + 𝑙2(𝑥)𝑓2(𝑥2)

𝑙0(𝑥) =(𝑥 − 𝑥1)(𝑥 − 𝑥2)

(𝑥0 − 𝑥1)(𝑥0 − 𝑥2)= (𝑥 − 0)(𝑥 − 1)

(−1)(−2) = 12(𝑥

2 − 𝑥)

𝑙1(𝑥) =(𝑥 − 𝑥0)(𝑥 − 𝑥2)

(𝑥1 − 𝑥0)(𝑥1 − 𝑥2)= (𝑥 + 1)(𝑥 − 1)

1 ⋅ (−1) = −𝑥2 + 1

𝑙2(𝑥) =(𝑥 − 𝑥0)(𝑥 − 𝑥1)

(𝑥2 − 𝑥0)(𝑥2 − 𝑥1)= 1

2(𝑥2 + 𝑥)

Άρα

𝑃2(𝑥) =12𝑒(𝑥

2 − 𝑥) + (−𝑥2 + 1) + 𝑒2(𝑥

2 + 𝑥)

= (1 + 𝑒2 + 1

2𝑒)𝑥2 +(𝑒2 − 1

2𝑒)𝑥 − 1 (δεν είναι απαραίτητο να το φτάσουμε μέχρι εδώ)

−1.5 −1 −0.5 0.5 1 1.5

1

2

3

4

𝑒𝑥𝑃2(𝑥)

Άσκηση Να βρεθεί πολυώνυμο Newton που να παρεμβάλλει την παρακάτω 𝑓 με τη μέθοδο διηρη-μένων διαφορών:

𝑓(−1) = 1, 𝑓(1) = 2 και 𝑓(2) = −1

Λύση

𝑥𝑖 𝑓(𝑥𝑖) 1η 2η−1 1 ↘

12 ↘

1 2↗↘−3−1/22−(−1) =−7

6−3 ↗

2 −1 ↗

𝑃2(𝑥) = 1 + 12(𝑥 + 1) − 7

6(𝑥 + 1)(𝑥 − 1)

Άσκηση Να βρεθεί η τιμή 𝑓(0.5) (intrapolation) χρησιμοποιώντας τη μέθοδο πεπερασμένων διαφο-ρών. Δίνεται ο πίνακας τιμών της 𝑓

𝑥𝑖 0 1 2 3 4𝑓(𝑥𝑖) 1 0 −1 1 2

19

Λύση Οι τύποι για τις 𝑘-οστές διαφορές θα δίνονται στις εξετάσεις, αλλά είναι πιο κομψό καιεύκολο να χρησιμοποιήσουμε τον πίνακα:

𝑥𝑖 𝑓(𝑥𝑖)0 1 ↘

−1 ↘1 0↗↘ 0 ↘

−1↗↘ 3 ↘2 −1↗↘ 3↗↘ −7

2↗↘ −4 ↗3 1↗↘ −1 ↗

1 ↗4 2 ↗

𝑃4(𝑥=𝑥0+𝑟ℎ

↑𝑥) = 𝑓(𝑥0) + (𝑟1)Δ𝑓(𝑥0) + (𝑟

2)Δ2𝑓(𝑥0) + (𝑟3)Δ3𝑓(𝑥0) + (𝑟

4)Δ4𝑓(𝑥0)

0.5 = 0 + 𝑟 ⋅ 1 ⟹ 𝑟 = 0.5

= 1 − (0.51 ) + 0(0.5

2 ) + 3(0.53 ) − 7(0.5

4 ) = 0.9609375

όπου (𝑟𝑘) = 𝑟(𝑟−1)⋯(𝑟−(𝑘−1))𝑘!

Άσκηση Να βρεθεί η τιμή του πολυωνύμου παρεμβολής 𝑃(5) για τα σημεία 𝑥𝑖 και τις αντίστοιχεςτιμές της συνάρτησης 𝑓(𝑥𝑖) που δίνονται στον πίνακα με τη μέθοδο Aitken:

𝑥𝑖 2 4 6 8𝑓(𝑥𝑖) 1 −2 3 5

Λύση

𝑥𝑖 − 𝑥⏟5

2 − 5 = −34 − 5 = −16 − 5 = 18 − 5 = 3

8642

5−3−21 ⋅(−3)

⋅(−1)

⋅(−1)

⋅1

(−2)(−3)−(−1)⋅12−4 =−7

23⋅(−3)−(1)⋅1

2−6 = 52

5⋅(−3)−1⋅32−8 = 3

−12

−158

− 158 ⋅1−(− 1

2 )⋅36−8 = 3

16

Λύση 𝑝(5)Άρα 𝑃(5) = 3

16 , λύση που φαίνεται λογική, αφού βρίσκεται ανάμεσα στο -2 και το 3.

20

Κεφάλαιο 5 Προσέγγιση

Η προσέγγιση μοιάζει με την παρεμβολή, με τη διαφορά ότι δεν επιθυμούμε το πολυώνυμο πουβρούμε να περνάει από όλα τα σημεία της αρχικής συνάρτησης, αλλά να έχει την ελάχιστη απόστασηαπό αυτά. Το κέρδος μας με αυτόν τον τρόπο είναι ότι το πολυώνυμο που θα βρούμε είναι μικρότερουβαθμού.

ΠΑΡΕΜΒΟΛΗ+

ΠΡΟΣΕΓΓΙΣΗ

𝑓(𝑥𝑖) = 𝑝(𝑥𝑖)

∣𝑓(𝑥𝑖) − 𝑝(𝑥)∣⏟⏟⏟⏟⏟⏟⏟πολυώνυμο μικρότερου βαθμού

ελάχιστη

Έστω οι τιμές μιας συνάρτησης:

𝑥𝑖 𝑥0 𝑥1 … 𝑥𝑚−1𝑓(𝑥𝑖) 𝑓(𝑥0) 𝑓(𝑥1) … 𝑓(𝑥𝑚−1)

κακή προ

σέγγιση

μέτρια προσ

έγγιση

καλύτε

ρηπρο

σέγγιση

Αν ζητάμε η προσέγγιση 𝑃(𝑥) να είναι μια ευθεία, τότε στην ιδανική περίπτωση:

𝑃(𝑥𝑖) = 𝑎0 + 𝑎1𝑥𝑖 = 𝑓(𝑥𝑖) ∀𝑥𝑖

τότε έχουμε ένα σύστημα:

⎡⎢⎢⎢⎢⎣

1 𝑥01 𝑥11 𝑥2⋮ ⋮1 𝑥𝑚−1

⎤⎥⎥⎥⎥⎦

[𝑎0𝑎1] =

⎡⎢⎢⎢⎢⎣

𝑓(𝑥0)𝑓(𝑥1)𝑓(𝑥2)

⋮𝑓(𝑥𝑚−1)

⎤⎥⎥⎥⎥⎦

που είναι σύστημα 2 αγνώστων αλλά 𝑚 εξισώσεων, κάτι που μάλλον θα είναι αδύνατο.Επομένως αντί να λύσω την εξίσωση:

𝐴𝑥 = 𝑏

θα λύσω την:

𝐴 𝑥 ≃ 𝑏

με σκοπό να ελαχιστοποιήσω την απόσταση (υπόλοιπο):

𝐴 𝑥 − 𝑏.

Η παραπάνω σχέση όμως δεν εκφράζει έναν αριθμό, αλλά έναν πίνακα! Για να "ελαχιστοποιή-σουμε" αυτόν τον πίνακα θα ορίσουμε κάποια μεγέθη.

21

5.1 Στοιχεία Αριθμητικής Γραμμικής Άλγεβρας

5.1.1 Εσωτερικό γινόμενο

Εσωτερικό γινόμενο σε χώρο 𝑉 είναι μια πράξη για κάθε 𝑥, 𝑦 ∈ 𝑉 (συμβολίζεται με (𝑥, 𝑦) ή ⟨𝑥, 𝑦⟩)ορίζει έναν αριθμό που ικανοποιεί:

(i) (𝑥, 𝑥) ≥ 0, ισότητα μόνο αν 𝑥 = 0

(ii) (𝑥, 𝑦) = (𝑦, 𝑥) ∀𝑥, 𝑦 ∈ 𝑉

(iii) (𝑎𝑥 + 𝑏𝑦, 𝑧) = 𝑎(𝑥, 𝑧) + 𝑏(𝑦, 𝑧)

Πιο συγκεκριμένα, για κάποιους χώρους ορίζουμε:

ℝ𝑛 ∶ (𝑥, 𝑦) = 𝑥T𝑦 για 𝑥, 𝑦 ∈ ℝ𝑛

ℝ𝑚×𝑛 ∶ (𝐴,𝐵) =𝑚∑𝑖=1

𝑛∑𝑗=1

𝑎𝑖𝑗𝑏𝑖𝑗

Για συναρτήσεις, έχουμε (𝑓, 𝑔) = ∫𝑓(𝑥)𝑔(𝑥) d𝑥Δύο διανύσματα 𝑥, 𝑦 ∈ 𝑉 λέγονται ορθογώνια όταν (𝑥, 𝑦) = 0, και γράφουμε 𝑥 ⟂ 𝑦.

5.1.2 Μήκος - Νόρμα (norm) διανύσματος

Ως νόρμα μπορούμε να επιλέξουμε οποιαδήποτε συνάρτηση που καλύπτει κάποια αξιώματα (γιαπαράδειγμα, νόρμα ενός διανύσματος μπορεί να είναι το μέγιστο στοιχείο ενός διανύσματος).

Ένας χώρος 𝑉 είναι εφοδιασμένος με μήκος ή νόρμα αν για κάθε 𝑥 ∈ 𝑉 υπάρχει αριθμός ‖𝑥‖που ικανοποιεί:

(i) ‖𝑥‖ > 0 με ισότητα μόνο εάν 𝑥 = 0

(ii) ‖𝑎𝑥‖ = |𝑎| ‖𝑥‖ για κάθε σταθερά 𝑎

(iii) ‖𝑥 + 𝑦‖ ≤ ‖𝑥‖ + ‖𝑦‖ ∀𝑥, 𝑦 ∈ 𝑉

Είδη νορμών Για ένα διάνυσμα 𝑥 = (𝑥1, 𝑥2,… , 𝑥𝑛)T

𝑙∞ ∶ ‖𝑥‖∞ = max1≤𝑖≤𝑛

|𝑥𝑖| (άπειρη νόρμα)

𝑙𝑝 ∶ ‖𝑥‖𝑝 = (𝑛∑𝑖=1

|𝑥𝑖|𝑝)1𝑝

(𝑝-οστή νόρμα)

𝑙2 ∶ ‖𝑥‖2 =√𝑥T𝑥 = √𝑥2

1 +⋯+ 𝑥2𝑛 (ευκλείδια νόρμα)

Απόσταση μεταξύ διανυσμάτων 𝑥, 𝑦 ∈ ℝ είναι ο αριθμός:

‖𝑥 − 𝑦‖

Θεωρήματα

‖𝑥 + 𝑦‖2 = ‖𝑥‖2 + ‖𝑦‖2

Cauchy-Schwartz:

‖(𝑥, 𝑦)‖ ≤ ‖𝑥‖ ‖𝑦‖

22

5.1.3 Ορθογώνιοι Υποχώροι

Ορισμός 5.1: Ορθογώνιοι Υποχώροι

Δύο υποχώροι 𝑋,𝑌 του ℝ𝑛 λέγονται ορθογώνιοι, αν 𝑥T𝑦 = 0 για κάθε 𝑥 ∈ 𝑋 και 𝑦 ∈ 𝑌 .Γράφουμε: 𝑋 ⟂ 𝑌

Ορισμός 5.2: Ορθογώνιο Συμπλήρωμα

Το σύνολο:

𝑌 ⟂ = {𝑥 ∈ ℝ𝑛 ∶ 𝑥T𝑦 = 0 ∀𝑦 ∈ 𝑌 }

είναι το ορθογώνιο συμπλήρωμα του 𝑌 .Για παράδειγμα, το ορθογώνιο συμπλήρωμα του πίνακα στην αίθουσα Α3 είναι ο κάθετοςτοίχος.

Ορισμός 5.3

Για 𝐴 ∈ ℝ𝑚×𝑛:

• Μηδενοχώρος του 𝐴: N(𝐴) = {𝑥 ∈ ℝ𝑛 ∶ 𝐴𝑥 = 0}

• Χώρος των στηλών του 𝐴: R(𝐴) = {𝑏 ∈ ℝ𝑚 ∶ 𝑏 = 𝐴𝑥 για 𝑥 ∈ ℝ𝑛}

• Χώρος των γραμμών του 𝐴: R(𝐴T) = {𝑦 ∈ ℝ𝑛 ∶ 𝑦 = 𝐴T𝑥 για 𝑥 ∈ ℝ𝑚}

Θεώρημα 5.1: Θεμελιώδες Θεώρημα Γραμμικής Άλγεβρας

𝑁(𝐴)= 𝑅(𝐴T)⟂𝑁(𝐴T)= 𝑅(𝐴)⟂

5.2 Πίσω στο αρχικό πρόβλημα

Ορίζω:

διαφορά 𝑟(𝑥) = 𝑏 − 𝐴𝑥‖𝑟(𝑥)‖ = ‖𝑏 − 𝐴𝑥‖

𝑏 − 𝐴 𝑥 = 𝑟(𝑥)

𝐴 𝑥

𝑏

Το διάνυσμα 𝑟(𝑥) ανήκει στο ορθογώνιο συμπλήρωμα του χώρου των στηλών, άρα στο μηδενοχώροτου 𝐴T (από το Θεμελιώδες Θεώρημα Γραμμικής Άλγεβρας), επομένως:

𝐴T𝑟(𝑥) = 0𝐴T(𝑏 − 𝐴 𝑥) = 0

Άρα:

ΑT𝐴𝑥 = 𝐴T𝑏 ←ÐÐ κανονικές εξισώσεις

23

Παράδειγμα Να προσεγγιστεί η 𝑓(𝑥) με πολυώνυμο πρώτου βαθμού, όπου:

𝑥𝑖 0 3 6𝑓(𝑥𝑖) 1 4 5

Λύση

𝐴 = ⎡⎢⎣

1 01 31 6

⎤⎥⎦, 𝑥 = [𝑎0𝑎1

] , 𝑏 = ⎡⎢⎣

145⎤⎥⎦

𝐴T𝐴 = [3 99 45]

𝐴T𝑏 = [1042]

Άρα πρέπει να λύσουμε το σύστημα:

[3 99 45][𝑎0𝑎1

] = [1042]

𝑎0 = 4/3, 𝑎1 = 2/3Επομένως 𝑃1(𝑥) =

43 + 2

3𝑥.

Άσκηση Να προσεγγιστούν τα παρακάτω σημεία με μία παραβολή, χρησιμοποιώντας τη μέθοδοελαχίστων τετραγώνων:

𝑥𝑖 0 1 2 3 4𝑓(𝑥𝑖) 1 2 2 4 5

Λύση

𝐴 =⎡⎢⎢⎢⎢⎣

1 0 01 1 11 2 41 3 91 4 16

⎤⎥⎥⎥⎥⎦

𝑥 = ⎡⎢⎣

𝑎0𝑎1𝑎2

⎤⎥⎦

𝑃(𝑥) = 𝑎0 + 𝑎1𝑥 + 𝑎2𝑥2

𝑏 =⎡⎢⎢⎢⎢⎣

12245

⎤⎥⎥⎥⎥⎦

[𝐴T] [𝐴] ⎡⎢⎣

𝑎0𝑎1𝑎2

⎤⎥⎦

= [𝐴T] [𝑏]

24

Κεφάλαιο 6 Αριθμητική Ολοκλήρωση

Πολλές φορές δεν μπορούμε να υπολογίσουμε αναλυτικά ένα ολοκλήρωμα, ή αυτός ο υπολο-γισμός είναι υπολογιστικά δύσκολος, επομένως σε αυτό το κεφάλαιο θα αναπτύξουμε τεχνικές γιααριθμητική ολοκλήρωση.

𝑓(𝑥) [𝑎, 𝑏]

∫𝑏

𝑎𝑓(𝑥) d𝑥

𝑎 𝑏

𝑓(𝑥)

Ο πιο απλός τρόπος να υπολογίσουμε το ολοκλήρωμα μιας συνάρτησης είναι να πάρουμε τονεμβαδόν της συνάρτησης μεταξύ δύο σημείων (κατά Riemann).

Σε αυτό το κεφάλαιο η γενική ιδέα είναι να παρεμβάλλουμε την 𝑓 με ένα πολυώνυμο 𝑝:

𝑓 → 𝑝

και να υπολογίσουμε το ολοκλήρωμα του 𝑝. Κάτι τέτοιο έχει νόημα επειδή το ολοκλήρωμα είναι μιαγραμμική διαδικασία:

𝐼(𝑓) = ∫𝑏

𝑎𝑓(𝑥) d𝑥

𝐼 (𝑓(𝑥) + 𝑔(𝑥)) = 𝐼 (𝑓(𝑥)) + 𝐼 (𝑔(𝑥))𝐼 (𝑎𝑓(𝑥)) = 𝑎𝐼 (𝑓(𝑥))

Επίσης θα υπολογίζουμε το σφάλμα (ή πιο συγκεκριμένα, το μέγιστο σφάλμα) της προσέγγισήςμας:

𝑓(𝑥) = 𝑝(𝑥) +σφάλμα

⏞𝑒(𝑥)𝐼 (𝑓(𝑥) − 𝑝(𝑥)) = 𝐼 (𝑒(𝑥))

Για πολυώνυμα σε μορφή Lagrange έχουμε:

𝑃𝑛(𝑥) =𝑛∑𝑘=0

𝑓(𝑥𝑘) ⋅ 𝑙𝑘(𝑥)

𝐼 (𝑝𝑛(𝑥)) = 𝐼 (𝑛∑𝑘=0

𝑓(𝑥𝑘)𝑙𝑘(𝑥)) =𝑛∑𝑘=0

𝑓(𝑥𝑘) ⋅ 𝐼 (𝑙𝑘(𝑥))

𝐼(𝑓) = ∫𝑏

𝑎𝑓(𝑥) d𝑥 ≃

𝑛∑𝑘=0

𝑓(𝑥𝑘) ⋅ 𝐼 (𝑙𝑘(𝑥))

Γενικά θα χρησιμοποιούμε πολυώνυμα το πολύ 2ου βαθμού:

• 𝑛 = 0, 1, 2,⋯ → απλός κανόνας

• Σύνθετος κανόνας: Εφαρμόζουμε τον απλό κανόνα σε πολλά διαστήματα της 𝑓 .

25

6.1 Κανόνας Παραλληλογράμμου

(𝑛=0)

𝑓(𝑎)

𝑎 𝑏

𝑓(𝑥)

Απλός κανόνας παραλληλογράμμου/ορθογωνίου Για να εφαρμόσω τον κανόνα του παραλληλο-γράμμου, θα παρεμβάλλω την 𝑓 σε ένα σημείο.

Ας υποθέσω ότι παρεμβάλλω την 𝑓 στο σημείο (𝑎, 𝑓(𝑎)):

𝑝0(𝑥) = 𝑓(𝑎)

𝐼 (𝑝0(𝑥)) = ∫𝑏

𝑎𝑓(𝑎) d𝑥

= (𝑏 − 𝑎)𝑓(𝑎) = 𝐼R ←Rectangle

Σφάλμα 𝐸R = 𝐼 (𝑓(𝑥)) − 𝐼R= (𝑏 − 𝑎)2

2 𝑓′(𝑧) (με βάση πράξεις του βιβλίου, για κάποιο 𝑧 ∶ 𝑎 < 𝑧 < 𝑏)

Για να φράξω το σφάλμα (να βρω την μέγιστη δηλαδή τιμή του):

|𝐸R| = (𝑏 − 𝑎)22 ∣𝑓′(𝑧)∣ ≤ (𝑏 − 𝑎)2

2 max𝑎<𝑧<𝑏

∣𝑓′(𝑧)∣

Σύνθετος κανόνας παραλληλογράμμου Ο σύνθετος κανόνας λειτουργεί σαν τον απλό, με τηδιαφορά ότι διαμερίζει το διάστημα ολοκλήρωσης [𝑎, 𝑏] σε 𝑁 ίσα τμήματα:

απόσταση↑ℎ = 𝑏 − 𝑎

𝑁 𝐼R,𝑁 = ℎ𝑓(𝑥0) + ℎ𝑓(𝑥1) + ⋯ + ℎ𝑓(𝑥𝑁−1) =

= ℎ𝑁−1∑𝑖=0

𝑓(𝑥𝑖)

Για το σφάλμα απλά αθροίζουμε το σφάλμα του κάθε ορθογωνίου:

𝐸R,𝑁 = ℎ2

2 𝑓′(𝑧1) +ℎ2

2 𝑓′(𝑧2) + ⋯ + ℎ2

2 𝑓′(𝑧𝑁) =

= ℎ2

2𝑁∑𝑖=1

𝑓′(𝑧𝑖)

= ℎ2

2 𝑁𝑓′(𝑧) (όπου 𝑓′(𝑧) = ∑𝑓′(𝑧𝑖)𝑁 , δηλ. ο μέσος όρος)

= ℎ2 (𝑏 − 𝑎)𝑓′(𝑧)

∣𝐸R,𝑁∣ ≤ ℎ2 (𝑏 − 𝑎) max

𝑎<𝑧<𝑏∣𝑓′(𝑧)∣

26

Παράδειγμα Να υπολογιστεί το ολοκλήρωμα της 𝑓(𝑥) = 𝑥3 στο διάστημα [1, 2] για 𝑁 = 1 και 𝑁 =8.

Λύση για 𝑁 = 1

𝐼𝑅 = 𝑓(𝑎)(𝑏 − 𝑎) = 𝑓(1)(2 − 1) = 1 ⋅ 1 = 1

𝐸𝑅 = (2 − 1)22 𝑓′(𝑧) 1 < 𝑧 < 2

∣𝐸𝑅∣ ≤ 12 max

1<𝑧<23𝑧2 = 1

2 ⋅ 3 ⋅ 22 = 6


𝐼𝑅,8 = ℎ𝑓(𝑥0) + ℎ1𝑓(𝑥1) + ⋯ + ℎ𝑓(𝑥7) =

= 18𝑓(1) +

18𝑓 (9/8) + ⋯ + 1

8 (15/8) = 3.32

∣𝐸𝑅,8∣ ≤18 ⋅ 12 ⋅ 1 max

1<𝑧<2∣3𝑧2∣ = 0.75

6.2 Κανόνας Τραπεζίου

(𝑛=1)Παρεμβάλλω την 𝑓 σε δύο σημεία για να πάρω ένα πολυώνυμο 1ου βαθμού:

𝑎

𝑏

𝑓(𝑥)

Απλός κανόνας τραπεζίου

𝑥0 = 𝑎 𝑥1 = 𝑏

𝑝1(𝑥) = 𝑓(𝑎)𝑙0(𝑥) + 𝑓(𝑏)𝑙1(𝑥) (𝑙𝑖 πολυώνυμα Lagrange)

= 𝑓(𝑎)(𝑥 − 𝑏)𝑎 − 𝑏 + 𝑓(𝑏)𝑥 − 𝑎

𝑏 − 𝑎𝐼 (𝑝1(𝑥)) = ∫

𝑏

𝑎𝑝1(𝑥)

= ⋯ = 𝑏 − 𝑎2 (𝑓(𝑎) + 𝑓(𝑏)) = 𝐼T ←Trapezoid

27

Για το σφάλμα έχουμε:

𝐸T = 𝐼 (𝑓(𝑥)) − 𝐼 (𝑝1(𝑥)) = …

= −(𝑏 − 𝑎)312 𝑓″(𝑧) 𝑎 < 𝑧 < 𝑏

|𝐸T| ≤ (𝑏 − 𝑎)312 max

𝑎<𝑧<𝑏𝑓″(𝑧)

Σύνθετος κανόνας τραπεζίου Όπως και προηγουμένως, διαμερίζουμε το τραπέζιο σε 𝑁 τμήματα,και εφαρμόζουμε τον απλό κανόνα σε καθ' ένα από αυτά:

ℎ = 𝑏 − 𝑎𝑁

𝑎 = 𝑥0, 𝑥1,… , 𝑥𝑁 = 𝑏

𝐼T,𝑁 = ℎ2 (𝑓(𝑥0) + 𝑓(𝑥1)) +

ℎ2 (𝑓(𝑥1) + 𝑓(𝑥2)) + ⋯ + ℎ

2 (𝑓(𝑋𝑁−1) + 𝑓(𝑥𝑁))

= ℎ2 [𝑓(𝑥0) + 2𝑓(𝑥1) + 2𝑓(𝑥2) + ⋯ + 2𝑓(𝑥𝑁−1) + 𝑓(𝑥𝑁)]

Αντίστοιχα με παραπάνω, για το σφάλμα θα αθροίσω τα επιμέρους σφάλματα:

𝐸T,𝑁 =𝑁∑𝑖=1

−ℎ3

12 𝑓″(𝑧𝑖) 𝑥𝑖−1 < 𝑧𝑖 < 𝑥𝑖

= −ℎ3

12𝑁𝑓″(𝑧) 𝑎 < 𝑧 < 𝑏

= −ℎ2

12 (𝑏 − 𝑎)𝑓″(𝑧)

|𝐸T,𝑁| ≤ ℎ2

12 (𝑏 − 𝑎) max𝑎<𝑧<𝑏

∣𝑓″(𝑧)∣

Παράδειγμα Να υπολογιστεί με τον κανόνα τραπεζίου για 𝑁 = 4, 8 το ολοκλήρωμα:

∫2

1𝑥3 d𝑥


𝐼𝑇,4 = ℎ2 [𝑓(𝑥0) + 2𝑓(𝑥1) + 2𝑓(𝑥2) + 2𝑓(𝑥3) + 𝑓(𝑥4)]

=1/42 [𝑓(1) + 2𝑓 (5/4) + 2𝑓 (6/4) + 2𝑓 (7/4) + 𝑓 (8/4)]

= 3.7969

𝐸𝑇,4 = −ℎ2

12 (2 − 1)𝑓″(𝑧) 1 < 𝑧 < 2

= −1/1612 ⋅ 6𝑧 = − 1

32𝑧

∣𝐸𝑇,4∣ ≤132 ⋅ 2 = 1

16 = 0.0625

28


𝐼𝑇,8 = ℎ2 [𝑓(𝑥0) + 2𝑓(𝑥1) + 2𝑓(𝑥2) + ⋯ + 2𝑓(𝑥7) + 𝑓(𝑥8)]

=1/82 [𝑓(1) + 2𝑓 (9/8) + 2𝑓 (10/8) + ⋯ + 𝑓 (16/8)]

= 3.7617

𝐸𝑇,8 = −ℎ2

12 (2 − 1)𝑓″(𝑧) 1 < 𝑧 < 2

= −1/82

12 ⋅ 6𝑧 = − 1128𝑧

|𝐸𝑇,8| ≤1

128𝑧 = 164 = 0.01562

6.3 Κανόνας Simpson

(𝑛=2)

𝑎 𝑎+𝑏2 𝑏

Απλός κανόνας Simpson

𝑃2(𝑥) = 𝑓(𝑎)𝑙0(𝑥) + 𝑓 (𝑎 + 𝑏2 ) 𝑙1(𝑥) + 𝑓(𝑏)𝑙2(𝑥)

= 𝑓(𝑎) (𝑥 − 𝑥1)(𝑥 − 𝑥2)(𝑥0 − 𝑥1)(𝑥0 − 𝑥2)

+ 𝑓 (𝑎 + 𝑏2 ) (𝑥 − 𝑥0)(𝑥 − 𝑥2)

(𝑥1 − 𝑥0)(𝑥1 − 𝑥2)+ 𝑓(𝑏) (𝑥 − 𝑥0)(𝑥 − 𝑥1)

(𝑥2 − 𝑥0)(𝑥2 − 𝑥1)

𝐼S = ∫𝑏

𝑎𝑃2(𝑥) d𝑥

= ⋯ = 𝑏 − 𝑎6 [𝑓(𝑎) + 4𝑓 (𝑎 + 𝑏

2 ) + 𝑓(𝑏)]

𝐸S = 𝐼 (𝑓(𝑥)) − 𝐼 (𝑃2(𝑥)) = …

= −(𝑏−𝑎2 )5

90 𝑓 (4)(𝑧)

∣𝐸S∣ ≤(𝑏−𝑎

2 )5

90 max𝑎<𝑧<𝑏

∣𝑓 (4)(𝑧)∣

Σύνθετος κανόνας Simpson Το αρχικό διάστημα χωρίζεται σε 2𝑁 τμήματα:

𝑥0𝑥1 𝑥2

𝑥3 𝑥4𝑥5 𝑥6

Εφαρμόζουμε τον απλό κανόνα Simpson σε πολλά διαστήματα:

𝑎 = 𝑥0 < 𝑥1 < 𝑥2 < ⋯ < 𝑥2𝑁−1 < 𝑥2𝑁 = 𝑏

29

με απόσταση:

ℎ = 𝑏 − 𝑎𝑁 𝑥𝑖 = 𝑥0 + 𝑖ℎ2

και διαστήματα:

[𝑥𝑖, 𝑥𝑖+2] , 𝑖 = 0, 2, 4,… , 2𝑁 − 2

Οπότε τελικά έχουμε:

𝐼S,2𝑁 = ℎ6 [𝑓(𝑥0) + 4𝑓(𝑥1) + 𝑓(𝑥2) + 𝑓(𝑥2) + 4𝑓(𝑥3) + 𝑓(𝑥4) + ⋯ + 𝑓(𝑥2𝑁−2) + 4𝑓(𝑥2𝑁−1) + 𝑓(𝑥2𝑁)]

= ℎ6 [𝑓(𝑥0) + 4𝑓(𝑥1) + 2𝑓(𝑥2) + 4𝑓(𝑥3) + 2𝑓(𝑥4) + ⋯ + 2𝑓(𝑥2𝑁−2) + 4𝑓(𝑥2𝑁−1) + 𝑓(𝑥2𝑁)]

Και για το σφάλμα, με αρκετές πράξεις προκύπτει:

𝐸S, 2𝑁 = −𝑛(ℎ2 )

5

90 𝑓 (4)(𝑧), 𝑎 < 𝑧 < 𝑏

= −(ℎ2 )

4

180 (𝑏 − 𝑎)𝑓 (4)(𝑧)

∣𝐸S,2𝑁∣ ≤ (ℎ2 )

4


∣𝑓 (4)(𝑧)∣

6.4 Κανόνας Μέσου Σημείου

Ανοικτοί τύποι Newton-Cotes (μέχρι στιγμής έχουμε ασχοληθεί με κλειστούς τύπους Newton-Cotes).

Απλός κανόνας μέσου σημείου Η ιδέα είναι να παίρνουμε ένα παραλληλόγραμμο με ύψος όμωςπου να μην αντιστοιχεί στο άκρο του διαστήματος, αλλά στο μέσον του:

𝑎

𝑓(𝑎)

𝑎+𝑏2 𝑏

𝑓(𝑏)

𝐼M = (𝑏 − 𝑎) ⋅ 𝑓 (𝑎 + 𝑏2 )

𝐸M = (𝑏 − 𝑎)324 𝑓″(𝑧) 𝑎 < 𝑧 < 𝑏

30

Σύνθετος κανόνας μέσου σημείου

𝐼M,𝑁 = ℎ𝑓 (𝑥0 + ℎ2) + ℎ𝑓 (𝑥1 + ℎ

2) +⋯+ ℎ𝑓 (𝑥𝑁−1 + ℎ2)

= ℎ𝑁−1∑𝑖=0

𝑓 (𝑥𝑖 +ℎ2)

𝐸M,𝑁 = ℎ2

24 (𝑏 − 𝑎)𝑓″(𝑧) 𝑎 < 𝑧 < 𝑏

∣𝐸M,𝑁∣ ≤ ℎ2


∣𝑓″(𝑧)∣


Άσκηση Να υπολογιστεί το ολοκλήρωμα

𝐼 = ∫1

0

11 + 𝑥 d𝑥

με τον κανόνα του παραλληλογράμμου για 𝑁 = 1 και 𝑁 = 10 διαστήματα.


𝐼𝑅 = 𝑓(0)(1 − 0) = 1 ⋅ 1 = 1

∣𝐸𝑅∣ ≤ (𝑏 − 𝑎)22 max

0<𝑧<1|𝑓(𝑧)|

𝑓′(𝑧) = 1(1 + 𝑧)2

max0<𝑧<1

∣𝑓′(𝑧)∣ = 1

Άρα

∣𝐸𝑅∣ ≤ (𝑏 − 𝑎)22 max

0<𝑧<1|𝑓(𝑧)| = 1

2 ⋅ 1 = 12


𝐼𝑅,10 = ℎ (𝑓(𝑥0) + 𝑓(𝑥1) + ⋯ + 𝑓(𝑥𝑁−1))

𝑥𝑘 0 0.1 0.2 0.3 ⋯ 0.9 1𝑓(𝑥𝑘) 1 0.9091 0.8333 0.7692 ⋯ 0.5263 0.5

𝐼𝑅,10 = 0.1(1 + 0.9091 + 0.8333 + 0.7962 + ⋯+ 0.5263) = 0.7188

∣𝐸𝑅,10∣ ≤ℎ2 (𝑏 − 𝑎) max

𝑎<𝑧<𝑏∣𝑓′(𝑧)∣ = 0.1

2 ⋅ 1 ⋅ 1 = 0.05

Λύση με κανόνα μέσου σημείου

𝐼𝑀 = (𝑏 − 𝑎) ⋅ 𝑓 (𝑎 + 𝑏2 ) = 1 ⋅ 𝑓 (1

2) = 0.6667

|𝐸𝑀| ≤ (𝑏 − 𝑎)324 max

𝑎<𝑧<𝑏∣𝑓″(𝑧)∣

31

max0<𝑧<1

∣𝑓″(𝑧)∣ = max0<𝑧<1

∣ 2(1+𝑥)3 ∣ = 2 για 𝑥 = 0

= 124 ⋅ 2 = 0.0833

Τύπος Τιμή Σφάλμα𝑁 = 1 1 0.5𝑁 = 10 0.7188 0.05

Μέσου Σημείου 0.6667 0.0833

Άσκηση Να υπολογιστεί το ολοκλήρωμα

𝐼 = ∫3

1(𝑥 + 1

𝑥2)d𝑥

με τη μέθοδο τραπεζίου για 𝑁 = 6.

Λύση 1 = 𝑥0 < 𝑥1 < ⋯ < 𝑥6 = 3

𝐼𝑇,6 = ℎ2 [𝑓(𝑥0) + 2𝑓(𝑥1) + 2𝑓(𝑥2) + 2𝑓(𝑥3) + 2𝑓(𝑥4) + 2𝑓(𝑥5) + 𝑓(𝑥6)]

ℎ = 𝑏−𝑎𝑁 = 3−1

6 = 13

𝑥𝑖 1 1 + 1/3 1 + 2/3 2 2 + 1/3 2 + 2/3 3𝑓(𝑥𝑖) 2 91/48 152/75 9/4 370/147 532/192 28/9

Άρα:

𝐼𝑇,6 = 16 [2 + 2 ⋅ 9148 + 2 ⋅ 15275 + 2 ⋅ 94 + 2 ⋅ 370147 + 2 ⋅ 532192 + 28

9 ] = 4.684

𝐸𝑇,6 ≤ ℎ2


∣𝑓″(𝑧)∣ = (1/2)212 ⋅ (3 − 1) ⋅ max

1<𝑧<36𝑧4 = 1

9 ≃ 0.1111

Άσκηση Για τη συνάρτηση 𝑓 γνωρίζουμε τον παρακάτω πίνακα τιμών:

𝑥0 𝑥1 𝑥2 𝑥3 𝑥4 𝑥5 𝑥6

𝑥𝑖 1 2 3 4 5 6 7𝑓(𝑥𝑖) −1 0 0.5 2 1.5 3 5

Ζητείται να βρεθεί το ολοκλήρωμα ∫7

1𝑓(𝑥) d𝑥 με κανόνα Simpson.

Λύση Για να εφαρμόσουμε κανόνα Simpson, το κάθε διάστημα πρέπει να καταλαμβάνει 3 σημεία(τα δύο άκρα και το μέσο).

𝑥0 𝑥6𝑥2 𝑥4𝑥1 𝑥3 𝑥5

Επομένως:

𝑁 = 3

ℎ = 7 − 13

32

Άρα έχουμε:

𝐼 = ℎ6 [𝑓(𝑥0) + 4𝑓(𝑥1) + 2𝑓(𝑥2) + 4𝑓(𝑥3) + 2𝑓(𝑥4) + 4𝑓(𝑥5) + 𝑓(𝑥6)]

= 13 [−1 + 4 ⋅ 0 + 2 ⋅ 0.5 + 4 ⋅ 2 + 2 ⋅ 1.5 + 4 ⋅ 3 + 5]

= 9.333

Κεφάλαιο 7 Υπολογισμός Ιδιοτιμών

Δομή της ενότητας:

• Εισαγωγή

• Μέθοδος Δύναμης

• Μετασχηματισμοί Householder

• Παραγοντοποίηση QR

Το πρόβλημα που καλούμαστε να λύσουμε είναι: Δεδομένου ενός πίνακα 𝐴 ∈ ℝ𝑛×𝑛, ναυπολογιστούν οι ιδιοτιμές 𝜆𝑖 ∈ ℝ, και τα αντίστοιχα ιδιοδιανύσματα 𝑥𝑖 ∈ ℝ𝑛, 𝑥𝑖 ≠ 0 τα οποίαικανοποιούν:

𝐴𝑥𝑖 = 𝜆𝑥𝑖 για 𝑖 = 1, 2,… , 𝑛

7.1 Εισαγωγή

𝐴𝑥 = 𝜆↓

ιδιοτιμές

ιδιοδιανύσματα↑𝑥

ή:

(𝐴 − 𝜆𝐼)𝑥 = 0det(𝐴 − 𝜆𝐼) = 0, δηλαδή 𝑥 ∈ 𝑁(𝐴 − 𝜆𝐼), όπου 𝑁 ο μηδενοχώρος

Δηλαδή πρέπει να λύσουμε ένα σύστημα 𝑛 εξισώσεων και αγνώστων.Ορίζουμε και το χαρακτηριστικό πολυώνυμο ως:

𝑃(𝜆) = det(𝐴 − 𝜆𝐼)


𝐴 = [3 23 −2]

Τότε:

|𝐴 − 𝜆𝐼| = ∣3 − 𝜆 23 −2 − 𝜆∣ = 𝜆2 − 𝜆 − 12

𝜆2 − 𝜆 − 12 = 0 ⟹ {𝜆1 = 4𝜆2 = −3

33

Τα παραπάνω 𝜆 είναι οι ιδιοτιμές, και τα ιδιοδιανύσματα είναι, για 𝜆1 = 4:

(𝐴 − 4𝐼)𝑥 = 0 ⟺ [−1 23 −6]𝑥 = 0

𝑁(𝐴 − 4𝐼) = {𝑎[21] ∶ 𝑎 ∈ ℝ, 𝑎 ≠ 0}

Αντίστοιχα προκύπτει:

𝑁(𝐴 + 3𝐼) = {𝑎[−13 ] ∶ 𝑎 ∈ ℝ, 𝑎 ≠ 0}

Αν ο πίνακας είναι τριγωνικός, οι ιδιοτιμές είναι μόνο τα διαγώνια στοιχεία του:

𝜆𝑖 = 𝑎𝑖𝑖

Ορισμός 7.1: Φάσμα

Το σύνολο όλων των ιδιοτιμών ενός πίνακα 𝐴 ονομάζεται ΦΑΣΜΑ του 𝐴:

𝜎(𝑎)

Ορισμός 7.2: Φασματική ακτίνα

Το μέγιστο κατ' απόλυτη τιμή στοιχείο του φάσματος ονομάζεται φασματική ακτίνα του 𝐴και συμβολίζεται:

𝑃(𝐴) = max {|𝜆| ∶ 𝜆 ∈ 𝜎(𝐴)}

Δηλαδή είναι η μέγιστη κατ' απόλυτη τιμή ιδιοτιμή του 𝐴.

Επειδή ο υπολογισμός ορίζουσας είναι δύσκολη υπολογιστική διαδικασία, θα βρούμε αριθμητικούςτρόπους να τις βρίσκουμε/προσεγγίζουμε.

7.1.1 Άνω Φράγματα

Ορισμός 7.3

Ορίζουμε:

𝑟𝑖(𝐴) =𝑛∑𝑗=1

∣𝑎𝑖𝑗∣ , ∀𝑖

𝑐𝑗(𝐴) =𝑛∑𝑖=1

∣𝑎𝑖𝑗∣ , ∀𝑗

(τα αθροίσματα των απόλυτων τιμών των στοιχείων κάθε γραμμής & στήλης)

𝑟(𝐴) = max {𝑟𝑖(𝐴) ∶ ∀𝑖}𝑐(𝐴) = max {𝑐𝑗(𝐴) ∶ ∀𝑗}

(το μέγιστο άθροισμα)

34

Θεώρημα 7.1: Gerschgorin

Για πίνακα 𝐴 ∈ ℝ𝑛×𝑛, έστω ότι, για κάθε γραμμή:

𝑅𝑖 = 𝑟𝑖(𝐴) − ∣𝑎𝑖𝑖∣ ∀𝑖

και έστω δίσκος 𝐶𝑖 με ακτίνα 𝑅𝑖 και κέντρο 𝑎𝑖𝑖 (𝑎𝑖𝑖 ∈ ℂ).Τότε για κάθε 𝜆 ∈ 𝜎(𝐴) υπάρχει 𝑖 όπου 𝜆 ∈ 𝐶𝑖, δηλαδή:

∣𝜆 − 𝑎𝑖𝑖∣ ≤ 𝑅𝑖

Συνέπεια Έστω:

𝜆 ∈ 𝜎(𝐴) ενός 𝐴 ∈ ℝ𝑛×𝑛

|𝜆| ≤ 𝑟(𝐴)

∣𝜆 − 𝑎𝑘𝑘∣ ≤ 𝑅𝑘∣(𝜆 − 𝑎𝑘𝑘) + 𝑎𝑘𝑘∣ ≤ ∣𝜆 − 𝑎𝑘𝑘∣ + ∣𝑎𝑘𝑘∣ ≤ 𝑅𝑘 + ∣𝑎𝑘𝑘∣ = 𝑟𝑘(𝐴) ≤ 𝑟(𝐴)

Επειδή 𝑟(𝐴T) = 𝑐(𝐴), ισχύει ότι:

|𝜆| ≤ min {𝑟(𝐴), 𝑐(𝐴)}

Επομένως για το προηγούμενο παράδειγμα:

𝐴 = [3 23 −2]

𝑟1(𝐴) = 5𝑟2(𝐴) = 5 }𝑟(𝐴) = 5

𝑐1(𝐴) = 6𝑐2(𝐴) = 4 }𝑐(𝐴) = 6

|𝜆| ≤ min {5, 6} = 5

7.2 Μέθοδος δύναμης

Έχουμε έναν πίνακα 𝐴 και κατατάσσουμε τις ιδιοτιμές του:

|𝜆1| ≥ |𝜆2| ≥ ⋯ ≥ ∣𝜆𝑛∣

με ιδιοδιανύσματα:

𝑥1, 𝑥2,… , 𝑥𝑛

που γνωρίζουμε από τη θεωρία γραμμικής άλγεβρας ότι είναι γραμμικά ανεξάρτητα, επομένως σχη-ματίζουν μία βάση, με ένα τυχαίο διάνυσμα:

𝑣0 = 𝑎1𝑥1 + 𝑎2𝑥2 +⋯+ 𝑎𝑛𝑥𝑛

35

πολλαπλασιάζουμε με 𝐴:

𝐴𝑣0 = 𝑎1𝐴𝑥1 + 𝑎2𝐴𝑥2 +⋯+ 𝑎𝑛𝐴𝑥𝑛= 𝑎1𝜆1𝑥1 + 𝑎2𝜆2𝑥2 +⋯+ 𝑎𝑛𝜆𝑛𝑥𝑛

𝐴2𝑣0 = 𝑎1𝜆21𝑥1 + 𝑎2𝜆2

2𝑥2 +⋯+ 𝑎𝑛𝜆2𝑛𝑥𝑛

⋮𝐴𝑘𝑣0⏟

𝑣𝑘

= 𝑎1𝜆𝑘1𝑥1 + 𝑎2𝜆𝑘

2𝑥2 +⋯+ 𝑎𝑛𝜆𝑘𝑛𝑥𝑛

1𝜆𝑘1𝑣𝑘 = 𝑎1𝑥1 + 𝑎2 (𝜆2

𝜆1)

𝑘𝑥2 +⋯+ 𝑎𝑛 (𝜆𝑛

𝜆1)

𝑘𝑥𝑛

lim𝑘→∞

1𝜆𝑘1𝑣𝑘 = 𝑎1𝑥1

Επειδή 𝑘 → ∞ και μπορεί να εμφανιστούν πολύ μεγάλοι ή πολύ μικροί αριθμοί, θα κανονικοποιήσωτο 𝑣𝑘.

7.2.1 Αλγόριθμος

Είσοδος: 𝐴 ∈ ℝ𝑛×𝑛, 𝑢0 ∈ ℝ𝑛:1 for k=0,1,… do2 𝑣𝑘+1 ∶= 𝐴𝑢𝑘;3 𝑢𝑘+1 ∶= 1

∥𝑣𝑘+1∥∞𝑣𝑘+1;

4 if ∥𝑢𝑘+1 − 𝑢𝑘∥∞ < 𝜖 then5 go to 66 end7 end


𝐴 = [2 11 2] , 𝑢0 = [21]

𝑣1 = 𝐴𝑢0 = [54] ⟹ 𝑢1 = 15𝑣1 = [1.00.8]

𝑣2 = 𝐴𝑢1 = [2.82.6] ⟹ 𝑢2 = 12.8𝑣2 = [ 1.0

0.93]

𝑣3 = 𝐴𝑢2 = [2.922.85] ⟹ 𝑢3 = 12.92𝑣3 = [ 1.0

0.98]

𝑣4 = 𝐴𝑢3 = [2.982.95]

7.3 Μετασχηματισμοί Householder

Από τη γραμμική άλγεβρα γνωρίζουμε ότι οι όμοιοι πίνακες έχουν ίδιες ιδιοτιμές:

𝐴,𝐵 ∈ ℝ𝑛×𝑛

𝐵 = 𝑆−1𝐴𝑆

36

Αν για τον 𝐴 έχω υπολογίσει την 𝜆1, θα είναι χρήσιμο να μπορώ να βρω έναν πίνακα:

𝐻𝐴𝐻−1 =⎡⎢⎢⎢⎢⎣

𝜆1 𝑥 𝑥 𝑥 … 𝑥00 𝐴1⋮0

⎤⎥⎥⎥⎥⎦

det(𝐴 − 𝜆𝐼) όμοιοι= det(𝐻𝐴𝐻−1 − 𝜆𝐼) = (𝜆1 − 𝜆) det(𝐴1 − 𝜆𝐼)

Αν 𝑒1 =⎡⎢⎢⎢⎣

10⋮0

⎤⎥⎥⎥⎦

𝐻𝐴𝐻−1𝑒1 = 𝜆1𝑒1𝐴(𝐻−1𝑒1) = 𝜆1(𝐻−1𝑒1)

Δηλαδή ψάχνω 𝐻 ώστε:

𝐻−1𝑒1 = 𝑥1

𝐻𝑥1 = 𝑒1

κάτι που θα μου δώσει ο Householder.

7.4 Παραγοντοποίηση QR (Εισαγωγή)

Μετατρέπω έναν πίνακα 𝐴 σε γινόμενο 2 πινάκων 𝑄 και 𝑅, όπου ο 𝑄 ορθογώνιος και ο 𝑅 άνωτριγωνικός:

𝐴 = 𝑄↓

ορθογώνιος

⋅άνω τριγωνικός

↑𝑅

Για κάποιες επαναλήψεις:

𝐴0 = 𝐴

⎧{{{⎨{{{⎩

𝐴0 = 𝑄1𝑅1, θέτω 𝐴1 = 𝑅1𝑄1𝐴1 = 𝑄2𝑅2, θέτω 𝐴2 = 𝑅2𝑄2

⋮ ⋮𝐴𝑘−1 = 𝑄𝑘𝑅𝑘, θέτω 𝐴𝑘 = 𝑅𝑘𝑄𝑘

Η μέθοδος αυτή συγκλίνει σε έναν ημιτριγωνικό πίνακα (τον 𝐴𝑘). Από τον 𝐴0 ξεκινώ, τον παρα-γοντοποιώ σε 𝑄1𝑅1 και βρίσκω τον 𝐴1 = 𝑅1𝑄1. Παραγοντοποιώ τον 𝐴1 σε γινόμενο 𝑄𝑅 κ.ό.κ.

Για έναν ημιτριγωνικό πίνακα:

⎡⎢⎢⎢⎢⎣

∘∘◻◻

⋱

⎤⎥⎥⎥⎥⎦

Ο πίνακας αυτός είναι άνω τριγωνικός, απλά σε κάποιες θέσεις στη διαγώνιο έχει 2 × 2 πίνακες.

37

Παράδειγμα Να βρεθούν οι ιδιοτιμές του πίνακα 𝐴 με παραγοντοποίηση 𝑄𝑅:

𝐴 = ⎡⎢⎣

1 2 30 1 50 −3 2

⎤⎥⎦

Λύση Ο 𝐴 είναι ήδη ημιτριγωνικός (ουσιαστικά είναι ο 𝐴𝑘):

𝐴 = [10 𝐵 ] όπου 𝐵 = [ 1 5−3 2]

Η μία ιδιοτιμή είναι το 𝜆1 = 1.Οι μιγαδικές ιδιοτιμές θα προκύψουν από τον πίνακα 𝐵:

det(𝐵 − 𝜆𝐼) = 0 ⟹ ∣1 − 𝜆 5−3 2 − 𝜆∣ = 0 ⟹ 𝜆2 − 3𝜆 + 17 = 0 ⟹ 𝜆2,3 = 3

2 ± 𝑖√592

Παράδειγμα Να βρεθούν οι ιδιοτιμές του 𝐴 με τη μέθοδο παραγοντοποίησης 𝑄𝑅:

𝐴 = ⎡⎢⎣

6 −1 5−3 2 −12 4 2

⎤⎥⎦

Λύση Σύμφωνα με τη μέθοδο:

𝐴 = 𝐴0

𝐴0 = 𝑄1𝑅1 = ⎡⎢⎣

0.85 −0.11 0.50−0.42 0.38 0.810.28 0.91 −0.28

⎤⎥⎦⋅ ⎡⎢⎣

7 −0.57 5.280 4.54 6.880 0 1.13

⎤⎥⎦

(Θα δούμε αργότερα πώς βρίσκουμε τους 𝑄1𝑅1)

𝐴1 = 𝑅1𝑄1 = ⎡⎢⎣

7.75 5.83 1.55−1.69 2.56 3.460.32 1.03 −0.31

⎤⎥⎦

Τώρα παραγοντοποιώ τον 𝐴1 σε γινόμενο QR:

𝐴1 = 𝑄2𝑅2 ⟹ 𝐴2 = 𝑅2𝑄2

Μετά από 6 επαναλήψεις προκύπτει:

𝐴6 = ⎡⎢⎣

6.06 5.30 1.05−0.17 5.07 −2.63

0 0 −1.13⎤⎥⎦

Ο πίνακας 𝐴6 είναι ημιτριγωνικός. Στην διαγώνιο βρίσκουμε ότι 𝜆3 = −1.13. Ύστερα μέσω του

𝐵 = [ 6.06 5.30−0.17 5.07] θα βρω τις 𝜆1,2:

det(𝐵 − 𝜆𝐼) = 0 ⟹ 𝜆1,2 = 5.57 ± 𝑖0.81

7.5 Παραγοντοποίηση QR

Το πρόβλημα Δεδομένου ενός πίνακα 𝐴, να βρεθούν 2 πίνακες 𝑄 (ορθογώνιος), 𝑅 (άνω τριγωνικός),έτσι ώστε:

𝐴 = 𝑄 ⋅ 𝑅

38

7.5.1 Εισαγωγή

Ένα σύνολο διανυσμάτων {𝑥1, 𝑥2,… , 𝑥𝑛} του χώρου 𝑉 λέγονται ορθογώνια αν ανά 2 μεταξύ τουςείναι κάθετα:

(𝑥𝑖, 𝑥𝑗) = 0 ∀𝑖 ≠ 𝑗

Τα διανύσματα 𝑥1, 𝑥2,… , 𝑥𝑛 λοιπόν είναι μεταξύ τους γραμμικά ανεξάρτητα. Εάν σε αυτά τα δια-νύσματα προσθέσω (εκτός της ορθογωνιότητας) την ιδιότητα της μοναδιαίας νόρμας/μήκους/μέτρου,ονομάζω τα 𝑥1, 𝑥2,… , 𝑥𝑛 ορθοκανονικά. Τότε ισχύει και η παρακάτω ιδιότητα:

Kroenecker Delta Όταν έχω μία σχέση μεταξύ δύο αντικειμένων:

(𝑥𝑖, 𝑥𝑗) = 0 για 𝑖 ≠ 𝑗= 1 για 𝑖 = 𝑗

αυτή αναπαριστά το δέλτα του Kroenecker:

(𝑥𝑖, 𝑥𝑗) = 𝛿𝑖𝑗Για να μετατρέψω το ορθογώνιο σύστημα σε ορθοκανονικό, αρκεί να πάρω κάθε διάνυσμα βάσης,

και να το "μειώσω" ώστε να έχει μέτρο τη μονάδα (κανονικοποίηση):

𝑥𝑖 ∶= 𝑥𝑖‖𝑥𝑖‖

Για παράδειγμα, αν 𝑥𝑖 = ⎡⎢⎣

𝑥1𝑥2𝑥3

⎤⎥⎦, τότε:

‖𝑥𝑖‖2 = 𝑥21 + 𝑥2

2 + 𝑥23

‖𝑥𝑖‖ = √𝑥21 + 𝑥2

2 + 𝑥23

𝑥𝑖 =⎡⎢⎢⎢⎢⎣

𝑥1√𝑥2

1+𝑥22+𝑥2

3𝑥2

√𝑥21+𝑥2

2+𝑥23

𝑥3√𝑥2

1+𝑥22+𝑥2

3

⎤⎥⎥⎥⎥⎦

Ας υποθέσουμε ότι έχουμε 𝑛 ορθοκανονικά διανύσματα βάσης σε έναν χώρο διάστασης 𝑛:

{𝑥1, 𝑥2,… , 𝑥𝑛}

Επομένως κάθε διάνυσμα 𝑋 του χώρου γράφεται σαν γραμμικός συνδυασμός των διανυσμάτωνβάσης:

𝑋 =𝑛∑𝑖=1

𝑐𝑖𝑥𝑖

και επειδή η βάση είναι ορθοκανονική, αποδεικνύεται ότι οι συντελεστές 𝑐𝑖 προκύπτουν από τοεσωτερικό γινόμενο:

𝑐𝑖 = (𝑥𝑖, 𝑋)

Πράγματι:

(𝑥𝑖, 𝑋) = ⎛⎜⎝𝑥𝑖,

𝑛∑𝑗=1

𝑐𝑗𝑥𝑗⎞⎟⎠

39

Από ιδιότητα του εσωτερικού γινομένου (𝑎𝑥 + 𝑏𝑦, 𝑧) = 𝑎(𝑥, 𝑦) + 𝑏(𝑦, 𝑧)

=𝑛∑𝑗=1

𝑐𝑗(𝑥𝑖, 𝑥𝑗)

=𝑛∑𝑗=1

𝑐𝑖 ⋅ 𝛿𝑖𝑗 = 𝑐𝑖.

7.5.2 Ορθογώνιος πίνακας

Έστω ότι στον χώρο ℝ𝑛 έχουμε 𝑛 ορθοκανονικά διανύσματα 𝑞1, 𝑞2,… , 𝑞𝑛.Τον πίνακα που φτιάχνουμε με αυτά τα διανύσματα:

𝑄 = ⎡⎢⎣𝑞1 𝑞2 … 𝑞𝑛

⎤⎥⎦

τον ονομάζουμε ορθογώνιο πίνακα.Για αυτόν προκύπτει αν δούμε τις πράξεις:

𝑄T𝑄 = 𝐼 ,

δηλαδή ο ανάστροφός του είναι ο αντίστροφός του:

𝑄−1 = 𝑄T

Εσωτερικά γινόμενα Θα δείξουμε ότι το εσωτερικό γινόμενο δύο διανυσμάτων 𝑥, 𝑦 ενός χώρου δεναλλάζει αν τα πολλαπλασιάσουμε με τον 𝑄, δηλαδή (𝑄𝑥,𝑄𝑦) = (𝑥, 𝑦):

(𝑄𝑥,𝑄𝑦) = (𝑄𝑥)T𝑄𝑦= 𝑥T 𝑄T𝑄⏟

𝐼𝑦

= 𝑥𝑇 𝑦 = (𝑥, 𝑦).

Επομένως, παρατηρώ ότι:

‖𝑄𝑥‖2 = (𝑄𝑥,𝑄𝑥) = (𝑥, 𝑥) = ‖𝑥‖2

Συγκεντρωτικά οι ιδιότητες του 𝑄 ∈ ℝ𝑛×𝑛

1. Στήλες 𝑄 είναι μια ορθοκανονική βάση του ℝ

2. 𝑄T𝑄 = 𝐼

3. 𝑄−1 = 𝑄T

4. (𝑄𝑥,𝑄𝑦) = (𝑥, 𝑦)

5. ‖𝑄𝑥‖ = ‖𝑥‖

7.6 Μετασχηματισμοί Householder

Ο μετασχηματισμός Householder είναι ένας πίνακας που μετασχηματίζει ένα διάνυσμα, ώστε π.χ.να έχει ίδια κατεύθυνση αλλά διαφορετικό μέτρο.

40

Το πρόβλημα Δεδομένου ενός διανύσματος 𝑥 ∈ ℝ𝑛 και σταθεράς 𝑘 ∈ {1, 2,… , 𝑛}, να βρεθεί έναςπίνακας 𝐻 , τέτοιος ώστε οι τελευταίες 𝑛 − 𝑘 συνιστώσες του διανύσματος 𝐻𝑥 να είναι μηδέν.

Δηλαδή οι τιμές του 𝐻𝑥, κάτω από μία θέση που θέλω εγώ, να είναι μηδενικές.Αυτό το πρόβλημα θα λύσουν οι μετασχηματισμοί Householder:

Ορισμός 7.4

Για κάποιο διάνυσμα 𝑢 ∈ ℝ𝑛 με μοναδιαίο μήκος (‖𝑢‖2 = 1), ο πίνακας

𝐻 = 𝐼 − 2𝑢𝑢T

ονομάζεται μετασχηματισμός Householder.

Παρατηρούμε ότι (και προκύπτει με πράξεις), ότι ο 𝐻 είναι συμμετρικός.Θα αποδείξουμε ότι ο 𝐻 είναι ορθογώνιος!

𝐻𝐻T = (𝐼 − 2𝑢𝑢T)(𝐼 − 2𝑢𝑢T)𝑇= (𝐼 − 2𝑢𝑢T)(𝐼 − 2𝑢𝑢T)= 𝐼 − 4𝑢𝑢T + 4𝑢𝑢T𝑢⏟

1𝑢T𝑢𝑢T

⏟⏟⏟⏟⏟⏟⏟1

= 𝐼

Έχω:

𝐻𝑥 = 𝑦 όπου για τον 𝑦, από την 𝑘 + 1 θέση και κάτω, μηδενικά𝐻𝑥 = (𝐼 − 2𝑢𝑢T)𝑥 = 𝑥 − 2𝑢𝑢T𝑥 = 𝑥 − 2(𝑢T𝑥)𝑢

Όμως, το 𝑢T𝑥 είναι η προβολή του 𝑥 στο 𝑢. Όπως ξέρω, η προβολή του διανύσματος 𝑏 πάνωστο διάνυσμα 𝑎 γράφεται:

𝜌 = 𝑎T𝑏𝑎T𝑎 𝑎

Άρα για εμάς:

𝜌 = 𝑢T𝑥

��*1 αφού μοναδιαίο

𝑢T𝑢= (𝑢T𝑥)𝑢

Για να βρω τον Η ψάχνω το 𝑢 στη σχέση 𝐼 − 2𝑢𝑢T.Ορίζω το διάνυσμα 𝑦 με την ίδια νόρμα (ευκλείδια) με το 𝑥:

‖𝑥‖2 = ‖𝑦‖2Έτσι, ορίζω ακόμα το μοναδιαίο (κανονικοποιημένο) διάνυσμα 𝑢 ως:

𝑢 = 𝑥 − 𝑦‖𝑥 − 𝑦‖

Θα δείξω ότι αυτό το 𝑢 είναι μια πάρα πολύ καλή επιλογή:

(𝐼 − 2𝑢𝑢T)𝑥 = 𝑦

41

Θέλω

𝑥 =

⎡⎢⎢⎢⎢⎢⎣

𝑥1𝑥2⋮𝑥𝑘⋮

𝑥𝑛

⎤⎥⎥⎥⎥⎥⎦

→ 𝑦 =

⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣

𝑥1𝑥2⋮

𝑥𝑘−1±√𝑥2

𝑘 + 𝑥2𝑘+1 +⋯+ 𝑥2𝑛00⋮0

⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦

(από το 𝑘 + 1 και κάτω, 0)

Αυτό γίνεται με το:

𝑢 = 𝑥 − 𝑦‖𝑥 − 𝑦‖

Θα βρω ακριβώς το 𝑢:

(𝑥 − 𝑦) =

⎡⎢⎢⎢⎢⎢⎢⎢⎢⎣

00⋮

𝑥𝑘−(−sgn(𝑥𝑘)⋅√𝑥2𝑘+𝑥2

𝑘+1+⋯+𝑥2𝑛)

𝑥𝑘+1⋮⋮

𝑥𝑛

⎤⎥⎥⎥⎥⎥⎥⎥⎥⎦

Για ευκολία θέτω:

𝑠 = √𝑥2𝑘 + 𝑥2

𝑘+1 +⋯+ 𝑥2𝑛 (1)

‖𝑥 − 𝑦‖ = √(𝑥𝑘 + sgn(𝑥𝑘)𝑠) + 𝑥2𝑘+1 +⋯+ 𝑥2𝑛

= √2𝑠 (𝑠 + |𝑥𝑘|) (2)

Τελικά:

𝑢 = 1√2𝑠 (𝑠 + |𝑥𝑘|)

⎡⎢⎢⎢⎢⎢⎢⎢⎢⎣

00⋮

𝑥𝑘−(−sgn(𝑥𝑘)⋅√𝑥2𝑘+⋯+𝑥2𝑛)

𝑥𝑘+1⋮⋮

𝑥𝑛

⎤⎥⎥⎥⎥⎥⎥⎥⎥⎦

Παράδειγμα Επιθυμώ το παρακάτω 𝑥 να έχει μηδέν στην 3η συνιστώσα:

𝑥 = ⎡⎢⎣

743⎤⎥⎦

42

Επίλυση Είναι 𝑘 = 2. Θα χρησιμοποιήσω τις (1) και (2):

𝑠 = √𝑥22 + 𝑥2

3 = √42 + 32 = 5

‖𝑢‖ = ‖𝑥 − 𝑦‖ = √2 ⋅ 5 (𝑠 + |𝑥𝑘|) = √10(5 + 4) =√90

sgn(𝑥𝑘) = +

𝑢 = 1√90

⎡⎢⎣

04 + +5

3⎤⎥⎦

= 1√90

⎡⎢⎣

093⎤⎥⎦

Άρα:

𝐻 = 𝐼 − 2𝑢𝑢T = 𝐼 − 290

⎡⎢⎣

093⎤⎥⎦[0 9 3] = 𝐼 − 2

90⎡⎢⎣

0 0 00 81 270 27 9

⎤⎥⎦

= ⎡⎢⎣

1 0 00 1 00 0 1

⎤⎥⎦− 2

90⎡⎢⎣

0 0 00 81 270 27 9

⎤⎥⎦

= 15⎡⎢⎣

5 0 00 −4 −30 −3 4

⎤⎥⎦

𝐻 ⋅ 𝑥 = ⋯ = ⎡⎢⎣

7−50⎤⎥⎦

(επαλήθευση)

Για να γράψω έναν πίνακα 𝐴 με μορφή:

𝐴 = 𝑄 ⋅ 𝑅

λειτουργώ ως εξής:

𝐻1 ⋅ 𝐴 = [𝐻1𝑎1 𝐻1𝑎2 … 𝐻1𝑎𝑛] =⎡⎢⎢⎢⎢⎣

∗ ∗ ∗ ⋯ ∗0 ∗ ∗ ⋯ ∗0 ∗ ∗ ⋯ ∗⋮ ⋮ ⋮ ⋱ ⋮0 ∗ ∗ ⋯ ∗

⎤⎥⎥⎥⎥⎦

= 𝐴1.

Βρίσκω τον 𝐴1, από αυτόν υπολογίζω τον 𝐻2, και ύστερα βρίσκω το γινόμενο 𝐻2 ⋅ 𝐴1

𝐻2 ⋅ 𝐴1 =

⎡⎢⎢⎢⎢⎢⎣

∗ ∗ ∗ ∗ ⋯ ∗0 ∗ ∗ ∗ ⋯ ∗0 0 ∗ ∗ ⋯ ∗0 0 ∗ ∗ ⋯ ∗⋮ ⋮ ⋮ ⋱ ⋮0 0 ∗ ∗ ⋯ ∗

⎤⎥⎥⎥⎥⎥⎦

= 𝐴2

𝐻𝑛−1𝐴𝑛−2 =

⎡⎢⎢⎢⎢⎢⎣

∗ ∗ ∗ ∗ ⋯ ∗0 ∗ ∗ ∗ ⋯ ∗0 0 ∗ ∗ ⋯ ∗0 0 0 ∗ ⋯ ∗⋮ ⋮ ⋮ ⋱ ⋮0 0 0 0 ⋯ ∗

⎤⎥⎥⎥⎥⎥⎦

= 𝐴𝑛−1 = 𝑅

Τελικά δηλαδή:

𝐻𝑛−1𝐻𝑛−2 ⋯𝐻1𝐴 = 𝑅

43

𝐻↗ συμμετρικός↘ ορθογώνιος

𝐻T = 𝐻−1

𝐴 = 𝐻T1 𝐻T

2 …𝐻T𝑛−1𝑅

𝐴 = 𝐻1𝐻2 …𝐻𝑛−1⏟⏟⏟⏟⏟⏟⏟𝑄

𝑅

Δηλαδή φτάνουμε στο πολυπόθητο:

𝐴 = 𝑄𝑅

𝐴𝑚×𝑛

= 𝑄𝑚×𝑚

× 𝑅𝑚×𝑛

→ ⎡⎢⎣

𝑛 × 𝑛 άνω τριγωνικός0

𝑚×𝑛 γραμμές

⎤⎥⎦

Άσκηση Δίνεται ο πίνακας 𝑋 = ⎡⎢⎣

−3412

⎤⎥⎦. Να βρεθεί πίνακας 𝐻 ώστε ο 𝐻𝑥 να έχει μηδέν τις τελευταίες

2 συνιστώσες.

Λύση

𝑘 = 1

𝑠 = √𝑥21 + 𝑥2

2 + 𝑥23 = √(−3)2 + 42 + 122 = 13

𝑢 = 1√2 ⋅ 13 ⋅ (13 + 3)

⎡⎢⎣

𝑥1 + sgn(𝑥1) ⋅ 𝑠𝑥2𝑥3

⎤⎥⎦

⋯= 1√26

⎡⎢⎣

−413⎤⎥⎦

𝐻 = 𝐼 − 2𝑢𝑢T = ⎡⎢⎣

1 0 00 1 00 0 1

⎤⎥⎦− 2 1√

26⎡⎢⎣

−413⎤⎥⎦

1√26 [−4 1 3] = 1

13⎡⎢⎣

−3 4 124 12 −312 −3 4

⎤⎥⎦

Όντως, για επαλήθευση παρατηρούμε ότι:

𝐻𝑥 = ⎡⎢⎣

1300⎤⎥⎦

Άσκηση Να παραγοντοποιηθεί/γραφεί σε μορφή 𝑄𝑅 ο πίνακας 𝐴 = ⎡⎢⎣

1 5 62 −4 −52 3 17

⎤⎥⎦.

44

Λύση Στην πρώτη στήλη:

𝑎1 = ⎡⎢⎣

122⎤⎥⎦

𝑘 = 1

𝑠 = √12 + 22 + 22 = 3

𝑢1 = 1√2𝑠(𝑠 + |𝑥1|)

⎡⎢⎣

𝑥1 + 𝑠𝑥2𝑥3

⎤⎥⎦

= 1√24

⎡⎢⎣

422⎤⎥⎦

𝐻1 = 𝐼 − 2𝑢1𝑢T1

⋯= 13⎡⎢⎣

−1 −2 −2−2 2 −1−2 −1 2

⎤⎥⎦

= 𝑄

𝐻1𝐴 = ⎡⎢⎣

−3 −1 −100 −7 −130 0 9

⎤⎥⎦

= 𝑅

Άσκηση Να βρεθεί η παραγοντοποίηση QR του πίνακα 𝐴:

𝐴 = ⎡⎢⎣

+1 +2 3+2 9 2+2 2 1

⎤⎥⎦

Λύση

• Για 𝑘 = 1 Householder:

𝑄1 = ⎡⎢⎣

122⎤⎥⎦

𝐻1 = 13⎡⎢⎣

−1 −2 −2−2 2 −12 −1 2

⎤⎥⎦

𝐴1 = 𝐻1𝐴 = ⎡⎢⎣

−3 −8 −30 4 −10 −3 −2

⎤⎥⎦

• Για 𝑘 = 2 Householder:

𝑄′2 = ⎡

⎢⎣

−84−3

⎤⎥⎦

𝑠 = √𝑥22 + 𝑥2

3 = √42 + (−3)2 = 5

Προκύπτει:

𝐻2 = 𝐼 − 2𝑢𝑢T = ⎡⎢⎣

1 0 00 1 00 0 1

⎤⎥⎦− 2 1√

10⎡⎢⎣

03−1

⎤⎥⎦

1√10 [0 3 −1] = 1

5⎡⎢⎣

5 0 00 −4 30 3 4

⎤⎥⎦

𝐴2 = 𝐻2𝐴1 = ⎡⎢⎣

−3 −8 −30 −5 −2/50 0 −11/5

⎤⎥⎦= 𝑅

𝑄 = 𝐻1𝐻2 = 115

⎡⎢⎣

−1 −2 −2−2 2 −1−2 −1 2

⎤⎥⎦

⎡⎢⎣

5 0 00 −4 30 3 4

⎤⎥⎦

= 115

⎡⎢⎣

−5 2 −14−10 −11 2−10 10 5

⎤⎥⎦

45

Άσκηση Να παραγοντοποιηθεί ο πίνακας:

𝐴 = ⎡⎢⎣

1 12 42 −3

⎤⎥⎦

Λύση

𝑄↓

ορθογώνιος

⋅άνω τριγωνικός

↑𝑅 ÐÐÐÐÐ→ ⎡⎢

⎣

𝑛 × 𝑛 άνω τριγωνικός0

𝑚×𝑛 γραμμές

⎤⎥⎦

Στον πίνακα: ⎡⎢⎣

122⎤⎥⎦

εφαρμόζω Householder για 𝑘 = 1.

𝐻1 = 13⎡⎢⎣

−1 −2 −2−2 2 −1−2 −1 2

⎤⎥⎦

𝐴1 = 𝐻1𝐴 = ⎡⎢⎣

−3 −10 30 −4

⎤⎥⎦

Householder στον ⎡⎢⎣

−134⎤⎥⎦

για 𝑘 = 2:

𝑠 = √32 + 42 = 5

𝑢2 = 1√10 ⋅ 8

⎡⎢⎣

08

= 4⎤⎥⎦

= 1√5⎡⎢⎣

02−1

⎤⎥⎦

𝐻2 = 𝐼 − 2𝑢2𝑢T2 = ⎡

⎢⎣

1 0 00 1 00 0 1

⎤⎥⎦− 2

5⎡⎢⎣

0 0 00 4 −20 −2 1

⎤⎥⎦

= ⎡⎢⎣

1 0 00 −3

545

0 45

35

⎤⎥⎦

𝐻2𝐴1 = ⎡⎢⎣

−3 −10 −50 0

⎤⎥⎦

= 𝑅

𝑄 = 𝐻1𝐻2 = …

Κεφάλαιο 9 Επίλυση Γραμμικών Συστημάτων

Η μέθοδος Cramer βρίσκει λύσεις στα γραμμικά συστήματα, αλλά λόγω του υπολογισμού ορίζου-σας είναι πολύ αργή. Γι' αυτό μπορούμε να χρησιμοποιήσουμε την απαλοιφή Gauss και παραλλαγέςτης για να βρούμε ακριβείς λύσεις στο σύστημα.

Για την επίλυση γραμμικών συστημάτων μπορούμε να χρησιμοποιήσουμε δύο είδη μεθόδων:

• Ακριβείς Μεθόδους

• Επαναληπτικές Μεθόδους

46

Γενικά οι μέθοδοι αυτές προσπαθούν να μας οδηγήσουν σε ένα ισοδύναμο τριγωνικό σύστημα (𝐴1𝑥 =𝑏1 ∼ 𝐴2𝑥 = 𝑏2):

𝑎11𝑥1 + 𝑎12𝑥2 +⋯+ 𝑎1𝑛𝑥𝑛 = 𝑏1𝑎22𝑥2 +⋯+ 𝑎2𝑛𝑥𝑛 = 𝑏2

⋱ = ⋮𝑎𝑛𝑛𝑥𝑛 = 𝑏𝑛

επειδή τότε η λύση μπορεί να βρεθεί ως εξής:

𝑥𝑛 = 𝑏𝑛𝑎𝑛𝑛

𝑥𝑛−1 = 𝑏𝑛−1 − 𝑎𝑛−1, 𝑛𝑥𝑛𝑎𝑛−1, 𝑛−1

⋮ = ⋮

και αναδρομικά έχω:

𝑥𝑘 =𝑏𝑘 −∑𝑛

𝑗=𝑘+1 𝑎𝑘𝑗𝑥𝑗

𝑎𝑘𝑘

με 𝑘 = 𝑛, 𝑛 − 1, … , 1.

9.1 Ακριβής επίλυση με παραγοντοποίηση QR

Η λύση με παραγοντοποίηση QR δίνει ένα ακριβές αποτέλεσμα, αλλά είναι ακριβή σε χρόνο,επομένως χρησιμοποιείται αν έχουμε έτοιμη την παραγοντοποίηση, οπότε:

𝐴𝑥 = 𝑏𝑄𝑅𝑥 = 𝑏

𝑅↓

άνω τριγωνικός

𝑥 = 𝑄T𝑏

9.2 Ακριβής επίλυση με απαλοιφή Gauss

9.2.1 Στοιχειώδεις πράξεις

• Ανταλλαγή δύο γραμμών 𝑅𝑖 και 𝑅𝑗.

Θα το συμβολίζουμε:

𝑅𝑖 ∶= 𝑅𝑗 ή 𝑅𝑖 ← 𝑅𝑗

• Πολλαπλασιασμός γραμμής 𝑅𝑖 με μια σταθερά 𝑎 ∈ ℝ.Θα το συμβολίζουμε:

𝑅𝑖 ∶= 𝑎𝑅𝑖 ή 𝑅𝑖 ← 𝑎𝑅𝑖

• Πρόσθεση σε μια γραμμή 𝑅𝑖 το γινόμενο της γραμμής 𝑅𝑗 με μια σταθερά 𝑎 ∈ ℝ.Θα το συμβολίζουμε:

𝑅𝑖 ∶= 𝑅𝑖 + 𝑎𝑅𝑗 ή 𝑅𝑖 ← 𝑅𝑖 + 𝑎𝑅𝑗

47

9.2.2 Κλιμακωτή Μορφή

Παράδειγμα Αν έχουμε το σύστημα:

𝑥1 + 2𝑥2 − 4𝑥3 = −45𝑥1 + 11𝑥2 − 21𝑥3 = −22

3𝑥1 − 2𝑥2 + 3𝑥3 = 11

Λύση Τοποθετώ τους συντελεστές σε έναν πίνακα ώστε να μην γράφω συνέχεια τα ονόματατων μεταβλητών:

⎡⎢⎣

1 2 −4 −45 11 −21 −223 −2 3 11

⎤⎥⎦

και προσπαθώ να τον φέρω σε κλιμακωτή μορφή, εκτελώντας τις παραπάνω γραμμοπράξεις.

Ορισμός 9.1: Κλιμακωτή μορφή ενός ΠΙΝΑΚΑ

1. Το πρώτο μη μηδενικό στοιχείο κάθε μη μηδενικής γραμμής να είναι 1.

2. Εάν η γραμμή 𝑘 έχει μη μηδενικά στοιχεία, τα αρχικά μηδενικά στοιχεία της γραμμής𝑘 + 1 να είναι περισσότερα από αυτά της γραμμής 𝑘.

3. Αν υπάρχουν μηδενικές γραμμές, αυτές να βρίσκονται στο τέλος του πίνακα.


⎡⎢⎢⎢⎢⎣

10 0 10 0 0 0 10 0 0 0 00 0 0 0 0

⎤⎥⎥⎥⎥⎦

[ 𝐴 𝑏 ]Απαλοιφή GaussÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→ [ 𝐴 �� ]

Ορισμός 9.2: Πρωτεύουσες & Δευτερεύουσες Μεταβλητές

⎡⎢⎢⎢⎣

1 𝑥 𝑥 𝑥 ⋯ 𝑥 𝑥 𝑥0 0 1 𝑥 ⋯ 𝑥 𝑥 𝑥0 0 0 1 ⋯ 𝑥 𝑥 𝑥0 0 0 0 ⋯ 0 1 𝑥

⎤⎥⎥⎥⎦

Στον παραπάνω κλιμακωτό πίνακα, οι στήλες αναπαριστούν τους συντελεστές της κάθεμεταβλητής, ενώ οι γραμμές την κάθε εξίσωση.

Ορισμός 9.3: Ανηγμένη Κλιμακωτή μορφή πίνακα

1. Είναι κλιμακωτή μορφή

2. Το πρώτο μη μηδενικό στοιχείο κάθε γραμμής είναι και το μοναδικό μη μηδενικόστοιχείο στη στήλη

48


⎡⎢⎣

1 1 1 1 1 20 0 0 1 1 10 0 0 0 1 −1

⎤⎥⎦

𝑅2∶=𝑅2−𝑅3ÐÐÐÐÐÐÐÐÐÐÐÐÐ→𝑅1∶=𝑅1−𝑅3

⎡⎢⎣

1 1 1 1 0 30 0 0 1 0 20 0 0 0 1 −1

⎤⎥⎦

𝑅1∶=𝑅1−𝑅2ÐÐÐÐÐÐÐÐÐÐÐÐÐ→ ⎡

⎢⎣

1 1 1 0 0 10 0 0 1 0 20 0 0 0 1 −1

⎤⎥⎦

Η επίλυση συστήματος με ανηγμένη κλιμακωτή μορφή ονομάζεται απαλοιφή Gauss-Jordan

9.2.3 Ομογενή Συστήματα

Ορισμός 9.4: Ομογενές Σύστημα

𝐴𝑥 = 0

(είναι και ο μηδενοχώρος του 𝐴, δηλ. 𝑁(𝐴))

Τα ομογενή συστήματα μπορεί να έχουν:

– Μια μοναδική λύση 𝑥 = 0 (τετριμμένη λύση) ή– Άπειρες λύσεις

9.2.4 Στοιχειώδεις Πίνακες

Κάθε μία από τις στοιχειώδεις γραμμοπράξεις αντιστοιχεί σε έναν στοιχειώδη πίνακα, δηλαδήέναν πίνακα που τον πολλαπλασιάζουμε με τον πίνακα του συστήματος από τα αριστερά,ώστε να έχουμε το ίδιο αποτέλεσμα με την εφαρμογή της γραμμοπράξης:

𝑅1 ∶= 𝑅2 𝐸1 = ⎡⎢⎣

0 1 01 0 00 0 1

⎤⎥⎦

𝑅2 ∶= 𝑎𝑅2 𝐸2 = ⎡⎢⎣

1 0 00 𝑎 00 0 1

⎤⎥⎦

𝑅1 ∶ 𝑅1 + 𝑎𝑅3 𝐸3 = ⎡⎢⎣

1 0 𝑎0 1 00 0 1

⎤⎥⎦

9.2.5 Επίλυση

Υπάρχει η άμεση μέθοδος της απαλοιφής Gauss, και διάφορες επαναληπτικές μέθοδοι. Όπωςέχουμε πει, οι στοιχειώδεις πίνακες υλοποιούν τις γραμμοπράξεις, αφού πολλαπλασιάζουν τον αρ-χικό πίνακα από αριστερά, παραγοντοποιώντας μία από τις 3 γραμμοπράξεις. Ένα σύστημα πουπροκύπτει μετά από γραμμοπράξεις είναι ισοδύναμο με το αρχικό (ίδια λύση). Εμείς θέλουμε νακαταλήξουμε σε ένα τριγωνικό σύστημα, του οποίου η λύση μπορεί να βγει κατ' ευθείαν.

Αποδεικνύεται ότι ένα σύστημα 𝐴𝑥 = 𝑏 μετά από γραμμοπράξεις έρχεται στη μορφή 𝐿𝑈𝑥 = 𝑏.

49


[𝐴|𝑏] = ⎡⎢⎣

1 2 −4 −45 11 −21 −223 −2 3 11

⎤⎥⎦

κλιμακωτή μορφήÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→ ⎡

⎢⎣

1 2 −4 −40 1 −1 −20 0 7 7

⎤⎥⎦

= [𝑈|��]

Συνολικά 3 γραμμοπράξεις. Πολλαπλασίασα το σύστημα [𝐴|𝑏] με το 𝐸3𝐸2𝐸1:

𝐸3 ⋅ 𝐸2 ⋅ 𝐸1 ⋅ 𝐴 = 𝑈

με:

𝐸3 ⋅ 𝐸2 ⋅ 𝐸1 = ⎡⎢⎣

1 0 0−5 1 0−3 8 1

⎤⎥⎦

Άρα:

𝐸3 ⋅ 𝐸2 ⋅ 𝐸1 ⋅ 𝐴 = 𝑈 ⟹ 𝐴 = (𝐸3 ⋅ 𝐸2 ⋅ 𝐸1)−1𝑈

Όμως, αποδεικνύεται ότι το γινόμενο των στοιχειωδών πινάκων που οδηγούν ένα σύστημα σεκλιμακωτή μορφή είναι κάτω τριγωνικός πίνακας:

𝐴 =𝐿

(𝐸3 ⋅ 𝐸2 ⋅ 𝐸1)⏟⏟⏟⏟⏟⏟⏟κάτω τριγ.

−1⋅ 𝑈⏟

κλιμακωτός= 𝐿 ⋅ 𝑈

𝐿 = ⎡⎢⎣

1 0 05 1 03 −8 1

⎤⎥⎦

Έτσι λοιπόν το σύστημα:

𝐴𝑥 = 𝑏 ⟹ 𝐿𝑈𝑥⏟𝑦

= 𝑏 ⟹ 𝐿𝑦 = 𝑏

Λύνω το σύστημα ως προς 𝑦 εύκολα, αφού είναι τριγωνικό, και τελικά βρίσκω το 𝑥 μέσω της:

𝑈𝑥 = 𝑦 (τριγωνικό)

𝐿𝑈𝑥⏟𝑦

= 𝑏

(1) 𝐿𝑦 = 𝑏 τριγωνικό(2) 𝑈𝑥 = 𝑦 τριγωνικό

Παράδειγμα Να παραγοντοποιηθεί ο παρακάτω πίνακας σε γινόμενο 𝐿𝑈 , και να λυθεί το σύστημα:

𝐴 = ⎡⎢⎣

1 2 13 4 22 5 1

⎤⎥⎦

όπου 𝑏 = ⎡⎢⎣

324⎤⎥⎦

50

Λύση

⎡⎢⎣

1 2 13 4 22 5 1

⎤⎥⎦

𝑅2=𝑅2−3𝑅1ÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→𝑅3=𝑅3−2𝑅1

⎡⎢⎣

1 2 10 −2 −10 1 −1

⎤⎥⎦

𝑅3∶=𝑅3+ 12𝑅2

ÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→ ⎡⎢⎣

1 2 10 −2 −10 0 −3/2

⎤⎥⎦

= 𝑈

𝐿 = ⎡⎢⎣

1 0 03 1 02 −1

2 1⎤⎥⎦

(από τις γραμμοπράξεις)

Επίλυση συστήματος

• 𝐿𝑦 = 𝑏

𝑦1 = 33𝑦1 + 𝑦2 = 2

2𝑦1 − 1/2𝑦2 + 𝑦3 = 4

𝑦1 = 3𝑦2 = −7

𝑦3 = −112

• 𝑈𝑥 = 𝑦

𝑥1 + 2𝑥2 + 𝑥3 = 3−2𝑥2 − 𝑥3 = −7

− 3/2𝑥3 = − 11/2

𝑥1 = −4𝑥2 = 5/3𝑥3 = 11/3

9.3 Ακριβής επίλυση με LU χρησιμοποιώντας άλλες μεθόδους

9.3.1 Μερική οδήγηση

Η μέθοδος της μερικής οδήγησης προσθέτει πράξεις, αλλά μειώνει τα σφάλματα στρογγυλοποί-ησης και αποκοπής που μπορεί να προκύψουν.

Για οδηγό χρησιμοποιούμε γενικά το μεγαλύτερο κατά απόλυτη τιμή στοιχείο.Μετασχηματίζουμε τον πίνακα 𝐴 σε κάποιον πίνακα 𝐴′ = 𝑃𝐴, ώστε 𝐴′ = 𝐿𝑈 :

𝐴 → 𝐴′ = 𝐿𝑈

Για παράδειγμα, αν έχουμε έναν πίνακα 𝐴 με διαστάσεις 5x5, και θέλουμε να εναλλάξουμε την 1ημε την 2η και την 3η με την 4η γραμμή, πολλαπλασιάζουμε αριστερά με τον:

𝑃 =⎡⎢⎢⎢⎢⎣

0 1 0 0 01 0 0 0 00 0 0 1 00 0 1 0 00 0 0 0 1

⎤⎥⎥⎥⎥⎦

(αντίστοιχα, για εναλλαγή στηλών, πολλαπλασιάζουμε από δεξιά και έχουμε 𝐴′ = 𝐴𝑃T).

51


𝐴 = ⎡⎢⎣

1 2 14 16 23 2 5

⎤⎥⎦

→ ⎡⎢⎣

1 2 10 8 −20 −4 2

⎤⎥⎦

γραμμοπράξεις για να μηδενίσω τα στοιχεία της στήληςÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→

του οδηγού στον υποπίνακα ⎡⎢⎣

8 −2−4 2

⎤⎥⎦

⎡⎢⎣

1 2 10 0 20 −4 2

⎤⎥⎦

= 𝑈

�� = ⎡⎢⎣

1 0 04 −2 13 1 0

⎤⎥⎦

𝑥𝑃𝐴 = (𝑥𝑃 ��)(𝑥𝑃 𝑈)𝑥𝑃𝐴 = 𝐿 ⋅ 𝑈

Επειδή εναλλάξαμε την 2η με την 3η γραμμή:

𝑥𝑃 = ⎡⎢⎣

1 0 00 0 10 1 0

⎤⎥⎦

𝑥𝑃𝐴 = ⎡⎢⎣

1 2 13 2 54 16 2

⎤⎥⎦

9.3.2 Ειδικοί τύποι πινάκων

Σε συμμετρικούς πίνακες Έχουμε έναν συμμετρικό πίνακα:

⎡⎢⎢⎢⎣

2 4 6 44 7 8 26 8 5 44 2 4 3

⎤⎥⎥⎥⎦

𝑅2∶=𝑅2−2𝑅1𝑅3∶=𝑅3−3𝑅1ÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→𝑅4∶=𝑅4−2𝑅1

⎡⎢⎢⎢⎣

2 4 6 40 −1 −4 −60 −4 −11 −80 −6 −8 −5

⎤⎥⎥⎥⎦

𝑅3∶=𝑅3+4𝑅2ÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→𝑅4∶=𝑅4+6𝑅2

⎡⎢⎢⎢⎣

2 4 6 40 −1 −4 −60 0 5 160 0 16 31

⎤⎥⎥⎥⎦

Παρατηρούμε ότι, ακόμα και μετά τις γραμμοπράξεις, οι επιμέρους υποπίνακες παραμένουν συμ-μετρικοί.

Θυμόμαστε ότι:

𝐴 θετικά ορισμένος ανν 𝑥𝑇𝐴𝑥 > 0για κάθε διάνυσμα 𝑥 ≠ 0, και ο 𝐴 σπάει σε γινόμενο:

𝐴 = 𝐻T𝐻↓

άνω τριγ. με θετική διαγώνιο

Αν δηλαδή ο 𝐴 είναι συμμετρικός και θετικά ορισμένος, γίνεται γινόμενο 𝐿𝑈 :

𝐴 = 𝐻T𝐻

⎡⎢⎢⎢⎣

𝑎11 𝑎12 ⋯ 𝑎1𝑛𝑎21 𝑎22 ⋯ 𝑎2𝑛⋮ ⋮ ⋱ ⋮

𝑎𝑛1 𝑎𝑛2 ⋯ 𝑎𝑛𝑛

⎤⎥⎥⎥⎦

=⎡⎢⎢⎢⎣

ℎ11 0 ⋯ 0ℎ12 ℎ22 ⋯ 0⋮ ⋮ ⋱ ⋮

ℎ𝑛1 ℎ𝑛2 ⋯ ℎ𝑛𝑛

⎤⎥⎥⎥⎦

⎡⎢⎢⎢⎣

ℎ11 ℎ12 ⋯ ℎ1𝑛0 ℎ22 ⋯ ℎ2𝑛⋮ ⋮ ⋱ ⋮0 0 ⋯ ℎ𝑛𝑛

⎤⎥⎥⎥⎦

Για 𝑘 = 1, 2,… , 𝑛:

ℎ𝑘𝑘 =√√√⎷

𝑎𝑘𝑘 −𝑘−1∑𝑠=1

ℎ2𝑘𝑠

ℎ𝑘𝑖 = 1ℎ𝑘𝑘

⎛⎜⎝𝑎𝑖𝑘 −

𝑘−1∑𝑠=1

ℎ𝑖𝑠ℎ𝑘𝑠⎞⎟⎠

για 𝑖 = 𝑘 + 1,… , 𝑛.Αυτή η μέθοδος ονομάζεται μέθοδος Cholesky.

52

Παράδειγμα Να παραγοντοποιηθεί ο παρακάτω συμμετρικός & θετικά ορισμένος πίνακας με τηνπαραγοντοποίηση Cholesky:

𝐴 = ⎡⎢⎣

5 −1 3−1 2 −23 −2 3

⎤⎥⎦

Λύση (Με τη σχέση 𝑥T𝐴𝑥 θα μπορούσαμε να ελέγξουμε αν ο πίνακας είναι θετικά ορισμένος).Από τους παραπάνω τύπους, έχουμε:

𝑘 = 1 ℎ11 =√5 − 0 =

√5

ℎ21 = 1√5 (𝑎21 − 0) = − 1√

5ℎ31 = 1√

5(𝑎31 − 0) = 3√5

𝑘 = 2 ℎ22 = √𝑎22 − ℎ221 = √2 − 1

5 = 3√5

ℎ32 = 1ℎ22

(𝑎32 − ℎ31ℎ21) =√53 (−2 + 3√

51√5) = − 7

3√5

𝑘 = 3 ℎ33 = √𝑎33 − ℎ231 − ℎ2

32 = √3 − ( 3√5)

2−(− 7

3√5)

2= 1

3.

Σε ταινιοειδείς τριδιαγώνιους πίνακες

Ορισμός 9.5

Ταινιοειδής λέγεται ο πίνακας, που έχει μη μηδενικά στοιχεία μόνο σε έναν αριθμό διαγωνίωνκάτω και πάνω από την κύρια διαγώνιο:/

//

//

//

//

//

//

//

/

/////////////

00

0⋯

000⋯

υπερδιαγώνιος

υποδιαγώνιος

τριδιαγώνιος πίνακας(η υπερδιαγώνιος ακριβώς από επάνω& η υποδιαγώνιος ακριβώς από κάτω)

Αν έχει μη μηδενικά στοιχεία στην κύρια διαγώνιο, στην υπερδιαγώνιο ακριβώς επάνω από τηνκύρια, και στην υποδιαγώνιο κάτω από την κύρια, λέγεται τριδιαγωνικός:

⎡⎢⎢⎢⎣

1 −2 0 0−3 4 1 00 −6 2 30 0 −1 4

⎤⎥⎥⎥⎦

53


⎡⎢⎢⎢⎣

1 −2 0 0−3 4 1 00 −6 2 30 0 −1 4

⎤⎥⎥⎥⎦

𝑅2∶=𝑅2+3𝑅1ÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→

⎡⎢⎢⎢⎣

1 −2 0 00 −2 1 00 −6 2 30 0 −1 4

⎤⎥⎥⎥⎦

𝑅3∶=𝑅3−3𝑅2ÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→

⎡⎢⎢⎢⎣

1 −2 0 00 −2 1 00 0 −1 30 0 −1 4

⎤⎥⎥⎥⎦

𝑅4∶=𝑅4−𝑅−3ÐÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→

⎡⎢⎢⎢⎣

1 −2 0 00 −2 1 00 0 −1 30 0 0 1

⎤⎥⎥⎥⎦

= 𝑈

𝐿 =⎡⎢⎢⎢⎣

1 0 0 0−3 1 0 00 3 1 00 0 1 1

⎤⎥⎥⎥⎦

Παρατηρήσεις

1. Σε κάθε βήμα απαλοιφής αντιστοιχεί μόνο ένας πολλαπλασιαστής.

2. Τα στοιχεία της υπερδιαγωνίου του 𝐴 παραμένουν αμετάβλητα.

3. 𝑈 και 𝐿 ταινιοειδείς.

𝐴 = 𝐿𝑈

⎡⎢⎢⎢⎢⎣

𝑎11 𝑎12 0 ⋯ 0𝑎21 𝑎22 𝑎23 ⋯ 00 𝑎32 𝑎33 ⋯ 0⋮ ⋮ ⋮ ⋱ ⋮0 0 0 ⋯ 𝑎𝑛𝑛

⎤⎥⎥⎥⎥⎦

=⎡⎢⎢⎢⎢⎣

1 0 0 ⋯ 0𝛽2 1 0 ⋯ 00 𝛽3 1 ⋯ 0⋮ ⋮ ⋮ ⋱ ⋮0 0 0 ⋯ 1

⎤⎥⎥⎥⎥⎦

⎡⎢⎢⎢⎣

𝑎1 𝑎12 0 ⋯ 00 𝑎2 𝑎23 ⋯ 0⋮ ⋮ ⋮ ⋱ ⋮0 0 0 ⋯ 𝑎𝑛

⎤⎥⎥⎥⎦

όπου:

𝑎1 = 𝑎11, 𝛽𝑖 = 𝑎𝑖, 𝑖−1𝑎𝑖−1

, 𝑎𝑖 = 𝑎𝑖𝑖 − 𝛽𝑖𝑎𝑖−1, 𝑖 για 𝑖 = 2,… , 𝑛

Η μέθοδος αυτή ονομάζεται μέθοδος Thomas.

9.4 Επαναληπτική μέθοδος Jacobi

Η ιδέα είναι, αν έχουμε μία προσέγγιση 𝑥(𝑘) για τη λύση του συστήματος, να βρούμε έναν τρόπο νααποκτήσουμε μία καλύτερη προσέγγιση 𝑥(𝑘+1), και η ακολουθία {𝑥(𝑘)} να συγκλίνει στην πραγματικήλύση.

Μέθοδος Jacobi σε 3x3 σύστημα

𝑎11𝑥1 + 𝑎12𝑥2 + 𝑎13𝑥3 = 𝑏1𝑎21𝑥1 + 𝑎22𝑥2 + 𝑎23𝑥3 = 𝑏2𝑎31𝑥1 + 𝑎32𝑥2 + 𝑎33𝑥3 = 𝑏3

Λύνω ως προς 𝑥1, 𝑥2, 𝑥3 την 1η, 2η και 3η αντίστοιχα εξίσωση:

𝑥1 = 1𝑎11

(𝑏1 − 𝑎12𝑥2 − 𝑎13𝑥3)

𝑥2 = 1𝑎22

(𝑏2 − 𝑎21𝑥1 − 𝑎23𝑥3)

𝑥3 = 1𝑎33

(𝑏3 − 𝑎31𝑥1 − 𝑎32𝑥2)

54

Επομένως, για να εφαρμόσουμε επαναληπτική διαδικασία, αρκεί να πάρουμε:

𝑥(𝑘+1)1 = 1

𝑎11(𝑏1 − 𝑎12𝑥(𝑘)

2 − 𝑎13𝑥(𝑘)3 )

𝑥(𝑘+1)2 = 1

𝑎22(𝑏2 − 𝑎21𝑥(𝑘)

1 − 𝑎23𝑥(𝑘)3 )

𝑥(𝑘+1)3 = 1

𝑎33(𝑏3 − 𝑎31𝑥(𝑘)

1 − 𝑎32𝑥(𝑘)2 )

Γενικός τύπος

𝑥(𝑘+1)𝑖 = 1

𝑎𝑖𝑖⎛⎜⎝𝑏𝑖 −

𝑖−1∑𝑗=1

𝑎𝑖𝑗𝑥(𝑘)𝑗 −

𝑛∑𝑗=𝑖+1

𝑎𝑖𝑗𝑥(𝑘)𝑗

⎞⎟⎠

Θεωρούμε ότι:

𝐴 = 𝐿+𝐷+ 𝑈

όπου 𝐷 ο πίνακας που αποτελείται μόνο από τα στοιχεία της διαγωνίου του 𝐴, ο 𝐿 (lower) αυτόςπου αποτελείται από τα στοιχεία κάτω από τη διαγώνιο, και 𝑈 (upper) πάνω από τη διαγώνιο.

τότε:

𝑥(𝑘+1) = −𝐷−1(𝐿 + 𝑈)𝑥(𝑘) +𝐷−1𝑏

Γενική μορφή

𝐴 = 𝑀 +𝑁 ⟹(𝑀 +𝑁)𝑥 = 𝑏 ⟹ 𝑀𝑥 = −𝑁𝑥 + 𝑏𝑥 = −𝑀−1𝑁𝑥 +𝑀−1𝑏𝑥(𝑘+1) = −𝑀

↓𝐷

−1𝑁↓

𝐿+𝑈𝑥(𝑘) +𝑀

↓𝐷

−1𝑏


5𝑥1 − 𝑥2 = 3−𝑥1 + 10𝑥2 = 19

Λύση

𝐴 = 𝑀 +𝑁

[ 5 −1−1 10] = [5 0

0 10] + [ 0 −1−1 0 ]

𝑀−1 = [1/5 00 1/10]

𝑀−1𝑁 = [ 0 − 1/5− 1/10 0 ]

𝑀−1𝑏 = [3/5

19/10]

55

[𝑥1𝑥2

](𝑘+1)

= −[ 0 − 1/5− 1/10 0 ][𝑥1

𝑥2]

(𝑘)

+ [3/5

19/10]

𝑥(0) = [00] , 𝑥(1) = [3/5

19/10] , 𝑥(2) = [0.981.96] ,… , 𝑥(6) = [0.991.99] ≃ [12]


−𝑥1 + 10𝑥2 = 195𝑥1 − 𝑥2 = 3

Λύση

𝐴 = 𝑀 +𝑁

όπου 𝑀 = [−1 00 −1] και 𝑁 = [0 10

5 0 ]

𝑀−1 = [−1 00 −1]

𝑀−1𝑁 = [ 0 −10−5 0 ]

𝑀−1𝑏 = [−19−3 ]

[𝑥1𝑥2

](𝑘+1)

= [ 0 −10−5 0 ][𝑥1

𝑥2]

(𝑘)

+ [−19−3 ]

𝑥(1) = [1198] , … , 𝑥(6) = [ 2061240198]

Παρατηρούμε δηλαδή ότι η παραπάνω μέθοδος αρχίζει να αποκλίνει για κάποιες αρχικές λύσεις!Θα δούμε μία μέθοδο για να βρούμε ποιές αρχικές λύσεις συγκλίνουν πάντα στην πραγματική.

Ορισμός 9.6: Σφάλμα στην k-οστή επανάληψη

𝑒(𝑘) = 𝑥 − 𝑥(𝑘)

Κάνοντας πράξεις παίρνουμε:

𝑒(𝑘+1) = 𝑥 − 𝑥(𝑘+1) = −𝑀−1𝑁𝑥 +𝑀−1𝑏 − (−𝑀−1𝑁𝑥(𝑘) +𝑀−1𝑏) = −𝑀−1𝑁 (𝑥 − 𝑥(𝑘))𝑒(𝑘+1) = −𝑀−1𝑁𝑒(𝑘)

Πρέπει το 𝑒(𝑘) να γίνεται μικρότερο για κάθε επανάληψη.Επειδή έχουμε πίνακες, για να τους συγκρίνουμε μεταξύ τους θα χρησιμοποιήσουμε νόρμες, και

πιο συγκεκριμένα την άπειρη νόρμα (το μεγαλύτερο άθροισμα των στοιχείων κάθε γραμμής):

‖𝐴‖∞ = max1≤𝑖≤𝑚

⎧{⎨{⎩

𝑛∑𝑗=1

∣𝑎𝑖𝑗∣⎫}⎬}⎭

που έχει την ιδιότητα:

‖𝐴𝑥‖∞ ≤ ‖𝐴‖∞‖𝑥‖∞

56

επομένως, από την τελευταία σχέση, πρέπει:

∥𝑒(𝑘+1)∥ = ∥−𝑀−1𝑁𝑒(𝑘)∥∞

≤ ∥−𝑀−1𝑁∥∞ ∥𝑒(𝑘)∥∞

δηλαδή:

∥−𝑀−1𝑁∥∞ < 1

για να έχουμε σύγκλιση για οποιαδήποτε αρχική προσέγγιση.Για παράδειγμα:

• σύγκλιση 𝑀−1 =[1/5 00 1/10], 𝑁 = [ 0 −1

−1 0 ], 𝑀−𝑁 =[ 0 − 1/5− 1/10 0 ] ⟹ ∥𝑀−1𝑁∥∞ =

max{15 , 1

10}= 15

• μη σύγκλιση 𝑀−1 = [−1 00 −1] , 𝑁 = [0 10

5 0 ] , 𝑀−𝑁 = [ 0 −10−5 0 ] ⟹ ∥𝑀−1𝑁∥∞ =

max {5, 10} = 10

Θα μάθουμε για τους διαγώνια δεσπόζοντες πίνακες, οι οποίοι συγκλίνουν πάντα:

Ορισμός 9.7: Διαγώνια Δεσπόζων/Διαγώνια Κυρίαρχος (Dominant) πίνακας

Σε κάθε γραμμή υπάρχει ένα στοιχείο που ανήκει στην κύρια διαγώνιο.Αν η απόλυτη τιμή αυτού του στοιχείου είναι μεγαλύτερη από το άθροισμα των απόλυτωντιμών των υπόλοιπων στοιχείων της γραμμής, τότε ο πίνακας λέγεται διαγώνια δεσπόζων.Δηλαδή πρέπει:

∣𝑎𝑖𝑖∣ >𝑛

∑𝑗=1𝑗≠𝑖

∣𝑎𝑖𝑗∣ 𝑖 = 1, 2,… , 𝑛

Αν ένας πίνακας 𝐴 είναι διαγώνια δεσπόζων, τότε η μέθοδος Jacobi συγκλίνει για το 𝐴𝑥 = 𝑏,επειδή:

∥𝑀−1𝑁∥ = ∥𝐷−1(𝐿 + 𝑈)∥∞= max

𝑖

𝑛∑𝑗=1𝑗≠𝑖

∣𝑎𝑖𝑗𝑎𝑖𝑖∣ < 1

9.5 Επαναληπτική μέθοδος Gauss-Seidel

Η επαναληπτική μέθοδος Gauss-Seidel λειτουργεί με βάση την Jacobi, αλλά με βελτιωμένο ρυθμόσύγκλισης.

𝑥(𝑘+1)𝑖 = 1


𝑖−1∑𝑗=1

𝑎𝑖𝑗𝑥(𝑘+1)𝑖 −

𝑛∑

𝑗=𝑖+1𝑎𝑖𝑗𝑥(𝑘)

𝑗⎞⎟⎠

𝐷𝑥(𝑘+1) = −𝑎𝑥(𝑘+1) − 𝑈𝑥(𝑘) + 𝑏(𝐷 + 𝐿)𝑥(𝑘+1) = −𝑈𝑥(𝑘) + 𝑏

𝑥(𝑘+1) = (𝐷 + 𝐿)−1𝑈𝑥(𝑘) + (𝐷 + 𝐿)−1𝑏

57

Έστω το σύστημα 𝐴𝑥 = 𝑏:Αν 𝐴 θετικά ορισμένος (𝑥≠0,𝑥T𝐴𝑥>0), η μέθοδος Gauss-Seidel συγκλίνει.

9.6 Μέθοδος SOR

Στον τύπο της μεθόδου Gauss-Seidel προσθαφαιρώ το 𝑥(𝑘)𝑖 :

𝑥(𝑘+1)𝑖 = 𝑥(𝑘)

𝑖 + 1𝑎𝑖𝑖

⎛⎜⎝𝑏𝑖 −

𝑖−1∑𝑗=1

𝑎𝑖𝑗𝑥(𝑘+1)𝑗 −

𝑛∑𝑗=𝑖

𝑎𝑖𝑗𝑥(𝑘)𝑗

⎞⎟⎠

𝑥(𝑘+1)𝑖 = 𝑥(𝑘)

𝑖 + 𝛿(𝑘)𝑖

Για πιο γρήγορη σύγκλιση, τοποθετώ ένα 𝜔 (συντελεστής υπερχαλάρωσης) στην παραπάνωσχέση:

𝑥(𝑘+1)𝑖 = 𝑥(𝑘)

𝑖 + 𝜔𝛿(𝑘)𝑖

Για αυτό η μέθοδος αυτή λέγεται και μέθοδος "Διαδοχικής Υπερχαλάρωσης":

𝑥(𝑘+1)𝑖 = 𝜔 1


𝑖−1∑𝑗=1


𝑛∑


𝑗⎞⎟⎠

+ (1 − 𝜔)𝑥(𝑘)𝑖

Αν ισχύουν οι συνθήκες:

(i) οι ιδιοτιμές −𝐷−1(𝐿 + 𝑈)⏟⏟⏟⏟⏟⏟⏟𝐽

είναι πραγματικές

(ii) Η φασματική ακτίνα (μέγιστη κατ' απόλυτη τιμή ιδιοτιμή) 0 < 𝜌(𝐽) < 1

Τότε η βέλτιστη τιμή του 𝜔 είναι:

𝜔 = 21 +√1 − 𝜌2(𝐽)


5𝑥1 − 𝑥2 = 3−𝑥1 + 10𝑥2 = 19

Λύση

𝐽 = [ 0 1/51/10 0 ]

𝑝(𝜆) = det(𝐽 − 𝜆𝐼) = 𝜆2 − 150

𝜆1,2 =± 15√2

𝜔 = 21+√1− 1

50≃ 1.005

𝑥(1) = [0.6031.969] ⋯ 𝑥(5) = [12]

58

9.7 Μέθοδος Doolittle-Crout

Θυμόμαστε την παραγοντοποίηση του 𝐴 σε 𝐿𝑈 :

𝐿𝑈 = 𝐴

⎡⎢⎣

𝑎11 𝑎12 𝑎13𝑎21 𝑎22 𝑎23𝑎31 𝑎32 𝑎33

⎤⎥⎦

= ⎡⎢⎣

𝑙11 0 0𝑙21 𝑙22 0𝑙31 𝑙32 𝑙33

⎤⎥⎦

⎡⎢⎣

𝑢11 𝑢12 𝑢130 𝑢22 𝑢230 0 𝑢33

⎤⎥⎦

Παρατηρούμε ότι, αν κάνουμε τις πράξεις, μία από τις εξισώσεις που θα προκύψουν είναι π.χ.(αν 𝑎11 = 4):

𝑙11𝑢11 = 4

που είναι μία μη γραμμική εξίσωση.Για να διευκολύνουμε τη λύση της, αυθαίρετα θεωρούμε 𝑙11 = 𝑙22 = 𝑙33 = 1. Αυτή είναι η ιδέα

των μεθόδων Doolittle - Crout.Για συστήματα 3x3:

𝑢11 = 𝑎11𝑢12 = 𝑎12𝑢13 = 𝑎13

𝑙21 = 𝑎21𝑢11

𝑙31 = 𝑎31𝑢11

𝑢22 = 𝑎22 − 𝑙21𝑢12𝑢23 = 𝑎23 − 𝑙21𝑢13

𝑙32 = 𝑎32 − 𝑙31𝑢12𝑢22

𝑢33 = 𝑎33 − 𝑙31𝑢13 − 𝑙32𝑢23

Γενικοί τύποι

𝑢𝑘𝑗 = 𝑎𝑘𝑗 −𝑘−1∑𝑠=1

𝑙𝑘𝑠𝑢𝑠𝑗 𝑗 = 𝑘, 𝑘 + 1,… , 𝑛

𝑙𝑖𝑘 =1

𝑢𝑘𝑘⎛⎜⎝𝑎𝑖𝑘 −

𝑘−1∑𝑠=1

𝑙𝑖𝑠𝑢𝑠𝑘⎞⎟⎠

𝑖 = 𝑘 + 1,… , 𝑛

9.8 Σφάλματα

𝐴𝑥 = 𝑏

𝑒↓

σφάλμα

=πραγματική λύση

↓𝑥 − 𝑥↓

προσέγγιση

59

𝑟↓

διαφορά

= 𝐴𝑥 − 𝐴 𝑥 = 𝑏 − 𝐴 𝑥

Θα ορίσουμε ένα μέγεθος που ονομάζεται Δείκτης κατάστασης, και δείχνει πόσο ευάλωτο είναιτο σύστημα με αλλαγές στο 𝑏.

Ορίζουμε:Διαφορά: 𝑟 = 𝐴𝑥 − 𝐴 𝑥 = 𝑏 − 𝐴 𝑥Έστω, για παράδειγμα, το σύστημα:

𝑥1 + 𝑥2 = 20.999𝑥1 + 𝑥2 = 1.999

με προφανή πραγματική λύση 𝑥 = [11]

Έστω ότι, αν το λύσουμε προσεγγιστικά, θα είχαμε μια προσέγγιση:

𝑥 = [20]

Τότε:

𝑟 = 𝐴𝑥 − 𝐴 𝑥 = [ 21.999] − [ 2

1.998] = [ 00.001] ‖𝑟‖∞ = 0.001

𝑒 = 𝑥 − 𝑥 = [11] − [20] = [−11 ] ‖𝑒‖∞ = 1

Δηλαδή το σφάλμα είναι 1000 φορές μεγαλύτερο από τη διαφορά.

9.8.1 Συμβατά μήκη

Ορισμός 9.8: Συμβατό μήκος

Ένα μήκος ‖ ‖𝑀 στον χώρο ℝ𝑚×𝑛 λέγεται συμβατό με ένα μήκος ‖ ‖𝜈 στον ℝ𝑛, αν για κάθεπίνακα 𝐴 ∈ ℝ𝑚×𝑛 και κάθε διάνυσμα 𝑥 ∈ ℝ𝑛 έχουμε:

‖𝐴𝑥‖𝜈 ≤ ‖𝐴‖𝑀‖𝑥‖𝜈

Το άπειρο μήκος είναι συμβατό, επειδή έχουμε δείξει ότι:

‖𝐴𝑥‖∞ ≤ ‖𝐴‖∞‖𝑥‖∞

9.8.2 Δείκτης κατάστασης

𝑥 = 𝐴−1(𝐴𝑥)‖𝑥‖ = ∥𝐴−1(𝐴𝑥)∥ ≤ ‖𝐴−1‖‖𝐴𝑥‖

‖𝑥‖‖𝐴−1‖ ≤ ‖𝐴𝑥‖ ≤ ‖𝐴‖‖𝑥‖

𝑟 = 𝐴(𝑥 − 𝑥) = 𝐴𝑒𝑒 = 𝐴−1𝑟

Μήκος ‖𝑒‖ = ‖𝐴−1‖𝑟 ≤ ‖𝐴−1‖‖𝑟‖

‖𝐴−1‖𝑟 ≥ ‖𝑟‖‖𝐴‖

‖𝑟‖‖𝐴‖ ≤ ‖𝑒‖ ≤ ‖𝐴−1‖‖𝑟‖

60

Δηλαδή φράξαμε το μέγεθος του σφάλματος σε σχέση με τη διαφορά. Θα συνεχίσουμε προσπαθώνταςνα φράξουμε το σχετικό σφάλμα σε σχέση με τη σχετική διαφορά.

‖𝑟‖‖𝐴‖‖𝑥‖ ≤ ‖𝑒‖

‖𝑥‖ ≤ ‖𝐴−1‖‖𝑟‖‖𝑥‖

‖𝑟‖‖𝐴‖ ∥𝐴−1𝑏∥ ≤ ‖𝑒‖

‖𝑥‖ ≤ ‖𝐴−1‖‖𝑟‖‖𝑥‖

Επειδή ‖𝐴−1𝑏‖ ≤ ‖𝐴−1‖‖𝑏‖ και ‖𝑏‖ = ‖𝐴𝑥‖ ≤ ‖𝐴‖‖𝑥‖ ⟹ 1‖𝑥‖ ≤ ‖𝐴‖

‖𝑏‖

1‖𝐴‖‖𝐴−1‖

‖𝑟‖‖𝑏‖⏟

σχετική διαφορά

≤ ‖𝑒‖‖𝑥‖⏟

σχετικό σφάλμα

≤ ‖𝐴−1‖‖𝐴‖‖𝑟‖‖𝑏‖

Παρατηρούμε ότι και στα δύο μέλη εμφανίζεται ο όρος ‖𝐴‖‖𝐴−1‖, που επηρεάζει το πόσο εύροςτιμών έχουμε για το σχετικό σφάλμα.

Επομένως:

Ορισμός 9.9: Δείκτης ευαισθησίας

Για έναν μη ιδιόμορφο πίνακα 𝐴 (δηλαδή πίνακα που έχει αντίστροφο), η ποσότητα:

𝜅(𝐴) = ∥𝐴−1∥ ‖𝐴‖

ονομάζεται δείκτης ευαισθησίας του 𝐴.

Έχουμε:

1 = ‖𝐼‖ = ∥𝐴−1𝐴∥ ≤ ‖𝐴−1‖‖𝐴‖

επομένως: 𝜅(𝐴) ≥ 1.Από την προτελευταία σχέση, συμπεραίνουμε πως μεγάλοι δείκτες ευαισθησίας σημαίνουν πολύ

μεγάλες αποκλίσεις μεταξύ διαφοράς και σφάλματος.

Ας βρούμε τον δείκτη κατάστασης στο προηγούμενο πρόβλημα:

𝐴 = [ 1 10.999 1] , 𝐴−1 = [1000 −1000

−999 1000 ]

𝜅(𝐴) = ‖𝐴−1‖∞‖𝐴‖∞ = 2 × 2000 = 4000

που είναι ένας πολύ μεγάλος δείκτης ευαισθησίας, άρα ακόμα και αν η διαφορά μεταξύ της προσεγ-γιστικής και της πραγματικής λύσης είναι μικρή, το σφάλμα μπορεί να είναι πολύ μεγάλο.

Αν έχουμε ένα σύστημα:

𝐴𝑥 = 𝑏

με μεγάλο δείκτη ευαισθησίας:

𝑘(𝐴) ⋙ 1

τότε μία μικρή αλλαγή στις παραμέτρους του συστήματος μπορεί να σημαίνει μεγάλη αλλαγή στιςρίζες του συστήματος. Αυτό είναι αντικείμενο του sensitivity analysis.

61

9.8.3 Βελτίωση Λύσεων

𝐴𝑥 = 𝑏𝑥 προσέγγιση

𝑟 = 𝑏 − 𝐴 𝑥𝐴 = 𝐿𝑈�� 𝑈 = 𝐴 + 𝜖(𝐴)�� 𝑈𝑒 = 𝑟𝑒 προσέγγιση

𝑥 = 𝑥 + 𝑒


Άσκηση Να παραγοντοποιηθεί ο πίνακας 𝐴 = ⎡⎢⎣

9 3 64 6 11 1 7

⎤⎥⎦

σε γινόμενο 𝐿𝑈 :

Λύση

𝐴 = ⎡⎢⎣

9 3 64 6 11 1 7

⎤⎥⎦

𝑅2=𝑅2− 49𝑅1

ÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→𝑅3=𝑅3− 1

9𝑅1

⎡⎢⎣

9 3 60 14/3 − 5/30 2/3 19/3

⎤⎥⎦

𝑅3=𝑅3− 17𝑅2

ÐÐÐÐÐÐÐÐÐÐÐÐÐÐ→ ⎡⎢⎣

9 3 60 14/3 − 5/30 0 46/7

⎤⎥⎦

= 𝑈

𝐿 =⎡⎢⎢⎣

1 0 04/9 1 01/9 1/7 1

⎤⎥⎥⎦

Άσκηση Να παραγοντοποιηθεί ο πίνακας 𝐴 = ⎡⎢⎣

1 2 44 5 67 8 9

⎤⎥⎦

σε μορφή 𝑃𝐴 = 𝐿𝑈 , όπου 𝑃 είναι ένας

πίνακας μετάθεσης (μεταθετικός πίνακας) με χρήση της απαλοιφής Gauss με μερική οδήγηση.

Αν δίνεται ότι 𝑏 = ⎡⎢⎣

123⎤⎥⎦, να λυθεί το σύστημα.

62

Λύση Σαν οδηγό διαλέγουμε στην πρώτη στήλη το μέγιστο κατ' απόλυτη τιμή στοιχείο (δηλαδήτο 7):

Πίνακας 𝐴 Πίνακας 𝑃 Πολλαπλασιαστές

⎡⎢⎣

1 2 44 5 67 8 9

⎤⎥⎦

𝐼 = ⎡⎢⎣

1 0 00 1 00 0 1

⎤⎥⎦

↓ ↓⎡⎢⎣

7 8 94 5 61 2 4

⎤⎥⎦

⎡⎢⎣

0 0 10 1 01 0 0

⎤⎥⎦

↓ ↓𝑅2=𝑅2− 4

7𝑅1𝑅3=𝑅3− 1

7𝑅1

⎡⎢⎢⎣

7 8 90 3/7 6/70 6/7 9/7

⎤⎥⎥⎦

⎡⎢⎣

0 0 10 1 01 0 0

⎤⎥⎦

𝑚21 = 47

𝑚31 = 17

↓ ↓οδηγός το 6/7

αντιμετάθεση γραμμών

⎡⎢⎣

7 8 90 6/7 9/70 3/7 6/7

⎤⎥⎦

⎡⎢⎣

0 0 11 0 00 1 0

⎤⎥⎦

↓ ↓𝑅3=𝑅3− 1

2𝑅2

⎡⎢⎣

7 8 90 6/7 19/20 0 −1/2

⎤⎥⎦

⎡⎢⎣

0 0 11 0 00 1 0

⎤⎥⎦

𝑚32 = 12

= =

𝑈 𝑃Άρα:

𝐿 = ⎡⎢⎣

1 0 01/7 1 04/7 1/2 1

⎤⎥⎦

Λύση συστήματος

𝑑 = 𝑃𝑏 = ⎡⎢⎣

312⎤⎥⎦

1.

𝐿𝑦 = 𝑑 ⟹ ⎡⎢⎣

1 0 01/7 1 04/7 1/2 1

⎤⎥⎦

⎡⎢⎣

𝑦1𝑦2𝑦3

⎤⎥⎦

= ⎡⎢⎣

312⎤⎥⎦

𝑦1 = 3, 𝑦2 = 47 , 𝑦3 = 0

2.

𝑈𝑥 = 𝑦 ⎡⎢⎣

7 8 90 6/7 19/70 0 − 1/2

⎤⎥⎦

⎡⎢⎣

𝑥1𝑥2𝑥3

⎤⎥⎦

= [3 4/7 0]

𝑥3 = 0, 𝑥2 = 2/3, 𝑥1 = − 1/3

63

Άσκηση Να λυθεί προσεγγιστικά με τη μέθοδο Jacobi το σύστημα:

4𝑥1 + 𝑥2 − 𝑥3 = 32𝑥1 + 7𝑥2 + 𝑥3 = 19

𝑥1 − 3𝑥2 + 12𝑥3 = 31

Λύση

𝐴𝑥 = 𝑏

⎡⎢⎣

4 1 −12 7 11 −3 12

⎤⎥⎦

που είναι διαγώνια δεσπόζων

𝑥(𝑘+1)1 = −1

4𝑥(𝑘)2 + 1

4𝑥(𝑘)3 + 3

4𝑥(𝑘+1)2 = −2/7𝑥(𝑘)

1 − 1/7𝑥(𝑘)3 + 19/7

𝑥(𝑘+1)3 = −1/12𝑥(𝑘)

1 + 1/4𝑥(𝑘)2 + 31

12Αφού ο 𝐴 είναι διαγώνια δεσπόζων, για οποιαδήποτε αρχική τιμή, η λύση θα συγκλίνει.Ξεκινάω από τη λύση 𝑥0

1, 𝑥(0)2 , 𝑥(0)

3 = 0:

𝑘 𝑥(𝑘)1 𝑥(𝑘)

2 𝑥(𝑘)3

0 0 0 01 0.75 2.71 2.582 0.72 2.13 3.203 1.02 2.05 3.064 1.00 1.99 3.015 1.01 2.00 3.00

Άσκηση Να λυθεί με τη μέθοδο Gauss - Seidel το σύστημα:

4𝑥1 + 𝑥2 − 𝑥3 = 32𝑥1 + 7𝑥2 + 𝑥3 = 19

𝑥1 − 3𝑥2 + 12𝑥3 = 31

Λύση

𝑥(𝑘+1)1 = −1

4𝑥(𝑘)2 + 1

4𝑥(𝑘)3 + 3

4𝑥(𝑘+1)2 = −2

7𝑥(𝑘+1)1 − 1

7𝑥(𝑘)3 + 19

7𝑥(𝑘+1)3 = − 1

12𝑥(𝑘+1)1 + 1

4𝑥(𝑘+1)2 + 31

12Ξεκινάμε από τη λύση: 𝑥(0)

1 = 0, 𝑥(0)2 = 0, 𝑥(0)

3 = 0


2 𝑥(𝑘)3

0 0 0 01 0.75 2.50 3.152 0.91 2.00 3.013 1.00 2.00 3.004 1.00 2.00 3.00

Παρατηρούμε δηλαδή ότι η μέθοδος Gauss-Seidel συγκλίνει πιο γρήγορα από την Jacobi.

64

Άσκηση Να επιλυθεί με τη μέθοδο διαδοχικής υπερχαλάρωσης (SOR) το σύστημα:

4𝑥1 + 𝑥2 = 11𝑥1 + 5𝑥2 = 17

Λύση 𝐴 = 𝐿+𝐷+ 𝑈 όπου:

(i) Οι ιδιοτιμές −𝐷−1(𝐿 + 𝑈) = 𝐽 να είναι πραγματικές

(ii) Η φασματική ακτίνα 0 < 𝑃(𝐽) < 1

𝜔 = 21 +√1 − 𝑃2(𝐽)

Άρα εμείς πρέπει να ελέγξουμε αν ισχύουν οι παραπάνω 2 ιδιότητες, να υπολογίσουμε το 𝜔, καινα εφαρμόσουμε την μέθοδο SOR.

Θυμόμαστε ότι για να αντιστρέψουμε έναν διαγώνιο πίνακα:

𝐷 = [4 00 5]

απλά αντιστρέφουμε τα στοιχεία της διαγωνίου του:

𝐷−1 = [1/4 00 1/5]

𝐽 = −𝐷−1(𝐿 + 𝑈) = −[−1/4 00 1/5]

⎛⎜⎝[0 01 0] + [0 1

0 0]⎞⎟⎠

= [ 0 1/4− 1/5 0 ]

με ιδιοτιμές 𝜆1,2 =±√ 120 .

𝜔 = 21+√1− 1

20= 1.013

Άρα:

𝑥1 = 14(11 − 𝑥2)

𝑥2 = 15(17 − 𝑥1)

𝑥(𝑘+1)1 = 𝜔

4 (11 − 𝑥(𝑘)2 ) + (1 − 𝜔)𝑥(𝑘)

1

𝑥(𝑘+1)2 = 𝜔

5 (17 − 𝑥(𝑘+1)1 ) + (1 − 𝜔)𝑥(𝑘)

2


20 0 01 2.78575 2.87989072 2.020227 2.9974653 2.000379 2.999956

65

Άσκηση Δίνεται ο 𝑛 × 𝑛 πίνακας:

𝐴𝑛 =⎡⎢⎢⎢⎢⎣

1 −1 −1 ⋯ −10 1 −1 ⋯ −1⋮ ⋮ ⋮ ⋱ ⋮0 0 ⋯ 1 −10 0 ⋯ 0 1

⎤⎥⎥⎥⎥⎦

Να αποδείξετε ότι 𝐴−1𝑛 είναι ο πίνακας [𝐴−1

𝑛 ]𝑖,𝑗 =⎧{{⎨{{⎩

2𝑗−𝑖−1, 𝑖 < 𝑗 ≤ 𝑛1, 𝑖 = 𝑗0, διαφορετικά

, και να υπολογιστεί

ο δείκτης ευαισθησίας του.

Λύση Μας ζητείται να αποδείξουμε ότι:

𝐴−1𝑛 =

⎡⎢⎢⎢⎢⎣

1 1 2 22 23 ⋯ 2𝑛−2

0 1 1 2 22 ⋯ 2𝑛−3

0 0 1 1 2 ⋯ 2𝑛−4

⋮ ⋮ ⋮ ⋮ ⋮ ⋱ ⋮⋮ ⋮ ⋮ ⋮ ⋮ ⋮ ⋮

⎤⎥⎥⎥⎥⎦

Αν κάνουμε τις πράξεις, θα δούμε ότι 𝐴𝑛𝐴−1𝑛 = 𝐼 . Εμείς ενδιαφερόμαστε για το 2ο μέρος της

άσκησης:

𝜅(𝐴𝑛) = ‖𝐴−1𝑛 ‖‖𝐴𝑛‖

Στον 𝐴−1, τα μεγαλύτερα στοιχεία βρίσκονται στην πρώτη γραμμή, άρα:

‖𝐴−1‖∞ = 1 + 1 + 2 + 22 +⋯+ 2𝑛−2 = 1 +𝑛−2∑0

2𝑖 = 2𝑛−1 − 11 + 1 = 2𝑛−1

‖𝐴𝑛‖∞ = 𝑛

Άρα

𝑘(𝐴𝑛) = ‖𝐴−1𝑛 ‖‖𝐴𝑛‖ = 𝑛2𝑛−1

Κεφάλαιο 11 Κανονικές Διαφορικές Εξισώσεις

Μία συνήθης ή κανονική ΔΕ περιέχει πλήρεις παραγώγους:

𝐹 (𝑥, 𝑦, 𝑦′,… , 𝑦(𝑘)) = 0

όπου 𝑦 = 𝑦(𝑥).Η γενική λύση μιας κανονικής διαφορικής εξίσωσης έχει τη μορφή:

𝑦 = 𝑓(𝑥, 𝑐1, 𝑐2,… , 𝑐𝑘)

Θα μάθουμε:

• Αριθμητικής μεθόδους

• Σφάλματα

• Συστήματα ΚΔΕ

66

Προβλήματα Αρχικών Τιμών Δεδομένης μιας ΚΔΕ (κανονικής διαφορικής εξίσωσης)

𝐹(𝑥, 𝑦, 𝑦′,… , 𝑦(𝑘)) = 0

θέλουμε μερική λύση που αντιστοιχεί τις αρχικές τιμές 𝑥 = 𝑎, 𝑦(𝑎) = 𝛽0, 𝑦′(𝑎) = 𝛽1,… , 𝑦(𝑘−1)(𝑎) =𝛽𝑛.

Για 𝑦′ = d𝑦d𝑥 = 𝑓(𝑥, 𝑦), βρίσκουμε πρώτα τιμή για 𝑦(𝑎) = 𝑦0 𝑎 ≤ 𝑥 ≤ 𝑏. Μία προσέγγιση για τη

λύση 𝑦(𝑥) της ΔΕ μπορούμε να την βρούμε με:

• Προσέγγιση 𝑦(𝑥) σε 𝑁 σημεία στο [𝑎, 𝑏], και στη συνέχεια

• Παρεμβολή

11.1 Μέθοδος Euler

Χωρίζουμε το (𝑎, 𝑏] σε 𝑁 τμήματα, και θεωρούμε

ℎ = 𝑏 − 𝑎𝑁 𝑥 = 𝑎 + 𝑖ℎ, 𝑖 = 0,… ,𝑁

Από το ανάπτυγμα Taylor

𝑦(𝑥𝑖+1) = 𝑦(𝑥𝑖) + (𝑥𝑖+1 − 𝑥𝑖)𝑓(𝑥𝑖,𝑦𝑖)⏞𝑦′(𝑥𝑖) + (𝑥𝑖+1 − 𝑥𝑖)2

2⏟⏟⏟⏟⏟σφάλμα (Taylor)

𝑦″(𝜉𝑖)

για 𝑥𝑖 < 𝜉𝑖 < 𝑥𝑖+1Επομένως η μέθοδος Euler αναπτύσσεται ως εξής:

1. 𝑦0 = 𝑦(𝑥0)2. 𝑦𝑖+1 = 𝑦𝑖 + ℎ𝑓(𝑥𝑖, 𝑦𝑖)

Παράδειγμαd𝑦d𝑥 =

𝑓(𝑥𝑖,𝑦𝑖)⏞⏞⏞⏞⏞−𝑦 + 𝑥 + 1

𝑦(0) = 1 𝑥𝑖 = 0.1𝑖Λύνουμε για 0 ≤ 𝑥 ≤ 1 και 𝑁 = 10 τμήματα.Η μέθοδος Euler εφαρμόζεται ως εξής:

𝑦0 = 𝑦(0) = 1𝑦𝑖+1 = 𝑦𝑖 + ℎ(−𝑦𝑖 + 𝑥𝑖 + 1)𝑦𝑖+1 = 0.9𝑦𝑖 + 0.01𝑖 + 0.1

𝑖 𝑥𝑖 𝑦𝑖 𝑦(𝑥𝑖) (πραγμ.)0 0 1 11 0.1 1 1.0042 0.2 1.01 1.0183 0.3 1.029 1.040⋮ ⋮ ⋮ ⋮9 0.9 1.287 1.30610 1.0 1.347 1.367

Η μέθοδος Euler είναι πολύ απλή, αλλά παρατηρούμε πως έχει αρκετά μεγάλο σφάλμα.

67

11.2 Σφάλματα

Ορισμός 11.1: Τάξη μεθόδου

Μία μέθοδος προσέγγισης είναι τάξης n, εάν υπάρχει σταθερά 𝑀 ανεξάρτητη από το βήμα,τέτοια ώστε:

∣𝑦(𝑥𝑖) − 𝑦𝑖∣ < 𝑀ℎ𝑛

όπου ℎ= 𝑏−𝑎𝑁 και 𝑦𝑖 η προσέγγιση της πραγματικής 𝑦(𝑥𝑖).

Επειδή συνήθως ℎ < 1, γενικά μιλώντας, όσο μεγαλύτερο το 𝑛, είναι πιο ακριβής και η μέθοδος.

• Η μέθοδος Euler είναι 1ης τάξης.

11.3 Μέθοδος βελτιωμένου Euler

Κανονικά:

𝑦𝑖+1 = 𝑦𝑖 + ℎ𝑓(𝑥𝑖, 𝑦𝑖)Μπορούμε να θεωρήσουμε ένα επόμενο σημείο για το 𝑓(𝑥𝑖, 𝑦𝑖):

𝑘0 = ℎ𝑓(𝑥𝑖, 𝑦𝑖)𝑘1 = ℎ𝑓(𝑥𝑖 + ℎ, 𝑦𝑖 + 𝑘0)

Επομένως η μέθοδος είναι:

𝑘0 = 𝑓(𝑥𝑖, 𝑦𝑖)𝑘1 = 𝑓(𝑥𝑖 + ℎ, 𝑦𝑖 + 𝑘0)

𝑦𝑖+1 = 𝑦𝑖 +ℎ(𝑘0+𝑘12 )

11.4 Μέθοδος Μέσου Σημείου

𝑘0 = 𝑓(𝑥𝑖, 𝑦𝑖)𝑘1 = 𝑓(𝑥𝑖 + ℎ/2, 𝑦𝑖 + 1

2𝑘0)𝑦𝑖+1 = 𝑦𝑖 + 𝑘1

11.5 Μέθοδοι Runge-Kutta

Οι γενικές μέθοδοι Runge-Kutta είναι:

𝑦𝑖+1 = 𝑦𝑖 +𝑟−1∑𝑖=0

𝑤𝑖𝑘𝑖𝑟−1∑𝑖=0

𝑤𝑖 = 1

όπου 𝑤𝑖 βάρη που επιλέγουμε.Εμείς θα ασχοληθούμε με τη μέθοδο Runge-Kutta 4ης τάξης (κλασική/κανονική):

𝑘0 = ℎ𝑓(𝑥𝑖, 𝑦𝑖)𝑘1 = ℎ𝑓(𝑥𝑖 + 1

2ℎ, 𝑦𝑖 + 12𝑘0)

𝑘2 = ℎ𝑓(𝑥𝑖 + 12ℎ, 𝑦𝑖 + 1

2𝑘1)𝑘3 = ℎ𝑓(𝑥𝑖 + ℎ, 𝑦𝑖 + 𝑘2)

𝑦𝑖+1 = 𝑦𝑖 +16 (𝑘0 + 2𝑘1 + 2𝑘2 + 𝑘3)

68

Παράδειγμα Να λυθεί το πρόβλημα αρχικών τιμώνd𝑦d𝑥 = −𝑦 + 𝑥 + 1, 0 ≤ 𝑥 ≤ 1, 𝑦(0) = 1 με

βελτιωμένη μέθοδο Euler.

Λύση Παρατηρούμε ότι:

𝑓(𝑥, 𝑦) = −𝑦 + 𝑥 + 1

Λύση με μέθοδο βελτιωμένου Euler Έχουμε:

𝑦𝑖+1 = 𝑦𝑖 +ℎ2 (𝑘0 + 𝑘1)

= 𝑦𝑖 +ℎ2 (𝑓(𝑥𝑖, 𝑦𝑖) + 𝑓 (𝑥𝑖 + ℎ, 𝑦𝑖 + ℎ𝑓(𝑥𝑖, 𝑦𝑖)))

= 𝑦𝑖 +ℎ2 (−𝑦𝑖 + 𝑥𝑖 + 1 + 𝑥𝑖 + ℎ + 1 − (𝑦𝑖 + ℎ(−𝑦𝑖 + 𝑥𝑖 + 1)))

= 𝑦𝑖 (1 − ℎ + ℎ2

2 ) + ℎ2 [(2 − ℎ)𝑥𝑖 + 2]

Λύση με μέθοδο μέσου σημείου

𝑦𝑖+1 = 𝑦𝑖 + 𝑘1 = 𝑦𝑖 + ℎ𝑓 (𝑥𝑖 +ℎ2 , 𝑦𝑖 +

ℎ2𝑓(𝑥𝑖, 𝑦𝑖))

= 𝑦𝑖 + ℎ(−𝑦𝑖 −ℎ2𝑓(𝑥𝑖, 𝑦𝑖) + 𝑥𝑖 +

ℎ2 + 1)

= 𝑦𝑖 + ℎ(−𝑦𝑖 +ℎ2 (−𝑦𝑖 + 𝑥𝑖 + 1) + 𝑥𝑖 +

ℎ2 + 1)

= 𝑦𝑖 (1 − ℎ + ℎ2

2 ) + ℎ2 [(2 − ℎ)𝑥𝑖 + 2]

Παρατηρούμε ότι χρησιμοποιώντας τις μεθόδους βελτιωμένου Euler και Μέσου Σημείου καταλή-γουμε στο ίδιο αποτέλεσμα. Αυτό θα ισχύει γενικά για σχέσεις γραμμικές στα 𝑥 και 𝑦.

Λύση προβλήματος Για 𝑁 = 10 ℎ = 𝑏−𝑎𝑁 = 1−0

10 = 0.1, εφαρμόζουμε τους παραπάνω τύπουςκαι έχουμε:

𝑥𝑖 = 𝑎↓0+ ℎ𝑖 = 0.1𝑖

𝑦𝑖+1 = 0.9059𝑦𝑖 + 0.0095𝑖 + 0.1

Παράδειγμα Να βρεθεί η λύση της εξίσωσης 𝑦′ =𝑓

⏞𝑥3 + 𝑦 (με 𝑦(0) = 2) με τη μέθοδο Runge-Kuttaγια τις τιμές 𝑦(0.2), 𝑦(0.4), 𝑦(0.6).

Λύση Επιλέγω βήμα ℎ = 0.2.

69

Για 𝑖 = 0 𝑥0 = 0, 𝑦0 = 2

𝑘0 = ℎ𝑓(𝑥0, 𝑦0) = 0.2𝑓(0, 2) = 0.2 ⋅ 2 = 0.4

𝑘1 = 0.2𝑓 (0 + 0.22 , 2 + 1

2 ⋅ 0.4) = 0.2𝑓(0.1, 2.2) = 0.2 ⋅ 2.201 = 0.4402

𝑘2 = 0.2𝑓(0.1, 2 + 0.44022 ) = 0.44422

𝑘3 = 0.2𝑓(0.2, 2 + 0.44422) = 0.490444

𝑦1 = 𝑦(0.2) = 𝑦0 + 16(0.4 + 2 ⋅ 0.4402 + 2 ⋅ 0.4422 + 0.49044) = 2.443214

Για 𝑖 = 1 𝑥1 = 0.2, 𝑦1 = 2.443214

𝑘0 = ℎ𝑓(𝑥1, 𝑦1) = 0.2𝑓(0.2, 2.443214) = 0.490243

𝑘1 = 0.2𝑓 (0.2 + 0.22 , 2.443214 + 1

2 ⋅ 0.490249) = 0.543067

𝑘2 = 0.2𝑓(0.3, 2.443214 + 12 ⋅ 0.543067) = 0.548350

𝑘3 = 0.2𝑓(0.4, 2.443214 + 0.545350) = 0.611113

𝑦2 = 2.443214 + 16(0.490243 + 2 ⋅ 0.543067 + 2 ⋅ 0.548350 + 0.611113) = 2.990579

Για 𝑖 = 2 εργαζόμαστε αναλόγως.

11.6 Μέθοδοι Πολλαπλού Βήματος

Στις προηγούμενες μεθόδους, το 𝑦𝑖+1 βασιζόταν μόνο στην προηγούμενη τιμή 𝑦𝑖. Στις πολυβημα-τικές μεθόδους, θα εκμεταλλευόμαστε και τις τιμές 𝑦𝑖−1, 𝑦𝑖−2,….

Χωρίζονται σε:

• Μεθόδους πρόβλεψης (𝑦𝑛 εκφράζεται ως προς 𝑦𝑛−1, 𝑦𝑛−2,…) και

• Μεθόδους διόρθωσης (𝑦𝑛 εκφράζεται ως προς 𝑦𝑛, 𝑦𝑛−1,…)

που συχνά χρησιμοποιούνται συμπληρωματικά.Χρησιμεύουν σε:

• Εύρεση πολυωνύμου παρεμβολής 𝑓(𝑥, 𝑦) για τα σημεία (𝑥𝑖, 𝑦𝑖), (𝑥𝑖−1, 𝑦𝑖−1), … , (𝑥𝑖−𝑙, 𝑦𝑖−𝑙)

• Ολοκλήρωση

𝑦𝑖+1 = 𝑦𝑖−𝑚 +∫𝑥𝑖+𝑚

𝑥𝑖−𝑚

𝑝(𝑥) d𝑥

70

𝑦𝑖+1 = 𝑦𝑖 + ℎ𝑖+1∑𝑘=1

𝑐𝑘𝑓𝑘↓

𝑓(𝑥𝑘,𝑦𝑘)

𝑐𝑘 = (−1)𝑖+𝑘−1𝑓𝑘(𝑘 − 1)! (𝑖 + 1 − 𝑘) ∫

𝑖+1

𝑖

𝑖+1∏𝑗=1𝑗≠𝑘

(𝑥 − 𝑗) d𝑥

𝑖 = 2

𝑦𝑛+1 = 𝑦𝑛 + ℎ12 (5𝑓𝑛+1 + 8𝑓𝑛 − 𝑓𝑛−1) −

ℎ4

24 𝑦(4)

𝑖 = 3

𝑦𝑛+1 = 𝑦𝑛 + ℎ24 (9𝑓𝑛+1 + 19𝑓𝑛 − 5𝑓𝑛−1 + 𝑓𝑛−2) −

19ℎ5

720 𝑦(5)

Και επιπλέον υπάρχουν τρεις τύποι πρόβλεψης.Όλοι αυτοί οι τύποι ονομάζονται τύποι Adams. Χρησιμοποιώντας αυτούς τους τύπους, μπο-

ρούμε να εφαρμόσουμε τη μέθοδο πρόβλεψης-διόρθωσης:

• ΠΡΟΒΛΕΠΩ το 𝑦(0)𝑛+1 από τα 𝑦𝑛, 𝑦𝑛−1,… , 𝑦𝑛−𝑖

• ΔΙΟΡΘΩΝΩ το 𝑦(𝑡)𝑛+1 από τα 𝑦(𝑡)𝑛+1, 𝑦𝑛, 𝑦𝑛−1,… 𝑦𝑛−𝑖

Τύποι Bashforth-Moulton

𝑦(0)𝑛+1 = 𝑦𝑛 + ℎ24 (55𝑓𝑛 − 59𝑓𝑛−1 + 37𝑓𝑛−2 − 9𝑓𝑛−3)

𝑦(1)𝑛+1 = 𝑦𝑛 + ℎ24 (9𝑓 (0)

𝑛+1 + 19𝑓𝑛 − 5𝑓𝑛−1 + 𝑓𝑛−2)

Άσκηση Να λυθεί η εξίσωση

𝑦′ = −𝑦 + 𝑥 + 1

για 0 ≤ 𝑥 ≤ 1 με αρχική τιμή 𝑦(0) = 1 με βήμα ℎ = 0.1 με τύπους Adams 4ης τάξης.

Λύση

𝑦𝑛+1 = 124(18.5𝑦𝑛 + 5.9𝑦𝑛−1 − 3.7𝑦𝑛−2 + 0.9𝑦𝑛−3 + 0.24𝑛 + 2.52)

11.7 Συστήματα κανονικών διαφορικών εξισώσεων

𝑦′1(𝑥) = 𝑓1(𝑥, 𝑦1, 𝑦2,… , 𝑦𝑛), 𝑦1(𝑥0) = 𝑦1,0𝑦′2(𝑥) = 𝑓2(𝑥, 𝑦1, 𝑦2,… , 𝑦𝑛), 𝑦2(𝑥0) = 𝑦2,0

⋮ ⋮ ⋮𝑦′𝑛(𝑥) = 𝑓𝑛(𝑥, 𝑦1, 𝑦2,… , 𝑦𝑛), 𝑦𝑛(𝑥0) = 𝑦𝑛,0

71

Εφαρμόζοντας Euler αναδρομικά, προκύπτει όπως και προηγουμένως:

𝑦𝑖, 𝑗+1 = 𝑦𝑖,𝑗 + ℎ𝑓𝑖(𝑥𝑗, 𝑦1,𝑗, 𝑦2,𝑗, … , 𝑦𝑛,𝑗)

𝑦(𝑥) =⎡⎢⎢⎢⎣

𝑦1(𝑥)𝑦2(𝑥)

⋮𝑦𝑛(𝑥)

⎤⎥⎥⎥⎦

𝑓(𝑥, 𝑦) =⎡⎢⎢⎢⎣

𝑓1(𝑥, 𝑦)𝑓2(𝑥, 𝑦)

⋮𝑓𝑛(𝑥, 𝑦)

⎤⎥⎥⎥⎦

𝑦𝑗+1 = 𝑦𝑗 + ℎ𝑓(𝑥, 𝑦𝑗) όπου 𝑦𝑗 =⎡⎢⎢⎢⎣

𝑦1,𝑗𝑦2,𝑗⋮

𝑦𝑛,𝑗

⎤⎥⎥⎥⎦

11.7.1 Μετατροπή ΔΕ n-οστής τάξης σε σύστημα

Για μία ΔΕ της μορφής:

𝑦(𝑛)(𝑥) = 𝑓 (𝑥, 𝑦, 𝑦″,… , 𝑦(𝑛−1))𝑦(𝑥0) = 𝛽0, 𝑦′(𝑥0) = 𝛽1, … , 𝑦(𝑛−1)(𝑥0) = 𝛽𝑛−1

μπορούμε να θέσουμε:

𝑧1 = 𝑦𝑧2 = 𝑦′

⋮𝑧𝑛 = 𝑦(𝑛−1)

και να έχουμε τις εξισώσεις:

𝑧′1 = 𝑧2𝑧′2 = 𝑧3

⋮𝑧′𝑛−1 = 𝑧𝑛

𝑧′𝑛 = 𝑓(𝑥, 𝑧1, 𝑧2,… , 𝑧𝑛)

με αρχικές τιμές:

𝑧1(𝑥0) = 𝛽0𝑧2(𝑥0) = 𝛽1

⋮𝑧𝑛(𝑥0) = 𝛽𝑛−1

Άσκηση Να λυθεί το σύστημα κανονικών διαφορικών εξισώσεων:

𝑦′1 = 2𝑦1 + 𝑦2𝑦′2 = 3𝑦1 + 4𝑦2

για 0 ≤ 𝑥 ≤ 5 με 𝑦1(0) = 0, 𝑦2(0) = 1 με τη μέθοδο βελτιωμένου Euler και ℎ = 0.1.

72

Λύση

𝑘0 = ℎ𝑓(𝑥𝑖, 𝑦𝑖) = 0.1[ 2𝑦1𝑖 + 𝑦2𝑖3𝑦1𝑖 + 4𝑦2𝑖

]

𝑘1 = ℎ𝑓(𝑥𝑖 + ℎ, 𝑦𝑖 + 𝑘0)

𝑦𝑖 + 𝑘0 = [𝑦1𝑖𝑦2𝑖] + 0.1[ 2𝑦1𝑖 + 𝑦2𝑖

3𝑦1𝑖 + 4𝑦2𝑖] = [1.2𝑦1𝑖 + 0.1𝑦2𝑖

0.3𝑦1𝑖 + 1.4𝑦2𝑖]

Άρα 𝑓1(𝑥𝑖 + ℎ, 𝑦𝑖 + 𝑘0) = 2(1.2𝑦1𝑖 + 0.1𝑦2𝑖) + (0.3𝑦1𝑖 + 1.4𝑦2𝑖) = 2.7𝑦1𝑖 + 1.6𝑦2𝑖𝑓2(𝑥𝑖 + ℎ, 𝑦𝑖 + 𝑘0) = 3(1.2𝑦1𝑖 + 0.1𝑦2𝑖) + 4(0.3𝑦1𝑖 + 1.4𝑦2𝑖) = 4.8𝑦1𝑖 + 5.9𝑦2𝑖

Έχουμε:

𝑦𝑖+1 = 𝑦𝑖 +12(𝑘0 + 𝑘1)

𝑦𝑖+1 = 𝑦𝑖 +0.12 [4.7𝑦1𝑖 + 2.6𝑦2𝑖

7.8𝑦1𝑖 + 9.9𝑦2𝑖] = [1.235𝑦1𝑖 + 0.13𝑦2𝑖

0.39𝑦1𝑖 + 1.495𝑦2𝑖]

Χρησιμοποιώντας την παραπάνω αναδρομική σχέση, μπορούμε να υπολογίσουμε τις λύσεις τουσυστήματος:

𝑖 𝑥𝑖 𝑦1𝑖 𝑦2𝑖0 0.0 0.000 1.0001 0.1 0.130 1.4952 0.2 0.355 2.2863 0.3 0.735 3.5554 0.4 1.370 5.6015 0.5 2.420 8.907

Προσοχή ότι το 𝑦𝑖+1 σε σχέση με το 𝑦𝑖 δεν είναι μία καλύτερη προσέγγιση, αλλά η επόμενη τιμή τηςσυνάρτησης!

Κεφάλαιο 10 Γραμμικός ΠρογραμματισμόςΒελτιστοποίηση

Το πρόβλημα της βελτιστοποίησης αφορά την ελαχιστοποίηση/μεγιστοποίηση κάποιας συνάρτη-σης υπό κάποιους περιορισμούς.

Παράδειγμα Ένα εργοστάσιο παράγει δύο προϊόντα (1 και 2) χρησιμοποιώντας τις πρώτες ύλες Ακαι Β. Επιθυμεί να μεγιστοποιήσει το κέρδος, λαμβάνοντας υπόψιν τους περιορισμούς που προκύ-πτουν από τη ζήτηση και τη διαθεσιμότητα των πρώτων υλών.

ΠροϊόνταΠρώτες Ύλες 1 2 Διαθεσιμότητα

Α 1 2 15Β 2 1 18

Κέρδος 4 3

Ζήτηση1 82 6

Έστω

𝑥𝑖 ∶ παράγω προϊόν 𝑖 (𝑖 = 1, 2)

Αν 𝑧 είναι το κέρδος, θέλω να το μεγιστοποιήσω στα όρια της ζήτησης:

max 𝑧 = 4𝑥1 + 3𝑥2

73

so that (s.t.)

𝑥1 ≤ 8𝑥2 ≤ 6

𝑥1 + 2𝑥2 ≤ 152𝑥1 + 𝑥2 ≤ 18

𝑥1𝑥2 ≥ 0

ℝ2 γραφική επίλυση

𝑥1

𝑥2

6

8

𝑥1 + 2𝑥2 = 15

2𝑥1 +

𝑥2 =

18

Παρατηρούμε ότι η βέλτιστη λύση βρίσκεται σε ακραίο σημείο.


max 2𝑥1 + 2𝑥2𝑥2 ≤ 2𝑥1 + 𝑥2 ≤ 42𝑥1 + 𝑥2 ≤ 𝜆𝑥1, 𝑥2 ≥ 0

Αν κάνουμε τη γραφική παράσταση, παρατηρούμε πως έχουμε άπειρες βέλτιστες λύσεις. Παρ'όλα αυτά, το ακραίο σημείο πάλι συνιστά μία βέλτιστη λύση.


max 10𝑥1 + 18𝑥2s.t 𝑥1 + 𝑥2 ≤ 1

𝑥1 ≥ 2 𝑥1, 𝑥2 ≥ 0

Το παραπάνω πρόβλημα έχει κενό σύνολο βέλτιστων λύσεων.


max 𝑥1 + 𝑥2𝑥1 − 𝑥2 ≤ 1𝑥1, 𝑥2 ≥ 0

74

𝑥1 ≥ 0

𝑥1

𝑥2

𝑥 1− 𝑥

2= 1

Σε αυτήν την περίπτωση έχουμε μη φραγμένο σύνολο (κάτι που δηλώνει ότι έχουμε κάνει λάθοςκαι δεν λάβαμε υπόψιν κάποιον περιορισμό).

10.1 Αλγόριθμος Simplex

Ο αλγόριθμος Simplex προσφέρει λύσεις σε προβλήματα γραμμικού προγραμματισμού.

Παράδειγμα Μετά από τη μοντελοποίηση, έχουμε το πρόβλημα:

max 𝑧 = 3𝑥1 + 5𝑥2s.t 𝑥1 ≤ 42𝑥2 ≤ 12

3𝑥1 + 2𝑥2 ≤ 18𝑥1, 𝑥2 ≥ 0

Πρώτα, βάζω τεχνικές μεταβλητές, και φέρνω το πρόβλημα στη μορφή:

max 𝑧 = 3𝑥1 + 5𝑥2s.t 𝑥1 + 𝑥3 = 4

2𝑥2 + 𝑥4 = 123𝑥1 + 2𝑥2 + 𝑥5 = 18

𝑥1, 𝑥2, 𝑥3, 𝑥4, 𝑥5 ≥ 0

και τοποθετούμε τις μεταβλητές σε έναν πίνακα:

Βασικές μεταβλητές 𝑧 𝑥1 𝑥2 𝑥3 𝑥4 𝑥5 Δεξί μέλος1 −3 −5 0 0 0 0

𝑥3 0 1 0 1 0 0 4𝑥4 0 0 2 0 1 0 12𝑥5 0 3 2 0 0 1 18

Θεωρούμε ότι οι μη βασικές μεταβλητές (𝑥1, 𝑥2) έχουν τιμή 0. Τότε το δεξί μέλος του πίνακα είναιίσο με την αντίστοιχη βασική μεταβλητή.

Έχουμε αρχικοποιήσει το πρόβλημα, και τώρα πρέπει κάποιες μη βασικές μεταβλητές να τιςκάνουμε βασικές, ώστε να αποκτήσουν τιμή που θα μεγιστοποιήσει την αντικειμενική συνάρτηση(𝑧 = 3𝑥1 +5𝑥2). Για αυτό θα χρησιμοποιήσουμε το Κριτήριο Βελτιστότητας, σύμφωνα με το οποίοπρέπει οι συντελεστές της αντικειμενικής συνάρτησης στον πίνακα να είναι θετικοί.

Επανάληψη 1 Επιλέγω τη μη βασική μεταβλητή με τον μεγαλύτερο συντελεστή στην αντικει-μενική συνάρτηση (𝑥2 - αφού αυξάνει με μεγαλύτερο ρυθμό το 𝑧) για να την ανταλλάξω με μιαβασική.

75

Για να βρω με ποιά βασική μεταβλητή θα την ανταλλάξω, ψάχνω τον ελάχιστο λόγο δεξί μέλοςσυντελεστής του 𝑥2

.Από τον πίνακα φαίνεται:

Για το 𝑥4: 12/2 = 6Για το 𝑥5: 18/2 = 9

Για την εναλλαγή πραγματοποιούμε γραμμοπράξεις στο ταμπλό Simplex και έχουμε:

Β.Μ. 𝑧 𝑥1 𝑥2 𝑥3 𝑥4 𝑥5 Δεξί μέλος1 −3 0 0 5/2 0 30

𝑥3 0 1 0 1 0 0 4𝑥2 0 0 1 0 1/2 0 6𝑥5 0 3 0 0 −1 1 6

Επανάληψη 2 Επιλέγω την 𝑥1 για να ανταλλάξω με μια βασική μεταβλητή.

Για το 𝑥3: 4/1 = 4Για το 𝑥5: 6/3 = 3

και πραγματοποιώ γραμμοπράξεις ώστε να έχω μηδενικά:

Β.Μ. 𝑧 𝑥1 𝑥2 𝑥3 𝑥4 𝑥5 Δεξί μέλος1 0 0 0 0 3/2 36

𝑥1 0 0 0 1 1/3 −1/3 2𝑥2 0 0 1 0 1/2 0 6𝑥5 0 3 0 0 −1/3 1/3 2

Παρατηρούμε ότι ικανοποιείται το κριτήριο βελτιστότητας (οι συντελεστές της αντικειμενικήςεξίσωσης είναι θετικοί), άρα έχουμε βρει τη βέλτιστη λύση, που προκύπτει από τη στήλη του δεξιούμέλους:

𝑥1 = 2𝑥2 = 6𝑧 = 36

76

Κεφάλαιο 12 Ποιες σχέσεις θα δίνονται;

Όπως παρουσιάστηκαν στο ακαδημαϊκό έτος 2016-17.

Οι τύποι δίνονται με κάθε επιφύλαξη.

Στα θέματα θα υπάρχουν όσοι τύποι χρειάζονται για να λυθεί η κάθε άσκηση.

Συνοπτικά

Τα κεφάλαια όπως υπάρχουν στο βιβλίο του κ. Πιτσούλη (Εισαγωγή στην Αριθμητική Ανάλυση,2η έκδοση):

Κεφάλαιο 2: Δεν δίνονται οι τύποιΘα πρέπει να γνωρίζουμε απόλυτο & σχετικό σφάλμα, σελ. 21

Κεφάλαιο 3: Δεν δίνονται οι τύποι

Κεφάλαιο 4: Ορισμός 4.6 (1η και 𝑘-οστή διηρημένη διαφορά)

Δεν θα δίνεται ο τύπος πολυωνύμου (κάτω, σελ. 76)Πρόταση 4.1Πρόταση 4.2(4.19)

Κεφάλαιο 5: Δεν δίνονται οι τύποιΔεν θα δίνεται (αλλά θα πρέπει να θυμόμαστε) (5.13)

Κεφάλαιο 6: Γενικά, δίνονται οι τύποι για 𝐼 , 𝐸, αλλάδεν δίνονται οι τύποι για |𝐸|(6.2)(6.3)Δεν θα δίνεται (6.4)(6.6)(6.7)Δεν θα δίνεται (6.8)(6.9)(6.10)(6.11)(6.12)Δεν θα δίνεται (6.13)(6.14)(6.15)(6.16)(6.17)(6.18)(6.19)(6.20)(6.21)

77


Κεφάλαιο 8: (8.8)

Κεφάλαιο 9: (9.17)(9.24)(9.26)(9.27)(9.34)(9.35)(9.36)(9.37)(9.40)(9.41)(9.42)


Κεφάλαιο 11: Μέθοδος Euler σελ. 323 (𝑦0 = 𝑦(𝑥0), 𝑦𝑖+1 = 𝑦𝑖 + ℎ𝑓(𝑥𝑖, 𝑦𝑖))(11.6)(11.7)(11.8)(11.9)(11.10)(11.11)(11.23)(11.24)(11.25)(11.26)(11.27)(11.33)(11.34)(11.35)(11.36)(11.37)(11.38)(11.39)

78

Αναλυτικά

Κεφάλαιο 2

Κεφάλαιο 2 σελ. 3–27

Δεν δίνονται οι τύποι.

Σφάλματα σελ. 21

Δεν δίνονται:Απόλυτο Σφάλμα = ∣𝑥𝑡 − 𝑥𝑐∣

Σχετικό Σφάλμα = ∣𝑥𝑡 − 𝑥𝑐∣∣𝑥𝑡∣

Κεφάλαιο 3



Κεφάλαιο 4

Ορισμός 4.6 σελ. 75,76

1η διηρημένη διαφορά:

𝑓 [𝑥𝑖, 𝑥𝑖+1] =𝑓(𝑥𝑖+1) − 𝑓(𝑥𝑖)

𝑥𝑖+1 − 𝑥𝑖𝑘-οστή διηρημένη διαφορά:

𝑓 [𝑥𝑖, 𝑥𝑖+1,… , 𝑥𝑖+𝑘] =𝑓 [𝑥𝑖+1, 𝑥𝑖+2,… , 𝑥𝑖+𝑘] − [𝑥𝑖, 𝑥𝑖+1,… , 𝑥𝑖+𝑘−1]

𝑥𝑖+𝑘 − 𝑥𝑖

Τύπος παρεμβολής πολυωνύμου σελ. 76

Δεν θα δίνεται:𝑝𝑘(𝑥) = 𝑓(𝑥0) + 𝑓 [𝑥0, 𝑥1] (𝑥 − 𝑥0) + 𝑓 [𝑥0, 𝑥1, 𝑥2] (𝑥 − 𝑥0)(𝑥 − 𝑥1) + …

⋯+ 𝑓 [𝑥0, 𝑥1,… , 𝑥𝑘] (𝑥 − 𝑥0)(𝑥 − 𝑥1)⋯ (𝑥 − 𝑥𝑘−1)

Πρόταση 4.1 σελ. 79

𝑓 [𝑥𝑖, 𝑥𝑖+1,… , 𝑥𝑖+𝑘] =Δ𝑘𝑓(𝑥𝑖)𝑘! ℎ𝑘

Πρόταση 4.2 σελ. 80

𝑝𝑛(𝑥0 + 𝑟ℎ) =𝑛∑𝑖=0

(𝑟𝑖)Δ𝑖𝑓(𝑥0)

(4.19) σελ. 84

𝐴𝑘,𝑟 = (𝑥𝑘−1 − 𝑥)𝐴𝑘−1, 𝑟 − (𝑥𝑟 − 𝑥)𝐴𝑘−1, 𝑘−1𝑥𝑘−1 − 𝑥𝑟

79

Κεφάλαιο 5



(5.13) σελ. 101

Δεν θα δίνεται:ATAx = ATb

Κεφάλαιο 6

Θα δίνονται οι τύποι για τα ολοκληρώματα 𝐼 και τα σφάλματα 𝐸, αλλά δεν θα δίνονται οι τύποιγια τα απόλυτα σφάλματα |𝐸|:

(6.2) Κανόνας Παρ/μου σελ. 114

𝐼R = 𝑓(𝑎)(𝛽 − 𝑎)


𝐸R = (𝛽 − 𝑎)22 𝑓′(𝑧)


Δεν θα δίνεται:∣𝐸R∣ ≤ (𝛽 − 𝑎)2

2 max𝑎<𝑧<𝛽

∣𝑓′(𝑧)∣

(6.6) Σύνθετος Κ. Παρ/μου σελ. 116

𝐼R,𝑁 = ℎ𝑁−1∑𝑖=0

𝑓(𝑥𝑖)


𝐸R,𝑁 = ℎ2 (𝛽 − 𝑎)𝑓′(𝑧)


Δεν θα δίνεται:

∣𝐸R,𝑁∣ ≤ ℎ2 (𝛽 − 𝑎) max

𝑎<𝑧<𝛽∣𝑓′(𝑧)∣

(6.9) Κανόνας Τραπεζίου σελ. 118

𝐼T = 𝛽 − 𝑎2 (𝑓(𝑎) + 𝑓(𝛽))

(6.10) Κανόνας Τραπεζίου σελ. 118

𝐸T = −(𝛽 − 𝑎)312 𝑓″(𝑧)

(6.11) Σύνθετος Κ. Τραπεζίου σελ. 119

𝐼T,𝑁 = ℎ2 [𝑓(𝑥0) + 2𝑓(𝑥1) + 2𝑓(𝑥2) + ⋯ + 2𝑓(𝑥𝑁−1) + 𝑓(𝑥𝑁)]

(6.12) Σύνθετος Τραπεζίου σελ. 119

𝐸T,𝑁 = −ℎ2

12 (𝛽 − 𝑎)𝑓″(𝑧)

(6.13) Σύνθετος Τραπεζίου σελ. 119

Δεν θα δίνεται:

∣𝐸T,𝑁∣ ≤ ℎ2

12 (𝛽 − 𝑎) max𝑎<𝑧<𝛽

∣𝑓″(𝑧)∣

80

(6.14) Κανόνας Simpson σελ. 120

𝐼S = 13𝛽 − 𝑎2 [𝑓(𝑎) + 4𝑓 (𝑎 + 𝛽

2 ) + 𝑓(𝛽)]

(6.15) Κανόνας Simpson σελ. 121

𝐸S = −(𝛽−𝑎

2 )5

90 𝑓 (4)(𝑧)

(6.16) Σύνθετος Κανόνας Simpson σελ. 121

𝐼S,2𝑁 = ℎ6[𝑓(𝑥0) + 4𝑓(𝑥1) + 2𝑓(𝑥2) + 4𝑓(𝑥3) + 2𝑓(𝑥4) + …⋯+ 2𝑓(𝑥2𝑁−2) + 4𝑓(𝑥2𝑁−1) + 𝑓(𝑥2𝑁)]

(6.17) Σύνθετος Κανόνας Simpson σελ. 121

𝐸S,2𝑁 = (ℎ2 )

4

180 (𝛽 − 𝑎)𝑓 (4)(𝑧)

(6.18) Κανόνας Μ. Σημείου σελ. 123

𝐼M = (𝛽 − 𝑎)𝑓 (𝑎 + 𝛽2 )

(6.19) Κανόνας Μ. Σημείου σελ. 123

𝐸M = (𝛽 − 𝑎)324 𝑓″(𝑧)

(6.20) Σύνθετος Μ. Σημείου σελ. 123

𝐼M,𝑁 = ℎ𝑁−1∑𝑖=0

𝑓 (𝑥𝑖 +ℎ2)

(6.21) Σύνθετος Μ. Σημείου σελ. 123

𝐸M,𝑁 = ℎ2

24 (𝛽 − 𝑎)𝑓″(𝑧)

Κεφάλαιο 7



81

Κεφάλαιο 8

(8.8) σελ. 170

s = √𝑥2𝑘 + 𝑥2

𝑘+1 +⋯+ 𝑥2𝑛

H = I− 2uuT

u = 1√2𝑠 (𝑠 + |𝑥𝑘|)

⎡⎢⎢⎢⎢⎢⎢⎣

00⋮

𝑥𝑘 + sgn(𝑥𝑘)𝑠𝑥𝑘+1

⋮𝑥𝑛

⎤⎥⎥⎥⎥⎥⎥⎦

Κεφάλαιο 9

(9.17) Μέθοδος Jacobi σελ. 213

𝑥(𝑘+1)𝑖 = 1


𝑖−1∑𝑗=1

𝑎𝑖𝑗𝑥(𝑘)𝑗 −

𝑛∑


𝑗⎞⎟⎠

(9.24) Μέθοδος Gauss-Seidel σελ. 217

𝑥(𝑘+1)𝑖 = 1


𝑖−1∑𝑗=1


𝑛∑


𝑗⎞⎟⎠

(9.26) Μέθοδος SOR σελ. 219

𝑥(𝑘+1)𝑖 = 𝜔 1


𝑖−1∑𝑗=1


𝑛∑


𝑗⎞⎟⎠

+ (1 − 𝜔) 𝑥(𝑘)𝑖

(9.27) Μέθοδος SOR σελ. 219

𝜔 = 21 +√1 − 𝜌(J)2

(9.34) Μέθοδος Doolittle σελ. 222

𝑢𝑘𝑗 = 𝑎𝑘𝑗 −𝑘−1∑𝑠=1

𝑙𝑘𝑠𝑢𝑠𝑗

(9.35) Μέθοδος Doolittle σελ. 222

𝑙𝑖𝑘 = 1𝑢𝑘𝑘

⎛⎜⎝𝑎𝑖𝑘 −

𝑘−1∑𝑠=1

𝑙𝑖𝑠𝑢𝑠𝑘⎞⎟⎠

(9.36) Μέθοδος Crout σελ. 223

𝑙𝑖𝑘 = 𝑎𝑖𝑘 −𝑘−1∑𝑠=1

𝑙𝑖𝑠𝑢𝑠𝑘

(9.37) Μέθοδος Crout σελ. 223

𝑢𝑘𝑗 = 1𝑙𝑘𝑘

⎛⎜⎝𝑎𝑘𝑗 −

𝑘−1∑𝑠=1

𝑙𝑘𝑠𝑢𝑠𝑗⎞⎟⎠

82

(9.40) Μέθοδος Cholesky σελ. 227

ℎ𝑘𝑘 =√√√⎷

𝑎𝑘𝑘 −𝑘−1∑𝑠=1

ℎ2𝑘𝑠

(9.41) Μέθοδος Cholesky σελ. 227

ℎ𝑖𝑘 = 1ℎ𝑘𝑘

⎛⎜⎝𝑎𝑖𝑘 −

𝑘−1∑𝑠=1

ℎ𝑖𝑠ℎ𝑘𝑠⎞⎟⎠

(9.42) Μέθοδος Thomas σελ. 229

𝑎1 = 𝑎11, 𝛽𝑖 = 𝑎𝑖, 𝑖−1𝑎𝑖−1

, 𝑎𝑖 = 𝑎𝑖𝑖 − 𝛽𝑖 𝑎𝑖−1, 𝑖

Κεφάλαιο 10



Κεφάλαιο 11

Μέθοδος Euler σελ. 323

1. 𝑦0 = 𝑦(𝑥0)

2. 𝑦𝑖+1 = 𝑦𝑖 + ℎ𝑓(𝑥𝑖, 𝑦𝑖)

(11.6), (11.7), (11.8)Βελτιωμένη Μέθοδος Euler σελ. 327

𝑘0 = 𝑓(𝑥𝑖, 𝑦𝑖) (11.6)𝑘1 = 𝑓(𝑥𝑖 + ℎ, 𝑦𝑖 + 𝑘0) (11.7)

𝑦𝑖+1 = 𝑦𝑖 + ℎ(𝑘0 + 𝑘12 ) (11.8)

(11.9), (11.10), (11.11)Μέθοδος Μέσου Σημείου σελ. 327

𝑘0 = ℎ𝑓(𝑥𝑖, 𝑦𝑖) (11.9)

𝑘1 = 𝑓 (𝑥𝑖 +12ℎ, 𝑦𝑖 +

12𝑘0)

(11.10)𝑦𝑖+1 = 𝑦𝑖 + ℎ𝑘1 (11.11)

(11.23), (11.24), (11.25), (11.26), (11.27)Μέθοδος Runge-Kutta 4ης τάξης σελ. 333

𝑘0 = ℎ𝑓(𝑥𝑖, 𝑦𝑖) (11.23)

𝑘1 = ℎ𝑓 (𝑥𝑖 +12ℎ, 𝑦𝑖 +

12𝑘0) (11.24)

𝑘2 = ℎ𝑓 (𝑥𝑖 +12ℎ, 𝑦𝑖 +

12𝑘1) (11.25)

𝑘3 = ℎ𝑓 (𝑥𝑖 + ℎ, 𝑦𝑖 + 𝑘2) (11.26)

𝑦𝑖+1 = 𝑦𝑖 +16 ⋅ (𝑘0 + 2𝑘1 + 2𝑘2 + 𝑘3) (11.27)

83

(11.33), (11.34), (11.35)Τύποι Διόρθωσης σελ. 337

𝑖 = 1 ∶ 𝑦𝑛+1 = 𝑦𝑛 + ℎ2 (𝑓𝑛+1 + 𝑓𝑛) −

ℎ3

12 𝑦(3) (11.33)

𝑖 = 2 ∶ 𝑦𝑛+1 = 𝑦𝑛 + ℎ12 (5𝑓𝑛+1 + 8𝑓𝑛 − 𝑓𝑛−1) −

ℎ4

24 𝑦(4) (11.34)

𝑖 = 3 ∶ 𝑦𝑛+1 = 𝑦𝑛 + ℎ24 (9𝑓𝑛+1 + 19𝑓𝑛 − 5𝑓𝑛−1 + 𝑓𝑛−2) −

19ℎ5

720 𝑦(5) (11.35)

(11.36) Γενικός τύπος πρόβλεψης σελ. 337

𝑦𝑖+1 = 𝑦𝑖 + ℎ𝑖

∑𝑘=0

(−1)𝑖−1𝑓𝑘(𝑘)! (𝑖 − 1)! ∫

𝑖+1

𝑖

𝑖∏𝑗=0𝑗≠𝑘

(𝑥 − 𝑗) d𝑥

(11.37), (11.38), (11.39)Τύποι Πρόβλεψης σελ. 337

𝑖 = 1 ∶ 𝑦𝑛+1 = 𝑦𝑛 + ℎ2 (3𝑓𝑛 − 𝑓𝑛−1) +

5ℎ3

12 𝑦(3) (11.37)

𝑖 = 2 ∶ 𝑦𝑛+1 = 𝑦𝑛 + ℎ12 (23𝑓𝑛 − 16𝑓𝑛−1 + 5𝑓𝑛−2) −

3ℎ4

8 𝑦(4) (11.38)

𝑖 = 3 ∶ 𝑦𝑛+1 = 𝑦𝑛 + ℎ24 (55𝑓𝑛 − 59𝑓𝑛−1 + 37𝑓𝑛−2 − 9𝑓𝑛−3) +

251ℎ5

720 𝑦(5) (11.39)

84

Αριθμητική Ανάλυσηhelit.org/ece-notes/numerical.pdfΠρέπει να βρούμε...

Documents

Transcript of Αριθμητική Ανάλυσηhelit.org/ece-notes/numerical.pdfΠρέπει να βρούμε...