ΜΕΘΟΔΟΣ ΕΜΠΟΔΙΩΝ ΚΑΙ ΕΣΩΤΕΡΙΚΕΣ ΜΕΘΟΔΟΙ

ΣΗΜΕΙΟΥ

ΜΕΘΟΔΟΣ ΠΟΙΝΙΚΗΣ ΡΗΤΡΑΣ ΚΑΙ ΠΡΟΣΑΡΤΗΜΕΝΗ

ΜΕΘΟΔΟΣ LAGRANGE

Γεώργιος Θ. Ράμμος

ΠΡΟΛΟΓΟΣ Ο στόχος αυτής της εργασίας είναι η αναφορά και η μελέτη δύο

σημαντικών μεθόδων και τεχνικών βελτιστοποίησης του γραμμικού και μη

γραμμικού προγραμματισμού . Η μέθοδος εμποδίων και οι εσωτερικές

μέθοδοι σημείου (Barrier and interior point methods) καθώς και η μέθοδος

ποινικής ρήτρας και η προσαρτημένη μέθοδος Lagrange (Penalty

methods and Augmented Lagrangian methods) είναι ενδιαφέρουσες

τεχνικές που αφορούν τον κλάδο της Επιχειρησιακής έρευνας .

Πρέπει να τονίσουμε ότι μία μέθοδος βελτιστοποίησης δεν πρέπει να

αρκείται μόνο σε θεωρητικά αποτελέσματα αλλά πρέπει να αποδεικνύεται

αρκετά αποτελεσματική και στην πράξη . Γι αυτό σε κάθε μέθοδο

αναφέρουμε χαρακτηριστικά παραδείγματα και παρουσιάζουμε σχήματα

με σκοπό την καλύτερη κατανόηση των τεχνικών . Τα παραδείγματα αυτά

στοχεύουν στον εντοπισμό της βέλτιστης λύσης μέσα από μια διαδικασία

σύγκλισης και επαναλήψεων .

Τα παραδείγματα αναφέρονται σε προβλήματα ελαχιστοποίησης . Τα

προβλήματα μπορεί να μην έχουν περιορισμούς ή να έχουν περιορισμούς

ισοτικούς ή ανισοτικούς .

ΓΕΝΙΚΗ ΑΝΑΛΥΣΗ ΤΩΝ ΑΛΓΟΡΙΘΜΩΝ ΕΣΩΤΕΡΙΚΩΝ

ΣΗΜΕΙΩΝ ΕΛΑΧΙΣΤΟΠΟΙΗΣΗΣ ΚΑΙ ΤΗΣ ΔΙΑΙΣΘΗΤΙΚΗΣ

ΒΑΣΗΣ ΤΟΥΣ Μια γενική ανάλυση της κατηγορίας αλγορίθμων "εσωτερικού

σημείου" ελαχιστοποίησης προβλημάτων χωρίς περιορισμούς που

ισχύει για το πρόβλημα με ανισοτικούς περιορισμούς ,

δίνεται παρακάτω.

Θέτουμε να είναι μια βαθμωτή(scalar) συνάρτηση ως προς με τις ακόλουθες δύο ιδιότητες:

Ιδιότητα 1:Η είναι συνεχής στην περιοχή

(B)

minimize ( )f x

( ) 0, 1,..., ,ig x i m

I x

( )I x

0 { / ( ) 0, 1,..., }iR x g x i m

Ιδιότητα 2: Εάν είναι οποιαδήποτε ακολουθία άπειρων σημείων στο

που συγκλίνει στο έτσι ώστε για τουλάχιστον ένα i, τότε

.

Θέτουμε να είναι μια βαθμωτή συνάρτηση με μεταβλητή r με τις

ακόλουθες ιδιότητες. Εάν , τότε . Εάν

είναι μια άπειρη ακολουθία σημείων έτσι ώστε , τότε

.

Ορισμός :Η τεχνική ελαχιστοποίησης εσωτερικού σημείου ενός

προβλήματος χωρίς περιορισμούς είναι η εξής:

1.Ορίζουμε την συνάρτηση ,όπου είναι ένας

θετικός αριθμός. Παίρνουμε ως αρχικό σημείο το . Εάν ένα

τέτοιο σημείο δεν είναι εύκολα διαθέσιμο μπορεί να ληφθεί από την

επαναλαμβανόμενη εφαρμογή της μεθόδου.

{ }kx0R Bx ( ) 0i Bg x

lim ( )k

kI x

( )s r

1 2 0r r 1 2( ) ( ) 0s r s r

{ }kr lim 0kk

r

lim ( ) 0kk

s r

1 1( , ) ( ) ( ) ( )U x r f x s r I x 1r0 0x R

2. Προχωρούμε από το σε ένα σημείο όπου αυτό είναι ένα τοπικό ελάχιστο της U στη εφικτή περιοχή . Πιθανώς το θα προκύπτει από ένα πρόβλημα χωρίς περιορισμούς δεδομένου ότι θα βρίσκεται μέσα στο , διαφορετικά U = + , το οποίο έρχεται σε αντίθεση με την υπόθεση ότι το ήταν ένα τοπικό ελάχιστο ενός προβλήματος χωρίς περιορισμούς της U μέσα στο R.

3. Αρχικά από το βρίσκουμε ένα τοπικό ελάχιστο της , όπου

.

4. Συνεχίζοντας με αυτό τον τρόπο, βρίσκουμε ένα τοπικό ελάχιστο για την αρχίζοντας από και συνεχίζουμε με μια αυστηρά μονότονη φθίνουσα ακολουθία .

0x 1( )x r{ / ( ) 0, 1,..., }iR x g x i m

1( )x r0R

1( )x r

1( )x r2( , )U x r

1 2 0r r

( , )kU x r 1( )kx r

{ }kr

ΠΑΡΑΔΕΙΓΜΑ

1 2

2

1 1 2

2 1

minimize

0,

0.

x x

g x x

g x

1

s(r)=r και ( ) ln ( )m

i

i

I x g x

Η επιλογή του s και I ικανοποιoύν τις ανάγκες που εκφράστηκαν πριν.

Στην συνέχεια παίρνουμε την λογαριθμική συνάρτηση ποινικής ρήτρας

1

( , ) ( ) ln ( )m

i

i

L x r f x r g x

και αντικαθιστούμε όπου 1 2( )f x x x 2

1 1 2( )g x x x και 2 1( )g x x

Άρα έχουμε

Αυτό το πρόβλημα μπορεί να λυθεί αναλυτικά αφού η είναι δύο

φορές διαφορίσιμη. Άρα

1 2( , ) ( ) ln ( ) ln ( )L x r f x r g x r g x

2

1 2 1 2 1( , ) ln( ) lnL x r x x r x x r x

( , )L x r

( , ) 0L x r

1

2

( , )

L

xL x r

L

x

=0 2

1 22

1 1 2 1

1 11 ( )

Lr x x r

x x x x

12

1 1 2 1

11 ( 2 )

L rr x

x x x x

Άρα 1

2

1 1 2 1

(2 )1

r xL r

x x x x

2

1 22

2 1 2

11 ( )

Lr x x

x x x

2

2 1 2

11

Lr

x x x

Άρα 2

2 1 2

1L r

x x x

1

2

1 2 1

2

1 2

(2 )1

( , )

1

r x r

x x xL x r

r

x x

=0

1

2

1 2 1

(2 ) 1 0

r x r

x x x

(1) και 2

1 2

1 0r

x x

(2)

(2) 2

1 2 x x r Κάνω αντικατάσταση στην σχέση (1) και έχουμε

2

1 2 1

2

1 2 1

( )(2 )1 0

x x x r

x x x

1

1

1 2 0r

xx

πολλαπλασιάζω τα μέλη της εξίσωσης με 1 0x

1 1 1 1

1

2 0r

x x x xx

2

1 12 0x x r

2

1 12 0x x r

2 4 21 4 2 ( )r 1 8r

1( )2

x r

1

1 1 8( )

4

rx r

Επειδή το 1( )x r πρέπει να είναι θετικό, μόνο η

1

1 1 8( )

4

rx r

είναι δεκτή. Αντικαθιστούμε το 1( )x r στην σχέση (2) και έχουμε

2

1 2x x r 2

2

1 1 8

4

rx r

2

2

( 1 1 8 )( )

16

rx r r

Τα 1( )x r και 2 ( )x r

είναι τα τοπικά ελάχιστα για τις διάφορες τιμές του r.

Για r=1 1

1 1 8 1 3(1) 0.5

4 4x

και

2

2

( 1 1 8)(1) 1

16x

2( 1 3)1 1.25

16

.

Για r=0.5 1

1 1 8 0.5 1 5(0.5) 0.309

4 4x

και

2 2

2

( 1 1 8 0.5) ( 1 5)(0.5) 0.5 0.5 0.595

16 16x

.

Για r=0.25 1

1 1 8 0.25 1 3(0.25) 0.183

4 4x

και

2 2

2

( 1 1 8 0.25) ( 1 3)(0.25) 0.25 0.25 0.283

16 16x

.

Για r=0.1 1

1 1 8 0.1 1 1.8(0.1) 0.085

4 4x

και

.

1.000 0.500 1.250

0.500 0.309 0.595

0.250 0.183 0.283

0.100 0.085 0.107

2r

3r

4r

1( )x r2 ( )x r

r

1r

r

2 2

2

( 1 1 8 0.1) ( 1 1.8)(0.1) 0.1 0.1 0.107

16 16x

Ο παραπάνω πίνακας δίνει τις τιμές των και για

τις 4 τιμές του r . Στο σχήμα το πρόβλημα ερμηνεύεται γεωμετρικά και

φαίνονται τα σημεία που αντιστοιχούν στις διάφορες τιμές του r .

Παρατηρούμε ότι καθώς το r πηγαίνει στο μηδέν οι συντεταγμένες του

σημείου ελαχιστοποιούνται στο .

1( )x r 2 ( )x r

1 2( ( ), ( )) (0,0)x r x r

Σχήμa: Η λύση του προβλήματος της

λογαριθμικής συνάρτησης χωρίς

περιορισμούς. Η γραμμοσκιασμένη περιοχή

είναι η εφικτή περιοχή.Το πρόβλημα είναι:

1 2 1 2

2

1 1 2 1 2

2 1 2 1

min imize ( , )=

( , ) 0,

( , ) 0.

f x x x x

g x x x x

g x x x

Θα λύσουμε το ίδιο

παράδειγμα με ένα

πρόγραμμα στο

MATHEMATICA

ΠΟΙΝΙΚΗ ΡΗΤΡΑ ΚΑΙ ΠΡΟΣΑΡΤΗΜΕΝΕΣ ΜΕΘΟΔΟΙ

LAGRANGE (PENALTY AND AUGMENTED

LAGRANGIAN METHODS)

Η βασική ιδέα στις μεθόδους ποινικής ρήτρας είναι να αποβληθούν μερικοί ή όλοι οι περιορισμοί και να προστεθεί στη συνάρτηση κόστους ένας όρος ποινικής ρήτρας που ορίζει ένα υψηλό κόστος στα μη εφικτά σημεία. Με αυτές τις μεθόδους συνδέεται μια παράμετρος ποινικής ρήτρας που καθορίζει το μέγεθος της ποινικής ρήτρας και κατά συνέπεια, ο βαθμός στον οποίο το προκύπτον πρόβλημα χωρίς περιορισμούς προσεγγίζει το αρχικό πρόβλημα με περιορισμούς. Καθώς το παίρνει τις υψηλότερες τιμές, η προσέγγιση γίνεται όλο και περισσότερο ακριβής. Στρέφουμε την προσοχή πρώτιστα στη δημοφιλή τετραγωνική συνάρτηση ποινικής ρήτρας.

Εξετάζουμε πρώτα την ισότητα του προβλήματος με περιορισμούς

όπου , και το Χ είναι ένα υποσύνολο του .

c

c

min imize ( )

όπου ( ) 0 ,

f x

h x x X (2.1)

.

nf: R , : n mR h R R nR

Ένα μεγάλο μέρος της ανάλυσής μας σε αυτό το τμήμα θα

εστιαστεί στο μαζί με έναν πολλαπλασιαστή Lagrange στην

περίπτωση όπου Χ = . Στο κέντρο της ανάπτυξής μας είναι η

προσαρτημένη λαγκρανζιανή συνάρτηση : ,

όπου

και το c είναι μια θετική παράμετρος ποινικής ρήτρας.

Υπάρχουν δύο μηχανισμοί από τους οποίους η ελαχιστοποίηση

χωρίς περιορισμούς μπορεί να σημειώσει τιμές κοντά στο

:

(α) Με τη λήψη του κοντά στο . Πράγματι, εάν το c είναι

υψηλότερο από ένα ορισμένο κατώτατο όριο, τότε για μερικά γ > 0

και > 0 έχουμε

(2.3)

*x*

nRcL n mR R R

2( , ) ( ) ( ) ( ) ,

2c

cL x f x h x h x

(2.2)

( , )cL *x

*

2

* * * * *( , ) ( , ) , με ,2

c cL x L x x x x x x

έτσι ώστε το να είναι ένα ακριβές τοπικό ελάχιστο της

προσαρτημένης Λανγκρανζιανής σε αντιστοιχία με το .

Αυτό προτείνει ότι εάν το λ είναι κοντά στο , μια καλή

προσέγγιση στο μπορεί να βρεθεί από την ελαχιστοποίηση

χωρίς περιορισμούς .

(β) Με τη λήψη του c πολύ μεγάλου. Πράγματι εάν βάλουμε υψηλή

τιμή στο c θα υπάρξει μεγαλύτερο κόστος σε περίπτωση που ο

μηχανισμός θα είναι μη εφικτός. Συνεπώς το ελάχιστο χωρίς

περιορισμούς θα είναι σχεδόν εφικτό. Από

για το εφικτό x, αναμένουμε εκείνο που για κοντινό

εφικτό . Επομένως, μπορούμε επίσης να αναμείνουμε να

λάβουμε μια καλή προσέγγιση στο από την ελαχιστοποίηση

χωρίς περιορισμούς όταν το c είναι υψηλό.

*x( , )cL *

**x

( , )cL

( , )cL ( , ) ( )cL x f x ( , ) ( )cL x f x

x*x

( , )cL

ΠΑΡΑΔΕΙΓΜΑ

Εξετάζουμε το διδιάστατο πρόβλημα

με τη βέλτιστη λύση = (1,0) και αντίστοιχο πολλαπλασιαστή Lagrange

= -1,

Η προσαρτημένη Λανγκρανζιανή είναι η

και αν αντικαθιστούμε όπου και , έχουμε

2 2

1 2

1

1min imize ( ) ( )

2

όπου =1

f x x x

x

(2.4)

*x*

2( , ) ( ) ( ) ( ) ,

2c

cL x f x h x h x

1 2

1( ) ( )

2f x x x

1( ) 1h x x

2 2 2

1 2 1 1

1( , ) ( ) ( 1) ( 1) ,

2 2c

cL x x x x x

(2.5)

και εξισώνοντας την κλίση της με μηδέν βρίσκουμε ότι το

μοναδικό ελάχιστο χωρίς περιορισμούς έχει

συντεταγμένες

( , )x c( , ) 0L x r

1

2

( , )

L

xL x r

L

x

=0 1 1 1 1 1

1 1

12 2( 1)( 1) ( 1)

2 2

L c Lx x x x c x

x x

Άρα

1 1

1

Lx cx c

x

2

2

12

2

Lx

x

Άρα 2

2

Lx

x

1 1

2

( , ) 0x cx c

L xx

1 1 1 10 (1 )1

cx cx c x c c x

c

και

2 0x Συνεπώς 1( , )

1

cx c

c

και

2( , ) 0x c

Κατά συνέπεια, έχουμε για όλα τα c > 0, *

*

1 1lim ( , ) ( , )x c x c

και *

*

2 2lim ( , ) ( , )x c x c

επειδή ο αντίσοιχος πολλαπλασιαστής Lagrange είναι * = -1 άρα

*

*

1 1 1lim ( , ) ( , ) ( 1, )x c x c x c

και

*

*

2 2 2lim ( , ) ( , ) ( 1, )x c x c x c

Χρησιμοποιώντας τους τύπους (2.6) 1( , )1

cx c

c

και 2( , ) 0x c

έχουμε *

* *

1 1 1 1

( 1) 1lim ( , ) ( , ) ( 1, ) 1

1 1

c cx c x c x c x

c c

*

* *

2 2 2 2lim ( , ) ( , ) ( 1, ) 0x c x c x c x

όπου φαίνεται ότι όταν το επιλέγεται κοντά στο *

το ελάχιστο ενός προβλήματος χωρίς περιορισμούς ( , )cL x

πλησιάζει το ελάχιστο ενός προβλήματος με περιορισμούς (βλ. σχήμα 1.2.1

,

2 2 2

1 2 1 1

1( , ) ( ) ( 1) ( 1) ,

2 2c

cL x x x x x

του παραδείγματος ΙΙ , για c= 1 και δύο διαφορετικές τιμές του λ. Το ελάχιστο χωρίς

περιορισμούς ( , )cL x πλησιάζει το ελάχιστο του προβλήματος με περιορισμούς* (1,0)x όταν λ λ* = -1.

Σχήμα 1.2.1:Οι επιφάνειες ίσων δαπανών της προσαρτημένης Λανγκραζιανής

Χρησιμοποιόντας τους τύπους (2.6) και

έχουμε ότι για όλα τα ,

το οποίο είναι απροσδιόριστο.Άρα παραγωγίζω αριθμητή και

παρονομαστή σύμφωνα με τον κανόνα DE L’ HOSPITAL

και

που σημαίνει ότι καθώς το αυξάνει, το ελάχιστο του προβλήματος

χωρίς περιορισμούς πλησιάζει το ελάχιστο του προβλήματος με

περιορισμούς (βλ. το σχήμα 1.2.2).

1( , )1

cx c

c

2( , ) 0x c

1lim ( , ) lim1 1c c

cx c

c

*

1 1

( ) 1lim ( , ) lim lim lim 1

1 ( 1) 1c c c c

c cx c x

c c

*

2 2lim ( , ) lim0 0c c

x c x

c( , )cL x

2 2 2

1 2 1 1

1( , ) ( ) ( 1) ( 1) ,

2 2c

cL x x x x x

του παραδείγματος ΙΙ , για λ = 0 και δύο διαφορετικές τιμές του c. Το ελάχιστο χωρίς

περιορισμούς ( , )cL x πλησιάζει το το ελάχιστο του προβλήματος με

περιορισμούς * (1,0)x όταν c .

Σχήμα 1.2.2: Επιφάνειες ίσων δαπανών της προσαρτημένης Λανγκραζιανής

Μέθοδοι Πολλαπλασιαστών - Βασικές Ιδέες

Επιστρέφουμε στην περίπτωση όπου και το πρόβλημα έχει

μόνο ισοτικούς περιορισμούς , δηλαδή

Οι λύσεις αυτού του προβλήματος μπορούν να προσεγγιστούν καλά

από τα ελάχιστα χωρίς περιορισμούς της προσαρτημένης

Λανγκρανζιανής , κάτω από δύο τύπους συνθηκών:

(α) Το διάνυσμα λ είναι κοντά σε έναν πολλαπλασιαστή Lagrange.

(β) Η παράμετρος ποινικής ρήτρας c είναι μεγάλη.

nX R

min imize ( )

όπου ( ) 0.

f x

h x (2.25)

( , )cL

Εξετάζουμε τώρα ορισμένους τρόπους να βελτιώσουμε την

εκτίμηση για το έτσι ώστε να τείνει σε έναν πολλαπλασιαστή

Lagrange. Θα δούμε ότι σε μερικές λογικές περιπτώσεις, αυτή η

προσέγγιση είναι εφαρμόσιμη ακόμα και όταν τα δεν τείνουν στο . Με αυτόν τον τρόπο μειώνουμε ένα μεγάλο μέρος της δυσκολίας

λόγω της ευαισθησίας των συνθηκών (ill conditioning). Επιπλέον,

ακόμα και όταν τείνουν τα στο , ο βαθμός σύγκλισης

ενισχύεται σημαντικά με τις συνεχόμενες επαναλήψεις των .

Ένας πρώτος τύπος αναπροσαρμογών για τα στην

τετραγωνική μέθοδο ποινικής ρήτρας είναι

(2.26)

*

kc

kc

k

Η μέθοδος πολλαπλασιαστών

k

1 ( )k k k kc h x .

Η λογική παρέχεται από την πρόταση 1.2.2, η οποία δείχνει ότι εάν η παραγόμενη ακολουθία { } συγκλίνει σε ένα τοπικό ελάχιστο το οποίο είναι κανονικό, τότε το συγκλίνει στον αντίστοιχο πολλαπλασιαστή Lagrange .

Η τετραγωνική μέθοδος ποινικής ρήτρας με τον προηγούμενο τύπο αναπροσαρμογών για το είναι γνωστή ως μέθοδος πολλαπλασιαστών. Επεξηγούμε αρχικά την μέθοδο με ένα παράδειγμα.

ΠΑΡΑΔΕΙΓΜΑ

Εξετάζουμε πάλι το πρόβλημα

kx

*x

{ ( )}k k kc h x

*

k

2 2

1 2

1

1min imize ( ) ( )

2

όπου 1,

f x x x

x

με βέλτιστη λύση = (1,0) και πολλαπλασιαστή Lagrange = -1.

Η προσαρτημένη Λανγκρανζιανή είναι

και αν αντικαθιστούμε όπου και , έχουμε

Τα διανύσματα που παράγονται με την μέθοδο πολλαπλασιαστών

ελαχιστοποιούν το και δίνονται από τον τύπο

Χρησιμοποιώντας τον προηγούμενο τύπο (2.27) και το γεγονός ότι

, ο τύπος του πολλαπλασιαστή (2.26)

μπορεί να γραφεί

*x *2

( , ) ( ) ( ) ( ) ,2

c

cL x f x h x h x

2 2

1 2

1( ) ( )

2f x x x 1( ) 1h x x

2 2 2

1 2 1 1

1( , ) ( ) ( 1) ( 1) .

2 2c

cL x x x x x

kx

( , )k

k

cL

,0 .1

k kk

k

cx

c

(2.27)

1( ) 1h x x

1 ( )k k k kc h x

1 11

1 1 1

k k k k kk k k k k

k k k

c c cc c

c c c

1 1

1 1 1 1

k k k k k k k k k kk k

k k k k

c c c c cc

c c c c

1

1

k kk

k

c

c

, ή με την εισαγωγή του πολλαπλασιαστή Lagrange * = -1,

1 * *

1

k kk

k

c

c

, επειδή * = -1

1 * 1 1 11

1 1 1 1 1

k k k k k k k k kk

k k k k k

c c c c c

c c c c c

,

*1 *

1

kk

kc

.

Αυτός ο τύπος δείχνει ότι

(α) και για κάθε μη φθίνουσα

ακολουθία { } [παίρνοντας το και

πολλαπλασιάζοντάς το με , προκύπτει αριθμός

πάντα μικρότερος από ένα ].

(β) Ο βαθμός σύγκλισης αυξάνεται ταχύτερα καθώς τα

γίνονται μεγαλύτερα, στην πραγματικότητα το

συγκλίνει υπεργραμμικά στο ανώτατο όριο εάν .

Σημειώνουμε ότι δεν είναι απαραίτητο να αυξηθούν τα

στο αν και όταν αυτό συμβαίνει τα αποτελέσματα

παρουσιάζουν καλύτερη σύγκλιση.

* 1k

* (1,0)kx x

kc

1

1kc

*k

kc

*{ }k

kc

kc

.

ΠΑΡΑΔΕΙΓΜΑ

Εξετάζουμε το πρόβλημα

με βέλτιστη λύση = (1,0) και πολλαπλασιαστή Lagrange . Η

προσαρτημένη Λανγκρανζιανή δίνεται από τον τύπο

και αν αντικαθιστούμε όπου και ,

έχουμε

2 2

1 2

1

1min imize ( )

2

όπου 1,

x x

x

*x * 1

2( , ) ( ) ( ) ( ) ,

2c

cL x f x h x h x

2 2

1 2

1( ) ( )

2f x x x 1( ) 1h x x

2 2 2

1 2 1 1

1( , ) ( ) ( 1) ( 1) .

2 2c

cL x x x x x

Τα διανύσματα ελαχιστοποίησης του δίνονται από τον τύπο

Εντούτοις , αυτός ο τύπος για να είναι σωστός, είναι απαραίτητο ότι .

Για της προσαρτημένης Λανγκραζιανής δεν έχει κανένα ελάχιστο,

και το ίδιο πράγμα ισχύει για εκτός αν . Χρησιμοποιώντας

τον προηγούμενο τύπο (2.28) και το γεγονός ότι , ο τύπος

του πολλαπλασιαστή (2.26) μπορεί να γραφεί

kx

( , )k

k

cL x

,0 .1

k kk

k

cx

c

(2.28)

1kc

1kc

1kc

1k

1( ) 1h x x

1 ( )k k k kc h x

1 11

1 1 1

k k k k kk k k k k

k k k

c c cc c

c c c

1 1

1 1 1 1

k k k k k k k k k kk k

k k k k

c c c c cc

c c c c

,

Από αυτήν την επανάληψη, μπορεί να φανεί ότι μπορούν να

συναχθούν παρόμοια συμπεράσματα με εκείνα του προηγούμενου

παραδείγματος. Ειδικότερα, δεν είναι απαραίτητο να αυξηθούν τα

στο για να επιτευχθεί η σύγκλιση, αν και κάνοντάς το τα

αποτελέσματα οδηγούν σε ένα καλύτερο ρυθμό σύγκλισης.

Εντούτοις, υπάρχει μια διαφορά εκτιμώντας ότι στο προηγούμενο

παράδειγμα, η σύγκλιση πραγματοποιείται για όλες τις θετικές

ακολουθίες { }, στο παρόν παράδειγμα, τα σημεία

1

1

k kk

k

c

c

ή με την εισαγωγή του πολλαπλασιαστή Lagrange * = 1 ,

1 * *

1

k kk

k

c

c

επειδή * = 1

1 * 1 1 11

1 1 1 1 1

k k k k k k k k kk

k k k k k

c c c c c

c c c c c

,

*1 * .

1

kk

kc

(2.29)

kc

kc

ελαχιστοποίησης υπάρχουν μόνο εάν . Επιπλέον, φαίνεται από τον

τύπο (2.29) ότι για να επιτευχθεί η σύγκλιση, η παράμετρος ποινικής

ρήτρας πρέπει τελικά να υπερβεί το 2 [έτσι ώστε ο αριθμός

πολλαπλασιασμένος με να έχει απόλυτη τιμή μικρότερη από ένα].

Κατά συνέπεια στο παρόν παράδειγμα, υπάρχει μια τιμή κατώτερη που η

παράμετρος ποινικής ρήτρας πρέπει να υπερβεί για να δουλέψει η

μέθοδος.

Συνοψίζοντας παρατηρούμε ότι η μέθοδος εμποδίων και η εσωτερική

μέθοδος σημείων χρησιμοποιείται σε προβλήματα ελαχιστοποίησης με

ανισοτικούς περιορισμούς και τα μετασχηματίζει σε προβλήματ χωρίς

περιορισμούς ενώ η μέθοδος ποινικής ρήτρας και η προσαρτημένη

μέθοδος Lagrange χρησιμοποιείται κυρίως σε προβλήματα

ελαχιστοποίησης με ισοτικούς περιορισμούς και τα μετασχηματίζει σε

προβλήματα χωρίς περιορισμούς .Ουσιαστικά έχει ως σκοπό να

αποβάλλει μερικούς ή όλους τους περιορισμούς και να προστέσει στη

συνάρτηση κόστους έναν όρο ποινικής ρήτρας.

1kc

kc

1

1kc

k

ΤΕΛΟΣ ΠΑΡΟΥΣΙΑΣΗΣ