1 Evolutionäre Strategien Nicole Männig. 2 Vortragsgliederung 1. Woher kommen die evolutionären...

Click here to load reader

  • date post

    05-Apr-2015
  • Category

    Documents

  • view

    124
  • download

    1

Embed Size (px)

Transcript of 1 Evolutionäre Strategien Nicole Männig. 2 Vortragsgliederung 1. Woher kommen die evolutionären...

  • Folie 1
  • 1 Evolutionre Strategien Nicole Mnnig
  • Folie 2
  • 2 Vortragsgliederung 1. Woher kommen die evolutionren Strategien? Geschichte Geschichte Motivation Motivation 2. Spezielle evolutionre Strategien (1+1)- ES (1+1)- ES (+1)- ES (+1)- ES (+)- ES und (, ) ES (+)- ES und (, ) ES 3. Modifikationen 4. Schlusswort 5. Literatur
  • Folie 3
  • 3 1.Woher kommen die evolutionren Strategien? Geschichte Zwei parallele Entwicklungen in den 60er Jahren In den USA fhrte Holland die Genetischen Algorithmen ein Kernidee: binre Kodierung In Deutschland entwickelte Rechenberg die Idee der Evolutionren Strategie, welche von Schwefel weitergefhrt wurde Kernidee: reelle Kodierung
  • Folie 4
  • 4 1.Woher kommen die evolutionren Strategien? Geschichte gehren zu den Verfahren, die ohne Gradienten arbeiten arbeiten mit Stochastik und Populationen Evolutionre Methoden Evolutionre Programmierung Evolutionre Strategien Genetische Algorithmen Simulated Annealing
  • Folie 5
  • 5 1.Woher kommen die evolutionren Strategien? Motivation jedes Lebewesen ist nahezu perfekt an seine Umgebung angepasst die Evolution fand ber einen sehr langen Zeitraum statt selbst gravierende nderungen der Lebensrume und -bedingungen konnten diese Evolution nicht stoppen die Natur hat somit ein perfektes Vorbild fr die Mathematik geschaffen
  • Folie 6
  • 6 1.Woher kommen die evolutionren Strategien? Motivation evolutionre Methoden zeichnen sich durch ihre Robustheit und Effektivitt aus Verwendung hufig bei nichtlinearen Systemen, wo andere Optimierungsverfahren versagen oder keine adquate Lsung liefern folgende Prinzipien werden dabei auf die Mathematik bertragen Mutation Selektion Rekombination
  • Folie 7
  • 7 1.Woher kommen die evolutionren Strategien? Motivation Idee: die Parameter werden nach dem Zufallsprinzip geringfgig gendert mit der darstellenden Funktion werden dann die Fitnesswerte der Objekte berechnet und entsprechend sortiert die neuen Objekte entstehen also durch Mutationen der alten Objekte die Individuen werden durch Vektoren reeller Zahlen kodiert eine Population ist somit eine Menge von Vektoren
  • Folie 8
  • 8 1.Woher kommen die evolutionren Strategien? Motivation Industriebeispiel: Verwendung einer evolutionren Strategie in der Bionik Knochen bauen sich von dem Punkt ausgehend auf, der die grte Belastung aushalten bzw. am stabilsten sein muss finde diesen Punkt in der zu gieenden Form berechne optimale Vorgehensweise fr den Gussvorgang viele Anwendungen im Bereich der Elektrotechnik meistens jedoch multikriteriell
  • Folie 9
  • 9 bersicht. 2. Spezielle evolutionre Strategien Evolutionre Strategie ElternKinder SelektionMutation Bevlkerung
  • Folie 10
  • 10 2. Spezielle evolutionre Strategien (1+1)- ES Einleitung Wir betrachten das in den vergangenen Vortrgen vorgestellte Optimierungsproblem (Minimierungsproblem) gesucht ist der Weg zu einem Optimum der nicht linearen Zielfunktion mit multiplen lokalen Optima selbst wenn es nur ein lokales Optimum gibt, kann es schwierig werden dorthin einen Weg zu finden.
  • Folie 11
  • 11 2. Spezielle evolutionre Strategien (1+1)- ES Vorstellung Motivation war die Formoptimierung (1+1)- ES bedeutet: 1 Elternteil, 1 Nachkomme (1+1)- ES = (P, m, s, c d, c i, f, g, t) P = (x, ) I Population I = R n x R n m: I IMutationsoperator s: IxI ISelektionsoperator c d, c i RSchrittweitenkontrolle f: R n RZielfunktion g j : R n RNebenbedingungen j {1,, q} t: IxI {0,1}Abbruchbedingung
  • Folie 12
  • 12 2. Spezielle evolutionre Strategien (1+1)- ES Arbeitsweise einer evolutionren Strategie Elternteil Evaluation (Terminierung)Mutation SelektionEvaluation
  • Folie 13
  • 13 2. Spezielle evolutionre Strategien (1+1)- ES Arbeitsweise einer evolutionren Strategie Elternteil: a 1 t = P t (x t, t ) Evaluation Mutation = Nachkomme: a 2 t = m (P t ) = (x t, t ) Evaluation Vorbergehende Population: P t = (a 1 t, a 2 t ) IxI Einschub: biologische Beobachtung: kleinere nderungen treten hufiger auf als grere realisieren daher Mutationen durch normal- verteilte Zufallszahlen x t = x t + N 0 ( t ).
  • Folie 14
  • 14 2. Spezielle evolutionre Strategien (1+1)- ES Arbeitsweise einer evolutionren Strategie bestimme nun das fittere Individuum (= Selektion) f(xt) f(xt) und a 2 t if P t+1 = s(P t ) = g(xt) 0 a 1 t = P t sonst der Iterationsprozess stoppt, wenn das Abbruchkriterium t(a 1 t, a 2 t )=1 hlt eine Frage die noch offen ist: konvergiert das Verfahren berhaupt?
  • Folie 15
  • 15 2. Spezielle evolutionre Strategien (1+1)- ES Konvergenz Konvergenz: fr > 0 und ein regulres Optimierungsproblem wird das globale Optimum mit Wahrscheinlichkeit 1 gefunden Nachteil: die Suchzeit muss ausreichend lang sein daher keine praktische Relevanz Rechenberg berechnete die Konvergenzraten fr 2 Modellfunktionen Korridor- Modell: f 1 (x)= F(x 1 )= c 0 + c 1 x 1 fr alle i{2,,n}: -b/2 x i b/2 Sphren- Modell: f 2 (x)= x i
  • Folie 16
  • 16 2. Spezielle evolutionre Strategien (1+1)- ES daraus ergeben sich die zu erwartenden Konvergenzraten: fr n>>1 Konvergenzrate des Sphrenmodells ist abhngig von der aktuellen Position im euklidischen Raum
  • Folie 17
  • 17 2. Spezielle evolutionre Strategien (1+1)- ES bestimme damit die optimalen Standardabweichungen Berechne davon ausgehend die Wahrscheinlichkeiten fr eine erfolgreiche Mutation
  • Folie 18
  • 18 2. Spezielle evolutionre Strategien (1+1)- ES Erfolgreiche Mutation fr n>>1 fr optimale Schrittweiten ergibt sich damit:
  • Folie 19
  • 19 2. Spezielle evolutionre Strategien (1+1)- ES Mutationsvarianz Ausgehend davon, formulierte Rechenberg seine 1/5 Regel: Das Verhltnis der erfolgreichen Mutationen zu allen Mutationen sollte 1/5 sein. Wenn es grer ist als 1/5, erhhe die Varianz, wenn es weniger ist, verringere die Mutationsvarianz..
  • Folie 20
  • 20 2. Spezielle evolutionre Strategien (1+1)- ES Mutationsvarianz daher macht es Sinn, t dynamisch anzupassen wir erweitern daher den Mutationsoperator m c d t, falls p s t < 1/5 t+n =c i t, falls p s t > 1/5 t, falls p s t = 1/5 Schwefel: c d =0.82, c i =1/0.82Anpassung ungefhr alle n Mutationen.
  • Folie 21
  • 21 2. Spezielle evolutionre Strategien (1+1)- ES ein kleines Anwendungsbeispiel: Optimierung einer 2- Phasen berschalldse Entwicklung eines Stromerzeugers fr Satelliten Ausgang: konventionell geformte Venturidse Schwefel kombinierte nach dem Zufallsprinzip die einzelnen Sektoren, in die eine solche Dse geschnitten wurde.
  • Folie 22
  • 22 2. Spezielle evolutionre Strategien (1+1)- ES ein kleines Anwendungsbeispiel: Optimierung einer 2- Phasen berschalldse die folgende Abbildung zeigt die zuflligen nderungen (Mutationen) eine nderung, die sich bewhrt hat, wurde als Vorlage fr die nchste zufllige Anordnung genommen.
  • Folie 23
  • 23 2. Spezielle evolutionre Strategien (1+1)- ES ein kleines Anwendungsbeispiel: Optimierung einer 2- Phasen berschalldse nach 44 zuflligen Mutationen kam dabei folgende Form heraus diese Form wre zum damaligen Zeitpunkt nicht mathematisch und logisch nachvollziehbar erwartet worden auch heute ist dieses Ergebnis nur in etwa nachzuvollziehen die Effizienz dieser Form ist ca. 40% hher als die der Venturidse und das, obwohl man nicht den Zusammenhang zwischen Form und Wirkung kennt.
  • Folie 24
  • 24 2. Spezielle evolutionre Strategien (+1)- ES Einleitung Welche Auswirkungen hat es, wenn ich eine ganze Bevlkerung zur Verfgung habe? binde dafr das Populationskonzept in den Algorithmus ein >1 gibt dabei die Anzahl der Eltern an, die an der Produktion eines Nachfahrens beteiligt sind insbesondere ist nun auch die sexuelle Rekombination simulierbar
  • Folie 25
  • 25 2. Spezielle evolutionre Strategien (+1)- ES Vorstellung (+1)- ES = (P, , r, m, s, c d, c i, f, g, t) P = (x, ) I Population I = R n x R n >1Anzahl der Eltern r: I IRekombinationsoperator m: I IMutationsoperator s: IxI ISelektionsoperator c d, c i RSchrittweitenkontrolle f: R n RZielfunktion g j : R n RNebenbedingungen j {1,, q} t: IxI {0,1}Abbruchbedingung nun mehr als nur ein Elternteil wird wegen gestiegener Elternzahl bentigt
  • Folie 26
  • 26 2. Spezielle evolutionre Strategien (+1)- ES Arbeitsweise einer (+1)- ES die Einbindung einer Population fhrt zwangslufig zu einer anderen Vorgehensweise Population Evaluation Terminierung?Selektion I Selektion IIRekombination +Mutation Evaluation nun stehen mehrere Eltern zur Auswahl diese mssen auch wieder bewertet werden suche mir nun daraus potentielle Eltern aus weitere Selektion erforderlich
  • Folie 27
  • 27 2. Spezielle evolutionre Strategien (+1)- ES Arbeitsweise einer (+1)- ES der Rekombinationsoperator entscheidet dabei, von welchem Elternteil welcher Anteil bernommen wird dies geschieht mittels einer Zufallsvariable auf dem Intervall [0,1] Konvention: alle Eltern haben dasselbe Paarungsverhalten r ist diskret, da Komponentenwerte von den Eltern kopiert werden.
  • Folie 28
  • 28 2. Spezielle evolutionre Strategien (+1)- ES Arbeitsweise einer (+1)- ES Survival of the fittest Selektionsoperator entfernt das Schwchste Individuum dies kann entweder der Nachkomme oder ein Elternteil sein geschieht vor Produktion der neuen Generation der Rest arbeitet analog zur (1+1)- ES die dynamische Anpassung der Schrittweiten ist jedoch nicht gewnscht, da der Nachkomme mit niedriger Mutationsvarianz bevorzugt wird
  • Folie 29
  • 29 2. Spezielle evolutionre Strategien (+)- ES Vorstellung. wie die Schreibweise schon vermuten lsst: >1 Eltern >1 Nachkommen Selektion arbeitet also nun auf der Vereinigung von Eltern und Nachkommen Eltern berleben solange, bis sie komplett von einer besseren Generation Nachkommen berholt werden das am beste angepasste Individuum kann daher ewig berleben die Qualitt der besten Individuen kann sich von Generation zu Generation nicht verschlechtern damit sind jedoch Nachteile verbunden
  • Folie 30
  • 30 2. Spezielle evolutionre Strategien (+)- ES Nachteile ndert sich das Optimum mit der Zeit, so steckt die (+)- ES in der vorherigen Umgebung fest bei stranflligen Variablen passiert dasselbe (hufig in einer experimentellen Umgebung) ist / p f(x) opt (der Wahrscheinlichkeit fr eine erfolgreiche Mutation), so ist eine zustzliche Selektion erforderlich
  • Folie 31
  • 31 2. Spezielle evolutionre Strategien (,)- ES Vorstellung (+)- ES(, )- ES 1.Eltern berleben, bis sie komplett von einer Generation Nachkommen eingeholt werden. 2.Qualitt kann sich nicht verschlechtern 3.Es kann zu Stagnationsphasen kommen 4.Kann in einer optimalen Umgebung festhngen 1.Nur die Nachkommen bilden die Eltern der nchsten Generation begrenzte Lebenszeit 2.Es kann Rckschritte in der Qualitt geben 3.Stagnationsphasen werden vermieden 4.Kann sich auf neues Optimum einstellen
  • Folie 32
  • 32 2. Spezielle evolutionre Strategien (+)- ES und (, )- ES
  • Folie 33
  • 33 2. Spezielle evolutionre Strategien (+)- ES und (, )- ES Mutationen durch das Unterdrcken gro ausfallender Mutationen knnen starke Schwankungen vermieden werden Mutationsmechanismen der ES sind daher meistens klein ausfallende Mutationen
  • Folie 34
  • 34 2. Spezielle evolutionre Strategien (, )- ES Mutationen wesentlicher Unterschied: Strategieparameter t wird nun in die genetische Information aufgenommen und nicht durch eine Erfolgsregel (z.B. die 1/5 Regel von Rechenberg) kontrolliert somit gilt dann fr den Mutationsoperator: a i t = r(P t )= Genetischer Vorfahre m(a i t ) = a i t = (x t, t ) t = t expN 0 () x t = x t + N 0 ( t ) selbst wird nun ebenfalls verndert
  • Folie 35
  • 35 2. Spezielle evolutionre Strategien (, )- ES Beispiel: Marketing Grobe Beschreibung: man bringt ein Produkt auf den Markt wie verbreitet sich das Produkt? welche Werbemanahmen? welcher Anfangspreis? sobald das Produkt auf dem Markt ist: Konkurrenzprodukte, neue Marketingstrategien, Preisdruck durch Konkurrenten, etc. ZIEL: selbst- anpassender Algorithmus, der Entwicklungen des Marktes bercksichtigt
  • Folie 36
  • 36 2. Spezielle evolutionre Strategien (, )- ES Beispiel: MDO = Multidisziplinre Optimierung Einbindung verschiedener Disziplinen groe Anzahl an Parametern und Nebenbedingungen Ziel: Minimierung des Gewichts FE- Modell: Crash ~ 130.000 Elemente NVH ~ 90.000 Elemente unabhngige Parameter: 109, Anzahl der Simulationen: 3*28*10 Nebenbedingungen: 18, Anzahl CPU (Crash): 800, Anzahl CPU (NVH)=8 Monte- Carlo- Schema (, )- ES Laufzeit: 58 Stunden
  • Folie 37
  • 37 3. Modifikationen die bis hierhin verwendeten Strategien sind nicht die einzigen man hat auch noch optimale Konvergenzraten betrachtet, welche auf einem optimalen Verhltnis / arbeiten Nachteil: werden diese von einem lokalen Optimum angezogen, verringert sich ihre genetische Vielfalt um dies zu verhindern, kann man die Bevlkerung teilen: konstante Subpopulation: trgt ntzliches Wissen, erhlt minimale genetische Diversitt dynamische Subpopulation hier ist die globale Konvergenz nachprfbar
  • Folie 38
  • 38 3. Modifikationen Rekombinationstypen des Weiteren kann man verschiedene Rekombinationstypen betrachten auch hier gibt es wieder Vor- und Nachteile in der Diversitt und ber- Anpassung Schwefels Implementierung erlaubt 5 Rekombinationstypen: x a,i (A) keine Rekombination x a,i oder x b,i (B) diskret x i = (x a,i + x b,i )(C) intermedir x ai,i oder x bi,i (D) global diskret (x ai,i + x bi,i )(E) global intermedir
  • Folie 39
  • 39 3. Modifikationen Mutationen auch die Mutationen knnen noch anders betrachtet werden bislang waren die bevorzugten Suchrichtungen entlang der Achsen erfahrungsgem ist die beste Suchrichtung der Gradient, welcher nicht entlang der Achsen liegt ein gnstiges Fortschreiten wird durch korrelierte Mutationen erreicht
  • Folie 40
  • 40 3. Modifikationen Mutationen es wird ein zustzlicher Strategievektor eingefgt m(a i t )=a i t = (x, , ) = t exp N 0 () = t + N 0 () x = x t + N 0 (A) anschaulich bedeutet dies: Ellipsen stellen Bereiche gleicher Mutationswahr- scheinlichkeit dar 1. globale Schrittweite 2. individuelle Schrittweite 3. korrelierte Mutationen
  • Folie 41
  • 41 4. Schlusswort Evolutionre Strategien haben durchaus andere Eigenschaften und Fhigkeiten als Methoden, die mit Gradienten arbeiten grundstzlich gibt es die Gefahr, nach Auffinden eines lokalen Optimums dort zu verharren dies ist vorallem ein Manko von Gradientenverfahren bei evolutionren Strategien sind diese Gefahren deutlich reduziert somit ist die Wahrscheinlichkeit grer, ein Optimum zu finden oder sich diesem anzunhern
  • Folie 42
  • 42 4. Schlusswort auch wenn sie auf Grund der Laufzeiten nicht immer vorteilhaft sind, so knnen sie doch eine Laufrichtung fr andere Verfahren bieten bei multikriteriellen Optimierungsproblemen liefern sie auerdem neue Ideen oder Schwerpunkte fr die Optimierung
  • Folie 43
  • 43 5. Literatur A Survey of Evolution Strategies, Bck, Hoffmeister, Schwefel Evolutionary Strategies for Multidisciplinary Optimization, Bck (NuTech Solutions GmbH) diverse Internetseiten von Technischen Universitten mit dem Fachbereich Elektrotechnik, Bionik