39
Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung „Evolutionsstrategie I“ Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung Weiterverwendung nur unter Angabe der Quelle gestattet

Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Embed Size (px)

Citation preview

Page 1: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Ingo Rechenberg

PowerPoint-Folien zur 7. Vorlesung „Evolutionsstrategie I“

Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur

(1, ) - ES mit mutativer Schrittweitenregelung

Weiterverwendung nur unter Angabe der Quelle gestattet

Page 2: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

ggg zxx EN

Algorithmus der (1 + 1) – ES mit 1/5 -Erfolgsregel

in der originalen Form

1Egx

)() ENN (für ggg QQ xxx sonst E

gx

1,5 für We > 1 / 5

eiltnormalvert -1,0 / )( ngz

1,5 für We < 1 / 5

Nach jeweilsn Generationen

Page 3: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Versagen der 1/5-Erfolgsregel

am spitzen Grat

Elter

kleiner als 1/5 Kreisumfang

We < 1/5

We < 1/5

/1,5

Erfolgsgebiet

Page 4: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Nicht erlaubter Bereich

Optimierung mit Randbedingung

Versagen der 1/5-Erfolgsregel !

E

Page 5: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Ideale Funktion in der mathematischen Welt

Rauher Berg in der experimentellen Welt

Versagen der 1/5-Erfolgsregel !

Page 6: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

2 3 4 57 8

69

Fehlerhafte Messung:

Q = 6 statt Q = 4

Fehlmessung bei Störungen

We < 1/ 5

/1,5

We < 1/ 5…

Erfolgsgebiet

Q =

E

~

Page 7: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Die (1 + 1)-ES kann an Unstetigkeiten versagen

… und sie ist unbiologisch !

Page 8: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

We > 1/5We < 1/5

Mutationen

Biologisch unmöglich

Kosmische StrahlungWe ?

Page 9: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

(1 + 1)-ES

DARWINs Theorie in maximaler Abstraktion

Von der

Page 10: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

(1 , )-ES

ES mit mehr als einem Nachkommen

= 6

zur

Page 11: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Basis-Algorithmus der (1, ) - Evolutionsstrategie

1E1N zxx gg

2E2N zxx gg

zxx ggEN

eiltnormalvert)1,0(,, /21 nzzz n

ggNBE

1 xx )(),(),()( NNNNB 21minmax/ gggg QQQQ xxxx

Kopiervorgang mit Fehler

Page 12: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

DNA PolymeraseDNA

Technischer und biologischer Kopierer

Page 13: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Erzeugung fehlerhafter Kopien

Page 14: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Wenn ich mich nicht an meinem eigenen Schopfe

herausgezogen hätte

Baron von Münchhausen

Ein Lebewesen kopiert sich selbst !

Page 15: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

DNA-Kopierer

DNA

Fehlerhaftigkeit des DNA-Kopierers ist Ursache von Mutationen

Text

Page 16: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

DNA-Kopierer

DNA

Hat Kopierer hergestellt

Genetische Individualität der Mutabilität

Text

Page 17: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

DNA-Kopierer

DNA

Hat Kopierer hergestellt

Vererbbarkeit der Mutabilität

Text

Page 18: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Mutation

DNA-Kopierer

DNA

Hat Kopierer hergestellt

Vererbbarkeit der Mutabilitätund Mutation der Mutabilität

„Knackpunkt“ der Evolutionsstrategie

Text

Page 19: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Basis-Algorithmus der (1, ) - Evolutionsstrategie

1E1N zxx gg

2E2N zxx gg

zxx ggEN

eiltnormalvert)1,0(,, /21 nzzz n

ggNBE

1 xx )(),(),()( NNNNB 21minmax/ gggg QQQQ xxxx

Schrittweiten derNachkommen gleich

Page 20: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Basis-Algorithmus der (1, ) - Evolutionsstrategie

11NE1N zxx ggg

22NE2N zxx ggg

zxx gggNEN

eiltnormalvert)1,0(,, /21 nzzz n

ggNBE

1 xx )(),(),()( NNNNB 21minmax/ gggg QQQQ xxxx

Schrittweiten derNachkommen

verschieden(Keimzellen eines Elters !)

Page 21: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Basis-Algorithmus der (1, ) - Evolutionsstrategie

1g11 NEN zxx gg

22NE2N zxx ggg

zxx gggNEN

eiltnormalvert)1,0(,, /21 nzzz n

ggNBE

1 xx )(),(),()( NNNNB 21minmax/ gggg QQQQ xxxx

ggNBE

1

Vererbung der Mutabilität

Page 22: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Algorithmus der (1, ) - Evolutionsstrategie mit MSR

11NE1N zxx ggg

22NE2N zxx ggg

zxx gggNEN

eiltnormalvert)1,0(,, /21 nzzz n

ggNBE

1 xx )(),(),()( NNNNB 21minmax/ gggg QQQQ xxxx

ggNBE

1

1E1N gg

2E2N gg

ggEN

eiltnormalvert schlogarithmi

Mutation der Mutabilität

Vererbung der Mutabilität

Page 23: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

MSR mit ES-),1(

8

Mutative Schrittweiten-Regelung

Page 24: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

? ? ?

ich bin Spitze

Einschätzung des Kletterstils

im Solo- und im Gruppenklettern

Page 25: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Lineare Theorie der (1, ) - ES

= Linienfortschritt

Q steigt monoton in x-Richtung an

Q ändert sich nicht in y-Richtung

y-Mutationen sind also neutral;sie tragen nicht zum Fortschritt bei

xy E

Page 26: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

u u+u x

uu

ux

t xxwW d)(1

1

d)(d)(,2,1

u

x

t

uu

ux

t xxwxxwW

222

1

e2

1)(

x

t xw

WWW 32

1

d)(

u

x

t xxw

Größte von normalverteilten Zufallszahlen

Der 1. Nachkomme liegt hierund der 2. Nachkomme hierund der 3., 4., … Nachkomme hier

Der 2. Nachkomme liegt hierund alle anderen liegen hierund so fort

Page 27: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Übergang zur Wahrscheinlichkeitsdichte

1

d)(d)(,2,1

u

x

t

uu

ux

t xxwxxwW

1

d)(d)(1lim0

,2,1

u

x

t

uu

ux

tu

xxwxxwwu

1

d)()()(

u

x

tt xxwuwuw

Page 28: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Häufigkeitsverteilung für die Größte von normalverteilten Zufallszahlen

1

2erf1

21

2)(

222

1

e

u

uwu

-1-2 0 1 2 3 4 5

u

w

0,2

0,4

0,6

1,0

0,8

5

10

20u(

)duuwu

u

)(,1

duuwuu

01 )(

Mittelw

ertbild

ungen

!

Page 29: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

duuwuu

)(,1

0

d2

erf121

2

1222

1

,1 eu

u

uu

u

,1,1 c zzzcz

z d)erf(1e2

2 1

1,10

2

mit

duuwuu

01 )(

Lineare Fortschrittsgeschwindigkeit

Page 30: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Die Fortschrittsbeiwerte der Komma-Strategie (exakte Werte)

01,1 c

5642,01

2,1

c

8463,02

33,1

c

0294,12arctan6

4,1

c

1630,112arctan62

55,1

c

,1lin,1 c

40,0lin11

21/

Page 31: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Die Fortschrittsbeiwerte der Plus-Strategie (exakte Werte)

3989,02

111

c

6810,02

11

2

121

c

8881,02arctan2

2

121

23

2

131

c

0458,12

321

2

141

c

Page 32: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Fortschrittsvergleiche der linearen Theorie

(Plus versus Komma-Strategie)

111,1 0

212,1 828,0

313,1 953,0

414,1 984,0

111141 621,22

321

4 für1,1

?

Page 33: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Parallele und serielle Fortschrittsgeschwindigkeit

Nachkommender Zahl Weggter zurückgele

seriell

enGenerationder Zahl Weggter zurückgele

parallel

/parallelseriell

262,04046,1 /seriell 41

3989,012

1 /seriell 11

Text

Page 34: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Ende

www.bionik.tu-berlin.de

Page 35: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Fehlerhaftigkeit des DNA-Kopieres heißt nicht, dass dieser Fehler selbst erzeugt! Kopierfehler werden ursächlich durch Umwelteinflüsse (kosmische Strahlung, thermisches Rauschen, chemische Agenzien) erzeugt. Der biologische Kopierer kann aber diese Fehler erkennen und korrigieren. Je größer die Korrigierleistung des DNA-Kopierers ist, um so kleiner ist die übrig bleibende Zahl der Mutationen (Mutationsrate). Daraus folgt: Die Mutationsfreudigkeit eines Organismus ist eine inhärente Eigenschaft des jeweiligen Lebewesens.

Page 36: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Der Kopierer wird nicht von außen zu Verfügung gestellt (wir kaufen uns einen Kopierer in einem Geschäft), sondern der biologische Kopierer (die DNA-Polyme-rase) wird von dem Lebewesen selbst hergestellt. Die Bauanweisung steht irgend-wo in dem lange DNA-Erbmolekül. Daraus folgt, dass jedes Lebewesen seinen individuellen Kopierer (z. B. mit unterschiedlicher Kopiergenauigkeit) besitzt, so wie jeder Mensch sich durch seine individuelle Haarfarbe auszeichnet. Deshalb ordnen wir in dem Algorithmus der (1, )-ES jedem Nachkommen eine andere Kopierge-nauigkeit, sprich eine andere Mutationsschrittweite zu.

Page 37: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Aus der Tatsache, dass die Bauanleitung für den DNA-Kopierer eines Lebewesens im Erbmolekül niedergeschrieben ist, folgt die Vererbbarkeit dieses Merkmals. Die individuelle DNA-Sequenz für die DNA-Polymerase wird auf die Nachkommen über-tragen. Dies bedeutet für den Evolutionsalgorithmus, dass im abschließenden Selektionsschritt einer Generation nicht nur der Objektvariablenvektor x des besten Nachkommen, sondern auch die Mutationsschrittweite des besten Nachkommen an den Elter der neuen Generation übergeben wird.

Page 38: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Alles, was im DNA-Molekül niedergeschrieben ist, kann durch eine Mutation verän-dert werden. Eine Mutation des Abschnitts, der die Bauanleitung für den Kopierer enthält, ändert die Arbeitsweise des Kopierers. Der Kopierer kann genauer oder ungenauer arbeiten. Er kann Fehler mehr oder weniger korrigieren. Damit wird die Mutationsfreudigkeit (sprich Mutationsschrittweite) eines Organismus mutativ ver-ändert. Im Algorithmus der Evolutionsstrategie wird der Mutationsmechanismus ergänzt, indem nicht nur der Objektvariablenvektor x, sondern auch die Strategie-variable einer Mutation unterworfen wird. Mutationsschrittweiten müssen multipli-kativ verändert werden (eine Verdopplung der Schrittweite muss genauso häufig auftreten wie eine Halbierung. Deshalb werden die Schrittweitenmutationen mit einer logarithmischen Normalverteilung erzeugt.

Page 39: Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung

Die biologische Evolution arbeitet parallel. Es bedeutet keinen zusätzlichen Auf-wand, wenn in einem gegebenen Lebensraum statt mit einem Individuum mit Tau-senden von ihnen experimentiert wird. In der Evolution zählt der Fortschritt pro Generation (parallele Fortschrittsgeschwindigkeit). Ganz anders ist es bei der An-wendung der Evolutionsstrategie auf einem gewöhnliche Computer. Hier müssen die Nachkommen einzeln nacheinander durchgerechnet werden. Für die Compu-teranwendung muss die Fortschrittsgeschwindigkeit auf die Zahl der Nachkommen bezogen werden. Diese serielle Fortschrittsgeschwindigkeit ergibt sich, indem die parallele Fortschrittsgeschwindigkeit zusätzlich durch dividiert wird. Nur wenn in der Zukunft sich die Parallelrechner durchsetzen, ist die biologische Bewertung des Fortschritts auch bei der Computeranwendung der Evolutionsstrategie richtig.