40
1 Einführung in JavaNNS Version 1.1 SS2007 Inhalt Ende Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

Embed Size (px)

Citation preview

Page 1: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

1Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Kennlinie Lichtregelung in JavaNNSVersion 1.1

Ulrich Lehmann, Johannes Brenig, Michael Schneider

Page 2: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

2Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Inhalt

• Messaufbau

• Messwerte

• Netz erzeugen

• Pattern erzeugen und laden

• Control Panel

• Error Graph

• Weights

• Training des Netzes

• Darstellung in Excel

• Quellen

Page 3: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

3Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messaufbau

Usmax = 12V

Ue Ua

Solarzelle

GlühbirneUe = Eingangsspannung

Ua = Ausgangsspannung

Page 4: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

4Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messwerte der Kennlinie

Ua/V Ue/V0,1 0,1740,5 0,1740,9 0,2041 0,241

1,2 0,4441,3 0,6161,4 0,8411,5 1,0731,6 1,2961,7 1,551,8 1,772,2 2,5632,6 32,8 3,1633 3,27

3,2 3,3443,4 3,3983,6 3,4353,8 3,4714,2 3,52

Aus Ausarbeitung_KNN_Lichtregelstrecke

Page 5: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

5Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messwerte - normiert

Kennlinie der Lichregelungnormiert

0

0,1

0,2

0,3

0,4

0,5

0,6

0,7

0,8

0,9

1

0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1

Ua/V

Ue/

V

Ue/V

Diese Messwerte müssen für die Verwendung in JNNS normiert werden.-> sigmoide Aktivierungsfunktion-> Normierung auf ein Intervall von [0,05 0,95]

Ua/V Ue/V0,05 0,050,14 0,050,23 0,060,25 0,070,29 0,120,31 0,170,34 0,230,36 0,290,38 0,350,40 0,420,42 0,480,51 0,690,60 0,810,64 0,850,69 0,880,73 0,900,77 0,920,82 0,930,86 0,940,95 0,95

Page 6: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

6Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messwerte - normiert

:

min[ ]( ) max[ ] min[ ] min[ ]

max[ ] min[ ]

:

min[ ] 0,1

max[ ] 4,2

max[ ] 0,95

min[ ] 0,05

0,1( ) 0,95 0,05 0,05

4,2 0,1

aa a a

a a

a

a

a

a

Formel zur Normierung

x Uu x normU normU normU

U U

Beispiel

U

U

normU

normU

xu x

Page 7: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

7Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Aufteilung in Trainings- Validierung- und Testdaten

14 Trainingsdatensätze

4 Validierungsdatensätze

2 Testdatensätze

Ua/V Ue/V0,05 0,050,14 0,050,23 0,060,25 0,070,29 0,120,31 0,170,34 0,230,36 0,290,38 0,350,40 0,420,42 0,480,51 0,690,60 0,810,64 0,850,69 0,880,73 0,900,77 0,920,82 0,930,86 0,940,95 0,95

TrainingsdatenTestdatenValidierungsdaten

Kennlinie der Lichregelungnormiert

0,0

0,1

0,2

0,3

0,4

0,5

0,6

0,7

0,8

0,9

1,0

0,0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1,0

Ua/V

Ue

/V

Page 8: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

8Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Page 9: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

9Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Ausdehnung des Layer in x-Achse

Ausdehnung des Layer in y-Achse

Aktivierungsfunktion auswählen

Ausgabefunktion auswählen

Layertyp auswählen

Layer mit der gewählten Konfiguration erstellen (hier: Input-Layer)

Page 10: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

10Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

erzeugterInput-Layer

fortlaufende Nummerierung der Layer (automatisch)

Koordinaten der Unitsim Raum (automatisch fortlaufend)

Layer 2:Width 1Height 4Unit detail: - Hidden - Act_Logistic - Out_Identity

Page 11: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

11Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Layer 3:Width 1 Height 2Unit detail: - hidden - Act_Logistic - Out_Identity

Layer 4:Width 1Height 1Unit detail: - Output - Act_Identity - Out_Identity

Page 12: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

12Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Page 13: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

13Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Page 14: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

14Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Speichern des Netzes unter File> Save asNetwork name: z. B. Kennlinie.net

Page 15: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

15Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern erzeugen

Pattern-Datei kann mit Text-Editor bearbeitet werden

Aufbau der Kopfzeile ist zwingend einzuhalten

Bereitstellung der Datensätze gemäßdiesem Muster(hier: Trainingspattern)

Anzahl der Ausgabeneuronen

Anzahl der Eingabeneuronen

Page 16: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

16Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern erzeugen

Patterndatei mit vier Validierungsdatensätzen

Page 17: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

17Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern erzeugen

Patterndatei mit zwei Testdaten (nur Eingabewerteund keine Ausgabewerte!)

Page 18: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

18Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern-Dateien laden

Page 19: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

19Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern-Dateien laden

Alle drei erzeugten Patterndateien auswählen und öffnen

Page 20: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

20Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

Page 21: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

21Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

Trainingspattern und Validierungspattern auswählen

Page 22: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

22Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

zufällige Belegung der Gewichtezu Beginn des Trainings,um keine Symmetrie in den Gewichten zu erlangen

Festlegung des Intervalls,aus dem die zufälligen Werte für die Anfangsbelegung der Gewichte ausgewählt werden sollen

Page 23: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

23Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

Auswahl des Trainingsverfahrens

Lernrate 0,1 bis 0,9

Maximaler zulässiger Fehler

Anzahl der Lernschritte

Anzahl der Schritte nach denen validiert werden soll

Zufällige Wahl der Trainingsdatensätze

Vor dem Lernen müssen die Gewichte initialisiert werden, d. h. mit zufälligen Startwerten belegt werden

Mit „Learn All“ werden alle Trainingsdatensätze zum Training herangezogen. Es sind noch weitere Einstellungen vor dem Training notwendig!

Page 24: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

24Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Error Graph

Graphische Darstellung von Trainings- und Validierungsfehler

Page 25: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

25Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Weights

Graphische Darstellungder Verbindungsgewichte Entsprechend der Aktivierung

Page 26: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

26Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Weights

Zielneuron

Quellneuron

Die Gewichte sind noch nicht aktiviert.

Aktivierung desVebindungsgewichtesz. B. von Neuron 5 zu Neuron 6

Page 27: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

27Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Initialisieren der Gewichte

Page 28: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

28Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 29: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

29Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 30: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

30Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Kennlinie

0,0000

0,1000

0,2000

0,3000

0,4000

0,5000

0,6000

0,7000

0,8000

0,9000

1,0000

0,1000 0,2000 0,3000 0,4000 0,5000 0,6000 0,7000 0,8000 0,9000

Trainingsdaten Output nach 100 Cyclen Output nach 200 Cyclen

Output nach 500 Cyclen Output nach 1000 Cyclen Output nach 2000 Cyclen

Excel

Excel starten und Datei „kennlinie.xls“ laden

Page 31: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

31Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Excel

Aktualisieren der Daten in Excel

Page 32: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

32Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Excel

Die vom Netz erzeugten Output-Werte nach 100 Cyclen

Die Output-Werte aus dem Trainingsdatensatz.

Die Input-Werte aus dem Trainingsdatensatz

Page 33: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

33Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Excel

Page 34: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

34Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 35: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

35Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 36: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

36Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 37: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

37Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 38: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

38Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Aufgabe

• Reduzieren Sie die Anzahl der Neuronen des bestehenden Beispiels soweit wie möglich und visualisieren Sie die Ergebnisse in Excel. Verwenden Sie unterschiedliche

– Parametereinstellungen (z.B. Lernrate, …)

– Trainingsverfahren

– „extreme“ Architekturen

Page 39: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

39Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Quellen

• Software „JNNS incl. Handbuch“:http://www-ra.informatik.uni-tuebingen.de/software/

• Software „Java“:http://www.java.com/de

• „Simulation neuronaler Netze“ von Andreas Zell

• Vorlesungsskript Prof. Lehmann

Page 40: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

40Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Vielen Dank für Ihre

Aufmerksamkeit !