5. Klassifikation und Approximation durch ein Multilayer Perzeptron (MLP)

1. Output Input 5. Klassifikation und Approximation durch ein Multilayer Perzeptron (MLP) Jörg Krone, Ulrich Lehmann, Hans Brenig, Oliver Drölle 5. Klassifikation und Approximation mit MLP

2. Inhalt • Einfaches Perzeptron am Beispiel künstliches Auge • Klassifikationsleistung für Muster als Funktion der Layerzahl • Approximation von Kennlinien • Ergebnis der Approximation einer technischen Kennlinie 5. Klassifikation und Approximation mit MLP

3. Einfaches Perzeptron am Beispiel künstliches Auge Aufgabenstellung: Erkennung des Musters auf der Retina 5. Klassifikation und Approximation mit MLP

4. Realisierung mit Perzeptron • Erkennung des Musters auf der Retina • Perzeptron: dreilagig • Aktivierungsfunktion: binäre Funktion für Ebene 0 und 1. Eingabeschicht: binär (0,1) 5. Klassifikation und Approximation mit MLP

5. Klassifikationsleistung für Muster als Funktion der Layerzahl • durch die Erhöhung der Layerzahl lassen sich komplexere Figuren besser klassifizieren. • durch die Verwendung von stetigen Aktivierungs-funktionen werden die Kanten geglättet 5. Klassifikation und Approximation mit MLP

6. Approximation von Kennlinien Aufgabenstellung: Das statische Verhalten eines technischen Systems, gegeben durch die Kennlinie ua = f(ue) soll gelernt werden 5. Klassifikation und Approximation mit MLP

7. MLP für Approximation von Kennlinien • Lernen und approximieren einer unbekannten Kennlinie • Perzeptron: drei- oder vierlagig, • Aktivierungsfunktion: Eingabeschicht: Identität (linear); Schicht 2 und 3: sigmoide Funktion; Ausgangsschicht: Identität (linear). 5. Klassifikation und Approximation mit MLP

8. Schema der Approximationvon Kennlinien Output • Nach dem Training wird die unbekannte Funktion (dicke schwarze Linie) durch die sigmoiden Funktionen der inneren Schichten (dünne Linien) stückweise approximiert • die Anschmiegung an die vorgebenene Kennlinie erfolgt durch die Gewichtsänderung im Training • je höher die Frequenz der Kennlinie, desto mehr Schichten sind erforderlich Input 5. Klassifikation und Approximation mit MLP

9. Ergebnis der Approximation Ausgangswerte Nach 1000 Trainingsepochen Nach 2000 Trainingsepochen 5. Klassifikation und Approximation mit MLP

10. Bewertung der Approximationsleistung • nach dem Training wird die unbekannte Funktion (rote Linie) durch die sigmoiden Funktionen der inneren Schichten (blaue Linie) stückweise approximiert und aufsummuiert vom Ausgangsneuron • die Kennlinie wird nach etwa 2000 Trainings-epochen mit guter Näherung wiedergegeben • alle Trainings-, Validierungs- und Testdaten wurden vor dem Training normiert 5. Klassifikation und Approximation mit MLP

11. Fragen Fragen Sie bitte! 5. Klassifikation und Approximation mit MLP

12. Danke Vielen Dank für Ihr Interesse! 5. Klassifikation und Approximation mit MLP