1 / 16

Neuronale Netze (1)

Neuronale Netze (1). Isabel Schwende 16.5.2011. Neuronen. Etwa 100 Milliarden Nervenzellen im Gehirn Jedes Neuron ist mit bis zu 10.000 weiteren Neuronen verbunden Neuronen sind in bis zu sechs Schichten hierarchisch angeordnet. Vereinfachte Struktur. Dendriten. Synapsen. Axonhügel.

zenaida-english
Download Presentation

Neuronale Netze (1)

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Neuronale Netze (1) Isabel Schwende 16.5.2011

  2. Neuronen • Etwa 100 Milliarden Nervenzellen im Gehirn • Jedes Neuron ist mit bis zu 10.000 weiteren Neuronen verbunden • Neuronen sind in bis zu sechs Schichten hierarchisch angeordnet

  3. Vereinfachte Struktur Dendriten Synapsen Axonhügel Zellkörper Zellkörper Axon

  4. Signalübertragung falls Schwellwert überschritten

  5. Mathematisches Modell x₁ w₁ ∑ w₂ σ(Σ) y x₂ w₃ x₃

  6. Einschichtige Netzwerke • Formel: • S=∑ w*x • y=σ(S) Gewichte n Signale i i i=1 Aktivierungsfunktion Ausgabe

  7. Aktivierungsfunktion σ • Sie definiert die Aktivität das Neurons • Dabei gelte: • σ(S)=1 bedeute, dass das Neuron aktiv sei • σ(S)=0 bedeute, dass das Neuron nicht aktiv sei • Idee: Treppenfunktion • σ(S)=1, falls S ≥ Schwellwert • σ(S)=0, falls S < Schwellwert Problem: Nicht differenzierbar!

  8. Sigmoidfunktion • Beschränkte und differenzierbare reelle Funktion • Für x<0 sig(x)` ≤ 0 und für x>0 sig(x)` ≥ 0 • Wendepunkt im Ursprung • Beispiele: • sig(x)=1/(1+exp(-x) ) • tanh(x) • x/√(1+x²)

  9. Beispiel • OR-Funktion Schwellwert 0,5 1 x₁ ∑ σ(∑) y 1 x₂

  10. Mehrschichtige Netze: Modell Eingabe-Signal Ausgabe-Signal z x M y D K z₂ x₁ y₁ z₁ Versteckte Einheit

  11. Mehrschichtige Netzwerke: Formel (1) • a = ∑ w * x + w • z = h(a ) Für j=1,…,M: Oberer Index: aktuelle Schicht D (1) (1) ji j i j0 i=1 Biases Aktivatoren Eingabe Gewichte Versteckte Einheit j j Aktivierungsfunktion

  12. Mehrschichtige Netzwerke: Formel(2) • Ausgabe-Aktivatoren: • a = ∑ w * z + w • k=1,…,K Anzahl an Ausgabe-Signalen y =σ(a ) M Aktuelle Schicht (2) (2) kj k0 k j j=1 Biases Gewichte Versteckte Einheiten k k Ausgabe

  13. Mehrschichtige Netze: Formel(3) • Formel zusammengefasst: • y (x,w)=σ(∑ w h(∑ w * x + w ) + w ) M D (2) (1) (1) (2) kj i k ji j0 k0 j=1 i=1 a j z j

  14. Modell für vereinfachte Formel x z D M y K x₁ z₁ y₁ x₀ z₀

  15. Mehrschichtige Netzwerke: Formel(4) • Vereinfachte Formel ohne Bias: • y (x,w)=σ(∑ w h(∑ w * x ) ) • wobei auf x₀=1 gesetzt wird. M D (2) (1) k kj ji i j=0 i=0 Zusätzliche Eingangs-Variable

  16. Beispiel XOR-Funktion Schwellwerte: 1 2 x₂ z₁ 2 -2 y₁ -2 2 x₁ z₂ 2

More Related