1.23k likes | 1.42k Views
nieformalnie: Od czegoś trzeba zacząć. formalnie: Budowa i zasada funkcjonowania sztucznych sieci neuronowych. Dorota Cendrowska. Plan wykładu. „siedlisko” inteligencji ludzkiej matematyczny model neuronu interpretacja parametrów neuronu perceptron/neuron (?)
E N D
nieformalnie: Od czegoś trzeba zacząć... formalnie: Budowa i zasada funkcjonowaniasztucznych sieci neuronowych Dorota Cendrowska
Plan wykładu • „siedlisko” inteligencji ludzkiej • matematyczny model neuronu • interpretacja parametrów neuronu • perceptron/neuron (?) • sieci jednokierunkowe vs perceptron • zastosowania sieci jednokierunkowych • testowanie sieci jednokierunkowych
Inspiracje • neuron biologiczny „ Błona komórkowa aksonu i ciała neuronu zawiera kanały jonowe bramkowane elektrycznie (bramkowane potencjałem), które pozwalają neuronowi na generowanie i propagację (przesyłanie) impulsu elektrycznego (potencjał aktywacyjny). Te impulsy są wytwarzane i przesyłane przez jony obdarzone ładunkiemtakie jak sód (Na+), potas (K+), chlor (Cl-) oraz wapń (Ca2+).
Model neuronu • wejścia
Model neuronu • wejścia • NET
Model neuronu • wejścia • NET • funkcja aktywacji • wartość wyjścia
Funkcje aktywacji • dyskretne ?
Funkcje aktywacji • dyskretne (unipolarne)
Funkcje aktywacji • dyskretne (bipolarne)
Neuron neuronowi (nie)równy • schemat neuronu: • alternatywnie (literatura):
Alternatywy cd.... sztuczny neuron w literaturze • schemat neuronu w piśmiennictwie: L. Rutkowski, Metody i techniki sztucznej inteligencji
Alternatywy cd.... sztuczny neuron w literaturze • schemat neuronu w piśmiennictwie: St. Osowski, Sieci neuronowe w ujęciu algorytmicznym
Alternatywy cd.... sztuczny neuron w literaturze • schemat neuronu w piśmiennictwie: J. Korbicz, A. Obuchowicz, D. UcińskiSztuczne sieci neuronowe, podstawy i zastosowania
Funkcje aktywacji • ciągłe unipolarne — sigmoidalne • ciągłe bipolarne — tangensoidalne
Funkcje aktywacji • ciągłe sigmoidalne
Funkcje aktywacji • ciągłe sigmoidalne
Funkcje aktywacji • ciągłe sigmoidalne ?
Funkcje aktywacji • ciągłe sigmoidalne • ciągłe tangensoidalne
Interpretacja geometryczna [w1, w2] [-3, 1] [-3, 1]
Dychotomizator: „ręczna robota” • ? [-5, 2]
Dychotomizator: „ręczna robota” [w1, w2]=[-2, -5] [w1, w2]=[2, 5] [-5, 2]
Dychotomizator: „ręczna robota” [w1, w2]=[-2, -5] [w1, w2]=[2, 5]
Perceptron… • perceptron: • neuron o dyskretnej funkcji aktywacji • zastosowanie: klasyfikacja • zdolność do uogólniania (?)
Perceptron… • perceptron: • neuron o dyskretnej funkcji aktywacji • zastosowanie: klasyfikacja • zdolność do uogólniania (?)
sieć jednokierunkowa jednowarstwowa wejście: warstwa przetwarzająca wyjście:
Przetwarzanie... wejście: warstwa przetwarzająca wyjście:
Przetwarzanie... wejście: warstwa przetwarzająca wyjście:
Przetwarzanie... wejście: warstwa przetwarzająca wyjście:
Uczenie… wzorzec uczący: zbiór uczący:
Uczenie… wzorzec uczący: otrzymane wyjście: korekta wag*: * metoda perceptronowa lub metoda delty
Neuron (perceptron) i klasyfikacja zdolność do uogólniania (?)
Neuron (perceptron) i klasyfikacja zdolność do uogólniania (?)
Nieoczekiwany kłopot... Minsky i Papert (1969): udowodnili ograniczone możliwości sieci jednowarstwowych (perceptronów)
sieć jednokierunkowa wielowarstwowa wejście: przynajmniej jednawarstwa ukryta: warstwa wyjściowa wyjście:
Przetwarzanie... wejście: przynajmniej jednawarstwa ukryta: warstwa wyjściowa wyjście:
Przetwarzanie... wejście: przynajmniej jednawarstwa ukryta: warstwa wyjściowa wyjście: