1 / 30

NEURONSKE MRE ŽE (Neural Networks)

NEURONSKE MRE ŽE (Neural Networks). Ivan Živković. POJAM. Veštačka neuronska mreža je paradigma obrade informacija kakvo vrše biološki neuronski sistemi.

afra
Download Presentation

NEURONSKE MRE ŽE (Neural Networks)

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. NEURONSKE MREŽE(Neural Networks) Ivan Živković

  2. POJAM Veštačka neuronska mreža je paradigma obrade informacija kakvo vrše biološki neuronski sistemi. Veštačke neuronske mreže koriste principe ljudskog mozga i njegove strukture, kako bi razvile strategiju procesiranja podataka. Suština je u masovnoj paralelnoj obradi podataka.

  3. ISTORIJSKI RAZVOJ 1943. Warren McCulloch i Walter Pitts uveli prvi, jednostavni matematički model neurona 1949. Donald Hebb - “Organizacija ponašanja” (The organisation of behaviour) 1951. Marvin Mynski dizajnirao prvi neurokompjuter Snark (od 40 neurona) 1957. Frank Rosenblatt je izumeo perceptron Carpenter i Grossberg - ART mreža (Adaptive Resonance Theory) konferencija 1987. u San Dijegu, stručni časopisi Neural Networks, Neural Computation (1989)

  4. BIOLOŠKA OSNOVA

  5. BIOLOŠKA OSNOVA

  6. BIOLOŠKA OSNOVA

  7. BIOLOŠKA OSNOVA

  8. BIOLOŠKA OSNOVA

  9. ANALOGIJA DELOVA BIOLOŠKOG I VEŠTAČKOG NEURONA Telo neurona Sinapse Akson Potencijal outputa Potencijal inputa Dendriti Aktivacijska funkcija Težinski koeficijenti Zbir Vrednost inputa Vrednosti outputa

  10. Osnove neuronskih mreža Neuron – prima ulaze, procesira ih i proizvodi jedan izlaz

  11. Osnove neuronskih mreža Mreža – sastoji se od neurona grupisanih u slojeve

  12. Procesiranje informacije u mreži xi (i = 1, 2, ... , m) – ulazne veze, vrednosti ulaza koje neuron prima (signali ili potencijali ulaua kod biološkog neurona); wki (i = 1, 2, ... , m) – tzv. težinski koeficijenti – weights (sinapse kod biološkog neurona); uk– zbirna vrednost, koja se dobija sabiranjem ponderisanih ulaza (telo prirodnog neurona); a(.) – aktivacijska funkcija (akson kod biološkog neurona); θK – prag aktivacije ; yi – vrednost izlaza tj. outputa (potencijal izlaza kod biološkog neurona).

  13. ŠEMA VEŠTAČKOG NEURONA

  14. Funkcija transformacije Određuje da li rezultat funkcije sumiranja (interna aktivacija) može da proizvede izlaz. Linearna i nelinearna Nelinearnost je od izuzetnog značaja Jedna od najpoznatijih je sigmoidalna funkcija

  15. Sigmoidna (logistička) funkcija b – parametar nagiba

  16. ARHITEKTURA (TOPOLOGIJA) NEURONSKE MREŽE Jedan ili više slojeva Sa više slojeva: ulazni, skriveni, izlazni Složenije neuronske mreže mogu imati više skrivenih slojeva, povratne petlje i elemente za odlaganje vremena, koji su dizajnirani da omoguće što efikasnije odvajanje važnih osobina ili šema sa ulaznog nivoa.

  17. Neuronska mreža sa tri sloja(Multilayer Perceptron)

  18. OSTALE PODELE NEURONSKIH MREŽA • Prema vrstama veza: • slojevite • potpuno povezane • celularne Prema smeru prostiranja informacija: • Feedforward (nerekurzivne, nerekurentne ili nepovratne) • Feedback ( rekurzivne, rekurentne ili povratne)

  19. OSTALE PODELE NEURONSKIH MREŽA Rekurentna mreža

  20. Sposobnost učenja • Prema tipu učenja u mreži, algoritmi neuronskih mreža se dele na: • Nagledano (supervised) učenje • Nenagledano (unsupervised) učenje * Npr. predviđanje ponašanja kupaca u odnosu na neki proizvod sa poznatim prošlim akcijama kupaca ili bez poznatih prošlih akcija.

  21. Sposobnost učenja Treniranje sistema Backpropagation algoritam (algoritam povratnog prostiranja) Cilj je da se procesuira veliki broj slučajeva kroz neuronsku mrežu u fazi treninga, kako bi se obezbedio najviši kvalitet izlaza u odnosu na postojeće inpute

  22. Backpropagation algoritam Najčešće korišćen algoritam učenja Lak za implementaciju Počevši od izlaznog sloja, razlika (greška) između željenih i stvarnih izlaza računa se da bi se na osnovu nje popravile vrednosti težina u prethodnom sloju

  23. Backpropagation algoritam

  24. Backpropagation algoritam 1. Inicijalizacija težina (slučajna) 2. Učitavanje ulaznog vektora i željenog izlaza 3. Propuštanje ulaznog vektora kroz mrežu i dobijanje izračunatog izlaza 4. Izračunavanje greške 5. Podešavanje težina idući unazad od izlaznog sloja ka skrivenim slojevima

  25. Prikupljanje i priprema podataka Kada je problem jasno definisan potrebno je prikupiti podatke Set podataka sastoji se iz određenog broja slučajeva (vektora), od kojih svaki sadrži određeni broj vrednosti za ulazne i izlazne varijable Vrsta ulaznih podataka određuje topologiju i algoritam učenja Podaci moraju biti u numeričkom obliku

  26. Trening i testiranje mreže Mreži se prezentiraju podaci za treniing i ona uči sve dok nije u stanju da proizvede izlaz koji poštuje unapred određenu toleranciju Testiranje se vrši na podacima za testiranje Testiranje omogućava proveru valjanosti funkcionisanja

  27. PROBLEMI NA KOJE SE MOGU PRIMENITI NEURONSKE MREŽE kod kojih postoji mnogo prošlih reprezentativnih primera; kod kojih se varijable mogu kvantitativno izraziti; kod kojih standardne statističke metode nisu pokazale uspeh, tj. pojava se ne može predstaviti nekim linearnim modelom; kod kojih je ponašanje pojave često neizvesno, podaci nepotpuni, te je potreban robustan alat.

  28. PRIMENA NEURONSKIH MREŽA U EKONOMIJI Procena budućih uslova (predviđanje cena akcija, obveznica, finansijskih derivata i sl.) Klasifikacija entiteta zasnovana na istorijskim ili izmerenim podacima (klasifikacija akcija u grupe: kupi, prodaj, zadrži; klasifikacija hipotekarnih kredita na dobre i loše)

  29. ZAKLJUČAK Prednost neuronskih mreža u odnosu na statističke tehnike, kada su u pitanju nelinarni modeli Predstavljaju robustan alat, pogodan za primenu u uslovima neizvesnosti i nepotpunih podataka Kao i kod ostalih tehnika, od kvaliteta ulaznih podataka u velikoj meri zavisi kvalitet outputa (garbage in  garbage out)

  30. HVALA NA PAŽNJI !!!

More Related