230 likes | 364 Views
Win2Win. since 2002. Dominik Olšavský – prezident firmy Ladislav Dudáš - programátor Valentín Maták - analytik Miroslav Mráz - analytik Branislav Beniskovský - webmaster Marián Ščigulinský – promo manažér. Členovia firmy. Obsah. 1. Úvod 2. Back Propagation of Error (BPE)
E N D
Win2Win since 2002
Dominik Olšavský – prezident firmy Ladislav Dudáš - programátor Valentín Maták - analytik Miroslav Mráz - analytik Branislav Beniskovský - webmaster Marián Ščigulinský – promo manažér Členovia firmy
Obsah 1. Úvod 2. Back Propagation of Error (BPE) 3. Evolučné algoritmy 4. Dáta a analýza dát 5. Grafy č. 1 – 6 6. Teoretický postup experimentu 7. Popis programu 8. Výsledky 9. Budúcnosť projektu 10. Literatúra 11. Záver
Úvod Úloha : predikcia záťaže energetických sieti Ako : pomocou predikcie, [y(t+1) z y(t), y(t-1), ..., y(0)] chceme vyjadriťvýstup v ďalšom kroku (vo všeobecnosti v čase t+n) na základe predchádzajúcich vstupov Čo sme použili:na predikciu BPE na navrhnutie optimálnej NNEA
Back Propagation of Error(BPE) • učenie so spätným šírením chyby • Postup • na vstup privedieme signál • prešírime ho neurónovou sieťou • vypočítame deltu na výstupných neurónoch • vypočítame deltu na ostatných neurónoch • zmeníme váhy podľa delta
Evolučné algoritmy (EA) • Popis funkcie EA • Inicializácia • 1.inicializácia množiny bodov • 2.vyhodnotenie množiny bodov • 2. Reprodukcia • 1.selekcia rodičov • 2.generovanie potomkov • 3. vyhodnotenie vhodnosti potomkov • 3. Náhrada populácie
Dáta a analýza dát - dáta za roky 1999 - 2002 - trénovacia množina 1999 - 2001 - testovacia množina, rok 2002 - dáta za rok 2003 sa nepodarilo zohnať Príprava - analýza dát prebehla na rokoch 99-01 - normovanie dát do intervalu 0,1 - transformovanie do správneho formátu
Graf č.1 Priemerne záťaže za jednotlivé dni pri 0 ºC (vidíme že pracovne dni sú si podobné,podobne vyzerajú i pri iných teplotách)
Graf č.2 Záťaž pri rôznych teplotách v rovnaký deň, pričom teplota v predchádzajúci deň bola rovnaká (vidíme, že v deň s nižšou teplotou je vyššia záťaž)
Graf č.3 Porovnanie sviatku a víkendu (vidíme že sviatky sa podobajú na víkendové dni, skôr na nedeľu ako sobotu)
Graf č.4 Porovnanie priemerne štvrťročné a priemerné záťaže za obdobia
Graf č.5 Ročné záťaže
Graf č.6 Nárast medziročnej spotreby
Teoreticky popis experimentu 1 Teoréma: NN s 2 skrytými vrstvami postačuje na aproximáciu akejkoľvek nelineárnej po častiach derivovateľnej funkcie - z toho sme navrhli že budeme navrhovať NN s 2 skrytými vrstvami
Teoreticky popis experimentu 2 • hľadanie optimálnej topologie NN z hľadiska • počtu neurónov v skrytých vrstvách • jedinec kóduje NN na 16 bitoch • - 2 * unsigned char • prvý kóduje počet neur. v 1.skrytej vrstve • - druhy kóduje počet neur.v 2.skrytej vrstve • teda v skrytých vrstvách môže byt maximálne • 255 neurónov
Teoreticky popis experimentu 3 • ak niektorá vrstva mala obsahovať 0 neurónov, • NN sme priradili fitness 0 0 1 0 0 1 0 1 0 0 0 1 1 1 0 0 1 • fitness počítaná pomocou MAPE funkcie • následné vypočítaný priemer MAPE chyb pre všetky vzorky
Teoreticky popis experimentu 4 • počet učiacich cyklov cyklov pevný 2000 • - vstupy do NN kódovaných Szatmariho kódovaním • - 24 hodnôt záťaži za predchádzajúci deň • - 3 kódovanie dna (Deň-1) (Deň)(Deň+1) • - je 1 ak je to sviatok,So,Ne • - je 0 ak je to Po,Ut,St,Št,Pia • - výstupy • - 24 hodnôt záťaži v nasledujúci deň
Popis programu • program je konzolová aplikácia • neurónová sieť je v DLL • evolučný algoritmus je rovnako v DLL • spojenie NN a EV je v konzolovej aplikácii • - jeden experiment trval 5 dni
Výsledky Výstupom programu bolo, že najlepšia NN je pri topológii 28 - 24 - 22 - 24 - zmena gama pevná cykly: gama 500 0,8 500 0,4 500 0,2 500 0,1 - MAPE chyba na testovacej množine: 2.981%
Budúcnosť projektu • z časového hľadiska sme stihli len • jeden experiment • pre dlhšie skúmanie, je potrebne vykonať • viacero experimentov s rôznymi parametrami EA • - navrhnutie i ďalších parametrov NN pomocou GA • - počet učiacich cyklov • - zmena gamy • - biasy • - zmena aktivačnej funkcie • - zmena celkovej topológie
Literatúra 1. Xin Yao, Evolving Artifcial Neural Networks, School of Computer Science, The University of Birmingham, Edgbaston, Birmingham B15 2TT, UNITED KINGDOM 2. I. De Falco, A. Della Cioppa, A. Iazzetta, P. Natale and E. Tarantino, Optimizing Neural Networks for Time Series Prediction, Institute for Research on Parallel Information Systems, National Research Council of Italy (CNR), Via P. Castellino 111, Naples, ITALY 3. Peter J. Angeline, Gregory M. Saunders, Jordan B. Pollack, An Evolutionary Algorithm that Constructs Recurrent Neural Networks, Laboratory for Artificial Intelligence Research, Computer and Information Science Department, The Ohio State University, Columbus, Ohio 43210, USA 4. Peter Eggenberger, Creation of Neural Networks Based on Developmental and Evolutionary Principles, AILab and Software Engineering, Department of Computer Science, University of Zurich, Winterthurerstrasse 190, 8057 Zurich, SWITZERLAND
Záver Na záver by som sa chcel v prvom rade poďakovať Ing.D. Novotnému za jeho cenné rady a pripomienky, ďalej všetkým členom Teamu za spoluprácu a nakoniec aj Vám všetkým za Vašu pozornosť. Naša web stránka http://neuron.tuke.sk/~benikovs/w2w.swf