Modelarea sistemelor de calculatoare

1. Modelarea sistemelor de calculatoare Prof.dr.ing. STEFAN HOLBAN

2. Data MiningArta si Ştiinţa de a obţine Modele şi Cunoştinţe din Date

3. Explozia Informationala - paradox - • Informatia a devenit o marfa care se produce si se vinde. • Problema care se ridica este ca se produce mai mult decat se poate consuma. • Acest aspect ridica intrebarea CE este important sa retin in cursul procesului de cunoastere din informatia aflata la dispozitie

4. -Definitii--Informatia- Într-o definire - pe cât de sumară tot pe atât de informală și, deci, de inexactă - se poate spune că informația se constituie intr-o reprezentare a realității, dar și a reflecției și proiecției - care sunt operații tipice intelectului uman - prin intermediul unui set bine precizat și structurat de simboluri - de regulă accesibile simțurilor și rațiunii umane, dar și unora dintre dispozitive, precum cele de calcul automat (calculatoare). Informatia nu este nici conținut (dar stările unui sistem pot fi asimilate cu acesta), nici agent (dar semnalele transmise printr-un canal pot fi asimilate cu acesta), nici proprietate, nici instructiune, nici proces și nici metoda. Informația se constituie într-o categorie de sine stătătoare, având o existență abstractă și subtilă - adică nematerială - categorie care este reflectată de stări, semnale etc. și constituie un element esențial în procesul cunoașterii. În ultimele decenii ale sec. XX, creșterea gradului de informatizare a proceselor industriale precum și a creșterii gradului de folosire a informațiilor în rezolvarea problemelor a făcut ca informația să fie considerată ca o resursă economică, întrucâtva egală cu alte resurse cum ar fi munca, materia primă și capitalul.

5. Dezvoltarea tehnologica- primele masini de calcul -

6. Dezvoltarea tehnologicaMasina de calcul creata de Pascal in 1652- efectua 4 operatii adunare scadere, inmultire, impartire -

7. Dezvoltarea tehnologicaMasina de calcul creata de Leibniz in 1694- efectua 4 operatii adunare scadere, inmultire, impartire extragere radacina patrata -

8. Dezvoltarea tehnologicaArithmomètre construit Louis Payen in 1887primul calculator comercial

9. Dezvoltarea tehnologicaColossus Mark 1, operational din Decembrie1943 la Bletchley Park - Marea Britanie

10. Dezvoltarea tehnologicaCalculatorul ENIAC pus in functiune in 1946. In 1948, Claude Shannon, introduce conceptul de numerotare binara si conceptul de "bit".

11. Dezvoltarea tehnologica1954. Calculatorul IBM 650

12. Dezvoltarea tehnologicaPrimul Calculator Personal 12 augst 1981Sistem de operare / PC-DOS 1.0CPUIntel 8088 la 4.77 MHz memorie 16 kB ~ 256 kB

13. Dezvoltarea tehnologicaPrimul suport de informatie Herman Hollerith (1860-1929) in 1880.

14. Dezvoltarea tehnologicaPrimul HDD din lume • In septembrie 1956 IBM a lansat sistemul de calcul 305 RAMAC, primul calculator cu un hard drive (HDD). Hard-ul putea inmagazina 5 MB de date si cantarea mai mult de o tona.HDD with 5MB storage in 1956. • Un stik care inmagazineaza 4 GB cântăreste mai putin de 15 grame!

15. 1981 disquette de 5”1/4 360 KB 1985 disquette de 3” ½ 1,44 MB 1986 640 MB 2003 32 GB Evolutia in 20 ani a capacitatii de stocare.

16. - Dezvoltareatehnologica - Pe un DVD pot fi stocate

17. Cât de mare este un Exabytepana in 2009 in ordine de marime

18. Explozia Informationala pana in 2009 Cresterea anuala a cantitatii de informatie stocata este estimata la un procent anual de aproximativ ~30% ea dublându-se practic la 20 luni! Studiile efectuate au aratat ca: - de la inceputul aparitiei omului si pana in 1999 au fost generate 12 terabyte de date. - In lume cantitatea de date a crescut de la 5 exabytes in 2003 la 161 exabytes in 2006 - In 2008 cantitatea cantitatea de date a crescut la 255 exabytes - Se estima ca in 2010 se vor produce 988 exabytes Cantitatea totala de date produsa in lume (tiparit, film, optic, magnetic) in 2009 cere 1.5 miliarde de Gb de spatiu de stocare Acesta este echivalent cu 250 MB de date pentru fiecare locuitor al acestei planete

19. Explozia Informationala incepand cu 2010 ordine de marime Un zettabyte este o unitate egala cu sextilion de bytes 1,000,000,000,000,000,000,000 bytes = 10007 = 1021 Un zettabyte este 1 miliard de terabytes

20. Explozia Informationala incepand cu 2010 ordine de marime • Cum se utilizeaza aceasta informatie • Studiile facute au aratat ca in medie un cetatean SUA • - vorbeste la telefon 16.17 ore pe luna • - asculta la radio 90 ore pe luna, • - priveste la TV 131 ore pe luna • Aproximativ 53% din populatia USA utilizeaza internetul intr-o luna: • - 25 ore si 25 minute acasa • - 74 ore si 26 minute la lucru • in total 13% din timpul disponibil / luna • Membrii societăţii de tip occidental sunt supuşi unui adevărat bombardament informaţional: conform unui studiu american recent, fiecare primeşte, zilnic, o cantitate de informaţie echivalentă cu cea cuprinsă în 147 de ziare! • Dezvoltarea internetului, programele de televiziune disponibile 24 de ore din 24, precum şi răspândirea telefoanelor mobile au făcut ca, în ziua de azi, o persoană să primească, în fiecare zi, de 5 ori mai multă informaţie decât primea în 1986.

21. Explozia Informationala incepand cu 2010 ordine de marime • Cum se utilizeaza aceasta informatie • Se trimit aproximativ 3 milioane emails / secunda, • 20 ore video sunt uploaded in YouTube in 60 secunde, • Google proceseaza 24 petabytes de informatiie, • se trimit 50 milioane SMS per zi • Aproape 73 produse sunt comandate pe Amazon in fiecare secunda • Zilnic, o persoană produce şi transmite altora, în medie, informaţie într-o cantitate echivalentă cu cea cuprinsă în 6 ziare - de 200 ori mai mult decât în urmă cu 24 de ani, când fiecare "genera" doar două pagini şi jumătate. • studiu se arata ca in 2008 sau consumat pana la 3.6 zettabytes sau 10,845 trillion de cuvinte , respectiv 34 gigabytes de persoana pe an • DACA se stocheza datele digitale existente pana la sfrrsitul anului 2010 pe DVD se poate forma o stiva care sa acopere distanta de la luna si inapoi

22. Explozia Informationala incepand cu 2010 Cine are cele mai multe servere Web? OVH : 100.000 servere ( firma , iulie, 2011) SoftLayer : 100.000 servere (firma, decembrie 2011 ) Akamai Technologies : 95,000 servere (firma, decembrie 2011) Rackspace: 78717 de servere ( companie 30 septembrie 2011) Intel: 75,000 servere ( firma , august, 2011) 1 & 1 Internet : 70000 servere ( companie , februarie 2010) Facebook: 60.000 servere ( estimare, octombrie 2009 ) LeaseWeb: 36,000 servere (firma, februarie 2011) Intergenia: (PlusServer/Server4You), 30.000 de servere ( companie , 2011) SBC Communications: 29,193 servere (Netcraft) Verizon : 25,788 servere (Netcraft) Time Warner Cable : 24,817 servere (Netcraft) HostEurope: 24.000 servere ( Compania ) AT & T : 20,268 servere (Netcraft) Este posibil ca Google să dețină aproape un milion de servere. Yahoo are aproximativ 700 000 cu 13 000 de angajați. Wikipedia are 679 de servere și 95 de angajați In lume exista aproximativ 44 milioane de severe

23. Explozia Informationala incepand cu 2010 Cata informatie exista in spatiul Web? • Spatiul Web este format din doua componente: • “Suprafata” Web formata din situri publice cunoscute ca Web • Spatiul Web de “adancime” format din situri specializate mai mare de 400 – 500 ori decat “suprafata” • Spatiul Web 2011 de tip “suprafata” • Suprafata Web a variat in decursului anului intre 25 pana la 50 terabytes • existau la inceputul anului 2.5 miliarde documente • In fiecare zi se adauga 7,300 000 noi pagini, ceea ce insemna 0.1 terabyte noi pe zi • Spatiul Web 2011 de tip “adancime” • Adancimea Web are 7,500 terabytes de date • Aproximativ 4,200 terabytes sunt date stiintifice • Exista 550 miliarde de documente interconectate, 95% din aceasta informatie este accesibila publicului • Email & Mailing Lists • Au fost trimise intre 900 – 1100 miliarde de email-uri in acest an • O persoana primeste in medie 40 email-uri pe zi din care arhiveaza aproximativ 17 email-uri • Cantitatea de informatii aferenta email-urilor trimise se ridica la gigantica cantitate de 11,285 pana 20,350 • terabytes.

24. Explozia Informationala 2010 / date digitale

25. Explozia Informationala perspective • cantitatea de informatie digitala produsa a fost de : • 0.8 zettabytes in 2009 • 1.2 zettabytes in 2010 • daca cresterea se mentine in 2020 se vor produce 35 ZB

26. In loc de concluzii Intreaga istorie a omenirii din punct de vedere a cantitatii totale de informatie produsa pana in anul 1999 reprezinta aproximativ a miliarda parte din informatia generata in anul 2010. Exista cateva aspecte care merita sa fie relevate. Cantitatea mare de informatie generata in prezent nu mai favorizeaza procesul de cunoastere

27. Explozia Datelor (cont.) • Foarte puţine date pot fi analizate si integrate de operatorul uman. • Datele se colectează uşor, analiza lor este costisitoare. • Există suspiciunea că in masivele de date pot exista cunoştinţe ascunse. • Descoperirea Cunoştinţelor este NECESARA pentru a da sens utilizării datelor. Din acest motiv mulţi cercetători au considerat extragerea cunoştinţelor din baze de date ca un domeniu semnificativ de investigat

28. Ce este Data Mining? “Procesul de analiza a unor cantităţi mari de date în scopul determinării de relaţii care apar intre elementele prezente in bazele de date si a determinării de machete (potenţial utile) care pot caracteriza global bazele de date.” (din Advances in Knowledge Discovery and Data Mining, Fayyad, Piatetsky-Shapiro, Smyth, and Uthurusamy, (Chapter 1), AAAI/MIT Press 1996

29. Analiza Datelor Inteligentă Artificială, Machine Learning Statistică Data Mining Baze de Date

30. Definirea procesului de descoperire a cunoştinţelor Procesul de descoperire de informaţii (modele) din baze de date mari cuprinde mai multe etape • definirea scopului urmărit • interogarea surselor de date si definirea structurii datelor supuse prelucrării, • preprocesarea datelor (selectarea, curăţarea, transformarea acestora), • explorareadatelor pentru extragerea de tipare şi de modele apropiate, • evaluarea şi interpretarea tiparelor extrase pentru • a decide ce constituie ”cunoştinţă” (knowledge), • 6. consolidarea cunoştinţelor şi rezolvarea conflictelor • dintre cunoştinţele extrase anterior,oferirea cunoştinţelor spre utilizare.

31. Procesul de descoperire de cunoştinţe (etape)

32. Data Mining: Tehnici • Clasificare • Corelatii • Grupare • Asociatii

33. Analiza Datelor (cont.) Y1 Numerice Numerice X1 f Modele corelationale 3, 4.5, 102, CNP, varsta … Categorice X2 Y2 Categorice fierbinte, rece, , mare, … Modele de tip Clasificare Nominale X3 Y3 Nominale 0, 1, da, nu, … Variabile de Iesire sau Variabile Dependente sau Clase Variabile de Intrare sau Variabile Independente sau Atribute

34. Data MiningClasificare Tehnica prin care se ataşeaza un element necunoscut la un set de clase predefinite (cunoscute)

35. Data MiningModele Corelationale- principiu - • Model corelational w0 + w1 x + w2 y >= 0 • Se calculează wi din date astfel incât sa fie minimizata eroarea medie patratica • Da posibilitatea de a obtine informatii legate de legatura dintre atributele ce caracterizeaza obiectele • Nu este suficient de flexibila Analiza corelaţionala permite obţinerea unor modele analitice (machete) ce definesc datele ce caracterizează setul de date.

36. Data MiningModele Corelationale- exemplu - Considerăm un set de date de volum n. Fiecare element din setul de date poate fi caracterizat de un ansamblu de atribute. În setul de date relative la performanţele sistemelor de calcul aceste atribute sunt: memoria principala, memorie cache, etc. Predicţia performanţelor CPU avem 209 date în set (7 atribute) modelul (clasificatorul) care poate fi obţinut este de forma: PRP = -55.9 + 0.0489 MYCT + 0.0153 MMIN + 0.0056 MMAX + 0.6410 CACH - 0.2700 CHMIN + 1.480 CHMAX

37. Data MiningArbori de decizie- principiu - if X > 5 then albastru else if Y > 3 then albastru else if X > 2 then verde else albastru Y 3 X 2 5

38. Data MiningArbori de decizie - exemplu - outlook windy If overcast then Play (4/4) elseif sunny then Don’t Play (3/5) else if rain then Play (3/5) Precizie = 10/14 (71.4%) If true then Don’t Pay (3/6) else if false then Play (6/8) Precizie = 9/14 (64.3%)

39. Data Mining Grupare- principiu - Gruparea (Cluster analysis) reprezinta o tehnică de impărţire a unui set de date pentru care nu exista nici o clasă predefinităîntr-un set de clase - grupuri Venit Varsta

40. Data Mining Grupare- exemplu 1 - • Se dă: • Baza de date de clienţi care conţine un istoric al achiziţiilor facute • Scop: • Găsirea grupurilor de clienţi cu o comportare similară • Gasirea clienţilor cu un mod de cumpărare neobişnuit

41. Data Mining Grupare - exemplu 2- In urma partiţionării setului de obiecte au rezultat un număr de 3 clustere Utilizând obiectele din acest cluster se poate găsi o machetă (printr-o regulă de asociere) ce va defini profilul celor care pot cumpăra o asigurare de viaţă. Regula este următoarea: IF Sex = Female & 43 >= Age >= 35 & Credit Card Insurance = No THEN Class = 3 Rule Accuracy: 100.00% Rule Coverage: 66.67%

42. Data Mining Asociatii- principiu - • Progresul în tehnologia codurilor de bare a făcut posibil ca firmele de comercializare a produselor să colecteze şi să stocheze cantităţi imense de date despre vânzări, referite ca şi basket data – basket market (date despre coşul de cumpărături) • Descoperirea regulilor de asociere are ca scop descoperirea unui set de atribute comune care aparţin unui număr mare de obiecte dintr-o bază dedate. • Avand o baza de date de forma: 1, chips, coke, chocolate 2, gum, chips 3, chips, coke 4, … Probabilitatea (chips, coke) ?

43. Data Mining Asociatii- exemplu - Având o bază de date de tranzacţii ale clienţilor şi fiecare tranzacţie fiind o listă de obiecte (cumpărăturile unui client într-o vizită la magazin). Găseşte toate regulile care corelează prezenţa unui set de obiecte cu alt set de obiecte. If se cumpara Books then se cumparaDVD with support 55.6% and confidence 83.3% Obs.

44. Data Mining: Tehnici • Clasificare • Corelare • Linear Discriminant Analysis • Naïve Bayes / Bayesian Network • 1R • Neural Networks • Decision Tree (ID3, C4.5, …) • K-Nearest Neighbors • Support Vector Machines • … • Multiple Linear Regression • Principal Components Regression • Partial Least Square • Neural Networks • Regression Tree (CART, MARS, …) • K-Nearest Neighbors • Support Vector Machines • … • Grupare • Asociere • K-Mean Clustering • Self Organizing Map • Bayesian Clustering • … • A Priori • Markov Chain • Hidden Markov Models • …

45. Etape de construire a unuimodel în Data Mining • Definirea problemei • Construirea bazei de date de tip data mining • Explorarea datelor • Pregatirea datelor pentru modelare • Construirea modelului • Evaluarea modelului • Utilizarea modelului

46. Definirea domeniului Data Mining Explozia datelor Introducere in data mining Exemple de data mining in ştiinţăşi inginerie Provocări si oportunităţi

47. Exemple de data mining in inginerie • 1. Data mining in inginerie Biomedicala • “Controlul unui brat robotic utilizand Tehnici Data Mining” • 2. Data mining in inginerie Chimica • “Data Mining pentru Monitorizarea imagini din procesul de extrudere mase plastice”

48. Supination Pronation Flexion Extension 1. Definirea problemei “Controlul unui brat robotic prin intermediul semnalelor EMG culese de pe muschii biceps si triceps.”

49. 2. Construirea bazei de date de tip data mining • Setul de date are un numar de 80 înregistrari. • Există două variabile de intrare: semnalul de la biceps si semnalul de la triceps. • Există o variabilă de ieşire cu patru posibile valori: supination, pronation, flexion si extension.

50. Scatter Plot Triceps Record# FlexionExtensionSupinationPronation 3. Explorarea datelor