1 / 40

Cluster computing

Cluster computing. VLSI. Mentor: Prof. dr Veljko Milutinović. Autori: Sava Simić sava.simic@etf.rs sava.simic@gmail.com Marko Bežulj marko.bezulj@htec.rs. Sadržaj. Šta je klasternig? Istorija t Zasto klasteri? Klasifikacija klastera Hardware klastera Single System Image

braith
Download Presentation

Cluster computing

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Cluster computing VLSI Mentor: Prof. dr Veljko Milutinović Autori: Sava Simić sava.simic@etf.rs sava.simic@gmail.com Marko Bežulj marko.bezulj@htec.rs sava.simic@etf.rs sava.simic@gmail.com

  2. Sadržaj • Šta je klasternig? • Istorijat • Zasto klasteri? • Klasifikacija klastera • Hardware klastera • Single System Image • Pogodnosti • Ograničenja • Primena • Rezime • Reference sava.simic@etf.rs sava.simic@gmail.com

  3. Šta je klastering? • Postoje 3 načina da se podignu performanse nekog posla • Raditi više • Raditi pametnije • Pronaći pomoć • Analogija u računarskoj tehnici • Koristiti brži hardware Smanjiti vreme potrebno da se izvrši instrukcija, tj smanjiti dužinu računarskog takta • Optimizovati algoritme i tehnike izračunavanja • Koristiti više računara za rešavanje problemaPovećati broj instrukcija koji može da se izvrši u jednom računarskom taktu sava.simic@etf.rs sava.simic@gmail.com

  4. Šta je klastering? • Klastering obuhvata korišćenje više računara, harddiskovai različitih veza, kako bi se objedinili korisnicima u jedinstven sistem. • Klastering podrazumeva povezivanje sistema kako bi se ostvarila: • Bolja sistemska pouzdanost • Povećane performanse • Bolje iskorišćenje hardware-a sava.simic@etf.rs sava.simic@gmail.com

  5. sava.simic@etf.rs sava.simic@gmail.com

  6. Istorijat • Prvi klastering projekat bio je ARCnet, razvijen od strane Datapoint-a 1977. godine. • ARCnet nije bio komercijalno isplativ, i klastering nije bio komercijalno isplativ dok nije DEC napravio VAXcluster 1983. • VAXcluster je imao VAX/VMS operativni sistem, računari su mogli biti dodavani i sklanjani iz VAXcluster bez efekta na ostatak klastera. • ARCnet i VAXcluster su osim paralelnog procesiranja obuhvatali i deljeni fajl sistem i periferne uređaje. sava.simic@etf.rs sava.simic@gmail.com

  7. Istorijat • Istorija klastera je direktno povezana sa razvojem računarskih mreža. • Kako su mreže postajale jeftinije i brže,klasteri su postajali atraktivniji. sava.simic@etf.rs sava.simic@gmail.com

  8. Klasteri danas sava.simic@etf.rs sava.simic@gmail.com

  9. Zašto klasteri? • Postoji potreba za većom procesorskom moći nego što sekvencijalni procesori mogu da podrže(tehnologija je dostigla maksimume po pitanju brzine). • Propusni opseg novih mrežnih tehnologija prati potrebu koju imaju klasteri kroz LAN i WAN protokole. • Radne stanice klastera se integrišu lakše nego što bi se dizajnirali specijalni paralelni računari. • Organizacije/firme često nemaju sredstava da kupuju super računare. sava.simic@etf.rs sava.simic@gmail.com

  10. Zašto klasteri? • Razvojni alati koji se danas koriste uglavnom nisu prilagođeni za paralelno procesiranje zbog jedinstvenosti svakog paralelnog računarskog sistema. • Ispitivanja pokazuju da je zauzetost desktop radne stanice tipično ispod 10% performanse PC računara, koje svakodnevno napreduju, te se zauzetost procesora još više smanjuje. • Tipično se korisnici PC računara dele u 3 grupe: • Slanje mejlova, pisanje dokumentacije • Razvoj softvera (edit, compile, debug, test) • Pokretanje aplikacija koje zahtevaju visoku procesorsku moć (simulacije...) sava.simic@etf.rs sava.simic@gmail.com

  11. Zašto klasteri? • Ideja udruživanja u klastere je da se prazan hod resursa iz grupa (1) i (2) iskoristi za one iz grupe (3). • Međutim tu nastaju problemi oko vlasništva procesora; deljenje resursa noću je jednostavno, u toku regularnih radnih sati treba postaviti liniju koja neće usporiti grupe (1) i (2). sava.simic@etf.rs sava.simic@gmail.com

  12. Klasifikacija klastera • Na bazi ciljne grupe • Na bazi vlasništva • Na bazi arhitekture čvorova • Na bazi OS-a čvorova • Na bazi arhitekture i organizacije čvorova • Na bazi broja čvorova sava.simic@etf.rs sava.simic@gmail.com

  13. Klasifikacija klasterana bazi ciljne grupe • High Performance (HP) Klasteri Klasteri za izvršavanje velikih/zahtevnih aplikacija. • High Availability (HA) Klasteri Klasteri sa velikim brojem podržanih servisa, koji nude mogućnost failover-a. sava.simic@etf.rs sava.simic@gmail.com

  14. High Availability (HA) Klasteri sava.simic@etf.rs sava.simic@gmail.com

  15. Klasifikacija klasterana bazi vlasništva • Dedicated Klaster Klaster čine procesori/multiprocesori spakovani u rack • Non-dedicated Klaster čine PC računari sava.simic@etf.rs sava.simic@gmail.com

  16. Klasifikacija klasterana bazi arhitekture čvorova • Clusters of PCs (CoPs) • Clusters of Workstations (COWs) • Clusters of SMPs (CLUMPs) sava.simic@etf.rs sava.simic@gmail.com

  17. Klasifikacija klasterana bazi OS-a čvorova • Linux Clusters (Beowulf) • Solaris Clusters (Berkeley NOW) • NT Clusters (HPVM) • AIX Clusters (IBM SP2) • SCO/Compaq Clusters (Unixware) • ... sava.simic@etf.rs sava.simic@gmail.com

  18. Klasifikacija klasterana bazi organizacije čvorova • Homogeni klasteri Svi čvorovi imaju sličnu konfiguraciju. • Heterogeni klasteri Čvorovi imaju različite procesore sa različitim operativnim sistemima. sava.simic@etf.rs sava.simic@gmail.com

  19. Klasifikacija klasterana bazibroja čvorova • Group Clusters (#nodes: 2-99) čine uglavnom dedicated/non-dedicatedračunari. • Departmental Clusters (#nodes: 99-999) • Organizational Clusters (#nodes: many 100s)using ATMs Net • Internet-wide Clusters=Global Clusters: (#nodes: 1000s to many millions)MetacomputingWeb-based ComputingAgent Based Computing sava.simic@etf.rs sava.simic@gmail.com

  20. Hardware Klastera • Hardverska konfiguracija klastera zavisi od platforme i proizvođača. sava.simic@etf.rs sava.simic@gmail.com

  21. Hardware Configuration Primer: • 1 master node + 64 compute nodes + Gigabit Interconnection • Master Node • Dell PE2650, P4-Xeon 2.8GHz x 2 • 4GB RAM, 36GB x 2 U160 SCSI (mirror) • Gigabit Ethernet ports x 2 • SCSI Storage • Dell PV220S • 73GB x 10 (RAID5) sava.simic@etf.rs sava.simic@gmail.com

  22. Hardware Configuration • Primer: • Compute Nodes • Dell PE2650, P4-Xeon 2.8GHz x 2 • 2GB RAM, 36GB U160 SCSI HD • Gigabit Ethernet ports x 2 • Gigabit Ethernet Switch • Extreme BlackDiamond 6816 • 256Gb Backplane • 72 Gigabit ports (8 ports card x 9) sava.simic@etf.rs sava.simic@gmail.com

  23. sava.simic@etf.rs sava.simic@gmail.com

  24. Arhitektura • Klaster je tip paralelnihili distribuiranihsistema za obradu, koji se sastoji od međusobno povezanih računara koji zajednički rade kao jedinstveni, integrisani računarski resurs. sava.simic@etf.rs sava.simic@gmail.com

  25. Arhitektura 1 Čvor: • jedan ili više procesorskih sistema sa memorijom, ulazno/izlaznim uređajima i operativnim sistemom • generalno 2 ili više računara (čvorova) povezanih zajedno u jednom kabinetu, ili fizički odvojenih i povezanih preko LAN-a • pojavljuju se kao jedinstven sistem i aplikacija za korisnike. • obezbeđuje troškovno efikasan način da se steknu bolje karakteristike i prednosti. sava.simic@etf.rs sava.simic@gmail.com

  26. Arhitektura Klasteri imaju 3 osnovne funkcionalnosti: • Dostupnost - kada jedan sistem nastavlja da pruža usluge čak i kada je jedan od kompjutera vise nije u mrezi zbog kvara hardvera ili iz drugih razloga. • Skalabilnost - je sposobnost ukupnog sistema da omogući dodavanje nove komponente, kao što suračunari, koji će povećati izdržljivost sistema. • Pojednostavljenje – je sposobnost klastera da omogući administratorima da upravljaju celom grupom kao jedinstvenim sistemom. To u velikoj meri pojednostavljuje menadžment grupa sistema i njihove primene. sava.simic@etf.rs sava.simic@gmail.com

  27. Arhitektura – podela klastera • Na osnovu arhitekture klasteri mogu da se podele na dve grupe: - Close Clusters (vecina cvorova je sakrivena iza gateway cvora, manje IP adresa i bolja sigurnost) - Open Clusters (svi cvorovi mogu da se vide, vise IP adresa, fleksibilniji su) sava.simic@etf.rs sava.simic@gmail.com

  28. Close Clusters sava.simic@etf.rs sava.simic@gmail.com

  29. Open Clusters sava.simic@etf.rs sava.simic@gmail.com

  30. Clustering concepts • Paralelizam – omogućava da se nešto uradi u delovima koji rade samostalno i koji se ne mogu dalje razložiti. Paralelizam operiše na 2 nivoa: • Hardverski paralelizam i • softverski paralelizam. sava.simic@etf.rs sava.simic@gmail.com

  31. Clustering concepts • Hardverski paralelizam (2 nivoa rada): • sa CPU na pojedinačni sistem (procesor može da ubrza naš kod) • više sistema koji računarski problem izvršavaju distribuirano • Podela : • CPU level parallelism • System level parallelism sava.simic@etf.rs sava.simic@gmail.com

  32. Clustering concepts • Softverski paralelizam – sposobnost da se pronađu oblasti u sistemu koje se mogu podeliti na manje celine • Podela: • System-Level Middleware (Single System Image (SSI)) • Message Passing Primitives • Parallel Programming Using MPI • Application-Level Middleware sava.simic@etf.rs sava.simic@gmail.com

  33. Single System Image (SSI) • Iluzija stvorena od strane softvera ili hardvera, koja predstavlja kolekciju resursa kao jedan moćniji resurs. • SSI čini da se klaster pojavljuje kao jedna mašina za korisnika, aplikaciju, ili mrežu. • Klaster bez SSI nije klaster. • Svaki SSI ima granicu i podrška za SSI može postojati na različitim nivoima unutar sistema, i da se nadogradi jedna na drugu. sava.simic@etf.rs sava.simic@gmail.com

  34. Prednosti Single System Image (SSI) • Obezbeđuje jednostavan, jasan prikaz sistemskih resursa i aktivnosti iz bilo kod čvora klastera • Korisnik zna gde će se aplikacija pokrenuti • Pojednostavljuju upravljanje sistemom • Rad sa poznatim interfejsom i komandama i omogućava administratorima da upravljaju celim klasterom kao jednim entitetom • Smanjuje se rizik od greške operatera • Poboljšan sistem odziva i performansi • ... sava.simic@etf.rs sava.simic@gmail.com

  35. Scalability vs. Single Sistem Image sava.simic@etf.rs sava.simic@gmail.com

  36. Pogodnosti • Smanjenje troškova za veću procesorsku snagu, više memorije, smanjenje troškova povezivanja hardvera... • Mogućnost rada u realnom vremenu • Jednostavnost tehnologije • Dostupnost • Otpornost na otkaze • ... sava.simic@etf.rs sava.simic@gmail.com

  37. Ograničenja • Cluster Networking – povezivanje hardvera razlicite mrezne tehnologije • Cluster Sotware – pravljenje različitih verzija softveraza različite vrste sistema • Programming – naš kod će morati da bude napisan tako da podržava i najmanje moćni čvor u klasteru • Timing – pošto mašine imaju različite performanse naš kod će biti u različitom stadijumu izvršavanja na različitim čvorovima • Network Selection – veliki broj različitih topolologija mreže • Speed Selection sava.simic@etf.rs sava.simic@gmail.com

  38. Rezime • Klasteri su budućnost - Rešavaju paradoks paralelnog procesiranja - Veoma brzo se razvijaju - Novi trendovi u razvoju hardvera i softvera obećavaju poboljšanje SSI. - Klasteri na bazi superkompjutera mogu se videti svugde. sava.simic@etf.rs sava.simic@gmail.com

  39. Literatura www.buyya.comwww.beowulf.orgwww.clustercomp.orgwww.sgi.comwww.thu.edu.tw/~sci/journal/v4/000407.pdfwww.dgs.monash.edu.au/~rajkumar/clusterwww.cfi.lu.lv/teor/pdf/LASC_short.pdfwww.webopedia.comwww.howstuffworks.com sava.simic@etf.rs sava.simic@gmail.com

  40. Pitanja Q&A sava.simic@etf.rs sava.simic@gmail.com

More Related