80 likes | 219 Views
Lappeenrannan Teknillinen Korkeakoulu 1757 Rinnakkaislaskennan jatkokurssi. Customized Dynamic Load Balancing Mohammed J. Zaki Srinivasan Parthasarathy Wei Li. 9828 Jani Peusaari. Dynaaminen kuormantasaus. Ajon aikana tapahtuva tehtävien uudelleen-jakaminen Odotukset kappaleelta:
E N D
Lappeenrannan Teknillinen Korkeakoulu 1757 Rinnakkaislaskennan jatkokurssi Customized Dynamic Load Balancing Mohammed J. Zaki Srinivasan Parthasarathy Wei Li 9828 Jani Peusaari
Dynaaminen kuormantasaus • Ajon aikana tapahtuva tehtävien uudelleen-jakaminen • Odotukset kappaleelta: • Epätasaisten ohjelmien tasoittaminen • Heterogeenisen klusterin hyväksikäyttö • Mitä käsiteltiin • Erilaisia LB-tekniikoita • Iteratiivisia rinnakkaisongelmia • Ei-dedikoituja ja heterogeenisiä klustereita
Kappalejako Johdanto Dynamic Load Balancing DLB mallinnus ja päätösprosessi Kääntäjä ja ajonaikainen järjestelmä Kokeelliset tulokset Yhteenveto
Johdanto • Käännetään peräkkäinen ohjelma, automaattinen rinnakkaistus • Jaetaan prosessit tasaisesti alussa • Koneilla satunnainen kuorma • Laskennan päätyttyä ilmoitetaan muille • Kuormantasaaja(t) jakavat tehtäviä uudelleen
Kuormantasausstrategiat • Global vs Local • Jaetaanko tehtäviä kaikkien kesken vai pienien ryhmien välillä • Centralized vs Distributed • Kuormantasaajaprosessien määrä
Kuormantasausprosessi • Suorituskyvystä pidetään kirjaa • Synkronointi keskeytyksen avulla • Lasketaan kannattaako kuorman siirto • Iteraatioiden määrän ja nopeuden perusteella • Siirretään data
Teoreettista pohdintaa • Synkronointi vasta, kun ensimmäinen kone saa kaiken laskettua • Optimaalisessa tapauksessa kevyt overhead • Synkronointia seuraa kollektiivinen viestintä • Klusterin muu käyttö on huomioitu • Hyödyntää myös heterogeenistä klusteria • Ainoastaan iteratiivisiin, silmukoita käyttäviin ongelmiin
Tulokset • Teoria vastaa hyvin käytäntöä • Melkein jokaiseen ongelmatyyppiin soveltuva strategia • Parhaimmillaan suoritusaika puolittuu • Parhaat tekniikat: GDDLB ja LDDLB • Puute: Käytännön tulokset heterogeenisestä klusterista!