Verkko-teoreettinen esitystapa Graph-Theoretic Representation s. 165-174

1. Verkko-teoreettinen esitystapaGraph-Theoretic Representations. 165-174 Heikki Henttu

2. Sisältö • Alustus • Määrittelyalueverkot (Domain Graphs) • Kolmioidut verkot (Triangulated Graphs) • Leikkauspuut (Join Trees) • Yhteenveto • Kotitehtävä

3. Sisältö • Alustus • Määrittelyalueverkot (Domain Graphs) • Kolmioidut verkot (Triangulated Graphs) • Leikkauspuut (Join Trees) • Yhteenveto • Kotitehtävä

4. Motivointi • Todennäköisyyksien tehokas päivitettävyys välttämätöntä, jotta Bayes-verkot olisivat käyttökelpoisia • Todennäköisyystaulukoiden koko kasvaa eksponentiaalisesti muuttujien lukumäärän kasvaessa Tarvitaan tehokas algoritmi, jolla laskentaa voidaan tehostaa

5. Ongelmanasettelu • Pyritään laskemaan marginaalit (ПФ)↓Aijokaiselle verkon solmulle Ai. • Ongelma ratkaistaan eliminoimalla verkosta vuoronperään pois kaikki muut solmut; vain Ai jää jäljelle • Mikä on tehokkain eliminointijärjestys?

6. Yleistä aiheesta • Tarkastelussa reaalipotentiaalien joukko Ф={ø1,…,øm} muuttuja-avaruudessa U={A1,…,An}. Määrittelyalueverkko (domain graph) on suunnistamaton verkko, jonka solmuina ovat U ja jonka solmujen väliset linkit kuuluvat reaalipotentiaalien joukkoon Ф • Ts. kyseessä on tapa esittää potentiaalien määrittelyjoukko Ф verkolla G. • Esiteltäviä keinoja voidaan soveltaa kaikenlaisiin verkkoihin ja erilaisiin tehtäviin, ei pelkästään Bayes-verkkoihin

7. Suoritettava laskenta • Selvitettävänä potentiaalien tulo projisoituna Ai:lle, (ПФ)↓Ai. • Laskentajärjestys X:n eliminoinnille Ф:stä: • Poistetaan kaikki potentiaalit Ф:sta, joiden kannassa X on  jäljelle jää potentiaalijoukko ФX • Lasketaan ø-X = ∑XПФX • Lisätään ø-XФ:n ja Ф:in ja kutsutaan lopputulosta Ф-X Laskentajärjestys jää ratkaistavaksi – missä järjestyksessä Xikannattaa eliminoida?

8. Sisältö • Alustus • Määrittelyalueverkot (Domain Graphs) • Kolmioidut verkot (Triangulated Graphs) • Leikkauspuut (Join Trees) • Yhteenveto • Kotitehtävä

9. A1 A2 A3 A5 A6 A4 Esimerkki määrittelyalueverkosta Potentiaalien määrittelyalue Ф: Ф={ø1(A1), ø2(A2, A1), ø3(A3, A1), ø4(A4, A2), ø5(A5, A2, A3), ø6(A6, A3)} G • Tämän graafinen esitystapa on verkko G • Selvitettävänä P(A4) – mikä on edullisin A4:än päättyvä muuttujien eliminointijärjestys? (ПФ)↓A4? • Haaste: Muuttujan X poisto verkosta edellyttää kaikkien niiden potentiaalien käsittelyä, joiden kannassa X esiintyy  huolimattomasti valittu poistojärjestys aiheuttaa paljon turhaa työtä

10. Esimerkki muuttujan eliminoinnista määrittelyalueverkosta A1 A1 • Muuttujan poiston jälkeen kaikki A3:n naapurit ovat nyt ristikkäin kytketty ja naapurit ovat toistensa kannoissa • Muuttujan eliminointi voi edellyttää uusien linkkien (fill-ins) luomista  tätä halutaan välttää • Tehtävää voidaan täsmentää: Tavoitteena on löytää eliminointijärjestys, joka ei luo uusia linkkejä. Muuttujan A3 poisto Notaatio: A3 poistettu potentiaalien määrittelyalueesta A2 A3 A2 A6 A6 A4 A5 A4 A5 Potentiaalijoukon Ф määrittelyalueverkko Potentiaalijoukon Ф-A3 määrittelyalueverkko

11. A1 A2 A3 A5 A6 A4 Täydellinen eliminointijärjestys • Määritelmä: täydellinen eliminointijärjestys on muuttujien poistojärjestys, joka ei vaadi uusien linkkien luomista. Esimerkkiverkolle on olemassa useita täydellisiä järjestyksiä, jotka päättyvät A4:än: • A5, A6, A3, A1, A2, A4 • A1, A5, A6, A3, A2, A4 • A6, A1, A3, A5, A2, A4 Eivät edellytä uusien linkkien tekemistä

12. Väite 5.2 • Olk. X1,…, Xk on täydellinen eliminointijärjestys, ja solmulla Xj:llä on täydellinen (linkki kaikkiin solmuihin) naapurijoukko. Tällöin myös Xj, X1,…,Xj-1,Xj+1,…, Xk on täydellinen eliminointijärjestys • Tod. Xj:n eliminointi ei edellytä täytelinkkien luomista.X1:lle ei tällöin synny uusia naapureita, eikä tarvetta uusille täytelinkeille ole. • Mikäli X:llä on täydellinen naapurijoukko, X voidaan eliminoida heti aluksi tuhoamatta täydellistä eliminointijärjestystä.

13. Klikit (cliques) • Klikki on täydellinen joukko (kaikki solmut kytketty), joka ei ole minkään toisen täydellisen joukon osajoukko • Kaikki täydelliset eliminointijärjestykset tuottavat määrittelyalueverkosta saman klikkijoukon

14. Sisältö • Alustus • Määrittelyalueverkot (Domain Graphs) • Kolmioidut verkot (Triangulated Graphs) • Leikkauspuut (Join Trees) • Yhteenveto • Kotitehtävä

15. A B A B E E C D C D Kolmioitu verkko • Määritelmä: Kolmioitu verkko on suunnistamaton verkko, jolle on olemassa täydellinen eliminointijärjestys • Ei tekemistä verkon muodon kanssa, vrt. esim. Kolmioitu verkko Ei-kolmioitu verkko Täydellinen eliminointijärjestys E-muuttujaan: esim.: D, B, A, C, E - Ei täydellistä eliminointijärjestystä

16. A B NX FX X C D Merkintätavat • Olk. X solmu suunnistamattomassa verkossa • X:n naapureita merkitään NX • X ja naapurit muodostaa perheen: FX • Jos naapurijoukko on täydellinen (suora yhteys kaikkien naapurisolmujen välillä), solmua kutsutaan yksinkertaiseksi (simplicial). Yksinkertaiset solmut: C, D ja B

17. Päätelmä 5.1 Kolmioidussa verkossa jokaiselle muuttujalle A löytyy täydellinen eliminointijärjestys, joka päättyy muuttujaan A.

18. Päätelmän 5.1 todistus • Väite 5.4: olk. G kolmioitu verkko ja X yksinkertainen solmu. Jos G’ on verkko, joka syntyy kun X eliminoidaan G:stä, G’ on kolmioitu verkko. • Lause 5.1: Kolmioitu verkko, jossa on vähintään kaksi solmua, sisältää vähintään kaksi yksinkertainen solmua • Poistetaan yksinkertainen solmu X. Väite 5.4 (todistettu väitteen 5.2 yhteydessä) takaa, että myös jäljelle jäänyt verkko on kolmioitu • Toistetaan kohtaa 1 ja poistetaan kaikki muut solmut lauseen 5.1 nojalla kunnes vain A on jäljellä.

19. Päätelmän 5.1 merkitys • Jos täydellinen eliminointijärjestys on olemassa, mille tahansa muulle muuttujalle voidaan myös löytää vastaava • Mahdollista saada optimaalinen marginalisointijärjestys kaikkien P(A) laskemiseksi  tehostaa huomattavasti todennäköisyyksien laskentaa. • Käytännön tutustuminen aiheeseen kappaleessa 5.4

20. Lause 5.2 • Suunnistamaton verkko on kolmioitu, jos ja vain jos kaikki solmut voidaan poistaa eliminoimalla peräkkäin yksinkertainen solmu X. • Lauseen avulla voidaan tarkastaa onko verkko kolmioitu vai ei.

21. Sisältö • Alustus • Määrittelyalueverkot (Domain Graphs) • Kolmioidut verkot (Triangulated Graphs) • Leikkauspuut (Join Trees) • Yhteenveto • Kotitehtävä

22. BCDE BCDE ABCD DEFI ABCD DEFI BCDG BCDG CHGJ CHGJ Leikkauspuut • Määritelmä: Olk. G joukko klikkejä, jotka voidaan järjestää puuksi T. T on leikkauspuu, jos mille tahansa V, W on koko välillä V, W yhteinen leikkauskohta V∩ W. Leikkauspuu Ei-leikkauspuu W W Kaikille W ja Vi löytyy leikkauskohta (solmu tai solmujoukko), joka säilyy koko välin Puun solmuilla V ja W ei ole yhteistä leikkauskohtaa, joka säilyisi koko välin V, W kyseessä ei ole leikkauspuu V1 V4 V2 V3 V

23. Ehdot klikeistä ja leikkauspuista • Jos suunnistamattoman verkon G klikit pystytään järjestämään leikkauspuuksi, G on kolmioitu. • Jos verkko G on kolmioitu, verkon klikeistä voidaan muodostaa leikkauspuu.

24. Leikkauspuun muodostaminen kolmioidusta verkosta • Aloitetaan yksinkertaisesta solmusta XFX on klikki. • Eliminoidaan FX:n solmut, joilla on naapureita vain FX:ssä. • Indeksoidaan FXeliminoitujen solmujen määrän mukaan ja nimetään jäljelle jääneiden solmujen joukko Si:ksi  Si on erottaja • Valitaan seuraava klikki verkossa ja toistetaan toimenpiteet (siten, että indeksiarvosta i säilyy) • Toistetaan rutiinia kunnes kaikki klikit on eliminoitu • Yhdistetään klikit Vi näitä vastaaviin erottajiin Si • Muodostetaan leikkauspuu luomalla linkit erottajien Si ja Vj välille siten, että j > i ja SiVj ∩

25. ABCD V1 DEFI V3 BCD S1 DE S3 CGHJ V5 BCDG V6 CG S5 BCD S6 BCDE V10 Leikkauspuun muodostaminen kolmioidusta verkosta – esimerkki (1/2) Yksi muuttuja (A) eliminoitu  i saa arvo 1 2 muuttujaa (F, I) eliminoitu  i saa arvo 3 (1+2) Suoritetaan kohdat 1-6 A B E C D F H G I J Käytetty eliminointijärjestys: A, F, I, H, J, G, B, C, D, E

26. Leikkauspuun muodostaminen kolmioidusta verkosta – esimerkki (2/2) ABCD V1 DEFI V3 BCD S1 DE S3 CGHJ V5 BCDG V6 CG S5 BCD S6 Suoritetaan kohta 7 BCDE V10 7. Muodostetaan leikkauspuu luomalla linkit erottajien Si ja Vj välille siten, että j > i ja Si Vj ∩

27. Sisältö • Alustus • Määrittelyalueverkot (Domain Graphs) • Kolmioidut verkot (Triangulated Graphs) • Leikkauspuut (Join Trees) • Yhteenveto • Kotitehtävä

28. Yhteenveto • Oikea muuttujien eliminointijärjestys on tärkeää tuntea, jotta Bayes-verkkojen laskenta olisi tehokasta • Leikkauspuu tarjoaa välineen täydellisten eliminointijärjestysten hahmottamiseen: kaikki täydelliset eliminointijärjestykset voidaan saada poistamalla yksinkertaisia solmuja leikkauspuusta

29. Sisältö • Alustus • Määrittelyalueverkot (Domain Graphs) • Kolmioidut verkot (Triangulated Graphs) • Leikkauspuut (Join Trees) • Yhteenveto • Kotitehtävä

30. Kotitehtävä (1/2) Avaruuden {A1, A2, A3, A4, A5, A6} potentiaalit ovat ø1(A1, A2, A3), ø2(A2, A3, A5), ø3(A1, A3, A4), ø4(A5, A6). • Määritä verkko potentiaalien määrittelyalueelle • Muodosta täydellinen eliminointijärjestys, joka päättyy A1:en.

31. B E C D F G I Kotitehtävä (2/2) • Onko verkko kolmioitu • Mitkä ovat verkon yksinkertaiset (simplicial) solmut