Quaker

1. Quaker A name given to members of the Religious Society of Friends in England when, in his defense, the leader of the Society said that the English judge would be the one to quake with fear before God on his Day of Judgment.

2. Opdracht 0 - punten Gemiddelde: 7,83 Standaardafwijking: 1,41

3. Voorstellen en redeneren over kennis: onzekerheid en vaagheid

4. Tot nu toe Te zwak: niet-monotoon redeneren Eerste orde logica Te zwak: onzekerheid en vaagheid

5. Waar komt de vaagheid voor? Verder is het ook zeker, dat de meeste aanhalingen van Schriftuurlyke Spreekwyzen in den dagelykschen omgang laf en ongepast zyn. (De Denker, deel 1, 1763). Graad van geloof: Hoe zeker is zeker? Statistiek: Wat zijn “de meeste”? Vage predikaat: Hoe ongepast?

6. Drie soorten vaagheid “Ik geloof dat p geldt voor alle x” 8x p(x) Dat weten jullie al… Graad van geloof: Hoe zeker is zeker? Vage predikaat: Hoe ongepast? Statistiek: Wat zijn “de meeste”?

7. Vlugge Vraag • “…meestal lezen de meeste studenten het boek dan heel slecht.” Magda Oude Stegge Intervjoe met de schrijver W. F. Hermans. • Welke vormen van onzekerheid komen hier aan bod? • Graad van geloof • Statistiek • Vage predikaten

8. Graad van geloof: Hoe zeker is zeker? Graad van geloof = waarschijnlijkheid • CBS: 16% van de Nederlanders zijn rijk. • In welke mate geloven we dat X rijk is? • P(X is rijk | X is een Nederlander) = 0.16 • a priori waarschijnlijkheid • Nieuwe feit: X is tussen 18 en 25. • P(X is rijk | X is een Nederlander Æ X is tussen 18 en 25) = 0.10 • a posteriori waarschijnlijkheid

9. Graad van geloof: Hoe zeker is zeker? Ter herinnering: voorwaardelijke kans • P(|) = P(Æ)/P() •  is onafhankelijk van  als P(|) = P() • Kop/munt is onafhankelijk van de vorige uitslag • P(Æ) = P()*P() •  is afhankelijk van  als P(|)  P() • Rijkdom is afhankelijk van de leeftijd

10. Probleem •  is afhankelijk van n basisvariabelen die van mekaar afhankelijk zijn: 1, …, n • Dus als  over {a1,…, ak} en over {b1,…, bm} voor alle i: • P( = ai|1 = bi1Æ…Æn = bin) • k*nm voorwaardelijke kansen! • Kortschrift: als  over {true, false} •  betekent  = true • : betekent  = false

11. Niet alles is afhankelijk van alles! P(1|3Æ4) P(1|:3Æ4) P(1|3Æ:4) P(1|:3Æ:4) Gerichte acyclische graaf: knopen: variabelen kanten: (i,j) als en slechts als j afhankelijk is van i. Aanname: P(i|1Æ …Æn) = P(i|parents(i)) Bayesiaans geloofsnetwerk P(3) 3 1 P(0|1) P(0|:1) P(4) 2 4 0 P(2|3) P(2|:3) Voorwaardelijke kansverdeling (VKV)

12. Thomas Bayes • 1702 (Londen) -1761 (Kent) • Presbyteriaans predikant • Wiskundige • Stelling van Bayes: • P(|) = P(|)P()/P() • gepubliceerd door Laplace • geïnspireerd door een postuum paper van B.(1763)

13. Bayesiaans geloofsnetwerk P(i|1Æ …Æn) = P(i|parents(i)) Dus P(1Æ …Æn) = ni=1P(i|parents(i)) P(1Æ 2) =  P(1Æ2Æ*3Æ …Æ*n) waar *i betekentof i of :i en  is op alle mogelijke combinaties

14. P(bewolkt) = 0.5 Bewolkt P(sprinkler|bewolkt) = 0.1 P(sprinkler|:bewolkt) = 0.5 Regen Sprinkler Gras is nat P(gras|sprinklerÆ regen) = 0.99 P(gras|sprinklerÆ:regen) = 0.9 P(gras|:sprinklerÆ regen) = 0.9 P(gras|:sprinklerÆ:regen) = 0.0 Voorbeeld P(regen|bewolkt) = 0.8 P(regen|:bewolkt) = 0.2 De gras is nat. Wat is de kans dat de sprinkler aan was?

15. P(s|b) = 0.1 P(s|:b) = 0.5 P(b) = 0.5 P(r|b) = 0.8 P(r|:b) = 0.2 Vlugge Vraag b s r P(g|sÆ r) = 0.99 P(g|sÆ:r) = 0.9 P(g|:sÆ r) = 0.9 P(g|:sÆ:r) = 0.0 g • P(s|g) = P(sÆg)/P(g) • P(sÆg) = P(bÆsÆrÆg) + P(:bÆsÆrÆg) + P(bÆsÆ:rÆg) + P(:bÆsÆ:rÆg) P(b)P(s|b)P(r|b)P(g|s,r) = 0.5*0.1*0.8*0.99 = 0.0396 P(:b)P(s|:b)P(r|:b)P(g|s,r) = 0.5*0.5*0.2*0.99 = 0.0495 P(b)P(s|b)P(:r|b)P(g|s,:r) = 0.5*0.1*0.2*0.9 = 0.009 P(:b)P(s|:b)P(:r|:b)P(g|s,:r) = 0.5*0.5*0.8*0.9 = 0.18 = 0.2781

16. P(s|b) = 0.1 P(s|:b) = 0.5 P(b) = 0.5 P(r|b) = 0.8 P(r|:b) = 0.2 b s r P(g|sÆ r) = 0.99 P(g|sÆ:r) = 0.9 P(g|:sÆ r) = 0.9 P(g|:sÆ:r) = 0.0 g Probleem Nog steeds: als n redenen mogelijk zijn moeten we 2n situaties bespreken! • Het kan handig zijn als P(|*1Æ …Æ*n) af te leiden wil van P(|*1), …, P(|*n)… • Niet altijd mogelijk maar handig!

17. Huiswerk 7 • Combinatieregel F • P(|*1Æ …Æ*n) = F(P(|*1), …, P(|*n)) • Deterministische combinatieregels: • logische Ç, Æ, : • numerieke: min, max, avg. • “Noisy-OR” • Maak een overzicht van verschillende combinatieregels. • Deadline: 1 mei 2007.

18. Hoofdpijndiagnose • http://www.symptomedix.com/cgi-bin/diagnose.cgi • Met dank aan Rom, Coen, Paul en Diana

19. Vlugge Vraag • P( |*1Æ …Æ*n) = 1 - (1 – p0)i(1 – P(|i))*i. • p0 – kans dat  gegeven geen enkel van i’s • *i: i = 1, :i = 0 • P(|1) = 0.6 • P(|2) = 0.7 • p0 = 0.001 • Bereken P(|1Æ2) http://www.cs.cmu.edu/~javabayes/ = 0.8812

20. Bayesiaans logisch programmeren ²´` Tot nu toe Kersting, De Raedt 2000 Bayesiaans geloofsnetwerk Logisch programmeren

21. ²´` Bayesiaans logisch programmeren • Clausule overval(X) | wijk(X) betekent… Als Jaap in een goede wijk woont: wijk(jaap) = goeddan is de kans op overval 0.3.

22. ²´` AB, A, B, 0

23. ²´` Bloed vader moeder moederlijk chromosoom vaderlijk chromosoom

24. ²´` Bloed • bloedtype(X) | mc(X), pc(X) • mc(X) | moeder(Y,X), mc(Y), pc(Y) • pc(X) | vader(Y,X), mc(Y), pc(Y) • moeder(beatrix,willem-alexander) • vader(klaus, willem-alexander) • mc(beatrix). • pc(beatrix). • mc(klaus). • pc(klaus).

25. ²´` Goed gedefinieerde BLPs • Goed gedefinieerd: • Ieder atoom is afhankelijk van eindig veel andere atomen • Afhankelijkheidsgraaf van atomen is acyclisch • Stelling: P is goed gedefinieerd ) de kansverdeling is uniek

26. ²´` Vlugge Vraag Is het goed gedefinieerd? A. Ja B. Nee • bloedtype(X) | mc(X), pc(X) • mc(X) | moeder(Y,X), mc(Y), pc(Y) • pc(X) | vader(Y,X), mc(Y), pc(Y) • moeder(beatrix,willem-alexander) • vader(klaus, willem-alexander) • mc(beatrix). • pc(beatrix). • mc(klaus). • pc(klaus).

27. ²´` Rekenen met BLPs • “Luiaardprincipe” • Goed gedefinieerde BLP ) Bayesiaans geloofsnetwerk (zgn. het ondersteunende netwerk) ) rekenen

28. ²´` Berekenen van het ondersteunende netwerk:1) Resolutie pc(wa) bloedtype(wa) vader(wa,kl), mc(kl), pc(kl) mc(wa), pc(wa) moeder(wa,bx), mc(bx), pc(bx), pc(wa) mc(kl), pc(kl) mc(bx), pc(bx), pc(wa) pc(kl) pc(bx), pc(wa) 

29. ²´` Berekenen van het ondersteunende netwerk:2)Verzamel alle gesloten atomen pc(wa) vader(wa,klaus) bloedtype(wa) mc(klaus) mc(wa) pc(klaus) mc(beatrix) pc(beatrix) moeder(wa,beatrix)

30. ²´` Berekenen van het ondersteunende netwerk:3) Voeg de VKVs toe pc(wa) vader(wa,klaus) bloedtype(wa) mc(klaus) mc(wa) pc(klaus) mc(beatrix) pc(beatrix) moeder(wa,beatrix)

31. ²´` Vlugge Vraag • Dweer = {zonnig, regenachtig} • weer(0). weer(volgend(0)). • weer(volgend(volgend(Tijdstip))) | weer(Tijdstip), weer(volgend(Tijdstip)) • Hoeveel kanten heeft het ondersteunende netwerk voor weer(volgend4(Tijdstip))?

32. ²´` Vlugge Vraag weer(0) weer(volgend4(0)) weer(volgend(0)) weer(volgend3(0)) weer(volgend(volgend(0))

33. ²´` p(a) p(a) p(X):-q(X), r(Y) p(X):-s(X,Y), t(Z) q(a), r(b) s(a,b),t(c) q(a) r(b) s(a,b) t(c) Meerdere regels? combinatieregel • Maak extra knoppen voor de regels en • Gebruik de combinatieregels! p(X):- q(X), r(Y). p(X):- s(X,Y), t(Z).

34. ²´` Bayesiaans netwerk als Bayesiaans logisch programma • Knop = predikaat zonder argumenten • Kant = clausule • VKV = VKV • Twee afhankelijke redenen: conjunctie • Twee onafhankelijke redenen: combinatie

35. Vlugge Vraag P(bewolkt) = 0.5 Bewolkt P(regen|bewolkt) = 0.8 P(regen|:bewolkt) = 0.2 P(sprinkler|bewolkt) = 0.1 P(sprinkler|:bewolkt) = 0.5 Regen Gras is nat Sprinkler P(gras|sprinklerÆ regen) = 0.99 P(gras|sprinklerÆ:regen) = 0.9 P(gras|:sprinklerÆ regen) = 0.9 P(gras|:sprinklerÆ:regen) = 0.0 Hoeveel clausules telt het Bayesiaanse logische programma voor dit netwerk? A. 2 B. 3 C. 4 D. 5

36. ²´` Logisch programma als Bayesiaans logisch programma • Voor alle predikaten: domein = {true, false} • VKV: A | A1, …, An • Combinatieregel: max (of or)

37. ²´` Bayesiaans logisch programmeren: voor- en nadelen • Verenigend raamwerk voor twee vormen van redeneren: • probabilistisch (bayesiaanse geloofsnetwerken) • logisch (logisch programmeren) • Kan gebruikt worden voor het machinaal leren

38. Profile/Balios http://www.informatik.uni-freiburg.de/ ~kersting/profile/

39. Huiswerk 8 • Balios – onderdeel van Profile-suite • Bespreek Balios • uitdrukkingskracht vs. efficiëntie • bijkomende eigenschappen • sterke en zwakke punten • Deadline: 1 mei 2007.

40. Drie soorten vaagheid “Ik geloof dat p geldt voor alle x” 8x p(x) Dat hebben we net besproken… Dat weten jullie al… Graad van geloof: Hoe zeker is zeker? Vage predikaat: Hoe ongepast? Statistiek: Wat zijn “de meeste”?

41. Vage predikaten • “…meestal lezen de meeste studenten het boek dan heel slecht.” Magda Oude Stegge Intervjoe met de schrijver W. F. Hermans • “Een boeiend, maar vrij zwak debuut” S. Vestdijk in “Over Conserve. De eerste roman van W. F. Hermans” • “De fantasiemachine is dan ook nogal sexueel geladen.” Wilbert Smulders “Succesvolle mislukkingsmachines: Het thema ‘machine’ in het werk van W.F. Hermans”

42. Vage predikaten • Geen kansen!

43. Vage predikaat: Hoe ongepast? Vage predikaten • Meeting: hoogte, onthoudingspercentage, … • Functie van een meeting naar een graad [0,1] van het predikaat

44. Vage predikaat: Hoe ongepast? Vage predikaten • Jan, 180 cm, is dus • Klein [0.2] • Groot [0.7]

45. Vage predikaat: Hoe ongepast? Heel, min of meer, … • “Heel P”(x) = P(x)2 • Jan is klein: 0.2 • Jan is heel klein: 0.04 • “Min of meer P”(x) = √P(x) • Jan is min of meer klein: 0.447 • “Niet P”(x) = 1 – P(x) • Jan is niet klein: 0.8

46. Vage predikaat: Hoe ongepast? Vlugge Vraag • Piet is minder gelukkig dan niet min of meer gelukkig. • Riet is meer gelukkig dan niet heel gelukkig. Wie is gelukkiger Piet of Riet? • Piet • Riet • Niet voldoende gegevens

47. Vage predikaat: Hoe ongepast? John big = 0.7 strong = 0.8 Bill big = 0.9 strong = 0.7 Lee big = 0.8 strong = 0.9 Vlugge Vraag Wie is de meest geschikte kandidaat?

48. Vage predikaat: Hoe ongepast? John big = 0.7 strong = 0.8 Bill big = 0.9 strong = 0.7 Lee big = 0.8 strong = 0.9 Conjuncties en disjuncties • Graad van P Æ Q = min(graad van P, graad van Q) • Graad van P Ç Q = max(graad van P, graad van Q)

49. Vage predikaat: Hoe ongepast? dan dan Als Als of of slecht uitstekend stinkt lekker krenterig genereus Rekenen met vaagheid

50. Vage predikaat: Hoe ongepast? Bediening 2 slecht = 0.6 uitstekend = 0