A q (Algorithme de l’étoile)

1. Aq(Algorithme de l’étoile)

2. Plan • Présentation de Aq • Algorithme • Un exemple • Défauts de la méthode • Solution apportée DESS

3. Aq (Algorithme de l’étoile) • Proposé par R. Michalski (1969) • Problème : • un ensemble d’attributs discrèts • 2 classes (POS, NEG) • Objectif : • Apprendre une description correcte et complète de la classe POS DESS

4. Applications • Apprentissage de règles permettant de caractériser une classe par rapport à une autre • Modéliser le comportement d’utilisateurs • Caractériser une maladie • … • Apprentissage incrémental DESS

5. Un ensemble d’apprentissage DESS

6. L’algorithme • Diviser les exemples en deux sous ensembles (POS, NEG) • Choisir un exemple dans POS (le noyau) • Trouver un ensemble de règles générales caractérisant le noyau (l’étoile) • Choisir la meilleure règle dans l’étoile • Itérer s’il reste des exemples non couverts dans POS DESS

7. M T N N S E4 F3 F4 T M F6 E3 R S F2 E1 F5 F1 R X Y Z E2 X Y Z Changement de représentation DESS

8. + E4 Changement de représentation DESS

9. Apprentissage (1/4) • Choix du noyau : E1 • Génération de l ’étoile de E1 tel que F1 ne soit pas couvert DESS

10. Apprentissage (2/4) • Fonction qui reconnaît E1 et qui rejette F1 : • G(E1/F1) = (Att1  X)  (Att2  M)  (Att3  S) F1 E1 + DESS

11. Apprentissage (3/4) • Fonctions qui reconnaissent E1 et pas Fi • G(E1/F1) = (Att1  X)  (Att2  M)  (Att3  S) • G(E1/F2) = (Att2  M)  (Att3  T) • G(E1/F3) = (Att3  T) • G(E1/F4) = (Att1  Z)  (Att3  T) • G(E1/F5) = (Att1  Z) • G(E1/F6) = (Att1  X)  (Att3  S) • Étoile E1 = &i G(E1/Fi) DESS

12. Apprentissage (4/4) • Simplification de l’étoile • conserver les règles les plus spécifiques • G(E1/F3) plus spécifique que G(E1/F2) (Att3  T) (Att2  M)  (Att3  T) + DESS

13. Étoile de E1 • Étoile de E1 (Att3  T) & (Att1  Z) & ((Att1  X)  (Att3  S)) • Après réécriture : ((Att1 = Y)  (Att3  T))  ((Att1  Z)(Att3 = R)) DESS

14. + Étoile de E1 R1’ : (att1 = X v Y)  (att3 = R) R2’ : (att1 = Y)  (att3 = R v S) DESS

15. Critères de sélection des règles dans l’étoile • Maximiser le nombre d ’éléments couverts par la règle retenue • Minimiser le nombre d ’attributs de la règle retenue • Maximiser la capacité à généraliser de la règle retenue • ... DESS

16. Itération de l’algorithme • Exemple non couvert par R1’ : E4 • Étoile de E4 : • R : (Att1 = X) & (Att3 = R v T) + DESS

17. Résultat final • Règles permettant de caractériser POS par rapport à NEG ((Att1 = X v Y) & (Att3 = R))  ((Att1 = Y) & (Att3 = R v S)) ((Att1 = X) & (Att3 = R v T)) + DESS

18. Défauts de Aq • Sensibilité au bruit dans les classes • Sensibilité liée à l’imprécision du contexte • Solution proposée par R. Michalski (1990) • approche à deux niveaux (two-tiered approach ) DESS

19. Approche à deux niveaux(1/3) • Idée : • découper la description de la classe POS en deux parties : • Représentation de Base du Concept (RBC) • Interprétation Inférentielle du Concept (IIC) • Possibilité d’apprendre des concepts flexibles DESS

20. Approche à deux niveaux(2/3) • Algorithme • Utiliser Aq pour obtenir l’ensemble initial de règles • Retenir la règle la plus importante (nombre maximal d’éléments de POS couverts) : RBC • Définir la procédure IIC pour reconnaître les éléments de POS non couverts par RBC DESS

21. IIC BCR Approche à deux niveaux(3/3) • Exemple • BCR : si A1 & A2 & … & An alors POS • IIC : au moins 3 conditions parmi A1, …, An doivent être vérifiées DESS

22. Bibliographie • Cours d’Yves Kodratoff : http://ecd6.univ-lyon2.fr/organisation/contenu_cours.php3?numcours=1 • Antoine Cornuéjols - Laurent Miclet. Apprentissage Artificiel. Edition Eyrolles (2002). • Weka : http://www.cs.waikato.ac.nz/ml/weka/ DESS