Paysages de Fitness et Neutralité

1. Paysages de Fitness et Neutralité Philippe Collard pc@unice.fr Projet TEA Laboratoire I3S Université de Nice-Sophia Antipolis/CNRS

2. Paysages de Fitness et Neutralité • Origine Biologique du concept de neutralité • Neutralité = ? • Comment mesurer la neutralité ? • Les paysages de fitness sont-ils neutres ? • Des modèles pour étudier la neutralité • Comment exploiter le concept de neutralité?

3. Origines BiologiquesThéorie neutraliste de l’évolution Kimura 1983 • Evolution moléculaire • Correspondance génotype/phénotype très redondante • Large proportion de mutations sélectivement neutres • Moteur principal de l'évolution ? sélection adaptative rôle des forces stochastiques (dérive génétique) • Dans la nature les populations ne sont pas fixées sur un optimum local

4. Neutralité =Redondance + Opérateur neutre • Ensemble de neutralité (ES) • Ensemble de génotypes d’iso-fitness • Réseau de neutralité (RN) • Connections intra ES par opérateur neutre • RN de taille suffisamment importante • $ «Portes» entre les RN • Une large proportion du paysage peut être approchée par exploration d’un réseau • Augmente la probabilité d’atteindre un niveau de fitness donnée à partir d’une pop aléatoire

5. Du Grimpeur au Nageur … Ou comment s’échapper d’un optimum local grâce aux mutations ?

6. Marche adaptative sur un paysage de fitness avec neutralité • Succession de phases • Gain de fitness • Dérive aléatoire

7. Neutralité et dynamique évolutionniste • Longues périodes de stabilité (phénotypique) • Dérive dans un réseau de neutralité • Effet d’un opérateur neutre (mutation) • Ponctuées par de rapide augmentation de fitness • Découverte inopinée d’un meilleur mutant • Effet de mutation adaptative rare Mutation = opérateur neutre ? Rôle du croisement ? Convergence prématurée !

8. Intérêt de la neutralité pour la recherche ou l’optimisation • Donne un moyen de maintenir une certaine diversité génotypique sans risque de perdre les fitness • Potentialité pour s’échapper de certains optima locaux

9. Comment mesurer la neutralité ? • Redondance • Nombre et Taille des RN • Distribution des génotypes selon la fitness (DOS) • Connectivité • intra RN • Proportion de mutations neutres vs. Fitness • nombre de mutations neutres par génotype (neutral degree) (Barnett) • inter RN • Percolation (théorie des graphes) • Taux d’innovation (neutral random walks) • Evolvability (Smith 2002)

10. Densité d’Etats • Distribution des configurations selon les valeurs de fitness • Représente la taille des ensembles d’iso-fitness • Indique la probabilité d’atteindre un niveau de fitness donné • Distribution Normale (binomiale) • Unitation, Paysage NK • SAT, max-CSP, TSP

11. DOS : Paysage NKN=16 K=12

12. Intérêts et Limites du D.O.S • Mesure indépendante du voisinage codage, voisinage, opérateur • Permet de « situer » une population initiale aléatoire • La « queue » de la distribution est un indice de difficulté • Extension : prise en compte le dynamique • Distribution des Coûts de Processus (Hao & Belaidouni)

13. Les paysages académiquessont-ils neutres ? • Fonctions de De Jong • Redondance induite par la modalité • Redondance • Unitation : redondance • NK : redondance • Redondance + Mutation neutre • Royal Road

14. Fonction Royal Road(Holland, Forrest, Mitchell 95) • N = 3 blocs * 10 bits sopt=1111111111111111111111111111113 s3 =********************1111111111 +1 s2 =**********1111111111********** +1 s1 =1111111111******************** +1 • 4 réseaux de neutralité • fitness 3 : 1 • fitness 2 : ~ 3.103 • fitness 1 : ~ 3.106 • fitness 0 : ~ 109

15. Fonction Royal RoadCrutchfield & al. 99 • Mutation Positive (adaptative) : rare 1111101111******************** Négative (délétère) : rare 1111111111******************** Neutre : les plus fréquentes 1000000001******************** • Pop 250 • Probabilité de mutation 0.005

16. Fonction Royal Roadfitness vs. générations

17. Fonction Royal RoadPopulation vs. générations Population=(P0,P1,P2,P3) Pi = proportion de chaînes de fitness i

18. Les paysages « réels » sont-ils neutres ? • Evolution of neural network controllers in robotic • Silicon chip electronic circuit evolution (FPGA) (Harvey ICES96) • Circuit de reconnaissance de la parole (Thompson 2001)

19. Des modèles pour étudier la Neutralité • Modèle basé sur les fonctions Royal Road • Labyrinthe en Terrasses • Modèle basé sur les paysages NK (random) • NKp ‘probabilistic NK’ • NKq ‘quantised NK’

20. Terraced Labyrinth fitness functionCrutchfield & al. 99 Fitness déterminée par un arbre • Nœud : réseau de neutralité • Schéma • Fitness associée • Constellation : zone de transition • mutuellement exclusives sur un même nœud • Branche : portail entre réseaux adjacents • instanciation d’une constellation • Sous-nœud : réseau de meilleure fitness • spécialisation de schéma

21. Labyrinthe en terrasses 000001011100110 8 111110000101101 7 111110011100010 6 00000**111**110 6 11111***0101101 4 11111***1100010 5 00000**111***** 4 11111********** 3 00000********** 2 *************** 1

22. Labyrinthe en terrasseset mutations • Mutation adaptative • rare • Contrôlée par la taille des constellations • Mutation neutre • Fréquente (muter sur une constellation) • diminue quand la fitness augmente • Mutation délétère • augmente avec la fitness • 1 seule mutation peut « ramener » à la racine

23. Des modèles pour étudier la Neutralité • Modèle basé sur les fonctions Royal Road • Labyrinthe en Terrasses • Modèle basé sur les paysages NK (random) • NKp ‘probabilistic NK’ • NKq ‘quantised NK’

24. Paysages NKKauffman 1993 • N = longueur du chromosome • K = degré d’épistasie • Fitness additive • S des contributions de chaque gène • Contribution d’un gène dépend • Allèle du gène • Allèles de K autres gènes • K=0 : fitness linéaire (smooth landscape) • K=N-1 : fitness aléatoire (rugged landscape)

25. Paysages NK : K=2 Kauffman 1993 • DOS binomiale • Mutations neutres très rares

26. Paysages NKpBarnett 1998 • Paysages NK + neutralité • p=probabilité qu’une contribution soit nulle • p=0 : paysage NK (pas de neutralité) • P=1 : paysage plat La probabilité qu’une mutation soit neutre augmente avec p

27. Paysages NKp : K=2 Barnett 1998

28. DOS : N=16 K=12 p=0.8

29. NKp : proportions des mutations neutresN. Geard & al. (CEC 2002)

30. Innovation le long d’un RNHuynen 1996, Barnett 1998 On comptabilise le nombre de phénotypes « innovants » rencontrés dans le voisinage du chemin aléatoire neutre (neutral walks) sur le RN

31. N=20 K=4 pop=1000 mutation=0.001 p=0 p=0.99

32. Paysages NKq Newman & Engelhardt 1997 • Les contributions à la fitness sont des entiers dans [0..q] (quantised NK) • Intuitivement on construit un paysage NK en « terrasses » • La probabilité qu’une mutation soit neutre diminue avec q • Le nombre de réseaux de neutralité augmente exponentielle avec N • Percolation dans les plus grands réseaux de neutralité

33. Paysages NKq : K=2 q=2 Newman & Engelhardt 1997

34. DOS : N=16 K=12 q=2

35. NKq : proportion des mutations neutresN. Geard & al. (CEC 2002)

36. Comparaisons : NKp, NKqN. Geard & al. (CEC 2002) • Distribution des mutations neutres • Quand la fitness augmente : • Le nombre de mutations négatives augmente • Le nombre de mutations positives diminue • NKp • Le nombre de mutations neutres diminue avec la fitness • NKq • Le nombre de mutations neutres est maximum pour la fitness moyenne

37. Meilleure fitness atteinte vs. NeutralitéN=20 K=4 • Random hill-climber • moyenné sur 10 simulations • Stratégie : • sélectionner un 1-mutant au hasard • jusqu’à trouver une meilleure solution • ou une solution équivalente • Le processus de recherche s’arrête sur un réseau de neutralité qui ne percolate pas

38. q Meilleure fitness atteinte vs. NeutralitéN=20 K=4

39. Comment exploiter le concept de neutralité en Evolution artificielle ? • Etudier la neutralité intrinsèque • Redondance (DOS) • Connectivité (intra/inter) • Neutralité synthétique • Introduire de la redondance • codage • bruit dans le calcul de la fitness • Méta codage (stratégies d’évolution) • Concevoir des opérateurs neutres • Exploiter les symétries

40. Neutralité synthétique • Spécifique • Choix du codage • Choix des opérateurs • Neutre • Recombinaison • Indépendante du problème • Neutralité synthétique minimale

41. Voyageur de commerce24 villes concentriques • Concevoir un Opérateur neutre • Exploiter les symétries du problème • « Compatible » avec le croisement (PMX)

42. Voyageur de commerceOpérateur neutre et Symétrie

43. Voyageur de commercesolution optimale

44. Neutralité synthétique • Spécifique • Choix du codage • Choix des opérateurs • Neutre • recombinaison • Indépendante du problème • Neutralité synthétique minimale

45. Neutralité synthétique minimaleP. Collard & al. (EA 99) • Dualité : neutralité synthétique minimale • Mapping génotype/phénotype f :W R • Mapping étendu F : {0,1}xW R F(0x) = f(x) F(1x) = f(x)

46. Neutralité synthétique minimale • Redondance F : {0,1} * W R F(x)=F(x) • Invariance de la Densité d’Etats • Contraction de la distance Hamming d(0000,1111)=l d(00000,10000)=1 d(0000,0011)= l/2 d(00000,11100)= l/2 • Opérateur neutre : mirroring x  x

47. Neutralité synthétique minimaleEtude expérimentale • 200 bits • 100 chromosomes • 1000 générations • Mutation 0.5 par chromosome • Mirroring 0.02 • Croisement 0.7 • Tournoi

48. Trajectoire du centroïdesans neutralité

49. Neutralité synthétique d’ordre 1Trajectoire du centroïde

50. Neutralité synthétique d’ordre 1Mean/max fitness