Université L’ARBI BEN M’HIDI Oum El Bouaghi

1. Université L’ARBI BEN M’HIDIOum El Bouaghi Modélisation par les réseaux de neurones optimisés par les algorithmes génétiques Faculté de Technologie DEPARTEMENT D’ELECTRONIQUE Réalisé par:titi zoubir tebibhaider Dirigé par :Mr k LAMAMRA

2. Plan De l’’exposé Introduction générale. algorithme génétique réseaux de neurones Résultats de simulation Conclusion générale

3. Introduction Objectifs du travail présenté les réseaux de neurones multicouches feedforward sont aujourd'hui modèles les plus employés. Ceci est dû à leurs simplicités et leurs propriétés d'approximation universelles Les Algorithmes Génétiques (AG) sont des techniques d'optimisation stochastiques qui tentent d'imiter les processus d'évolution naturels des espèces et de la génétique Dans ce travail nous proposons d'utiliser les AG pour la construction d'un réseau de neurone afin de modéliser les systèmes dynamiques. Ainsi l'AG doit fournir au réseau de neurone les meilleurs poids de connexion en assurant son apprentissage. Cette technique est appliquée sur le processus de Narand

4. algorithmes génétiques Les algorithmes génétiques, développés par John Holland puis Goldberg présentent des qualités intéressantes pour la résolution de problèmes combinatoires complexes. Ils sont basés sur la théorie de l'évolution des espèces dans leur milieu naturel, soit une transposition artificielle des concepts basiques de la génétique et des lois de survie énoncées par Darwin.

5. Mécanismes des algorithmes génétiques Au fur et à mesure des générations, les chromosomes vont tondre vers l’optimum de la fonction sélective. La création d’une nouvelle population à partir de la précédente se fait par l’application des opérateurs génétiques qui sont : la sélection, le croisement et la mutation. Voici un organigramme représentant le cycle d’évolution d’un algorithme génétique :

7. les opérateurs génétiques La procédure d'évaluation  La procédure de sélection La procédure de croisement La mutation

8. La procédure d'évaluationPour l'évaluation de chaque individu, le modèle utilise son codage, exécute la simulation avec l'ordre de lancement des produits correspondant et retourne les valeurs du temps de cycle moyen des produits et du nombre de produits en-cours en fin de campagne La procédure de sélection que nous avons utilisée est la "roulette biaisée de Goldberget Fonctionne sur le principe Principes de sélection  A l'inverse d'autres techniques d'optimisation, les algorithmes génétiques n'ont pas besoin de connaître la dérivée de la fonction objectif, ce qui rend leur domaine d'application plus vaste.

9. La procédure de croisementLe croisement a pour but d'enrichir la diversité de la population en manipulant les composantes des individus (chromosomes). Classiquement, les croisements sont envisagés avec deux parents et génèrent deux enfants La mutation L'opérateur de mutation apporte aux algorithmes génétiques l'aléa nécessaire à une exploration efficace de l’espace afin de créer un nouvel individu qui n'existait pas auparavant La probabilité de mutation représente la fréquence à laquelle les gènes d'un chromosome sont mutés. S'il n'y a pas de mutation, le fils est inséré dans la nouvelle population sans changement. Si la mutation est appliquée, une partie du chromosome est changée.

10. réseaux de neurones Introduction  Utilité des RN . Modèle d’un neurone biologique  Modèle d’un neurone artificiel  Les propriétés d’un réseau de neurones Conclusion 

11. Introduction Les réseaux de neurones sont des modèles mathématiques et informatiques, des assemblages d’unités de calcul appelés neurones formels, et dont l’inspiration originelle était le fonctionnement cérébral de l’être humain.

12. Utilité des RN Les réseaux de neurones, en tant que système capable d'apprendre, mettent en œuvre le principe de l'induction, c'est à dire l'apprentissage par l'expérience. Par confrontation avec des situations ponctuelles, ils infèrent un système de décision intégré dont le caractère générique est fonction du nombre de cas d'apprentissages rencontrés et de leur complexité par rapport à la complexité du problème à résoudre

13. Modèle d’un neurone biologique Cette section décrit un modèle très grossier des neurones biologiques qui servi à la mise en place des premiers neurones formels

14. Modèle d’un neurone artificiel  Le neurone formel est une modélisation mathématique qui reprend les principes du fonctionnement du neurone biologique, en particulier la sommation des entrées Modélisation d’un neurone artificiel La modélisation consiste à rassembler les connaissances que l'on a du comportement dynamique du processus, par une analyse physique des phénomènes mis en jeu, et une analyse des données expérimentales. Ces analyses conduisent à la définition des grandeurs caractérisant le processus, c'est-à-dire ses entrées, ses variables d’état et ses sorties

15. Fonctionnement d’un RN Le neurone calcule la somme de ses entrées puis cette valeur passe à travers la fonction d'activation pour produire sa sortie. Fonction d’activation La fonction d’activation (ou fonction de seuillage, ou encore fonction de transfert) sert à introduire une non linéarité dans le fonctionnement du neurone. Les fonctions de seuillage présentent généralement trois intervalles : en dessous du seuil, le neurone est non actif (souvent dans ce cas, sa sortie vaut 0 ou -1) ; aux alentours du seuil, une phase de transition ; au-dessus du seuil, le neurone est actif (souvent dans ce cas, sa sortie vaut 1).

16. Les fonctions de seuillage présentent généralement trois intervalles : en dessous du seuil, le neurone est non actif (souvent dans ce cas, sa sortie vaut 0 ou -1) ; aux alentours du seuil, une phase de transition ; au-dessus du seuil, le neurone est actif (souvent dans ce cas, sa sortie vaut 1).

17. Les propriétés d’un réseau de neurones La propriété d’approximation universelle La propriété d’approximation universelle a été démontrée par [Cybenko, 1989] et [Funahashi, 1989] et peut s’énoncer de la façon suivant: Toute fonction bornée suffisamment régulière peut être approchée uniformément, avec une précision arbitraire, dans un domaine fini de l’espace de ses variables, par un réseau de neurones comportant une couche de neurones cachées en nombre fini, possédant tous la même fonction d’activation, et un neurone de sortie linéaire.

18. La propriété de parcimonieLorsqu’on cherche à modéliser un processus à partir des données, on s’efforce toujours d’obtenir les résultats les plus satisfaisants possibles avec un nombre minimum de paramètres ajustables

19. Conclusion : nous avons exposé les réseaux de neurones, en spécifiant leurs définitions, les concepts de base de cette technique, l’apprentissage des réseaux de neurones, et ses différents domaines d’utilisation

20. Résultats de simulation Les études sur les réseaux neurones artificiels et les algorithmes génétiques se sont développées en parallèle et ont souvent été en interaction durant cette dernière décennie

21. Tableau III.2 : Résultats de simulation Cas 1 : Entraînement par un réseau à deux entrées  Dans ce cas les entrées du réseau de neurones sont la commande du processus u et la sortie désirée yp.

22. D'après les résultats obtenus, nous remarquons que la meilleure structure est celle de 0.0068. Ces résultats sont satisfaisants comme on peut le constater sur les figures ci-dessous, qui représentent la sortie réelle du réseau de neurone et la sortie désirée (du système) (figure III.2), l'erreur instantanée (figure III.3) et la commande du système (figure III.4).où le nombre de neurones de la couche cachée est égale à 5 ce qui correspond à une erreur quadratique cumulée

23. La Sortie réelle et la sortie désirée

24. L'erreur instantanée

25. La commande

26. Cas 2 : Entraînement par un réseau à trois entréesDans ce cas les entrées du réseau de neurones sont la commande du processus u et la sortie désirée yp et l’erreur quadratique instantanée e.

27. Dans ce cas et d'après les résultats du tableau III.3, nous remarquons que la meilleure structure est celle où le nombre de neurones de la couche cachée est égale à 4 ce qui correspond à une erreur quadratique cumulée de 0.0042. Ces résultats sont meilleurs que celle du premier cas. les figures ci-dessous, représentent la sortie réelle du réseau de neurone et la sortie désirée (du système) (figure III.5), l'erreur instantanée (figure III.6) et la commande du système (figure III.7).

28. La Sortie réelle et la sortie désirée

29. L'erreur instantanée

30. La commande u(t)

31. Conclusion D'après ces résultats, nous remarquons que l'algorithme génétique a donnée des structures meilleures pour les réseaux de neurone à trois entrées que celui à deux entrées. Nous pensons que cela est du au fait que l’introduction de l’erreur dans le réseau lui donne la possibilité de se corriger mieux que s’il n’a aucune information sur l’erreur

32. Conclusion générale Tout comportement d’un système biologique par rapport à plusieurs échelles temporelles peut être interprété dans un contexte de type système dynamique en utilisant les outils de l’automatique. Pour ces applications, la modélisation et l’identification de systèmes dynamiques sont nécessaires. Parmi les techniques utilisées dans ce sens on peut citer: les algorithmes génétiques qui sont des algorithmes destinés principalement à l’exploration et l’optimisation. Ils sont inspirés de la génétique naturelle, et les réseaux de neurones artificiels qui sont à l’origine d’une tentative de modélisation du cerveau humain

33. Dans ce travail, nous avons introduit l’application des algorithmes génétiques pour l’apprentissage des réseaux de neurones dans le but de modéliser les systèmes dynamiques. Nous avons appliqué cette méthode sur le processus de Nerrand Les résultats de simulation obtenus montrent que les AG sont des outils d’optimisation performants qui permettent de réaliser une exploration globale de l’espace, contrairement aux méthodes déterministes classique