530 likes | 800 Views
1992. 1998. 2000. 2002. MIRIAD Parallel Processing. Mise en oeuvre industrielle d’algorithmes mathématiques. (Présenté pour l’habilitation à diriger des recherches) Jérôme Lacaille Responsable recherche et développements Miriad Technologies Décembre 2004. Plan de la présentation.
E N D
1992 1998 2000 2002 MIRIADParallel Processing Mise en oeuvre industrielle d’algorithmes mathématiques (Présenté pour l’habilitation à diriger des recherches) Jérôme Lacaille Responsable recherche et développements Miriad Technologies Décembre 2004
Plan de la présentation • Suivant le mémoire • StoNe (STOchastic NEtworks) Un outil client-serveur d’analyse d’images fonctionnant sur processeurs massivement parallèles : CM2 – Cray2 – MasPar • Siredin (Simulateur de rétine artificielle) Simulateur complet de rétine artificielle embarquée sur un intercepteur balistique • Impact Analyse de l’influence des causes potentielles de la dégradation de qualité sur des fours à verre. Présentation de la méthodologie mathématique basée sur l’information mutuelle. • Miriad-Process L’atelier de développement et de capitalisation algorithmique développé pour Miriad-Technologies. • Cas d’études • Réalisations Miriad-Technologies Une série de descriptions rapides de quelques cas d’études résolus à Miriad à l’aide de Miriad-Process. • L’équipe de développement Présentation de ceux qui par leurs efforts considérables ont participé à la conception de l’atelier. • Analyse de la défectivité chez ST-Microelectronics Utilisation des mesures de défectivité pratiquées en cours de fabrication pour la mise en place d’une surveillance et d’un contrôle anticipatif de la qualité de production.
STONE STOchastic Networks CMLA – MIRIAD - DRET
StoNe (1/4) Vision artificielle Application : détection de contours
StoNe (2/4) Solution logicielle • Système client-serveur. • Calculateur parallèle utilisé comme co-processeur. • Connection-Machine • Cray 2 • MasPar • Réseaux de neurones • plus de 3 millions de cellules.
StoNe (3/4) Machines de Boltzmann Machines de Boltzmann Champs de Gibbs Hinton, Sejnowsky Échantillonneur Markovien synchrone
Siredin Simulateur de rétine artificielle MIRIAD - CEA
Siredin (1/4) Projet Pour préparer la future génération de capteurs optiques embarqués sur des mobiles balistiques, le CEA (DAM) commande à Miriad un simulateur complet d’un système optique embarqué. • Simulation des trajectoires balistiques • Porteur, mobile, mouvement de Poinsot … • Génération des scènes extérieures • Astres (soleil, terre, lune, étoiles) • Météo (sol, mer, nuages …) • Cible mobile • Simulation du capteur optique • 3 modèles (2 SFIM et 1 CERCO) • Rétine optique, miroirs, moteurs • Capteur numérique, diffraction, zones mortes, … • Algorithmique • Veille optique • Détection de points chauds • Poursuite de la cible • Anticipation d’impact Agresseur en déplacement latéral Agresseur en accélération
Siredin (2/4) Architecture Archivage Paramètres Moteur IHM SOEM OPTI DETE RETI ALGO SCETRA MITO SUPERVISEUR
Siredin (3/4) Suivi de cible mobile • Balayage de l’espace devant le mobile • Repérage d’un point chaud (IR) • Analyse de l’image, calcul des fiabilités de détection • Suivi du point (mode confirmé) • Suppression du bruit de quantification • Prédiction de la trajectoire dans le repère du porteur • Analyse de la trajectoire : déduction du mouvement de Poinsot • Commande des miroirs tournants pour le suivi de l’agresseur • Calcul du risque d’impact • Estimation d’une distance de passage au plus près et d’une date d’impact
Siredin (4/4) Algorithmique Étude du mouvement de Poinsot et de l’écart au plus près des trajectoires Calcul de l’instant d’impact par régression Distance de passage au plus près
Impact Analyse d’influence MIRIAD – Saint-Gobain
Analyse d’influence (1/8) Exemple Exemple : un constructeur automobile dispose d’une machine-outil ayant plus d’une centaine de réglages possibles. Il veut optimiser les réglages pour améliorer la performance. • Mesure de l’influence des facteurs sur la performance • Une première analyse mono-variée aide la sélection des variables. • Sélection de facteurs influents • On recherche le nombre minimum de facteurs, qui groupés, maximisent l’influence sur la performance. • Modélisation robuste • Proposition de zones de réglages optimales.
Analyse d’influence (2/8) Influence Information mutuelle Entropie Influence :proportion d’information contenue par des indicateurs X qui explique une performance Y.
Analyse d’influence (3/8) Résultats • Quantification : • On classifie la performance Y en maximisant son entropie. • On classifie les indicateurs en maximisant l’influence des classifications sur la performance. Influence sur la performance Facteurs
Analyse d’influence (4/8) Algorithme Mesure d’influence Données Quantification Calcul d’entropie Erreur de généralisation Erreur de quantification Erreur d’approximation • Mécanisme : • L’algorithme d’optimisation est un recuit-simulé. • On maîtrise l’erreur de calcul en tous les points du traitement.
Analyse d’influence (5/8) Modélisation multi-variée • Analyse multi-variée • Optimisation de croisements de classifications mono-variées. • L’optimisation est basée sur le critère d’influence. • recuit-simulé • une évolution lente de la population d’indicateurs par un algorithme génétique. • Le critère d’influence évite la production d’indicateurs croisés de trop forte entropie.
Analyse d’influence (6/8) Production de verre Four à verre
Analyse d’influence (7/8) Synchronisation • Synchronisation de mesures • Un réseau de neurones récurrent déterministe implémente un filtre non linéaire. • Le réseau est initialisé par la représentation markovienne d’un filtre stationnaire. IJCNN Orlando 94 Desai, Pal, Aoki, Akaiké, … Robotic Systems 98
Analyse d’influence (8/8) Analyse • Conception d’indicateurs de causes potentielles • Les experts du procédé isolent des groupes de capteurs et des variables d’état dont les variations jointes correspondent à des phénomènes physiques précis. • Analyse d’influence • L’analyse d’influence identifie les causes et conjonctions de causes correspondant à une dégradation de la qualité. Classification des causes potentielles
Projets Miriad Équipes de recherche StoNe Siredin Impact Jérôme Lacaille MdC CMLA Patrick Garda Chef de Projet Jérôme Lacaille MdC CMLA Stéphane Herbin Thésard CMLA Oussama Chérif Thésard CMLA Laurent Younes Chercheur DIAM Ch. Labourdette Ingénieur CMLA Jean-Pascal Crametz Cherch. Polytechnique Eric L’Homer Thésard CMLA Franck Taïeb Thésard CMLA Eric Belhair Chercheur Électronique Jérôme Lacaille MdC CMLA Stéphane Gervais Ingénieur Miriad Arnault Delfosse Ingénieur Miriad Stéphane Gervais Ingénieur Miriad Thibault Delahodde Ingénieur Système Marcial Mancip Stagiaire inst. Galilée Gabriel Le Daim Stagiaire inst. Galilée Frédéric Talliani Ingénieur IHM Jocelyn Camerol Ingénieur Miriad Samir Bou Obeid Ingénieur Centrale Paris
Miriad-Process Atelier de développement et de déploiement MIRIAD Commercialisé aujourd’hui sous le nom de « Md A3 Builder »
Miriad-Process (1/5) Industrialisation d’algorithmes Besoin Réponse • Industrialisation d’algorithmes mathématiques • Mathématique • Organisation et structure du code • Incorporation de codes externes • Développement d’algorithmes • Documentation méthodologique • Test méthodologiques • Optimisation algorithmique • Informatique • Programmation de composants • Tests et benchmarks • Optimisation de performances • Documentation utilisateur • Assemblage de logiciels • Atelier de développement • Conception d’algorithmes • Environnement de développement mathématique • Normes, structure • Contrôle de la qualité • Partage de codes • Gestion d’une base de connaissances • Interface interactive • Production de logiciels • Compiler des applications • Intégrer des solutions • Déployer dans l’entreprise
Miriad-Process (2/5) Principe • Concept • Archiver des algorithmes mathématiques • Gérer les algorithmes auto-adaptatifs • Apprentissages par observation des données • Séquencer des graphes de traitements complexes • Combinaisons de plusieurs algorithmes adaptatifs • Parallélisme et asynchronisme du séquencement
Miriad-Process (3/5) L’atelier Industrialisation Concept Mathématique Logiciel Informatique Réutilisation Assemblage Intégration Codes Modules Graphes Produits Plate-forme de développement scientifique Synoptiques Miriad-Process Pilotes Plate-forme d’intégration logicielle Agents Applications
Miriad-Process (4/5) Séquencement • Transfert • Les données d’entrée sont traitées et transmises • Attente • Le module accumule des données jusqu’à en avoir assez pour effectuer un calcul • Production • L’état du module lui permet de générer des données • Apprentissage • Le module accumule des données pour son calibrage Fenêtre glissante ou distribution d’un capteurs multi-varié Production Attente Apprentissage Transfert Apprentissage glissant ou vectorisé
Agent contrôlé Contrôleur Agent Module Events Bus Paramétrage Exécution Apprentissage Lancement d’agent Arrêt Initialisation Paramétrage Transfert Apprentissage Affichage Agent Data Paramètres État Statut Paramètres Statut Miriad-Process (5/5) Compilation d’agents Séquenceur Mathématiques Informatique Composant Doc utilisateur Doc scientifique Code mathématique compilation Agent Doc technique Composant Module Contrôleur Interface R&D Clients Application Projet - Étude
Réalisation (1/5) Synoptique SEP • Étude du démarrage du moteur vulcain • Analyse des 12 premières secondes • Détection d’anomalies • Méthodologie • Détection d’instants caractéristiques • Ondelettes, détecteurs de formes • Plus de 300 réseaux de neurones • Perceptrons à 5 couches
Réalisations (2/5) Pilote Textile • Procédé de blanchiment de textile • Étude de de la qualité du procédé • Remontée aux causes de dégradation • Méthodologie • Analyse d’influence
Réalisations (3/5) MdScan - MdScanAcoustique • Méthodologies • Détecteurs spécifiques • Courbures, Fourrier, ondelettes • Réseaux de neurones • Diagnostics d‘anomalies • Modèles stochastiques • Fusion de scores • Modélisation de distributions • MdScan • Détection de formes • Temporelles (TraderForce) • Fréquentielles (Dassault) • Acoustiques (Airbus) • Diagnostics d’anomalie • Synthèses de diagnostics
Réalisations (4/5) Flexible Golden Pattern Repérage d’anomalies : Micro-électronique (SI-Automation). Suivi des taux de charge : Réseau informatique (Procédé auto-adaptatif) Contrôle de compresseurs d’oxygène : Détection Sur-consommation (Air Liquide)
Réalisations (5/5) MdImpact • Un outil algorithmique de défrichage de données. • Études (Renault F1, Renault Cléon, Michelin, …). • Analyse a priori (Rhodia, HPCII, CTAS, Dior, Rhône-Poulenc, …). • Interface graphique interactive • Démonstrations originales. • Une intégration complète dans Miriad-Process. • Add-On Excel. • Application d’analyse générique. • On en dérive plusieurs composants : • Monitoring de procédés industriels (Rhodia,ST-Microélectronics). • Générations de règles (Ilog), initialisation de la structure de réseaux de neurones. • Production d’alarmes.
Les équipes Algorithmiques R&D et Études R&D Études (1998-2001) Jérôme Lacaille R&D Mathilde Mougeot Projets Sarah Bardin Assistante Bruno Durand Client Gilles Colliot Logiciel Marc Abitbol IHM Eduard Naum Data Éric L’Homer Algo Franck Lefèvre Support Charles Lehalle Études Nicolas Delsaux Thomas Gillon Bruce Heller Jérôme Besnard Peggy Gaillon J. F. Legrand B. Granado Mireille Couri Hugues Frevilles Xavier Blanc Sylvie Sellier Abdallah Maazi Christ. Boulay Valentine Ogier K. Fakhr-Eddine Benjamin Rey Fabrice Gaudier Th. Le Gallais Bruno Grappin Matthieu Spaier Samuel Séné Mohamed Attik (2002-2004) Olivier Gérard Laétitia Vo Laurent Ménet David Krief
Défectivité Analyse de la défectivité dans la production de semi-conducteurs MIRIAD – ST Microelectronics
Micro-électronique (1/3) Un cas d’étude Défectivité : les wafers sont des disques de silicium sur lesquels on grave les puces électroniques. La production utilise plusieurs étapes d’usinage (~350), environ toutes les 10 étapes on prend une photographie du wafer sur laquelle on quantifie le nombre de défauts/particules. Étape Inspection … Route Tests Rendement : un rendement par wafer est calculé à la sortie de la FAB. Il mesure la qualité du wafer : le nombre de puces électriquement bonnes sur le nombre total de puces. Production : plusieurs produits sont usinés par les mêmes machines, plusieurs machines d’un même atelier peuvent réaliser une étape. Les machines disposent de plusieurs chambres travaillant en série et/ou en parallèle. Une première étude d’analyse d’influence met en évidence la disponibilité d’information dans les mesures de défectivité pour expliquer le rendement. Cela s’explique par le fait qu’en production 80% des problèmes de défectivité sont apportés par les équipements et les recettes de procédé associées. Ces défauts sont en grande partie détectable optiquement.
Micro-électronique (2/3) Proposition de solution On spécifie un système d’agents distribués réalisant chacun une estimation de la probabilité de produire avec un mauvais rendement. Les projections sont des synthèses des distributions de risques conditionnées par différents critères : • Produits :on recherche les produits les plus difficile à fabriquer. • L’analyse se décompose en technologie, devices (mémoires, logiques) et produits finis. • Équipements :on repère les équipements fautifs responsables de dégradation. • L’analyse peut aussi se ramener à l’atelier, la machine, la chambre. Risques de mauvais rendement Rapports de nuisance défectivité Alerte Risque Projection Alerte Risque Alerte Projection route Risque Distribution du risque de mauvais rendement • Une population d’agents calcule des risques de mauvais rendement : il s’agit d’estimer la probabilité de ne pas avoir un rendement parfait. • Chaque agent diffère des autres par ses entrées et la plage de données utilisées pour son calibrage. • Chaque agent mémorise un état de la production suivant un contexte dépendant à la fois de la production et du temps. utilisation Mesure d’adéquation du risque au contexte d’apprentissage Agent Qualité du calibrage et fiabilité de l’agent apprentissage
Micro-électronique (3/3) Prototype Bonne fiabilité Rendement observé Mesures Étapes Technologie récente Risque Qualité Risque élevé Mauvais rendement Projection : le premier graphe présente une synthèse des risques suivant le contexte technologique. On obtient une mesure de risque et des marges d’erreur à 99% par technologie. A chaque mesure est associé un calcul de fiabilité de l’estimateur du risque. Cette fiabilité dépend • de la représentativité de la base d’apprentissage ; • et de l’adéquation des mesures à cette base. La distribution connue des rendements est superposée au graphe (médiane et quantiles à 25% et 75%). Un des agents a donné un résultat intéressant. Il permet de dégager une série de wafers dont on aurait pu prévoir la dégradation bien en amont dans la production. Qualité : l’agent maîtrise sa robustesse en utilisant un algorithme de bootstrap. L’erreur de généralisation est donnée par la largeur des bandes jaunes.
J’adresse mes remerciements à : Robert Azencott Directeur de recherche depuis 1988 Fondateur et président de Miriad. L’équipe de développement de Miriad Pour son enthousiasme et le plaisir de travailler avec eux. Le département de Mathématiques de l’ENS de Cachan Pour m’avoir permis de conserver un cours de DEA ces 5 dernière années. Marie Cottrel et le SAMOS Car c’est grâce à Marie que je peux soutenir cette habilitaton aujourd’hui à Paris 1. Pour m’avoir toujours soutenu L’équipe du DIAM Et tant d’autres qui j’espère ne m’en voudront pas trop de ne pas les citer. Et je remercie les clients de Miriad pour leur confiance : SEP EADS/Airbus Dassault CEA Rhone-Poulenc, Rhodia ELF Saint Gobain Air Liquide, Ales Schneider Lesaffre, Aventis Christian Dior CPR SGAM Prost GP PSA Renault Altis Semi-conducteurs SI-Automation ST-Microelectronics Conclusion • EDF-GDF • Christian Dior • ITF, SAIC, SIPP
Document et présentation disponibles sur Internet http://www.cmla.ens-cachan.fr/~lacaille/hdr.htm
StoNe (3/5) Machines de Boltzmann Réseau de neurones Apprentissage Champ de Gibbs Échantillonneur Markovien
StoNe Réseau de neurones Système de voisinage sur un réseau de neurones à cliques Transitions markoviennes Spécifications locales
StoNe Apprentissage (1) Minimisation d’une erreur moyenne
StoNe Apprentissage (2) Minimisation d’une erreur moyenne (suite)
StoNe Apprentissage (3) Comparaison de lois : rétro-propagation Information de Kullback
StoNe Apprentissage (4) Comparaison de lois : rétro-propagation (suite)
Synchronisation Méthode de Desaï et Pal (performance, indicateur) à synchroniser Passé Futur Corrélations temporelles
Impact Erreur sur l’entropie L’entropie est estimée à partir de proportions empiriques. Approximation de Neyman-perason Théorème de Cochran
Miriad-Process Les modules auto-adaptatifs Interface Séquenceur Module *