270 likes | 375 Views
TEAM DAY GLOBC 21 janvier 2004. Coupleurs OASIS et PALM et applications. OASIS. Plan général. OASIS PALM Perspectives PALM-OASIS Applications PALM. Le coupleur OASIS. OASIS L’historique La communauté aujourd’hui Le projet PRISM OASIS3: Finalisation et diffusion
E N D
TEAM DAY GLOBC21 janvier 2004 Coupleurs OASIS et PALM et applications OASIS
Plan général • OASIS • PALM • Perspectives PALM-OASIS • Applications PALM
Le coupleur OASIS • OASIS • L’historique • La communauté aujourd’hui • Le projetPRISM • OASIS3: Finalisation et diffusion • OASIS4: 1ère version d’un coupleur parallèle • Perspectives OASIS
L’historique d’OASIS • 1991: analyse des besoins • 1993: OASIS1.0 (Pipe CRAY et fichiers) 10 ans de couplé tropical • 1995: OASIS2.0 (PVM3) Projet Cathode: couplage distribué • 1996: OASIS2.1 Projet SIDDACLICH: réchauffement global • 1998: OASIS2.2 (SIPC) Projet Demeter: prévision saisonnière • 1999: OASIS2.3 (GMEM - NEC) Projet SINTEX • 2000: OASIS2.4 (MPI2) Projet Predicate: variabilité naturelle • 2003: OASIS3 (MPI1 + PSMILe + I/O)
La communauté OASIS aujourd’hui • CERFACS • METEO-FRANCE (France) • IPSL- LODYC, LMD, LSCE (France) • MERCATOR (France) • ECMWF (UK) • Southampton University (UK) • UCL (Belgique) • MPI - M&D (Allemagne) • U. de Kiel (Norvège) • SMHI (Suède) • U. de Bergen (Norvège) • BMRC (Australie) • CSIRO (Australie) • U. de Tasmanie (Australie) • NCC (Japon) • JAMSTEC (Japon) • IRI (USA) • AWI (Allemagne) • Met Office (UK) • UGAMP (UK) • KNMI (Pays-Bas) • FSU/COAPS (USA) • LASG (Chine) • INPE/CPTEC (Brésil)
Le projetPRISM • Objectif: « développer une infrastructure européenne pour la modélisation dusystème climatique global facilitant l’assemblage, l’exécution et le post-traitement de modèles couplés basés sur les composantes-modèles existant en Europe (océan–atmosphère-sol-biogéochimie-chimie atmosphérique) • Financement: par l’Union Européenne (4.8 MEuros – 12/2001 – 11/2004)
Le projetPRISM • Promouvoir des standards pour les ESMs: • Librairie de couplage et I/O (Oasis) • Environnement de compilation • Environnement de configuration (prepIFS) • Environnement d’exécution et monitoring (SMS) • Post-traitement • Format de données (NetCDF)
Le coupleur OASIS3 Couplage statique: tous ces paramètres sont fixés initialement par l’utilisateur dans un fichier d’entrée namcouple • 1 coupleur monoprocesseur: • - échange des champs de couplage • - interpolation des champs échangés Flexibilité, modularité: > nombre arbitraire de modèles (parallèles) et de champs échangés > fréquences de couplage différentes pour les différents champs > transformations particulières pour chaque champ
Le coupleur OASIS3 O • Nouvelle interface de couplage MPI1 ou MPI2 • intégration temporelle, • adaptation automatique de la fréquence de couplage A O A Oasis3 O A O B A B A • communication directe B A • I/O: transition automatique forcé - couplé A file A A Les nouveautésOASIS3 • Nouveaux schémas d’interpolationspour différentes grilles(par processus séquentiel sur champs 2D scalaires)
Le coupleur OASIS4 Réécriture globale (couplage statique): -> flexibilité et modularité -> + parallélisation + optimisation: OASIS4:Driver/Transformer + PSMILe • Aujourd’hui: • Modèles à plus haute résolution efficacement parallélisés • Fréquences de couplage plus élevées • Nombre croissant de composantes-modèles • Nombre croissant de champs (2D - 3D)
Le coupleur OASIS4 C C C OB O1 OB • Parallélisation: • communication et re-répartition C O1 OB C T Les différencesOASIS3-OASIS4 • Fichiers XML: • interface de couplage des composantes, • configuration d’un modèle couplé • calcul des « voisins » d’interpolation • Transformer: structure propice à sa future parallélisation • Interpolation: comme Oasis3 + • Support de champs vectoriels • Support de champs 3D
Le coupleur OASIS4 • Version prototype: 02/2004: • Fichiers XML (structure et lecture) • Gestion de processus (lancement, communicateurs, …) • Interface modèle du PSMILe • Communication et re-répartition parallèle • Infrastructure du Transformer • Quelques transformations et interpolations de base • Fonctionnalités d’I/O • Développements futurs (~4 pers-ans, au-delà de PRISM): • Recherche exacte des voisins en parallèle • Autres interpolations (schéma conservatif, 3D, …) • Autres transformation locales (réductions, combinaison, …) • Parallélisation du Transformer • Traitement des vecteurs • Grilles adaptatives
Perspectives OASIS • OASIS3: • Maintien et support OASIS3 • Support à Météo-France sur IBM • Aide au projet Mercator • Implication du CERFACS dans support continu PRISM (04-07)? • Poursuite des développements OASIS4 • Collaboration constructeurs (NEC, SGI, Cray, IBM, …) • Demande d’un ITA CNRS à 50% • Adaptation des modèles français pour le couplage • Re-soumission d’un projet d’infrastructure au FP6 en 03/05
Le coupleur PALM • OASIS • PALM • État des lieux • Utilisation de PALM • Perspectives PALM • Perspectives PALM-OASIS • Applications PALM
État des lieux PALM Deux produits PALM_RESEARCH Développement terminé Formation – Assistance – Documentation – Maintenance - Site Web Tourne en opérationnel chez MERCATOR PALM_MP Première version livrée à MERCATOR : mars 2003 Passage à PALM_MP chez MERCATOR : début 2004 Version plus complète que PALM_RESEARCH : mars 2005
État des lieux PALM à PALM_MP Vrai MPMD avec MPI2 Optimisation de la mémoire Indépendance totale des unités à coupler Algèbre parallèle Aspect dynamique plus poussé Nombre de processeurs des unités Taille des objets, distribution Plus de fonctionnalités et de souplesse Sous objets Interopérabilité (c, c++, f77 & 90) Monitorage De PALM_RESEARCH SPMD simulant du MPMD avec MPI1 Perte de mémoire avec les codes qui utilisent de la mémoire statique Boite à outils d’algèbre non parallèle Unités compatibles coté utilisateur
Utilisation de PALM 1/3 Communauté Météo et Océano
Utilisation de PALM 2/3 Partenaires du CERFACS
Utilisation de PALM 3/3 Autres
Perspectives PALM : Développement En chantier Pour mars 2004 (Contrat MERCATOR) : PALM_MP en phase de tests et d’optimisation, aide au passage à PALM_MP Planifié Pour mars 2005 (Appel d’offre MERCATOR), deux personnes : Algèbre parallèle Taille dynamique des espaces Héritage des espaces comme pour l’algèbre À proposer Selon les besoins de MERCATOR : -IO parallèles -Interpolation spatiale
Perspectives PALM : Applications ORCA_VAR/PALM Développement de la chaîne sous PALM pour diffusion : Lodyc, ECMWF, MERCATOR Assimilation de donnés en Chimie de l’atmosphère. Projet ADOMOCA : Daniel Cariolle Suite D’ASSET ? EDF Neutronique : Guillaume Gacon
Perspectives OASIS-PALM Répondre de façon concertée aux besoins de couplage dans la communauté scientifique • Fusion des logiciels? • Produits distincts mais certaines fonctionnalités communes • Techniquement réalisable (~12-18 personnes-mois) • Maintenance facilitée? • Souhaitable pour ceux qui utilisent à la fois OASIS et PALM: MERCATOR, chimie, … • Pas forcément souhaitable pour les utilisateurs actuels d’OASIS • Tâche de service?
OASIS-PALM Fin de la présentation
Le coupleur OASIS3 Oasis3 • Processus séquentiel Interpolations/transformations • Champs 2D scalaires • RPN Fast Scalar INTerpolator • +proche voisin, bilinéaire, bicubique pour grilles régulières Lat-Lon • SCRIP1.4(Los Alamos Software Release LACC 98-45): • +proche voisin, « remapping » conservatif 1er et 2e ordre toutes grilles • bilinéaire et bicubique grilles cartésiennes [lat(i,j) lon(i,j)] • Interpolation bilinéaire et bicubique pour grilles atmos. réduites. • Autres transformations spatiales: correction de flux, combinaison, ... • Opérations algébriques générales
Prospective: le coupleur OASIS4 Les différences OASIS3-OASIS4 • Configuration d’un modèle couplé avec OASIS4: • Fichiers XML de description d’un code: • AD: Application Description • PMIOD: Potential Model Input and Output Description • Fichier XML de configuration d’un modèle couplé: • SCC: Specific Coupling Configuration • SMIOC: Specific Model Input and Output Configuration
Prospective: le coupleur OASIS4 C C C OB • Communication et répartition parallèle basée sur le domaine géographique de chaque processus, directement ou via le Transformer O1 OB C O1 OB C T La communication: • Nouvelle librairie PSMILe basée sur MPI1 ou MPI2 • Calcul en parallèle des intersections de partitions source-cible et des « voisins » d’interpolation par la PSMILe source • Extraction du champ utile seulement. • I/O: transition automatique mode forcé - mode couplé • Adaptation automatique à la fréquence de couplage des SMIOC • Intégration temporelle automatique si indiquée dans les SMIOC
Prospective: le coupleur OASIS4 Les interpolations/transformations (Transformer) T • Réagit en boucle sur des demandes d’action envoyées par les différents PSMILes: • envoi des intersections de partitions source-cible • envoi des voisins • envoi ou réception d’une intersection de partition d’un champ • Traite indépendamment l’intersection de chaque couple de partition source-cible • Structure propice à sa future parallélisation • Interpolation: comme Oasis3 + • Support de champs vectoriels • Support de champs 3D