Grid Computing Christophe HAVET - 30 juin 2011
Sommaire Généralités sur le Grid Computing Quelques exemples Concepts fondamentaux Principes Exemple de Symphony Présentation Mode de fonctionnement Exécution Gestion des ressources Suivi d’activité Rapports d’activité Nouveautés de Symphony 5.1 Questions
Grid Computing : quelques exemples Searching for ExtraTerrestrial Intelligence (SETI) SETI@Home, dirigé par l’Université de Berkeley, utilise un économiseur d’écran afin d’analyser les signaux captés par le radiotélescope d’Arecibo à Porto-Rico. Projet lancé en mai 1999, environ 3 millions de machines aujourd’hui Middleware :  Berkeley Open Infrastructure for Network Computing Association française contre les myopathies Première cartographie de l’ensemble des protéines/molécules produites par les cellules Projet lancé et terminé fin 2001 sur  75000 machines Finance Calcul de P&L, analyses de risque (V@R, EEPE, …)
Grid Computing : concepts fondamentaux Ressources partagées Entre clients et entre applicatifs Ressources distribuées et délocalisées Lieux géographiques différents pouvant appartenir à différentes organisations Ressources hétérogènes Systèmes d’exploitation Systèmes de gestion de fichier Ressources coordonnées L’interconnexion et la gestion des ressources est assurée par un middleware qui masque la complexité des échanges entre le client et les machines de la grille
Grid Computing : principes Avantages Allocation dynamique de ressources Répartition automatique de charges Entre différentes applications Entre tâches de la même application Augmentation de la puissance de calcul à moindre coût Tolérance aux pannes Utilisation de la puissance de calcul inutilisée Contraintes Traitements parallélisables Contentions Réseaux Accès aux ressources partagées (base de données, fichiers) Pare feus
Symphony : présentation Systèmes d’exploitation Windows ®  XP, Windows ®  Vista ® , Windows ®  7 Windows ®  2003 (32 et 64 bits) Windows ®  2008 (32 et 64 bits) Red Hat Enterprise Linux ®  4,5,6 SUSE Linux Enterprise Server ®  9,10 IBM AIX ®  5 Langages C/C++ C# Java 1.4,… Python
Symphony : mode de fonctionnement
Symphony : exécution Traitements Applications Services Sessions Tasks Ressources Clusters Hosts Cores Slots
Symphony : exécution Traitements Applications Sessions Sessions Tasks Gestion Consumers Services Packages
Symphony : gestion des ressources Modèles de partage Silos (pas de partage) Prêt de ressources inutilisées Proportionnalité Préemption Au niveau des sessions Période de grâce Consumers Structure arborescente Gestion fine des ressources Mise en commun des packages
Symphony : exécution de N traitements N applications avec 1 service et 1 type de session N binaires à déployer Allocation fine des ressources basée sur Proportionnalité entre consumers Réservation + prêt Préemption possible Le pré-chargement des services pour les N traitements occupe N slots 1 application avec 1 service et N types de session 1 seul binaire à déployer Allocation de ressources basées uniquement sur les priorités entre sessions Pas de préemption possible Le pré-chargement des services pour les N traitements n’occupe qu’un slot La mise à jour d’un service arrête tous les traitements en cours du service
Symphony : suivi d’activité Platform Management Console Configuration Suivi « temps réel »
Symphony : rapports d’activité Platform Enterprise Reporting Framework Historique du nombre de tâches en cours, en attente… Historique de l’occupation de la grille Historique de l’occupation mémoire, de l’utilisation du CPU
Symphony : nouveautés GPU support Options spécifiques pour déterminer les machines libres Desktop Server Virtual Server Déploiement Multi-dépôt par cluster Partage de packages entre applications modulaires Gain de place sur la référence Vitesse de déploiement accrue
QUESTIONS ?

Grid Computing avec Symphony

  • 1.
    Grid Computing ChristopheHAVET - 30 juin 2011
  • 2.
    Sommaire Généralités surle Grid Computing Quelques exemples Concepts fondamentaux Principes Exemple de Symphony Présentation Mode de fonctionnement Exécution Gestion des ressources Suivi d’activité Rapports d’activité Nouveautés de Symphony 5.1 Questions
  • 3.
    Grid Computing : quelquesexemples Searching for ExtraTerrestrial Intelligence (SETI) SETI@Home, dirigé par l’Université de Berkeley, utilise un économiseur d’écran afin d’analyser les signaux captés par le radiotélescope d’Arecibo à Porto-Rico. Projet lancé en mai 1999, environ 3 millions de machines aujourd’hui Middleware : Berkeley Open Infrastructure for Network Computing Association française contre les myopathies Première cartographie de l’ensemble des protéines/molécules produites par les cellules Projet lancé et terminé fin 2001 sur 75000 machines Finance Calcul de P&L, analyses de risque (V@R, EEPE, …)
  • 4.
    Grid Computing : conceptsfondamentaux Ressources partagées Entre clients et entre applicatifs Ressources distribuées et délocalisées Lieux géographiques différents pouvant appartenir à différentes organisations Ressources hétérogènes Systèmes d’exploitation Systèmes de gestion de fichier Ressources coordonnées L’interconnexion et la gestion des ressources est assurée par un middleware qui masque la complexité des échanges entre le client et les machines de la grille
  • 5.
    Grid Computing : principesAvantages Allocation dynamique de ressources Répartition automatique de charges Entre différentes applications Entre tâches de la même application Augmentation de la puissance de calcul à moindre coût Tolérance aux pannes Utilisation de la puissance de calcul inutilisée Contraintes Traitements parallélisables Contentions Réseaux Accès aux ressources partagées (base de données, fichiers) Pare feus
  • 6.
    Symphony : présentation Systèmesd’exploitation Windows ® XP, Windows ® Vista ® , Windows ® 7 Windows ® 2003 (32 et 64 bits) Windows ® 2008 (32 et 64 bits) Red Hat Enterprise Linux ® 4,5,6 SUSE Linux Enterprise Server ® 9,10 IBM AIX ® 5 Langages C/C++ C# Java 1.4,… Python
  • 7.
    Symphony : mode defonctionnement
  • 8.
    Symphony : exécution TraitementsApplications Services Sessions Tasks Ressources Clusters Hosts Cores Slots
  • 9.
    Symphony : exécution TraitementsApplications Sessions Sessions Tasks Gestion Consumers Services Packages
  • 10.
    Symphony : gestion desressources Modèles de partage Silos (pas de partage) Prêt de ressources inutilisées Proportionnalité Préemption Au niveau des sessions Période de grâce Consumers Structure arborescente Gestion fine des ressources Mise en commun des packages
  • 11.
    Symphony : exécution deN traitements N applications avec 1 service et 1 type de session N binaires à déployer Allocation fine des ressources basée sur Proportionnalité entre consumers Réservation + prêt Préemption possible Le pré-chargement des services pour les N traitements occupe N slots 1 application avec 1 service et N types de session 1 seul binaire à déployer Allocation de ressources basées uniquement sur les priorités entre sessions Pas de préemption possible Le pré-chargement des services pour les N traitements n’occupe qu’un slot La mise à jour d’un service arrête tous les traitements en cours du service
  • 12.
    Symphony : suivi d’activitéPlatform Management Console Configuration Suivi « temps réel »
  • 13.
    Symphony : rapports d’activitéPlatform Enterprise Reporting Framework Historique du nombre de tâches en cours, en attente… Historique de l’occupation de la grille Historique de l’occupation mémoire, de l’utilisation du CPU
  • 14.
    Symphony : nouveautés GPUsupport Options spécifiques pour déterminer les machines libres Desktop Server Virtual Server Déploiement Multi-dépôt par cluster Partage de packages entre applications modulaires Gain de place sur la référence Vitesse de déploiement accrue
  • 15.