Activer les recherches à l'aide du cloud

S O M M E T D U
S E C T E U R P U B L I C
O T T A W A

© 2019, Amazon Web Services, Inc. ou ses filiales. Tous droits réservés
S O M M E T D U
S E C T E U R
P U B L I C
Facilitier la recherche à l’aide de
l’informatique en nuage
Sanjay Padhi, Initiatives de recherches, AWS
Paul Astell, Centre de recherche sur les communications du Canada

© 2019, Amazon Web Services, Inc. ou ses filiales. Tous droits réservés.
S O M M E T D U
S E C T E U R
P U B L I C
Pourquoi est-ce que les chercheurs utilisent AWS?
L’heure de la science
Accéder à l’infrasctucture de recherche en
quelques minutes
Faible coût
Paiement en
fonction des besoins
Elasticité
Facilité à ajouter ou
à retirer de la capacité
Accessible dans le monde entier
Collaborer facilement avec des
chercheurs autour à travers le monde
Sécurité
Un éventail d’outils pour protéger les
données et la confidentialité
Évolutivité
Un accès à l’infrastructure
mondiale de AWS

S O M M E T D U
S E C T E U R
P U B L I C
Infrastructure mondiale de
AWS
20 régions, 61 zones de disponibilité, 155 emplacements Edge
11 Caches Edge régionaux dans 65 villes et 29 pays
Régions et zones de disponibilités
AWS GovCloud (É-U) Europe
É-U-Est (3), É-U-Ouest (3) Ireland (3)
É-U Ouest Frankfort (3)
Orégon (4) Londres (3)
Nord de la Californie (3) Paris (3), Stockholm (3)
Asie Pacifique
É-U Est Singapore (3)
Virginie du Nord(6), Ohio
(3)
Sydney (3), Tokyo (4),
Séoul (2), Mumbai (2)
Canada Osaka-Local(1)
Centre (2) Chine
Beijing (2)
Amérique du Sud Ningxia (3)
São Paulo (3)
Nouvelles régions
Bahrain, Cape Town, Hong Kong, Jakarta et Milan

S O M M E T D U
S E C T E U R
P U B L I C
Évolution dans les services cloud
Hébergement sur serveur virtuel, gestion de conteneur et informatique sans serveur
Serveurs virtuels (Amazon EC2)
Fournit une capacité de calcul redimensionnable sous la forme d'instances
EC2, équivalentes à des serveurs virtuels.
Permet d'exécuter du code sans avoir à mettre en service ou gérer des
serveurs
AWS Lambda et dimensionne automatiquement votre application en
exécutant le code en réponse à chaque déclencheur.
Service d'orchestration et de gestion de conteneurs hautement scalable
Isolation des ressources
(Amazon EC2 Container Service)
Du code sans serveurs (AWS Lambda)

S O M M E T D U
S E C T E U R
P U B L I C
Des options informatiques diversifiées : les types d’instances – CPU, GPUs,
FPGAs, …
M5
Usage
général
Calcul
optimisé
C5
C4
Stockage et IO
optimisés
I3, H1
P3
Calcul
accéléré
Mémoire
optimisée
R4
D2
M4
X1/e
R3
P2
G3
F1
M5.24xlarge
• 96 vCPU,
• 384GB RAM
• Jusqu’à 25Gps n/w
• EBS exclusivement
• 9k EBS Mbps
• Nouveau
hyperviseur Nitro
light + h/w dédié
C5.18xlarge
• 72 vCPU,
• 144GB RAM
• EBS
exclusivement
• 9k EBS Mbps
• Jusqu’à 25 Gbps
w/ENA
T2.2xlarge
• 8 vCPU,
• 32GB RAM
• EBS exclusivement
• 81 cpu
credit/hr
X1e.32xlarge
• 128 vCPU,
• 4TB RAM
• 2 x 1.9TB SSD
• 14k EBS Mbps
R4.16xlarge
• 64 vCPU,
• 488GB RAM
• SSD EBS
• 25 Gbps
H1.16xlarge
• 64 vCPU
• 256GB RAM
• 8 x 2TB HDD
• 25 Gbps
I3.16xlarge
• 64 vCPU
• 488GB RAM
• 8 x 2TB NVMe SDD
• 25 Gbps
I3.metal (preview)
• 36 cores/72
• 512GB RAM
• 8 x 2TB NVMe SDD
• 25 Gbps
D2.8xlarge
• 36 vCPU
• 256GB RAM
• 8 x 2TB HDD
• 25 Gbps
P3.16xlarge
• 8 GPU Tesla V100
• 5k CUDA/640 coeurs Tensor
• 488GB RAM
• 64GB GPU RAM
• NVLink p-2-p

S O M M E T D U
S E C T E U R
P U B L I C
• 10 à 100s de traitement de coeur
• Jeu d'instructions prédéfini et
largeurs de chemin de données
• Optimisé pour l'informatique à
usage général
CPU
CPUs vs GPUs vs FPGA for Compute
• 1000s de traitement de base
• Jeu d'instructions prédéfini et
largeur du chemin de données
• Très efficace lors d'une exécution
parallèle
GPU
• Des millions de cellules logiques
numériques programmables
• Aucun jeu d'instructions prédéfini ou
largeur de chemin de données
• Exécution chronométrée par le matériel
FPGA
DRAM
Control
ALU
ALU
Cache
DRAM
ALU
ALU
Control
ALU
ALU
Cache
DRAM
ALU
ALU
Control
ALU
ALU
Cache
DRAM
ALU
ALU
Control
ALU
ALU
Cache
DRAM
ALU
ALU
Évolution dans les accélérateurs de matériels

S O M M E T D U
S E C T E U R
P U B L I C
P3
G3
F1
Amazon P3 GPU Compute Instance
• Jusqu’à 8 NVIDIA V100 GPUs dans une instance unique, avec NVLink pour la communication GPU
entre homologues
• Prise en charge d'une grande variété de cas d'utilisation, notamment l’apprentissage profond,
HPC, calcul financier et rendu par lots
•Amazon G3 : l’instance graphique GPU
• Jusqu’à 4 NVIDIA M60 GPUs, avec des paramètres et licences GRID Virtual Workstation
• Conçu pour les charges de travail telles que le rendu 3D, les visualisations 3D, les stations de
travail distantes utilisant beaucoup de graphiques, le codage vidéo et les applications de réalité
virtuelle
•Amazon F1 : l’instance FPGA
• Jusqu’à 8 FPGA Xilinx Virtex® UltraScale +™ VU9P en une seule instance. Programmable via VHDL
(langage de description matérielle), Verilog ou OpenCL. Un marketplace croissant au niveau des
applications accélérations préconçues.
• Conçu pour les applications à accélération matérielle, notamment le calcul financier, la
génomique, la recherche accélérée et le traitement d'images

S O M M E T D U
S E C T E U R
P U B L I C
Grand collisionneur de hadrons
Le grand collisionneur de hadrons @
CERN compte plus de 6 000
chercheurs, originaires de plus de 40
pays et produit environ 25 PO de
données par an.
Les tests ATLAS et CMS utilisent AWS
pour Monte Carlo pour les
simulations, le traitement et
l'analyse des données LHC.

S O M M E T D U
S E C T E U R
P U B L I C
Pays Site premier tier
Canada TRIUMF
Allemagne KIT
Espagne PIC
France IN2P3
Italie INFN
Pays nordiques Nordic Datagrid Facility
Pays-Bas NIKHEF / SARA
République de
Corée
GSDC at KISTI
Fédération Russe RRC-KI and JINR
Taipei ASGC
Royaume-Uni GridPP
É-U Fermilab-CMS
BNL ATLAS

S O M M E T D U
S E C T E U R
P U B L I C

S O M M E T D U
S E C T E U R
P U B L I C
Interaction de données en continu toutes les 25 nanosecondes –
occupation (recherche de tendances)

S O M M E T D U
S E C T E U R
P U B L I C
Le cloud a permis de render l’informatique élastique

S O M M E T D U
S E C T E U R
P U B L I C
~ 60 000 emplacements utilisant des instances ponctuelles AWS. Un facteur de 5 plus grand que la
capacité de Fermilab! https://aws.amazon.com/blogs/aws/experiment-that-discovered-the-higgs-boson-uses-aws-to-pro
Recherche utilisant l’informatique en nuage
hybride Auto expansion vers AWS à la demande

S O M M E T D U
S E C T E U R
P U B L I C
HTCondor Annex pour l’élasticité
Disponible sur AWS Marketplace
https://aws.amazon.com/marketplace/search/results?searchTerms=htcondor

S O M M E T D U
S E C T E U R
P U B L I C
Traitement du langage naturel EC2
1,1 Million vCPUs et Amazon EC2 Spot Instances
https://aws.amazon.com/blogs/aws/natural-language-processing-at-clemson-university-1-1-million-vcpus-ec2-spot-instances/

S O M M E T D U
S E C T E U R
P U B L I C
RECORD DU GUINNESS :
• Titre pour avoir réalisé l’analyse de 1000 génomes humains en un
temps record
• Ont utilisé les services de Amazon EC2 F1
• Recherche complétée en deux heures et vingt-cinq minutes
Hôpital pour enfants de Philadelphia et le génome Edico :
Ont accompli l’analyse de 1000 génomes, un record de temps!

S O M M E T D U
S E C T E U R
P U B L I C
Les images spatiales de Hubble sur AW
S:
28 ans de données maintenant disponibles
dans le cloud, pour la recherche
https://aws.amazon.com/blogs/publicsector/hubble-space-imagery-on-aws-28-years-of-data-now-available-in-the-cloud/

S O M M E T D U
S E C T E U R
P U B L I C
AWS aide les chercheurs à « voir » les neutrinos
https://aws.amazon.com/blogs/aws/nova-uses-aws-to-shed-light-on-neutrino-mysteries/
Neutrinos: les fantômes de l'univers - les chercheurs utilisent AWS pour détecter les particules

S O M M E T D U
S E C T E U R
P U B L I C
F R A M E W O R K S E T
I N F R A S T R U C T U R E E N M L
Le machine learning de Amazon : le plus vaste et le plus profond
en terme de capacités
S E R V I C E S
E N I A
R E K O G N I T I O N
I M A G E
P O L L Y T R A N S C R I B E T R A N S L A T E C O M P R E H E N D
& C O M P R E H E N D
M E D I C A L
L E XR E K O G N I T I O N
V I D E O
Vision Discours Chatbots
A M A Z O N
S A G E M A K E R
C O N S T R U I R E E N T R A Î N E R
F O R E C A S TT E X T R A C T P E R S O N A L I Z E
D É P L O Y E R
Des algorithms et cachiers pré-conçus
Étiquetage des données (GROUND TRUTH)
Formation et réglage de modèles en un clic
Optimisation (N E O )
Déploiement et stockage en un clic
S E R V I C E S E N
M L
F R A M E W O R K S I n t e r f a c e s I n f r a s t r u c t u r e
E C 2 P 3
& P 3 d n
E C 2 C 5 F P G A s G R E E N G R A S S E L A S T I C
I N F E R E N C E
Apprentissage par renforcementAlgorithmes et modèles ( A W S
M A R K E T P L A C E
P O U R L ’ A P P R E N T I S S A G E
A U T O M A T I Q U E )
Langage Météo Recommandations

S O M M E T D U
S E C T E U R
P U B L I C
Machine Learning - Amazon SageMaker
Des cahiers
pré-conçus
pour des
problèmes
courants
K-Means Clustering
Analyse des composants principaux
Modélisation de sujets neuronaux
Machines à factoriser
Apprenant linéaire - Régression
XGBoost
Allocation de Dirichlet latente
Seq2Seq
Apprenant linéaire - Classification
ALGORITHMES
Apache MXNet
TensorFlow
Caffe2, CNTK, PyTorch,
Torch
FRAMEWORKS
Configurer et gérer les
environnements de
formation
Modèle de
formation et de
réglage (essais et
erreurs)
Déployer le
modèle en
production
Mise à l'échelle et
gestion de
l'environnement de
production
Algorithmes
intégrés et de
haute
performance
• Apprentissage supervisé
• Apprentissage non supervisé
• Apprentissage par renforcement

S O M M E T D U
S E C T E U R
P U B L I C
Classification automatique de la rétinopathie diabétique par apprentissage
profond à l'aide de AWS

S O M M E T D U
S E C T E U R
P U B L I C
Source: Weather Channel
Trajectoire prédite de l’ouragan
Irma
Trajectoire réelle de l’ouragan Irma
AWS Re:invent: Machine Learning for Improving Disaster Management and Response
Le machine learning pour améliorer la réponse et la gestion de catastrophes en utilisant
AWS

S O M M E T D U
S E C T E U R
P U B L I C
Le machine learning pour améliorer la réponse et la gestion de catastrophes en utilisant
AWS
https://arxiv.org/abs/1806.07378

S O M M E T D U
S E C T E U R
P U B L I C
Aperçu du génome du koala

S O M M E T D U
S E C T E U R
P U B L I C https://www.ukauthority.com/articles/nhs-digital-builds-data-services-platform/
Royaume-Uni : les dossiers des patients du NHS seront stockés sur la
plateforme cloud AWS

Démocratisation du calcul
haute performance (HPC)
Résultat d'une collaboration entre :
Laboratoire national de microbiologie ; Agence de la santé
publique du Canada
Et le Centre de recherches sur les communications ;
Innovation, science et développement économique
Le 15 mai 2019

Les collaborateurs
• Le Centre de recherches sur les communications : Le centre de
recherche appliquée sur les télécommunications de pointe du
gouvernement du Canada, axé sur le client. L'innovateur canadien
dans le domaine des télécommunications sans fil s'est penché sur
ce qui est possible et sur ce qui fonctionne.
• Le Laboratoire national de microbiologie de l'Agence de santé
publique du Canada, le seul laboratoire de bioconfinement de
niveau 4 au Canada, spécialisé dans la prévention, la surveillance,
la détection et l'intervention en cas de menaces de maladies de
santé publique. De nouvelles approches sont continuellement mises
au point et appliquées.
30

Le défi
Le Laboratoire national de microbiologie (LNM) de l'Agence de la
santé publique du Canada (ASPC) connaît d'importantes poussées
au niveau de ses activités informatiques, à un point tel qu’elle a
dépassé les capacités de son infrastructure CHP sur site.
31
• Le cloud peut-il être utilise pour augmenter les capacités
de CHP de leur centre de données?
• Le CHP sur le cloud peut-il être rentable?
• Le CRC et le LNM peuvent-ils utiliser le CHP sur le cloud
pour faire de la science?

32
Notre défi de 6 semaines
Migrer une partie de l’architecture du CHP de LNM sur le
domaine de recherche virtuel (DRV) du CRC.
• Avec les services d’Amazon Web Services
• Preuve de concept CHP
• Cas d'utilisation en situation réelle ayant une incidence
sur la santé publique
• Étalonnage avec système sur site

Une approche en trois phases
• Phase 1 – Soulever et déplacer (~1-2 semaines)
• Phase 2 – Optimiser (~2-3 semaines)
• Phase 3 – Mesurer (1-semaine)
33
6-semaines

Composition de l’équipe
• Petite équipe interdisciplinaire de systèmes
informatiques (CS), biologiste (BI) et ingénieur de
recherche (ENG)
• Approche agile avec sprint hebdomadaire
34

Phase 1 - Soulever et déplacer
35

Phase 1- LNM CHP sur site
• 7 000 CPU
• 40 To RAM
36
Cluster
Data Store
Interface

Phase 2 – Mise à l'échelle - Capacité
insuffisante ?
38
Erreur: Capacité d’instance insuffisante.
La capacité dans le zone de disponibilité demandée est actuellement
insuffisante.
AWS Region
AZ AZ AZ AZ

inefficient scaling
Phase 2 – Mécanisme de mise à l’échelle
AWS auto-scaling vs personnalisée39
Évolutivité améliorée

Phase 2 – Comparaison de Data Store – Multi
AZ
Vitesse et coût Data Store– multi AZ
40


Phase 2- Architecture finale
• Multi AZ
• Mise à l'échelle
personnalisée
• S3 pour le data store
41

Phase 3 – Cas d’utilisation réels
• Infection alimentaire (rappel de farine tout usage)
• Identification des gènes résistants aux antimicrobiens (MCR-1)
• Données accessibles au public
43

Phase 3 - Étalonnage
Deux étalonnages
• 10 K échantillon de simulation (10 To)
• 100 K échantillon de simulation (100To)
Les deux étalonnages ont été exécuté:
• Sur site
• Cloud – soulever et déplacer (10 K seulement, en raison du
coût)
• Cloud- optimisé
44

Phase 3 – Temps d’exécution
10 K temps
(h:mm)
100 K temps
(h:mm)
Sur site 0:25 3:36
Cloud – soulever et
déplacer
1:05 --
Cloud - optimisé 0:07 0:26
45
1:05 --
0:07 0:26

Phase 3 – Coût
Base Soulever et déplacer Optimisé
Stockage de base (100 TB) $1,005/day $75/day
Base CPU $67/day $55/day
Base totale $1,072/day $130/day
À capacité extensible
Burst CPU - 10K $73 $62
Burst CPU - 100K -- $220
46
1 005 $/jour
$67 $/jour
1 072 $/jour
73 $
75 $/jour
55 $/jour
130 $/jour
62 $
220 $

Démonstration réussie
• Les éléments du système CHP de LNM peuvent être migrés
vers le cloud
• Les systèmes CHP peuvent être optimisés pour l'utilisation
dans le cloud
• Le Cloud CHP peut être rentable
• Le Cloud CHP peut être utilisé pour la science, vraiment!
48

Ce qu’on retient
• Le CHP est accessible à tous - dans le cloud
• Le cloud évolue à la demande et est rentable
• Utiliser le CHP peut permettre des résultats viables,
tout en répondant à des exigences communes et
réelles
• Des avancés dans les phases initiales sont possibles
49

Activer les recherches à l'aide du cloud

Recommandé

Recommandé

Contenu connexe

Similaire à Activer les recherches à l'aide du cloud

Similaire à Activer les recherches à l'aide du cloud (20)

Plus de Amazon Web Services

Plus de Amazon Web Services (20)

Activer les recherches à l'aide du cloud