Détecter des objets sur des photos, recommander des produits adaptés à vos besoins, prédire le futur ! … Le Machine Learning et l'IA sont des technologies nous permettant aujourd’hui de dépasser nos rêves les plus fous. C'est en tout cas ce qu'en disent nos médias mainstream les plus sensationnels… Mais dans la réalité, ce n’est pas si simple. Une grande partie des projets AI reste au stade de la R&D, et la magie de l’IA se retrouve alors bloquée dans les MacBooks des Data Scientists. Car, transformer ses travaux en produits intégrés à l’intérieur de véritables applications business, peut rapidement s’avérer être une tâche complexe. Heureusement, il existe aujourd’hui dans Azure des outils simples et adaptatifs qui vont fortement vous faciliter la tâche, et nous verrons cela ensemble lors de cette session.

1. Paris, samedi 14 décembre 2019
Ecole Supérieure de Génie Informatique

2. All around the world

3. Global AI Community

4. Merci à l’ESGI, aux communautés
et aux sponsors

5. Quelques règles
de vie à l’ESGI
• Repas à 12h sur présentation du
billet « repas gratuit »
• Toilettes
• Espace fumeurs
• Deux salles pour les conférences
• Wifi

6. Programm
e de la
journée

7. Azure Machine
Learning Services
Il déploie son IA en
production, seulement
10% des Data Scientists
en sont capables !
Decembre 2019

8. Fabien ADATO
Architect Data & AI
fabien.adato@azeo.com
@fabienAD
Fadata-blog.com
MVP Data Platform (2016-2017-2018)

9. Questions !
Y a-t-il des Data Scientists dans la salle
?
Des Data Engineer ?
Dev ?
Autre ?

10. Agenda
• Principes du ML
• Quelle est la
place du ML ?
• Azure Machine
Learning Services
• DEMO-IRIS
• Tarifications
• QnA

11. Principes du ML

12. 12
Définition
Le Machine Learning est une science qui permet de créer
automatiquement des modèles à partir de données d’exemples.
=> Objectif : prédiction et identification

13. Age Sexe Ville A acheté un
Vélo?
12 M Paris Oui
43 F Lyon Non
30 M Marseille Oui
… …. ….. …..
De quoi avons-nous besoin pour le
ML ?
De DATA !
Des attributs / informations en
colonne
Des personnes
en ligne

14. Age Sexe Ville A acheté un
Vélo?
12 M Paris Oui
43 F Lyon Non
30 M Marseille Oui
… …. ….. …..
X Y
Indentification de la colonne à prédire
F(X) = Y
Question :
Est-ce que la personne
va acheter un vélo ?

15. F()X Y
Historique (X,Y)
Processus en 2 étapes : Training et
Scoring

16. F()
Historique (X,Y)
Training : Création du modèle
entrainé
Age Sexe Ville A acheté
un Vélo?
12 M Paris Oui
43 F Lyon Non
30 M Marseill
e
Oui
F()
Modèle Entrainé
+ Evaluation
du model !

17. F()
De nouvelles
données X
Une prédiction de
Y
Scoring : Utilisation du modèle entrainé
pour prédire
Age Sexe Ville
20 F Nantes
A acheté
un Vélo?
Oui

18. 18
Découpage des taches et des scripts
Training / Entrainement :
• Get Data : Accède aux données d’historique brutes dans les data stores (SQL
DB, Data Lake…)
• Feature Engineering : Transforme les données vers le format attendu
• Split Data : train, test
• Train Model : utilise un algorithme et l’entraine à partir de données de train
• Evaluate Model : évalue le modèle entrainé avec les données de test
• Save Model : enregistre le modèle entrainé (persist)
Scoring / Inférence / Prédiction :
• Load Model : charge le modèle entrainé
• Get Data : récupère la donnée d’entrée à prédire
• Predict : fait une prédiction en utilisant la donnée d’entrée et le modèle
entrainé
• Return Prediction : envoie la sortie de la prédiction

19. 19
Pourquoi ? => Différents « Moments »
L’entrainement
• Peut se faire de façon ordonnancée : la nuit, une fois par jour,
par semaine, par mois…
• Prend souvent beaucoup de temps : traitement sur l’historique
complet
=> Batch / calcul distribué
L’inférence
• Peut se faire en temps réel et interagir avec d’autres systèmes
: question / réponse
• Doit être très rapide et légère
=> Web service / instances multiples avec Load balancing

20. Quelle est la place
du ML?

21. Intelligent AppsApp
AI
AI AI
AI
Question
Réponse

22. Application de gestion
d’entrée sur site
Modèle AI de
vérification identité
Image de l’individu
Résultat de
prédiction avec
score
Information pour l’opérateur
Action sur l’entrée sur le site
Capture d’une photo de la personne
Lorsqu’une personne arrive à l’entrée d’un site
Jean-Pierre

23. Azure Machine
Learning Services

24. 24
Une solution de l’AI Platform Azure

25. 25
Historique
3eme version du service :
• 2014 : Azure Machine Learning v1
• Studio Web avec pipelines ML graphique
• Déploiement Web Service
=>Simple à utiliser, mais peu de customisation et effet « boite noire »
• 2017 : Azure Machine Learning Workbench
• Client lourd customisable via du code Python
• API pour déploiement Azure
=>Plus customisable, mais est resté en preview car difficile à implémenter
• 2018 : Azure Machine Learning Services
=> Mix de tout 
• + AutoML, et autre …

26. 26
Start : Un Workspace / des objets

27. 27
Training
Dataset Experience Run
Target Compute
• VM
• Local
https://docs.microsoft.com/fr-fr/azure/machine-learning/service/tutorial-train-models-with-aml

28. 28
Scoring
Model Deployment
Target Compute
•Azure Kubernetes
Services
•Azure Container
Instance
•Local
Endpoint
•URL
https://docs.microsoft.com/fr-fr/azure/machine-learning/service/tutorial-deploy-models-with-aml

29. 30
Interagir avec AML
Script
Code
• Python
SDK
• R SDK
• Az CLI
import azureml.core
print("SDK version:", azureml.core.VERSION)
 Web Designer : https://ml.azure.com Azure Portal : https://portal.azure.com

30. 31
Industrialiser : son propre code
Son propre code =>
Python (+ R) !
•Avec ses dépendances PIP /
Conda
•Compatible avec tous les
Frameworks

31. 32
Industrialiser : du ML directement généré dans le
service
 PipelineML Graphique via le designer =>

32. 33
Industrialiser : du ML directement généré dans le
service
AutoML =>

33. 34
Notebooks
Créer des
notebooks Jupyter
Les exécuter sur
des VM dédiées

34. 35
ONNX
import onnxruntime
session = onnxruntime.InferenceSession("path to model")
prediction = session.run(None, {"input1": value})
Open
Neural
Network
Exchange

35. Demo

36. 37
Démo !
Exemple IRIS
Sepal.Length Sepal.Width Petal.Length Petal.Width Species
5.1 3.5 1.4 0.2 setosa
6.6 2.9 4.6 1.3 versicolor
6.3 3.3 6.0 2.5 virginica
… … …. ….. ..
X Y
https://github.com/Azure/MachineLearningNotebooks/tree/m
aster/how-to-use-azureml
Start testing :

37. 38
Exemple Pipeline DevOps
https://github.com/microsoft/MLOpsPyth
on/tree/4a1b41da6ede61d915bafa53e14
41adeb4babb83
Une seule ressource Azure Machine
Learning Services « multi-
environnement » est nécessaire : comme
Azure DevOps

38. 39
Ordonnancement avec Azure Data Factory
https://docs.microsoft.co
m/fr-fr/azure/data-
factory/transform-data-
machine-learning-service

39. Tarification

40. 41
2 Editions
Basic et Entreprise
https://azure.microsoft.com
/fr-
fr/pricing/details/machine-
learning/

41. 42
Tarification
Gratuit !
Ou presque, on ne paie que les VM 
https://azure.microsoft.com/fr-fr/pricing/details/machine-learning/

42. MERCI !
Des questions ?