Télécharger en tant que PDF, PPTX
Téléchargé parPublicis Sapient Engineering
XebiCon'17 : Déploiement continu de modèle de Machine Learning - Loïc Divad
Ce document traite du déploiement continu de modèles de machine learning, mettant en avant l'importance d'un cadre CI/CD adapté et des pratiques telles que la versionnage des modèles et l'historisation des datasets. Il souligne également la nécessité d'une séparation claire entre le code et les modèles, ainsi que l'importance de l'évaluation automatisée et des tests de performance dans le processus. Enfin, il évoque des exemples de plateformes de machine learning et des architectures de serving pour des prédictions en temps réel.
Contenu connexe
Similaire à XebiCon'17 : Déploiement continu de modèle de Machine Learning - Loïc Divad
XebiCon'17 : Déploiement continu de modèle de Machine Learning - Loïc Divad
- 1. Déploiement continu demodèle de Machine Learning Loïc DIVAD
- 2.
- 3. CI/CD & MachineLearning Un contexte Prédiction du chiffre d’affaire des équipements 3
- 4. Un cadre dedéveloppement CI/CD & Machine Learning “the right tool for the right job” VCS CI REPO 4
- 5. Un cadre dedéveloppement CI/CD & Machine Learning “the right tool for the right job” VCS CI REPOEXPLO 5
- 6. CI/CD & MachineLearning Le modèle, quésaco ? Training App y Modèle 6
- 7. CI/CD & MachineLearning Le modèle, quésaco ? Training App y ỹ Modèle 7 Predicting APP Modèle
- 8. CI/CD & MachineLearning Entraînement d’un modèle Création d’un modèle sérialisable VCS CI REPOEXPLO /apps/<myapp>/model_v1 8
- 9. CI/CD & MachineLearning Entraînement sur de nouvelles données “With more data comes great generalization power” VCS CI REPOEXPLO /apps/<myapp>/model_v1 /apps/<myapp>/model_v2 /apps/<myapp>/model_v3 … /apps/<myapp>/model_v? ▼ Les notions de modèle en Production et de modèle Courant doivent être dissociées ▼ Les évolutions entre ces modèles doivent être traçables ▼ Les datasets utilisés doivent être identifiés 9
- 10. CI/CD & MachineLearning Entraînement sur de nouvelles features Develop, Deploy, Fit … Repeat VCS CI REPOEXPLO /apps/<myapp>/model_v1 /apps/<myapp>/model_v2 /apps/<myapp>/model_v3 … /apps/<myapp>/model_v? VCS CI REPOEXPLO /apps/<myapp>/model_v41 /apps/<myapp>/model_v42 /apps/<myapp>/model_v43 … /apps/<myapp>/model_v4? Sprint N+1 10
- 11. 11 CI/CD & MachineLearning
- 12. Intégration Continue deModèles DIY 12
- 13. Distribution Features extraction Prediction Source Ingestion Source Ingestion SourceIngestion Model Training The Machine Learning Pipeline 13 DIY: Machine Learning Platform
- 14. Distribution Features extraction Prediction Source Ingestion Source Ingestion SourceIngestion Model Training Release The Machine Learning Pipeline 14 DIY: Machine Learning Platform
- 15. Une release continue DIY:Machine Learning Platform ỹ model_id @app-dt01-<ts> @app-dt01-<ts> ▼ Chaque modèle est versionné ▼ Des tags latest et current permettent de comparer le dernier modèle et celui en ligne ▼ Les prédictions s’accompagnent de la version du modèle App Modèle 15 @app-dt02-<ts>
- 16. Distribution Features extraction Prediction Source Ingestion Source Ingestion SourceIngestion Model Training Release Test The Machine Learning Pipeline 16 DIY: Machine Learning Platform
- 17. Une évaluation automatisée DIY:Machine Learning Platform y ỹ model_id @app-dt02-<ts> @app-dt02-<ts> @app-dt02-<ts> L ( y , ỹ ) ↦ Score nouveau score 17 modèle n-2 modèle n-1
- 18. Distribution Features extraction Prediction Source Ingestion Source Ingestion SourceIngestion Model Training Release Report Test The Machine Learning Pipeline 18 DIY: Machine Learning Platform
- 19. Development Release Integration Deployment Séparation du codeet du modèle Entraînement du modèle sur les données de productions Historisation des versions et jeux de données utilisés. Evaluation des performances. Tests de performance et comparaisons. Extraction de l’importance des features et hyperparamètres Mise en service d’un nouveau modèle Conclusion
- 20. Conclusion Machine Learning Platform Lamachine learning plateforme, prochain outils de CI/CD 20 VCS CI REPOEXPLO
- 21.
- 22.
- 23.
- 24. Parce qu’ils enparlent encore mieux 24 Déploiement continu de modèle de Machine Learning Références ▼ Meet Michelangelo: Uber’s Machine Learning Platform ▼ Serving Machine Learning Models ▼ TFX: A TensorFlow-Based Machine Learning Platform ▼ Hidden Technical Debt in Machine Learning Systems
- 25. Distribution Features extraction Prediction Source Ingestion Source Ingestion SourceIngestion Distribution Model Training Release Report Test The Machine Learning Pipeline 25 DIY: Machine Learning Platform
- 26. DIY: Machine LearningPlatform Machine Learning Platform La machine learning plateforme, prochain outils de CI/CD 26 VCS CI REPOEXPLO
- 27. DIY: Machine LearningPlatform Projet Bold Eagle La machine learning plateforme, mon outils de CI/CD 27 VCS CI REPOEXPLO Services API
- 28. Serving 28 +10ms 5s -1mins 1 day RCP Servers : Tensorflow Serving Prediction Servers: AWS Lambda, Cloud AI Structured Streaming - Kafka Based Prediction Batch Predictions
- 29. Serving: un exemplepour du temps réel 29 Model serving architecture by Boris Lublinsky - from Serving Machine Learning Models Data Source Model Source Model Storage Current Model Processing Prediction Stream Processor
- 30.