Getting Started With My Next-Gen IP Load Balancing
•Télécharger en tant que PPTX, PDF•
2 j'aime•4,647 vues
By Arnaud Jost, Tech Lead of IP Load Balancing solution at OVH
Recommandé
Recommandé
Contenu connexe
Tendances
En vedette
En vedette (19)
Similaire à Getting Started With My Next-Gen IP Load Balancing
Similaire à Getting Started With My Next-Gen IP Load Balancing (20)
Plus de OVHcloud
Plus de OVHcloud (20)
Dernier
Dernier (20)
Getting Started With My Next-Gen IP Load Balancing
- 2. Getting Started With My Next-Gen IPLB • Arnaud Jost • Tech Lead IPLB
- 3. Getting Started with My Next-Gen IPLB 1. Why using an IPLB? 2. IPLB Legacy 3. IPLB Next-Gen: New Features 4. IPLB Next-Gen: Advanced Use Case 5. IPLB Next-Gen: Current Status 6. IPLB Next-Gen: Start with API 7. IPLB Next-Gen: Start with Sunrise 8. IPLB Next-Gen: What Can Be Done with IPLB in 10 minutes?
- 4. Why Using an IPLB? • Distribute load
- 5. Why Using an IPLB? • Eliminate downtimes
- 6. Why Using an IPLB? • Scale your infra easily
- 7. Why Using an IPLB? • Facilitates maintenance Hard drive remplacement
- 8. Getting Started with My Next-Gen IPLB 1. Why using an IPLB? 2. IPLB Legacy 3. IPLB Next-Gen: New Features 4. IPLB Next-Gen: Advanced Use Case 5. IPLB Next-Gen: Current Status 6. IPLB Next-Gen: Start with API 7. IPLB Next-Gen: Start with Sunrise 8. IPLB Next-Gen: What Can Be Done with IPLB in 10 minutes?
- 9. IPLB Legacy: Infrastructure • Cisco ACE • End of life • End of sales • End of support • Master/slave mode • Limited scaling capacity, enough until now, not for the future
- 10. IPLB Legacy: Product • Limited ports/protocols • HTTP/HTTPS • Mysql • Postgresql • Only one backend/frontend • No vRack • No SSL with servers in backend • Cannot handle SSL certs > 2048 • ... Not easy to add new features Set me free!
- 11. Getting Started with My Next-Gen IPLB 1. Why using an IPLB? 2. IPLB Legacy 3. IPLB Next-Gen: New Features 4. IPLB Next-Gen: Advanced Use Case 5. IPLB Next-Gen: Current Status 6. IPLB Next-Gen: Start with API 7. IPLB Next-Gen: Start with Sunrise 8. IPLB Next-Gen: What Can Be Done with IPLB in 10 minutes?
- 12. IPLB Next-Gen: Features • Based on HAProxy • Huge and active community • Great performances • Lot of features • OpenSource • Associated with the power of OVH • Advanced automation stack • Powerful servers • Dedicated network • Advanced and dedicated DDoS protection with permanent mitigation
- 13. IPLB Next-Gen: Features • Scalable with no limit • Multi-master mode using BGP multi-path • HTTP/HTTPS with advanced options • Headers inspections • Advanced routing rules • ACL • Much more • TCP (all ports) • High throughput • SSL
- 14. IPLB Next-Gen: Features • Multi frontends, multi backends • Configurable ports • Link between frontends and backend can be updated on the fly • HTTP Redirect • HSTS • Can be used behind a failover IP • Async configuration
- 15. IPLB Next-Gen: Features • vRack (todo) • Native • QinQ • IPV6 (doing) Oh yeah !
- 16. Getting Started with My Next-Gen IPLB 1. Why using an IPLB? 2. IPLB Legacy 3. IPLB Next-Gen: New Features 4. IPLB Next-Gen: Advanced Use Case 5. IPLB Next-Gen: Current Status 6. IPLB Next-Gen: Start with API 7. IPLB Next-Gen: Start with Sunrise 8. IPLB Next-Gen: What Can Be Done with IPLB in 10 minutes?
- 17. Advanced Use Case: Blue-Green Blue farm Green farm
- 18. Advanced Use Case: Mixed Services
- 19. Advanced Use Case: Anycast
- 20. Advanced Use Case: Not Only Web! • Mail
- 21. Advanced Use Case: Not Only Web! • Mysql
- 22. Getting Started with My Next-Gen IPLB 1. Why using an IPLB? 2. IPLB Legacy 3. IPLB Next-Gen: New Features 4. IPLB Next-Gen: Advanced Use Case 5. IPLB Next-Gen: Current Status 6. IPLB Next-Gen: Start with API 7. IPLB Next-Gen: Start with Sunrise 8. IPLB Next-Gen: What Can Be Done with IPLB in 10 minutes?
- 23. IPLB Next-Gen: Current Status • Current state: gamma • 95% of legacy IPLB already migrated • API: beta available • Manager: sunrise available
- 24. IPLB Next-Gen: Current Status OVH Web hosting is load balanced by IPLB Next-Gen, including SSL Offload for ALL websites = 1.5 Millions of SSL certificates And all Hubic traffic
- 25. IPLB Next-Gen: Current Status • Available zones: • Roubaix • Gravelines • Strasbourg • Beauharnois • … Anycast! • And..much more IPLB
- 26. Getting Started with My Next-Gen IPLB 1. Why using an IPLB? 2. IPLB Legacy 3. IPLB Next-Gen: New Features 4. IPLB Next-Gen: Advanced Use Case 5. IPLB Next-Gen: Current Status 6. IPLB Next-Gen: Start with API 7. IPLB Next-Gen: Start with Sunrise 8. IPLB Next-Gen: What Can Be Done with IPLB in 10 minutes?
- 27. IPLB Next-Gen: Start With API • Everything can be done using API • Automation!
- 28. Getting Started with My Next-Gen IPLB 1. Why using an IPLB? 2. IPLB Legacy 3. IPLB Next-Gen: New Features 4. IPLB Next-Gen: Advanced Use Case 5. IPLB Next-Gen: Current Status 6. IPLB Next-Gen: Start with API 7. IPLB Next-Gen: Start with Sunrise 8. IPLB Next-Gen: What Can Be Done with IPLB in 10 minutes?
- 29. IPLB Next-Gen: Start With Sunrise
- 30. IPLB Next-Gen: Start With Sunrise
- 31. IPLB Next-Gen: Start With Sunrise
- 32. IPLB Next-Gen: Start With Sunrise
- 33. IPLB Next-Gen: Start With Sunrise https://www.ovh.com/manager/sunrise/iplb/index.html#/iplb
- 34. Getting Started with My Next-Gen IPLB 1. Why using an IPLB? 2. IPLB Legacy 3. IPLB Next-Gen: New Features 4. IPLB Next-Gen: Advanced Use Case 5. IPLB Next-Gen: Current Status 6. IPLB Next-Gen: Start with API 7. IPLB Next-Gen: Start with Sunrise 8. IPLB Next-Gen: What Can Be Done with IPLB in 10 minutes?
- 35. IPLB Next-Gen: Demo DNS Round Robin Real Load Balancing
Notes de l'éditeur
- Qui suis je (4 ans chez ovh, passioné de tech..) Definition tech leader : responsable de l’équipe, du design de l’infra, de l’automatisation, amélioration, ajouts de fonctionnalités Je vais présenter ce qu’est une IP LoadBalancing au sens OVH, et le nouveau produit IPLB qui viens remplacer l’existant
- Généralités sur la distribution de la charge Nécessiter d’avoir plusieurs serveurs pour tenir la charge (pas plus, ne pas parler de HA ou de tolerance de panne car abordé juste après) Capacité IPLB de distribuer les requêtes sur l’ensemble des serveurs de la ferme Ainsi un utilisateur, vos clients, n’arriverons pas directement sur vos serveur mais sur l’IPLB Cas des applications pas codée pour être attaquée par un IPLB (parler sticky)
- En cas de panne, les autres serveurs continuent d’assurer la service Mecanisme de detection de la dispo des serveurs (http, tcp..) avec capacité a sortir un serveur HS de la ferme (parler un peu des check HTTP avancé avec detection de pattern si la page renvoi XX ou bien un code d’erreurs specifique) Posssibilité avancé de renvoi de la req vers un autre serveur en temps reel, transparent pour le client visitant le site Réintégration automatique du serveur une fois tout problème corrigé
- Capacité d’adaptatiion via l’ajout de serveur à l’infinie (juqu’a plusieurs centaines de serveur pour mutu) Gestion du load balancing (roudrobin, sticky IP et autre) Peut ou pas perdre le suivi de session en fonction des besoins
- En cas de panne ou de remplacement de pièce Upgrade logicielle Sauvegarde bdd qui prend de la ressource - Ne nécessite plus la manipulation des entrées DNS avec le temps de propagation qui peut être génant
- 01 2015 Expliquer les problèmes du master/slave (disparité dans les conf, materiel non utilisé pendant plusieurs semaines…SURPRISE) Expliquer la forte capa de scaling en son temps, finalement vite limité aujourd’hui par son fonctionnement master/slave (capa hard) Bug, exemple du packet of the death (trouver le liens travaux et/ou le tweet d’Oles pour valider qu’on peut communiquer la dessus)
- Limitation des protocols pour les usage courant, mais qui peut être rapidement bridant Un seul frontend/backend : limitation en terme de souplesse, test, réassignement, blue/green..(attention a ne pas trop en parler, voir usage avancé plus loin) SSL avec les backends: feature sympas qui permet de chiffrer avec un cert low cost/auto signé Limitation hardware et/ou constructeur qui limtent les possibilités d’ajout de features, en tout cas pas facilement
- - Parler de la protection dédiée IPLB
- Expliquer la scalabilité du BGP Multi Path Headers inspections : permet de router le traffic, de filtrer.. Routing rules : cluster interne/externe en fonction de l’ip, en fonction du SNI.
- Expliquer l’interêt des mutli frontend/backend dans un process de prod/preprod/test et/ou acl interne/externe.. Expliquer que tout les ports sont disponibles HSTS : expliquer IP FO Expliquer la conf async
- Expliquer vrack native/qinq IPV6
- Bascule production/preproduction/dev Facilité de switch sans arrêt de service
- - Debordement ect
- Expliquer anycast, vulgariser Expliquer l’interet en terme de charge en fonction des serveurs dans chaque DC Expliquer la possibilité de gestion croisées (avec une gestion de poids)
- Proxy protocol to keep customer IP High BW
- Mode simple (attention au dead lock) Mode master/backup galera parfaitement géré
- Gamma = ready to prod, manque juste un peu de communication et de colle coté UX API dispo Sunrise
- 300 000 certificates on only one IP
- Next step : terminer la migration de toutes les IPLB legacy, decommisionner les ACE, sortir du sunrise vers le manager
- Questionnaire de satisfaction concernant cette conférence, voter contre des goodies