Meetup réalisé chez Devoteam sur le sujet "IA Open Source et On Premise" Auteur : Hamadi Camara

1. L'IA open-source et on-premise,
c'est possible !
REX : Chatbot & Machine learning
Date : 31/05/2018
Auteur : Hamadi CAMARA
1

2. Automatisation
d’actions
humaines
Agent
conversationnel
intelligent
ChatBot Machine
Learning
Robotic
Process
Automation
2
Une manière unique d’assurer la transformation IT & Business
de nos clients
Prédictibilité
Détection de
modèle

3. 3
IAckaton
IApéros
Echanges et retours d'expérience sur des
thématiques liées aux apports de l’IA pour
les métiers
Echanges et retours d'expérience sur des
sujets techniques liés à l’IA
Trimestriel
Hands on collaboratif sur des sujets IA
autour d’une thématique donnée
Semestriel
Annuel
Les rendez vous à ne pas manquer tout au long de l’année

4. “
Hamadi
Camara
4
SympathiqueNeutre
FamilierSoutenu
EmojisTexte
FortFaible
Personnalité
Registre de langue
Types d’interactions
Consultant
Intelligence
Artificielle
Taux d’humour

5. 5

6. Confidentialité
6
Anonymat des clients Pas de données clients utilisées

7. Retour d’experience
Mise en place d’un Chatbot de support
On-premise & Open source

8. 8
Agenda
Focus sur RASA
Démarche de mise en place
Résultats obtenus
Contexte
Difficultés rencontrées

9. Situation existante
9
Support bureautique pour les hyper marché
???
Support bureautique pour les supermarchés
Support bureautique pour les heures non ouvrés
Support bureautique pour les heures non ouvrés
...

10. Situation existante
10
Partage des données personnelles de l’entreprise avec les fournir de chatbot
Exploitation annuel coûteuse
Surcharge des opérateurs(trices) téléphonique

11. Enjeux
11
Maîtrise des données
internes
Réduire le coût d’exploitation annuel
Réalisation d’un agent conversationnel capable de fournir à l'utilisateur, suite à un problème, le
numéro de service à contacter en fonction du lieu, du jour et de l'heure.
Prise en charge de la
langue française

12. 12
Agenda
Focus sur RASA
Démarche de mise en place
Résultats obtenus
Contexte
Difficultés rencontrées

13. 13
Un moteur conversationnel qui se décompose en deux parties :
RASA NLU
(Natural Language Understanding)
RASA Core
(Natural Language Processing)
Présentation Rasa

14. 14
Communauté
Active
Rasa NLU (880)
Rasa Core (620)
Contributeurs (290)
Solution
Opensource, licence
non virale
Deep Learning
Implémente les dernières
technologies
Multiplateforme
Utilisable avec Facebook,
Chrome, Luis, Google Home...
MIT & Apache 2.0
Pourquoi Rasa ?

15. 15
Texte fourni par un utilisateur RASA NLU
Les intentions et entités détectées
Intent : Identifier
Entity : Personne
Confidence : 95%
Intent : Se loger
Entity : Logement
Confidence : 93%
Intent : Pratiquer activité
Entity : Vélo
Confidence :73%
Principe de fonctionnement : Rasa NLU

16. 16
Données d'entraînement
RASA Stories
(Actions, slots, events, ...)
Génération et entraînement du
modèle
(Deep Learning algorithm)
Modèle utilisé
Par Rasa Serveur
Principe de fonctionnement : Rasa Core

17. 17
Données d'entraînement
Principe de fonctionnement : Rasa Core

18. 18
RASA Stories
(Actions, slots, events, ...)
Principe de fonctionnement : Rasa Core

19. 19
API / Base de données
L’utilisateur émet une
demande
1
Le chatbot envoie la
demande à un moteur
conversationnel
2
Orchestration
(Rasa Core)
Le moteur identifie l’intention
avec son contexte
3
Le chatbot va rechercher le
service ou les données
appropriées
4La donnée ou service est
envoyée au chatbot
5
Le chatbot
package la donnée
dans une réponse
appropriée
Moteur de langage
naturel (RASA NLU)
Rasa Serveur
Microservices
Focus sur l’architecture
chrome portail interne
URL
6

20. 20
Agenda
Focus sur RASA
Démarche de mise en place
Résultats obtenus
Contexte
Difficultés rencontrées

21. Démarche de mise en place
21
Définition de l’architecture
(Architecture 2-tiers | Docker )
Mise de l’environnement Rasa
(Rasa NLU | Rasa Core)
Installation langue FR
(Spacy fr)
Préparation données
(Rasa trainer )
Définition du dialogue
et des actions
Evaluation des réponses
(Amélioration continue)
1 2 3
4 5 6

22. 22
Agenda
Focus sur RASA
Démarche de mise en place
Résultats obtenus
Contexte
Difficultés rencontrées

23. Résultats
Mission accomplie
(POC réalisé en moins de 3 mois)
Précision du modèle : 0.8
(~ même que les autres solutions
sur le marché)
En production
(Utilisation du principe)

24. 24
DEMO
Cliquer ici

25. 25
Agenda
Focus sur RASA
Démarche de mise en place
Résultats obtenus
Contexte
Difficultés rencontrées

26. Difficultés rencontrées
26
Entrainement du modèle Stabilisation de la précision
de Rasa NLU
Documentation Rasa Core
Niveau de difficulté
Moyen Elevé

27. Evolutions à venir
27
● Automatisation du système
d’apprentissage interactif
● Réalisation backend

28. Retour d’experience
Prédiction des catégories et groupes de
supports des incidents via un réseau de
neurones

29. 29
Agenda
Focus sur les technologies utilisées
Démarche de mise en place
Résultats obtenus
Contexte
Difficultés rencontrées

30. Problèmes
30
Incapacité de catégoriser
un problème non répertorié
Maintenance coûteuse
(environ 2 employés
en plein temps)
Plus de 80.000 catégorisations
incidents à vérifier chaque jour

31. Contexte
31
Catégorisation automatique
des incidents ServiceNow
Prédiction des 3 meilleurs groupes
de supports
Ce proof of concept porte sur la catégorisation d’un ticket en cours de saisie sur ServiceNow et la
réalisation d’une prédiction des 3 meilleurs groupes de supports pour un ticket donné.

32. 32
Agenda
Focus sur les technologies utilisées
Démarche de mise en place
Résultats obtenus
Contexte
Difficultés rencontrées

33. 33
API Keras / Tensorflow
L’utilisateur saisi un ticket
1
Business Rules
Rasa NLU identifie
l’intention avec son contexte
2
Utilisation du modèle
pour la prédiction3Le modèle retourne une
prédiction des 3 groupes
de supports
4
Formulaire d’incident
(ServiceNow)
ServiceNow
Machine Learning
Focus sur l’architecture

34. Etude des technologies
34
Utilise la fonctionnalité « Business Rules
» pour interagir avec un ticket après son
ouverture.
Keras est une librairie
open source de réseau
de neurone en Python.
Tensorflow est un outil d’apprentissage
automatique permettant de créer et
d’entraîner des modèles.

35. Etude des algorithmes
35
l’algorithme de « Classification » basé
sur des réseaux de neurones artificiels
convolutifs
l’algorithme « Bag of word » qui
permet de transformer le texte en
vecteur.
Régression linéaire pour la
réalisation de la prédiction
des groupes de supports

36. 36
Agenda
Focus sur les technologies utilisées
Démarche de mise en place
Résultats obtenus
Contexte
Difficultés rencontrées

37. Démarche de mise en place
37
Identification des problèmes ML
(type de problèmes )
1

38. Type de problèmes
38
Problème de classification Problème de régression linéaire

39. Démarche de mise en place
39
Identification des problèmes ML
(type de problèmes )
Réalisation des algorithmes
(création modèles)
1 2

40. Démarche de mise en place
40
Identification des problèmes ML
(type de problèmes )
Réalisation des algorithms
(création modèles)
Préparation données
(Entraînement & tests )
1 2 3

41. 41
Préparation données d’entraînement
Bag Of Words [0 1]

42. Démarche de mise en place
42
Identification des problèmes ML
(type de problèmes )
Réalisation des algorithms
(création modèles)
Préparation données
(Entraînement & tests )
Evaluation des modèles
(selon le type d’algorithme )
1 2 3
4

43. Evaluation selon l’algorithme
43
Calcul de la précision Calcul de l’erreur quadratique

44. Démarche de mise en place
44
Identification des problèmes ML
(type de problèmes )
Réalisation des algorithms
(création modèles)
Préparation données
(Entraînement & tests )
Evaluation des modèles
(selon le type d’algorithme )
Exposition en API
(Avec système d'authentification)
1 2 3
4 5

45. Démarche de mise en place
45
Identification des problèmes ML
(type de problèmes )
Réalisation des algorithms
(création modèles)
Préparation données
(Entraînement & tests )
Evaluation des modèles
(selon le type d’algorithme )
Exposition en API
(Avec système d'authentification)
Intégration
(Business Rules)
1 2 3
4 5 6

46. 46
Agenda
Focus sur les technologies utilisées
Démarche de mise en place
Résultats obtenus
Contexte
Difficultés rencontrées

47. Résultats
Mission accomplie
(POC réalisé en moins de 2 mois)
Précision du modèle : 0.73
RMSE : 0.4
Auto-complétion des champs de la
création d’incident

48. 48
DEMO
Cliquer ici

49. 49
Agenda
Focus sur les technologies utilisées
Démarche de mise en place
Résultats obtenus
Contexte
Difficultés rencontrées

50. Difficultés rencontrés
50
Définition du modèle de
réseau de neurones
Catégorisation et prédiction des
incidents.
Appel REST & Business
Rules sur ServiceNow
Niveau de difficulté
Moyen Elevé

51. Evolutions à venir
51
● Prédiction en temps réel au moment
l’utilisateur écrit
● Automatisation du système
d’apprentissage

52. 52
Questions

53. MERCI!