IA, explique toi! Quand la performance ne suffit pas.

1. Alberto Guggiola
Senior Data Scientist
aguggiola@quantmetry.com
IA, explique toi !
Quand la performance ne suffit pas
Ar=ficial Intelligence Meetup - Paris
20 septembre 2018

2. © Quantmetry 2018 | Diffusion interdite sans accord 2
Quantmetry, acteur pionnier et pure player de la data depuis plus de 7 ans
+ 70
Data scientists, data engineers,
data architects, consultants data
Venant des meilleurs écoles
d’ingénieur avec la double
compétence data et conseil.
+ 20%
Temps consacré à la R&D.
Avec plus de 40 innovaEons par an
+ publicaEons scienEfiques :
• Breast Cancer, Research and Treatment
• World Journal of Surgical Oncology
• Gynécologie, Obstétrique et FerElité.
+ 200
Références depuis 7 ans
exclusivement autour de la
data
70%
Des sociétés du CAC 40
collaborent avec Quantmetry
7
Récompenses et Prix

3. © Quantmetry 2018 | Diffusion interdite sans accord 3
Une priorité reconnue
Si nous souhaitons faire émerger des
technologies d’IA conformes à nos valeurs et
normes sociales, (…) il faut accroître la
transparence et l’auditabilité des systèmes
autonomes (…) en invesGssant massivement
dans la recherche sur l’explicabilité.
(Cédric Villani, rapport « Donner un sens à
l’intelligence arGficielle »)
En entreprise, le principal goulet d'étranglement est aujourd’hui le manque de confiance

4. © Quantmetry 2018 | Diffusion interdite sans accord 4
Pourquoi le buzz en 2018 ?
Historiquement, cas d’usage à
faible cri7cité
ML as Kaggle compe..ons
Défense
Ressources
Humaines
Santé
Mais les choses bougent, et des
nouveaux cas d’usage
apparaissent …

5. © Quantmetry 2018 | Diffusion interdite sans accord
ePrivacy
• Détaillera le RGPD aux communications électroniques
• Exemples : marketing non sollicité et cookies
• Il exigera probablement une conformité supplémentaire
Données personnelles EU : RGPD
• Iden=fica=on de sources et finalité du traitement automaEsé
• Interdic=on de traitement automaEsé si conséquences cruciales pour un individu
• Droit d’obtenir des informa=ons sur la logique sous-jacente de foncEonnement de l’algorithme
Règlementa=ons sectorielles
Exemple : Bâle II (2007) pour la
banque
Lois nationales
Exemple : en France, Loi Informatique
et Libertés 1978
5
Un cadre réglementaire riche (chaoEque ?)

6. © Quantmetry 2018 | Diffusion interdite sans accord 6
Deux cas différents, un besoin commun
L’aide à la décision
• Situa?ons à cri?cité très élevée
• Le modèle ne prend pas en compte toutes
les spécificités connues par les humains
• La décision revient à l’humain : seulement
s’il comprend il pourra changer d’avis
• Mieux comprendre pour être plus
per?nents dans le futur
La décision automatique
• Analyser a posteriori des erreurs
• Rendre compte des choix à un
demandeur
• Déclencher le bon levier d’action
• Favoriser l’acceptation sociale

7. © Quantmetry 2018 | Diffusion interdite sans accord
Equité
Obligation éthique de tenir compte d'une
pluralité de valeurs, de perspectives et
d'intérêts sociaux d'une manière cohérente
et transparente
Interprétabilité
Faire des choix dont le raGonnel peut être
facilement compris par les humains
7
Un vocabulaire complexe à construire
Transparence
FoncGonner de manière à ce qu'il soit facile
pour les autres de voir quelles acGons sont
effectuées
Responsabilité
Reconnaissance et prise en charge des
acGons, des décisions et des poliGques, ainsi
que des conséquences qui en découlent
Quels mots nécessiteraient une réflexion plus détaillée ?

8. © Quantmetry 2018 | Diffusion interdite sans accord
Equité
Obligation éthique de tenir compte d'une
pluralité de valeurs, de perspectives et
d'intérêts sociaux d'une manière cohérente
et transparente
Interprétabilité
Faire des choix dont le raGonnel peut être
facilement compris par les humains
8
Un vocabulaire complexe à construire
Transparence
FoncGonner de manière à ce qu'il soit facile
pour les autres de voir quelles acGons sont
effectuées
Responsabilité
Reconnaissance et prise en charge des
acGons, des décisions et des poliGques, ainsi
que des conséquences qui en découlent
Quels mots nécessiteraient une réflexion plus détaillée ? Beaucoup ...

9. © Quantmetry 2018 | Diffusion interdite sans accord
Plusieurs choix possibles en fonction de
divers éléments contextuels :
9
Un modèle interprétable ? Pas si simple …
Il est plutôt souhaitable d’identifier un socle méthodologique commun, à décliner selon les contextes
Objectif visé Interlocuteurs
Phase du projet Données utilisées
Le bon niveau d’interprétabilité doit être
identifié :

10. © Quantmetry 2018 | Diffusion interdite sans accord 10
De la contrainte à l’opportunité
• Compromis performance –
compréhension à trouver
• Besoin de former les équipes
métiers
• Temps de développement
augmenté
• Ressources IT
supplémentaires à prévoir
• Possibilité d’interpréter
modèles complexes
• Les méLers aident le pilotage
• Modules réuLlisables
rapidement
• Impact IT limité en général
• Plus de projets financés car
résultats uLlisables
• Plus de recherche
fondamentale et d’ouLls
• Citoyenneté plus acLve et
confiance accrue
• DémocraLsaLon de l’IA, qui
devient vecteur d’innovaLon

11. © Quantmetry 2018 | Diffusion interdite sans accord 11
Tout ça, bientôt ce ne sera plus du bonus …
TechCrunch, 19 Septembre 2018
Interprétabilité
by design
Rappelez-vous : il y a deux ans, beaucoup de POC « jetables ». Aujourd’hui inimaginable !