Olivier Blais explique comment sortir indemne avec l'explicabilité des décisions algorithmiques, l’interprétabilité des résultats et le modèle de la boîte noire :?
7. Il faut expliquer les modèles statistiques
Pour valider la robustesse du modèle
Valider qu’il
est intuitif
Ajuster
le modèle
Développer
le modèle
8. Pour faire adopter le modèle
Il faut expliquer les modèles statistiques
Intuition
moins biaisée
Automatiser
la prise de
décision
Valider les
prédictions
Une série de questions à propos de plusieurs sujets a été posée à des experts et des amateurs
Des réponses venant, soit d’humains ou d’algorithmes ont été communiqués par la suite
L’étude consiste à identifier si ces supports ont aidées faire évoluer les réponses des sujets
Nous sommes maintenant plus prêt à adopter l’avis d’un algorithme que jamais
Par contre, l’expert n’est pas encore prêt à faire confiance à l’algorithme
De façon générale, l’expert a tendance à ce tromper plus que l’amateur avec algorithme
Comment faire pour que les experts adoptent les modèles statistiques dans leur prise de decision?
Être capable de valider la robustesse des modèles
S’assurer de l’éthique des modèles statistiques
Comprendre la cause d’une prediction
Rencontrer certaines exigeances légales
Être capable de valider la robustesse des modèles
S’assurer de l’éthique des modèles statistiques
Comprendre la cause d’une prediction
Rencontrer certaines exigeances légales
Actuellement dans le marché il y a une opposition entre la precision des modèles et leur explicabilité. Soit un modèle est hyper précis et non explicable soit un modèle n’est pas précis et super explicable.
Modèles agnostiques d’explicabilité!
Modèle que tu appliques sur ton modèle et qui va amener à l’explicabilité.
Pas besoin de compromis.
Quand on est capable de zoomer sur une petite portion du modèle, on est capable d’appliquer une regression linéaire et de l’interpreter.
Crée un échantillon de données locales et produit une régression
Plus
Prouvé
Facile à expliquer
Rapide
Moins
Assume la linéarité
Paramètres à ajuster
Mesure l’apport additionel de variables à la prediction en déconstruisant le modèle statistique de façon intelligente.
Plus
Très intuitif
N’assume pas la linéarité locale
Moins
Assez lent sur beaucoup de données.
Voici un exemple d’une personne qui a 99% de chance de rester.
L’interprétabilité aide l’adoption de modèles statistique par les experts
L’obtention d’explications ne justifie plus l’utilisation de modèles moins prédictifs
SHAP permet de calibrer et comprendre des modèles très complexes de façon fiable!