Journée CominLabs Data, AI & Robotics, 14 juin 2019

1. Les Challenges de l'Intelligence Articielle
Philippe LERAY
philippe.leray@ls2n.fr
LS2N Laboratoire des Sciences du Numérique de Nantes UMR 6004
Equipe DUKe Data User Knowledge
Site de l'Ecole Polytechnique de l'Université de Nantes
Journée CominLabs Data, AI Robotics, 14 juin 2019

2. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Denition
Premier challenge : dénir l'Intelligence Articielle
[Le Cun, 2015] (Prix Turing 2018)
un ensemble de techniques
permettant à des machines
d'accomplir des tâches et de
résoudre des problèmes
normalement réservés aux humains
et à certains animaux
Philippe Leray Challenges de l'IA 2 / 22

3. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Denition
Premier challenge : dénir l'Intelligence Articielle
[Le Cun, 2015] (Prix Turing 2018)
un ensemble de techniques
permettant à des machines
d'accomplir des tâches et de
résoudre des problèmes
normalement réservés aux humains
et à certains animaux
La nouvelle révolution ?
importance de plus en plus grande de l'apprentissage machine
des résultats impressionnants dans des tâches pour lesquelles
beaucoup de données sont accessibles
Philippe Leray Challenges de l'IA 2 / 22

4. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Résultats
Quelques résultats : reconnaissance d'images
P. Eckersley, Y. Nasser et al., EFF AI Progress Measurement Project, (2017-) e.org/ai/metrics
Philippe Leray Challenges de l'IA 3 / 22

5. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Résultats
Quelques résultats : génération d'images - 1
Brundage et al., The Malicious Use of AI : Forecasting, Prevention and Mitigation, 2018
Philippe Leray Challenges de l'IA 4 / 22

6. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Résultats
Quelques résultats : génération d'images - 2
Karras et al., A Style-Based Generator Architecture for Generative Adversarial Networks, NVIDIA, 2019
Philippe Leray Challenges de l'IA 5 / 22

7. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Résultats
Quelques résultats : traduction automatique
Comparaison de DeepL Traducteur avec ses concurrents - www.deepl.com/quality.html
Philippe Leray Challenges de l'IA 6 / 22

8. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Résultats
Quelques résultats : reconnaissance de la parole
Source Google - in KP Internet Trends 2017
Philippe Leray Challenges de l'IA 7 / 22

9. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Résultats
Et aussi ...
Kormushev, P., Calinon, S. and Caldwell, D.G., Robot Motor Skill Coordination with EM-based
Reinforcement Learning, IEEE RSJ 2010
Philippe Leray Challenges de l'IA 8 / 22

10. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Ratage
Mais tout n'est pas parfait : reconnaissance d'images
I.J. Goodfellow et al., Explaining and Harnessing Adversarial Examples, ICLR 2015
Philippe Leray Challenges de l'IA 9 / 22

11. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Ratage
Mais tout n'est pas parfait : chatbot
Philippe Leray Challenges de l'IA 10 / 22

12. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Dénition
Point de vue complémentaire : model-based vs. model-blind
[Pearl, 2018] (Prix Turing 2011)
l'être humain n'apprend pas seulement
à partir de ce qu'il voit (apprentissage
statistique)
mais aussi grâce à sa capacité à se
construire une représentation mentale
de son environnement, et à le
manipuler virtuellement (what if ?)
Philippe Leray Challenges de l'IA 11 / 22

13. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Dénition
Point de vue complémentaire : model-based vs. model-blind
[Pearl, 2018] (Prix Turing 2011)
l'être humain n'apprend pas seulement
à partir de ce qu'il voit (apprentissage
statistique)
mais aussi grâce à sa capacité à se
construire une représentation mentale
de son environnement, et à le
manipuler virtuellement (what if ?)
l'IA ne peut se développer que par une collaboration proche
entre données et modèles manipulables
raisonnement causal, explicabilité
Philippe Leray Challenges de l'IA 11 / 22

14. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Exemples
Exemple de représentation possible
Réseau bayésien causal
modèle explicable, interrogeable et manipulable (what if ?)
présence éventuelle de variables latentes
Philippe Leray Challenges de l'IA 12 / 22

15. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Exemples
Raisonnement probabiliste vs. causal
Raisonnement probabiliste
observation : une odeur forte
la probabilité que le chien soit
mouillé augmente
cela peut me donner une
information sur la saison
Philippe Leray Challenges de l'IA 13 / 22

16. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Exemples
Raisonnement probabiliste vs. causal
Raisonnement causal
je verse de l'eau sur le chien
la probabilité que l'on sente une
odeur forte augmente
aucune nouvelle info sur la saison
Philippe Leray Challenges de l'IA 13 / 22

17. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Exemples
Raisonnement probabiliste vs. causal
Raisonnement causal
je verse de l'eau sur le chien
la probabilité que l'on sente une
odeur forte augmente
aucune nouvelle info sur la saison
Challenges
comment apprendre ces modèles
causaux avec des données
d'observation ? et/ou
d'expérimentation ? ...
Philippe Leray Challenges de l'IA 13 / 22

18. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Introduction
Big data vs. small data
Big Data : face visible de l'iceberg
pour chaque dataset d'un milliard
d'entrées, il y a un million de datasets
d'un million d'entrées et un milliard de
datasets de seulement mille entrées.
et traiter/stocker autant de données
n'est pas forcément très durable
Philippe Leray Challenges de l'IA 14 / 22

19. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Introduction
Big data vs. small data
Big Data : face visible de l'iceberg
pour chaque dataset d'un milliard
d'entrées, il y a un million de datasets
d'un million d'entrées et un milliard de
datasets de seulement mille entrées.
et traiter/stocker autant de données
n'est pas forcément très durable
Challenges
small Data, comment bien faire avec moins de données ?
et à qui appartiennent ces données ? human-centered personal
data management and processing
Philippe Leray Challenges de l'IA 14 / 22

20. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Small data
Small Data
Toujours un problème
l'être humain sait apprendre avec peu de données, et
reconnaître une information pertinente dans des données,
même si c'est un signal faible
l'apprentissage automatique classique a davantage de mal
Philippe Leray Challenges de l'IA 15 / 22

21. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Small data
Small Data
Toujours un problème
l'être humain sait apprendre avec peu de données, et
reconnaître une information pertinente dans des données,
même si c'est un signal faible
l'apprentissage automatique classique a davantage de mal
Challenges
incorporation de connaissances a priori pour faciliter
l'apprentissage (plus facile avec le model-based learning)
augmentation de données
apprentissage par transfert
Philippe Leray Challenges de l'IA 15 / 22

22. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Augmentation et ajout de priors
Exemple - reconnaissance vocale
D.S. Park et al., SpecAugment : A Simple Data Augmentation Method for Automatic Speech
Recognition. Google AI 2019
Philippe Leray Challenges de l'IA 16 / 22

23. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Et ensuite ?
Un progrès ?
la machine est capable de remplacer l'être humain pour de plus
en plus de tâches précises, mais est-ce toujours bénéque ?
Philippe Leray Challenges de l'IA 17 / 22

24. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Et ensuite ?
Un progrès ?
la machine est capable de remplacer l'être humain pour de plus
en plus de tâches précises, mais est-ce toujours bénéque ?
Challenge : une IA éthique
ne pas éliminer les relations humaines, ni déshumaniser les
services
acceptabilité, transparence, explicabilité
équité, attention au biais du modélisateur et des données
Philippe Leray Challenges de l'IA 17 / 22

25. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Biais
Exemple - biais - reconnaissance d'images
*
J. Zhao et al. Men Also Like Shopping : Reducing Gender Bias Amplication using Corpus-level
Constraints. EMNLP 2017
Philippe Leray Challenges de l'IA 18 / 22

26. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Biais
Exemple - biais - traduction automatique
*
J. Yeen. AI Translate : Bias? Sexist? Or this is the way it should be?, 2017
Philippe Leray Challenges de l'IA 19 / 22

27. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Conclusion
Conclusion
Une nouvelle révolution ?
des résultats impressionnants -
essor de l'apprentissage profond
de plus en plus d'applications
réelles, et de nouveaux
challenges
Philippe Leray Challenges de l'IA 20 / 22

28. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Conclusion
Conclusion
Une nouvelle révolution ?
des résultats impressionnants -
essor de l'apprentissage profond
de plus en plus d'applications
réelles, et de nouveaux
challenges
Des challenges
IA compréhensible par l'humain
IA éthique et durable
Philippe Leray Challenges de l'IA 20 / 22

29. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
Références
Références
Collectif, Panorama de l'IA, Cepadues, 2014
Yann Le Cun, Les enjeux de la recherche en
IA, 2015
IA, les dés actuels et l'action de l'INRIA,
2016
Collectif, Renouveau de l'IA et de
l'apprentissage automatique, rapport de
l'Académie des technologies, 2018
C. Vilani et al., Donner un sens à l'IA, 2018
J. Pearl, Theoretical impediments to machine
learning with seven sparks from the causal
revolution. 2018.
Association française pour l'Intelligence
Articielle
Hub France IA
Philippe Leray Challenges de l'IA 21 / 22

30. Introduction Model-based vs. blind ? Données ? Ethique ? Conclusion
The end
Philippe Leray Challenges de l'IA 22 / 22