Présentation par Bertrand Brauschweig, directeur du Centre Inria-Saclay Île-de-France ; Living Things du 18/10/2017 en parallèle des Rencontres Inria Industrie

1. 18/10/2017-­1
IA
Regard sur la R&D

2. Sommaire
18/10/2017-­2
01.Un peu d’histoire et de faits marquants
récents
02.Un peu de technologie et de marché
03 Enjeux pour les prochaines années et
plus loin

3. 1
18/10/2017-­3
Un peu d’histoire et faits
marquants récents

4. 18/10/2017-­4
Histoire
Avant 1956: Alan Turing, neurone formel, robots ...
1956: congrès de Dartmouth, définition de l’IA
Années 60: résolution de problèmes, langage naturel, jeux
1968: 2001, l’Odyssée de l’Espace, HAL
1969: « Perceptrons », arrêt des réseaux neuronaux
1973: Lighthill Report, arrêt de l’IA au Royaume-­Uni, premier hiver
Années 80: systèmes experts, et Chinook (dames)
Années 90: Deuxième hiver, mais Deep Blue (échecs) et premiers
réseaux convolutifs
2000: premières applications pour le web
2010: Apprentissage profond
2017: pas encore le troisième hiver!

5. Quelques développements récents (1)
• IBM
Watson
premier
ordinateur
à
gagner
à
Jeopardy
• Langage
naturel
+
fouille
du
web
+
scoring &
classement,
en
3
secondes
avec
du
HPC
• L’apprentissage
profond
bat
les
algorithmes
de
référence
en
reconnaissance
d’images
en
2012
• Google
Deepmind gagne
aux
jeux
Atari
avec
de
l’apprentissage
par
renforcement
• Entrée:
pixels;
Sortie:
action
qui
maximise
le
gain
espéré
• Google
Deepmind bat
le
champion
du
monde
de
Go
avec
de
l’apprentissage
profond
et
par
renforcement
en
2016
et
2017

6. 18/10/2017
P
at
ri
c
k
Al
b
er
t
-­-­
I.
A.
A
s
p
e
ct
s
sc
ie
nt
ifi
q
u
e
s
et
st
ra
té
gi
q
u
e
s6
2012: Convolutional Networks (ImageNet)

7. Classement d’images
évolution récente du taux d’erreur
7
Humains

8. Quelques développements récents (2)
• Microsoft
Skype
Translator
traduit
la
parole
en
temps
réel
avec
des
réseaux
de
neurones
profonds
et
de
l’apprentissage
statistique
• Apple
Siri,
Microsoft
Cortana,
Amazon
Alexa
reconnaissance
de
la
parole
sous
IOS
et
Windows
10
• DARPA
Rescue Challenge
pour
les
robots: conduire,
marcher
dans
des
éboulis,
disjoncter
des
circuits,
tourner
des
vannes,
monter
des
marches.
• Google
Knowledge Graph
utilise
la
sémantique
pour
produire
des
résultats
structurés.

9. 18/10/2017
P
at
ri
c
k
Al
b
er
t
-­-­
I.
A.
A
s
p
e
ct
s
sc
ie
nt
ifi
q
u
e
s
et
st
ra
té
gi
q
u
e
s9
Google Knowledge Graph

10. Quelques développements récents (3)
• Facebook
M
assistant
personnel
qui
utilise
l’IA
et
l’apprentissage
pour
accomplir
des
tâches
pour
l’utilisateur
et
décrire
des
images
• https://www.facebook.com/zuck/videos/10102456212502251/?pnref=story
• Libratus utilise
de
l’apprentissage
par
renforcement
et
d’autres
techniques
pour
gagner
au
poker
• Psibernetix gagne
les
simulations
de
combats
aériens
contre
les
meilleurs
pilotes
US
avec
de
la
logique
floue
et
un
algorithme
génétique
tournant
sur
Raspberry Pi!
• Véhicules
autonomes:
15%
des
véhicules
vendus
en
2030
seront
totalement
automatisés.

11. 2
18/10/2017-­11
Un peu de technologies

12. Profusion de méthodes
Modèles « faits à la main », expliquables mais coûteux
lRègles, Arbres, réseaux, graphes
lModèles logiques
lModèles algébriques (convexité)
lOntologies, Web sémantique
lRaisonnement par cas
lAgents ‘proactifs’: organisation, coopération, confiance
Apprentissage automatique, mais boites noires
lRéseaux neuronaux -­ Deep Learning
lApprentissage par Renforcement plaisir/douleur
lAlgorithmes évolutionnistes
lSystèmes auto-­immunes
lChaînes de Markov Cachées
lAgents : colonies de fourmis,, bancs de poissons, vols d’oiseaux…
12

13. Yolo – You Only Look Once, Uwash+FB+Allen AI

14. Makoto Koike, TensorFlow
14

15. 18/10/2017
P
at
ri
c
k
Al
b
er
t
-­-­
I.
A.
A
s
p
e
ct
s
sc
ie
nt
ifi
q
u
e
s
et
st
ra
té
gi
q
u
e
s15
Temps de calcul d’un réseau profond
Ordre de grandeur:
-­ Entre deux couches de taille N & M= N*M
-­ Plusieurs couches: somme des N*M
-­ Multiplier par le nombre d’exemples
-­ Doubler pour la backprop
-­ Pour un réseau 100.000/10.000/1000/100/1000/10.000/100.000 (imagettes)
-­ 4.000.000.000 opérations par exemple en feedforward, 10 milliards pour une
passe complète
-­ 1 million d’exemples, 1000 itérations: 10 milliards de milliards d’opérations
-­ 1 GPU@10K€: 1 Teraflops (1000 milliards d’opérations/s)
-­ 10.000.000 de secondes de GPU ...
-­ 1000 GPU, 3 heures de calcul.

16. 2bis
18/10/2017-­16
Et un peu de marchés

17. 140 start-­ups achetées de 2011 à 2016
40 start-­ups achetées en 2016, valeurs de $30m à $400m
Google Amazon Facebook IBM Microsoft
Cleversense (2011)
DNNresearch(2013)
DeepMind (2014) $660m
Emu (2014)
Jetpac (2014)
Granata Decision Systems
Timeful (2015)
Api (2016)
Moodstocks (2016)
Kifi (2016)
Dark Blue Labs (2014)
Vision Factory (2014)
Hark (2016)
Orbeus (2015)
Angel (2016)
Harvest.ai (2017)
DeepL, reconnaissance
images, assistants
Face.com (2012) $55m
Wit.ai (2015)
Agents, recherche d’images
Cognea (2014)
AlchemyAPI (2015)
Explorys (2015)
DeepL, santé, agents
conversationnels (Watson)
Netbreeze (2013)
Equivio (2015)
Genee(2016)
SwiftKey (2016) $250m
Maluuba (2017)
Apple Twitter Oracle Intel
Vocal IQ (2015)
Perceptio (2015)
Turi (2016) $200m
Tuplejump (2016)
Emotient (2016)
Madbits (2014)
TellApart (2015)
Whetlab (2015)
Magic Pony (2016) $150m
ML, images
Crosswise (2016) $50m
Palerra (2016)
Big data Client, Cyber-­
sécurité
IQ Engines (2013)
Saffron (2015)
Itseez (2016)
Nervana (2016) $408m
Movidius (2016) $400m
Puces pour video
Uber Yahoo Samsung Aol NICE
Geometric Intelligence
(2016) Nouveau AI Lab:
conduite autonome
Indisys (2013)
LookFlow (2013)
SkyPhrase (2013)
Viv Labs (2016)
Assistants virtuels
(concurrencer Apple)
Gravity (2014) Recomm.
Convertro (2014)
Sociocast, Velos (2015)
Causata (2013)
Nexidia (2016) $135m
Fouille données client
Ford General Electric eBay SalesForce Nokia
SAIPS (2016) Israël
Argo.Ai (2017) $1Md
Apprentissage non-­
supervisé (video) pour
voiture autonome
Wise.io (2016)
Bit Stew (2016) $135m
Apprentissage (Plateforme
Predix), IoT
Hunch (2011)
Expertmaker (2016)
SalesPredict (2016)
Prediction achat client
Tempo AI (2015)
MetaMind (2016)
PredictionIO (2016)
Calendrier, Deep learning.
Desti (2014)
Medio Systems (2014)
Navigation (HERE maps)
Deep learning
Agents
conversationnels
Voyages
Information
contextuelle
Reconnaissance
images
Entreprises:
Droit et IA
Assistants
Traitement langage
Reconnaissance faciale
Voiture autonome
Cyber-­sécurité
Prédictif client
Santé
Assistants
Vidéo
Acquisitions récentes (US & etc.)

18. Brevets, véhicule autonome
Source: Oliver Wyman

19. Le Monde, 1er Octobre 2017
19

20. l’IA est « partout »
• Internet: Web & IoT : self-­service
• Infrastructure, Publicité, Support client, Conseil et Vente,
• Finance, banques & assurances (prochaine
sidérurgie…)
• Automatisation des politiques, accélération, « métriques »
• Santé
• Prédiction/prévention, individualisation/précision
• Transport
• Prix, simplicité, fluidité, maintenance
• Loisirs
• Information, sociabilité, créativité, jeux , réalité virtuelle
• Guerre, maintien de l’ordre
• Soldats augmentés, Robots Autonomes Tueurs
20

21. 3
18/10/2017-­21
Enjeux pour les prochaines
années et plus loin

22. Apprentissage: défis
Sources de données
Apprentissage
non supervisé ... sous contraintes ... continu, éternel
Représentations symboliques vs continues
L’humain dans la boucle
Explications
Architectures pour l’apprentissage
18/10/2017

23. 18/10/2017
P
at
ri
c
k
Al
b
er
t
-­-­
I.
A.
A
s
p
e
ct
s
sc
ie
nt
ifi
q
u
e
s
et
st
ra
té
gi
q
u
e
s23
Dialogue post-­crash avec le chatbot du
camion autonome
Peux-­tu me dire pourquoi as-­tu tourné à droite
(et écrasé le piéton)?
....

24. Analyse de signaux: défis
Passage à l’échelle
Des images aux vidéos
Modalités multiples
>Analyse guidée par les métadonnées sur le web
>Signaux sur plusieurs canaux: infrarouge, laser, magnétique etc.
>Combinaison audio et vidéo
Introduction de connaissances a priori
18/10/2017

25. Web sémantique, connaissances: défis
Utiliser des grands volumes d’information provenant de
sources hétérogènes réparties
Bâtir des ponts entre les masses de données stockées
dans les bases grâce à la sémantique
Développer des applications avec ces technologies.
18/10/2017

26. Robotique & véhicules autonomes: défis
Compréhension de situation à partir de signaux
multicanaux
Raisonnement dans l’incertain, résilience
Combiner plusieurs approches pour la prise de décision:
>Données de plusieurs capteurs
>Détermination de la situation, du contexte
>Mémoires de décisions passées
>Règles et lois implémentées dans la mémoire du robot
>Combiner données et faits dans des raisonnements hybrides.
18/10/2017

27. Défis génériques
AI située
>Les systèmes IA opérent dans le monde réel, en liaison avec leur
environnement
L’humain dans la boucle
Ouverture vers d’autres disciplines
>Un système d’IA est souvent intégré dans un système composé de
plusieurs parties.
Validation et certification
>Indispensables pour les systèmes critiques
18/10/2017

28. Défis génériques…. Encore plus difficiles
Donner des normes et des valeurs aux IA
>“mon robot”
Gestion de la vie privée
>Attention aux connaissances tirées à partir des données privées
Passage à l’échelle
Les V’s du bigdata: varieté, volume, velocité, vocabulaires
Multitâches
>Les IA sont bonnes pour une chose mais sont incompétentes pour
le reste (specific vs general AI).
18/10/2017

29. 18/10/2017-­29
IA
Regard sur la R&D