Conférence UTA BFM Limoges - IA nouvel acteur du champ de bataille
1. L’intelligence Artificielle :
nouvel acteur du champ de bataille
Thierry Berthier
Chaire de Cyberdéfense & Cybersécurité Saint-Cyr – CREC
Thétis et Héphaïstos soutenu par ses automates –
Auteur : Füssli, Johann Heinrich (1741-1825) – Date : 1803
2. PLAN
1 - Le temps du Kronos, A l’origine de l’Intelligence Artificielle
2 - Intelligence artificielle – De quoi parle-t-on ?
3 - Lorsque l’IA surpasse l’homme en 2016
4 - La course à l’IA est lancée
5 - L’intelligence artificielle sur le champ de bataille
6 - Le soldat augmenté
4. Dans la mythologie
grecque, Héphaïstos,
l’illustre artisan, est un
dieu infirme, difforme et
boiteux.
C’est aussi un
extraordinaire
concepteur d’automates
et de créatures
artificielles imitant la vie
qu’il met au service des
dieux.
5. Héphaïstos et le temps du Kronos
Héphaïstos sait forger et animer des mécanismes complexes. Il a construit des trépieds
capables de se déplacer de manière autonome (automatoï) pour se rendre à
l’assemblée des dieux ainsi que les fameuses portes de l’Olympe qui s’ouvrent d’elles-
mêmes.
Selon des sources antiques, il a fabriqué des servantes d’or qui l’assistent dans ses
travaux, puis six charmeuses d’or accompagnées de chiens gardiens du palais
d’Alkinoos, de chevaux forgés pour le char des Cabires, d’un aigle fabriqué pour Zeus et
du géant de bronze Talos laissé à Minos pour garder l’île de Crète.
Créés pour accomplir une tâche précise qu’ils exécutent à la perfection, les automates
d’Héphaïstos construits sur le modèle d’objets usuels, d’animaux ou d’êtres humains
deviennent les auxiliaires des dieux. Dans la société divine où les Olympiens ne
connaissent ni peine ni contrainte, les créations animées d’Héphaïstos remplacent les
esclaves des sociétés humaines pour accomplir les tâches les plus répétitives et
rébarbatives. Les automates donnent à la communauté des dieux et à la première race
humaine la possibilité de mener une existence idéale, dénuée d’effort, préservée des
souffrances et des malheurs.
Cette période idyllique, appelée « temps du Kronos », est celle d’une agriculture
prospère qui ne demande aucun effort et d’une production de richesses et de
ressources totalement automatisée. On notera que les automates du temps du Kronos
rendent inutiles l’esclavage et le travail humain.
6. Avec la convergence NBIC débute le second temps du Kronos
L’espèce humaine aborde aujourd’hui son second temps du Kronos marqué par la
convergence NBIC (Nanotechnologies, Biotechnologies, Informatique, sciences
Cognitives). Les héritiers mortels d’Héphaïstos s’incarnent désormais dans chaque
créateur de robots mis au service de ceux qui aspirent à une vie sans contrainte et à
une certaine forme d’immortalité.
Entre l’Olympe d’Héphaïstos, la Silicon Valley transhumaniste et l’ensemble des
nations technologiques, les similarités de faits et d’objectifs sont troublantes et
doivent nous questionner : l’histoire et le devenir d’Homo Sapiens sont-ils tout
entiers inscrits dans la mythologie grecque selon une circularité temporelle que nous
ne cessons de redécouvrir ? Entrons-nous réellement dans un second temps du
Kronos qui nous éloigne définitivement du travail répétitif, des contraintes, de la
fatigue, des souffrances quotidiennes et de la mort ?
Si les aspirations originelles du temps du Kronos ont bien accompagné l’évolution
humaine et jalonné son histoire, de l’antiquité aux Lumières et jusqu’aux grandes
révolutions industrielles, elles quittent aujourd’hui la sphère mythologique pour
façonner nos sociétés technologiques.
7. Pour comprendre le futur, relisons l’Iliade et l’Odyssée !
L’intelligence artificielle et la robotique, comme la forge et le marteau
d’Héphaïstos, transforment notre environnement et nous libèrent de ses
contraintes. L’augmentation de l’espérance de vie et l’émergence d’une
information ubiquitaire globale entourant et guidant l’individu caractérisent
désormais ce second temps du Kronos dans ses promesses émancipatrices.
Les merveilleuses créations d’Héphaïstos réalisaient toutes les tâches humaines à
la perfection en surpassant le travail des êtres mortels. Ainsi, nul intrus ne
parvenait à échapper à son chien d’or, molosse forgé, gardien du palais d’Alkinoos.
Le géant Talos pouvait effectuer le tour de la Crète trois fois par jour pour prévenir
toute intrusion.
Nous retrouvons aujourd’hui cette suprématie de l’automate sur l’humain dans
des domaines précis : AlphaGo, l’intelligence artificielle de Google DeepMind vient
de battre le champion du monde coréen Lee Sedol au jeu de Go. La robotique
militaire produit des drones et des systèmes armés semi-autonomes de
surveillance automatisée particulièrement efficaces (Robots sentinelles SGRA1
déployés à la frontière des deux Corées) qui sont autant de géants Talos dépassant
les capacités humaines… Enfin, la fabrique du vivant que seul Héphaïstos sait
mettre en œuvre au service des dieux trouve un écho moderne dans les progrès
fulgurants des bio et des nanotechnologies.
10. Des tentatives pour définir l’IA …
L’expression IA apparaît en 1956 durant la conférence de Dartmouth
dans une première définition (qui s’avère très insuffisante
aujourd’hui) :
Définition de Marvin Minsky (1927 – 2016)
« L’intelligence artificielle est la science qui consiste à faire faire à
des machines ce que l’homme fait moyennant une certaine
intelligence ».
Critique : Cette définition présente une forte récursivité… La
« complexité » mentale est-elle comparable à la complexité
informatique ?
La définition de Minsky exclut des domaines majeurs de l’IA : la
perception (vision et parole), la robotique, la compréhension du
langage naturel, le sens commun.
10
11. Des tentatives pour définir l’IA …
L’IA est-t-elle le contraire de la « bêtise naturelle » ??
Une définition plus opérationnelle :
« L’IA est le domaine de l’informatique qui étudie comment faire
faire à l’ordinateur des tâches pour lesquelles l’homme est
aujourd’hui encore le meilleur. »
(Elaine Rich & Knight – Artificial Intelligence)
Les grandes dichotomies de l’IA subsistent :
- IA forte vs IA faible,
- Niveau de compétence vs niveau de performance,
- Algorithmique vs non algorithmique,
- Vision analytique vs vision émergente de la résolution de
problèmes,
- Sciences du naturel vs sciences de l’Artificiel. 11
12. Des tentatives pour définir l’IA …
IA forte : une machine produisant un comportement intelligent ,
capable d’avoir conscience d’elle-même en éprouvant des
« sentiments » et une compréhension de ses propres
raisonnements.
IA faible : Machine simulant ces comportements sans conscience
d’elle-même. Impossibilité liée au support « biologique » de la
conscience.
La question centrale : une « conscience » peut-elle émerger de
manipulations purement syntaxiques ?
C’est l’expérience de la Chambre chinoise imaginée par John Searle
en 1981. C’est aussi l’hypothèse (forte) de la pensée singulariste /
transhumaniste.
12
14. Compétence vs performance :
On doit tenir compte de la distinction introduite par Noam
Chomsky (MIT) : faire « comme » ou faire « aussi bien que ».
L’oiseau et l ’avion volent mais pas de la même façon…
Jeux d ’échecs : les grands champions réfléchissent différemment
de Deep Blue.
Jeu de Go : AlphaGo n’a pas la même approche que celle du
champion du monde .
Vision analytique vs vision émergente de la résolution de
problèmes :
D’un côté on procède par décomposition de problèmes en sous-
problèmes plus simples à résoudre (analyse procédurale, système
experts basés sur la logique des prédicats) et de l’autre, on réalise
une distribution des tâches à un ensemble d ’agents qui
interagissent (exemple : Ant Algorithm).
14
15.
16.
17. L’histoire de l’IA est très récente… (60 ans)
Acte de naissance : 1956, Darmouth College (New Hampshire,USA)
John McCarthy (tenant de la logique) et Marvin Minsky (tenant
d’une approche par schémas).
Genèse autour de la notion de « machines à penser »
Comparaison du cerveau avec les premiers ordinateurs
Les grands acteurs de l’IA
Mc Culloch et Pitts : réseaux neuronaux artificiels (approche
physiologique),
Wiener : cybernétique,
Shannon : théorie de l’information,
Von Neumann : architecture d’un calculateur,
Alan Turing : théorisation des fonctions calculables par machine,
Kurt Gödel : théorème d’incomplétude (1931). 17
18. L’époque des systèmes experts (1970-1980)
Les systèmes experts apparaissent au début des années 1970 et se
développent jusqu’à la fin des années 1980 :
DENDRAL en chimie, MYCIN en médecine, Hersay II en
compréhension de la parole, Prospector en géologie.
Apparaissent également les premiers générateurs de systèmes
Experts : NEXPERT System, CLIPS, …
Les langages de programmation pour l’IA
LISP (usa), PROLOG (France - Colmerauer),
SmallTalk (langage objet), YAFOOL et KL-ONE (langages de Frame),
langages de logique de description.
18
20. Les années 1980 :
La période des espoirs déçus de l’IA
Recul de l’approche symbolique de l’IA :
Après des espoirs déçus : en particulier avec l’échec de la
généralisation de la théorie des micromondes et le constat du
manque de souplesse des systèmes experts (on parlerait aujourd’hui
de manque d’agilité). Ils ont pourtant enregistré des succès dans des
domaines bien spécifiques en particulier en informatique de gestion.
Renaissance de l’approche connexionniste :
- Systèmes multi-agents, concept de « vie artificielle »,
- Hopfield, mémoire autoassociative, 1982
- Rumelhart & McClelland, Parallel Distributed Processes, MIT Press,
1985
- Réseaux de neurones artficiel (RNA)
20
21. Les défis actuels de l’IA
- Attente d’une IA généraliste (?), autonome (?), auto-apprenante
- Elle doit devenir performante et adaptative sur des situations
dynamiques, changeantes, singulières.
- Elle doit être capable d’assister l’apprentissage humain.
- Elle doit être en mesure de gérer des dialogues entre « agents »
très hétérogènes.
Pour cela, il faut traiter la cognition comme une émergence dans
l’interaction avec l’environnement.
Ceci implique la conception d’une nouvelle génération de systèmes
informatiques qui vont privilégier une cognition située, distribuée,
émergente (prolifération d’agents intelligents et auto-apprentissage).
21
22. L’agent intelligent comme concept
fondamental de l’IA
- Le terme « action » est à comprendre au sens large. Cela peut
signifier « fournir un diagnostic ».
- La boucle systémique Agent/Environnement n’est pas
nécessairement fermée.
?
senseurs
"actionneurs "
AGENT
perception
ENVIRONNEMENT
"action"
Source – Mines ParisTech
22
23. Définition de l’apprentissage artificiel :
« Capacité d’un système à améliorer ses performances
via des interactions avec son environnement » .
Spécificité de l’apprentissage :
Conception et adaptation de l’agent « intelligent » par
analyse automatisée (statistique) de son environnement
et de son action dans cet environnement.
Exemple typique d’apprentissage artificiel :
L’agent « prédicteur »
23
24. Historique
Données
externes
PrédictionAGENT
PREDICTEUR
Modèle de l’agent prédicteur
Performance espérée : minimiser l’erreur de prédiction
Méthode : utiliser des données expérimentales pour déterminer
le modèle le plus correct du type :
Prédiction = F ( historique, données externes )
Source – Mines ParisTech
24
25. Un système d’apprentissage est en général
composé :
- d’un modèle paramétrique,
- d’une façon d’interagir avec l’environnement,
- d’une « fonction de coût » à minimiser,
- d’un algorithme destiné à adapter le modèle, en
utilisant les données issues de l’environnement, avec
l’objectif d’optimiser la fonction de coût
25
27. La phase d'apprentissage d'un réseau de neurones se
décompose en cinq étapes :
Etape 1 - Présenter au réseau un couple entrée-cible.
Etape 2 - Calculer les prévisions du réseau pour les cibles.
Etape 3 - Utiliser la fonction d'erreur pour calculer la différence entre les prévisions
(sorties) du réseau et les valeurs cible. Reprendre les étapes 1 et 2 jusqu'à ce que
tous les couples entrée-cible aient été présentés au réseau.
Etape 4 - Utiliser l'algorithme d'apprentissage afin d'ajuster les poids du réseau de
telle sorte qu'il produise de meilleures prévisions à chaque couple entrée-cible.
Remarque : les étapes 1 à 5 constituent un seul cycle d'apprentissage ou itération.
Le nombre de cycles nécessaire pour entraîner un modèle de réseaux de neurones
n'est pas connu a priori mais peut être défini dans le cadre du processus
d'apprentissage.
Etape 5 - Répéter à nouveau les étapes 1 à 5 pendant un certain nombre de cycles
d'apprentissage ou d'itérations jusqu'à ce que le réseau commence à produire des
résultats suffisamment fiables (c'est-à-dire des sorties qui se trouvent assez
proches des cibles compte tenu des valeurs d'entrée). Un processus
d'apprentissage type pour les réseaux de neurones est constitué de plusieurs
centaines de cycles.
27
28. Les réseaux de neurones sont performants dans les
tâches suivantes :
Traitement du signal,
Maîtrise des processus,
Robotique,
Classification,
Pré-traitement des données
Reconnaissance de formes,
Analyse de l'image et synthèse vocale,
Diagnostics et suivi médical,
Marché boursier et prévisions,
Demande de crédits ou de prêts immobiliers.
28
29. Deep Learning et Réseaux de Neurones
On enregistre les premiers succès du Deep Learning (apprentissage
profond) en 2006. Les réseaux de neurones accompagnent les
avancées du Deep Learning .
Ces réseaux sont multicouches. Ils effectuent une série de
traitements hiérarchisés dans le but de classer des objets en
catégories, sans critères prédéfinis. Il s'agit d'un apprentissage non
supervisé.
Google, Facebook, IBM les utilisent partout aujourd’hui…
29
31. En 2016, l’Intelligence Artificielle a surpassé
l’homme dans plusieurs domaines.
Ces domaines étaient jusque là réservés à la
seule expertise humaine.
33. Pour la première fois, un robot chirurgien a opéré de manière
totalement autonome . Il est intervenu pour recoudre deux parties
d’un intestin de cochon.
Les chercheurs responsables de ce programme ont publié leurs
résultats en mai 2016 dans la revue Translational Medecine.
Le robot autonome a opéré avec plus de précision et d’habileté
que les chirurgiens humains et que les robots pilotés
manuellement par l’homme sur le même type d’intervention.
Des technologies d’imagerie intelligente et des marqueurs
fluorescents ont permis au robot de s’adapter aux tissus mous et
de réaliser des sutures et des connexions optimales.
La phase de test va se poursuivre durant deux ans avant une
intervention humaine.
34. Le « nouveau Rembrandt » peint par une Intelligence Artificielle
35. Le 5 avril 2016, un nouveau Rembrandt a été dévoilé…
Ce tableau « à la manière de Rembrandt » a été entièrement
réalisé par une IA créée par Microsoft, la banque ING, l’Université
de Delft et deux musées néerlandais .
L’IA a d’abord analysé des centaines de tableaux de Rembrandt
puis a déterminé les caractéristiques dominantes du Maître. Elle a
ensuite piloté une imprimante 3D pour réaliser cette œuvre inédite
en respectant parfaitement le style de Rembrandt.
36. Le champion Sud Coréen Lee Sedol affrontant l’IA AlphaGo au jeu de GO en 2016
37. En 2016, AlphaGo, l’intelligence artificielle développée par Google
DeepMind a battu à 4 reprises le champion du monde de jeu de Go,
Lee Sedol (5 manches à 0 en janvier contre le champion européen
et 4 manches à une en mars contre Lee Sedol).
Avec ses 10 puissance 600 combinaisons possibles, le jeu de Go
reste beaucoup plus complexe que le jeu d’échecs.
AlphaGo a utilisé les techniques du Deep Learning pour réaliser cet
exploit.
39. En juillet 2016, à Dallas, un individu armé s’est retranché pendant
des heures dans un bâtiment après abattu tué cinq policiers.
La police a finalement utilisé le robot d’intervention Northrop
Grumman Andros, conçu initialement pour les équipes de déminage.
Il a été équipé d’une bombe puis dirigé vers le tireur qui a été ainsi
neutralisé par l’explosion.
44. La Course à l’IA
Google, IBM, Twitter, Intel, Apple, Yahoo, Salesforce, Samsung, sont
en concurrence depuis 2011 pour racheter les startups d’IA les plus
innovantes.
Depuis 2011, 140 startups et entreprises travaillant dans le secteur
de l’intelligence artificielle avancée ont été rachetées , dont 40
acquisitions en 2016 !
45.
46. Les leaders de la recherche en Machine Learning
La Chine et les Etats-Unis sont leaders dans la recherche en Machine
Learning / Deep Learning.
La Chine vient de prendre la tête du classement des pays en terme
de publications de recherche en Machine Learning / Deep Learning
et des citations de ces articles.
Barack Obama a fait plusieurs interventions rappelant l’importance
stratégique de l’IA dans la future croissance américaine. Plusieurs
études prospectives sur l’IA ont été lancées par son gouvernement.
https://www.whitehouse.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/n
ational_ai_rd_strategic_plan.pdf
52. La robotisation du champ de bataille touche aujourd’hui toutes les
armées, petites et grandes.
Les américains sont les leaders dans le domaine des drones
d’observation et de combat. Ils ont d’ailleurs fondé leur doctrine de
lutte contre le terrorisme sur l’utilisation de ces drones en
Afghanistan, dans les zones tribales du Pakistan, en Irak, en Libye, au
Mali et au Nord Cameroun.
Prédator tirant un
missile Hellfire
55. La Darpa et l’US Navy viennent de lancer très officiellement le Sea
Hunter, un navire autonome dépourvu d’équipage humain, dédié à
la lutte anti-sous-marine. Long d’une quarantaine de mètres,
le Sea Hunter est capable d’évoluer en autonomie durant plusieurs
mois sur des milliers de kilomètres.
Issu d’un programme Darpa, il débute aujourd’hui une phase de
tests qui s’étalera sur deux ans.
Sea Hunter n’est pas « télécommandé » par un opérateur agissant
depuis un poste de commandement mais dispose d’une réelle
autonomie, une fois sa mission initiale définie.
Il est capable en particulier de réaliser toutes les manœuvres
usuelles d’un navire de cette taille sans intervention humaine et
sait reconnaître et respecter les règles de navigations
internationales.
56. La Darpa annonce un coût de développement à hauteur de 20
millions de dollars qui sera très largement compensé par les
économies de fonctionnement qu’il va engendrer.
En effet, le coût de fonctionnement journalier de Sea Hunter se
situe entre 15 000 et 20 000 dollars, ce qui est bien meilleur
marché que celui d’un navire équivalent doté d’un équipage
humain…
Sea Hunter est donc la Google Car des mers qui pourrait bien
uberiser le marché des navires de surveillance et de lutte anti-
sous-marine.
Comme le proclament la Darpa et l’US Navy, il s’agit d’une
révolution technologique et stratégique qui
« disrupte » totalement le marché.
57.
58. L’intelligence artificielle qui fait baisser les coûts de
fonctionnement
L’Intelligence Artificielle (IA) agit comme le levier principal pour
faire baisser le coût de fonctionnement journalier des systèmes en
les rendant autonomes (et en détruisant au passage les emplois de
l’équipage). On retrouve ce couple (IA, baisse du coût de
fonctionnement par autonomisation) dans tous les autres
contextes de développement de systèmes armés autonomes :
Les robots sentinelles Samsung SGRA1 déployés le long de la
frontière entre les deux Corée induisent des économies réalisées
sur les effectifs des personnels positionnés sur la frontière.
Un seul robot démineur russe dérivé des unités robotisées
Platform-M est aujourd’hui capable de remplacer l’action de 15 à
20 démineurs humains, avec un taux de détection dépassant les 95
%.
59. Les robots sentinelles russes MRK-27-BT sont déployés autour des
camions porteurs de missiles stratégiques Topol depuis le début de
l’année, révolutionnant l’activité de sécurisation d’une zone
militaire hautement sensible.
Dans chaque situation, l’IA remplace l’action d’un groupe
d’opérateurs humains avec un gain de productivité important : pas
de congé maladie, pas de jours fériés, pas de contestation salariale,
pas de fatigue ou de baisse de vigilance durant le service, et dans
les cas extrêmes, une économie de sang durant l’attaque.
65. Les systèmes d'armes semi-autonomes et autonomes
seront largement employés par les troupes russes d'ici
2018. Ils devraient représenter plus de 30 % de
l'ensemble du matériel mis en service d'ici 2025.
Le Général Valeri Guérassimov, chef d’État-major des
forces armées de la Fédération de Russie et vice-ministre
russe de la Défense vient de déclarer que son pays
cherche à développer des unités de combat robotisées
capables d'intervenir sur toutes les zones de crises.
76. La société israélienne General Robotics développe son robot
portable Dogo, armé d'un pistolet GLOCK 26, calibre 9mm. Il s'agit
de la première machine compacte du monde équipée de ses
propres armes. L'engin ne pèse que 12 kg.
Selon la société General Robotics, le robot peut être utilisé en
combat rapproché, ainsi que pour des opérations antiterroristes.
Dogo peut également être équipé de spray au poivre et de gaz
paralysants.
L’appareil est équipé d’un système de transmission d’informations
audio et vidéo ancré à son panneau de commande, ainsi que d’un
système de détection d’obstacles. Par exemple, à l’approche d’un
escalier, il passe automatiquement en mode optimal en soulevant
ses roues sans qu’il y ait besoin de commandes supplémentaires.
77. Selon la description qu’en fait General Robotics, Dogo est un
«chien de garde », d’où son nom, inspiré par le dogue argentin,
un chien connu pour être rusé, courageux et dominateur.
Dogo a une autonomie d’environ quatre heures et dispose d’un
système de surveillance composé de 8 caméras à haute
résolution qui offrent une visibilité à 360 degrés.
85. Rapide et inéluctable, la robotisation du champ de bataille est en
marche, sur terre, dans les airs comme en mer. Elle oblige
désormais les stratèges à repenser les doctrines militaires et les
règles d’engagement au combat pour les adapter à un art de la
guerre où l’autonomie des systèmes devient prépondérante.
Américains, Russes et Chinois ont choisi de robotiser et de rendre
semi-autonome puis autonome une grande partie de leurs
systèmes d’armes.
On peut parier que les nations qui n’entreront pas dans la course à
l’IA dans ce domaine sacrifieront du même coup leur potentiel de
défense et leurs capacités opérationnelles. Le fossé technologique
sera alors semblable à celui opposant une armée féodale à une
armée du vingtième siècle. Les vrais enjeux de sécurité et de
société se situent aujourd’hui dans cette course à l’IA de défense
qui peut provoquer des déséquilibres géostratégiques
irrattrapables…
86. La « dronification » et la robotisation font évoluer les systèmes
d’armes vers la semi-autonomie puis vers l’autonomie.
Cette évolution pose des questions à la fois éthiques et
stratégiques.
L’intelligence artificielle occupe désormais un rôle central dans la
révolution de l’armement moderne. Elle participe à la projection du
combat sur l’espace numérique.
Le problème du contrôle du système d’arme, transféré sur le
cyberespace, nous interroge à nouveau sur les risques de hacking et
de détournement.
Les défis technologiques et les enjeux stratégiques ne doivent
pas être sous-estimés… Ils engagent notre sécurité.