Ce diaporama a bien été signalé.
Nous utilisons votre profil LinkedIn et vos données d’activité pour vous proposer des publicités personnalisées et pertinentes. Vous pouvez changer vos préférences de publicités à tout moment.

Grand Colloque IHEDN 2017 - algorithmes et champ de bataille

579 vues

Publié le

Présentation (version longue) de mon intervention lors du Grand Colloque IHEDN 2017, le mercredi 4 octobre 2017 à Paris, Ecole Militaire.

Publié dans : Direction et management
  • Hello! I do no use writing service very often, only when I really have problems. But this one, I like best of all. The team of writers operates very quickly. It's called ⇒ www.HelpWriting.net ⇐ Hope this helps!
       Répondre 
    Voulez-vous vraiment ?  Oui  Non
    Votre message apparaîtra ici
  • A professional Paper writing services can alleviate your stress in writing a successful paper and take the pressure off you to hand it in on time. Check out, please ⇒ www.WritePaper.info ⇐
       Répondre 
    Voulez-vous vraiment ?  Oui  Non
    Votre message apparaîtra ici
  • Soyez le premier à aimer ceci

Grand Colloque IHEDN 2017 - algorithmes et champ de bataille

  1. 1. Colloque IHEDN - Algorithmes et champ de bataille - 4 octobre 2017 « Intelligence Artificielle : l’art de la guerre en mutation » Thierry Berthier Maitre de Conférences en mathématiques Chaire de cyberdéfense & cybersécurité Saint-Cyr – CREC Saint-Cyr
  2. 2. Plan PARTIE 1 - L’Intelligence Artificielle comme premier enjeu de puissance et de souveraineté 1 – 1 Intelligence Artificielle : une compétition mondiale et géopolitique 1 – 2 Intelligence Artificielle : moteur d’une rupture darwinienne PARTIE 2 - Intelligence Artificielle : L’art de la guerre en mutation 2 – 1 Panorama mondial de robotique militaire 2 – 2 L’ autonomie : contextes propices au déploiement de systèmes armés autonomes 2 – 3 Les défis de cybersécurité des systèmes armés autonomes.
  3. 3. PARTIE 1 L’Intelligence Artificielle comme premier enjeu de puissance et de souveraineté
  4. 4. 1 – 1 Intelligence Artificielle : une compétition mondiale et géopolitique
  5. 5. 2016 – 2017 : Les dirigeants américains, russes et chinois considèrent l’Intelligence Artificielle (IA) comme le futur vecteur de puissance stratégique.
  6. 6. « Le leader en intelligence artificielle dominera le monde » Discours de Vladimir Poutine du 01 septembre 2017
  7. 7. Alibaba founder and chairman Jack Ma, the man Fortune Magazine just named one of the world's great leaders, predicts that technology will make many CEOs irrelevant in the not-too- distant future. "In 30 years, a robot will likely be on the cover of Time Magazine as the best CEO," Ma said in a speech over the weekend at an entrepreneurship conference in central China. And he warned of dark times ahead for people who are unprepared for the upheaval technology is set to bring.
  8. 8. By 2020, China's AI technologies and research facilities will match other leading countries, said Li Meng, the vice minister of science and technology. Five years later, he expects "a big breakthrough," and then China should finally become the global "innovation center for AI" by 2030. The remarks at a press conference expand on a policy statement released by China's State Council on Thursday, which set out goals to build a domestic artificial intelligence industry worth nearly $150 billion in the next few years. The plan signals China's desire to lead in an area that is growing rapidly. Artificial intelligence is already replacing warehouse workers with robots, operating driverless cars, and could even substitute doctors with computers in the future. University of Cambridge researchers are using it to figure out whether sheep are in pain.
  9. 9. Les principaux acteurs industriels chinois de l’IA se mobilisent pour faire de la Chine le leader mondial de l’IA (Baidu, Alibaba, Tencent, Didi Chuxing (le Uber chinois)) Baidu vient de lancer sa plateforme de développement en Machine Learning “PadlePadle” afin de concurrencer celle de Google (TensorFlow) : http://www.paddlepaddle.org/
  10. 10. 1 – 2 - Intelligence Artificielle : moteur d’une rupture darwinienne
  11. 11. L’intelligence artificielle marque une rupture darwinienne dans l’évolution humaine. Son histoire débute en 1956.
  12. 12. L’IA est une jeune fille, son histoire débute en 1956. Définir l’IA est un exercice complexe Définition de Marvin Minsky (1927 – 2016) - 1956 « L’intelligence artificielle est la science qui consiste à faire faire à des machines ce que l’homme fait moyennant une certaine intelligence ». Une définition plus opérationnelle d’Elaine Rich & Knight – « Artificial Intelligence » « L’IA est le domaine de l’informatique qui étudie comment faire faire à l’ordinateur des tâches pour lesquelles l’homme est aujourd’hui encore le meilleur. » L’IA est le contraire de la « bêtise naturelle » auteur inconnu…
  13. 13. L’IA se déploie sur les couches logiciel, matériel et humaine. Les futures interfaces « Brain-Machine » sont en cours de développement : Programme Neuralink d’Elon Musk Un exemple issu de la convergence bio-informatique (convergence NBIC) : Le processeur neuromorphique TrueNorth IBM issu du programme DARPA SyNAPSE
  14. 14. INTEL LOIHI
  15. 15. En filigrane de ces progrès, la Convergence NBIC !
  16. 16. L’IA accélère la convergence NBIC
  17. 17. PARTIE 2 Intelligence Artificielle : L’art de la guerre en mutation
  18. 18. 2 - 1 Panorama mondial de robotique militaire
  19. 19. La course à l'autonomie est lancée entre les grands pays producteurs d'intelligence artificielle. Les débats éthiques, à géométrie variable selon les cultures, les idéologies et les convictions religieuses vont accompagner le déploiement de systèmes d'armes robotisés plus ou moins autonomes sur l'ensemble des théâtres de conflit. Les futures confrontations impliquant le soldat non augmenté, le soldat augmenté et la machine appellent dès aujourd'hui à repenser l'art de la guerre.
  20. 20. Dans la première lettre ouverte d’Elon Musk et de Stephen Hawking, on pouvait lire la phrase prémonitoire : « If any major military power pushes ahead with AI weapon development, a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow ». Deux ans plus tard, le groupe Kalachnikov vient confirmer cette prévision en présentant sa gamme de robots autonomes armés.
  21. 21. Robotique militaire Russe Doctrine : Exclure le soldat humain de la zone d’immédiate conflictualité
  22. 22. L'armée russe souhaite robotiser plus du tiers de ses armements à l'horizon 2025. La mutation de certains équipements a commencé avec, notamment, le développement de chars de combat « dronisés » à équipage déporté (T14 Armata). Les systèmes d'armes semi-autonomes et autonomes seront largement employés par les troupes russes d'ici 2018. Ils devraient représenter plus de 30 % de l'ensemble du matériel mis en service d'ici 2025. Le Général Valeri Guérassimov, chef d’État-major des forces armées de la Fédération de Russie et vice-ministre russe de la Défense vient de déclarer que son pays cherche à développer des unités de combat robotisées capables d'intervenir sur toutes les zones de crises.
  23. 23. L’Unité de combat robotisée Platform-M
  24. 24. Robot sentinelle russe Volk-2
  25. 25. Robot démineur russe Ouran-6
  26. 26. Robot russe Argo Poids : environ 1000 kg ; dimensions : longeur 3,4m ; largeur 1m ; hauteur 1,65m Vitesse de déplacement 20km ; durée opérationnelle : 20 heures ; Armement : mitrailleuse, grenade anti-char RPG26, grenades RSG2
  27. 27. Robot tireur russe Strelok
  28. 28. Robots tireurs urbains
  29. 29. Char russe T14 Armata A tourelle automatisée – vers une « dronification » du T14
  30. 30. Depuis le 10 juillet, l'entreprise russe Kalashnikov communique sur son programme de développement de modules armés autonomes s'appuyant sur des réseaux de neurones pour la détection, l'identification et le traitement automatique des cibles. Sofiya Ivanova, l'actuelle Directrice de la communication de Kalashnikov, annonce que son groupe s'engage dans la production de drones de combat autonomes dotés de capacités d'apprentissage par réseaux de neurones, capables de reconnaître les cibles et de prendre des décisions autonomes dont celle de l'engagement. Les prototypes présentés sont dotés d'une mitrailleuse PK montée sur une tourelle elle-même dirigée par une intelligence artificielle construite sur des réseaux de neurones.
  31. 31. Système armé autonome Kalachnikov
  32. 32. Système armé autonome Kalachnikov
  33. 33. Système armé autonome Kalachnikov
  34. 34. Le combat du futur, selon la nouvelle doctrine russe énoncée en 2015, doit « exclure l'homme de la zone d'immédiate confrontation ». Cette exclusion totale n'est rendue possible que par le développement de systèmes robotisés télé-opérés et de systèmes armés autonomes. Elle modifie l'ensemble des mécanismes tactiques et oblige les armées à une révision complète de leurs règles d'engagement et de leurs pratiques au combat.
  35. 35. Robotique militaire Chinoise La Chine souhaite devenir la première puissance en termes de robots armés autonomes
  36. 36. La Chine communique très peu sur ses programmes d’IA militaire…
  37. 37. La Chine communique très peu sur ses programmes d’IA militaire…
  38. 38. La Chine communique très peu sur ses programmes d’IA militaire…
  39. 39. Robotique militaire Américaine Les programmes américains sont les plus avancés avec un rôle moteur de la DARPA
  40. 40. La TOS en quelques chiffres … Investissement total pour la TOS sur 5 ans : 18 milliards de dollars Investissement TOS en 2017 : 3,5 Milliards de dollars dépensés Plus de 6 Milliards de dollars investis sur des programme TOS classifiés « secret défense ».
  41. 41. Les 6 grands domaines de la TOS - Les armements hypersoniques - Les armes à énergie dirigée - Le domaine sous-marin - Le développement de l’autonomie - La reconquête de la supériorité dans le domaine électromagnétique - La lutte informatique L’IA est déterminante dans chacun des 6 domaines …
  42. 42. Les américains sont les leaders dans le domaine des drones d’observation et de combat. Ils ont d’ailleurs fondé leur doctrine de lutte contre le terrorisme sur l’utilisation de ces drones en Afghanistan, dans les zones tribales du Pakistan, en Irak, en Libye, au Mali et au Nord Cameroun. Prédator tirant un missile Hellfire
  43. 43. Defense Advanced Research Projects Agency
  44. 44. Programme DARPA de navire transocéanique autonome SeaHunter
  45. 45. La Darpa et l’US Navy viennent de lancer très officiellement le Sea Hunter, un navire autonome dépourvu d’équipage humain, dédié à la lutte anti-sous-marine. Long d’une quarantaine de mètres, le Sea Hunter est capable d’évoluer en autonomie durant plusieurs mois sur des milliers de kilomètres. Issu d’un programme Darpa, il débute aujourd’hui une phase de tests qui s’étalera sur deux ans. Sea Hunter n’est pas « télécommandé » par un opérateur agissant depuis un poste de commandement mais dispose d’une réelle autonomie, une fois sa mission initiale définie. Il est capable en particulier de réaliser toutes les manœuvres usuelles d’un navire de cette taille sans intervention humaine et sait reconnaître et respecter les règles de navigations internationales.
  46. 46. La Darpa annonce un coût de développement à hauteur de 20 millions de dollars qui sera très largement compensé par les économies de fonctionnement qu’il va engendrer. En effet, le coût de fonctionnement journalier de Sea Hunter se situe entre 15 000 et 20 000 dollars, ce qui est bien meilleur marché que celui d’un navire équivalent doté d’un équipage humain… Sea Hunter est donc la Google Car des mers qui pourrait bien uberiser le marché des navires de surveillance et de lutte anti- sous-marine. Comme le proclament la Darpa et l’US Navy, il s’agit d’une révolution technologique et stratégique qui « disrupte » totalement le marché.
  47. 47. La vision américaine de la robotisation des zones de combats
  48. 48. La vision américaine de la robotisation des zones de combats
  49. 49. L’autonomie au cœur des programmes de recherche américains DARPA, AIRFORCE, NAVY, US ARMY, DOD
  50. 50. Bibliographie sur la vision américaine de la robotisation du champ de bataille Rapport TRADOC déclassifié : Conférence « The 2050 Cyber Army » :United States Military Academy, West Point, 13-14, september 2016 : https://info.publicintelligence.net/USArmy-TRADOC-Cyber2050.pdf https://futures.armyscitech.com/wp- content/uploads/2017/06/Mad_Scientist_Georgia_Tech_AI_Robotics_Autonomy.pdf http://www.tradoc.army.mil/watch/MadSciStoriesCompendium.pdf
  51. 51. Robotique militaire en Corée du Sud Le programme SGRA1 de robot sentinelle armé autonome
  52. 52. A la frontière des deux Corées : SGR A1 développé par Samsung
  53. 53. Robotique militaire israélienne Robot antiterroriste DOGO
  54. 54. DOGO, le robot antiterroriste
  55. 55. La société israélienne General Robotics développe son robot portable Dogo, armé d'un pistolet GLOCK 26, calibre 9mm. Il s'agit de la première machine compacte du monde équipée de ses propres armes. L'engin ne pèse que 12 kg. Selon la société General Robotics, le robot peut être utilisé en combat rapproché, ainsi que pour des opérations antiterroristes. Dogo peut également être équipé de spray au poivre et de gaz paralysants. L’appareil est équipé d’un système de transmission d’informations audio et vidéo ancré à son panneau de commande, ainsi que d’un système de détection d’obstacles. Par exemple, à l’approche d’un escalier, il passe automatiquement en mode optimal en soulevant ses roues sans qu’il y ait besoin de commandes supplémentaires.
  56. 56. Selon la description qu’en fait General Robotics, Dogo est un «chien de garde », d’où son nom, inspiré par le dogue argentin, un chien connu pour être rusé, courageux et dominateur. Dogo a une autonomie d’environ quatre heures et dispose d’un système de surveillance composé de 8 caméras à haute résolution qui offrent une visibilité à 360 degrés.
  57. 57. ARCIMS - ATLAS ELEKTRONIK : Navire autonome chasseur de mines acheté par la Marine anglaise
  58. 58. Robot anti-IED achetée par l’Armée britannique
  59. 59. 2-2 L’autonomie Contextes propices au déploiement de systèmes armés autonomes
  60. 60. Contexte 1 : Le combat urbain de haute intensité en contexte saturé Programme Darpa PROTEUS - https://www.darpa.mil/news-events/2017-06-15
  61. 61. Contexte 1 : Le combat urbain de haute intensité en contexte saturé Toujours très coûteux en vies humaines, ce type de confrontation nécessite des prises de décision extrêmement rapides et une forte agilité dans l’acquisition de cibles dynamiques multiples. Durant une phase de combat rapproché urbain impliquant de nombreux acteurs à courte distance, l'opérateur humain peut atteindre ses limites et ne plus être en mesure de réagir suffisamment rapidement aux informations qu'il reçoit. Il doit analyser la situation, effectuer des choix tactiques et décider en quelques secondes quelles sont les cibles prioritaires à traiter et les cibles secondaires tout en se protégeant. La saturation informationnelle et la vitesse de réaction humaine constituent deux limites cognitives et physiologiques qui peuvent engager et conditionner la survie du combattant. Un système autonome est quant à lui en mesure d'intervenir selon des échelles temporelles qui dépassent les limites biologiques humaines. La coopération entre robots armés autonomes et leur collaboration dans l'exécution d'une mission commune vont permettre de dépasser ces limites et devraient apporter des réponses pertinentes aux problématiques spécifiques d'engagement en zone urbaine.
  62. 62. Contexte 1 : Le combat urbain de haute intensité en contexte saturé Imaginons une première situation correspondant à un conflit « asymétrique » opposant l'armée régulière d'une nation technologique à un groupe armé irrégulier, constitué de rebelles, d'insurgés, ou de terroristes et disposant de moyens limités. Supposons que ce groupe d'insurgés contrôle une zone géographique incluant une ville et une population civile. L'armée régulière souhaite limiter ses pertes dans la reprise des zones urbaines. Elle va logiquement choisir d'engager ses unités de combat robotisées autonomes et télé-opérées dans la phase d’assaut initiale. Le niveau d'imbrication du groupe rebelle armé dans la population civile et son aptitude à la guérilla urbaine seront des critères déterminants dans le choix des robots à déployer. Dans tous les cas, ce sont les capacités des systèmes en détection et identification des cibles qui feront la différence et qui permettront de mener une action rapide avec le moins de perte civile possible. Le robot autonome devra être en mesure de distinguer « clairement » le personnel combattant du personnel civil non combattant, le terroriste de l'otage servant de bouclier humain.
  63. 63. Contexte 1 : Le combat urbain de haute intensité en contexte saturé Les techniques embarquées de reconnaissance de contextes, de formes, d'objets dans une image, de son ou de rayonnement devront atteindre un niveau de fiabilité au moins égal à celui du combattant humain. Sans cela, les dégâts collatéraux risquent d’être si importants qu'ils annuleront le bénéfice de l'emploi des robots et l'armée régulière devra s'en expliquer... Du côté des rebelles, on peut parier qu'ils auront également la capacité de recycler, de pirater, de détourner des robots civils récupérés sur le terrain ou achetés sur le marché noir pour les convertir en robots armés télé-opérés et/ou autonomes. L’État Islamique a su le faire à son niveau en équipant de simples drones civils commerciaux d'un dispositif de lance grenade particulièrement efficace. D'une façon générale, les derniers conflits ont montré qu'une technologie commercialisée pouvait vite diffuser vers des groupes armés pour être convertie en technologie militaire à moindre coût.
  64. 64. Contexte 1 : Le combat urbain de haute intensité en contexte saturé Les soldats de notre armée régulière auront donc toutes les chances de se retrouver dans une seconde phase du combat devant un robot autonome « lowCost » bricolé par les ingénieurs du groupe rebelle et tout aussi agressif. Les opérations de hacking de bas niveau et de détournement des systèmes devront également être prises en compte. Cela dit, l'asymétrie des moyens et de la puissance de feu déployée par l'armée régulière fera la différence et lui donnera l'avantage en secteur urbain comme en terrain découvert.
  65. 65. Contexte 2 : Le duel symétrique d’unités robotisées La seconde situation à explorer est celle d'un conflit « symétrique » opposant deux armées régulières de niveaux technologiques équivalents, disposant d'unités de combat robotisées autonomes et télé-opérées. On peut supposer que, selon le principe d'exclusion de l'homme de la zone d'immédiate confrontation, les deux armées choisiront d'engager en première instance leurs unités robotisées. Elles n'auront pas d'autre choix compte tenu du niveau de létalité des unités de robots. L'homme sera donc absent de cette première zone de combat laissant la place à une lutte hyper véloce entre des unités robotisées. Les questions de supériorité technologique et de supériorité d'effectifs seront centrales dans l'évolution de ce combat initial. Vingt robots armés sophistiqués, disposant d'une intelligence artificielle de haut niveau peuvent-ils venir à bout de 80 robots de combat plus rudimentaires mais qui savent se réorganiser rapidement en fonction de leurs pertes ? La résilience des unités robotisées et leur capacité à occuper et à dominer l'ensemble des milieux en même temps (l'ubiquité opérationnelle) permettront de remporter la première phase de la bataille.
  66. 66. Contexte 2 : Le duel symétrique d’unités robotisées Mais des jeux à somme nulle sont également envisageables. On peut imaginer dans le contexte de niveaux technologiques et d'effectifs quasiment équivalents, une destruction mutuelle d'un grand nombre d'unités robotisées de part et d'autre sans qu'apparaisse un réel vainqueur. La poursuite de la confrontation s'effectuerait alors « à l'ancienne » en impliquant des combattants humains avec les pertes associées. Enfin, à plus long terme et certainement de manière très utopique, on peut imaginer une économie totale de vies humaines dans un conflit du futur où la première armée remportant le combat robotisé serait tacitement considérée par ses adversaires comme celle qui remporte la guerre. La technologie aurait ainsi rendu inutile et irrationnel l'engagement de combattants humains voués à une défaite certaine. La guerre hybride aurait ainsi dépassé le prix du sang dans un rapport de force relevant purement du niveau d'intelligence artificielle déployé par les belligérants...
  67. 67. Contexte 3 : Robots autonomes sentinelles Garde robotisée des lanceurs russes TOPOL
  68. 68. Contexte 3 : Robots autonomes sentinelles Les missions de surveillances automatisées d'un territoire, de garde d'une base militaire ou d'infrastructures critiques peuvent être assurées par des unités de robots autonomes. Des unités de robots armés Platform-M et Uran ont ainsi été déployées en Russie en 2016 afin d'assurer une garde périmétrique autonome autour de sites de missiles nucléaires intercontinentaux. Les robots armés sentinelles SGRA1 développés par Samsung qui ont été installés le long de la frontière séparant les deux Corées, ont engendré de fortes économies en personnel et ont amélioré la fiabilité et la qualité des gardes. Les Russes ne sont pas les seuls à développer des systèmes armés autonomes. L'agence américaine DARPA a lancé plusieurs grands programmes de recherche et de développement d'unités de combats robotisés autonomes dédiés à la guérilla urbaine. De tels systèmes économisent le sang, la fatigue, le stress, et la solde du combattant... A l'heure où les budgets militaires connaissent partout de fortes hausses les différentes économies induites par les systèmes autonomes motivent l'accélération de leur développement.
  69. 69. Contexte 4 : Opérations en zones contaminées NRBC et lutte contre les engins explosifs (IED - VBIED)
  70. 70. Contexte 4 : Opérations en zones contaminées NRBC et lutte contre les engins explosifs (IED - VBIED)
  71. 71. La doctrine russe d’exclusion du combattant humain de la zone d’immédiate conflictualité
  72. 72. L'armée russe souhaite robotiser plus du tiers de ses armements à l'horizon 2025. La mutation de certains équipements a commencé avec, notamment, le développement de chars de combat « dronisés » à équipage déporté (T14 Armata). Le combat du futur, selon la nouvelle doctrine russe énoncée en 2015, doit « exclure l'homme de la zone d'immédiate confrontation ». Cette exclusion totale n'est rendue possible que par le développement de systèmes robotisés télé-opérés et de systèmes armés autonomes. Elle modifie l'ensemble des mécanismes tactiques et oblige les armées à une révision complète de leurs règles d'engagement et de leurs pratiques au combat.
  73. 73. 2 – 3 Les défis de cybersécurité des systèmes armés autonomes
  74. 74. Les défis de cybersécurité des systèmes armés autonomes
  75. 75. Les défis à court terme de l’intelligence artificielle embarquée dans les systèmes armés Résoudre les ambigüités dues au brouillard de guerre. Résoudre les derniers 5 % d’erreurs intervenant dans les processus de reconnaissance automatisée de « patterns » dans une image / une vidéo. Ces 5% d’erreurs ne sont pas admissibles dans le cadre d’un système armé autonome engagé au combat. Faire communiquer et faire coopérer des IA spécialisées au sein d’un système superviseur attaché au commandement humain. Optimiser l’intégration des systèmes armés autonomes au sein des unités de combat classiques. .
  76. 76. Les défis à court terme de l’intelligence artificielle embarquée dans les systèmes armés L’entrainement des systèmes d’apprentissages automatisés s’effectue à partir de très grands volumes de données. Ces ensembles de données massives peuvent faire l’objet de manipulations ou de détournement dans le but de tromper le système d’apprentissage. Des structures de données fictives très sophistiquées peuvent être créées pour tromper des IA et les systèmes qu’elles commandent. Les détecter constitue un défi de cybersécurité majeur dans un contexte d’hyperconnexion et d’information ubiquitaire.
  77. 77. Les défis à court terme de l’intelligence artificielle embarquée dans les systèmes armés
  78. 78. Les défis à court terme de l’intelligence artificielle embarquée dans les systèmes armés
  79. 79. Les défis à court terme de l’intelligence artificielle embarquée dans les systèmes armés
  80. 80. Les défis à court terme de l’intelligence artificielle embarquée dans les systèmes armés Des équipes de recherche ont montré en 2016 et 2017 qu'il était possible de "leurrer" des réseaux de neurones pourtant très performants en reconnaissance d'objet dans une image (vision artificielle). Des attaques par "exemples contradictoires - Adversarial Attacks on Neural Network" ont été menées sur plusieurs grandes plateformes d'apprentissage automatisé reposant sur des réseaux de neurones. Ces attaques consistent à perturber l'image d'un objet ou d'un animal bien reconnue par le réseau de neurone. Cette perturbation s'effectue par ajout d'un bruit spécifique sur l'image initiale de sorte que l'image bruitée reste totalement identifiable par un humain mais entraine une fausse identification par le réseau de neurones. L'expérience a été réalisée à partir d'images de pandas que le réseau de neurone sait reconnaitre avec un haut niveau de fiabilité. Le bruit appliqué sur l'image de panda demeure quasiment invisible pour un humain alors que le réseau de neurones l'identifie de façon presque certaine comme un gibbon.
  81. 81. Les défis à court terme de l’intelligence artificielle embarquée dans les systèmes armés Le même type d'expérience a été menée avec des panneaux de signalisation : l'image d'un panneau stop a été légèrement bruitée de telle sorte que le réseau de neurones l'a perçu comme un panneau de priorité... On imagine facilement les ravages causés par ce type d'attaque sur un véhicule autonome. Au-delà du volet technique du processus de leurre, les attaques par exemples contradictoires montrent que l'état de l'art de l'autonomie présente aujourd'hui des vulnérabilités qu'il convient de prendre en compte et de résoudre avant tout déploiement massif d'unités armées autonomes. C'est le rythme de résolution de ces vulnérabilités qui déterminera le rythme de mise en production des systèmes armés autonomes.
  82. 82. En conclusion… Les progrès de l’IA appliqués aux systèmes d’armes vont transformer la conduite des opérations militaires. Les unités de combat robotisées font leur apparition sur le champ de bataille. Elles modifient les équilibres et obligent à repenser les doctrines. Le concept d’exclusion du combattant humain des zones d’immédiate conflictualité induit une course à la robotisation et installe une nouvelle forme de dissuasion par l’IA.
  83. 83. http://cyberland.centerblog.net/ http://echoradar.eu/ http://www.chaire-cyber.fr/ 120

×