SlideShare une entreprise Scribd logo
1  sur  94
Aymeric Poulain Maubant – Nereÿs // @AymericPM2019-2020 – Aymeric Poulain Maubant – Nereÿs // @AymericPM
Points de repère
pour un développement
responsable des
systèmes d’IA
#AIethics
Aymeric Poulain Maubant – Nereÿs // https://medium.com/@AymericPM
S’interroger sur l’usage
des technologies
3
L’ingénieur « éthique » sera politisé, ou ne sera pas (11/2019)
Livre: Quelle éthique pour l’ingénieur ? Laure Flandrin & Fanny Verrax(11/2019)
Quelle éthique
pour l’ingénieur ?
4
Thales appelle à interdire les «robots tueurs» équipés d’IA. janvier 2019
Les industriels demandent
plus de régulation
5
Quand on parle d’IA aujourd’hui,
quels sont les sujets ?
0.
6
Quelques grands débats
•	les IA générales, et considérations transhumanistes associées
•	les IA vont prendre notre boulot
•	les IA vont créer une société dystopique
•	(re)définition du Deep Learning (est-ce un projet de recherche,
un projet industriel ?), et débat sur les systèmes hybrides en IA
•	discours sur les applications, les services à base plus ou
moins d’IA, les startups et financements qui vont avec, champ
médiatique que l’on peut désigner par “hype marketing”
•	…
7
Au début régnait
l’imaginaire de la peur
8
Encore une fois, les commentaires sur un rapport sur les IA passent à côté de l’essentiel (2018)
Quelles menaces ?
The Malicious Use of Artificial Intelligence: Forecasting,
Prevention, and Mitigation, février 2018
Trois domaines de menaces :
•	 digital security, menaces par et sur des ressources numériques
•	 physical security, menaces par et sur des objets matériels
•	 political security, menaces sur la société et le vivre-ensemble
Un document qu’il faut prendre le temps de lire.
9
Puis on a pu parler de
Coopération des intelligences
10
L’IA : une technologie
d’intérêt général (GPT)
11
« AI is
the new
electricity
Andrew Ng
Google Brain, Coursera, Baidu…
Le monde est
en train d’être « cognitisé »,
et les IA ne se remarquent plus
13
Et si on passait à la transition cognitive ? (oct 2016)
On peut parler de
« transition cognitive »
La transition numérique ne suffit plus.
La transition cognitive est le passage de tous nos
objets, nos usages, nos activités, notre quotidien
et notre société vers des états où les intelligences
artificielles augmenteront nos capacités intellectuelles
individuelles et collectives.
14
Les systèmes d’IA s’inscrivent
dans un cadre conceptuel précis
15
Promesses et défis de l’Intelligence Artificielle[Olivier Boissier, AFIA]
Un cadre conceptuel
Socio-technique
Interactive
Autonome
Raisonnement – Décision
Apprentissage
Incertitude
Perception – Vision
Données / Connaissances
Interopérabilité, Sémantique
Intégration de systèmes intelligents
Empathie, Émotions
Conversation, TALN,
Délégation / Adoption / Contrat
Partage d'autorité
Confiance
Normes, Organisations / Gouvernance,
Régulation, Renforcement
Représentation et raisonnement sur
Valeurs, Cultures
Lois, Responsabilité
Éthique dès la conception, Éthique par
raisonnement
16
Éthique et IA : le fa(me)ux
dilemme du tramway
17
2016 : Moral Machine par le MIT // Février 2020 : Universals and variations in moral decisions
made in 42 countries by 70,000 participants
Une réponse à donner
collectivement
18
Autonomous Vehicles and Avoiding the Trolley (Dilemma): Vehicle Perception, Classification, and
the Challenges of Framing Decision Ethics (septembre 2019)
Le problème du trolley égare
les réflexions sur l’éthique
Source image
19
Powerful antibiotics discovered using AI (20/02/2020)
AI Can Do Great Things—if It Doesn’t Burn the Planet (21/01/2020)
Les systèmes d’IA peuvent aider
à faire de grandes choses…
20
Adopt AI, think later : la méthode Coué au secours de l’intelligence artificielle (2 mars 2020)
Attention à l’injonction
« Adopt AI for everything »
21
Pourquoi le solutionnisme par l’IA est un grand danger (01/2020)
Attention à ne pas céder au
Solutionnisme par l’IA
22
Kate Crawford : « l’IA est une nouvelle ingénierie du pouvoir » (InternetActu // 09/2019)
Excavating AI: The Politics of Images in Machine Learning Training Sets (Crawford K., Paglen T.)
L’IA est une nouvelle
ingénierie du Pouvoir
23
La reconnaissance faciale :
un enjeu éthique mondial
24
Pour commencer, il faut
mieux connaître les IA
1.
25
à droite : iCub, le robot qui agit et apprend comme un enfant
à gauche : robot de Boston Dynamics légèrement bousculé
Comment les IA apprennent ?
26
Formes d’apprentissage
•	empreinte et habituation
•	apprentissage par essai / erreur
•	apprentissage par l’action
•	apprentissage par observation / imitation
•	apprentissage par analogie / par transfert
•	apprentissage co-actif
•	apprentissage par instruction
•	méta-apprentissage
27
How Machines Learn: The Top Four Approaches to ML in Business (mars 2018)
Types d’apprentissage
•	apprentissage supervisé (ex.: regression)
•	apprentissage non-supervisé (ex.: clustering)
•	apprentissage semi-supervisé
•	co-apprentissage
•	apprentissage hétéro-associatif
•	apprentissage auto-associatif
•	apprentissage par renforcement
•	apprentissage profond
•	apprentissage prédictif
28
(L’IA n’existe pas sans l’IH)
29
Sky Magic, Live at Mt Fuji
Et aussi : agents, essaims,
IA distribuées…
30
A Gentle Introduction to Transfer Learning for Deep Learning (décembre 2017)
Apprentissage par transfert
31
Wikimedia Commons, CC BY-SA 4.0 By Youflavio (Own work)
L’IA est prédictive. Elle modèl(is)e le futur.
Nous devons être très vigilants avec cela.
32
Les IA peuvent-elles
se tromper ?
33
Do neural nets dream of electric sheep? 34
Image CC by SA
Les IA s’expliquent-elles ?
Comprend-on comment elles
fonctionnent ?
35
L’intelligence artificielle va-t-elle rester impénétrable ? [InternetActu 09/2016]
L’IA s’explique-t-elle ?
36
Peut-on faire confiance aux IA ?
37
Faire confIAnce
When to Trust Robots with Decisions, and When Not To // Vasant Dhar, 2016

38
Does YouTube’s A.I. favor Trump and fake news? A call for transparency. (nov 2016)
Nous avons besoin
d’algorithmes plus transparents
2016
39
(image cc by sa)
Que manque-t-il aux IA ?
40
Que manque-t-il aux IA ?
•	une composante émotive
•	une capacité incarnée
•	un système de valeurs
•	l’attention, qui apporte une composante
directionnelle aux comportements
•	des phases de rêve, de cognition libre désincarnée
•	la possibilité d’expérimenter le monde
•	la compréhension du sens commun
41
Image : NextDayBlinds.com
À propos, toutes les IA n’ont pas à
ressembler à des êtres vivants !
42
Should Children Form Emotional Bonds With Robots? (Alexis C. Madrigal, dec 2017)
Quels impacts sur le développement
(de l’intelligence) des enfants ?
43
« Les deep fakes progressent à grands pas. » (juin 2019)
Deep fakes vidéo : quand les IA
servent à nous tromper
44
Dupée par une voix synthétique, une entreprise se fait dérober 220 000 euros [sept’ 2019]
Deep fakes vocales
45
De quelle Éthique parle-t-on ?
2.
46
« L’éthique commence là où la
réglementation s’arrête »
47
L’éthique se distingue
de la conformité
48
À lire : Référentiel éthique et numérique du Cigref (octobre 2018)
Plusieurs familles d’éthique
(normative (de la vertu, conséquentialiste, déontologie),
appliquée et meta-éthique)
49
« Innovation care »
& éthique
50
« Algorithmes : l’éthique n’est pas toute la question. » (septembre 2018)
Confiance : une IA responsable &
une IA robuste et sûre
51
Thinking About ‘Ethics’ in the Ethics of AI (20 février 2020)
Quelle éthique dans
éthique+IA  ?
52
Sur quoi portent
les questions d’éthique ?
3.
53
∃ 7 questions initiales
 Biais des algorithmes
 Transparence des algorithmes
 Suprémacie des algorithmes
 La fabrique du faux
 Les systèmes autonomes potentiellement létaux
 Les systèmes autonomes de transport
 Vie privée / Sûreté,Sécurité / Surveillance
54
Une prise de conscience
qui arrive à point nommé
55
L’IA porte
en elle
les biais de ses
concepteurs
Laurence Devillers
«
Dossier «Design de l’attention» par la Fing (2017–2019)
EU should regulate Facebook and Google as ‘attention utilities’ (01/03/2020)
Les abus de l’attention
57
Pour y voir plus clair sur les notions de transparence et d’explicabilité en IA (février 2020)
Transparence & Explicabilité
58
Extrait de Principled Artificial Intelligence (janvier 2020)
“Les principes regroupés sous ce thème énoncent
des exigences selon lesquelles les systèmes d’IA
doivent être conçus et mis en œuvre de manière
à en permettre leur supervision, notamment par
la traduction de leurs opérations en résultats
intelligibles et par la mise à disposition
d’informations sur le lieu, le moment et la manière
dont ils sont utilisés.”
59
T+E : synonymes
•	 interprétabilité, auditabilité, prédictabilité,
•	 droit à l’information, consentement et usage éclairés,
•	 notifications, reporting,
•	 understandable AI, intelligibilité,
•	 vérifiabilité,
•	 responsabilité (accountability, liability, responsibility),
•	 contrôle humain de la technologie,
•	 effectivenness
60
Ouverture (data, algos)
•	l’ouverture des données et des algorithmes dans le domaine
de l’IA est depuis longtemps un point acquis.
•	il s’agit également d’ouvrir de manière pro-active, c’est-à-
dire produire collectivement des bases de données ouvertes
(visages, postures, situations routières…).
•	l’ouverture des algorithmes est par ailleurs un préalable au
principe de vérifiabilité (validation par des organismes tiers,
certification…)
61
Droit à l’information
•	“right to explanation” au cœur du RGPD.
•	droit de savoir quels paramètres, quelle logique, quelles
techniques et quelles informations personnelles ont été
utilisées lors d’un processus de prise de décision effectué par
des IA (ou des algorithmes en général).
•	pleinement utile à condition que les informations délivrées
lors de son exercice soient intelligibles, et facilement
accessibles.
•	design d’accès à l’information.
62
Principe de notification•	quand une IA a été utilisée, ou quand elle est actuellement
utilisée, la personne qui en fait l’objet doit en être informée.
•	possibilité de refuser un tel traitement.
•	demander à accéder à un être humain, et/ou d’obtenir
l’assurance qu’un être humain est dans la boucle pour vérifier
et éventuellement corriger le processus en cours.
•	possibilité d’apprécier (au sens de mesurer) les avantages de
l’intervention IA (forme de pédagogie).
•	être prévenu quand on interagit avec une IA et non pas un
humain.
•	design de la vigilance.
63
Human Rights in the Age of Artificial Intelligence [AccessNow, nov 2018]
Ouverture des marchés publics
“When a government body seeks to acquire an AI system or
components thereof, procurement should be done openly and
transparently according to open procurement standards.
This includes publication of the purpose of the system,
goals, parameters, and other information to facilitate public
understanding. Procurement should include a period for public
comment, and states should reach out to potentially affected
groups where relevant to ensure an opportunity to input.”
64
Compte-rendu continu
•	que les organisations utilisant des systèmes d’IA informent
régulièrement le public sur ces utilisations : comment
les objectifs souhaités ont été atteints, comment ont été
minimisés les risques, quelles erreurs / brèches / fuites / effets
indésirables ont été découvertes et comment ont-elles été
traitées ?
•	mécanisme de mise en œuvre de la Transparence et de
l’Explicabilité, ET…
•	preuve de l’effectivité de ces exigences.
65
La transparence n’est pas
toujours désirable
When Transparent does not Mean Explainable (PDF, 3 pages) 66
Quelles réponses
sont apportées ?
4.
67
8+1 catégories de principes
68
Des principes mais très peu de
recommandations et d’exemples
69
An Open Letter : Research Priorities for Robust and Beneficial Artificial Intelligence. [01/2015]
Une lettre ouverte…
Janvier 2015: à l’initiative du britannique Stuart Russel,
spécialiste IA, une dizaine de chercheurs signent une lettre
ouverte appelant leurs collègues à aller au-delà du simple
objectif historique de la performance des IA.
«Cette recherche est nécessairement interdisciplinaire, car
elle implique à la fois la Société et l’Intelligence Artificielle.
Elle s’établit de l’économie au droit et à la philosophie, de la
sécurité informatique aux méthodes formelles et, bien sûr, au
sein des diverses branches de l’IA elle-même. […] Trois sujets
sont à traiter à court terme : l’impact de l’IA sur l’économie, les
questions d’éthique et de droit, la robustesse des artefacts.»
70
«Google employees: We no longer believe the company places values over profits.»
Une lettre ouverte…
Novembre 2018 : à l’initiative de 11 employés de Google,
des centaines d’employés de Google signent publiquement
une demande d’abandon du projet DragonFly, un moteur de
recherche facilitant la censure.
“Many of us accepted employment at Google with the
company’s values in mind, including its previous position on
Chinese censorship and surveillance, and an understanding
that Google was a company willing to place its values above
its profits,” […] “After a year of disappointments including
Project Maven, Dragonfly, and Google’s support for abusers,
we no longer believe this is the case.”
71
« On cherche à éveiller la conscience éthique des développeurs et data scientists » (juin 2018)
Un « serment d’Hippocrate »
pour les data scientists
72
Julien de Sanctis, philosophie et éthique appliquées à la robotique interactive
Ethics of Technology Needs More Political Philosophy (janvier 2020)
Intégrer des philosophes
dans les équipes
73
Disposer d’un·e
Chief Ethics Officer
74
Promouvoir la formation dans des lieux
spécifiques : les « CogLab »
75
Comment s’engager
plus avant ?
76
Chartes, principes,
bonnes pratiques…
77
https://www.declarationmontreal-iaresponsable.com/
Déclaration de Montréal pour le
développement responsable de l’IA
Source image: flikr IA responsable
78
Principes-clé
 principe de bien-être
 principe de respect de l’autonomie
 principe de protection de l’intimité et de la vie privée
 principe de solidarité
 principe de participation démocratique
 principe d’équité
 principe d’inclusion de la diversité
 principe de prudence
 principe de responsabilité
 principe de développement soutenable
79
Lignes directrices en matière d’éthique pour une IA digne de confiance, 8 avril 2019 80
Intelligence artificielle : des limites de l’éthique aux promesses de la régulation (18/04/2019)
Un exercice difficile,
entre éthique & régulation
81
Ethics guidelines for trustworthy AI (European Commission, 8 April 2019)
Pour une IA digne de confiance
 facteur humain & contrôle humain
 robustesse & sécurité
 respect de la vie privée et gouvernance des données
 transparence
 diversité, non-discrimination et équité
 bien-être sociétal et environnemental
 responsabilisation
82
À lire dans le Chapitre III: évaluation d’une IA digne de confiance
Liste d’évaluation pour une IA
digne de confiance
83
White Paper on Artificial Intelligence: a European approach to excellence and trust. (19/02/2020)
Sortie du Livre blanc Europe IA
84
Lien vers la consultation
Une consultation en cours
jusqu’au 30 mai 2020
85
4 points
en guise de perspectives
&.
86
1. Réfléchir à l’intelligence des artefacts
nous amène à réfléchir à notre propre
intelligence, à la manière dont nous
l’exerçons, à nos rapports aux autres,
aux animaux, au monde…
87
2. Mettre en place des principes éthiques
concernant les données et les systèmes
d’IA, et les suivre, peut constituer un
un différenciant de marché.
88
3. À l’échelle internationale, est
actuellement ouverte (2019-2020) une
occasion unique de convergence des choix
éthiques, avant que les technologies et les
usages nous mènent au fait accompli.
89
4. À l’échelle de l’Humanité, cette même
fenêtre d’opportunité est à saisir, tant que
nous en avons encore le loisir et le temps
de réfléchir collectivement à ce que nous
voulons faire de nos outils.
90
Détails sur medium.com/@AymericPM
L’impérieuse nécessité
d’apprendre à mieux se connaître
*
91
That’s all, folks !
Thx.
contact : @AymericPM // www.nereys.fr
92
Docteur en Sciences Cognitives (entre autres)
Aymeric Poulain Maubant
@AymericPM
https://medium.com/@AymericPM/
http://www.nereys.fr/
Aymeric.PoulainMaubant@nereys.fr
93
Retrouvez les références de cette
présentation en fouillant ici et là sur :
https://www.slideshare.net/aymeric
https://medium.com/@AymericPM
+ Références complémentaires à suivre en bas de quelques pages 94

Contenu connexe

Tendances

Cahier de veille intelligence artificielle
Cahier de veille intelligence artificielleCahier de veille intelligence artificielle
Cahier de veille intelligence artificielleI MT
 
L’intelligence artificielle aujourd’hui (FR)
L’intelligence artificielle aujourd’hui (FR)L’intelligence artificielle aujourd’hui (FR)
L’intelligence artificielle aujourd’hui (FR)thierry tranchina
 
Vivre à l'ère des Intelligences Artificielles
Vivre à l'ère des Intelligences ArtificiellesVivre à l'ère des Intelligences Artificielles
Vivre à l'ère des Intelligences ArtificiellesAymeric
 
Cours Conférence INHESJ - IA et cybersécurité
Cours Conférence INHESJ - IA et cybersécuritéCours Conférence INHESJ - IA et cybersécurité
Cours Conférence INHESJ - IA et cybersécuritéOPcyberland
 
Convergence NBIC CKTS et RH
Convergence NBIC CKTS et RHConvergence NBIC CKTS et RH
Convergence NBIC CKTS et RHOPcyberland
 
Lorsque l'intelligence artificielle uberise la cybersécurité...
Lorsque l'intelligence artificielle uberise la cybersécurité...Lorsque l'intelligence artificielle uberise la cybersécurité...
Lorsque l'intelligence artificielle uberise la cybersécurité...OPcyberland
 
Euratech'trends : Intelligence Artificielle
Euratech'trends : Intelligence ArtificielleEuratech'trends : Intelligence Artificielle
Euratech'trends : Intelligence ArtificielleEuraTechnologies
 
Forum rideau 2018: esprit numérique par Sylvain Carle.
Forum rideau 2018: esprit numérique par Sylvain Carle.Forum rideau 2018: esprit numérique par Sylvain Carle.
Forum rideau 2018: esprit numérique par Sylvain Carle.Sylvain Carle
 
Conférence UTA BFM Limoges - IA nouvel acteur du champ de bataille
Conférence UTA  BFM  Limoges - IA nouvel acteur du champ de batailleConférence UTA  BFM  Limoges - IA nouvel acteur du champ de bataille
Conférence UTA BFM Limoges - IA nouvel acteur du champ de batailleOPcyberland
 
Conférence Sécurité et Intelligence Artificielle - INHESJ 2018
Conférence Sécurité et Intelligence Artificielle - INHESJ 2018Conférence Sécurité et Intelligence Artificielle - INHESJ 2018
Conférence Sécurité et Intelligence Artificielle - INHESJ 2018OPcyberland
 
Intelligence Artificielle - Comment change-t-elle le mode ? JBU2018
Intelligence Artificielle - Comment change-t-elle le mode ? JBU2018Intelligence Artificielle - Comment change-t-elle le mode ? JBU2018
Intelligence Artificielle - Comment change-t-elle le mode ? JBU2018OPcyberland
 
La coopération des intelligences
La coopération des intelligencesLa coopération des intelligences
La coopération des intelligencesAymeric
 
Pierre milcent ibm pour idc 18 mai 2010
Pierre milcent   ibm pour idc 18 mai 2010Pierre milcent   ibm pour idc 18 mai 2010
Pierre milcent ibm pour idc 18 mai 2010Pierre Milcent
 
l'Intelligence Artificielle Jean-Antoine Moreau
l'Intelligence Artificielle Jean-Antoine Moreaul'Intelligence Artificielle Jean-Antoine Moreau
l'Intelligence Artificielle Jean-Antoine MoreauJean-Antoine Moreau
 
IA, vous avez dit IA ?
IA, vous avez dit IA ?IA, vous avez dit IA ?
IA, vous avez dit IA ?Ipsos France
 
TeamWork - Ce qu'est l'IA et ce qu'elle n'est pas !
TeamWork - Ce qu'est l'IA et ce qu'elle n'est pas !TeamWork - Ce qu'est l'IA et ce qu'elle n'est pas !
TeamWork - Ce qu'est l'IA et ce qu'elle n'est pas !Daphné Savoundiraradjane
 
Intelligence artificielle et robotique
Intelligence artificielle et robotiqueIntelligence artificielle et robotique
Intelligence artificielle et robotiqueSKYWARE COMPAGNY
 
Présentation intelligence artificielle et domaines d'applications - #DigitalT...
Présentation intelligence artificielle et domaines d'applications - #DigitalT...Présentation intelligence artificielle et domaines d'applications - #DigitalT...
Présentation intelligence artificielle et domaines d'applications - #DigitalT...Digital Thursday
 
Colloque sur la sécurité des systèmes d’information
Colloque sur la sécurité des systèmes d’information Colloque sur la sécurité des systèmes d’information
Colloque sur la sécurité des systèmes d’information ASIP Santé
 

Tendances (19)

Cahier de veille intelligence artificielle
Cahier de veille intelligence artificielleCahier de veille intelligence artificielle
Cahier de veille intelligence artificielle
 
L’intelligence artificielle aujourd’hui (FR)
L’intelligence artificielle aujourd’hui (FR)L’intelligence artificielle aujourd’hui (FR)
L’intelligence artificielle aujourd’hui (FR)
 
Vivre à l'ère des Intelligences Artificielles
Vivre à l'ère des Intelligences ArtificiellesVivre à l'ère des Intelligences Artificielles
Vivre à l'ère des Intelligences Artificielles
 
Cours Conférence INHESJ - IA et cybersécurité
Cours Conférence INHESJ - IA et cybersécuritéCours Conférence INHESJ - IA et cybersécurité
Cours Conférence INHESJ - IA et cybersécurité
 
Convergence NBIC CKTS et RH
Convergence NBIC CKTS et RHConvergence NBIC CKTS et RH
Convergence NBIC CKTS et RH
 
Lorsque l'intelligence artificielle uberise la cybersécurité...
Lorsque l'intelligence artificielle uberise la cybersécurité...Lorsque l'intelligence artificielle uberise la cybersécurité...
Lorsque l'intelligence artificielle uberise la cybersécurité...
 
Euratech'trends : Intelligence Artificielle
Euratech'trends : Intelligence ArtificielleEuratech'trends : Intelligence Artificielle
Euratech'trends : Intelligence Artificielle
 
Forum rideau 2018: esprit numérique par Sylvain Carle.
Forum rideau 2018: esprit numérique par Sylvain Carle.Forum rideau 2018: esprit numérique par Sylvain Carle.
Forum rideau 2018: esprit numérique par Sylvain Carle.
 
Conférence UTA BFM Limoges - IA nouvel acteur du champ de bataille
Conférence UTA  BFM  Limoges - IA nouvel acteur du champ de batailleConférence UTA  BFM  Limoges - IA nouvel acteur du champ de bataille
Conférence UTA BFM Limoges - IA nouvel acteur du champ de bataille
 
Conférence Sécurité et Intelligence Artificielle - INHESJ 2018
Conférence Sécurité et Intelligence Artificielle - INHESJ 2018Conférence Sécurité et Intelligence Artificielle - INHESJ 2018
Conférence Sécurité et Intelligence Artificielle - INHESJ 2018
 
Intelligence Artificielle - Comment change-t-elle le mode ? JBU2018
Intelligence Artificielle - Comment change-t-elle le mode ? JBU2018Intelligence Artificielle - Comment change-t-elle le mode ? JBU2018
Intelligence Artificielle - Comment change-t-elle le mode ? JBU2018
 
La coopération des intelligences
La coopération des intelligencesLa coopération des intelligences
La coopération des intelligences
 
Pierre milcent ibm pour idc 18 mai 2010
Pierre milcent   ibm pour idc 18 mai 2010Pierre milcent   ibm pour idc 18 mai 2010
Pierre milcent ibm pour idc 18 mai 2010
 
l'Intelligence Artificielle Jean-Antoine Moreau
l'Intelligence Artificielle Jean-Antoine Moreaul'Intelligence Artificielle Jean-Antoine Moreau
l'Intelligence Artificielle Jean-Antoine Moreau
 
IA, vous avez dit IA ?
IA, vous avez dit IA ?IA, vous avez dit IA ?
IA, vous avez dit IA ?
 
TeamWork - Ce qu'est l'IA et ce qu'elle n'est pas !
TeamWork - Ce qu'est l'IA et ce qu'elle n'est pas !TeamWork - Ce qu'est l'IA et ce qu'elle n'est pas !
TeamWork - Ce qu'est l'IA et ce qu'elle n'est pas !
 
Intelligence artificielle et robotique
Intelligence artificielle et robotiqueIntelligence artificielle et robotique
Intelligence artificielle et robotique
 
Présentation intelligence artificielle et domaines d'applications - #DigitalT...
Présentation intelligence artificielle et domaines d'applications - #DigitalT...Présentation intelligence artificielle et domaines d'applications - #DigitalT...
Présentation intelligence artificielle et domaines d'applications - #DigitalT...
 
Colloque sur la sécurité des systèmes d’information
Colloque sur la sécurité des systèmes d’information Colloque sur la sécurité des systèmes d’information
Colloque sur la sécurité des systèmes d’information
 

Similaire à Points de repère pour un développement responsable des systèmes d’IA

Lere-de-lIA_Opportunites-et-defis_Fondation-IDEA-asbl_VD.pdf
Lere-de-lIA_Opportunites-et-defis_Fondation-IDEA-asbl_VD.pdfLere-de-lIA_Opportunites-et-defis_Fondation-IDEA-asbl_VD.pdf
Lere-de-lIA_Opportunites-et-defis_Fondation-IDEA-asbl_VD.pdfPaperjam_redaction
 
Présentation Mouvements d'APrès 2017 Cedap
Présentation Mouvements d'APrès 2017 CedapPrésentation Mouvements d'APrès 2017 Cedap
Présentation Mouvements d'APrès 2017 CedapCedap1
 
La diversité et la véracité de l'IA dans la vie de tous les jours avec un ...
La diversité et la véracité de l'IA dans la vie de tous les jours avec un ...La diversité et la véracité de l'IA dans la vie de tous les jours avec un ...
La diversité et la véracité de l'IA dans la vie de tous les jours avec un ...GDG Bujumbura
 
Conférence les technologies du numérique st exupéry 8 nov. 2017
Conférence les technologies du numérique st exupéry 8 nov.  2017Conférence les technologies du numérique st exupéry 8 nov.  2017
Conférence les technologies du numérique st exupéry 8 nov. 2017SinGuy
 
Vie privée à l'horizon 2020. Paroles d'experts
Vie privée à l'horizon 2020. Paroles d'expertsVie privée à l'horizon 2020. Paroles d'experts
Vie privée à l'horizon 2020. Paroles d'expertsyann le gigan
 
Cahier Innovation et Prospective N° 1.
Cahier Innovation et Prospective N° 1.  Cahier Innovation et Prospective N° 1.
Cahier Innovation et Prospective N° 1. Freelance
 
Vie privée à l'horizon 2020 - CNIL
Vie privée à l'horizon 2020 - CNILVie privée à l'horizon 2020 - CNIL
Vie privée à l'horizon 2020 - CNILRomain Fonnier
 
Club des Explorateurs du Futur d'@Ylios - L'impact de l'IA sur les métiers 19...
Club des Explorateurs du Futur d'@Ylios - L'impact de l'IA sur les métiers 19...Club des Explorateurs du Futur d'@Ylios - L'impact de l'IA sur les métiers 19...
Club des Explorateurs du Futur d'@Ylios - L'impact de l'IA sur les métiers 19...alexia2015
 
3 minutes pour comprendre ... l'Intelligence Artificielle
3 minutes pour comprendre ... l'Intelligence Artificielle3 minutes pour comprendre ... l'Intelligence Artificielle
3 minutes pour comprendre ... l'Intelligence ArtificielleAlain KHEMILI
 
Nos systèmes : dossier de partenariat
Nos systèmes : dossier de partenariatNos systèmes : dossier de partenariat
Nos systèmes : dossier de partenariatFing
 
Workshop KM - Gestion de l’information de la connaissance et des compétences
Workshop KM - Gestion de l’information de la connaissance et des compétencesWorkshop KM - Gestion de l’information de la connaissance et des compétences
Workshop KM - Gestion de l’information de la connaissance et des compétencesPerrein Jean-Pascal
 
Livre blanc information reseaux sociaux et innovation - pierre hausherr
Livre blanc   information reseaux sociaux et innovation - pierre hausherrLivre blanc   information reseaux sociaux et innovation - pierre hausherr
Livre blanc information reseaux sociaux et innovation - pierre hausherrAlban Jarry
 
CGT-digital-week.pptx
CGT-digital-week.pptxCGT-digital-week.pptx
CGT-digital-week.pptxolivier
 
Bodyware : Synthèse finale de l'expédition
Bodyware : Synthèse finale de l'expéditionBodyware : Synthèse finale de l'expédition
Bodyware : Synthèse finale de l'expéditionFing
 
Questionner le digital labor au prisme des émotions : le capitalisme affectif...
Questionner le digital labor au prisme des émotions : le capitalisme affectif...Questionner le digital labor au prisme des émotions : le capitalisme affectif...
Questionner le digital labor au prisme des émotions : le capitalisme affectif...Julien PIERRE
 
L'intelligence Artificielle au service du marketing
L'intelligence Artificielle au service du marketingL'intelligence Artificielle au service du marketing
L'intelligence Artificielle au service du marketingAaron Besnainou
 
#CapCom17 : Plénière de clôture - Les robots vont-ils remplacer les communica...
#CapCom17 : Plénière de clôture - Les robots vont-ils remplacer les communica...#CapCom17 : Plénière de clôture - Les robots vont-ils remplacer les communica...
#CapCom17 : Plénière de clôture - Les robots vont-ils remplacer les communica...Cap'Com
 

Similaire à Points de repère pour un développement responsable des systèmes d’IA (20)

Lere-de-lIA_Opportunites-et-defis_Fondation-IDEA-asbl_VD.pdf
Lere-de-lIA_Opportunites-et-defis_Fondation-IDEA-asbl_VD.pdfLere-de-lIA_Opportunites-et-defis_Fondation-IDEA-asbl_VD.pdf
Lere-de-lIA_Opportunites-et-defis_Fondation-IDEA-asbl_VD.pdf
 
Digital.pdf
Digital.pdfDigital.pdf
Digital.pdf
 
Ethics by design - Infographie
Ethics by design - InfographieEthics by design - Infographie
Ethics by design - Infographie
 
Présentation Mouvements d'APrès 2017 Cedap
Présentation Mouvements d'APrès 2017 CedapPrésentation Mouvements d'APrès 2017 Cedap
Présentation Mouvements d'APrès 2017 Cedap
 
La diversité et la véracité de l'IA dans la vie de tous les jours avec un ...
La diversité et la véracité de l'IA dans la vie de tous les jours avec un ...La diversité et la véracité de l'IA dans la vie de tous les jours avec un ...
La diversité et la véracité de l'IA dans la vie de tous les jours avec un ...
 
Conférence les technologies du numérique st exupéry 8 nov. 2017
Conférence les technologies du numérique st exupéry 8 nov.  2017Conférence les technologies du numérique st exupéry 8 nov.  2017
Conférence les technologies du numérique st exupéry 8 nov. 2017
 
Vie privée à l'horizon 2020. Paroles d'experts
Vie privée à l'horizon 2020. Paroles d'expertsVie privée à l'horizon 2020. Paroles d'experts
Vie privée à l'horizon 2020. Paroles d'experts
 
Cahier Innovation et Prospective N° 1.
Cahier Innovation et Prospective N° 1.  Cahier Innovation et Prospective N° 1.
Cahier Innovation et Prospective N° 1.
 
Vie privée à l'horizon 2020 - CNIL
Vie privée à l'horizon 2020 - CNILVie privée à l'horizon 2020 - CNIL
Vie privée à l'horizon 2020 - CNIL
 
Club des Explorateurs du Futur d'@Ylios - L'impact de l'IA sur les métiers 19...
Club des Explorateurs du Futur d'@Ylios - L'impact de l'IA sur les métiers 19...Club des Explorateurs du Futur d'@Ylios - L'impact de l'IA sur les métiers 19...
Club des Explorateurs du Futur d'@Ylios - L'impact de l'IA sur les métiers 19...
 
3 minutes pour comprendre ... l'Intelligence Artificielle
3 minutes pour comprendre ... l'Intelligence Artificielle3 minutes pour comprendre ... l'Intelligence Artificielle
3 minutes pour comprendre ... l'Intelligence Artificielle
 
Nos systèmes : dossier de partenariat
Nos systèmes : dossier de partenariatNos systèmes : dossier de partenariat
Nos systèmes : dossier de partenariat
 
Workshop KM - Gestion de l’information de la connaissance et des compétences
Workshop KM - Gestion de l’information de la connaissance et des compétencesWorkshop KM - Gestion de l’information de la connaissance et des compétences
Workshop KM - Gestion de l’information de la connaissance et des compétences
 
Livre blanc information reseaux sociaux et innovation - pierre hausherr
Livre blanc   information reseaux sociaux et innovation - pierre hausherrLivre blanc   information reseaux sociaux et innovation - pierre hausherr
Livre blanc information reseaux sociaux et innovation - pierre hausherr
 
CGT-digital-week.pptx
CGT-digital-week.pptxCGT-digital-week.pptx
CGT-digital-week.pptx
 
Bodyware : Synthèse finale de l'expédition
Bodyware : Synthèse finale de l'expéditionBodyware : Synthèse finale de l'expédition
Bodyware : Synthèse finale de l'expédition
 
Questionner le digital labor au prisme des émotions : le capitalisme affectif...
Questionner le digital labor au prisme des émotions : le capitalisme affectif...Questionner le digital labor au prisme des émotions : le capitalisme affectif...
Questionner le digital labor au prisme des émotions : le capitalisme affectif...
 
L'intelligence Artificielle au service du marketing
L'intelligence Artificielle au service du marketingL'intelligence Artificielle au service du marketing
L'intelligence Artificielle au service du marketing
 
Moderation-2023-Netino-by-Webhelp.pdf
Moderation-2023-Netino-by-Webhelp.pdfModeration-2023-Netino-by-Webhelp.pdf
Moderation-2023-Netino-by-Webhelp.pdf
 
#CapCom17 : Plénière de clôture - Les robots vont-ils remplacer les communica...
#CapCom17 : Plénière de clôture - Les robots vont-ils remplacer les communica...#CapCom17 : Plénière de clôture - Les robots vont-ils remplacer les communica...
#CapCom17 : Plénière de clôture - Les robots vont-ils remplacer les communica...
 

Plus de Aymeric

Séquence d'inspiration - Grands Défis de l'Ingénieur-e
Séquence d'inspiration - Grands Défis de l'Ingénieur-eSéquence d'inspiration - Grands Défis de l'Ingénieur-e
Séquence d'inspiration - Grands Défis de l'Ingénieur-eAymeric
 
Atelier #CivicTech
Atelier #CivicTechAtelier #CivicTech
Atelier #CivicTechAymeric
 
Quels futurs technologiques possibles ?
Quels futurs technologiques possibles ?Quels futurs technologiques possibles ?
Quels futurs technologiques possibles ?Aymeric
 
Conférence réseauxsociaux 18062012
Conférence réseauxsociaux 18062012Conférence réseauxsociaux 18062012
Conférence réseauxsociaux 18062012Aymeric
 
Je présente ma start-up devant 200 personnes
Je présente ma start-up devant 200 personnesJe présente ma start-up devant 200 personnes
Je présente ma start-up devant 200 personnesAymeric
 
La coupe du monde de rugby a-t-elle amélioré les rapports entre les nations e...
La coupe du monde de rugby a-t-elle amélioré les rapports entre les nations e...La coupe du monde de rugby a-t-elle amélioré les rapports entre les nations e...
La coupe du monde de rugby a-t-elle amélioré les rapports entre les nations e...Aymeric
 
Immortalité, une fin en soi
Immortalité, une fin en soiImmortalité, une fin en soi
Immortalité, une fin en soiAymeric
 
Atelier Mobile pour les professionnels du tourisme
Atelier Mobile pour les professionnels du tourismeAtelier Mobile pour les professionnels du tourisme
Atelier Mobile pour les professionnels du tourismeAymeric
 
Les réseaux sociaux (pour les TPE et PME)
Les réseaux sociaux (pour les TPE et PME)Les réseaux sociaux (pour les TPE et PME)
Les réseaux sociaux (pour les TPE et PME)Aymeric
 
Quelques sources d'inspiration pour le e-tourisme
Quelques sources d'inspiration pour le e-tourismeQuelques sources d'inspiration pour le e-tourisme
Quelques sources d'inspiration pour le e-tourismeAymeric
 
Le web évolue. Et vous ?
Le web évolue. Et vous ?Le web évolue. Et vous ?
Le web évolue. Et vous ?Aymeric
 
Reseaux Sociaux Pro Intro 30102009
Reseaux Sociaux Pro Intro 30102009Reseaux Sociaux Pro Intro 30102009
Reseaux Sociaux Pro Intro 30102009Aymeric
 
Introduction à Twitter
Introduction à TwitterIntroduction à Twitter
Introduction à TwitterAymeric
 
Introduction aux concepts 2.0
Introduction aux concepts 2.0Introduction aux concepts 2.0
Introduction aux concepts 2.0Aymeric
 
Animer son île Second Life
Animer son île Second LifeAnimer son île Second Life
Animer son île Second LifeAymeric
 
Trek Telecom Edition 2008
Trek Telecom Edition 2008Trek Telecom Edition 2008
Trek Telecom Edition 2008Aymeric
 
Trek Telecom Edition 2008
Trek Telecom Edition 2008Trek Telecom Edition 2008
Trek Telecom Edition 2008Aymeric
 

Plus de Aymeric (17)

Séquence d'inspiration - Grands Défis de l'Ingénieur-e
Séquence d'inspiration - Grands Défis de l'Ingénieur-eSéquence d'inspiration - Grands Défis de l'Ingénieur-e
Séquence d'inspiration - Grands Défis de l'Ingénieur-e
 
Atelier #CivicTech
Atelier #CivicTechAtelier #CivicTech
Atelier #CivicTech
 
Quels futurs technologiques possibles ?
Quels futurs technologiques possibles ?Quels futurs technologiques possibles ?
Quels futurs technologiques possibles ?
 
Conférence réseauxsociaux 18062012
Conférence réseauxsociaux 18062012Conférence réseauxsociaux 18062012
Conférence réseauxsociaux 18062012
 
Je présente ma start-up devant 200 personnes
Je présente ma start-up devant 200 personnesJe présente ma start-up devant 200 personnes
Je présente ma start-up devant 200 personnes
 
La coupe du monde de rugby a-t-elle amélioré les rapports entre les nations e...
La coupe du monde de rugby a-t-elle amélioré les rapports entre les nations e...La coupe du monde de rugby a-t-elle amélioré les rapports entre les nations e...
La coupe du monde de rugby a-t-elle amélioré les rapports entre les nations e...
 
Immortalité, une fin en soi
Immortalité, une fin en soiImmortalité, une fin en soi
Immortalité, une fin en soi
 
Atelier Mobile pour les professionnels du tourisme
Atelier Mobile pour les professionnels du tourismeAtelier Mobile pour les professionnels du tourisme
Atelier Mobile pour les professionnels du tourisme
 
Les réseaux sociaux (pour les TPE et PME)
Les réseaux sociaux (pour les TPE et PME)Les réseaux sociaux (pour les TPE et PME)
Les réseaux sociaux (pour les TPE et PME)
 
Quelques sources d'inspiration pour le e-tourisme
Quelques sources d'inspiration pour le e-tourismeQuelques sources d'inspiration pour le e-tourisme
Quelques sources d'inspiration pour le e-tourisme
 
Le web évolue. Et vous ?
Le web évolue. Et vous ?Le web évolue. Et vous ?
Le web évolue. Et vous ?
 
Reseaux Sociaux Pro Intro 30102009
Reseaux Sociaux Pro Intro 30102009Reseaux Sociaux Pro Intro 30102009
Reseaux Sociaux Pro Intro 30102009
 
Introduction à Twitter
Introduction à TwitterIntroduction à Twitter
Introduction à Twitter
 
Introduction aux concepts 2.0
Introduction aux concepts 2.0Introduction aux concepts 2.0
Introduction aux concepts 2.0
 
Animer son île Second Life
Animer son île Second LifeAnimer son île Second Life
Animer son île Second Life
 
Trek Telecom Edition 2008
Trek Telecom Edition 2008Trek Telecom Edition 2008
Trek Telecom Edition 2008
 
Trek Telecom Edition 2008
Trek Telecom Edition 2008Trek Telecom Edition 2008
Trek Telecom Edition 2008
 

Dernier

Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloudLe Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloudOCTO Technology
 
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...Faga1939
 
Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IA
Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IAMilo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IA
Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IAUGAIA
 
GUM365 - Rencontre mensuelle Avril 2024 - Montréal
GUM365 - Rencontre mensuelle Avril 2024 - MontréalGUM365 - Rencontre mensuelle Avril 2024 - Montréal
GUM365 - Rencontre mensuelle Avril 2024 - MontréalNicolas Georgeault
 
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...OCTO Technology
 
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdf
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdfEtude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdf
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdfsnapierala
 
Intelligence Artificielle: Vers l'ère de l'imagination
Intelligence Artificielle: Vers l'ère de l'imaginationIntelligence Artificielle: Vers l'ère de l'imagination
Intelligence Artificielle: Vers l'ère de l'imaginationTony Aubé
 

Dernier (7)

Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloudLe Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
 
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...
 
Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IA
Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IAMilo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IA
Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IA
 
GUM365 - Rencontre mensuelle Avril 2024 - Montréal
GUM365 - Rencontre mensuelle Avril 2024 - MontréalGUM365 - Rencontre mensuelle Avril 2024 - Montréal
GUM365 - Rencontre mensuelle Avril 2024 - Montréal
 
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
 
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdf
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdfEtude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdf
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdf
 
Intelligence Artificielle: Vers l'ère de l'imagination
Intelligence Artificielle: Vers l'ère de l'imaginationIntelligence Artificielle: Vers l'ère de l'imagination
Intelligence Artificielle: Vers l'ère de l'imagination
 

Points de repère pour un développement responsable des systèmes d’IA

  • 1. Aymeric Poulain Maubant – Nereÿs // @AymericPM2019-2020 – Aymeric Poulain Maubant – Nereÿs // @AymericPM Points de repère pour un développement responsable des systèmes d’IA #AIethics
  • 2. Aymeric Poulain Maubant – Nereÿs // https://medium.com/@AymericPM
  • 4. L’ingénieur « éthique » sera politisé, ou ne sera pas (11/2019) Livre: Quelle éthique pour l’ingénieur ? Laure Flandrin & Fanny Verrax(11/2019) Quelle éthique pour l’ingénieur ? 4
  • 5. Thales appelle à interdire les «robots tueurs» équipés d’IA. janvier 2019 Les industriels demandent plus de régulation 5
  • 6. Quand on parle d’IA aujourd’hui, quels sont les sujets ? 0. 6
  • 7. Quelques grands débats • les IA générales, et considérations transhumanistes associées • les IA vont prendre notre boulot • les IA vont créer une société dystopique • (re)définition du Deep Learning (est-ce un projet de recherche, un projet industriel ?), et débat sur les systèmes hybrides en IA • discours sur les applications, les services à base plus ou moins d’IA, les startups et financements qui vont avec, champ médiatique que l’on peut désigner par “hype marketing” • … 7
  • 9. Encore une fois, les commentaires sur un rapport sur les IA passent à côté de l’essentiel (2018) Quelles menaces ? The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation, février 2018 Trois domaines de menaces : • digital security, menaces par et sur des ressources numériques • physical security, menaces par et sur des objets matériels • political security, menaces sur la société et le vivre-ensemble Un document qu’il faut prendre le temps de lire. 9
  • 10. Puis on a pu parler de Coopération des intelligences 10
  • 12. « AI is the new electricity Andrew Ng Google Brain, Coursera, Baidu…
  • 13. Le monde est en train d’être « cognitisé », et les IA ne se remarquent plus 13
  • 14. Et si on passait à la transition cognitive ? (oct 2016) On peut parler de « transition cognitive » La transition numérique ne suffit plus. La transition cognitive est le passage de tous nos objets, nos usages, nos activités, notre quotidien et notre société vers des états où les intelligences artificielles augmenteront nos capacités intellectuelles individuelles et collectives. 14
  • 15. Les systèmes d’IA s’inscrivent dans un cadre conceptuel précis 15
  • 16. Promesses et défis de l’Intelligence Artificielle[Olivier Boissier, AFIA] Un cadre conceptuel Socio-technique Interactive Autonome Raisonnement – Décision Apprentissage Incertitude Perception – Vision Données / Connaissances Interopérabilité, Sémantique Intégration de systèmes intelligents Empathie, Émotions Conversation, TALN, Délégation / Adoption / Contrat Partage d'autorité Confiance Normes, Organisations / Gouvernance, Régulation, Renforcement Représentation et raisonnement sur Valeurs, Cultures Lois, Responsabilité Éthique dès la conception, Éthique par raisonnement 16
  • 17. Éthique et IA : le fa(me)ux dilemme du tramway 17
  • 18. 2016 : Moral Machine par le MIT // Février 2020 : Universals and variations in moral decisions made in 42 countries by 70,000 participants Une réponse à donner collectivement 18
  • 19. Autonomous Vehicles and Avoiding the Trolley (Dilemma): Vehicle Perception, Classification, and the Challenges of Framing Decision Ethics (septembre 2019) Le problème du trolley égare les réflexions sur l’éthique Source image 19
  • 20. Powerful antibiotics discovered using AI (20/02/2020) AI Can Do Great Things—if It Doesn’t Burn the Planet (21/01/2020) Les systèmes d’IA peuvent aider à faire de grandes choses… 20
  • 21. Adopt AI, think later : la méthode Coué au secours de l’intelligence artificielle (2 mars 2020) Attention à l’injonction « Adopt AI for everything » 21
  • 22. Pourquoi le solutionnisme par l’IA est un grand danger (01/2020) Attention à ne pas céder au Solutionnisme par l’IA 22
  • 23. Kate Crawford : « l’IA est une nouvelle ingénierie du pouvoir » (InternetActu // 09/2019) Excavating AI: The Politics of Images in Machine Learning Training Sets (Crawford K., Paglen T.) L’IA est une nouvelle ingénierie du Pouvoir 23
  • 24. La reconnaissance faciale : un enjeu éthique mondial 24
  • 25. Pour commencer, il faut mieux connaître les IA 1. 25
  • 26. à droite : iCub, le robot qui agit et apprend comme un enfant à gauche : robot de Boston Dynamics légèrement bousculé Comment les IA apprennent ? 26
  • 27. Formes d’apprentissage • empreinte et habituation • apprentissage par essai / erreur • apprentissage par l’action • apprentissage par observation / imitation • apprentissage par analogie / par transfert • apprentissage co-actif • apprentissage par instruction • méta-apprentissage 27
  • 28. How Machines Learn: The Top Four Approaches to ML in Business (mars 2018) Types d’apprentissage • apprentissage supervisé (ex.: regression) • apprentissage non-supervisé (ex.: clustering) • apprentissage semi-supervisé • co-apprentissage • apprentissage hétéro-associatif • apprentissage auto-associatif • apprentissage par renforcement • apprentissage profond • apprentissage prédictif 28
  • 29. (L’IA n’existe pas sans l’IH) 29
  • 30. Sky Magic, Live at Mt Fuji Et aussi : agents, essaims, IA distribuées… 30
  • 31. A Gentle Introduction to Transfer Learning for Deep Learning (décembre 2017) Apprentissage par transfert 31
  • 32. Wikimedia Commons, CC BY-SA 4.0 By Youflavio (Own work) L’IA est prédictive. Elle modèl(is)e le futur. Nous devons être très vigilants avec cela. 32
  • 33. Les IA peuvent-elles se tromper ? 33
  • 34. Do neural nets dream of electric sheep? 34
  • 35. Image CC by SA Les IA s’expliquent-elles ? Comprend-on comment elles fonctionnent ? 35
  • 36. L’intelligence artificielle va-t-elle rester impénétrable ? [InternetActu 09/2016] L’IA s’explique-t-elle ? 36
  • 37. Peut-on faire confiance aux IA ? 37
  • 38. Faire confIAnce When to Trust Robots with Decisions, and When Not To // Vasant Dhar, 2016  38
  • 39. Does YouTube’s A.I. favor Trump and fake news? A call for transparency. (nov 2016) Nous avons besoin d’algorithmes plus transparents 2016 39
  • 40. (image cc by sa) Que manque-t-il aux IA ? 40
  • 41. Que manque-t-il aux IA ? • une composante émotive • une capacité incarnée • un système de valeurs • l’attention, qui apporte une composante directionnelle aux comportements • des phases de rêve, de cognition libre désincarnée • la possibilité d’expérimenter le monde • la compréhension du sens commun 41
  • 42. Image : NextDayBlinds.com À propos, toutes les IA n’ont pas à ressembler à des êtres vivants ! 42
  • 43. Should Children Form Emotional Bonds With Robots? (Alexis C. Madrigal, dec 2017) Quels impacts sur le développement (de l’intelligence) des enfants ? 43
  • 44. « Les deep fakes progressent à grands pas. » (juin 2019) Deep fakes vidéo : quand les IA servent à nous tromper 44
  • 45. Dupée par une voix synthétique, une entreprise se fait dérober 220 000 euros [sept’ 2019] Deep fakes vocales 45
  • 46. De quelle Éthique parle-t-on ? 2. 46
  • 47. « L’éthique commence là où la réglementation s’arrête » 47
  • 48. L’éthique se distingue de la conformité 48
  • 49. À lire : Référentiel éthique et numérique du Cigref (octobre 2018) Plusieurs familles d’éthique (normative (de la vertu, conséquentialiste, déontologie), appliquée et meta-éthique) 49
  • 51. « Algorithmes : l’éthique n’est pas toute la question. » (septembre 2018) Confiance : une IA responsable & une IA robuste et sûre 51
  • 52. Thinking About ‘Ethics’ in the Ethics of AI (20 février 2020) Quelle éthique dans éthique+IA  ? 52
  • 53. Sur quoi portent les questions d’éthique ? 3. 53
  • 54. ∃ 7 questions initiales  Biais des algorithmes  Transparence des algorithmes  Suprémacie des algorithmes  La fabrique du faux  Les systèmes autonomes potentiellement létaux  Les systèmes autonomes de transport  Vie privée / Sûreté,Sécurité / Surveillance 54
  • 55. Une prise de conscience qui arrive à point nommé 55
  • 56. L’IA porte en elle les biais de ses concepteurs Laurence Devillers «
  • 57. Dossier «Design de l’attention» par la Fing (2017–2019) EU should regulate Facebook and Google as ‘attention utilities’ (01/03/2020) Les abus de l’attention 57
  • 58. Pour y voir plus clair sur les notions de transparence et d’explicabilité en IA (février 2020) Transparence & Explicabilité 58
  • 59. Extrait de Principled Artificial Intelligence (janvier 2020) “Les principes regroupés sous ce thème énoncent des exigences selon lesquelles les systèmes d’IA doivent être conçus et mis en œuvre de manière à en permettre leur supervision, notamment par la traduction de leurs opérations en résultats intelligibles et par la mise à disposition d’informations sur le lieu, le moment et la manière dont ils sont utilisés.” 59
  • 60. T+E : synonymes • interprétabilité, auditabilité, prédictabilité, • droit à l’information, consentement et usage éclairés, • notifications, reporting, • understandable AI, intelligibilité, • vérifiabilité, • responsabilité (accountability, liability, responsibility), • contrôle humain de la technologie, • effectivenness 60
  • 61. Ouverture (data, algos) • l’ouverture des données et des algorithmes dans le domaine de l’IA est depuis longtemps un point acquis. • il s’agit également d’ouvrir de manière pro-active, c’est-à- dire produire collectivement des bases de données ouvertes (visages, postures, situations routières…). • l’ouverture des algorithmes est par ailleurs un préalable au principe de vérifiabilité (validation par des organismes tiers, certification…) 61
  • 62. Droit à l’information • “right to explanation” au cœur du RGPD. • droit de savoir quels paramètres, quelle logique, quelles techniques et quelles informations personnelles ont été utilisées lors d’un processus de prise de décision effectué par des IA (ou des algorithmes en général). • pleinement utile à condition que les informations délivrées lors de son exercice soient intelligibles, et facilement accessibles. • design d’accès à l’information. 62
  • 63. Principe de notification• quand une IA a été utilisée, ou quand elle est actuellement utilisée, la personne qui en fait l’objet doit en être informée. • possibilité de refuser un tel traitement. • demander à accéder à un être humain, et/ou d’obtenir l’assurance qu’un être humain est dans la boucle pour vérifier et éventuellement corriger le processus en cours. • possibilité d’apprécier (au sens de mesurer) les avantages de l’intervention IA (forme de pédagogie). • être prévenu quand on interagit avec une IA et non pas un humain. • design de la vigilance. 63
  • 64. Human Rights in the Age of Artificial Intelligence [AccessNow, nov 2018] Ouverture des marchés publics “When a government body seeks to acquire an AI system or components thereof, procurement should be done openly and transparently according to open procurement standards. This includes publication of the purpose of the system, goals, parameters, and other information to facilitate public understanding. Procurement should include a period for public comment, and states should reach out to potentially affected groups where relevant to ensure an opportunity to input.” 64
  • 65. Compte-rendu continu • que les organisations utilisant des systèmes d’IA informent régulièrement le public sur ces utilisations : comment les objectifs souhaités ont été atteints, comment ont été minimisés les risques, quelles erreurs / brèches / fuites / effets indésirables ont été découvertes et comment ont-elles été traitées ? • mécanisme de mise en œuvre de la Transparence et de l’Explicabilité, ET… • preuve de l’effectivité de ces exigences. 65
  • 66. La transparence n’est pas toujours désirable When Transparent does not Mean Explainable (PDF, 3 pages) 66
  • 68. 8+1 catégories de principes 68
  • 69. Des principes mais très peu de recommandations et d’exemples 69
  • 70. An Open Letter : Research Priorities for Robust and Beneficial Artificial Intelligence. [01/2015] Une lettre ouverte… Janvier 2015: à l’initiative du britannique Stuart Russel, spécialiste IA, une dizaine de chercheurs signent une lettre ouverte appelant leurs collègues à aller au-delà du simple objectif historique de la performance des IA. «Cette recherche est nécessairement interdisciplinaire, car elle implique à la fois la Société et l’Intelligence Artificielle. Elle s’établit de l’économie au droit et à la philosophie, de la sécurité informatique aux méthodes formelles et, bien sûr, au sein des diverses branches de l’IA elle-même. […] Trois sujets sont à traiter à court terme : l’impact de l’IA sur l’économie, les questions d’éthique et de droit, la robustesse des artefacts.» 70
  • 71. «Google employees: We no longer believe the company places values over profits.» Une lettre ouverte… Novembre 2018 : à l’initiative de 11 employés de Google, des centaines d’employés de Google signent publiquement une demande d’abandon du projet DragonFly, un moteur de recherche facilitant la censure. “Many of us accepted employment at Google with the company’s values in mind, including its previous position on Chinese censorship and surveillance, and an understanding that Google was a company willing to place its values above its profits,” […] “After a year of disappointments including Project Maven, Dragonfly, and Google’s support for abusers, we no longer believe this is the case.” 71
  • 72. « On cherche à éveiller la conscience éthique des développeurs et data scientists » (juin 2018) Un « serment d’Hippocrate » pour les data scientists 72
  • 73. Julien de Sanctis, philosophie et éthique appliquées à la robotique interactive Ethics of Technology Needs More Political Philosophy (janvier 2020) Intégrer des philosophes dans les équipes 73
  • 75. Promouvoir la formation dans des lieux spécifiques : les « CogLab » 75
  • 78. https://www.declarationmontreal-iaresponsable.com/ Déclaration de Montréal pour le développement responsable de l’IA Source image: flikr IA responsable 78
  • 79. Principes-clé  principe de bien-être  principe de respect de l’autonomie  principe de protection de l’intimité et de la vie privée  principe de solidarité  principe de participation démocratique  principe d’équité  principe d’inclusion de la diversité  principe de prudence  principe de responsabilité  principe de développement soutenable 79
  • 80. Lignes directrices en matière d’éthique pour une IA digne de confiance, 8 avril 2019 80
  • 81. Intelligence artificielle : des limites de l’éthique aux promesses de la régulation (18/04/2019) Un exercice difficile, entre éthique & régulation 81
  • 82. Ethics guidelines for trustworthy AI (European Commission, 8 April 2019) Pour une IA digne de confiance  facteur humain & contrôle humain  robustesse & sécurité  respect de la vie privée et gouvernance des données  transparence  diversité, non-discrimination et équité  bien-être sociétal et environnemental  responsabilisation 82
  • 83. À lire dans le Chapitre III: évaluation d’une IA digne de confiance Liste d’évaluation pour une IA digne de confiance 83
  • 84. White Paper on Artificial Intelligence: a European approach to excellence and trust. (19/02/2020) Sortie du Livre blanc Europe IA 84
  • 85. Lien vers la consultation Une consultation en cours jusqu’au 30 mai 2020 85
  • 86. 4 points en guise de perspectives &. 86
  • 87. 1. Réfléchir à l’intelligence des artefacts nous amène à réfléchir à notre propre intelligence, à la manière dont nous l’exerçons, à nos rapports aux autres, aux animaux, au monde… 87
  • 88. 2. Mettre en place des principes éthiques concernant les données et les systèmes d’IA, et les suivre, peut constituer un un différenciant de marché. 88
  • 89. 3. À l’échelle internationale, est actuellement ouverte (2019-2020) une occasion unique de convergence des choix éthiques, avant que les technologies et les usages nous mènent au fait accompli. 89
  • 90. 4. À l’échelle de l’Humanité, cette même fenêtre d’opportunité est à saisir, tant que nous en avons encore le loisir et le temps de réfléchir collectivement à ce que nous voulons faire de nos outils. 90
  • 91. Détails sur medium.com/@AymericPM L’impérieuse nécessité d’apprendre à mieux se connaître * 91
  • 92. That’s all, folks ! Thx. contact : @AymericPM // www.nereys.fr 92
  • 93. Docteur en Sciences Cognitives (entre autres) Aymeric Poulain Maubant @AymericPM https://medium.com/@AymericPM/ http://www.nereys.fr/ Aymeric.PoulainMaubant@nereys.fr 93
  • 94. Retrouvez les références de cette présentation en fouillant ici et là sur : https://www.slideshare.net/aymeric https://medium.com/@AymericPM + Références complémentaires à suivre en bas de quelques pages 94