Le véhicule autonome; une approche éthique de la sécurité

École centrale de Lyon
Mémoire
Projet d’Application Recherche
PAR 165
Le véhicule autonome :
une approche éthique de la sécurité
Étudiants :
Robin Lenormand
Nicolas Deloule
Tutrice :
Marie Goyon
Conseiller :
Alexandre Saidi
2016-2017

Le véhicule autonome : une approche éthique de la sécurité
1
Résumé
Alors que le développement des véhicules proposant des fonctionnalités que l’on
convient d’appeler ‘autonomes’ est croissant, ceux-ci soulèvent de nombreuses questions qui
relèvent des sciences humaines et sociales. Au cours de nos travaux, nous nous sommes
demandé de quelle manière les industriels et la recherche pensent les risques que les véhicules
‘autonomes’ sont amenés à encourir, et de quelle façon ils peuvent réussir à s’intégrer au sein
d’une circulation complexe, en réagissant à des situations dans lesquelles l’homme ne sait
parfois que choisir.
Nous avons réalisé cette étude en nous appuyant sur une bibliographie pluridisciplinaire
et sur de nombreux entretiens, réalisés auprès d’acteurs issus d’horizons divers. Nous avons
cherché à montrer à quel point l’enjeu éthique était indissociable de la réflexion à mener autour
du développement de tels véhicules, et tenté d’apporter des pistes de réflexion afin de prendre
en compte cet enjeu, qu’elles soient techniques ou organisationnelles. De plus, nous nous
sommes intéressés aux démarches entreprises dans d’autres domaines afin de quantifier, juger
de l’état ou de l’intérêt d’une personne : c’est en effet au travers des critères qu’elles utilisent
que les entités expriment leur éthique, tout en donnant un aperçu de la morale qu’elles
soutiennent. Finalement, nous avons dressé un bilan de l’actualité et des perspectives du
véhicule ‘autonome’.
Abstract
The growing development of vehicles with so-called 'autonomous' features raises many
questions which find their roots in the human and social sciences. In the course of our work,
we have asked ourselves how industrialists and research groups think the risks that
‘autonomous’ vehicles have to incur, and how they can successfully fit in a complex circulation,
responding to situations where man sometimes does not know what to choose.
We carried out this study using a multidisciplinary bibliography and numerous
interviews with actors from various backgrounds. We have tried to show how much the ethical
issue was inseparable from the reflection to be carried out on the development of such vehicles,
and tried to provide food for thoughts for those who want to take in account this issue, both
on a technical and organizational aspect. We also took interest in the steps taken in other fields
to quantify and judge the state or the interest of a person: we believe that it is through the
criteria they use that the entities express their ethics, while giving an overview of the morality
they support. Finally, we assessed the current situation and the perspectives of the
'autonomous' vehicle.

2
Remerciements
Nous tenons à remercier chaleureusement toutes les personnes avec qui nous avons été
en contact, et qui nous ont accordé des entretiens : M. Luc Baumstark, Mme. Claudine Besson,
Mme. Sarah Carvallo, M. Xavier Chalandon, M. Bruno Compin, M. Éric Debernard, M.
Christophe Grand, M. Philippe Langry, M. Jean-Pierre Le Floch, la caserne de sapeurs-
pompiers de Marcy-Charbonnières, M. Dominique Mignot, Mme. Isabelle Paulin-Jardel, M.
Jérôme Perrin, M. Gilles Tagne, et Mme. Catherine Tessier.
Merci à M. Adrien Delebecque, pour sa relecture attentive et ses conseils nocturnes lors du
traitement des données de l’ONIAM.
Merci à Mme. Marie Goyon, notre tutrice, pour son soutien, son suivi et ses recommandations,
et M. Alexandre Saidi, notre conseiller, pour ses remarques avisées.
Merci à M. Hervé Lenormand, pour son aide précieuse et son soutien au démarrage du projet.

3
Table des matières
Réflexion préliminaire.............................................................................................................1
Introduction............................................................................................................................1
Etat de l’art............................................................................................................................2
Problématique ........................................................................................................................7
Démarche et méthodologie empruntée ....................................................................................7
I – De la nécessité de penser l’éthique du véhicule autonome..................................................9
I.1. Le dilemme du tramway : une introduction au questionnement éthique........................9
I.2. Différences de comportements entre les humains et les machines................................10
I.3. De la nécessité de déterminer des modèles de comportements.....................................11
I.4. Acceptabilité...............................................................................................................11
II - Deux typologies d'accidents............................................................................................13
II.1. La voiture n’a pas réussi sa tâche de conduite autonome...........................................13
II.2. L’accident résulte d’une erreur de conduite des autres usagers ..................................14
II.2.a. Une approche juridique .......................................................................................14
II.2.b. L’exemple du métro D lyonnais...........................................................................14
II.2.b.i. Un choix étonnant.........................................................................................15
II.2.b.ii. Une entorse à un état de l’art sécuritaire (le métro 1 Lillois)........................15
II.2.c. Un devoir de prévention ? ...................................................................................15
II.3. Introduction à la méthode des champs de potentiel ...................................................16
III - Comment évaluer les ‘poids-risques’ ? ...........................................................................19
III.1. Une méthode : la Constructive Technology Assessment (CTA)................................19
III.2. Concerter les parties prenantes.................................................................................20
III.3. Un critère éthique possible : principe du maximin ....................................................21
III.4. Quelques critères privilégiés dans d’autres secteurs ..................................................22
III.4.a. Chez les sapeurs-pompiers..................................................................................22
III.4.b. Indemnisation des victimes d’aléa thérapeutique................................................22
III.4.b.i. Indemnisation des victimes d’aléa thérapeutique en fonction de l’âge...........23
III.4.b.ii. Indemnisation des victimes d’aléa thérapeutique en fonction du sexe ..........24
III.4.b.iii. Conclusions quant à l’indemnisation assurée par l’ONIAM ........................25
III.4.c. Indemnisation des soldats blessés en opération...................................................26
III.4.c.i. Résumé des critères utilisés pour l’évaluation de l’indemnisation de militaires
décédés.......................................................................................................................28
III.4.c.ii. Conclusions concernant l’indemnisation du décès d’un militaire...................28
III.4.e. Conclusion..........................................................................................................29
IV – Actualités et prospective...............................................................................................29
IV.1. Juridiction actuelle, juridiction future ......................................................................29
IV.2. Un exemple français de véhicule à conduite autonome à sortir.................................29
IV.3. Performances des capteurs et limites........................................................................30
IV.4. Transparence des algorithmes...................................................................................31
IV.5. Une approche socio-économique................................................................................32

4
Conclusion............................................................................................................................35
Glossaire...............................................................................................................................37
Annexes................................................................................................................................37
Technological Mediation ...................................................................................................37
Indemnisation d’un Déficit Fonctionnel Permanent (ONIAM 2016)..................................38
Bibliographie ........................................................................................................................39
Table des illustrations
Figure 1 - Extrait de l'Usine Nouvelle n°3485, p.32-33............................................................2
Figure 2 - Dilemme du tramway.............................................................................................9
Figure 3 - Capture d'écran du site moralmachines.mit.edu ...................................................11
Figure 4 - Positionnement sécuritaire au regard des capteurs ...............................................13
Figure 5 - Métro D lyonnais (quai ouvert)............................................................................14
Figure 6 - M14 Parisien (quai fermé)....................................................................................14
Figure 7 - Schéma illustratif de l'approche via la méthode des potentiels .............................17
Figure 8 - Proposition de processus ......................................................................................18
Figure 9 - Indemnisation en fonction de l'âge .......................................................................23
Figure 10 - Indemnisation annuelle au prorata des années de vies "restantes ".....................23
Figure 11 - Quotient sexué de l'indemnisation......................................................................24
Figure 12 - Quotient sexué au prorata des années de vies "restantes" ..................................25

1
Réflexion préliminaire
La question fondatrice de nos travaux était la suivante : comment les industriels et la
recherche pensent les risques que les véhicules ‘autonomes’ seront amenés à encourir, voire à
prendre ? Comment un véhicule ‘autonome’ peut-il réussir son intégration dans une circulation
complexe ; et finalement quelle dynamique lui imposer afin qu’il puisse réagir à des situations
où parfois l’homme ne sait que choisir ?
Introduction
Avec le développement croissant des véhicules proposant des fonctionnalités que l’on
convient d’appeler ‘autonomes’, ce qui a encore pu être constaté au salon de l’automobile de
Paris 2016, se posent de nombreuses questions qui relèvent des sciences sociales. On pourra
aisément citer parmi celles-ci des questions ayant trait à des thématiques éthiques et sociétales
telles que l’acceptabilité, l’anthropomorphisation, ou bien encore la responsabilité morale en
cas d’accident.
L’existence de véhicules automatisés est essentiellement due à deux facteurs : l’un est
idéologique quand l’autre est conséquentialiste. Si l'apparition des véhicules au début du XX
ème
siècle était synonyme de liberté et d’autonomie spatiale pour son détenteur, les constructeurs
du XXIème
siècle souhaitent commercialiser leurs véhicules automatisés comme des objets qui
redonnent du temps libre à leur utilisateur, sans amputer sa mobilité. Le second facteur est
celui qui fondamentalement pousse à la réalisation de tels véhicules : l’augmentation de la
sécurité, dans un contexte où le nombre de morts sur les routes reste important (plus de 3400
morts sur les routes françaises en 2015.) Suite à de nombreuses études menées notamment dans
le domaine de l’aéronautique, il s’est révélé qu’avec l’avancée des techniques, plus de 90% des
accidents étaient d’origine humaine, dus à une mauvaise communication
1
dans le cockpit, une
mauvaise interprétation de la situation, ou bien encore à un comportement routier dangereux.
Aussi une part croissante des sociétés contemporaines se sent désormais plus à même de “rendre
la main” et accepte de se laisser assister par des mécanismes qui leur facilitent la vie, parfois
en remplaçant le travail d’un humain.
Avant de développer, il semble utile de préciser le vocabulaire utilisé ici. Nous parlerons
de l'autonomie
2
d’une machine comme de sa capacité à fonctionner indépendamment d’un
opérateur humain ou d’une autre machine en exhibant des comportements non triviaux dans
des environnements complexes et variables. Dans le but de distinguer l’automatisme de
l’autonomie, cette définition souligne explicitement l’importance de la complexité de
l’environnement et des tâches à exécuter. Dans le cas des véhicules ‘autonomes’ ou
“automatisés”, une classification a donc été opérée et permet de repérer les véhicules selon leur
niveau d’autonomie (voir ci-dessous Figure 1).
1
C. Morel, Les Décisions Absurdes II
2
Définition proposée par le rapport n°1 du CERNA, Ethique de la recherche en robotique

2
Par ailleurs, on définit la morale comme l’ensemble des normes de comportement, qui
sont souvent liées à une culture et à une époque et rapportées à un groupe social. L’éthique
quant à elle est l’ensemble des choix personnels qui correspondent au sens que l’on donne à son
action, à son existence : elle relève de la responsabilité personnelle.
Etat de l’art
Nous nous sommes premièrement documentés vis-à-vis des différentes considérations
éthiques empruntées dans la littérature, dont nous vous proposons une synthèse par domaine,
ne prétendant pas aboutir à l’exhaustivité. L’ensemble des textes cités sont référencés dans la
bibliographie.
En anthropologie et en philosophie :
B. Latour dans Les dilemmes cornéliens d’une ceinture de sécurité introduit l’idée d’une
délégation de la responsabilité de l’humain à l’objet, à la technique. Le geste d’accrocher sa
ceinture devient alors éminemment moral et social : la technique est un service hyper-conciliant
-facilité d’accrochage et de décrochage, à mon service- pour lequel, dans la conscience collective,
le disfonctionnement en cas d’accident est impossible. Cette dualité esclave / filet de sécurité
est caractéristique de la vision commune de l’application des sciences dans les objets du
quotidien : que des avantages, aucun inconvénient.
G. Bezon, commentant V. Scardigli (Un anthropologue chez les automates. De l’avion
informatisé à la société numérisée) parle de la « rencontre sociale qui fait le succès d’une
innovation ». Contrairement à l’approche de B. Latour, la délégation de la responsabilité de
Figure 1 - Extrait de l'Usine Nouvelle n°3485, p.32-33

3
l’humain à la technique ne semble pas totale, il s’agirait plutôt d’une « rencontre », d’une
coexistence de l’humain et de la machine. Entre les ingénieurs d’Airbus et les pilotes utilisant
leurs ‘pilotes automatiques’, il y a la nécessité d’un dialogue pour convenir de la technique mais
également des pratiques et des mœurs afin d’assurer la bonne utilisation et coexistence des
pilotes –humains et automatiques-.
V.C. Müller et T.W. Simpson dans Réguler les robots-tueurs, plutôt que de les interdire
abordent également la question de la responsabilité juridique de tout système technologique :
selon eux, la responsabilité n’est pas déléguée à la machine, elle reste humaine, mais ce sont
les administrations qui sont responsables, et non les concepteurs, à partir du moment où elles
permettent la commercialisation de ces technologies. Les auteurs, plutôt que de proposer leur
interdiction, pensent à des conditions nécessaires à vérifier pour le développement d’objets
technologiques impactant fortement la société humaine, conditions qui nous font penser à celles
de Mangan (voir I.1. Le dilemme du tramway) : 1) nécessité morale d’organisations supérieures
réglementant ces technologies ; 2) il existe une fin (réduction du risque global) qui justifie le
développement de ces technologies ; 3) ces technologies tombent sous la coupe des lois
préexistantes.
P.P. Verbeek dans Design Ethics and Technological Mediation insiste sur le fait que la
fonctionnalité est l’élément central de la vision commune de la technologie. Alors, l’éthique
ingénieuriale est une éthique concernant les fins de cette technologie, qui cherche à savoir dans
quelles mesures elle impacte la société au cours de son utilisation. Lui pense plus que tout que
c’est l’ensemble des idées et des visions projetées sur l’objet technologique qui forment le cœur
de son impact sociétal. Aussi il préconise une attention redoublée lors de la conception de
nouvelles technologies : l’analyse de la médiation qu’aura notre objet permet toujours de mieux
définir l’action humaine. Outre le recours à une méthode comme la CTA au cours de projets
technologiques impactant la société, il présente un point peu abordé ailleurs : les systèmes
d’aide à la conduite limitant automatiquement la vitesse augmentent la sécurité routière au
prix de « l’expérience de la liberté ». En somme, il souligne la rationalisation de la société à
l’œuvre, visible au travers des technologies que l’on développe.
Plusieurs visions du rapport entre l’homme et la machine semblent alors se dessiner,
mais il semble légitime de considérer comme majoritaire l’idée que l’homme et la technique
coexistent, i.e. que l’homme n’est pas extérieur à la technique, mais est bien acteur de celle-ci,
et en reste responsable. Toutefois, cette responsabilité n’est plus de la même nature et n’est
plus portée à la même échelle pour le véhicule ‘autonome’. Le conducteur/passager d’un
véhicule ‘autonome’ aura alors l’impression d’avoir délégué sa responsabilité à la machine,
celle-ci étant en réalité portée par d’autres parties prenantes (administrations ou concepteurs).

4
En sciences industrielles :
La méthode d’analyse de risques MOSAR présente une manière d’identifier et de
prévenir les risques d’une installation. Elle consiste en une construction de graphes
« probabilités-gravité » hiérarchisant les scénarios identifiés. Une pareille méthode suppose un
ensemble de risques identifié et fini, que l’on est capable de quantifier. Aussi, l’on retrouve peu
de questions éthiques sinon un positionnement originel tacite : les gravités sont-elles par
exemple définies en facteurs économiques ou humains ?
Concernant la mise en place d’une innovation, parallèlement à l’analyse des risques qu’ils
induisent définie par la méthode MOSAR, M. Hamidi dans Futurs systèmes d’assistance à la
conduite étudie ces systèmes au regard de leur utilité, d’un ratio « prestation/coût », de leur
compréhensibilité, fiabilité, utilisabilité et « sécurité vis-à-vis d’une éventuelle mauvaise
utilisation ». Il pourrait alors s’agir de mêler ces deux approches, l’analyse prestation/coût
dépendant directement des risques encourus, et de leurs gravités. Cet article de 2001 concernant
les ADAS
3
montre bien la prise en compte de la question éthique au début du XXI
e
siècle : ici,
le conducteur humain est responsable.
X. Chalandon note quant à lui l’importance d’un comportement extérieur compréhensible des
véhicules ‘autonomes’ : ses actions et intentions au regard des autres usagers doivent être
claires dès son implémentation. Il doit donc être créé un style de comportement des véhicules
‘autonomes’, avec un positionnement éthique global (loi, sécurité, confort de conduite,
performances). Par ailleurs, l’autonomie conditionnelle (i.e. jusqu’à un niveau d’autonomie égal
à 3) est génératrice de problèmes sécuritaires : la conduite autonome est définie dès lors que
l’homme n’a plus à superviser l’action de la voiture.
En sciences industrielles, il semble ainsi déterminant de pouvoir contrôler la mise en
place d’une innovation, en garantissant à la fois la transparence de son comportement, mais
aussi en étant au fait des risques encourus et de leurs probabilités, ainsi que des coûts et de la
qualité des prestations attendues. On peut ainsi y voir un pragmatisme et un rationalisme
propres au développement d’outils technologiques et de l’industrie, marqués par le besoin de
contrôler de la manière la plus complète possible le réel.
En ethnologie et sociologie :
E. Grimaud dans Les robots oscillent entre vivant et inerte souhaite déconstruire la
notion d’objets ‘intelligents’, posant la question de l’utilité de la ressemblance comportementale
des robots aux humains, les appelant alors « objets à comportement ». Nous ne pouvons lire
ce texte sans effectuer un parallèle avec la conférence Consciousness in artificial intelligence de
John Searle : les deux chercheurs expliquent l’« intelligence » des robots par notre processus
d’attribution d’une activité de réflexion à la machine lorsqu’elle répond correctement à une
question qu’on lui pose. C’est notre projectivité d’intelligence, fruit de la bonne adéquation de
3
Voir glossaire, p.36

5
la réponse avec la question posée, qui induit ce biais : les robots restent pour autant des circuits
programmés effectuant des calculs.
A. Kyrou dans Les robots sont des personnes comme les autres (Changer notre regard pour ne
pas subir l’automatisation) décrypte la peur de l’automatisation brutale : des robots qui
remplacent les humains, qui nous dirigent. Cette peur peut s’expliquer par les approches
précédentes, c’est parce que nous projetons notre propre intelligence sur les robots, et parce
que leur intelligence croît que la peur d’être dépassé apparaît. Réaffirmant la nécessité d’une
bonne écriture de leurs algorithmes, intégrant une éthique vis-à-vis de leur comportement
envers l’homme, il cite même les propositions de textes définissant des droits et devoirs pour
les robots, comme proposés par les avocats A. et J. Bensoussan (Droits des robots
4
).
N.J. Goodall dans Machine Ethics and Automated Vehicles, dans la continuité de la nécessaire
prise en compte d’une éthique de leur comportement présentée par A. Kyrou, propose d’utiliser
des programmes de détermination d’un meilleur choix éthique, ou encore un programme nous
disant s’il est mieux de révéler la vérité ou non, tel que ceux de B.M. McLaren. Basés sur la
casuistique, de pareils algorithmes comparent deux propositions sans forcément les ramener à
un modèle théorique. Si un avantage est de niveler ni par le haut ni par le bas, il semble tout
à fait important que ces algorithmes soient transparents : les comparaisons sont basées sur un
ou plusieurs critères implicitement déterminés par la morale et l’éthique du programmeur.
De même, le rapport du CERNA, Ethique de la recherche en robotique se préoccupe de la prise
en compte de ces enjeux éthiques et est principalement constitué de préconisations éthiques
quant à la recherche en automatique et en intelligence artificielle, notamment au regard des
impacts qu’ils ont sur l’homme. Ces recommandations ne reposent sur aucune éthique
particulière, sinon sur la protection de l’intégrité humaine.
Le rapport Quinet 2013, commandé par le cabinet du Premier Ministre, fait l’évaluation
socioéconomique des investissements publics en France. Entre autres, il revient sur la valeur
statistique de la vie humaine et ses critères d’évaluation, et préconise l’introduction d’un
QALY
5
permettant à l’avenir de préciser l’utilité des investissements notamment dans le
domaine de la santé au regard de la qualité de vie des années restantes à vivre. La démarche
empruntée et les recommandations formulées sont donc éminemment utilitaristes, puisqu’elles
ont pour but l’utilisation au mieux de l’argent public pour l’ensemble des citoyens.
Il ressort ainsi de cette étude la nécessaire prise en compte de l’éthique dans le
développement des algorithmes pour les robots, leurs actes et comportements dépendant de
cette approche. C’est cet enjeu que nous allons détailler au cours des pages suivantes. De plus,
le rapport Quinet présente une méthode d’évaluation des investissements publics, méthode qui
pourrait s’avérer pertinente à étudier pour évaluer le comportement éthique des robots.
4
Voir bibliographie
5
Voir glossaire p.36

6
Introduction aux concepts éthiques abordés par la suite :
Plusieurs concepts éthiques sont abordés par la suite, qui se rapportent parfois à des
conceptions de la justice, concepts que nous avons recensés au nombre de trois et allons définir
ici :
• Éthique conséquentialiste : l’éthique conséquentialiste soutient que ce sont les
conséquences d’une action qui doivent être à la base de tout jugement la concernant.
Ainsi, cette action peut être évaluée en fonction des conséquences qu’elle engendre, et
ce à travers une balance coût/avantage, ou risque/bénéfice.
• Éthique utilitariste : l’éthique utilitariste soutient que les actions à entreprendre
doivent être celles qui permettent de maximiser le bien-être collectif, c’est à dire qu’elle
vise à assurer le plus grand bien possible pour le plus grand nombre.
• Éthique égalitariste / éthique du maximin : l’éthique égalitariste, ou éthique du
maximin, soutient qu’une attention particulière doit être portée aux plus vulnérables,
et que c’est l’action permettant de protéger l’usager le plus vulnérable qui doit être
entreprise.
Ces deux dernières éthiques sont elles-même conséquentialistes, étant donné qu’elles
s’intéressent également aux conséquences d’une action, mais en se focalisant plus
particulièrement sur le bien collectif ou sur l’usager le plus vulnérable.
Pour illustrer ceci, nous vous proposons de considérer une question posée par Amartya Sen
dans L’idée de justice :
Vous avez une flûte. Carla l’a fabriquée, Anna sait en jouer et Bob n’a pas d’autre
jouet. À qui la donneriez-vous ?
Chaque enfant renvoie à une conception de la justice. Aussi, ceux qui répondent Carla sont
libertariens, Anna sont utilitaristes et Bob sont égalitaristes. De manière générale, les
américains sont plus tentés de répondre Carla, tandis que les européens, Bob. Anna représente
le bonheur maximisé de tous (ce serait également la réponse d’Aristote).
NB : Le libertarianisme (aussi appelé libertarisme, ≠ libertaire) prône la liberté comme valeur
fondamentale des rapports sociaux, conceptualisant la liberté individuelle comme ‘droit
naturel’. Cette philosophie politique a des implications en termes de justice mais n’a pas, ou
peu, à voir avec une éthique relative aux véhicules ‘autonomes’.

7
Problématique
Quelle réflexion emprunter pour proposer des comportements réfléchis de manière
éthique afin de piloter les automatismes des véhicules automatiques ?
La conception de véhicules partiellement ou complètement automatisés doit en effet s’inscrire
dans une réflexion éthique : « Lorsque les technologies affectent les actions humaines, elles
donnent des réponses matérielles à la question éthique : ’comment agir’. Ceci implique que les
ingénieurs font de ‘l’éthique avec d’autres moyens’ : ils matérialisent la morale. »6
Démarche et méthodologie empruntée
Dans le but de couvrir de manière globale la question, nous avons souhaité travailler
au plus près des acteurs du secteur, tout en gardant un œil ouvert sur ce qui était fait dans
d’autres domaines, afin de valoriser l’expérience de chacun dans le travail qui suit. Aussi avons-
nous à la fois réalisé des entretiens et travaillé sur des textes théoriques. Tout en s’intéressant
à ce qui est actuellement fait en industrie afin de comprendre les problématiques industrielles
qui gravitent autour de la conception et la réalisation de véhicules automatiques sûrs, nous
avons cherché à trouver des bases sociologiques voire philosophiques sur lesquelles nous
pourrions nous reposer dans l’optique d’affecter des valeurs numériques aux entités rencontrées
par un véhicule automatique sur son trajet. Cette seconde partie de nos travaux, entendue
comme démarche intellectuelle, n’a pas d’autre vocation que d’être une aide à la conception
d’un véhicule automatique qui souhaite intégrer au maximum les enjeux éthiques et sociaux
qui lui sont propres.
Ci-dessous est présenté l’ensemble des personnes qui nous ont accordé un entretien, à qui nous
renouvelons nos sincères remerciements.
Pour leurs fonctions dans les instances de décision industrielles :
• B. Compin, Expert Leader Sûreté de Fonctionnement et Sécurité Générale du Produit,
Renault
• X. Chalandon, Expert Leader IHM, Renault
• E. Debernard, Chef de Projet Renault Espace Autonomous Drive, Renault
• J-P. Le Floch, Directeur de projets, Explain
• I. Paulin-Jardel, Autonomous Driving Partnerships Manager, Renault
Pour leurs éclairages quant aux instances éthiques et étatiques :
• L. Baumstark, Conseiller Scientifique, France Stratégie
• S. Carvallo, Maître de conférence en philosophie, Ecole Centrale de Lyon
• D. Mignot, Directeur du Département "Transport, Santé, Sécurité", IFFSTAR Bron
• J. Perrin, Directeur Scientifique, Renault
• C. Tessier, Maître de Recherches 2, ingénieur expert, ONERA
6
Design Ethics and Technological Mediation, traduit de l’anglais, voir en annexe

8
Pour sa présentation de la méthode des champs de potentiels :
• G. Tagne, Docteur-ingénieur en automatique & informatique industrielle

9
I – De la nécessité de penser l’éthique du véhicule autonome
I.1. Le dilemme du tramway : une introduction au questionnement éthique
Essayez par vous-même de résoudre le dilemme du tramway
7
que nous vous soumettons:
Situation 1 : Un train est lancé à grande vitesse. Sur son rail se trouvent cinq ouvriers. Avant
ces travailleurs se situe un échangeur que vous pouvez actionner, menant le train sur un autre
rail avec un unique ouvrier. Actionnez-vous l’échangeur ?
Situation 2 : Vous êtes sur un pont au-dessus d'un chemin de fer. Un train lancé à grande
vitesse arrive. Cinq ouvriers se trouvent sur le rail après le pont. Vous savez qu'une personne
obèse bloquant la trajectoire du train peut arrêter celui-ci. Un obèse est à côté de vous. Le
poussez-vous ?
La majorité des personnes interrogées choisissent d'agir dans la première situation mais
de ne rien faire dans la seconde. Cela est largement dû à la position vécue comme spectateur
du drame dans le second cas et d'acteur-sauveur dans le premier cas. Toutefois, d'un point de
vue conséquentialiste, les deux situations sont similaires et par conséquent, vous devriez agir
de la même façon, autrement dit en sauvant quatre personnes supplémentaires du mort
inévitable. Certes, c'est oublier l'acte meurtrier commis dans le second cas, mais en dehors des
conséquences juridiques, si vous pensez que la meilleure issue est celle qui conduit à une
minoration du nombre de morts alors vous devez agir exactement de la même manière.
Ainsi, comme nous le montre en partie l’exemple du dilemme du tramway, dans une situation
accidentogène, l'homme réagit par réflexe8
, celui-ci étant basé sur son expérience, et par des
mécanismes du cerveau encore méconnus à ce jour. Cette réaction a pour but de minimiser les
risques selon sa propre perception dans un temps de réflexion extrêmement restreint. Elle n'est
donc ni réfléchie ni planifiée et semble imprévisible.
7
Philippa Foot, 1967
8
C. Tessier, d'après entretien
Figure 2 - Dilemme du tramway

10
Convenons que nous nous plaçons dans une éthique conséquentialiste
9
: comment
soutenir que la mort d’une personne vaut mieux que celle de cinq ? Mangan en 1949 dans
Euthanasia présente l’argument du ‘double effet’ : une personne peut commettre une action
dont il prévoit qu’elle produira un bon et un mauvais effet si quatre conditions sont vérifiées
simultanément :
1) L’action en soi est objectivement bonne, ou au moins indifférente
2) L’intention vise l’effet positif, et non l’effet négatif
3) L’effet positif n’est pas le résultat ou la conséquence de l’effet négatif
4) Il y a une raison grave qui justifie proportionnellement le recours à un effet négatif
Voyons comment cela s’applique au dilemme du tramway :
1) En soi, faire tourner le tram est indifférent
2) Intervenir sur le tram me permet d’éviter une conséquence négative (éviter la mort de
cinq personnes) bien qu’ayant aussi un effet mauvais (tuer une personne)
3) L’effet positif (éviter la mort de cinq personnes) n’est pas le résultat ou la
conséquence de l’effet négatif : il n’existe pas d’autre moyen d’éviter la mort des cinq
personnes que de causer la mort d’une autre
4) La mort accidentelle de cinq personnes est grave
Nous venons de voir que l’argument du double effet s’applique particulièrement dans le
premier cas, lorsque l’on agit sur le changement de voie. Lorsqu’il s’agit de pousser l’obèse, les
conditions 1 et 3 ne sont pas respectées. À ce titre, l’argument du double effet n’est pas toujours
utilisable.
Par ailleurs, Philippa Foot a critiqué ce même argument : selon elle, la mort de la personne
seule n’est pas l’instrument de l’absence de mort pour les cinq autres ; elle en est une
conséquence. En revanche, on n’a jamais le droit de pousser la personne obèse sur les rails : en
la poussant on intervient dans la chaîne des conséquences (il y a introduction d’une
responsabilité directe), la mort de cette personne étant utilisée comme un moyen. Même si la
fin est bonne, le moyen est mauvais puisque l’on veut directement la mort de cet homme.
I.2. Différences de comportements entre les humains et les machines
Le véhicule à conduite automatisée se comporte de façon radicalement différente. Son
action est planifiée en étapes et n’est qu’une conséquence des résultats de calculs implémentés
par avance : il est déterministe. On notera ainsi que si une situation se reproduit, son issue
sera exactement la même, ce qui est loin d’être le cas chez l’être humain. Aussi le véhicule
automatisé empreinte un comportement par nature contestable, puisqu’il résulte d’un choix, et
non seulement d’un réflexe que l’on ne peut pas vraiment reprocher à un humain, si ce n’est
dans des cas particuliers.
9
Passage inspiré du cours d’éthique de S. Carvallo, Ecole centrale de Lyon 2016-17

11
I.3. De la nécessité de déterminer des modèles de comportements
Regardons désormais le dilemme des véhicules automatisés à la lumière de tels faits :
quelle politique tenir en situation de désastre forcé ? La première réponse est évidemment :
faire de telle sorte à ce que jamais une pareille situation ne se présente. C’est ce qui est fait
actuellement avec les véhicules de niveau 3, en bridant le spectre des fonctionnalités
automatisées via la sollicitation d'un conducteur qui reste dernier décisionnaire en toute
circonstance. Pour aller plus loin, il conviendrait donc de discriminer correctement la situation
via des capteurs et une ingénierie adéquate, mais également de décider de comment agir, ce
qui résulterait bien d’un choix effectué de la part des constructeurs: quels poids accorder alors
pour quels éléments autour du véhicule (piétons, cyclistes, motos, voitures, etc.), comment faire
évoluer ces poids
10
en fonction de la situation et de leur dangerosité?
I.4. Acceptabilité
Ainsi, peut-on imaginer un citoyen acheter un véhicule qui favoriserait, en cas de
situation accidentogène, les piétons ou les autres usagers de la route à son détriment ? Une
expérience réalisée en ligne par le MIT11
propose d’y répondre.
Figure 3 - Capture d'écran du site moralmachines.mit.edu
Elle demande aux utilisateurs de choisir qui favoriser en cas d’accident selon des critères
tels que l’âge, le poids, la classe sociale, etc. Si cela reste une expérience de pensée, elle n’en
est pas moins troublante et soulève des enjeux éthiques importants. Peut-on imaginer que ce
soit des hommes qui décident qui favoriser parmi leurs semblables ? Toutefois de pareilles
considérations semblent irréalistes à l'heure actuelle : en effet, les capteurs aujourd'hui
10
Voir projet AVEthics, cité par la suite
11
Voir Glossaire p.36

12
embarqués réalisent uniquement de la classification d'objets12
afin de discriminer la situation
dans laquelle se trouve le véhicule. Par conséquent, de pareilles considérations ne pourraient
pas rentrer dans l'évaluation du comportement à mener du véhicule. Si le développement des
véhicules ‘autonomes’ semble inévitable
13
, l’acceptation et la place accordée dans nos sociétés
à de tels engins n’est néanmoins pas acquise. Nous avons vu que des questions éthiques
freinaient la mise en place rapide d’une autonomie plus importante (niveau 4 et 5), mais des
questions juridiques, qui y sont indirectement liées se posent aussi. Les accidents des premières
Google Cars ou des voitures Tesla en témoignent : l’engouement médiatique qu’ils génèrent est
impressionnant, témoignant à la fois d’une certaine aversion pour ces technologies
déshumanisées, mais également d’une attention redoublée vers celles qui sont le fer de lance de
nos industries. Quand bien même ces véhicules sont aujourd’hui deux fois plus sûrs que tout
autre véhicule conduit par un humain (accident mortel au bout de 200 millions de kilomètres
roulés pour Tesla contre 100 millions de kilomètres en moyenne), il semble communément
accepté que se déplacer en voiture c’est accepter et connaître par avance les risques encourus
14
,
alors que monter dans un véhicule ‘autonome’ reviendrait à ne pas prendre de risque. Ainsi, je
m’affranchis de l’ancien risque -“ma conduite peut me créer du risque”- (même si un grand
nombre d’accidentés de la route n’en sont pas les responsables) en donnant de la confiance à
une machine qui doit mieux conduire que moi. Et de fait, je ne peux en tolérer aucune erreur.
Il est intéressant de noter que l’on ne pardonne en aucun cas à une machine programmée ce
qui reste toléré pour un humain15
. Comme nous l’avons vu précédemment, le comportement
du véhicule est consécutif à des choix opérés par des ingénieurs en amont, il est purement
déterministe. Si l’on note une tendance à anthropomorphiser
16
les véhicules ‘autonomes’, ils
sont aussi parfois pensés comme des machines, indépendantes de l’homme et de ses
imperfections; cela est biaisé, car ils restent ce qu’ils sont par essence : des machines
programmées par des êtres humains en amont17
.
Dans Autonomous Driving - Technical, Legal and Social
18
, les auteurs soulignent par
ailleurs que le véhicule ‘autonome’ serait le premier objet automatisé sans surveillance humaine
constante : les avions, métros, trams et autres véhicules militaires automatisés que l’on connaît
fonctionnent dans la mesure où des opérateurs en surveillent les opérations. Aussi ils pensent
que cette position particulière renforce la question de son acceptation par la société. Par
ailleurs, ils étayent l’utilité presque incontournable de la communication inter-véhicule qui
permettrait de construire des solutions à plusieurs voitures, permettant des manœuvres
complexes dans le but d’éviter un accident. Ce fonctionnement implique donc que les actions
entreprises par les véhicules sont complètement en dehors du regard humain, ce qui renforce
la difficulté de la bonne conception a priori des algorithmes de déplacement du véhicule et de
sa coordination avec les autres véhicules qui peuvent lui suggérer d’autres comportements.
12
E. Debernard, d'après entretien
13
I. Paulin-Jardel, d'après entretien
14
L. Baumstark, d'après entretien
15
16
Cf. rapport CERNA, voir interaction homme-machine
17
18
Voir bibliographie

13
II - Deux typologies d'accidents
Dans la discrimination de la situation, une attention particulière est à porter sur
l'information communiquée par les capteurs. Idéalement, on souhaiterait s'affranchir de deux
types de risques : le faux positif et le faux négatif
19
. Le concepteur d'un véhicule ‘autonome’
doit donc choisir entre plus ou moins de faux positif ou négatif
20
. Jusqu'à une autonomie de
conduite de niveau 3, le choix est aisé : le faux négatif est entièrement pris en charge par le
conducteur humain qui doit s'assurer de la bonne évolution du véhicule au sein du trafic ; il
reste donc au constructeur à s'assurer que les capteurs ne détectent pas de faux positif. Les
niveaux d'autonomie 4 et 5 sont beaucoup plus exigeants et nécessitent une réflexion à ce sujet.
Figure 4 - Positionnement sécuritaire au regard des capteurs
La vision actuelle de l'accident impliquant un véhicule en conduite autonome peut être la
suivante (deux typologies d'accidents21
) :
1) La voiture n'a pas réussi sa tâche de conduite autonome
2) L'accident résulte d'une erreur de conduite des autres usagers
II.1. La voiture n’a pas réussi sa tâche de conduite autonome
Afin d'éviter la première situation, une réponse peut être de toujours garder le véhicule
à distance respectable de tout incident22
, quitte à se placer en position de MRM23
: la voiture
s'arrête dans les conditions les plus sûres possibles. Un pareil comportement semble toutefois
difficile à suivre dans un milieu urbain où l'interaction avec les multiples usagers de la route
pourraient rendre tout simplement immobile le véhicule. À cette assertion les industriels
répondent que l'appréhension d'une conduite autonome en milieu urbain sera possible via
l'expérience acquise
24
.
19
- Faux positif : le capteur détecte un écho qui induit une manœuvre d'évitement ou de freinage qui
peut être dangereuse. - Faux négatif : le capteur ne détecte pas un objet pourtant présent.
20
B. Compin, d'après entretien
21
B. Compin, d’après entretien
22
23
Minimal Risk Maneuver, manœuvre à risque minimal résultant en l'arrêt en lieu sûr du véhicule
24

14
II.2. L’accident résulte d’une erreur de conduite des autres usagers
Aussi, une nouvelle interrogation est levée : le véhicule ‘autonome’ doit-il supprimer
plus de risques que ceux introduits par le déplacement des véhicules actuels ? Comment agir
quand d’autres usagers me mettent moi et les autres en danger ? Est-ce à moi de proposer une
solution ?
II.2.a. Une approche juridique
Une approche de la question peut être une approche juridique, qui consiste à déterminer
le comportement du véhicule uniquement au regard de ses responsabilités juridiques, peu
importe la situation dans lequel il évolue et les conséquences de celle-ci. De fait, on pourrait
alors préférer la mort d’une personne à un blessé, si la responsabilité de la voiture ‘autonome’
n'est pas mise en jeu. Ce raisonnement contre-intuitif est guidé par la peur d'une culpabilité
juridique. Illustrons ceci par un exemple : un véhicule ‘autonome’ est contraint de s'arrêter par
un piéton qui émet des signes manifestes du fait qu'il va traverser la route. Dans le même
temps, un camion 'fou' arrive à 100km/h derrière le véhicule. Aucune trajectoire d'échappatoire
n'est possible. Le véhicule doit-il subir l'impact avec le camion ou percuter à faible vitesse le
piéton afin de libérer la voie au camion ? Une approche juridique prône donc la première
solution : en effet, il n'est que de la responsabilité du véhicule de ne pas percuter le piéton
25
.
II.2.b. L’exemple du métro D lyonnais
Pour répondre à cette question, nous avons étudié le cas de la conception de la ligne de
métro D à Lyon, métro automatique à quai ouvert, au regard d’autres métros automatiques à
quai fermé, comme le M14 parisien. De fait, nous souhaitions en particulier voir si l’on doit
profiter de l'automatisation d'une ligne de métro pour empêcher les accidents voyageurs, ce
qui a priori nous semble raisonnable, dans la mesure où l’ensemble des coûts dus à la protection
des voies (portillons automatiques notamment) sont faibles vis-à-vis du coût total de la
structure et de l’économie qu’ils vont permettre (réduction des coûts sécuritaires).
Figure 6 - M14 Parisien (quai fermé)
25
Figure 5 - Métro D lyonnais (quai ouvert)

15
II.2.b.i. Un choix étonnant
D’après D. Mignot, le choix de réaliser en 1992 une ligne automatique à quai ouvert
était une manière forte de montrer les compétences lyonnaises en matière d’innovation. Par
ailleurs il considère que cela n’a aucunement été fait au détriment de la sécurité, étant donné
qu’il existe des systèmes de détection pour les objets de plus de quinze centimètres tombant
sur les voies.
Il est intéressant de noter que le M14 parisien a été réalisé en 1998, ce qui d’après J.P
Le Floch témoigne d’une volonté de sécuriser des transports en commun de plus en plus
marquée.
L’histoire a donné raison au métro D automatique lyonnais qui depuis 25 ans circule et
est devenu » la ligne la plus utilisée du réseau, ouverte de 5h du matin jusqu’à minuit. Toutefois
une pareille constatation a posteriori n’a d’utilité que pour constater l’efficacité et la sécurité
du service proposé. Elle ne résout pas les problèmes que les concepteurs ont à traiter a priori,
et visiblement n’est pas décisive : on remarque d’ailleurs qu’à notre connaissance aucun autre
métro à quai ouvert n’a été construit depuis (dernières extensions du ‘Metromover’ à quai
ouvert de Miami en 1994).
II.2.b.ii. Une entorse à un état de l’art sécuritaire (le métro 1 Lillois)
Dès 1983 à Lille la ligne de métro 1 est automatisée avec sur ses quais la présence de
« portes palières », également appelées « façades de quai ». Le choix réalisé par le Sytral
lyonnais neuf ans plus tard va donc à l’inverse d’une pareille sécurité initialement promue, ce
qui nous semble peu banal. Un exemple ‘classique’ de correction d’équipement technologique
due à un nouvel état de l’art est l’ajout d’un bruitage sonore sur l’ensemble de la gamme
électrique des véhicules Renault. En particulier, les véhicules Kangoo électriques ont reçu le
bruitage sonore après que le véhicule Zoé l’a proposé sur sa version initiale, tandis que les
Kangoo électriques précédentes n’en possédaient pas. De fait, cela semble faire sens : comment
justifier l’absence sur un modèle ultérieur (au sein d’une même entreprise) d’un équipement
technologique qui avait été jugé utile au regard de la sécurité des personnes environnant le
véhicule ?
II.2.c. Un devoir de prévention ?
La question de la responsabilité d’un conducteur vis-à-vis des autres entités qui font
partie de son entourage est tout autre lorsqu’elle est posée pour un véhicule à conduite
autonome. De fait, on peut se positionner en tant qu’‘avocat du diable’ en avançant l’idée
suivante : « Si votre véhicule a des capteurs qui peuvent détecter le déplacement des tous les
piétons et véhicules avoisinants à cinquante mètres, alors pourquoi ne pas calculer en
permanence la probabilité de tel ou tel piéton de traverser subitement la chaussée et de causer
un accident avec votre véhicule ? ». Si c’est effectivement ce qui pourrait être fait avec une
méthode dite des ‘champs de potentiels’, la complexité générée par une telle approche est

16
importante. C’est notamment ce qui entraîne les constructeurs à observer les comportements
(‘le piéton s’approche rapidement de la chaussée’) et non de les présupposer (‘et s’il traversait
maintenant ?’).
Toutefois avec l’évolution des technologies, cela pourrait peut-être devenir un impératif.
À D. Mignot nous avons posé la question suivante : doit-on même aller jusqu'à se poser la
question entre percuter un piéton à gauche, un cycliste avec casque à droite et un cycliste sans
casque tout droit ? Le cas échéant, imagine-t-on quantifier les dégâts pour chacun d’entre eux,
en fonction de notre vitesse ?
« C'est évident que ça doit être fait. Si l'on part sur l’idée d’être omniscient quant à la situation
et d’avoir la possibilité en terme de choix pour limiter l'impact d'un accident inévitable, il faut
évidemment essayer [de quantifier] tous les scénarios possibles]. »
26
II.3. Introduction à la méthode des champs de potentiel
Afin de pouvoir répondre au « devoir de prévention » et à la demande d’omniscience
auquel le public s’attend lorsqu’il considère l’achat d’un véhicule à conduite autonome, il faut
se demander comment le véhicule est capable de ‘percevoir’ son milieu environnant et comment,
à partir de cette information, il se fraye un chemin qui limite au possible l’impact des accidents
susceptibles d’arriver.
Par la suite, nous avons fait le choix de considérer une approche basée sur une méthode
des champs de potentiels
27
avec divers agents détectés par les capteurs d'un véhicule
automatisé. L’idée de la méthode peut être représentée par une image : considérez un terrain
plat, placez de petites montagnes sur celui-ci, votre trajectoire est la même que le lit du fleuve
: vous passez par les moindres potentiels (i.e. au plus loin des entités générant du risque).
26
D. Mignot, d’après entretien
27
G. Tagne, d'après thèse et entretien

17
Figure 7 - Schéma illustratif de l'approche via la méthode des potentiels
Il convient donc d'attribuer des poids aux agents, comme introduit précédemment. En
plaquant la route et les règles de signalisation sur cette carte des potentiels, il ne reste plus
qu'à emprunter (s'il existe) le chemin des plus faibles potentiels dont la dangerosité sera
chiffrée. Le cas contraire, on s'attend à l'immobilisation du véhicule.
Trois difficultés sont alors à prévoir :
1°) Il convient de discriminer correctement la situation. Il faut pouvoir chiffrer le degré
de confiance
28
que l'on attribue à la reconnaissance de la situation par nos capteurs et statuer
quant à son utilisation.
2°) Il faut pouvoir attribuer correctement les poids des agents. Ce point est
particulièrement difficile car il relève de l'éthique comme nous l’avons vu précédemment : on
compare en effet la valeur des autres usagers de la route.
28
B. Compin, voir "Faux positif - Faux négatif" partie II – Deux typologies d’accidents

18
3°) Il faut de plus conserver une complexité raisonnable, les calculs doivent être effectués
en un temps court : ce point ne sera pas traité dans nos recherches.
Dans une pareille méthode, il convient alors de fonctionner de manière globale comme
schématisé ci-dessous :
Figure 8 – Proposition de processus
Base de données
de situations
applicables
Catégorisation d'objet /
Discrimination de la
situation
Itératif en temps
réel : méthode des
champs de
potentiel
Situation
connue ?
Action
Figure 8 -
NonOui
t
t+1

19
III - Comment évaluer les ‘poids-risques’ ?
Penchons-nous sur le cas où nous serions amenés à travailler dans le cadre d'une approche
dite des "champs de potentiels". Il faut donc attribuer des poids-risques aux autres entités qui
sont en interaction avec le véhicule afin de pouvoir créer une représentation de la situation
pondérée des risques encourus et créés par chaque autre utilisateur de l'espace dans lequel le
véhicule évolue. L'approche menée par le projet AVEthics
29
pour l'attribution de poids-risques
est la suivante :
• Établissement de principes généraux et d'un état de l'art en matière de jurisprudence
• Établissement de règles particulières qui appartiennent au paysage de la mobilité
autonome
• Consultation des différents acteurs (appelées "parties prenantes") représentant les
populations concernées
• Élaboration de valeurs "poids-risques" de manière simulée et itérative
• Retour et propositions aux parties prenantes ; validation par la société (typiquement
Conseil National d'Éthique)
L’évaluation algorithmique de poids-risques pour les autres entités de la route nécessite
l’utilisation de critères. Si certains critères comme la vitesse relative ou la distance sont des
critères essentiels pour déterminer la dynamique d’un véhicule à conduite autonome vis-à-vis
des autres utilisateurs routiers, d’autres critères comme la masse pourraient être utiles bien
que difficiles à évaluer. En outre, les autres usagers de la route ne sont pas tous des véhicules,
les piétons par exemple. Et pourtant il faudrait pouvoir trouver des critères pertinents pour
l’évaluation de leur poids-risque. Il convient de préciser que ces critères dépendent évidemment
de la société dans laquelle le véhicule sera amené à évoluer.
Nous nous sommes premièrement demandés si une pareille liste de valeurs morales
communément partagées par la société occidentale avait déjà été éditée. M. Goyon,
anthropologue, nous a dit ne pas en avoir la connaissance. Par ailleurs elle précise qu’elle serait
toujours « partiellement incomplète, et pareillement fausse ». C’est donc dans un pareil
contexte que s’inscrit la recherche de critères subjectifs pour donner une ‘valeur’ à une personne
humaine. Nous souhaitons donc insister sur le robustesse limitée -en espace et en temps- de
pareils critères.
III.1. Une méthode : la Constructive Technology Assessment (CTA)
Le but de la CTA (Schot 1992 ; Rip, Misa, Schot 1995) est de proposer une méthode
faisant un lien entre le contexte de conception et le contexte d’usage d’un produit
technologique, dont l’un des principes est de solliciter l’ensemble des parties prenantes. Nous
citons ici un extrait de Design Ethics and Technological Mediation, de Peter-Paul Verbeek
30
:
29
Voir bibliographie, voir glossaire p.36
30
Voir bibliographie

20
« La méthode CTA est basée sur une vision évolutive du développement technologique. Le
processus de développement technologique est perçu comme générant des ‘variations’ qui sont
exposées à un ‘environnement sélectif’, qui est formé par des parties prenantes comme le
marché et les règlements gouvernementaux. Dans cet environnement de sélection, seules les
variantes ‘les plus adaptées’ survivront. [...] La CTA est vouée à rendre une pareille
confrontation systématique, en donnant régulièrement des retours quant à la technologie en
développement, et ce par tous les acteurs pertinents : les utilisateurs, les groupes de pression,
les concepteurs, les entreprises et cetera – au cours du processus de conception. Ceci est rendu
possible via l’organisation de réunions avec tous les acteurs concernés dans le but de parvenir
à un consensus sur la conception de la technologie qui est ‘évaluée de manière constructive’. »
En particulier, il nous a semblé qu’un bon exemple d’utilisation de la CTA était celui du projet
AVEthics, introduit précédemment.
III.2. Concerter les parties prenantes
Nous venons de voir qu’il semble de fait important de se concerter avec les parties
prenantes afin que chacune puisse faire connaître son point de vue et participer à une réflexion
globale qui puisse mener à des choix qui résultent d’un consensus. Mais comment mener une
pareille discussion ?
Selon Habermas31
, il n’y a pas d’éthique en soi, l’éthique est définie par le groupe, et
naît de la procédure dialogique (temps de paroles paritaires, diversité des points de vue, des
catégories sociales, fonctions) : de nombreuses règles sont imposées pour la discussion. L’espace
se doit d’être neutre et d’autoriser les minoritaires à parler. « C'est un tel processus vertueux
qui permet d’accéder, via le consensus des opinions, à un état d'équilibre à valeur éthique ».32
L’éthique de la discussion d’Habermas s’attaque à l’éthique de la conviction ( qui veut que ‘je
parte de mes convictions pour juger un fait’ ) : c’est grâce à un pluralisme d’opinions que l’on
arrivera à construire une éthique responsable.
33
Par ailleurs, nous insistons sur le fait que
l’approche Habermassienne de la discussion doit pouvoir mener à un consensus, et non pas
seulement à un compromis, comme Rawls le propose (étayé ci-après).
De plus en plus les citoyens, grâce à une forte connectivité et une ubiquité de
l’information, sont au courant des évolutions à venir, notamment celles qui affecteront leur
mode de vie. Ils sont alors demandeurs pour faire partie du processus d’élaboration de ces
transformations, modelant le principe de « démocratie participative ». Une consultation
publique en amont des grands projets semble aujourd’hui indispensable : un exemple criant
d’un manque de consultation de la population est la construction de l’aéroport du ‘Grand
Ouest’ (Notre–Dame-des-Landes, 44) annoncé dès 1970, pour lequel mi-2016 le gouvernement
français recourt à une pseudo-consultation des citoyens, ‘pseudo’ de par ses critères flous : « Le
périmètre retenu n'était pas le bon, la question était mal posée et le dossier fourni au public
31
Penseur de l’Ethique de la discussion (Diskursethik)
32
M. Goyon
33
Inspiré du cours d’éthique de S. Carvallo, Ecole centrale de Lyon 2016-17

21
ne permettait pas de comprendre ni de comparer les conséquences des options envisageables. »
dénoncent des ONG comme France Nature Environnement (FNE). Si les organismes étatiques
tardent à embrasser cette possibilité, les entreprises privées s’engagent de plus en plus dans
cette direction. Que ce soit via des plateformes de ‘crowdsourcing’ (a.k.a. ‘externalisation
ouverte’ ou ‘production participative’) comme innocentive.com, ou via l’organisation de
‘hackathons’, les entreprises montrent leur volonté d’associer le public à la conception.
Dans Agir dans un monde incertain – Essai sur la démocratique technique
34
, les auteurs
prônent de même une démocratie dialogique (opposée à la démocratie délégative) et
participative : c’est dans ce nouveau climat social ouvert à la concertation et au débat que
prennent place les ‘forums hybrides’, lieux de rencontre des scientifiques et experts avec la
population et les politiques afin de débattre des controverses socio-techniques.
III.3. Un critère éthique possible : principe du maximin
Dans le projet AVEthics, un des principes généraux retenu est celui du maximin35
(également
appelé minimax) : maximiser l'intérêt du plus vulnérable et non du plus grand nombre (éthique
utilitariste). Ils préconisent également, lors de la consultation des parties prenantes, que les
discussions soient menées sous les règles de la casuistique, pour laquelle Rawls défend :
1. La prise en compte des intérêts de chacun dès lors qu'il peut être affecté par la
norme/décision examinée
2. Que le jugement que lesdites personnes posent sur la norme doivent être prises en compte
Chacun pourra aisément constater que le principe du maximin est déjà appliqué dans
nos sociétés : les sièges réservés aux personnes handicapées et aux femmes enceintes
dans les bus, tout comme l'assertion « les femmes et les enfants d'abord » en sont de
bons exemples. Toutefois, on notera la difficulté de la consultation, en particulier de la
constitution des "parties prenantes" : elles doivent avoir une haute conscience de leurs
responsabilités. À ce propos nous citerons à juste titre J. Perrin : "Ceux qui en font
partie ne sont pas choisis au hasard, ils représentent une pluralité des points de vues
mais ont chacun une responsabilité. On ne vise pas la perfection mais quelque chose
qui soit acceptable par le plus grand nombre et éthiquement conforme. [...] L'éthique,
ce n'est pas la moyenne des comportements des gens."
36
NB : Rawls dans sa Théorie de la Justice parle d’inégalités d’ordre socio-économique dont il
accepte l’existence si celles-ci sont au bénéfice des plus défavorisés (principes de différence), à
condition qu’elles ne diminuent pas l’égalité des chances. Selon lui, il y a toujours priorité
lexicale de l’égalité des chances sur le principe de différence.
34
M. Callon, P. Lascoumes, Y. Barthe ; voir bibliographie
35
Notion introduite par Rawls, Théorie de la Justice
36
J. Perrin, d'après entretien

22
III.4. Quelques critères privilégiés dans d’autres secteurs
Il nous a semblé pertinent de s’intéresser aux critères utilisés dans certains domaines
pour juger de l’état, ou de l’intérêt accordé à une personne.
III.4.a. Chez les sapeurs-pompiers
Dans le cadre d’une intervention sur un accident de la route, les sapeurs-pompiers
37
établissent un diagnostic rapide de l’état des personnes accidentés. Ce diagnostic permet de
différencier une urgence relative d’une urgence vitale. Une personne en urgence vitale sera prise
en charge de suite (massage cardiaque nécessaire par exemple) tandis qu’une urgence relative
(fracture par exemple) sera traitée plus tard. Ceci peut être vu comme un choix déterminé
autour d’une logique du maximin. Par ailleurs, le nombre de sapeurs-pompiers intervenant sur
l’accident est important : un sapeur-pompier ne pouvant s’occuper que d’une personne.
Il est intéressant de noter que les sapeurs-pompiers n’ont pas autorité pour juger du décès
d’une personne (excepté cas évident). Par ailleurs, si les victimes sont toutes dans le même
état de santé et d’accessibilité alors ils travaillent par âge croissant. On retrouve ici un critère
comparable à celui proposé par L. Baumstark et D. Mignot quant au nombre d’années de vie
en bonne santé restant.
III.4.b. Indemnisation des victimes d’aléa thérapeutique
L’ONIAM (Office National d’Indemnisation des Accidents Médicaux) publie un
référentiel indicatif d’indemnisation
38
pour les « victimes d’aléa thérapeutique - ou leurs ayants
droit en cas de décès - autrement dit, les victimes d’accidents médicaux pour lesquels la
responsabilité d’un acteur de santé n’est pas rapportée. ».
Ci-dessous nous avons relevé les critères qui dépendaient de la personne victime des aléas
thérapeutiques :
• La perte de gains professionnels futurs, « évaluée à partir des éléments de faits »
• Incidence de l’accident sur le montant de la pension retraite
• Préjudice scolaire, universitaire ou de formation, « fonction du niveau d’étude de la
victime »
• Perturbation de la vie familiale ou sexuelle
• Souffrance endurée
• Incapacité d’indépendance motrice, tabulée en fonction de l’âge, du sexe et de la
gravité
39
37
D’après entretien téléphonique avec la caserne de sapeurs-pompiers de Marcy-Charbonnières (69260)
38
Voir bibliographie, document daté du 1er
Janvier 2016
39
Les valeurs utilisées par la suite pour construire les graphes sont disponibles en annexes

23
III.4.b.i. Indemnisation des victimes d’aléa thérapeutique en fonction de l’âge
Pour l’incapacité d’indépendance motrice (dit ‘déficit fonctionnel permanent’, DFP), nous
avons tabulé l’indemnisation en fonction de l’âge et du DFP (pour les hommes) d’après les
valeurs fournies par le tableau de l’ONIAM.
Figure 9 - Indemnisation en fonction de l'âge
On constate ici que, à DFP égal, l’indemnisation sera d’autant plus importante que la
victime est jeune (chaque trait correspondant à un âge de la victime). Par ailleurs, on constate
que les relations ne sont pas proportionnelles (i.e. le coût généré par la perte de mobilité pour
une année, à DFP égal, n’est pas indemnisé de la même manière en fonction de l’âge de la
victime).
On vérifie cela en calculant l’indemnisation reçue, ramenée en indemnisation annuelle,
en fonction du nombre d’années de vie restantes moyen (tabulée sur l’espérance de vie en
France
40
: pour un homme 78,9 ans, 85 ans pour une femme).
Figure 10 - Indemnisation annuelle au prorata des années de vies "restantes "
40
INSEE, 2016
0
100000
200000
300000
400000
500000
600000
5 15 25 35 45 55 65 75 85 95
Montantdel'indeminsation(€2016)
% du DFP
Indemnisation de la perte de mobilité fonction
de l'âge et du DFP (pour les hommes)
10 ans 20 ans 30 ans 40 ans 50 ans
60 ans 70 ans 80 ans 90 ans 100 ans
0
5000
10000
15000
20000
25000
5 15 25 35 45 55 65 75 85 95
Indemnisationparanrestant(€2016)
% du DFP
Indemnisation d'une année (pour les hommes)
10 ans 20 ans 30 ans 40 ans

24
De la figure 10 ci-dessus nous concluons que, à taux du DFP égal, une victime de 70
ans recevra une indemnisation annuelle double de celle d’une victime de 60 ans. Ces calculs
sont basés sur un décès de ces deux victimes à l’âge de 78,9 ans (espérance de vie en France).
Par conséquent, pour le préjudice subi, les deux victimes toucheront environ la même somme
(la victime de 60 ans légèrement plus), mais ramenée aux années de vie restantes, la victime
de 70 ans recevra deux fois plus d’indemnisation pour combler sa perte de mobilité.
III.4.b.ii. Indemnisation des victimes d’aléa thérapeutique en fonction du sexe
Les données de l’ONIAM étant tabulées en fonction du sexe, nous avons souhaité
comparer les rapports des indemnisations attribuées aux femmes par rapport à celui attribué
aux hommes, en fonction du DFP et de l’âge. Les résultats sont donnés dans le graphe suivant :
Figure 11 - Quotient sexué de l'indemnisation
De la figure 11 ci-dessus nous en déduisons que les femmes entre cinquante et soixante
ans atteignent leur pic ‘d'importance’ par rapport aux hommes, à âge égal – les femmes étant
mieux indemnisées que les hommes-. Nous proposons deux hypothèses pour justifier ceci :
1) C’est autour de 50-60 ans que l’état de santé moyen des femmes est le meilleur par
rapport aux hommes, à âge égal
2) L’indemnisation prend en compte le nombre d’années de vie restantes moyen, donc
l’écart entre les espérances de vie des hommes et des femmes (6,1 années)
Pour vérifier cette seconde hypothèse, nous avons le quotient de l’indemnisation annuelle
des années de vie restantes des hommes par rapport à celui des femmes. Les résultats sont les
suivants :
1
1,02
1,04
1,06
1,08
1,1
1,12
1,14
1,16
10 20 30 40 50 60 70 80 90 100
Indeminsationfemme/homme
Âge de la victime
DFP : 5% 15% 25% 35% 45%
55% 65% 75% 85% DFP : 95%

25
Figure 12 - Quotient sexué au prorata des années de vies "restantes"
De la figure 12 ci-dessus nous concluons que, à âge et taux du DFP égal, une victime
homme recevra une indemnisation annuelle, au prorata de ses années de vie restantes toujours
supérieure à celle d’une victime femme. Les fortes valeurs que l’on trouve pour les victimes de
70 ans s’expliquent ainsi : les victimes femmes vont recevoir une indemnisation totale
légèrement supérieure à l’indemnisation des victimes hommes, mais devront vivre avec cette
indemnisation en moyenne 15 ans, tandis que les hommes décéderont en moyenne 7,8 années
plus tard.
NB : Il convient de reconnaître que ces derniers calculs montrent uniquement que
l’indemnisation par l’ONIAM relative au DFP ne dépend pas simplement du nombre d’années
de vie restantes, ce qui toutefois aurait pu justifier le fait qu’à âge et DFP égal, les femmes
sont mieux indemnisées que les hommes.
III.4.b.iii. Conclusions quant à l’indemnisation assurée par l’ONIAM
Nous constatons que la classe socio-professionnelle de la victime rentre largement en
jeu dans le calcul de l’indemnisation, vis-à-vis notamment des gains professionnels et du
préjudice de formation. Par ailleurs, l’âge et le sexe de la victime sont deux données
importantes. Cependant l’indemnisation relative à la perte de mobilité semble être plus pensée
comme un dédommagement indemnisant l’accident en lui-même et non comme un moyen de
couvrir les frais engendrés par cette perte de mobilité, au regard du calcul de l’indemnisation
annuelle sur les années de vies restantes ; ce qui est un peu troublant.
1
1,1
1,2
1,3
1,4
1,5
1,6
1,7
10 20 30 40 50 60 70
Quotienthomme/femme
Âge
DFP : 5% 15% 35% 55% 75% DFP : 95%

26
III.4.c. Indemnisation des soldats blessés en opération
Dans le guide « Après le décès » (Ministère de la défense, édition consultée : 2010) sont
présentées les conditions d’indemnisation –on parle de délégation de solde- du décès d’un
militaire en fonction.
NB : Au travers du document se dégage en particulier un accent mis sur le régime
matrimonial : les concubins n’héritent pas l’un de l’autre –il s’agit donc d’une reconnaissance
de la légitimité du couple-. Le PACS et le mariage donnent droit eux au même traitement.
1) Le capital décès des militaires :
• Correspondant à une année de solde, plus 3% de l’indice net 450 par enfant, soit environ
720€ par enfant.
• Circonstances particulières : « Ce montant peut être triplé si le militaire est décédé
à la suite d’un attentat, d’une lutte dans l’exercice de ses fonctions, d’un acte de
dévouement. »
2) Le capital décès des fonctionnaires :
• Si le fonctionnaire a moins de 60 ans : le capital décès est égal à une année de solde,
plus 3% de l’indice net 585 par enfant (soit environ 970€ par enfant)
• Si le fonctionnaire a plus de 60 ans : le capital décès est égal à 3 mois de salaire, plus
3% de l’indice net 585 par enfant (soit environ 970€ par enfant)
3) Pour les militaires décédés ou disparus en OPEX (opération extérieure)
• Il s’ajoute une délégation de solde d’office principale (D.S.O.P) et complémentaire
(D.S.O.C) qui correspondent respectivement à un versement ponctuel de 3 mois de
solde « OPEX » (solde de base majorée) et à une demi-solde mensuelle « OPEX »
versée durant 3 ans.
4) Fond de prévoyance
• La valeur reversée dépend de « la catégorie de personnel, [de la] situation familiale,
[et des] circonstances du décès. »
• Le montant reversé du fond de prévoyance est différent selon que les ayants-droits
sont uniquement les ascendants ou non (auquel cas le montant est divisé par 10).
5) Capital décès-invalidité de l’Uneo (mutuelle des forces armées)
• Capital de 4150€ si le décédé avait moins de 65 ans, de 2000€ le cas contraire.
• Ce capital est doublé si la cause du sinistre est accidentelle.
6) Pension de réversion du régime général de la sécurité sociale
• « Si le défunt a été marié plusieurs fois, la pension de réversion peut être partagée
entre le conjoint et le(s) ex-conjoint(s), que ces derniers soient divorcé(s), remarié(s),
vivant maritalement ou pacsé(s). S’ils remplissent les conditions pour percevoir la
pension de réversion, la part de chacun est calculée au prorata de la durée de mariage

27
avec le défunt. L’âge minimum requis pour percevoir la pension de réversion est porté
à 55 ans depuis 2009. Pour l’ouverture des droits, les ressources de la personne ou du
ménage ne doivent pas dépasser un plafond, revalorisé chaque début d’année. En 2010
:
- 18 428,80 € pour une personne seule ;
- 29 486,06 € pour une personne remariée ou ayant une vie maritale (partenaires
liés par un PACS ou concubins). »
- 54% de la pension principale dont bénéficiait ou aurait bénéficié le défunt. Le
montant minimum est à 3 193,90 € (pour l’année 2009) ;
- Elle est majorée de 10% si le conjoint survivant a eu ou élevé trois
enfants »
7) Pension de réversion d’un militaire
• « Elle est attribuée au conjoint marié survivant ou à l’ex-conjoint non remarié d’un
personnel ayant obtenu ou qui aurait pu obtenir une retraite (15 ans de service). Aucune
condition de ressource ni d’âge n’est exigée mais le mariage et sa durée conditionnent
le droit. Ce droit est reconnu dès qu’un enfant est issu du mariage ou si le mariage,
contracté avant ou après la cessation d’activité, a duré au moins quatre ans. »
• « Les ascendants du militaire décédé peuvent également bénéficier de la pension
militaire d’invalidité sous conditions d’âge (55 ans pour la mère et 60 ans pour
le père) et de ressources (ne pas être imposable sur le revenu ou ne l’être que
faiblement). »
8) Autres avantages
• Carte SNCF : Le tarif est le même que celui qui était accordé au militaire décédé
(principe dit du « quart de place » soit 75% de réduction) et valable sur l’ensemble du
réseau SNCF. Les classes autorisées sont les suivantes :
- Ayants droit d’un officier : 1ère ou 2ème classe ;
- Ayants droit d’un sous-officier : 1ère ou 2ème classe ;
- Ayants-droit d’un militaire du rang ou d’un volontaire : 2ème
classe.
• Caisse d’Allocation Familiale (CAF) : à propos de la location d’un appartement non
attribué par le ministère de la défense
« De par la loi du 6 juillet 1989, en cas de décès d’un des membres d’un couple, le
contrat de location continue si les deux noms se trouvent sur le bail. Dans le cas
contraire, la transmission du bail au nom du conjoint survivant est effective au profit
du :
- Conjoint marié ;
- Partenaire lié par un pacte civil de solidarité (PACS) au défunt ;
- Concubin (et ascendants ou descendants) qui vivait avec le défunt
depuis au moins un an. »

28
III.4.c.i. Résumé des critères utilisés pour l’évaluation de l’indemnisation de militaires décédés
• Situation maritale
• Situation professionnelle (grade) avant décès
• Acte "héroïque" / situation particulière
• Statut de parent et nombre d'enfant (différemment valorisé)
• Décès en OPEX ou non
• Âge inférieur ou non à 60 ou 65 ans
• Cause accidentelle du décès
Du coté des ayants-droits :
• Si ascendants uniquement : solde divisée par 10
• Dépend des revenus des ayants-droits
• Solde majorée si le conjoint a eu ou élevé au moins trois enfants
• Age minimum de l'ayant-droit (55ans pour la mère, 60 ans pour un père)
• Durée minimale de mariage pour la pension de réversion (quatre années)
• Durée minimale de vie commune pour la CAF (une année)
III.4.c.ii. Conclusions concernant l’indemnisation du décès d’un militaire
Nous notons encore une fois l’importance primordiale de la situation professionnelle
(ici le grade). En ce qui concerne les aspects spécifiques au métier de soldat, l’acte héroïque ou
une situation particulière (décès en OPEX ou lors d’une action visant à contrer un acte
terroriste par exemple) sont des critères qui influent largement sur l’indemnisation. La valeur
de l’indemnisation est également fonction du statut marital et du nombre d’enfants du défunt.
De ce qui précède rien n’est a priori surprenant : on aide les proches du défunt à
maintenir leur niveau de vie le temps qu’ils puissent ‘se reconstruire’. Toutefois, d’autres
critères peuvent surprendre : l’existence d’un âge charnière (parfois 60, parfois 65 ans)
modifiant largement la valeur de l’indemnisation (fonction du sexe, pour les ayants-droits par
ailleurs) ; la durée minimale d’un mariage ou de vie commune ; le nombre d’enfants élevés
(supérieur ou égal à 3). Autant de critères qui nous échappent à première vue. Quand bien
même ils seraient justifiés, pourquoi les différentes institutions ne tombent-elles pas sur les
mêmes valeurs ‘charnières’ utilisées ? Ceci montre que ces institutions émettent leurs critères
sur des valeurs pour lesquelles elles n’accordent pas le même intérêt alors même qu’elles ont le
même but : indemniser un décès. Par là elles expriment leur éthique, tout en donnant un aperçu
de la morale qu’elles soutiennent.

29
III.4.e. Conclusion
Il semblerait donc que, dans la société française, sont considérés entre autres comme des
critères importants :
• L’âge
• Le sexe
• Le statut marital
• Le rôle de parent
• La situation professionnelle
• Le statut exceptionnel de l’événement déclencheur
Ces critères témoignent de l’époque et de la société dans laquelle ils sont utilisés. Notre
intention n’est pas de considérer ces critères comme nécessaires pour régir l’éthique d’un
véhicule ‘autonome’. Le lecteur aura par ailleurs pu noter les multiples réserves que nous avons
soulevé à propos de la pertinence de tels critères dans les pages qui précèdent, le but de ce
paragraphe étant de se questionner quant à la robustesse de ceux-ci.
IV – Actualités et prospective
IV.1. Juridiction actuelle, juridiction future
Il convient de s’interroger sur la juridiction à mettre en place concernant les véhicules
‘autonomes’, et c’est sur ce point précis que se concentrent bon nombre d’interrogations. D’un
point de vue technique, il est dès aujourd’hui possible de développer des véhicules de niveau 3,
et ce ne sont pas des questions techniques qui freinent aujourd’hui le développement de
véhicules de niveau 4 ou 5, mais bien la juridiction, le système d’assurance et les grandes
orientations en terme de gestion du risque qui sont à mettre en place. La convention de Vienne
n’autorise aujourd’hui sur le marché européen que des véhicules de niveau 2, basés sur un
principe « eyes on, hands off », c’est à dire que le conducteur doit surveiller le comportement
de la conduite déléguée qu'il engage : il en reste donc responsable. En revanche, pour des
véhicules plus ‘autonomes’, qui doit être responsable en cas d’accident ? Est-ce le conducteur
? Cela semble complexe étant donné qu’il a totalement délégué la gestion de la conduite au
véhicule. Serait-ce donc la responsabilité du constructeur qui a programmé le comportement
du véhicule ? Là encore, cela semble compliqué. Un constructeur a-t-il intérêt à produire un
véhicule pour lequel il sera responsable de chaque situation accidentogène ?
IV.2. Un exemple français de véhicule à conduite autonome à sortir
Le constructeur français Renault mène actuellement des recherches sur une technologie
de niveau 4. L'idée est de développer
41
des véhicules qui puissent être totalement ‘autonomes’
sur des autoroutes certifiées, et ce dans le cas de conditions météo favorables. Ainsi, si le
41

30
conducteur est responsable du comportement de son véhicule en temps normal, dès qu’il se
trouve dans les bonnes conditions, il peut appuyer sur deux boutons et passer en mode
“conduite autonome”. Le cas échéant, le constructeur se porte garant du fonctionnement du
véhicule et il serait ainsi responsable en cas d’accident. Dans le cas où des travaux ou un
accident en amont sur la voie sont à prévoir, le véhicule prévient le conducteur une minute
avant et lui laisse reprendre la conduite. S’il ne réagit pas, le véhicule s'arrête dans les
conditions les plus sûres possibles. Renault souhaite ainsi éviter d'avoir dès à présent à se poser
des questions éthiques trop complexes à résoudre, en se focalisant sur des situations maîtrisées.
La législation va devoir évoluer ; il reste en amont à résoudre ces questions complexes avant
que des véhicules plus ‘autonomes’ -niveau 5 particulièrement- investissent le marché de la
mobilité, mais l’on peut remarquer que les industriels mettent déjà en œuvre des solutions pour
des véhicules à ‘autonomie’ restreinte. Toutefois le chemin est encore long : pour le moment
les équipes réfléchissent encore à ces questions uniquement entre ingénieurs, ergonomes et
représentants du souhait client, sans formation éthique ou sociale particulière. L’avis est forgé
à partir de l’expérience accumulée, des ‘use cases’ et des bases de données de situations de
conduite, classiques et à risques. Certaines questions font même l’objet de débats résolus par
la réglementation. « Par exemple, dans une situation jugée dangereuse où le conducteur
souhaite reprendre en main le véhicule tandis que l’on estime que ça sera pire s’il le fait que
s’il laisse le mode autonome enclenché : la réglementation oblige à obéir aux ordres du
conducteur, même s’ils ne sont pas sensés. ». 42
Ce dernier point est intéressant : c’est la
législation qui affirme que ‘l’homme a le dernier mot’ tandis que les concepteurs ont plus foi
en la machine qu’ils conçoivent qu’aux clients qui la conduiront.
IV.3. Performances des capteurs et limites
X. Chalandon43
, raisonnant quant à des durées temporelles permettant l'analyse de la
situation, de décision et de temps d'action, estime qu'il faudrait entre 2 secondes (minimum)
et 12 secondes (durée sereine) pour la réintégration d'un conducteur humain derrière le volant
d'un véhicule en mode conduite autonome. Aussi, il en conclut : "human cannot be a reliable
emergency safety net of the AD system" ("L'homme ne peut être un filet de sauvetage en cas
d'urgence pour un système de conduite automatisé").
Par ailleurs, on peut se poser la question de la bonne compréhension de la situation par
l'humain, au regard des performances des capteurs embarqués
44
(LIDARS notamment, avec
une portée de 120m) qui permettent d'appréhender de multiples agents (360° de perception)
même là où l'œil ne permet pas de voir (au-delà de la voiture devant soi). On citera notamment
B. Compin : "Les capteurs sont cent fois plus performants que l'humain"
45
[en matière de
perception].
42
43
« « Some » Human Factors safety issues for autonomous driving », voir bibliographie
44
45

31
IV.4. Transparence des algorithmes
Dans le chapitre “Why Ethics Matters for Autonomous Car” de Autonomous Driving -
Technical, Legal and Social
46
, P. Lin rappelle que les membres de l’Institute of Electrical and
Electronics Engineers (IEEE) se font le serment de ne pas différencier les personnes selon
quelque critère de race, de religion, de sexe, d’handicap, d’âge, de nationalité, et d’orientation
sexuelle : en somme, aucun critère indépendant de l’action ou des dires d’une personne ne
permet de préjuger de celle-ci. Par là nous en concluons que l’IEEE ne se permet pas de faire
des calculs quant à des situations où les issues sont toutes négatives, comme celles présentées
dans les expériences du MIT.
P. Lin souhaite lui néanmoins réfléchir quant aux situations où l’accident est inévitable :
il préconise alors le recours à des algorithmes de « crash-optimization » e il écrit alors : « que
ce soit en ingénierie ou en philosophie, le défi majeur d’une pareille approche repose sur sa
fonction de calcul des coûts [developing an appropriate cost function] ». Le but de la voiture
est-il de protéger ses occupants, et rentrer alors en collision avec l’entité la plus légère, ou de
protéger autrui et de sacrifier la voiture ‘autonome’ et ses occupants ? Entre ces deux extrêmes
se construit une large palette de choix pour l’optimisation des conséquences de l’accident (qui
seront différentes selon l’éthique à laquelle l’on se reconnaît le plus) mais dans tous les cas, il
est intéressant de constater que l’on peut assimiler cet algorithme particulier à un « targeting
algorithm »
47
. Il faut se rendre compte que les choix faits impactent tous les acteurs et que ma
manière d’appréhender la sécurité n’est pas forcément celle d’autrui. P. Lin donne un exemple
pour nous éclairer, ici reformulé et traduit en français : « Un véhicule ‘autonome’ n’a pas
d’autre choix que de percuter un cycliste sans casque plutôt qu’un cycliste avec casque. Les
concepteurs du véhicule (utilitaristes) ont pensé que le choc avec un cycliste avec casque
engendrant moins de dégâts, c’est le choix à préférer ». Les concepteurs ont donc introduit ici
un aléa moral poussant les cyclistes à ne pas porter de casque.
Aussi, il doit y avoir une transparence dans le comportement éthique du véhicule.
Entendons-nous : cela ne veut pas dire que les scripts des algorithmes doivent être consultables,
mais bien que le comportement résultant d’un véhicule doit être compréhensible et que les
choix qui ont résulté des algorithmes portent sur des constructions et réflexions éthiques claires,
dont les parties prenantes sont explicitement mentionnées et les décisions accessibles au grand
public. En outre, nous pensons que c’est un élément essentiel de la bonne commercialisation et
du lien de confiance constructeur-client. Qui achèterait un véhicule dont il ne sait pas si celui-
ci le sacrifierait à coup sûr ?
46
Voir bibliographie
47
‘Algorithme de ciblage’ (FR)

32
Il existe un point avec lequel nous sommes en désaccord avec P. Lin : il suggère aux
entreprises « d’éduquer »
48
la société quant aux risques que les personnes pourraient subir
quand bien même elles ne se servent pas des véhicules ‘autonomes’, en leur expliquant que
« peut-être » cela est justifié par l’augmentation globale de la sécurité. Nous pensons que ce
n’est pas à la société de subir les accidents engendrés par les véhicules ‘autonomes’. Si encore
aujourd’hui c’est l’infortune qui crée des victimes collatérales lors d’accidents de la route, nous
ne pensons pas que délibérément les concepteurs des futurs véhicules ‘autonomes’ peuvent nier
leur responsabilité sous couvert de l’apport d’un plus grand bien commun.
Finalement, P. Lin propose une relecture des lois d’Asimov dans le cas où l’on prônerait
la vie humaine et les usagers les plus vulnérables :
1. Un véhicule ‘autonome’ ne doit pas rentrer en collision avec un piéton ou un cycliste.
2. Un véhicule ‘autonome’ ne doit pas rentrer en collision avec un autre véhicule, sauf si
c’est pour éviter une collision qui remettrait en cause la première loi.
3. Un véhicule ‘autonome’ ne doit jamais rentrer en collision avec quoi que ce soit, sauf
si c’est pour éviter une collision qui remettrait en cause la première loi ou la deuxième
loi.
Bien sûr nous trouvons ces propositions trop réductrices, notamment au regard de la
réflexion éthique qu’elles masquent (voire empêchent) et des solutions qu’elles n’offrent pas
aux problèmes dont les issues sont toutes négatives, largement présentées précédemment.
IV.5. Une approche socio-économique
On a vu précédemment qu’il pouvait être nécessaire de se tourner vers la société et les
personnes qui la composent afin de penser et construire au mieux un véhicule ‘autonome’ (il
va sans dire quant aux questions d’acceptabilité). Aussi, une méthode de consultation de la
société est celle par sondage, usuellement employée comme aide aux calculs socio-économiques.
Dans une volonté d'attribuer une valeur à une entité, trois logiques
49
peuvent être déployées :
1. La première méthode est celle de la logique de coûts. Cela revient à regarder les coûts
engendrés par un accident, à s’appuyer sur ces éléments et à regarder ce qui peut être
valorisé si l’accident est évité et l’on aboutit à une valeur chiffrée. Cela est en pratique
assez insatisfaisant et pose un certain nombre de problèmes.
2. La seconde correspond à une logique macroéconomique, et s’intéresse au capital humain
et à ce que représente la perte d’une personne. Cette logique étant très reliée à la perte
48
“Industry may do well to set expectations not only with users but also with broader society,
educating them that they could also become victims even if not operating or in a robot car,
and that perhaps this is justified by a greater public or overall good.”
49
L. Baumstark, d'après entretien

33
d’un élément de production, elle pose des problèmes de philosophie politique.
3. La troisième démarche s’intéresse à la consultation des préférences des individus, elle
permet de déterminer leurs préférences et la valeur qu’ils sont prêts à engager pour une
action, à la fois par des enquêtes sur les marchés connexes, ce qui revient à regarder
comment les choses se passent en pratique, mais aussi en recourant à des enquêtes
d’opinion. La consultation par enquête d'opinion est difficile car il faut en éliminer les
biais, et garder à l'esprit qu'il y a une différence à faire entre le comportement privé
(comment j'agis pour moi) d'une opinion et sa valeur collective (agirais-je de même
pour quelqu'un d'autre ?). Cela est d’autant plus vrai en matière de sécurité routière.
Dans l’éventualité d’évaluer une situation à l’aide de critères socio-économiques, nous
avons interrogé L. Baumstark et D. Mignot à propos de la valeur statistique de la vie humaine,
évaluée par le rapport dit « Quinet 2013 »50
: « On compte le nombre de décès sur les routes,
on compte le nombre de blessés, et on leur affecte un chiffre (3M€ pour les morts, quelques
centaines de milliers d'euros pour les blessés graves, encore moins pour les blessés légers), et
ce quel que soit leur âge […]. Ça ne veut pas dire que la vie humaine vaut 3M€, mais c’est la
valeur que l'Etat est prêt à prendre en compte dans ses calculs pour valoriser la vie humaine ;
c’est une valeur tutélaire). Ça repose sur des calculs et des études […], mais avant tout un
choix politique. »51
Ainsi, à partir du moment où une politique permettant de sauver n vies
peut-être entreprise pour moins de 3n M€, elle devrait l’être.
Ils souhaitent par ailleurs continuer leurs recherches en s’intéressant aux années de vies en
bonne santé -si l’on évite l’accident-, qui, de fait « donne plus de poids aux jeunes qu'aux
vieillards. ». Même s’il semble exister un biais quant à cette approche, en remarquant que cela
peut dépendre des sociétés, ce qu’explique D. Mignot :« Ça dépend également des sociétés.
Dans celles à démographie galopante, la jeunesse n'est pas forcément une vertu. »
Toutefois ils reconnaissent tous deux que « raisonner sur des critères d'années de vie en bonne
santé est donc pour nous bien meilleur que de compter le coût des décès, mais est loin d'être
suffisant dans l'idée de prendre une décision. »
Par ailleurs, une démarche intéressante est entreprise dans le domaine de la santé. A
partir d’un certain nombre d’indicateurs, on peut pondérer le nombre d’années de vie par la
qualité de vie (mobilité, souffrance, capacité à effectuer les gestes de la vie quotidienne…), et
ainsi caractériser un état de santé, de façon numérique. A partir de ces coefficients, on peut
alors établir le gain obtenu à partir d’une action entreprise (protocole thérapeutique ou
médicamenteux par exemple) et élaborer un modèle coût-efficacité qui rapporte l’effet de
l’action à son coût :
50
L'évaluation socioéconomique des investissements publics, Septembre 2013, voir bibliographie
51
D. Mignot, d’après entretien

34
« [Il est recommandé] l’introduction d'un QALY (quality-adjusted life year) pour les projets
pour lesquels l’impact sur la santé est important, d’établir des ratios coût-utilité dans les études
de manière à isoler l’effet santé sur les autres dimensions du projet en faisant apparaître des
indicateurs du type euro par QALY gagné, en développant les recherches pour construire une
référence française. »
52
En sécurité routière, cette question n’est pas abordée de cette façon, et l’on ne peut de
toute façon pas toujours mesurer l’impact d’une action, l’impact de la prévention en milieu
scolaire étant difficile à évaluer par exemple.
Une autre question importante est celle du partage du risque
53
. De fait, lorsque l’on
regarde les décisions politiques qui ont été prises, on remarque qu’au prorata du nombre de
vies sauvées, les investissements de sécurité sont bien plus importants pour le transport collectif
que pour le transport individuel (atteignant un rapport d’un pour mille pour le rapport
transport ferroviaire/transport routier individuel par exemple)54
. On peut ainsi mentionner les
dépenses faites dans tous les tunnels de France, pour un nombre d'accidents limité. Le partage
du risque, c'est considérer que lorsque l'on prend sa voiture, on internalise le risque que l'on
subit, et la collectivité intègre le fait que la prise de risque est internalisée dans le
comportement. On peut d'ailleurs avoir des prises de risque inconsidérées à la suite
d'aménagements censés améliorer la sécurité (exemple d'un prévenu qui accusait l'État de
construire des routes qui incitaient à rouler plus vite).
Par contre, dans le transport collectif, on accepte de transférer totalement sa sécurité à un
tiers. On a donc besoin d'une garantie extérieure, à travers la réglementation ou la formation,
de cette sécurité, ce qui peut expliquer en partie l'augmentation de la valeur statistique de la
vie humaine dans ces cas-là.
52
L'évaluation socioéconomique des investissements publics, Septembre 2013, voir bibliographie
53
L. Baumstark, d’après entretien
54
L. Baumstark, d’après entretien

Le véhicule autonome; une approche éthique de la sécurité

Le véhicule autonome; une approche éthique de la sécurité

Recommandé

Recommandé

Contenu connexe

Similaire à Le véhicule autonome; une approche éthique de la sécurité

Similaire à Le véhicule autonome; une approche éthique de la sécurité (20)

Le véhicule autonome; une approche éthique de la sécurité