Véhicules autonomes et discrimination

All over the world
International lawyers’ network specialized in digital and emerging technology law
Véhiculesautonomes et discrimination
Alexandre Cassart (Lexing Belgium)

www.lexing.network

www.lexing.network
Plan
Véhicule autonome : Point sur la question et prospectives
Le dilemme du tramway – L’expérience « Moral machine » du MIT - CNRS
Les véhicules autonomes dans la proposition de Règlement IA
Données et gouvernance des données
Conclusions temporaires

International lawyers’ network specialized in digital and emerging technology law www.lexing.network
❝
Point sur la question et prospectives
4

www.lexing.network
Catégorisation des véhicules autonomes en 6
niveaux (de 0 à 5, par la Society of Automotive
Engineers (SAE))
Park assist : Niveau 2 (Partial driving automation)
Autopilot de Tesla : Niveau 2 - 3 (?)
Drive Pilot Mercedes Classe S et EQS : Niveau 3
21 Janvier 2022  Modification de la Convention
de Vienne sur la circulation routière  Ajout d’un
art. 34bis

www.lexing.network
Modification de la Convention de Vienne
L’exigence selon laquelle tout véhicule ou tout ensemble de véhicules en mouvement doit
avoir un conducteur est réputée satisfaite lorsque le véhicule utilise un système de conduite
automatisé conforme
Le terme « système de conduite automatisé » désigne un dispositif associant des éléments
matériels et logiciels permettant d’assurer le contrôle dynamique d’un véhicule de façon
ininterrompue.
Le terme « contrôle dynamique » désigne l’exécution de toutes les fonctions opérationnelles
et tactiques en temps réel nécessaires au déplacement du véhicule. Il s’agit notamment du
contrôle du déplacement latéral et longitudinal du véhicule, de la surveillance de la route, des
réactions aux événements survenant dans la circulation routière, ainsi que de la préparation et
du signalement des manœuvres.

www.lexing.network
Niveau 3 théoriquement possible donc en Belgique, en Allemagne…
Mais il faut encore définir ou circonscrire la législation et la règlementation technique
nationale (ou internationale applicable)
Ex :
Règlement relatif à la cybersécurité (UN R155)
Règlement relatif à la mise à jour des logiciels (UN R156)
Règlement relatif aux systèmes automatisés de maintien de la trajectoire (UN R157)
ALKS - Automated Lane Keeping Systems (60km/h)

www.lexing.network
Généralisation du niveau 3 dans les années à venir est probable
L’ambition reste d’atteindre une commercialisation du niveau 5 mais cela relève encore de la
science-fiction

❝
Dilemme du tramway et Moral Machine du MIT - CNRS
9

www.lexing.network

www.lexing.network
Au départ, expérience de pensée et questionnement éthique
Sous-questions : thèse utilitariste, thèse de la valeur, action ou inaction, langage…
Intérêt pour le véhicule autonome : si l’humain n’est plus pilote (ou n’est pas en mesure de
réagir assez vite), quel comportement doit adopter le système automatisée en cas de difficulté
?
Modélisation par le MIT au moyen d’un questionnaire web (40 millions de réponses à travers le
monde)
Différents choix moraux impliquant voiture et passagers, piétons de tout type : enfant, adulte, chat, chien,
délinquant, homme, femme, femme enceinte, docteur, sans-abri, personne en surpoids…

www.lexing.network
Belgique France Brésil

www.lexing.network
France Vs Suisse France Vs Canada France Vs Chine

❝
14

www.lexing.network
Flou ?
Les systèmes d’IA intégrés dans les systèmes de conduite automatisées ne devraient pas s’appliquer
directement
Mais « les exigences ex ante essentielles applicables aux systèmes d’IA à haut risque définies dans la présente
proposition devront être prises en considération lors de l’adoption d’actes d’exécution ou d’actes délégués
pertinents en vertu des actes correspondants » (art. 80 modifie règlement 2018/858)
Art. 2 de la proposition  Ne vise pas les systèmes d’IA à haut risque qui sont des composants de
sécurité de produits ou de systèmes ou qui constituent eux-mêmes des produits ou des systèmes et qui
relèvent du champ d’application du Règlement 2018/858 du Parlement européen et du Conseil du 30
mai 2018 relatif à la réception et à la surveillance du marché des véhicules à moteur
Art. 6  sont considérés à haut risque les systèmes d’IA destiné à être utilisé comme composant de
sécurité d’un produit couvert par les actes législatifs d’harmonisation de l’Union énumérés à l’annexe II,
ou constitue lui-même un tel produit et lorsque le produit dont le composant de sécurité est le système
d’IA, ou le système d’IA lui-même en tant que produit, est soumis à une évaluation de la conformité par
un tiers en vue de la mise sur le marché ou de la mise en service de ce produit conformément aux actes
législatifs d’harmonisation de l’Union énumérés à l’annexe II.
Or, Règlement 2018/858 repris dans l’annexe II

www.lexing.network
Vu le flou, le niveau d’exigence et les bonnes pratiques, il est prudent de considérer que les
exigences du Titre III Chapitre 2 « Exigences applicables aux systèmes d’IA à haut risque »
s’appliqueront aux systèmes IA des véhicules autonomes

❝
17

www.lexing.network
L’article 10, 4. de la proposition prévoit que :
« Les jeux de données d’entraînement, de validation et de test tiennent compte, dans la
mesure requise par la destination, des caractéristiques ou éléments propres au contexte
géographique, comportemental ou fonctionnel spécifique dans lequel le système d’IA à haut
risque est destiné à être utilisé. »

www.lexing.network
L’expérience de la Moral Machine démontre des différences régionales et culturelles marquées
par rapport aux choix qui doivent être opérés par les systèmes de conduite autonomes dans
les situations critiques
Ces différences seront marquées dans les différents jeux de données d’entrainement, de
validation et de test mais également dans les données d’entrée (pouvant mener à une boucle
de rétroaction dont l’obligation d’atténuation est visée à l’article 15)

www.lexing.network
Ces différences peuvent-elles être qualifiées de biais ? Si oui, par rapport à quelle norme ?
Dans quel mesure ces différences peuvent-elles / doivent-elles être intégrées dans les jeux de
données ?
Pour respecter ces différences, des traitements de données à caractère personnel pourraient
devoir être opérés  Homme/Femme, jeune/vieux, malade/bonne santé, sportif/surpoids
Art. 10, 5. n’autorise les traitements de catégories particulières de données à caractère personnel au sens
de l’article 9 du RGPD que pour la surveillance, la détection et la correction des biais
Tout ne relève pas de l’article 9 du RGPD
Si cela permet de sauver la vie de la personne concernée, traitement pourrait être opéré sur base de l’intérêt
vital (art. 6, 1, d) et 9, 2, c) du RGPD)

❝
21

www.lexing.network
Les constructeurs risquent d’être pris entre plusieurs intérêts contradictoires :
La conformité aux règles IA
Le respect du RGPD (et des autres règles anti-discrimination)
L’attente (mouvante) des consommateurs par rapport au comportement que doit adopter un
véhicule autonome en cas de situation critique
Quelles sont les pistes ?
Utilitariste  Seule la sauvegarde du plus grand nombre compte
Capitaliste  Celui qui paye plus est mieux protégé (assurance, standing…)
Régionaliste  Le développement de systèmes d’IA « régionaux » (limitation territoriale du
marché, quid de l’interaction entre IA régionales, quid de la granularité ?)
Technologique  Le choix de technologies « aveugles » (LIDAR plutôt que caméras…) qui
évitent de devoir faire des choix (v. thèse utilitariste)
…

www.lexing.network
Hypothèse relève encore largement de la science-fiction
Mais les systèmes d’IA, en remplaçant l’outil ET l’humain qui manipule l’outil, vont être des
révélateurs de nombreux particularismes régionaux et culturels
Comment ces particularismes vont-ils être pris en compte ?
Faut-il les prendre en compte ?
Les systèmes d’IA vont-ils aboutir à gommer ces particularismes et assoir l’hégémonie culturelle des
principaux développeurs de ces systèmes d’IA ?

❝
a.cassart@lexing.be

www.lexing.network
Ressources utiles
https://www.sae.org/standards/content/j3016_202104/
https://treaties.un.org/pages/ViewDetailsIII.aspx?src=TREATY&mtdsg_no=XI-B-
19&chapter=11&Temp=mtdsg3&clang=_fr

Véhicules autonomes et discrimination

Recommandé

Recommandé

Contenu connexe

Similaire à Véhicules autonomes et discrimination

Similaire à Véhicules autonomes et discrimination (20)

Plus de Alexandre Cassart

Plus de Alexandre Cassart (9)

Véhicules autonomes et discrimination

Notes de l'éditeur