A l’heure du développement de l’intelligence artificielle, il semble parfois difficile de concilier protection des données et big data. Quelles données peut-on utiliser ? Comment respecter la réglementation ? Quels sont les risques ? Sonia Cissé, avocate au barreau de Paris, donne les clés d’un équilibre intelligent entre IA, big data et droit des données à caractère personnel. Au programme : - L’importance des données dans les projets IA. - Les principes de la protection des données. - Savoir concilier protection des données et IA. Pour ceux qui souhaitent approfondir ces notions, un atelier payant sera proposé

1. CONFÉRENCE
L'utilisation des données dans
un projet d'IA : le défi juridique
Aidez l’OPIAF en
remplissant ce formulaire
anonyme svp :
https://bit.ly/2ICsCfn

2. VOTRE
CONFÉRENCIER
+33 6 28 02 67 21
sonia.cisse@linklaters.com
Sonia CISSÉ
Avocate spécialisée en IA
et en protection des données

3. Les données
fournies à l’IA

4. Données fournies à l’IA — Traitement de données
Protection des données à caractère personnel – l’utilisation de DCP constitue un
traitement soumis au RGPD et, en France, à la LIL :
Principes fondamentaux
de la protection
des données
Droits des personnes
concernées

5. Données fournies à l’IA — Principes fondamentaux
Principes fondamentaux du traitement
Adéquation de ces notions à l’utilisation de systèmes
d’IA ayant recours au Big Data et au deep learning.
Enjeu en matière d’IA
Licéité Loyauté Transparence
Limitation des finalités Minimisation des DCP Exactitude des DCP
Sécurité et confidentialité Conservation limitée

6. Données fournies à l’IA — Licéité
Principe – Le traitement n’est licite que s’il est fondé sur une des bases légales suivantes :
Consentement Exécution d’un contrat Obligation légale
Sauvegarde
d’intérêts vitaux
Exécution d’une mission
de service public
Intérêts légitimes
du RT

7. Données fournies à l’IA — Licéité
La base de données qui servira à alimenter l’IA peut être constituée via une collecte de DCP
Choisir une base légale

8. Données fournies à l’IA — Licéité
La base de données qui servira à alimenter l’IA peut être constituée via la réutilisation de
DCP déjà collectées

9. Données fournies à l’IA — Finalités ultérieures
Exception – le traitement à des fins de recherche scientifique ou à des
fins statistiques
Conditions :
• garanties appropriées et de mesures techniques et organisationnelles
• traitement ultérieur pas utilisé, seul, pour prendre des décisions à
l’égard de personnes concernées
Application en matière d’IA : utilisation d’une base de données
existantes sur certaines personnes (ex. base clients) pour constituer un
modèle statistique sur la base duquel certaines décisions sans effet
négatif seront prises (ex. envoi d’offres adaptées)
Principe – Interdiction des traitements ultérieurs incompatibles avec les finalités
déterminées du traitement
Hypothèses de compatibilité

10. Données fournies à l’IA — Licéité
La base de données qui servira à alimenter l’IA peut être constituée via la réutilisation de DCP
déjà collectées

11. Données fournies à l’IA — Finalités ultérieures
Critères – RGPD, art. 6(4) : il convient de prendre en compte, entre autres :
o l’existence d’un lien éventuel entre les finalités
o Le contexte de la collecte des données à caractère personnel
o La nature des données collectées
o Les conséquences possibles du traitement ultérieur pour les personnes concernées
o L’existence de garanties appropriées (chiffrement, pseudonymisation)
Principe – le responsable de traitement doit déterminer si le traitement à une autre fin est compatible avec la
finalité pour laquelle les DCP ont été initialement collectées
Evaluation de la compatibilité

12. Données fournies à l’IA — Finalités ultérieures
Nouvelle base légale :
o Le consentement
o L’exécution d’un contrat
o Le respect d’une obligation légale
o La sauvegarde d’intérêts vitaux
o L’exécution d’une mission de SP
o Les intérêts légitimes du RT
Principe – En cas d’incompatibilité le traitement mis en œuvre pour les finalités incompatibles doit reposer sur
une nouvelle base juridique
Cas de l’incompatibilité

13. Transparence
du traitement
Données fournies à l’IA — Loyauté & transparence
Loyauté
du traitement
Transparence
du traitement
Enjeu en matière d’IA
Le Big Data présuppose des
utilisations des DCP qui ne peuvent
être raisonnablement attendues
L’utilisation de technologies de
machine learning et deep learning
complexifie l’information
transparente des personnes
Enjeu en matière d’IA : adéquation de ces notions à l’utilisation d’IA ayant recours au
Big Data et au deep learning

14. Données fournies à l’IA — Limitation & minimisation
Le recours au Big Data présuppose
une collecte de DCP au-delà de ce
qui est nécessaire
Le recours au Big Data entraine
l’utilisation et la réutilisation de
DCP
Enjeu en matière d’IA : adéquation de ces notions à l’utilisation d’IA ayant recours au
Big Data et au deep learning
Limitation des finalités Minimisation des DCP
Enjeu en matière d’IA

15. Données fournies à l’IA — Limitation & minimisation
Enjeu limité dans le cadre spécifique du déploiement d’un système d’IA
Exactitude des DCP
Sécurité et
confidentialité
Enjeu en matière d’IA
Conservation limitée

16. Les personnes concernées par le traitement bénéficient de droits relatifs à leurs DCP
Données fournies à l’IA — Droits des personnes
Droit à la
rectification

17. L’utilisation des
données par l’IA

18. Utilisation des données — Décision automatisée
Principe : droit de s’opposer à une prise de décision automatisée
Champ d’application :
• effets juridiques
• affectant la personne de
manière significative
• décision prise de manière
automatisée
• Notamment sur le
fondement d’un profilage
• exclusivement fondée sur
le traitement
• Absence d’intervention
humaine significative
Traitement automatisé
(profilage)
Décision fondée
exclusivement sur
le traitement automatisé
Effets juridiques ou
affectant la personne
de manière significative

19. Décision nécessaire à la conclusion ou l’exécution d’un contrat
Utilisation des données — Décision automatisée
Exceptions à l’interdiction de la prise de décision automatisée :
Consentement explicite
Autorisation législative / décisions administratives automatisées
Sauf si une telle décision, même dans le cadre d’une des exceptions est
fondée sur le traitement de données sensibles

20. Utilisation des données — Décision automatisée
Garantie des droits des personnes concernées – Exercice des droits des personnes concernées par une
décision automatisée :
• Information sur la logique sous-jacente au traitement
Difficulté en matière d’IA : phénomène de la Black Box
• Exceptions en cas de collecte indirecte
• Accès aux informations relatives à l’existence d’une prise de
décision automatisée
• Exceptions en cas d’atteinte aux droits et libertés d’autrui
Information
Droit d’accès

21. Garanties spécifiques – Le RGPD et la LIL assurent des droits particuliers aux personnes concernées par certaines décisions
automatisées :
Décisions automatisées basées sur le
consentement, la nécessité
contractuelle, le droit national ou des
données sensibles
Mesures
appropriées
Garanties
Décisions administratives automatisées
Utilisation des données — Décision automatisée

22. Utilisation
éthique

23. Lutte contre le profilage
discriminant – loyauté et
transparence du traitement
Utilisation des données par l’IA — Utilisation éthique
Mesures techniques et organisationnelles appropriées pour faire en sorte :
• Que les facteurs qui entrainent des erreurs dans les DCP soient corrigés et que le risque d’erreur
soit réduit au minimum
• De prévenir les effets discriminatoires
Traitement équitable et transparentTraitement équitable et transparent
Difficulté en matière d’IA
: les algorithmes opaques
(phénomène de la Black
Box)

24. Utilisation des données par l’IA — Utilisation éthique
Qualité de la donnée : il est essentiel d’utiliser des données de qualité pour entrainer et tester l’intelligence artificielle
Qualité : donnée précise, complète et correctement formatée
Représentativité : donnée utilisée reflétant la variété des situations auxquelles
l’intelligence artificielle sera confrontée
Biais : éviter la reproduction des biais humains
Discrimination : la donnée utilisée doit être appropriée
Données inappropriées : données socialement acceptables et appropriées en
terme d’ordre public

25. Un écosystème et un programme
pour développer des supers pouvoirs
grâce à l’intelligence artificielle

26. 4 ateliers d’1 journée pour développer ses pouvoirs
individuellement ou en entreprise
-ACCULTURER-
Tout public
5 à 12 pers
-CRÉER-
Tout public
5 à 12 pers
-PROGRAMMER-
Savoir coder
5 à 12 pers
Atelier découverte
intelligence
artificielle .com
Atelier
créer une IA
Atelier
Deep Learning .com
● Comprendre ce qu’est l'IA,
à quoi ça sert, comment
l’utiliser
● Créer une IA capable
d’analyser et classifier des
images toute seule !... ce
sans avoir aucune
connaissance technique
● Comprendre ce qu’est l’IA
et ses cas d’usage
● Expérimenter des démos
● Co-créer ensemble un
projet grâce au Design
Thinking
● Structurer le
développement : étapes,
outils, équipe, budget
● Comprendre ce qu’est le
Deep Learning, comment ça
fonctionne, ses cas d’usage
● Coder un réseau de
neurones profond avec
TensorFlow (librairie Google)
● Pratiquer sur un vrai cas
LES CAS D’USAGE PRÉSENTÉS EN ATELIERS PEUVENT ÊTRE CIBLÉS SUR UN SECTEUR ET/OU MÉTIER
-ANALYSER-
Tout public
5 à 12 pers
Atelier
Data Science
● Se mettre dans la peau
d’un Data Scientist :
identifier la problématique,
collecter la data, analyser et
explorer la data, modéliser la
data
● Pratiquer sur un vrai cas

27. www.iamondada.com
. Digital Innovators
. Machine Learning Paris
Suivez les dates des évènements
IA C’EST MON DADA