Cette formation flash propose d'aborder le cadre réglementaire des outils d'IA Générative. Elle permettra d'explorer les différentes initiatives et projets de réglementations internationales ou nationales mettant en évidence les enjeux des outils d'IA générative. Il sera pertinent d'évoquer le cadre réglementaire européen, y compris le Réglement IA proposé par l'Union Européenne, pour comprendre son impact sur les entreprises opérant en Europe ainsi que le cadre national. Les autres textes, en cours de discussion, pourront également être envisagés. En ce qui concerne les outils d'IA Générative (Chat GPT, Bard, etc.) nous pourrons examiner les problématiques spécifiques qu'ils soulèvent telle que la protection de la propriété intellectuelle, les droits d'auteur, la responsabilité, la transparence ou encore la protection des données personnelles. Formation offerte animée à distance par notre expert Farid Bouguettaya

1. m2iformation.fr
FORMATION
21/11/2023

2. m2iformation.fr
m2iformation.fr
Cadre réglementaire des IA
Génératives : premiers
éléments de compréhension
Formation flash du 28 novembre 2023
Animé par :
Farid Bouguettaya
Avocat spécialisé en droit des technologies,
données, contrats et propriété intellectuelle
En coanimation avec :
Virginie Mazza
Directrice Pôle Digital et Multimédia

3. m2iformation.fr
Avant de rentrer
dans le vif du sujet

4. m2iformation.fr
CENTRES
EN FRANCE
Naissance du
Groupe M2i
Certification
OPQF

5. m2iformation.fr
Introduction
en bourse
Ouverture de
M2i Formación à Madrid
Création de
2i Academy
Certification Qualiopi et
Datadock
Zoom sur le leader de la formation
IT, Digital et Management en France
Certifications officielles
éditeurs et France Compétences
Formations éligibles
aux financements
Actions collectives et
négociées avec les OPCO
formations
IT, Digital & Management
formateurs
experts
clients
actifs

6. m2iformation.fr
Cadre réglementaire des IA
Génératives : premiers
éléments de compréhension

7. m2iformation.fr
Présentation
de l’intervenant

8. m2iformation.fr
8
Farid BOUGUETTAYA
Avocat spécialisé en droit des technologies,
données, contrats et propriété intellectuelle
8
Présentation de l’intervenant
Farid conseille une variété de clients, des grandes entreprises aux startups,
également sur des projets en matière d’intelligence artificielle.
Il est actif dans les écosystèmes d'innovationet enseigne au sein du Master
en droit de l'intelligence artificielle à l'Université Catholique de Paris.
Farid a exercé dans des cabinets de renom avant de rejoindre le Cabinet
FÉRAL en 2021.

9. m2iformation.fr
Introduction

10. m2iformation.fr
Système capable de créer du texte, des images ou d’autres
contenus (musique, vidéo, voix, etc.) à partir d’une instruction d’un utilisateur
humain.
INTRODUCTION
Qu’est-ce qu’une IA générative ?
Exemple :
Cette image, intitulée « Théâtre
d’Opéra Spatial », a été générée par
l’utilisateur Jason M. Allen grâce à
l’outil « Midjourney » sur la base
d’une instruction textuelle décrivant
ses attentes (décor théâtral, toges,
inspirations picturales, etc...).
10

11. m2iformation.fr
INTRODUCTION
Qu’est-ce qu’une IA générative ?
Cette technologie se retrouve à tous les niveaux et s’implante de plus en plus dans le
quotidien :
❖ Chatbot en entreprise ;
❖ Création d’illustrations spécifiques pour la presse ou les divers créateurs de contenu
sur Internet ;
❖ Formulations d’argumentaires en réponse à des questions spécifiques ;
❖ Aide à l’impression 3D…
Exemples d’IA génératives :
11

12. m2iformation.fr
m2iformation.fr
1. Comment encadrer l’IA
générative ?
2. Quelles problématiques
soulève l’IA générative ?
3. L’IA générative est un outil de
forte avancée technologique
mais dangereuse, comment
éviter qu’elle se heurte aux
droits fondamentaux ?
INTRODUCTION
Les grandes interrogations autour
de l’IA génératives

13. m2iformation.fr
INTRODUCTION
Le cadre réglementaire de l’IA
Les textes font référence à l’IA au sens large et de façon neutre sur le plan
technologique pour résister à l’épreuve du temps.
➢ Outil utilisé par une machine afin de « reproduire des comportements liés
aux humains, tels que le raisonnement, la planification et la créativité »
(Définition du Parlement européen).
Selon la Commission européenne, l’IA regroupe :
➢ les approches d’apprentissage automatique ;
➢ les approches fondées sur la logique et les connaissances ; et
➢ les approches statistiques, l’estimation bayésienne, et les méthodes de
recherche et d’optimisation.
13

14. m2iformation.fr
m2iformation.fr
Des textes encadrent-ils l’utilisation
de l’IA ?
AI ACT : premier texte officiel visant à
encadrer à l’échelle européenne l’utilisation
et le développement de l’IA.
D’autres propositions de textes visent à
encadrer l’IA dans des domaines
spécifiques :
▪ en matière de responsabilité : Directive
sur la responsabilité en matière d’IA du
28 septembre 2022 ;
▪ en droit d’auteur : Proposition de loi
visant à encadrer l’IA par le droit
d’auteur.
INTRODUCTION

15. m2iformation.fr
INTRODUCTION
Quels textes tendent à s’appliquer aux IA génératives compte
tenu de leurs fonctionnements et utilités ?
AI ACT : prévoit des obligations spécifiques aux IA en fonction du risque
➢ Certains types d’IA sont soumis à une obligation limitée de transparence dès
lors qu’elles interagissent avec l’homme (ex : chatbot).
➢ Volonté du législateur européen d’imposer des obligations spécifiques aux
fournisseurs d’IA génératives et de réguler les IA dites à « haut risque ».
IA à haut risque = AI présentant un risque pour la santé/sécurité des personnes
En France le CNPEN est d’avis que les dispositions relatives aux IA à haut
risque devraient s’appliquer aux IA génératives.
15

16. m2iformation.fr
INTRODUCTION
Une approche de l’IA fondée sur les risques
16

17. m2iformation.fr
m2iformation.fr
Les principaux enjeux
que soulève l’IA
générative
1) Droit d’auteur et contenus
générés par IA
2) IA générative et Privacy
3) IA générative et désinformation
4) Le régime de responsabilité de
l’IA générative

18. m2iformation.fr
Quid du droit d’auteur en cas de production par IA générative ?
Les IA génératives sont en mesure de créer de façon autonome des
illustrations ou du texte en se basant sur un très grand nombre de donnée.
Exemple : « The new Rembrandt »
Tableau réalisé par une IA à partir
de données techniques sur les
techniques et méthodes de travail
du peintre néerlandais
Rembrandt.
18
1. DROIT D’AUTEUR ET CONTENUS GÉNÉRÉS PAR IA

19. m2iformation.fr
m2iformation.fr
❖ La création d’une œuvre générée
par IA sans intervention humaine
bénéficie-t-elle de la protection
par le droit d’auteur ?
❖ Qui est titulaire des droits et qui
est auteur ?
Quid du droit d’auteur en cas de
production par IA générative ?
1. DROIT D’AUTEUR ET
CONTENUS GÉNÉRÉS PAR IA

20. m2iformation.fr
Quid de l’utilisation d’œuvres protégées par l’IA générative?
➢ En juillet 2023, Sarah Silverman, a intenté une action en justice en raison
de la violation de ses droits d’auteurs par OpenAI pour entrainer ChatGPT.
➢ En novembre 2023, OpenAI fait l’objet d’un recours collectif aux Etats-Unis
pour avoir utilisé sans autorisation des œuvres non romanesques
protégées par le droit d’auteur afin d’entrainer ses modèles d’agents
conversationnels.
Quelques exemples :
L’IA générative nécessite un grand nombre de données afin de d’entrainer
l’algorithme, ce qui présente des risques de violation de droits d’auteur.
20
1. DROIT D’AUTEUR ET CONTENUS GÉNÉRÉS PAR IA

21. m2iformation.fr
En France, proposition de loi
Proposition de loi n° 1630 visant à encadrer l’intelligence artificielle par le droit
d’auteur, prévoyant notamment :
Le titulaire des droits sur une œuvre générée par IA est l’auteur de
l’œuvre ayant permis de concevoir l’œuvre artificielle
Système de gestion collective des droits d’auteurs par des organismes
représentant l’IA
Mention obligatoire « œuvre générée par l’IA »
21
1. DROIT D’AUTEUR ET CONTENUS GÉNÉRÉS PAR IA

22. m2iformation.fr
2. IA générative et Privacy
Protection des données personnelles vs IA générative
Le développement d’une IA générative suggère la collecte d’un grand
nombre de données personnelles d’utilisateurs.
❖ Lors de la constitution de base de
données d’apprentissage.
❖ Et durant toute la vie du produit
après sa mise sur le marché.
22

23. m2iformation.fr
2. IA générative et Privacy
Protection des données personnelles vs IA générative
➢ Information qui se rapporte à une personne physique (individu)
identifiée ou identifiable.
Est réputée être une « personne physique
identifiable » la personne physique qui peut
être identifiée, directement ou
indirectement, notamment par référence à un
identifiant, tel qu'un nom, un numéro
d'identification, des données de localisation, un
identifiant en ligne, ou à un ou plusieurs
éléments spécifiques propres à son identité
physique, physiologique, génétique, psychique,
économique, culturelle ou sociale.
23

24. m2iformation.fr
2. IA générative et Privacy
Protection des données personnelles vs IA générative
« toute opération ou tout ensemble d'opérations effectuées ou non à l'aide de
procédés automatisés et appliquées à des données ou des ensembles de données à
caractère personnel : collecte, enregistrement, organisation, structuration, conservation,
adaptation ou la modification, extraction, consultation, utilisation, communication ou
toute autre forme de mise à disposition, rapprochement ou interconnexion, etc…».
• Définition très large
➢ dès qu’il existe une action sur des données = un traitement.
Par exemple, un hébergeur de données qui n’intervient pas sur les données
et n’y a pas accès = traitement car il les héberge !
24

25. m2iformation.fr
2. IA générative et Privacy
Protection des données personnelles vs IA générative
La collecte et le traitement de données personnelles est soumise au RGPD qui
prévoit le respect de principes et d’obligations :
✓ Obligation d’information des utilisateurs de la finalité du traitement ;
✓ Licéité du traitement ;
✓ Consentement…
Exemple : en avril 2023, deux plaintes ont été déposées auprès de la CNIL ,
reprochant à OpenAI d’avoir une politique de confidentialité non conforme au RGPD.
❌Absence d’information relatives aux bases légales des traitements et à la durée de
conservation des données traitées ;
❌Aucune information relative à la possibilité de retirer son consentement.
25

26. m2iformation.fr
2. IA générative et Privacy
Protection des données personnelles vs IA générative
Exemple : en mars 2023, Le régulateur italien a temporairement bloqué l’accès
à ChatGPT en raison de ses manquements au RGPD :
• Manquement à l’obligation d’information des utilisateurs ;
• Absence de base juridique justifiant la collecte et le traitement des données
; et
• Absence de mécanisme de vérification de l’âge des utilisateurs.
➢ Open AI disposait de 20 jours pour prendre les mesures nécessaires à sa
mise en conformité sous peine d’une amende pouvant s’élever jusqu’à 20
millions d’euros ou 4% de son chiffre d’affaire annuel mondial.
26

27. m2iformation.fr
2. IA générative et Privacy
Protection des données personnelles vs IA générative
Impose aux entreprises de
mettre en œuvre des mesures
techniques et
organisationnelles appropriées
dès la désignation des moyens
du traitement.
Privacy
by
default
Privacy
by
design
Revient à prévoir, dès la conception, un niveau de
protection élevé par défaut, en laissant ainsi à chaque
personne, lorsque cela est possible, le soin de paramétrer
le niveau de protection à la baisse de sa propre initiative.
Le GDPR suggère les mesures suivantes : Minimisation,
pseudonymisation, transparence totale au regard des
fonctions et du traitement de données, permettre aux
personnes concernées de contrôler le traitement de
données.
27

28. m2iformation.fr
3. IA GÉNÉRATIVE DÉSINFORMATION
L’IA générative, un outil de désinformation ?
Deepfake : technique de synthèse multimédia reposant sur l’intelligence
artificielle. Elle consiste notamment à superposer des traits humains sur le corps
d’une autre personne, ou à manipuler les sons, pour générer une expérience
humaine réaliste.
L’IA générative augmente la possibilité de diffuser de fausses
informations de plus en plus crédibles.
28

29. m2iformation.fr
3. IA GÉNÉRATIVE DÉSINFORMATION
L’IA générative, un outil de désinformation ?
➢ La loi réprime déjà la désinformation par des moyens conventionnels
➢ au regard du fonctionnement d’une IA générative, certaines dispositions
tendent à s’appliquer aux deepfakes générés par IA.
Article 27 loi sur la presse 1881 : diffusion de nouvelles fausses et trouble
de la paix publique.
Article 465-3-2 du Code monétaire et financier : fausser artificiellement
le marché par la diffusion de fausses informations.
Loi n° 2018-1202 du 22 décembre 2018 relative à la lutte contre la
manipulation de l’information.
29

30. m2iformation.fr
4. Le régime de responsabilité de l’IA générative
IA générative, qui est responsable ?
Les IA génératives peuvent créer du contenu de façon autonome dès lors
qu’une instruction leur a été donnée par l’utilisateur.
Dès lors qui est responsable d’une création biaisée de l’IA, ayant provoqué un
dommage ?
❓Fausse information donnée par une IA type ChatGPT ;
❓Impression 3D d’un produit défectueux ;
❓Création d’une illustration portant atteinte à la dignité d’une personne,
etc…
30

31. m2iformation.fr
4. Le régime de responsabilité de l’IA générative
IA générative, qui est responsable ?
❖ Proposition de Directive sur la responsabilité en matière d’IA du 28
septembre 2022.
❖ Proposition de Directive relative à la responsabilité du fait des produits
défectueux du 28 septembre 2022.
Prévoit une adaptation du droit en intégrant l’intelligence artificielle
comme un « produit », faisant appliquer les dispositions relatives aux
produits défectueux ou la responsabilité extracontractuelle.
31

32. m2iformation.fr
Pour aller plus loin

33. m2iformation.fr
Formation Nombre de jours
Comment encadrer l’utilisation des outils d’IA
en entreprise ?
1 jour (7h)
Développer et utiliser les outils d’IA en conformité
avec le droit applicable
1 jour (7h)
Les formations disponibles au sein de M2i 33
nouveau
nouveau

34. m2iformation.fr
Les prochains Digitalk
Inscrivez-vous à nos prochains Digitalk !
Les dates à retenir :
• 5/12/2023
Génération IA : Prenez le train de l'avenir
• 12/12/2023
Firefly - la (r)évolution par Adobe
34

35. m2iformation.fr
Des questions ?

36. m2iformation.fr
Merci de votre participation !