Défis de l'IA : droits, devoirs, enjeux économiques et éthiques

Les défis de l'Intelligence
artificielle : droits et
devoirs, enjeux
économiques et éthiques
IBM Cloud Côte d'Azur Meetup

Les défis de l'Intelligence
artificielle : droits et
devoirs, enjeux
économiques et éthiques
IBM Cloud Côte d'Azur Meetup
Arnaud Billon,
Chercheur AI, éthique & légal
IBM
Frédérique Lopez,
Conseil en Propriété Industrielle
Cabinet Marks & Clerk

Ai productions &
Copyright Law
Arnaud Billion
Center for Advanced Studies
© Cie IBM France - 2018 3

Arnaud Billion’s perspective
Cie IBM France - Center for Advanced Studies – Sept. 2019
Bio
• IBM France Open R&D center co-funder
• PgD in Comparative copyright law (US/UK/EU) @King’s College
London - Master’s in IT law @Strasbourg University
• Phd student wrt. « copyright on AI productions »
• Ai Ethics & legal advisor
Other centers of interest
• Computable Law
• AI total cost
• Ethics in technology
• Anthropologic roots of copyright law

« creative AI »

Is there a place for subtelty?

KCL’s Copyright
analysis framework
Subject
matter
•Is it art?
Criterion of
form &
fixation
Originality •Relation to
author
Ownership
•Producer?
•Programmer?
Treatment •Mere access?
•Transient copy?
Infringement
Exceptions
•Right to use? Public domain?
• Public domain?
Remedy

A try to preserve copyright system integrity
1. Digitalization deeply
transforms
everything incl.
representations
2. Copyright as
pacifier institution
3. Apply copyright law
without ideology
Eg. What does
copyright require
when considering
types of artefacts it
applies to?
(not just: « help
markets » or
« protect
freedom »)
Copyright
objects Eg. What is
original, behind
the curtain of
words used by
Courts?
What is an author?
Originality

9 9
Darmouth Summer Research Project on Artificial Intelligence.
From left to right: Trenchard More, John McCarthy*, Marvin Minsky,
Oliver Selfridge, Ray Solomonoff.
*Inventeur du langage LISP en 1958 devenu dans les années 1970,
le langage de l’intelligence artificielle.
Fondateur en 1957 du département d'Intelligence artificielle du MIT.
Reçoit le prix Turing en 1971 pour ses travaux en AI.
1956
First mention of the term Artificial Intelligence (AI)
1956 : 9
demandes de brevets AI
2017 : >55000
Over 1.6 million of AI-related scientific publications
and
Nearly 340,000 filed patent applications for AI-related
inventions
(Photo: © Dartmouth College)
Big Data / Deep Learning

1010
IBM has the largest portfolio of AI patents with
8,300 patent applications, followed by
Microsoft with 6000 patent applications;
Of the top 20 companies, 12 are Japanese, 2 from
Republic of Korea (Samsung; LG Corp.), 2 from
Germany (Siemens, Bosch).
Of the top 30 applicants, 4 are Universities and
Public Research Organizations.

1111
AI Technique includes 25 categories :
Machine learning is the dominant AI technique found
in 40% of all AI-related patents studied.
The technique grew at an average rate of 28% every
year from 2013-2016.
Transportation and Telecommunications are the
top application fields categories:
Transportation : Auto Manufacturers/Suppliers
Telecommunication : Computer Networks / Internet /
Telephony

1212
2019 : “World first patent applications filed for inventions generated solely by artificial intelligence”
Two patent applications filed for inventions that have been made autonomously by (AI) without a human inventor.
• Beverage container based on fractal geometry (EP18275163)
• Neural Flame : a device for attracting enhanced attention (EP18275174)
The designated inventor is DABUS (Device for the Autonomous Bootstrapping of Unified Sentience) a machine
architecture created (2006 : US Patent 5,659,666 ) by StephenThaler. DABUS is a type of Creativity Machine or
Connectionist AI System having a first artificial neural network made of many neural networks generating new
ideas by altering their interconnections, combined with a second artificial neural network detecting critical
consequences of these potential ideas and reinforcing them based upon predicted novelty and salience.
The United Kingdom Intellectual Property Office (UK IPO) has already indicated these applications appear new,
inventive and industrially applicable (primary requirements for an invention to receive a patent).
However, the issue of AI inventorship has not yet been considered.
The two applications are also pending in the European Patent Office (EPO), US and worldwide.

1313
Peut-on accorder le statut
d’inventeur à une
Intelligence Artificielle ?
DABUS
Est-ce qu’une intelligence
artificielle peut être
titulaire d’un brevet ?
artificielle peut être
bénéficiaire de royalties ?
artificielle peut être poursuivie
pour contrefaçon de brevet ?
Quel est le cadre
juridique applicable ?

1414
Il y a consensus à considérer qu’est inventeur celui qui
contribue à la conception d’une invention en formulant
une idée ou un plan (programmeur, développeur).
Pour l’instant, l’IA reste un simple outil entre les mains
d’un inventeur humain.
Toute autre considération aurait des conséquences qui
iraient bien au-delà du droit des brevets, cela chamboulerait
le droit de la propriété intellectuelle, la question de la
responsabilité juridique et de la protection des données.
Mai 2018 : 1ère Conférence OEB sur la protection par brevet de l’IA
Novembre 2018 : Ajout de recommandations spécifiques sur l’IA dans les Directives d’Examen des
demandes de brevet
Office Européen des Brevets (OEB)

1515
1. What are elements of an AI invention ?
2. How can a natural person contribute to conception of an AI invention and be eligible to be a named
inventor ?
3. Do current patent laws and regulations regarding inventorship need to be revised ?
4. Should an entity other than a natural person (or company) be able to own a patent ?
5. Are there any patent eligibility considerations unique to AI inventions ?
6. Are there any disclosure-related considerations unique to AI inventions ?
7. How can patent applications for AI inventions best comply with the enablement requirement ?
8. Does AI impact the level of a person of ordinary skill in the art ?
9. Are there any prior art considerations unique to AI inventions ?
10. Are there any new forms of intellectual property protections that are needed for AI inventions (e.g., data
protection) ?
11. Are there any other issues pertinent to patenting AI inventions that the USPTO should examine ?
12. Are there any relevant policies or practices from other major patent agencies that may help inform
USPTO’s policies and practices regarding patenting of AI inventions ?
Office Américain des brevets (USPTO) 22.08.2019 : published a
request for comments on
patenting AI inventions

1616
Droit de la Propriété Intellectuelle
La Propriété Intellectuelle regroupe :
la propriété industrielle : créations techniques, signes distinctifs, créations esthétiques
la propriété littéraire et artistique : œuvres de l’esprit
Droits PI Créations Formalités Remarques
Brevets Techniques
Fonctions du logiciel
Dépôt demande de brevet Pas de divulgation < dépôt
Marques Signes distinctifs Dépôt de marque Désigner les classes sur 45
Dessins et
Modèles
Esthétiques Dépôt de D&M Forme, pas sur les fonctions
Droit d’auteur Œuvres de l’esprit
Code source logiciel
Protection automatique Apposition ©
Dépôt APP
Pas de droit de PI pour le savoir-faire : garder le secret

1717
Le dispositif
Il est protégé par brevet
Un même objet : cumul de droits de PI possible

1818
Le dispositif
Il est protégé par Brevet
Ø Un brevet concède à son propriétaire un monopole d’exploitation pour 20 ans sur un territoire donné, en
contrepartie de la publication de son invention (18 mois du dépôt de la demande de brevet)
Ø Le propriétaire d’un brevet a le droit d’interdire les tiers de - faire, utiliser, vendre, mettre en vente,
importer - le dispositif objet de son invention, sans son consentement (action en contrefaçon)
Ø Un brevet protège une invention qui constitue une solution technique à un problème technique
Ø Ne sont pas considérées comme des inventions :
§ Les découvertes scientifiques, les plans, les méthodes dans le domaine des activités
économiques
§ les méthodes mathématiques
§ Les programmes d’ordinateur
§ Les présentations d’information
Ø La portée des droits concédés est déterminée par les revendications
Protection des inventions par brevet (OEB)
Algorithmes
Logiciel
IHM
si utilisés en tant que tels

1919
Le dispositif
Il est protégé par Brevet
Ø Un brevet répond à des critères de brevetabilité :
Ø Nouveauté : l’invention n’est pas comprise dans l’état de la technique.
§ Etat de la technique : tout ce qui a été rendu accessible au public avant la date de dépôt de
la demande de brevet, par tout moyen (description écrite/orale, usage).
Ø Activité inventive : l’invention ne découle pas de manière évidente de l’état de la technique pour
l’homme du métier.
§ L’homme du métier : homme fictif qui a les connaissances/compétences du domaine de
l’invention.
Ø Clarté : description claire et complète de l’invention pour permettre sa reproduction, et permettre
l’identification de la contrefaçon.
§ Exposer les caractéristiques indispensables à l'exécution de l'invention de façon
suffisamment détaillée pour qu'un homme du métier puisse mettre en œuvre l'invention.
Protection des inventions par brevet (OEB)

2020
Protection des programmes d’ordinateur par brevet (OEB)
Ø Les programmes d’ordinateurs non utilisés en tant que tels sont définis comme des
« Inventions Mises en œuvre par Ordinateur » (IMO) ou « Computer-Implemented Invention » (CII)
Ø Cette expression couvre des inventions :
Ø qui font intervenir un/des ordinateurs, des réseaux informatiques ou dispositifs programmables
Ø dans lesquelles une ou plusieurs caractéristiques sont réalisées grâce à un/des programme(s)
Ø Les revendications portent sur une méthode et/ou un dispositif d’exécution et/ou un support
répondant aux critères de brevetabilité : solution technique à un problème technique
qui est nouvelle et inventive

2121
Protection de l’Intelligence Artificielle par brevet (OEB)
Ø IA: grâce à des technologies avancées en matière de capteurs qui fournissent plus d'informations qu'un
cerveau humain n'est capable de traiter, l'IA peut recevoir et interpréter de grands volumes de données
et apporter des réponses appropriées selon des algorithmes et des paramètres définis par des
programmeurs.
Ø Les dispositifs - de et autour de - l’IA :
Ø Réseaux de neurones : architecture pour mettre en œuvre l’IA
Ø Machines d’apprentissage : programme qui opère sur le réseau de neurones
Ø Apprentissage supervisé ou non
Ø Deep Learning : type particulier de machine d’apprentissage utilisant des big data
Ø Données d’apprentissage
Ø Modèles entrainés
Ø Composants matériels pour implémenter l’IA
Ø L’utilisation faite de l’IA : domaine technologique (Transport; Télécom.; Médical); application
(voiture autonome; smart cities; imagerie médicale)

2222
Ø Dans les nouvelles directives (11.2018), l’OEB applique des critères équivalents à ceux des méthodes
mathématiques, des algorithmes, des programmes d’ordinateur :
« L'intelligence artificielle et l'apprentissage automatique se fondent sur des modèles de calcul et sur
des algorithmes utilisés à des fins de classification, de partitionnement, de régression et de réduction
de la dimensionnalité.
Ces modèles de calcul et algorithmes sont, en tant que tels, de nature mathématiquement abstraite »
Ø Protection par le brevet possible : Méthode / Dispositif / Support … mis en œuvre par ordinateur
Ø Conditions de brevetabilité requises : Nouveauté / Activité Inventive / Caractère Technique / Clarté

2323
Ø Nouveauté : comment appréhender l’état de la technique au-delà des black-box ?
§ OEB met en place des système d’IA pour effectuer les recherches
§ Exigence de clarté renforcée
Ø Activité Inventive : Selon les compétences de l’homme du métier mais comment caractériser
l’homme du métier si l’inventeur est une IA ?
Ø Caractère Technique : algorithmes/méthodes utilisent des moyens techniques. Peuvent être reconnus
comme ayant un caractère technique :
§ l'utilisation d'un réseau neuronal dans un appareil de surveillance cardiaque pour détecter des
battements irréguliers.
§ la classification d'images numériques, de vidéos et de signaux audio/vocaux.
§ la génération de données d'entraînement et l’entrainement d’un classificateur.
En revanche, la classification de documents textuels sur la seule base de leur contenu textuel ne peut
pas être considérée en soi comme ayant une finalité technique, mais plutôt une finalité linguistique.

2424
• algorithme de machine learning à partir des
données des capteurs de l’avion
• enclenchement du pilote automatique si le pilote
est fatigué
Exemple de brevet IA – EP 3154038 (Honeywell) – Détection de Fatigue d’un Pilote
Revendication EP délivrée le12/09/2018

2525
Exemple de brevet IA – US 2018/0232585 (Samsung Electronics) – Autonomous Vehicle Control
1. A processor implemented vehicle control method for
autonomous driving, the method comprising:
obtaining a driving image of a vehicle;
determining a control parameter for controlling the
vehicle in response to a driving situation of the vehicle
by applying the driving image to a neural network; and
transmitting the control parameter to an electronic
control unit (ECU) of the vehicle for controlling the
vehicle to drive autonomously,
wherein the neural network comprises first layers in a
convolutional structure and second layers in a
recurrent structure, the driving image is applied to a
first layer among the first layers, a last layer among the
first layers is connected with a first layer among the
second layers, and the control parameter is output
from a last layer among the second layers.
Revendication en cours d’examen

2626
Exemple de brevet IA - US 9,928,449 (IBM) –Tagging similar images using neural network
1. A method implemented by an information handling system
that includes a memory and a processor, the method
comprising:
training a classifier on a first set of images, wherein the
classifier comprises a convolutional neural network that
includes a plurality of layers;
processing a second set of images using the trained
classifier, wherein the processing comprises:
extracting a plurality of feature sets from a selected
layer included in the plurality of layers; and
generating a plurality of tags based upon metadata
corresponding to the second set of images;
selecting a subset of the plurality of tags based on
performing a nearest neighbors search on a new image
feature set corresponding to a new image, wherein the
new image feature set is extracted from the selected layer
during processing of the new image; and
assigning at least one of the subset of the plurality of tags
to the new image based upon voting on the subset of the
plurality of tags.
Revendication délivrée le 27.03.2018

2727
Conclusions 09.2019
Les principes existants des systèmes de brevet (EP; US) sont applicables aux innovations en
intelligence artificielle.
Une invention issue de l’intelligence artificielle faite par un inventeur humain peut remplir les conditions
requises pour bénéficier de la protection accordée par la propriété intellectuelle.
Les inventions d’intelligence artificielle peuvent être protégées par brevet au titre des inventions mises
en œuvre par ordinateur selon les mêmes critères.
L’IA amène de nouvelles questions, en particulier quant à la propriété et la titularité des droits d’invention,
au concept de l’homme du métier, à l’exigence de clarté. Les choix de réponses pourraient impacter le
cadre législatif du droit de la propriété intellectuelle des différentes juridictions.
Le débat est ouvert …
Cependant

©CopyrightMarks&ClerkFrance
2008
28
©CopyrightMarks&ClerkFrance
2011
28
MERCI DE VOTRE ATTENTION
Frédérique Lopez
Cabinet Marks&Clerk France
frederique.lopez@fr.marks-clerk.com
+33 (0)683 177 183

Do’nt forget subtelty!
« Legal
doctrine »
IT impact
on law

Intermediary conclusions
• Ai productions are not subject matters of copyright, mostly because
• They do not show the creative intention… only the market intention
• No subject is involved in the creation, and/or int the reception of the
productions.
• Problably our categories « work of authorship » « AI-product » do not
fit well
• We tend to focus on the wrong subjects

Défis de l'IA : droits, devoirs, enjeux économiques et éthiques

Recommandé

Recommandé

Contenu connexe

Tendances

Tendances (16)

Similaire à Défis de l'IA : droits, devoirs, enjeux économiques et éthiques

Similaire à Défis de l'IA : droits, devoirs, enjeux économiques et éthiques (20)

Plus de IBM France Lab

Plus de IBM France Lab (20)

Défis de l'IA : droits, devoirs, enjeux économiques et éthiques