Mon discours du jour a porté sur un sujet d'actualité extrêmement pertinent : les enjeux des IA génératives sur les entreprises, la société et les individus.
À travers mon intervention, j'ai exploré la manière dont ces IA, dont fait partie la technologie ChatGPT, sont en train de transformer radicalement notre société et notre économie. J'ai examiné comment elles sont utilisées dans le monde des affaires, comment elles affectent nos vies quotidiennes et comment elles ont le potentiel de modeler notre avenir.
J'ai aussi abordé les questions éthiques et législatives associées à ces IA. Comment pouvons-nous garantir une utilisation équitable et sécurisée de ces technologies ? Quel rôle les pouvoirs publics doivent-ils jouer pour réglementer ces outils ? Comment pouvons-nous nous assurer que ces IA bénéficient à tous et ne contribuent pas à accentuer les inégalités existantes ?
J'ai enfin présenté quelques idées d'importance pour les pouvoirs publics, en insistant sur la nécessité d'une politique publique bien pensée et proactive dans ce domaine. J'ai discuté des meilleures pratiques internationales en matière de réglementation de l'IA, et proposera des recommandations sur la manière dont la France pourrait adopter une approche similaire.
1. 1
Alain Goudey
26/05/2023
NEOMA Business School
Twitter: @AlainGoudey
LinkedIn: https://www.linkedin.com/in/goudey/
Web : https://alain.goudey.eu
Audition Commission des Lois
Assemblée Nationale
Mission IA
3. 3
L’IA C’EST QUOI ?
“AI is the science of making
smart softwares”
(John McCarthy, Pr. Stanford
University, 1956)
science
softwares
1956
4. 4
QUATRE TYPES D’IA
4
1990
Type II – ANI: Limited
memory
(autonomous cars)
I measure in real time in
order to react in the right
way
Type I – ANI: reactive
machines
(IBM’s Deep Blue)
I choose one way from
future possible
combinations
2010
2040
Type III – AGI: Theory of
mind
I know the world and I
know what
the agents feel & think
(emotion detection)
2060
Type IV – ASI: Self-
awareness
I know that I exist and that I
want that item
Based on: https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html
N’existe pas en 2023 !
5. 5
L’IA SE SONT DES ALGORITHMS ET IL Y A BEAUCOUP DE
MÉTHODES
Artificial intelligence
Evolutionary
algorithms
Genetic algorithms
Learning classifier system
Differential evolution
Evolutionary programming
Machine Learning
Deep Learning
Random Forest
Bayesian Networks
Vector machines
Expert systems
Truth maintenance
Inference engines
Hypotehtical reasoning
Fuzzy logic
…
IA génératives
6. 6
CHRONOLOGIE DES IA GÉNÉRATIVES
OpenAI released an updated
version of ChatGPT using an
advanced model based on
human feedback
2014
2017
OpenAI’s GPT-1 can generate
coherent text (groundwork
for the creation of more
advanced systems)
2021
2022
Emergence of the
Generative Adversarial
Networks (GAN)
OpenAI launches DALL.E
(AI for image
generation)
2019
Google starts using
BERT’s algorithm for
understanding human
language
L'ensemble des algorithmes qui peuvent recevoir un message (texte, audio, images, bruit aléatoire ou
rien du tout) et produire quelque chose qui semble réaliste et raisonnable pour les humains.
(Zhou, 2022)
16. 16
Quelques usages de
ChatGPT en entreprise
Cela résout le
syndrome de la page
blanche…
… pour peu que l’art
du prompt est maîtrisé
17. 17
Des usages qui évoluent très vite avec les
nouveaux acteurs / plug ins
18. 18
Les limites de ChatGPT : les
hallucinations
- Forte dépendance à l'égard de la
qualité de la consigne (le prompt)
- Lorsqu'une donnée n'existe pas, il
utilise une « ungraceful degradation »
pour la "remplacer"...... conduisant à
des "hallucinations" et à des "fake
news".
- Les réponses dépendent fortement de
l'ensemble de données original
utilisé pour l’entraînement (GPT3, 3.5
et 4 sont fortement basées sur la
culture anglo-saxonne, non
transparentes et arrêtées en novembre
21 pour 3.5, ATTENTION plus vrai pour
GPT4).
ChatGPT peut « halluciner » et fournir des fake news avec une
grande assertivité
Et d’une HDR Et en marketing sensoriel
19. 19
Les limites de ChatGPT : les biais /
stéréotypes
ChatGPT et les IA génératives révèlent les biais et les stéréotypes
implicites ou explicites dans l’ensemble de données d’entraînement
https://www.jamaissanselles.fr/biais-intelligence-artificielle/
22. 22
Conséquences : modification de notre rapport
à l’information et à Internet
^ Une intégration forte dans les outils du quotidien >
^ Une révision du modèle pub en ligne…
marché à 100 milliard de $ (30/03/23)
« ChatGPT est le pire assistant de l’humain » (Sam Altman)
(car les suivants seront bien plus efficaces !)
23. 23
D’un croquis à un site web en 30 secondes…
Conséquences : prototypage (ultra)rapide
24. 24
Conséquences : fake news, arnaques,
manipulations et autres
La création IA est actuellement (presque)
indétectable
25. 25
EN ENTREPRISE : IA GÉNÉRATIVE & MARKETING /
COMMUNICATION / RELATION CLIENT / INNOVATION /
CRÉATIVITÉ
Expedia : https://youtu.be/gHypiHmvZlM
26. 26
EN ENTREPRISE : IA GÉNÉRATIVE & GESTION ADMINISTRATIVE
/ FINANCES / JURIDIQUE / ANALYSTE / RH
JP Morgan Chase a utilisé un modèle de langage pour automatiser une grande partie de la rédaction de ses
rapports financiers.
- Identifier des tendances, les risques et
opportunités d’investissement
- Traitement des factures et saisies
automatiques dans les systèmes
comptables
- Détection de fraudes, en utilisant les
modèles de langage pour identifier des
schémas de fraude et alerter un
gestionnaire de portefeuille en temps
réel
- Prévision de la demande pour certains
produits ou services
- Analyse des risques financiers, tels que
le risque de crédit ou le risque de
marché
- Rédiger des contrats (y compris
techniques autour des crypto-actifs)
• Gestion de performance
(43%)
• Administration de la paie
et des bénéfices (42%)
• Recrutement et
embauche (41 %)
• Intégration des nouveaux
employés (40%)
• Gestion des dossiers
d’employés (39%)
Sondage début 2023 (RH)
27. 27
A MON SENS, QUELQUES IDÉES A TRAITER (1)
Education / formation / recherche
• Déclencher des plans d’accompagnement de reconversion et de formation sur le numérique compte tenu de l’impact de l’IA
(générative) sur l’emploi (et notamment sur la compétence de prompt engineering)
• Former les formateurs et les décideurs publics : les enseignants du primaire, du secondaire et du supérieur car ils sont les garants
de la mise en place de la distanciation, du discernement et de l’esprit critique chez les < 18 ans
• Développer une vraie culture numérique des citoyens (pour limiter les impacts de la manipulation et des fakes) : usage de ses
données, de celles accessibles et d’être créatif avec le numérique.
• Développer la recherche en IA et ses usages par une approche 360° du sujet (pas que éthique, pas que technique, pas que
business, pas que juridique, etc.)
Economiques
• Développer une ambition hybridée, nationale et européenne : l’IA générative doit mélanger les disciplines « humaines » et
« techniques » dans des campus / projets en commun (ce n’est pas que technique), création d’AAP IA publics incluant l’open
source et la French Tech (pour être concret et favoriser l’émergence de champions) => une French AI Tech ?
• Encourager une filière autour de l’identification « made by AI » (watermarking, détection automatisée, fact checking, etc.)
• Stimuler l’innovation sur le sujet de l’IA (générique) par la commande publique, avec une pluralité et indépendance de point de
vue
28. 28
A MON SENS, QUELQUES IDÉES A TRAITER (2)
Techniques
• Créer des alternatives crédibles aux modèles privés (monétisés et opaques) à faire émerger = open source à
privilégier ? Pour développer des espaces souverains pour enseigner, pratiquer et créer, sans risque de fuites
(LightOn, Mistral AI, Rhetoric, Golem.AI, etc.).
• Encourager la maîtrise européenne de sous-jacents techniques : puces GPU (pour l’entraînement), datacenters
(pour l’hébergement)
• Oser la disruption sur l’IA par l’exploration d’autres approches (AnotherBrain, NukkAI), plus frugale / économe
mais moins mainstream (et non la fuite en avant sur le deeplearning) : stratégie Océan Bleu sous l’égide d’un
groupe d’experts rassemblant élus, décideurs, entrepreneurs, chercheurs, scientifiques ?
Juridiques / Législation
• PI de l’intégration des contenus qui ont servi à l’entraînement de l’IA et redistribution de valeur si monétisation
des LLM basés sur ces datas, PI des créations IA
• Garantir la transparence et l’équité des LLM (pour limiter les biais)
• Adresser le problème de la fuite de la data et du respect de la vie privée
30. 30
Quelques ressources en ligne
- https://medium.com/@AlainGoudey (articles in English)
- https://www.linkedin.com/in/goudey/ (articles en French + suivi
quotidien de l’actualité)
- https://www.linkedin.com/groups/12775320/ (185+ members
for a collective curation)
- https://er.educause.edu/articles/2023/2/educause-quickpoll-
results-did-chatgpt-write-this-report
- https://platform.openai.com/docs/chatgpt-education
- https://www.timeshighereducation.com/campus/collections/ai-
transformers-chatgpt-are-here-so-what-next
- https://hbsp.harvard.edu/inspiring-minds/chatgpt-and-ai-text-
generators-should-academia-adapt-or-resist
- https://ed.stanford.edu/news/stanford-faculty-weigh-new-ai-
chatbot-s-shake-learning-and-teaching
- 15 AI tools for the classroom - Ditch That Textbook
- Lecturers urged to review assessments in UK amid concerns over new AI tool |
Artificial intelligence (AI) | The Guardian
- Intelligence Artificielle et impact en enseignement supérieur (padlet.org)
- Réflexions sur les AI génératives et l'enseignement supérieur (padlet.com)
- (PDF) Chatbot Prompting: A guide for students, educators, and an AI-augmented
workforce (researchgate.net)
Notes de l'éditeur
AI is a matter of science (computer sciences & cognitive sciences), so that FIGURES, LOGICS, DATA & MATHEMATICS
OLD concept
Lot of different Ais!
Type I – AI: Reactive machines (Artificial Narrow Intelligence)
Look at the pieces on the chess board and choose from possible next moves. It acts on what it sees: no internal concept of the world.
Type II – AI: Limited memory (Artificial Narrow Intelligence)
Machines that look into the past. Self-driving cars do some of this already. They observe other cars’ speed and direction. Not in a blink, it requires identifying specific objects and monitoring them over time. Only transient, not saved as experience of the car. It modifies representations of the world but not create a library of experience where another car could learn from
Type III AI: Theory of mind (Artificial General Intelligence)(mémoire de long terme et transversalité des infos, ie impact des agents sur la représentation du monde) -> on démarre, mature d’ici 10-15 ans ?
Machines in the next, more advanced, class not only form representations about the world, but also about other agents or entities in the world. In psychology, this is called “theory of mind” – the understanding that people, creatures and objects in the world can have thoughts and emotions that affect their own behavior.
Type IV AI: Self-awareness (impensable aujourd’hui) (Artificial Super Intelligence)
This is, in a sense, an extension of the “theory of mind” possessed by Type III artificial intelligences. Consciousness is also called “self-awareness” for a reason. (“I want that item” is a very different statement from “I know I want that item.”) Conscious beings are aware of themselves, know about their internal states, and are able to predict feelings of others. We assume someone honking behind us in traffic is angry or impatient, because that’s how we feel when we honk at others.
AI is a vast area of algorithms and Deep Learning is only one technique of machine learning wich is only one technique of creating AI (smart softwares). More than 15 techniques of ML !
Random forest uses numerous of decision trees to optimize a prediction
Bayesian networks have a probabilist approach to analyze variables and links
Vector machines are built with previous categorized examples to create new models