SlideShare une entreprise Scribd logo
Tout comprendre à ChatGPT
Synthèse
Algorithmes Machine Learning
Algorithmes Deep Learning
Algorithmes Transformers
❌ ChatGPT
ChatGPT est basé sur
un algorithme Transformers
Transformers = un type par0culier
d’algorithme Deep Learning.
Deep learning = un type par0culier
d’algorithme de Machine Learning.
Algorithmes
Machine Learning
Algorithmes Deep
Learning
Algorithmes
Transformers
Prédire le futur à par>r de ce qu’il s’est passé dans le passé
Efficace avec peu de
paramètres en entrée
Exemple : nb de ventes d’un
produit en fonc>on du prix
Inefficace avec beaucoup de
paramètres en entrée
Exemple : reconnaître
quelqu’un sur une photo
Efficace avec beaucoup de
paramètres en entrée
Exemple : reconnaître
quelqu’un sur une photo
Inefficace pour des textes
longs et complexes
Exemple : écrire un ar>cle
sur « le shampooing »
Efficace pour des textes
longs et complexes
Exemple : écrire un ar>cle
sur « le shampooing »
ChatGPT
C’est quoi le
« Machine Learning » ?
MACHINE LEARNING = UTILISER UN MODÈLE POUR PRÉDIRE
LE FUTUR À PARTIR DU PASSÉ
Prépara&on du modèle
nb de shampooings vendus
prix du shampooing
Modèle entraîné
Modèle testé✅
Le modèle dans la vraie vie
1⃣ pour ce prix
2⃣ mon modèle prédit que je vais
vendre :
3⃣ ce nb de shampooing
CHOSES RENDUES POSSIBLES PAR LE MACHINE LEARNING
Des recommanda&ons intelligentes !
C’est quoi le
« Deep Learning » ?
PROBLÈME : LES MODÈLES SIMPLES DE MACHINE LEARNING
MODELS N’ONT PAS ASSEZ DE PARAMÈTRES !
… pas avec beaucoup + de
paramètres
Comme les photos !
Ça marche avec peu de
paramètres (1,2,10,20…)
prix d’un nb de
modèle
1 paramètre
modèle
beaucoup de paramètres
📱Unlocked
LE DEEP LEARNING GÉRE PLUS DE PARAMÈTRES MAIS LA
LOGIQUE D’OPTIMISATION EST LA MÊME
Modèle entraîné
Modèle testé
Pour valider le modèle, la
distance ici doit être minimale
Modèle avec bcp de paramètres entraîné
Modèle avec bcp de paramètres testé
Ce que je dois prédire
Ce que j’ai prédit Distance
✅ or ❌ ?
TIENS TIENS, LA REPRÉSENTATION DE CE MODÈLE DE DEEP
LEARNING, ÇA NE VOUS RAPPELLERAIT PAS QQCH ?
Deep learning simple
Deep learning complexe
🤔 Cerveau humain 🧠🤯
CHOSES RENDUES POSSIBLES PAR LE DEEP LEARNING
Détec&on d’images Traduc&on automa&que
C’est quoi les « Transformers » ?
LES TRANSFORMERS COMPRENNENT MIEUX LE CONTEXTE
QUE LES MODÈLES CLASSIQUES DE DEEP LEARNING
Modèles classiques
de deep learning
Modèles de deep
learning transformers
🤖
🧠
même priorité
C’est un très beau chat
Pas efficace sur les phrases
longues👎
Efficace sur les phrases
longues👍
différentes priorités
🔎
🔍
C’est un très beau chat
LES TRANSFORMERS SONT BIEN PLUS RAPIDES ET PRÉCIS
QUE LES MODÈLES CLASSIQUES DE DEEP LEARNING
Grâce à ce mécanisme de focus – « l’aBen&on »
Les transformers sont plus efficaces
Que les autres modèles
C’est quoi ChatGPT ?
CHATGPT = UN PRODUIT BASÉ SUR LE MODÈLE
TRANSFORMERS GPT3.5 (PLUS POUR LONGTEMPS…)
Créé par OpenAI…
…mais pas Open Source
Il y a eu d’autres versions avant…
…toutes basées sur des transformers
🤖
ChatGPT fait une prédicQon
du « prochain mot »
« Écris un ar0cle sur
le shampoing »
« Le »
« Écris un ar+cle sur le
shampoing. » + « Le »
« Le Shampoing »
GPT3.5
« Écris un ar+cle sur le
shampoing. » + « Le
Shampoing »
« Le Shampoing a »
« Le Shampoing a été inventé en
1814. Puis il a été…»
GPT3.5
GPT3.5
…
GPT3.5
POURQUOI CHATGPT A EU AUTANT DE SUCCÈS ?
Une base de données de
texte énorme (+ il y a de data,
mieux c’est)
Une interface très simple
et épurée
Un modèle renforcé par
du travail manuel
Et la suite ?
POUR CHATGPT
Une nouvelle version qui vient
de sor;r !
Beaucoup de ques;on éthiques
à aborder
D’AUTRES CHAMPS OÙ L’IA « CRÉE » DES CHOSES – CE
QU’ON APPELLE « L’IA GÉNÉRATIVE »
Text to video
Text to image Text to music

Contenu connexe

Tendances

DataWerhouse : Données de qualité
DataWerhouse : Données de qualitéDataWerhouse : Données de qualité
DataWerhouse : Données de qualité
Nassim Bahri
 
Intelligence Artificielle : Introduction à l'intelligence artificielle
Intelligence Artificielle : Introduction à l'intelligence artificielleIntelligence Artificielle : Introduction à l'intelligence artificielle
Intelligence Artificielle : Introduction à l'intelligence artificielle
ECAM Brussels Engineering School
 
Programmation de systèmes embarqués : Systèmes temps réel et PRUSS
Programmation de systèmes embarqués : Systèmes temps réel et PRUSSProgrammation de systèmes embarqués : Systèmes temps réel et PRUSS
Programmation de systèmes embarqués : Systèmes temps réel et PRUSS
ECAM Brussels Engineering School
 
Fonction Excel
Fonction ExcelFonction Excel
Fonction Excel
Houda001
 
L’intelligence artificielle
L’intelligence artificielleL’intelligence artificielle
L’intelligence artificielle
iapassmed
 
Introduction aux outils du Web 2.0
Introduction aux outils du Web 2.0 Introduction aux outils du Web 2.0
Introduction aux outils du Web 2.0
URFIST de Rennes
 
Formation python 3
Formation python 3Formation python 3
Formation python 3
WajihBaghdadi1
 
29 capteurs
29 capteurs29 capteurs
29 capteurs
automationdcs
 
Intelligence artificielle et système multi-agent
Intelligence artificielle et système multi-agentIntelligence artificielle et système multi-agent
Intelligence artificielle et système multi-agent
Noureddine Djebbari
 
7 grafcet avec saut d'étape perceuse
7  grafcet avec saut d'étape perceuse7  grafcet avec saut d'étape perceuse
7 grafcet avec saut d'étape perceuse
omar bllaouhamou
 
ChatBots et intelligence artificielle arrivent dans les banques
ChatBots et intelligence artificielle arrivent dans les banques ChatBots et intelligence artificielle arrivent dans les banques
ChatBots et intelligence artificielle arrivent dans les banques
LINAGORA
 
La Programmation neuro linguistique
La Programmation neuro linguistiqueLa Programmation neuro linguistique
La Programmation neuro linguistique
Ayoub Zouak
 
Comment réussir sa soutenance pfe
Comment réussir sa soutenance pfeComment réussir sa soutenance pfe
Comment réussir sa soutenance pfe
Mohamed Sahbi
 
Réfléchir aux usages pédagogiques de l'IA
Réfléchir aux usages pédagogiques de l'IARéfléchir aux usages pédagogiques de l'IA
Réfléchir aux usages pédagogiques de l'IA
Université de Sherbrooke
 
Nutrition
Nutrition Nutrition
Nutrition
Mehdi Razzok
 
1. transport logistique
1. transport   logistique1. transport   logistique
1. transport logistique
Ourahou Omar
 
l'Intelligence Artificielle Jean-Antoine Moreau
l'Intelligence Artificielle Jean-Antoine Moreaul'Intelligence Artificielle Jean-Antoine Moreau
l'Intelligence Artificielle Jean-Antoine Moreau
Jean-Antoine Moreau
 
Noyau temps réel freertos cheriet mohammed el amine
Noyau temps réel freertos cheriet mohammed el amineNoyau temps réel freertos cheriet mohammed el amine
Noyau temps réel freertos cheriet mohammed el amine
CHERIET Mohammed El Amine
 

Tendances (20)

DataWerhouse : Données de qualité
DataWerhouse : Données de qualitéDataWerhouse : Données de qualité
DataWerhouse : Données de qualité
 
L'analyse transactionnelle
L'analyse transactionnelleL'analyse transactionnelle
L'analyse transactionnelle
 
Intelligence Artificielle : Introduction à l'intelligence artificielle
Intelligence Artificielle : Introduction à l'intelligence artificielleIntelligence Artificielle : Introduction à l'intelligence artificielle
Intelligence Artificielle : Introduction à l'intelligence artificielle
 
Programmation de systèmes embarqués : Systèmes temps réel et PRUSS
Programmation de systèmes embarqués : Systèmes temps réel et PRUSSProgrammation de systèmes embarqués : Systèmes temps réel et PRUSS
Programmation de systèmes embarqués : Systèmes temps réel et PRUSS
 
Fonction Excel
Fonction ExcelFonction Excel
Fonction Excel
 
L’intelligence artificielle
L’intelligence artificielleL’intelligence artificielle
L’intelligence artificielle
 
Introduction aux outils du Web 2.0
Introduction aux outils du Web 2.0 Introduction aux outils du Web 2.0
Introduction aux outils du Web 2.0
 
Formation python 3
Formation python 3Formation python 3
Formation python 3
 
29 capteurs
29 capteurs29 capteurs
29 capteurs
 
Intelligence artificielle et système multi-agent
Intelligence artificielle et système multi-agentIntelligence artificielle et système multi-agent
Intelligence artificielle et système multi-agent
 
Résumé vlsm et cidr
Résumé vlsm et cidrRésumé vlsm et cidr
Résumé vlsm et cidr
 
7 grafcet avec saut d'étape perceuse
7  grafcet avec saut d'étape perceuse7  grafcet avec saut d'étape perceuse
7 grafcet avec saut d'étape perceuse
 
ChatBots et intelligence artificielle arrivent dans les banques
ChatBots et intelligence artificielle arrivent dans les banques ChatBots et intelligence artificielle arrivent dans les banques
ChatBots et intelligence artificielle arrivent dans les banques
 
La Programmation neuro linguistique
La Programmation neuro linguistiqueLa Programmation neuro linguistique
La Programmation neuro linguistique
 
Comment réussir sa soutenance pfe
Comment réussir sa soutenance pfeComment réussir sa soutenance pfe
Comment réussir sa soutenance pfe
 
Réfléchir aux usages pédagogiques de l'IA
Réfléchir aux usages pédagogiques de l'IARéfléchir aux usages pédagogiques de l'IA
Réfléchir aux usages pédagogiques de l'IA
 
Nutrition
Nutrition Nutrition
Nutrition
 
1. transport logistique
1. transport   logistique1. transport   logistique
1. transport logistique
 
l'Intelligence Artificielle Jean-Antoine Moreau
l'Intelligence Artificielle Jean-Antoine Moreaul'Intelligence Artificielle Jean-Antoine Moreau
l'Intelligence Artificielle Jean-Antoine Moreau
 
Noyau temps réel freertos cheriet mohammed el amine
Noyau temps réel freertos cheriet mohammed el amineNoyau temps réel freertos cheriet mohammed el amine
Noyau temps réel freertos cheriet mohammed el amine
 

Similaire à Comment fonctionne ChatGPT.pdf

Décryptage des LLMs au-delà de la hype - Lyon Data science
Décryptage des LLMs au-delà de la hype - Lyon Data scienceDécryptage des LLMs au-delà de la hype - Lyon Data science
Décryptage des LLMs au-delà de la hype - Lyon Data science
Marie-Alice Blete
 
Eb02 Ergonomie Creation Graphique D Un Site Web Et Processus Agile De Develop...
Eb02 Ergonomie Creation Graphique D Un Site Web Et Processus Agile De Develop...Eb02 Ergonomie Creation Graphique D Un Site Web Et Processus Agile De Develop...
Eb02 Ergonomie Creation Graphique D Un Site Web Et Processus Agile De Develop...
Valtech
 
Robot Framework Introduction
Robot Framework IntroductionRobot Framework Introduction
Robot Framework Introduction
laurent bristiel
 
Machine Translation
Machine TranslationMachine Translation
Machine Translation
YakoubAbdallahOUARDI
 
Visite guidée au pays de la donnée - Traitement automatique des données
Visite guidée au pays de la donnée - Traitement automatique des donnéesVisite guidée au pays de la donnée - Traitement automatique des données
Visite guidée au pays de la donnée - Traitement automatique des données
Gautier Poupeau
 
GenAI dans les professional services - LLM vs RAG
GenAI dans les professional services - LLM vs RAGGenAI dans les professional services - LLM vs RAG
GenAI dans les professional services - LLM vs RAG
Sally Laouacheria
 
Api - mix it 2013
Api - mix it 2013Api - mix it 2013
Api - mix it 2013
Eric D.
 
le NLP à l'ére de l'IA
le NLP à l'ére de l'IAle NLP à l'ére de l'IA
le NLP à l'ére de l'IA
habib200
 
TDD/BDD: ou comment j’ai appris à ne plus m’en faire avec les tests (et la doc)
TDD/BDD: ou comment j’ai appris à ne plus m’en faire avec les tests (et la doc)TDD/BDD: ou comment j’ai appris à ne plus m’en faire avec les tests (et la doc)
TDD/BDD: ou comment j’ai appris à ne plus m’en faire avec les tests (et la doc)
French Scrum User Group
 
La régression continue - Une méthode pour bien faire rater l'adoption agile ...
La régression continue - Une méthode pour bien faire rater l'adoption agile ...La régression continue - Une méthode pour bien faire rater l'adoption agile ...
La régression continue - Une méthode pour bien faire rater l'adoption agile ...
Bastien Gallay
 
Design poo togo_jug_final
Design poo togo_jug_finalDesign poo togo_jug_final
Design poo togo_jug_final
Duchess France
 
Design poo togo_jug_final
Design poo togo_jug_finalDesign poo togo_jug_final
Design poo togo_jug_final
agnes_crepet
 
INF120 - Algo DUT SRC1 - Cours 3
INF120 - Algo DUT SRC1 - Cours 3INF120 - Algo DUT SRC1 - Cours 3
INF120 - Algo DUT SRC1 - Cours 3
PGambette
 
Des conférences à voir et à revoir
Des conférences à voir et à revoirDes conférences à voir et à revoir
Des conférences à voir et à revoir
Anthony Maison
 
Bidirectional Encoder Representations from Transformers
Bidirectional Encoder Representations from TransformersBidirectional Encoder Representations from Transformers
Bidirectional Encoder Representations from Transformers
bahija babzine
 
Lexique digital
Lexique digitalLexique digital
Lexique digital
Hubert Kratiroff
 
UX en formation
UX en formationUX en formation
UX en formation
François Pourrier
 

Similaire à Comment fonctionne ChatGPT.pdf (20)

Décryptage des LLMs au-delà de la hype - Lyon Data science
Décryptage des LLMs au-delà de la hype - Lyon Data scienceDécryptage des LLMs au-delà de la hype - Lyon Data science
Décryptage des LLMs au-delà de la hype - Lyon Data science
 
Eb02 Ergonomie Creation Graphique D Un Site Web Et Processus Agile De Develop...
Eb02 Ergonomie Creation Graphique D Un Site Web Et Processus Agile De Develop...Eb02 Ergonomie Creation Graphique D Un Site Web Et Processus Agile De Develop...
Eb02 Ergonomie Creation Graphique D Un Site Web Et Processus Agile De Develop...
 
Robot Framework Introduction
Robot Framework IntroductionRobot Framework Introduction
Robot Framework Introduction
 
Machine Translation
Machine TranslationMachine Translation
Machine Translation
 
Visite guidée au pays de la donnée - Traitement automatique des données
Visite guidée au pays de la donnée - Traitement automatique des donnéesVisite guidée au pays de la donnée - Traitement automatique des données
Visite guidée au pays de la donnée - Traitement automatique des données
 
GenAI dans les professional services - LLM vs RAG
GenAI dans les professional services - LLM vs RAGGenAI dans les professional services - LLM vs RAG
GenAI dans les professional services - LLM vs RAG
 
Faites revivre vos spécifications scrumday 2014
Faites revivre vos spécifications   scrumday 2014Faites revivre vos spécifications   scrumday 2014
Faites revivre vos spécifications scrumday 2014
 
Api - mix it 2013
Api - mix it 2013Api - mix it 2013
Api - mix it 2013
 
le NLP à l'ére de l'IA
le NLP à l'ére de l'IAle NLP à l'ére de l'IA
le NLP à l'ére de l'IA
 
TDD/BDD: ou comment j’ai appris à ne plus m’en faire avec les tests (et la doc)
TDD/BDD: ou comment j’ai appris à ne plus m’en faire avec les tests (et la doc)TDD/BDD: ou comment j’ai appris à ne plus m’en faire avec les tests (et la doc)
TDD/BDD: ou comment j’ai appris à ne plus m’en faire avec les tests (et la doc)
 
La régression continue - Une méthode pour bien faire rater l'adoption agile ...
La régression continue - Une méthode pour bien faire rater l'adoption agile ...La régression continue - Une méthode pour bien faire rater l'adoption agile ...
La régression continue - Une méthode pour bien faire rater l'adoption agile ...
 
Julien dollon
Julien dollonJulien dollon
Julien dollon
 
Design poo togo_jug_final
Design poo togo_jug_finalDesign poo togo_jug_final
Design poo togo_jug_final
 
Design poo togo_jug_final
Design poo togo_jug_finalDesign poo togo_jug_final
Design poo togo_jug_final
 
Sds Programme
Sds ProgrammeSds Programme
Sds Programme
 
INF120 - Algo DUT SRC1 - Cours 3
INF120 - Algo DUT SRC1 - Cours 3INF120 - Algo DUT SRC1 - Cours 3
INF120 - Algo DUT SRC1 - Cours 3
 
Des conférences à voir et à revoir
Des conférences à voir et à revoirDes conférences à voir et à revoir
Des conférences à voir et à revoir
 
Bidirectional Encoder Representations from Transformers
Bidirectional Encoder Representations from TransformersBidirectional Encoder Representations from Transformers
Bidirectional Encoder Representations from Transformers
 
Lexique digital
Lexique digitalLexique digital
Lexique digital
 
UX en formation
UX en formationUX en formation
UX en formation
 

Comment fonctionne ChatGPT.pdf

  • 3. Algorithmes Machine Learning Algorithmes Deep Learning Algorithmes Transformers ❌ ChatGPT ChatGPT est basé sur un algorithme Transformers Transformers = un type par0culier d’algorithme Deep Learning. Deep learning = un type par0culier d’algorithme de Machine Learning.
  • 4. Algorithmes Machine Learning Algorithmes Deep Learning Algorithmes Transformers Prédire le futur à par>r de ce qu’il s’est passé dans le passé Efficace avec peu de paramètres en entrée Exemple : nb de ventes d’un produit en fonc>on du prix Inefficace avec beaucoup de paramètres en entrée Exemple : reconnaître quelqu’un sur une photo Efficace avec beaucoup de paramètres en entrée Exemple : reconnaître quelqu’un sur une photo Inefficace pour des textes longs et complexes Exemple : écrire un ar>cle sur « le shampooing » Efficace pour des textes longs et complexes Exemple : écrire un ar>cle sur « le shampooing » ChatGPT
  • 5. C’est quoi le « Machine Learning » ?
  • 6. MACHINE LEARNING = UTILISER UN MODÈLE POUR PRÉDIRE LE FUTUR À PARTIR DU PASSÉ Prépara&on du modèle nb de shampooings vendus prix du shampooing Modèle entraîné Modèle testé✅ Le modèle dans la vraie vie 1⃣ pour ce prix 2⃣ mon modèle prédit que je vais vendre : 3⃣ ce nb de shampooing
  • 7. CHOSES RENDUES POSSIBLES PAR LE MACHINE LEARNING Des recommanda&ons intelligentes !
  • 8. C’est quoi le « Deep Learning » ?
  • 9. PROBLÈME : LES MODÈLES SIMPLES DE MACHINE LEARNING MODELS N’ONT PAS ASSEZ DE PARAMÈTRES ! … pas avec beaucoup + de paramètres Comme les photos ! Ça marche avec peu de paramètres (1,2,10,20…) prix d’un nb de modèle 1 paramètre modèle beaucoup de paramètres 📱Unlocked
  • 10. LE DEEP LEARNING GÉRE PLUS DE PARAMÈTRES MAIS LA LOGIQUE D’OPTIMISATION EST LA MÊME Modèle entraîné Modèle testé Pour valider le modèle, la distance ici doit être minimale Modèle avec bcp de paramètres entraîné Modèle avec bcp de paramètres testé Ce que je dois prédire Ce que j’ai prédit Distance ✅ or ❌ ?
  • 11. TIENS TIENS, LA REPRÉSENTATION DE CE MODÈLE DE DEEP LEARNING, ÇA NE VOUS RAPPELLERAIT PAS QQCH ? Deep learning simple Deep learning complexe 🤔 Cerveau humain 🧠🤯
  • 12. CHOSES RENDUES POSSIBLES PAR LE DEEP LEARNING Détec&on d’images Traduc&on automa&que
  • 13. C’est quoi les « Transformers » ?
  • 14. LES TRANSFORMERS COMPRENNENT MIEUX LE CONTEXTE QUE LES MODÈLES CLASSIQUES DE DEEP LEARNING Modèles classiques de deep learning Modèles de deep learning transformers 🤖 🧠 même priorité C’est un très beau chat Pas efficace sur les phrases longues👎 Efficace sur les phrases longues👍 différentes priorités 🔎 🔍 C’est un très beau chat
  • 15. LES TRANSFORMERS SONT BIEN PLUS RAPIDES ET PRÉCIS QUE LES MODÈLES CLASSIQUES DE DEEP LEARNING Grâce à ce mécanisme de focus – « l’aBen&on » Les transformers sont plus efficaces Que les autres modèles
  • 17. CHATGPT = UN PRODUIT BASÉ SUR LE MODÈLE TRANSFORMERS GPT3.5 (PLUS POUR LONGTEMPS…) Créé par OpenAI… …mais pas Open Source Il y a eu d’autres versions avant… …toutes basées sur des transformers 🤖 ChatGPT fait une prédicQon du « prochain mot » « Écris un ar0cle sur le shampoing » « Le » « Écris un ar+cle sur le shampoing. » + « Le » « Le Shampoing » GPT3.5 « Écris un ar+cle sur le shampoing. » + « Le Shampoing » « Le Shampoing a » « Le Shampoing a été inventé en 1814. Puis il a été…» GPT3.5 GPT3.5 … GPT3.5
  • 18. POURQUOI CHATGPT A EU AUTANT DE SUCCÈS ? Une base de données de texte énorme (+ il y a de data, mieux c’est) Une interface très simple et épurée Un modèle renforcé par du travail manuel
  • 20. POUR CHATGPT Une nouvelle version qui vient de sor;r ! Beaucoup de ques;on éthiques à aborder
  • 21. D’AUTRES CHAMPS OÙ L’IA « CRÉE » DES CHOSES – CE QU’ON APPELLE « L’IA GÉNÉRATIVE » Text to video Text to image Text to music