SlideShare une entreprise Scribd logo
Esprit-Intelligence Artificielle   02/11/2012   1
Plan
Introduction

     Quelques Eléments de la neurobiologie

        Les Modules mathématiques

         Architecture du réseau

        Apprentissage

     Mise en place

Conclusion

Esprit-Intelligence Artificielle             02/11/2012   2
Introduction




Esprit-Intelligence Artificielle             02/11/2012   3
Approche
                                    basée sur la
                                   connaissance
                                                      Inspiration de
              Approche                                traitement de
            algorithmique                              l’information
                                                      par le cerveau

                                         La
                                   construction
                                    de logiciels
                                                   Les RNA sont des réseaux
                                                     fortement connectés de
                                                    processeurs élémentaires
                                                    fonctionnant en parallèle.
                                                   Chaque processeur calcule
                                                     une sortie unique sur la
                                                   base des informations qu'il
                                                              reçoit
Esprit-Intelligence Artificielle                                       02/11/2012   4
• C’est une approche qui a été privilégiée par
  l'Intelligence Artificielle.
• Les réseaux de neurones sont fortement inspirés par
  le système nerveux biologique
• On peut entraîner un réseau de neurone pour une
  tâche spécifique (reconnaissance de caractères
  par exemple) en ajustant les valeurs des
  connections (ou poids) entre les éléments neurone).




 Esprit-Intelligence Artificielle             02/11/2012   5
Quelques repères
• 1943: J. McCulloch & W. Pitts
    proposent un modèle simple de neurone capable de produire une machine
    de Turing.

• 1948: D. Hebb
    propose une règle d'apprentissage pour des réseaux de neurones .

• 1958: F. Rosenblatt
    propose le modèle du Perceptron et démontre son théorème de
    convergence.

• 1969: M. Minsky & S. Papert
    démontrent les limitations du modèle du Perceptron.

• 1985: apprentissage par rétro-propagation pour les réseaux multi-couches.



 Esprit-Intelligence Artificielle                                      02/11/2012   6
Intérêt
                                                   Ils
La limitation
                                              s’inscrivent
     des
                                                dans les
 ordinateurs
                                               mutations     La structure des
  existants .
                                                  tech.      réseaux de neurones
                        Les RNA sont                         étant elle-même
                        efficaces pour                       parallèle, leur
                        effectuer à grande                   fonctionnement
                        vitesse des calculs                  présente de nombreux
                        et, d’une manière                    avantages :
                        générale des tâches
                                                             une vitesse de calcul
                        mécaniques                           accrue, la résistance
                                                             aux pannes locales, et
                                                             enfin la régularité de
                                                             la structure




Esprit-Intelligence Artificielle                                         02/11/2012   7
Quelques Eléments de la neurobiologie




Esprit-Intelligence Artificielle   02/11/2012   8
Cellules nerveuses




Esprit-Intelligence Artificielle     02/11/2012   9
Description schématique des éléments d’une
                                   synapse




Esprit-Intelligence Artificielle             02/11/2012   10
Apprentissage
• Il est caractérisé par : Un système initial aux
   mécanismes de fonctionnement et au potentiel
   d’évolution fixés.

 l’évolution des connexions du réseau .

 l’interaction entre le monde extérieur et le réseau .

 un mécanisme sélectif .
 L’apprentissage peut être définit comme l’acquisition de propriétés
 associatives stables, et la mémorisation comme l’engrangement et le rappel
 de ces propriétés ou modifications.

 Esprit-Intelligence Artificielle                                02/11/2012   11
Les Modules mathématiques




Esprit-Intelligence Artificielle          02/11/2012   12
Structure d’un neurone
            artificiel




      Mise en correspondance neurone biologique / neurone artificiel


Esprit-Intelligence Artificielle                              02/11/2012   13
Fonctionnement interne
         d’un neurone
• Un neurone reçoit les signaux d'entrée x1, ..., xn .
• Ces signaux sont pondérés par des poids w1, ..., wn
  .
• L'activation du neurone
   a=∑ wi.xi
   est transmise à une fonction
   de transition f (non linéaire)
   paramétrée par un seuil w0
• Le signal de sortie y = f (a-w0)
   est propagé aux cellules
   suivantes

 Esprit-Intelligence Artificielle               02/11/2012   14
Les fonctions de transfert




Esprit-Intelligence Artificielle   02/11/2012   15
Réseaux de neurones
           naturels vs. artificiels
                                    réseau naturel        réseau artificiel


fonctionnement du                   réactions chimiques   fonctions
neurone                                                   mathématiques

temps de réaction                   relativement lent     très rapide


nombre de neurones                  environ 10¹º          entre 10⁴ et 10⁵


nombre de connexions                environ 10¹³          jusqu'à 10⁷




 Esprit-Intelligence Artificielle                                            02/11/2012   16
ARCHITECTURE DE RESEAU




Esprit-Intelligence Artificielle   02/11/2012   17
Les réseaux "Feed-
                      forward"
• Ce sont des réseaux dans les quels l'information se
  propage de couche en couche sans retour en
  arrière possible.
• On distingue alors :
     o        Perceptron monocouche
     o        Perceptron multicouche(PMC)




      Le perceptron est un modèle de réseau de neurones avec algorithme
                              d'apprentissage


 Esprit-Intelligence Artificielle                                 02/11/2012   18
Perceptron monocouche




 La sortie S est calculée par la formule :

 S = 1si ∑ wi xi > s
     0 si non


Esprit-Intelligence Artificielle             02/11/2012   19
Perceptron
               multicouche(PMC)




Les neurones sont arrangés par couche. Il n'y a pas de connexion entre
neurones d'une même couche et les connexions ne se font qu'avec les
neurones des couches avales



Esprit-Intelligence Artificielle                                    02/11/2012   20
• On trouve aussi d’autre réseaux qui possèdent la
   même architecture que le PMC mais avec
   quelques particularités :
par exemple :
 PMC a connexion locale




 Esprit-Intelligence Artificielle             02/11/2012   21
Les réseaux à fonction
                radiale
Appelé aussi RBF(en anglais : "Radial Basic Functions").

Particularité :
les fonctions de base utilisées ici sont des fonctions
Gaussiennes.
Utilité :
Les RBF seront donc employés dans les mêmes types
de problèmes que les PMC à savoir, en classification
et en approximation de fonctions, particulièrement.



 Esprit-Intelligence Artificielle                02/11/2012   22
Les réseaux ‘Feed back’
• Ce sont des réseaux dans les quels l'information se
   propage de couche en couche avec retour en
   arrière possible.




 Réseau à connexions complètes      Réseau à connexions
  récurrentes


 Esprit-Intelligence Artificielle                    02/11/2012   23
• Les cartes auto organisatrices de kohonen
       Ce modèle de carte auto-organisatrice appartient à la classe des réseaux à
       compétition.

• Les réseaux de Hopfield
       Un réseau de Hopfield réalise une mémoire adressable par son contenu.

•       Les ART
       ART (Adaptive Resonance Theory) est un modèle de réseau de neurones à
       architecture évolutive développé en 1987 par Carpenter et Grossberg.




    Esprit-Intelligence Artificielle                                    02/11/2012   24
APPRENTISSAGE




Esprit-Intelligence Artificielle               02/11/2012   25
Types d’apprentissage
Il existe plusieurs types d’apprentissage, les plus
utilisées sont :
• Mode supervisé : les exemples sont des couples
    (entrée, sortie associée).
• Mode non supervisé: on dispose que des valeurs
    (entrée).
• Apprentissage par renforcement.
    Pour ces trois types d'apprentissage, il y a également un choix traditionnel
    entre :
    o L’apprentissage << off-line >>
    o L’apprentissage << on-line >>




 Esprit-Intelligence Artificielle                                        02/11/2012   26
•     Il existe d’autre types d’apprentissage comme :
•     Sur-apprentissage ("apprentissage par-coeur") .
•     Le mode hybride .
•     Apprentissage "local" .
•     Apprentissage "global" .
•      Validation croisée ("Cross Validation") .




    Esprit-Intelligence Artificielle              02/11/2012   27
Règles d’apprentissage
                                           Par correction
                           Règle de Hebb
                                              d’erreur




        Par                                           Apprentissage
     compétition                                      de Boltzmann
                                      4 règles
                                    principales



Esprit-Intelligence Artificielle                              02/11/2012   28
Autres règles
• Apprentissage par descente de gradient :
    il s'agit de calculer une erreur et d'essayer de minimiser cette erreur.

• Apprentissage par la règle de Widrow-Hoff (ou
  Adaline) :
    au lieu de calculer les variations des poids en sommant sur tous les exemples
    de S, l'idée est de modifier les poids à chaque présentation d'exemple.




 Esprit-Intelligence Artificielle                                          02/11/2012   29
Algorithme d’apprentissage
        du perceptron
• Initialisation des poids et du seuil à de petites
  valeurs aléatoires
• Présenter un vecteur d’entrées x(μ) et calculer sa
  sortie
• Mettre à jour les poids en utilisant :
    wj(t+1) = wj(t) + η (d- y) xj
    avec d la sortie désirée, w vecteur des poids η est une constante positive ,qui
    spécifie le pas de modification des poids




 Esprit-Intelligence Artificielle                                        02/11/2012   30
Apprentissage par
                  correction d'erreur
• Initialiser la matrice des poids au hasard
• Choisir un exemple en entrée
• Propager le calcul de cette entrée à travers le réseau
• Calculer la sortie de cette entrée
• Mesurer l'erreur de prédiction par différence entre sortie
  réelle et sortie prévue
• Calculer la contribution d'un neurone à l'erreur à partir
  de la sortie
• Déterminer le signe de modification du poids
• Corriger les poids des neurones pour diminuer l'erreur

 Le processus recommence ainsi, à partir du choix de
  l'exemple en entrée, jusqu'à ce qu'un taux d'erreur
  minimal soit atteint.

    Esprit-Intelligence Artificielle                 02/11/2012   31
MISE EN PLACE




Esprit-Intelligence Artificielle                   02/11/2012   32
Préparation des                    Détermination          Phase
   données                         des paramètres    d'apprentissage



Détermination
                                   Optimisation du
des entrées et
                                    jeu de données
 des sorties


Constitution de
                                     Codage des
    la base
                                      entrées
  d'exemples



Esprit-Intelligence Artificielle                             02/11/2012   33
Les points            Les points
                               forts                faibles

                                                     Codage des
                                    Souplesse
                                                      entrées


                                      Bonne
                                                      Lisibilité
                                    résolution


                                    Traitement
                                                        Non
                                   des variables
                                                     optimalité
                                    continues


                                      Outils
                                                    Performance
                                   disponibles


Esprit-Intelligence Artificielle                                   02/11/2012   34
Domaines d’application
• Aérospatial : pilotage automatique, simulation du vol…
• Automobile : système de guidage automatique,…
• Défense : guidage de missile, suivi de cible,
reconnaissance du visage, radar, sonar, lidar, traitement
du signal, compression de données, suppression du bruit…
• Electronique : prédiction de la séquence d’un code,
vision machine, synthétiseur vocal, modèle non linéaire,…
• Finance : Prévision du coût de la vie
• Secteur médical : Analyse EEC et ECG
• Télécommunications : Compression de données …



 Esprit-Intelligence Artificielle                  02/11/2012   35
Exemple d’application
  Reconnaissance des formes
IL y a plusieurs techniques pour la reconnaissance de
forme ou bien d’ordre Général la classification, on
cite trois méthodes avec un exemple pour bien
comprendre ces techniques :
 La méthode classique :
    La première, la plus classique, consiste simplement à mesurer la distance
    euclidienne entre l’image de test et toutes les images présentes dans la base
    d’apprentissage afin d’en déterminer la plus faible.




 Esprit-Intelligence Artificielle                                      02/11/2012   36
Programmation Temps de calcul
            extrêmement      très lent
            rapide et un
            temps d’accès
            aux informations
            utiles immédiat


Esprit-Intelligence Artificielle       02/11/2012   37
Méthodes modernes ou
     par réseau de neurones
• La seconde repose sur un réseau de neurone
  discriminant.      La méthode du réseau discriminant
  repose sur l’utilisation d’un unique réseau de
  neurones donnant en sortie la classe
  d’appartenance d’une image inconnue en
  entrée.
• Il est composé d’une couche d’entrée, d’une
  couche cachée et de plusieurs sorties pour
  autant de personnes à discriminer.




 Esprit-Intelligence Artificielle              02/11/2012   38
Esprit-Intelligence Artificielle   02/11/2012   39
Le temps de calcul      Cette méthode
           nécessaire à            nécessite un très
           l’identification est    long apprentissage
           rapide par rapport      qui dépend du
           a l’autre méthode       nombre de
                                   neurones sur la
                                   couche cachée



Esprit-Intelligence Artificielle                   02/11/2012   40
Applications
Exemple: Restitution de paramètres nuageux à partir
d’image satellite




 Esprit-Intelligence Artificielle             02/11/2012   41
Conclusion




Esprit-Intelligence Artificielle                02/11/2012   42
Conclusion
• les réseaux de neurones reposent à Présent sur des
  bases mathématiques solides qui permettent
  d’envisager des applications dans presque tout les
  domaines y compris industriel et à grande
  échelle, notamment dans le domaine de la
  classification.




 Esprit-Intelligence Artificielle                02/11/2012   43
Perspectives
Les réseaux de neurones ont une histoire relativement
jeune (environ 50 ans) et les applications intéressantes
des réseaux de neurones n’ont vu le jour que depuis
une vingtaine d’année (développement de
l’informatique), et ils ont un futur très prometteur, on
entend parler (par exemple) du WEB sémantique,
RFID, … etc.




 Esprit-Intelligence Artificielle                02/11/2012   44
Esprit-Intelligence Artificielle   02/11/2012   45

Contenu connexe

Tendances

Introduction to Machine learning
Introduction to Machine learningIntroduction to Machine learning
Introduction to Machine learning
Quentin Ambard
 
Deep learning
Deep learningDeep learning
Deep learning
Bilal Rezkellah
 
AI Apprentissage Automatique, Machine Learnig
AI Apprentissage Automatique, Machine LearnigAI Apprentissage Automatique, Machine Learnig
AI Apprentissage Automatique, Machine Learnig
Felipe Sanchez Garzon
 
Introduction au Deep Learning
Introduction au Deep Learning Introduction au Deep Learning
Introduction au Deep Learning
Niji
 
Les réseaux de neurones convolutifs pour la classification des tumeurs cérébr...
Les réseaux de neurones convolutifs pour la classification des tumeurs cérébr...Les réseaux de neurones convolutifs pour la classification des tumeurs cérébr...
Les réseaux de neurones convolutifs pour la classification des tumeurs cérébr...
Juba Ait idir
 
Les applications du Deep Learning
Les applications du Deep LearningLes applications du Deep Learning
Les applications du Deep Learning
Jedha Bootcamp
 
Introduction au Machine Learning
Introduction au Machine LearningIntroduction au Machine Learning
Introduction au Machine Learning
Mathieu Goeminne
 
Exposé segmentation
Exposé segmentationExposé segmentation
Exposé segmentation
Donia Hammami
 
Intelligence artificielle
Intelligence artificielleIntelligence artificielle
Intelligence artificielle
hadjerdermane
 
Rapport-du-projet CNN.docx
Rapport-du-projet CNN.docxRapport-du-projet CNN.docx
Rapport-du-projet CNN.docx
khalil Ismail
 
Comprendre l’intelligence artificielle [webinaire]
Comprendre l’intelligence artificielle [webinaire]Comprendre l’intelligence artificielle [webinaire]
Comprendre l’intelligence artificielle [webinaire]
Technologia Formation
 
Les reseaux profonds
Les reseaux profondsLes reseaux profonds
Les reseaux profonds
Stany Mwamba
 
Algorithmes machine learning/ neural network / deep learning
Algorithmes machine learning/ neural network / deep learningAlgorithmes machine learning/ neural network / deep learning
Algorithmes machine learning/ neural network / deep learning
Bassem Brayek
 
Event B ( B événementiel )
Event B ( B événementiel )Event B ( B événementiel )
Event B ( B événementiel )
Halima Bouabdelli
 
Systeme embarque
Systeme embarqueSysteme embarque
Systeme embarque
Mohammed TIGHREMT
 
Les arbres de décisions
Les arbres de décisionsLes arbres de décisions
Les arbres de décisions
Mariem Chaaben
 
Visual Transformer Overview
Visual Transformer OverviewVisual Transformer Overview
Visual Transformer Overview
Dr Hajji Hicham
 
Intelligence Artificielle - Algorithmes de recherche
Intelligence Artificielle - Algorithmes de rechercheIntelligence Artificielle - Algorithmes de recherche
Intelligence Artificielle - Algorithmes de recherche
Mohamed Heny SELMI
 

Tendances (20)

Introduction to Machine learning
Introduction to Machine learningIntroduction to Machine learning
Introduction to Machine learning
 
Deep learning
Deep learningDeep learning
Deep learning
 
Cours rn 2006
Cours rn 2006Cours rn 2006
Cours rn 2006
 
AI Apprentissage Automatique, Machine Learnig
AI Apprentissage Automatique, Machine LearnigAI Apprentissage Automatique, Machine Learnig
AI Apprentissage Automatique, Machine Learnig
 
Introduction au Deep Learning
Introduction au Deep Learning Introduction au Deep Learning
Introduction au Deep Learning
 
Les réseaux de neurones convolutifs pour la classification des tumeurs cérébr...
Les réseaux de neurones convolutifs pour la classification des tumeurs cérébr...Les réseaux de neurones convolutifs pour la classification des tumeurs cérébr...
Les réseaux de neurones convolutifs pour la classification des tumeurs cérébr...
 
Les applications du Deep Learning
Les applications du Deep LearningLes applications du Deep Learning
Les applications du Deep Learning
 
Introduction au Machine Learning
Introduction au Machine LearningIntroduction au Machine Learning
Introduction au Machine Learning
 
Exposé segmentation
Exposé segmentationExposé segmentation
Exposé segmentation
 
Intelligence artificielle
Intelligence artificielleIntelligence artificielle
Intelligence artificielle
 
Rapport-du-projet CNN.docx
Rapport-du-projet CNN.docxRapport-du-projet CNN.docx
Rapport-du-projet CNN.docx
 
Comprendre l’intelligence artificielle [webinaire]
Comprendre l’intelligence artificielle [webinaire]Comprendre l’intelligence artificielle [webinaire]
Comprendre l’intelligence artificielle [webinaire]
 
Algorithme knn
Algorithme knnAlgorithme knn
Algorithme knn
 
Les reseaux profonds
Les reseaux profondsLes reseaux profonds
Les reseaux profonds
 
Algorithmes machine learning/ neural network / deep learning
Algorithmes machine learning/ neural network / deep learningAlgorithmes machine learning/ neural network / deep learning
Algorithmes machine learning/ neural network / deep learning
 
Event B ( B événementiel )
Event B ( B événementiel )Event B ( B événementiel )
Event B ( B événementiel )
 
Systeme embarque
Systeme embarqueSysteme embarque
Systeme embarque
 
Les arbres de décisions
Les arbres de décisionsLes arbres de décisions
Les arbres de décisions
 
Visual Transformer Overview
Visual Transformer OverviewVisual Transformer Overview
Visual Transformer Overview
 
Intelligence Artificielle - Algorithmes de recherche
Intelligence Artificielle - Algorithmes de rechercheIntelligence Artificielle - Algorithmes de recherche
Intelligence Artificielle - Algorithmes de recherche
 

En vedette

Introduction à LaTeX : le système de composition professionnel
Introduction à LaTeX : le système de composition professionnelIntroduction à LaTeX : le système de composition professionnel
Introduction à LaTeX : le système de composition professionnel
ECAM Brussels Engineering School
 
Python avancé : Lecture et écriture de fichiers
Python avancé : Lecture et écriture de fichiersPython avancé : Lecture et écriture de fichiers
Python avancé : Lecture et écriture de fichiers
ECAM Brussels Engineering School
 
Python avancé : Ensemble, dictionnaire et base de données
Python avancé : Ensemble, dictionnaire et base de donnéesPython avancé : Ensemble, dictionnaire et base de données
Python avancé : Ensemble, dictionnaire et base de données
ECAM Brussels Engineering School
 
De la Terre aux Étoiles : Mesure des distances Terre-Étoile
De la Terre aux Étoiles : Mesure des distances Terre-ÉtoileDe la Terre aux Étoiles : Mesure des distances Terre-Étoile
De la Terre aux Étoiles : Mesure des distances Terre-Étoile
ECAM Brussels Engineering School
 
Programmation de systèmes embarqués : BeagleBone Black et Linux embarqué
Programmation de systèmes embarqués : BeagleBone Black et Linux embarquéProgrammation de systèmes embarqués : BeagleBone Black et Linux embarqué
Programmation de systèmes embarqués : BeagleBone Black et Linux embarqué
ECAM Brussels Engineering School
 
Héritage et redéfinition de méthode
Héritage et redéfinition de méthodeHéritage et redéfinition de méthode
Héritage et redéfinition de méthode
ECAM Brussels Engineering School
 
Python avancé : Classe et objet
Python avancé : Classe et objetPython avancé : Classe et objet
Python avancé : Classe et objet
ECAM Brussels Engineering School
 
Introduction à la formation Digitalent
Introduction à la formation DigitalentIntroduction à la formation Digitalent
Introduction à la formation Digitalent
ECAM Brussels Engineering School
 
Qualité de code et bonnes pratiques
Qualité de code et bonnes pratiquesQualité de code et bonnes pratiques
Qualité de code et bonnes pratiques
ECAM Brussels Engineering School
 
Développement informatique : Algorithmique I : Récursion et arbre
Développement informatique : Algorithmique I : Récursion et arbreDéveloppement informatique : Algorithmique I : Récursion et arbre
Développement informatique : Algorithmique I : Récursion et arbre
ECAM Brussels Engineering School
 
Polymorphisme, interface et classe abstraite
Polymorphisme, interface et classe abstraitePolymorphisme, interface et classe abstraite
Polymorphisme, interface et classe abstraite
ECAM Brussels Engineering School
 
HTML, CSS et Javascript
HTML, CSS et JavascriptHTML, CSS et Javascript
HTML, CSS et Javascript
ECAM Brussels Engineering School
 
Python avancé : Interface graphique et programmation évènementielle
Python avancé : Interface graphique et programmation évènementiellePython avancé : Interface graphique et programmation évènementielle
Python avancé : Interface graphique et programmation évènementielle
ECAM Brussels Engineering School
 
Composition, agrégation et immuabilité
Composition, agrégation et immuabilitéComposition, agrégation et immuabilité
Composition, agrégation et immuabilité
ECAM Brussels Engineering School
 
Type abstrait de données
Type abstrait de donnéesType abstrait de données
Type abstrait de données
ECAM Brussels Engineering School
 
Python avancé : Tuple et objet
Python avancé : Tuple et objetPython avancé : Tuple et objet
Python avancé : Tuple et objet
ECAM Brussels Engineering School
 
Laboratoire de transmission numérique : Présentation du projet
Laboratoire de transmission numérique : Présentation du projetLaboratoire de transmission numérique : Présentation du projet
Laboratoire de transmission numérique : Présentation du projet
ECAM Brussels Engineering School
 
UKO-JAVA1001-slides
UKO-JAVA1001-slidesUKO-JAVA1001-slides
Développement informatique : Programmation fonctionnelle, décorateur et génér...
Développement informatique : Programmation fonctionnelle, décorateur et génér...Développement informatique : Programmation fonctionnelle, décorateur et génér...
Développement informatique : Programmation fonctionnelle, décorateur et génér...
ECAM Brussels Engineering School
 
Développement informatique : Programmation réseau
Développement informatique : Programmation réseauDéveloppement informatique : Programmation réseau
Développement informatique : Programmation réseau
ECAM Brussels Engineering School
 

En vedette (20)

Introduction à LaTeX : le système de composition professionnel
Introduction à LaTeX : le système de composition professionnelIntroduction à LaTeX : le système de composition professionnel
Introduction à LaTeX : le système de composition professionnel
 
Python avancé : Lecture et écriture de fichiers
Python avancé : Lecture et écriture de fichiersPython avancé : Lecture et écriture de fichiers
Python avancé : Lecture et écriture de fichiers
 
Python avancé : Ensemble, dictionnaire et base de données
Python avancé : Ensemble, dictionnaire et base de donnéesPython avancé : Ensemble, dictionnaire et base de données
Python avancé : Ensemble, dictionnaire et base de données
 
De la Terre aux Étoiles : Mesure des distances Terre-Étoile
De la Terre aux Étoiles : Mesure des distances Terre-ÉtoileDe la Terre aux Étoiles : Mesure des distances Terre-Étoile
De la Terre aux Étoiles : Mesure des distances Terre-Étoile
 
Programmation de systèmes embarqués : BeagleBone Black et Linux embarqué
Programmation de systèmes embarqués : BeagleBone Black et Linux embarquéProgrammation de systèmes embarqués : BeagleBone Black et Linux embarqué
Programmation de systèmes embarqués : BeagleBone Black et Linux embarqué
 
Héritage et redéfinition de méthode
Héritage et redéfinition de méthodeHéritage et redéfinition de méthode
Héritage et redéfinition de méthode
 
Python avancé : Classe et objet
Python avancé : Classe et objetPython avancé : Classe et objet
Python avancé : Classe et objet
 
Introduction à la formation Digitalent
Introduction à la formation DigitalentIntroduction à la formation Digitalent
Introduction à la formation Digitalent
 
Qualité de code et bonnes pratiques
Qualité de code et bonnes pratiquesQualité de code et bonnes pratiques
Qualité de code et bonnes pratiques
 
Développement informatique : Algorithmique I : Récursion et arbre
Développement informatique : Algorithmique I : Récursion et arbreDéveloppement informatique : Algorithmique I : Récursion et arbre
Développement informatique : Algorithmique I : Récursion et arbre
 
Polymorphisme, interface et classe abstraite
Polymorphisme, interface et classe abstraitePolymorphisme, interface et classe abstraite
Polymorphisme, interface et classe abstraite
 
HTML, CSS et Javascript
HTML, CSS et JavascriptHTML, CSS et Javascript
HTML, CSS et Javascript
 
Python avancé : Interface graphique et programmation évènementielle
Python avancé : Interface graphique et programmation évènementiellePython avancé : Interface graphique et programmation évènementielle
Python avancé : Interface graphique et programmation évènementielle
 
Composition, agrégation et immuabilité
Composition, agrégation et immuabilitéComposition, agrégation et immuabilité
Composition, agrégation et immuabilité
 
Type abstrait de données
Type abstrait de donnéesType abstrait de données
Type abstrait de données
 
Python avancé : Tuple et objet
Python avancé : Tuple et objetPython avancé : Tuple et objet
Python avancé : Tuple et objet
 
Laboratoire de transmission numérique : Présentation du projet
Laboratoire de transmission numérique : Présentation du projetLaboratoire de transmission numérique : Présentation du projet
Laboratoire de transmission numérique : Présentation du projet
 
UKO-JAVA1001-slides
UKO-JAVA1001-slidesUKO-JAVA1001-slides
UKO-JAVA1001-slides
 
Développement informatique : Programmation fonctionnelle, décorateur et génér...
Développement informatique : Programmation fonctionnelle, décorateur et génér...Développement informatique : Programmation fonctionnelle, décorateur et génér...
Développement informatique : Programmation fonctionnelle, décorateur et génér...
 
Développement informatique : Programmation réseau
Développement informatique : Programmation réseauDéveloppement informatique : Programmation réseau
Développement informatique : Programmation réseau
 

Similaire à Réseaux des neurones

Intelligence artificielle et bio-inspiration : s’adapter aux contextes change...
Intelligence artificielle et bio-inspiration : s’adapter aux contextes change...Intelligence artificielle et bio-inspiration : s’adapter aux contextes change...
Intelligence artificielle et bio-inspiration : s’adapter aux contextes change...
Nancy BOVY
 
prsentationrn-151107223049-lva1-app6891.pdf
prsentationrn-151107223049-lva1-app6891.pdfprsentationrn-151107223049-lva1-app6891.pdf
prsentationrn-151107223049-lva1-app6891.pdf
drajou
 
Neuro sciences
Neuro sciencesNeuro sciences
Neuro sciences
YakoubAbdallahOUARDI
 
Conférence du 10 novembre 2O22 par Yvon Gervaise.pdf
Conférence du 10 novembre 2O22  par Yvon Gervaise.pdfConférence du 10 novembre 2O22  par Yvon Gervaise.pdf
Conférence du 10 novembre 2O22 par Yvon Gervaise.pdf
Yvon Gervaise
 
A 4 RNAs.pdf
A 4 RNAs.pdfA 4 RNAs.pdf
A 4 RNAs.pdf
ZizoAziz
 
Rc ia-benmammar
Rc ia-benmammarRc ia-benmammar
Rc ia-benmammar
Hakim maximwell
 
Rapport projet Master 2 - Intelligence Artificielle
Rapport projet Master 2 - Intelligence ArtificielleRapport projet Master 2 - Intelligence Artificielle
Rapport projet Master 2 - Intelligence Artificielle
Yanis Marchand
 
CHimie & Inteligence Artificielle cours YG.pdf
CHimie & Inteligence Artificielle cours YG.pdfCHimie & Inteligence Artificielle cours YG.pdf
CHimie & Inteligence Artificielle cours YG.pdf
Yvon Gervaise
 
Delorme nis1998
Delorme nis1998Delorme nis1998
Delorme nis1998
Khalifa Bakkar
 
coursHPM-M2-RIA-nov05.ppt
coursHPM-M2-RIA-nov05.pptcoursHPM-M2-RIA-nov05.ppt
coursHPM-M2-RIA-nov05.ppt
AyaDrief
 
réseaux de neurons temporels dynqmique et apprentissage
réseaux de neurons temporels dynqmique et apprentissageréseaux de neurons temporels dynqmique et apprentissage
réseaux de neurons temporels dynqmique et apprentissage
billalbeldjenna
 
TPE 2005 - Intelligence artificielle
TPE 2005 - Intelligence artificielleTPE 2005 - Intelligence artificielle
TPE 2005 - Intelligence artificielle
Sebastien Warin
 
La technologie des systemes distribués 2 ppt2222.pptx
La technologie des systemes distribués 2 ppt2222.pptxLa technologie des systemes distribués 2 ppt2222.pptx
La technologie des systemes distribués 2 ppt2222.pptx
kaoutarghaffour
 
BIPEA 2023 Yvon Gervaise : L'IA Matrice du Laboratoire du Futur ..
BIPEA 2023 Yvon Gervaise : L'IA Matrice du Laboratoire du Futur ..BIPEA 2023 Yvon Gervaise : L'IA Matrice du Laboratoire du Futur ..
BIPEA 2023 Yvon Gervaise : L'IA Matrice du Laboratoire du Futur ..
YvonGervaise
 
A la conquête du cerveau
A la conquête du cerveauA la conquête du cerveau
A la conquête du cerveau
Café Sciences
 
Cm5 archi ordinateur
Cm5 archi ordinateurCm5 archi ordinateur
Cm5 archi ordinateurformateur3
 
L’internet des objets
L’internet des objetsL’internet des objets
L’internet des objetsYijun CHEN
 
Cours de microcontrôleurs
Cours de microcontrôleursCours de microcontrôleurs
Cours de microcontrôleurs
sarah Benmerzouk
 

Similaire à Réseaux des neurones (20)

Intelligence artificielle et bio-inspiration : s’adapter aux contextes change...
Intelligence artificielle et bio-inspiration : s’adapter aux contextes change...Intelligence artificielle et bio-inspiration : s’adapter aux contextes change...
Intelligence artificielle et bio-inspiration : s’adapter aux contextes change...
 
prsentationrn-151107223049-lva1-app6891.pdf
prsentationrn-151107223049-lva1-app6891.pdfprsentationrn-151107223049-lva1-app6891.pdf
prsentationrn-151107223049-lva1-app6891.pdf
 
Neuro sciences
Neuro sciencesNeuro sciences
Neuro sciences
 
Conférence du 10 novembre 2O22 par Yvon Gervaise.pdf
Conférence du 10 novembre 2O22  par Yvon Gervaise.pdfConférence du 10 novembre 2O22  par Yvon Gervaise.pdf
Conférence du 10 novembre 2O22 par Yvon Gervaise.pdf
 
A 4 RNAs.pdf
A 4 RNAs.pdfA 4 RNAs.pdf
A 4 RNAs.pdf
 
Rc ia-benmammar
Rc ia-benmammarRc ia-benmammar
Rc ia-benmammar
 
Rapport projet Master 2 - Intelligence Artificielle
Rapport projet Master 2 - Intelligence ArtificielleRapport projet Master 2 - Intelligence Artificielle
Rapport projet Master 2 - Intelligence Artificielle
 
CHimie & Inteligence Artificielle cours YG.pdf
CHimie & Inteligence Artificielle cours YG.pdfCHimie & Inteligence Artificielle cours YG.pdf
CHimie & Inteligence Artificielle cours YG.pdf
 
Programme 42
Programme 42Programme 42
Programme 42
 
Delorme nis1998
Delorme nis1998Delorme nis1998
Delorme nis1998
 
coursHPM-M2-RIA-nov05.ppt
coursHPM-M2-RIA-nov05.pptcoursHPM-M2-RIA-nov05.ppt
coursHPM-M2-RIA-nov05.ppt
 
réseaux de neurons temporels dynqmique et apprentissage
réseaux de neurons temporels dynqmique et apprentissageréseaux de neurons temporels dynqmique et apprentissage
réseaux de neurons temporels dynqmique et apprentissage
 
TPE 2005 - Intelligence artificielle
TPE 2005 - Intelligence artificielleTPE 2005 - Intelligence artificielle
TPE 2005 - Intelligence artificielle
 
Grid computing
Grid computingGrid computing
Grid computing
 
La technologie des systemes distribués 2 ppt2222.pptx
La technologie des systemes distribués 2 ppt2222.pptxLa technologie des systemes distribués 2 ppt2222.pptx
La technologie des systemes distribués 2 ppt2222.pptx
 
BIPEA 2023 Yvon Gervaise : L'IA Matrice du Laboratoire du Futur ..
BIPEA 2023 Yvon Gervaise : L'IA Matrice du Laboratoire du Futur ..BIPEA 2023 Yvon Gervaise : L'IA Matrice du Laboratoire du Futur ..
BIPEA 2023 Yvon Gervaise : L'IA Matrice du Laboratoire du Futur ..
 
A la conquête du cerveau
A la conquête du cerveauA la conquête du cerveau
A la conquête du cerveau
 
Cm5 archi ordinateur
Cm5 archi ordinateurCm5 archi ordinateur
Cm5 archi ordinateur
 
L’internet des objets
L’internet des objetsL’internet des objets
L’internet des objets
 
Cours de microcontrôleurs
Cours de microcontrôleursCours de microcontrôleurs
Cours de microcontrôleurs
 

Réseaux des neurones

  • 2. Plan Introduction Quelques Eléments de la neurobiologie Les Modules mathématiques Architecture du réseau Apprentissage Mise en place Conclusion Esprit-Intelligence Artificielle 02/11/2012 2
  • 4. Approche basée sur la connaissance Inspiration de Approche traitement de algorithmique l’information par le cerveau La construction de logiciels Les RNA sont des réseaux fortement connectés de processeurs élémentaires fonctionnant en parallèle. Chaque processeur calcule une sortie unique sur la base des informations qu'il reçoit Esprit-Intelligence Artificielle 02/11/2012 4
  • 5. • C’est une approche qui a été privilégiée par l'Intelligence Artificielle. • Les réseaux de neurones sont fortement inspirés par le système nerveux biologique • On peut entraîner un réseau de neurone pour une tâche spécifique (reconnaissance de caractères par exemple) en ajustant les valeurs des connections (ou poids) entre les éléments neurone). Esprit-Intelligence Artificielle 02/11/2012 5
  • 6. Quelques repères • 1943: J. McCulloch & W. Pitts proposent un modèle simple de neurone capable de produire une machine de Turing. • 1948: D. Hebb propose une règle d'apprentissage pour des réseaux de neurones . • 1958: F. Rosenblatt propose le modèle du Perceptron et démontre son théorème de convergence. • 1969: M. Minsky & S. Papert démontrent les limitations du modèle du Perceptron. • 1985: apprentissage par rétro-propagation pour les réseaux multi-couches. Esprit-Intelligence Artificielle 02/11/2012 6
  • 7. Intérêt Ils La limitation s’inscrivent des dans les ordinateurs mutations La structure des existants . tech. réseaux de neurones Les RNA sont étant elle-même efficaces pour parallèle, leur effectuer à grande fonctionnement vitesse des calculs présente de nombreux et, d’une manière avantages : générale des tâches une vitesse de calcul mécaniques accrue, la résistance aux pannes locales, et enfin la régularité de la structure Esprit-Intelligence Artificielle 02/11/2012 7
  • 8. Quelques Eléments de la neurobiologie Esprit-Intelligence Artificielle 02/11/2012 8
  • 10. Description schématique des éléments d’une synapse Esprit-Intelligence Artificielle 02/11/2012 10
  • 11. Apprentissage • Il est caractérisé par : Un système initial aux mécanismes de fonctionnement et au potentiel d’évolution fixés.  l’évolution des connexions du réseau .  l’interaction entre le monde extérieur et le réseau .  un mécanisme sélectif . L’apprentissage peut être définit comme l’acquisition de propriétés associatives stables, et la mémorisation comme l’engrangement et le rappel de ces propriétés ou modifications. Esprit-Intelligence Artificielle 02/11/2012 11
  • 13. Structure d’un neurone artificiel Mise en correspondance neurone biologique / neurone artificiel Esprit-Intelligence Artificielle 02/11/2012 13
  • 14. Fonctionnement interne d’un neurone • Un neurone reçoit les signaux d'entrée x1, ..., xn . • Ces signaux sont pondérés par des poids w1, ..., wn . • L'activation du neurone a=∑ wi.xi est transmise à une fonction de transition f (non linéaire) paramétrée par un seuil w0 • Le signal de sortie y = f (a-w0) est propagé aux cellules suivantes Esprit-Intelligence Artificielle 02/11/2012 14
  • 15. Les fonctions de transfert Esprit-Intelligence Artificielle 02/11/2012 15
  • 16. Réseaux de neurones naturels vs. artificiels réseau naturel réseau artificiel fonctionnement du réactions chimiques fonctions neurone mathématiques temps de réaction relativement lent très rapide nombre de neurones environ 10¹º entre 10⁴ et 10⁵ nombre de connexions environ 10¹³ jusqu'à 10⁷ Esprit-Intelligence Artificielle 02/11/2012 16
  • 17. ARCHITECTURE DE RESEAU Esprit-Intelligence Artificielle 02/11/2012 17
  • 18. Les réseaux "Feed- forward" • Ce sont des réseaux dans les quels l'information se propage de couche en couche sans retour en arrière possible. • On distingue alors : o Perceptron monocouche o Perceptron multicouche(PMC) Le perceptron est un modèle de réseau de neurones avec algorithme d'apprentissage Esprit-Intelligence Artificielle 02/11/2012 18
  • 19. Perceptron monocouche La sortie S est calculée par la formule : S = 1si ∑ wi xi > s 0 si non Esprit-Intelligence Artificielle 02/11/2012 19
  • 20. Perceptron multicouche(PMC) Les neurones sont arrangés par couche. Il n'y a pas de connexion entre neurones d'une même couche et les connexions ne se font qu'avec les neurones des couches avales Esprit-Intelligence Artificielle 02/11/2012 20
  • 21. • On trouve aussi d’autre réseaux qui possèdent la même architecture que le PMC mais avec quelques particularités : par exemple :  PMC a connexion locale Esprit-Intelligence Artificielle 02/11/2012 21
  • 22. Les réseaux à fonction radiale Appelé aussi RBF(en anglais : "Radial Basic Functions"). Particularité : les fonctions de base utilisées ici sont des fonctions Gaussiennes. Utilité : Les RBF seront donc employés dans les mêmes types de problèmes que les PMC à savoir, en classification et en approximation de fonctions, particulièrement. Esprit-Intelligence Artificielle 02/11/2012 22
  • 23. Les réseaux ‘Feed back’ • Ce sont des réseaux dans les quels l'information se propage de couche en couche avec retour en arrière possible. Réseau à connexions complètes Réseau à connexions récurrentes Esprit-Intelligence Artificielle 02/11/2012 23
  • 24. • Les cartes auto organisatrices de kohonen Ce modèle de carte auto-organisatrice appartient à la classe des réseaux à compétition. • Les réseaux de Hopfield Un réseau de Hopfield réalise une mémoire adressable par son contenu. • Les ART ART (Adaptive Resonance Theory) est un modèle de réseau de neurones à architecture évolutive développé en 1987 par Carpenter et Grossberg. Esprit-Intelligence Artificielle 02/11/2012 24
  • 26. Types d’apprentissage Il existe plusieurs types d’apprentissage, les plus utilisées sont : • Mode supervisé : les exemples sont des couples (entrée, sortie associée). • Mode non supervisé: on dispose que des valeurs (entrée). • Apprentissage par renforcement. Pour ces trois types d'apprentissage, il y a également un choix traditionnel entre : o L’apprentissage << off-line >> o L’apprentissage << on-line >> Esprit-Intelligence Artificielle 02/11/2012 26
  • 27. Il existe d’autre types d’apprentissage comme : • Sur-apprentissage ("apprentissage par-coeur") . • Le mode hybride . • Apprentissage "local" . • Apprentissage "global" . • Validation croisée ("Cross Validation") . Esprit-Intelligence Artificielle 02/11/2012 27
  • 28. Règles d’apprentissage Par correction Règle de Hebb d’erreur Par Apprentissage compétition de Boltzmann 4 règles principales Esprit-Intelligence Artificielle 02/11/2012 28
  • 29. Autres règles • Apprentissage par descente de gradient : il s'agit de calculer une erreur et d'essayer de minimiser cette erreur. • Apprentissage par la règle de Widrow-Hoff (ou Adaline) : au lieu de calculer les variations des poids en sommant sur tous les exemples de S, l'idée est de modifier les poids à chaque présentation d'exemple. Esprit-Intelligence Artificielle 02/11/2012 29
  • 30. Algorithme d’apprentissage du perceptron • Initialisation des poids et du seuil à de petites valeurs aléatoires • Présenter un vecteur d’entrées x(μ) et calculer sa sortie • Mettre à jour les poids en utilisant : wj(t+1) = wj(t) + η (d- y) xj avec d la sortie désirée, w vecteur des poids η est une constante positive ,qui spécifie le pas de modification des poids Esprit-Intelligence Artificielle 02/11/2012 30
  • 31. Apprentissage par correction d'erreur • Initialiser la matrice des poids au hasard • Choisir un exemple en entrée • Propager le calcul de cette entrée à travers le réseau • Calculer la sortie de cette entrée • Mesurer l'erreur de prédiction par différence entre sortie réelle et sortie prévue • Calculer la contribution d'un neurone à l'erreur à partir de la sortie • Déterminer le signe de modification du poids • Corriger les poids des neurones pour diminuer l'erreur  Le processus recommence ainsi, à partir du choix de l'exemple en entrée, jusqu'à ce qu'un taux d'erreur minimal soit atteint. Esprit-Intelligence Artificielle 02/11/2012 31
  • 32. MISE EN PLACE Esprit-Intelligence Artificielle 02/11/2012 32
  • 33. Préparation des Détermination Phase données des paramètres d'apprentissage Détermination Optimisation du des entrées et jeu de données des sorties Constitution de Codage des la base entrées d'exemples Esprit-Intelligence Artificielle 02/11/2012 33
  • 34. Les points Les points forts faibles Codage des Souplesse entrées Bonne Lisibilité résolution Traitement Non des variables optimalité continues Outils Performance disponibles Esprit-Intelligence Artificielle 02/11/2012 34
  • 35. Domaines d’application • Aérospatial : pilotage automatique, simulation du vol… • Automobile : système de guidage automatique,… • Défense : guidage de missile, suivi de cible, reconnaissance du visage, radar, sonar, lidar, traitement du signal, compression de données, suppression du bruit… • Electronique : prédiction de la séquence d’un code, vision machine, synthétiseur vocal, modèle non linéaire,… • Finance : Prévision du coût de la vie • Secteur médical : Analyse EEC et ECG • Télécommunications : Compression de données … Esprit-Intelligence Artificielle 02/11/2012 35
  • 36. Exemple d’application Reconnaissance des formes IL y a plusieurs techniques pour la reconnaissance de forme ou bien d’ordre Général la classification, on cite trois méthodes avec un exemple pour bien comprendre ces techniques :  La méthode classique : La première, la plus classique, consiste simplement à mesurer la distance euclidienne entre l’image de test et toutes les images présentes dans la base d’apprentissage afin d’en déterminer la plus faible. Esprit-Intelligence Artificielle 02/11/2012 36
  • 37. Programmation Temps de calcul extrêmement très lent rapide et un temps d’accès aux informations utiles immédiat Esprit-Intelligence Artificielle 02/11/2012 37
  • 38. Méthodes modernes ou par réseau de neurones • La seconde repose sur un réseau de neurone discriminant. La méthode du réseau discriminant repose sur l’utilisation d’un unique réseau de neurones donnant en sortie la classe d’appartenance d’une image inconnue en entrée. • Il est composé d’une couche d’entrée, d’une couche cachée et de plusieurs sorties pour autant de personnes à discriminer. Esprit-Intelligence Artificielle 02/11/2012 38
  • 40. Le temps de calcul Cette méthode nécessaire à nécessite un très l’identification est long apprentissage rapide par rapport qui dépend du a l’autre méthode nombre de neurones sur la couche cachée Esprit-Intelligence Artificielle 02/11/2012 40
  • 41. Applications Exemple: Restitution de paramètres nuageux à partir d’image satellite Esprit-Intelligence Artificielle 02/11/2012 41
  • 43. Conclusion • les réseaux de neurones reposent à Présent sur des bases mathématiques solides qui permettent d’envisager des applications dans presque tout les domaines y compris industriel et à grande échelle, notamment dans le domaine de la classification. Esprit-Intelligence Artificielle 02/11/2012 43
  • 44. Perspectives Les réseaux de neurones ont une histoire relativement jeune (environ 50 ans) et les applications intéressantes des réseaux de neurones n’ont vu le jour que depuis une vingtaine d’année (développement de l’informatique), et ils ont un futur très prometteur, on entend parler (par exemple) du WEB sémantique, RFID, … etc. Esprit-Intelligence Artificielle 02/11/2012 44

Notes de l'éditeur

  1. Les réseaux de neurones sont composés d’éléments simples (ou neurones) fonctionnant en parallèle. Ces éléments ont été fortement inspirés par le système nerveux biologique. Comme dans la nature, le fonctionnement du réseau (de neurone) est fortement influencé par la connections des éléments entre eux. On peut entraîner un réseau de neurone pour une tâche spécifique (reconnaissance de caractères par exemple) en ajustant les valeurs des connections (ou poids) entre les éléments (neurone). ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------APPRENTISSAGE----------------------------------------------------------------------------------------L’apprentissage « par paquet » (batch training) du réseau consiste à ajuster les poids et biais en présentant les vecteurs d’entrée/sortie de tout le jeu de données. L’apprentissage « pas à pas ou séquentiel » (incremental training) consiste à ajuster les poids et biais en présentant les composantes du vecteur d’entrée/sortie les unes après les autres. Ce type d’apprentissage est souvent qualifié d’apprentissage « en ligne » (« on line » training) ou « adaptatif » (« adaptive » training).