SlideShare une entreprise Scribd logo
Pathway Evolution Algorithm
Par Stephen Larroque
Supervisé par Prof. S. Doncieux
LRQ3000@gmail.com
Un algorithme génétique sur des chemins
21 Mars 2014
Par Fernando et al. (2011)
Chemins = unité d’évolution
3
Individus
Chemins = unité d’évolution
4
CheminsIndividus
Chemins = unité d’évolution
5
Individus Chemins
Équivalence!
Pourquoi utiliser des chemins?
• Compacité
• Expressivité
• Capacité de stockage! Redondant!
• Covariance des allèles (Price GR, 1970)
• Mémoire
• Multi-critères (linkage disequilibrium)
6
Pathway Evolution Algorithm(s)
• PEA = framework de GA basés sur des chemins.
• Cas spécial du Microbial GA (Harvey, 1996) = GA minimaliste
• Steady-state GA (Whitley, 1989)
• Reseau = population = ensemble de chemins superposés
• Chemin = un individu/candidat
• Fréquence chemin = produit des poids (proba) de ses arcs
• Fréquence phénotype = somme(fréquences chemins avec ce
phénotype)
7
Interprétation graphique
8
Poids sur arcs = probabilité de marche aléatoire (sélection)
Interprétation biologique
• Réseau = génotype
• Chemin = phénotype
• Noeud = allele
• Couche = locus
• Fréquence phénotype = fréquence chemin
(facile à calculer!)
• Mutation = Noisy Hebbian learning = Rapid structural plasticity
(Adams P, 1998)
• Drop noeuds et arcs inutilisés = darwinisme/recyclage neuronal
9
Tournoi par paire
10
• Apprentissage: (1 ± lambda) * poids
(selon si gagnant ou perdant)
• Arcs partagés non pénalisés (sauf si diversité)
Mutation et Crossover
11
Élitisme
+
Exploration!
Quelques propriétés et résultats
• Maintenance de la diversité en pénalisant
les arcs partagés
• Tournoi K = 2 (paire) semble optimal
• Covariance phénotypes (MAJ d’un chemin
affecte d’autres)
12
Mémoire
13
• Premier apprentissage plus lent
• Puis réutilise les anciens (mauvais) chemins
• MGA constant en constraste
Linkage disequilibrium
14
• Double équilibre:
[0 1] et [1 0]
• PEA garde les deux!
Expansion / Contraction
15
Conclusion et ouverture
• Bonnes performances générales, mais pas le meilleur
• Implémentation biologiquement plausible: neurones
Izhikevich, circuit dopaminergique
• Préférences non rationnelles (via linkage diseq)?
• Extension: couches dynamiques (devines un nombre!)
• ACO = PEA?
• Parallèle avec TurboCodes? (C. Berrou)
• Chemins = unités d’évolution
(avec des propriétés intéressantes!) 16
– Evolvable Neuronal Paths: A Novel Basis for
Information and Search in the Brain, Fernando C,
Vasas V, Szathmáry E, Husbands P (2011), PLoS
ONE 6(8)
– Selection and covariance, Price GR (1970), Nature
227: 520–521.
– The Microbial Genetic Algorithm, Harvey, I. (1996)
Références
Merci!
Slides Bonus
Microbial Genetic Algorithm
• Idée: définition minimale d'un GA?
– Selection
– Recombinaison
– Mutation (similaire à recombinaison uniforme)
• MGA = proposition d’un GA minimal
• Recombinaison = infection bactérienne = unité d’évolution
• Algorithme: 1 ligne!
– Pour chaque tournoi:
• Pour chaque allele du perdant:
– Si random r < crossover+mutation:
» allele = allele du gagnant si r < crossover
sinon allele = mutation(allele)
23
Harvey, I. (1996)
Algorithme PEA
24
THE END

Contenu connexe

Plus de Stephen Larroque

Resilient algorithms data structures intro by Giuseppe F.Italiano
Resilient algorithms data structures intro by Giuseppe F.ItalianoResilient algorithms data structures intro by Giuseppe F.Italiano
Resilient algorithms data structures intro by Giuseppe F.Italiano
Stephen Larroque
 
Birdsong variability is modulated by LMAN in anterior forebrain pathway
Birdsong variability is modulated by LMAN in anterior forebrain pathwayBirdsong variability is modulated by LMAN in anterior forebrain pathway
Birdsong variability is modulated by LMAN in anterior forebrain pathway
Stephen Larroque
 
Glial cells and astrocytes: neural networks modulators?
Glial cells and astrocytes: neural networks modulators?Glial cells and astrocytes: neural networks modulators?
Glial cells and astrocytes: neural networks modulators?
Stephen Larroque
 
Tagged network (colored clique network) COGNITIVE 2015 by Stephen Larroque
Tagged network (colored clique network) COGNITIVE 2015 by Stephen LarroqueTagged network (colored clique network) COGNITIVE 2015 by Stephen Larroque
Tagged network (colored clique network) COGNITIVE 2015 by Stephen Larroque
Stephen Larroque
 
Simulation des raisonnements éthiques par logiques non-monotones
Simulation des raisonnements éthiques par logiques non-monotonesSimulation des raisonnements éthiques par logiques non-monotones
Simulation des raisonnements éthiques par logiques non-monotones
Stephen Larroque
 
Financement de la recherche en france, europe et dans le monde en 2014
Financement de la recherche en france, europe et dans le monde en 2014Financement de la recherche en france, europe et dans le monde en 2014
Financement de la recherche en france, europe et dans le monde en 2014
Stephen Larroque
 

Plus de Stephen Larroque (6)

Resilient algorithms data structures intro by Giuseppe F.Italiano
Resilient algorithms data structures intro by Giuseppe F.ItalianoResilient algorithms data structures intro by Giuseppe F.Italiano
Resilient algorithms data structures intro by Giuseppe F.Italiano
 
Birdsong variability is modulated by LMAN in anterior forebrain pathway
Birdsong variability is modulated by LMAN in anterior forebrain pathwayBirdsong variability is modulated by LMAN in anterior forebrain pathway
Birdsong variability is modulated by LMAN in anterior forebrain pathway
 
Glial cells and astrocytes: neural networks modulators?
Glial cells and astrocytes: neural networks modulators?Glial cells and astrocytes: neural networks modulators?
Glial cells and astrocytes: neural networks modulators?
 
Tagged network (colored clique network) COGNITIVE 2015 by Stephen Larroque
Tagged network (colored clique network) COGNITIVE 2015 by Stephen LarroqueTagged network (colored clique network) COGNITIVE 2015 by Stephen Larroque
Tagged network (colored clique network) COGNITIVE 2015 by Stephen Larroque
 
Simulation des raisonnements éthiques par logiques non-monotones
Simulation des raisonnements éthiques par logiques non-monotonesSimulation des raisonnements éthiques par logiques non-monotones
Simulation des raisonnements éthiques par logiques non-monotones
 
Financement de la recherche en france, europe et dans le monde en 2014
Financement de la recherche en france, europe et dans le monde en 2014Financement de la recherche en france, europe et dans le monde en 2014
Financement de la recherche en france, europe et dans le monde en 2014
 

Pathway Evolution Algorithm in Netlogo

  • 1.
  • 2. Pathway Evolution Algorithm Par Stephen Larroque Supervisé par Prof. S. Doncieux LRQ3000@gmail.com Un algorithme génétique sur des chemins 21 Mars 2014 Par Fernando et al. (2011)
  • 3. Chemins = unité d’évolution 3 Individus
  • 4. Chemins = unité d’évolution 4 CheminsIndividus
  • 5. Chemins = unité d’évolution 5 Individus Chemins Équivalence!
  • 6. Pourquoi utiliser des chemins? • Compacité • Expressivité • Capacité de stockage! Redondant! • Covariance des allèles (Price GR, 1970) • Mémoire • Multi-critères (linkage disequilibrium) 6
  • 7. Pathway Evolution Algorithm(s) • PEA = framework de GA basés sur des chemins. • Cas spécial du Microbial GA (Harvey, 1996) = GA minimaliste • Steady-state GA (Whitley, 1989) • Reseau = population = ensemble de chemins superposés • Chemin = un individu/candidat • Fréquence chemin = produit des poids (proba) de ses arcs • Fréquence phénotype = somme(fréquences chemins avec ce phénotype) 7
  • 8. Interprétation graphique 8 Poids sur arcs = probabilité de marche aléatoire (sélection)
  • 9. Interprétation biologique • Réseau = génotype • Chemin = phénotype • Noeud = allele • Couche = locus • Fréquence phénotype = fréquence chemin (facile à calculer!) • Mutation = Noisy Hebbian learning = Rapid structural plasticity (Adams P, 1998) • Drop noeuds et arcs inutilisés = darwinisme/recyclage neuronal 9
  • 10. Tournoi par paire 10 • Apprentissage: (1 ± lambda) * poids (selon si gagnant ou perdant) • Arcs partagés non pénalisés (sauf si diversité)
  • 12. Quelques propriétés et résultats • Maintenance de la diversité en pénalisant les arcs partagés • Tournoi K = 2 (paire) semble optimal • Covariance phénotypes (MAJ d’un chemin affecte d’autres) 12
  • 13. Mémoire 13 • Premier apprentissage plus lent • Puis réutilise les anciens (mauvais) chemins • MGA constant en constraste
  • 14. Linkage disequilibrium 14 • Double équilibre: [0 1] et [1 0] • PEA garde les deux!
  • 16. Conclusion et ouverture • Bonnes performances générales, mais pas le meilleur • Implémentation biologiquement plausible: neurones Izhikevich, circuit dopaminergique • Préférences non rationnelles (via linkage diseq)? • Extension: couches dynamiques (devines un nombre!) • ACO = PEA? • Parallèle avec TurboCodes? (C. Berrou) • Chemins = unités d’évolution (avec des propriétés intéressantes!) 16
  • 17. – Evolvable Neuronal Paths: A Novel Basis for Information and Search in the Brain, Fernando C, Vasas V, Szathmáry E, Husbands P (2011), PLoS ONE 6(8) – Selection and covariance, Price GR (1970), Nature 227: 520–521. – The Microbial Genetic Algorithm, Harvey, I. (1996) Références
  • 20. Microbial Genetic Algorithm • Idée: définition minimale d'un GA? – Selection – Recombinaison – Mutation (similaire à recombinaison uniforme) • MGA = proposition d’un GA minimal • Recombinaison = infection bactérienne = unité d’évolution • Algorithme: 1 ligne! – Pour chaque tournoi: • Pour chaque allele du perdant: – Si random r < crossover+mutation: » allele = allele du gagnant si r < crossover sinon allele = mutation(allele) 23 Harvey, I. (1996)