Machine Learning Algorithms

1. Etablissement d’un modèle d’apprentissage
supervisé
Stadification de l’infection au VHC
Mariem Khalfaoui
M2 Bioinformatique-Bio Data Analytics 2021-2022

2. 5
Récolte de données
4
3
2
1
Réconciliation des données
Ingénierie des caractéristiques
Génération du modèle
Apprentissage non supervisé
Plan
2

3. Introduction
3 à 4 millions de nouveaux cas chaque
année
Virus à ARN: un des principaux agents
pathogènes humains transmis par le sang
Infection:Peu de symptômes visibles
Forme aigüe peut s'aggraver

4. 4

5. Biopsie
• Invasive/douleureuse
• Erreur atteint les 20%
Marqueurs bichimiques
• Sériques: cas de
soupçon
Génotypage
• Coûteux

6. Les marqueurs biochimiques sériques les plus
courants:
• l'Aspartate aminotransférase (AST)
• l'alanine aminotransférase (ALT)
• Le stade chronique de l'hépatite C peut être
identifié avec les niveaux détectables d'ARN
du VHC à 12 semaines
--> La surveillance du traitement contre le
VHC peut être suivie par l'examen des taux
d'ARN du VHC.
6
Récolte des données

7. Les symptômes les plus courants :
●Nausées
●Réduction de l’appétit
●Perte de poids
●Perte de masse musculaire
●Fatigue et faiblesse
●Douleurs abdominales
●Accumulation de liquide dans les chevilles ou dans l’abdomen (ascite)
●La jaunisse
●Démangeaisons
●Mauvaise coagulation du sang (ecchymoses)
●Troubles du sommeil
●Excitabilité
7

8. 8
Source des données
• Le référentiel d'apprentissage automatique de l'UCI
Type
• Multivariées, multiclasses
Contenu
• 1385 instances avec 28 attributs et une classe
Stadification histologique de base
• 1 = Fibrose portale sans septa
• 2 = Quelques septa
• 3 = Beaucoup de septa sans cirrhose
• 4 = Cirrhose
L'ensemble de données concerne les patients égyptiens qui ont subi des doses de traitement
pour le VHC pendant environ 18 mois. L'objectif est de prédire l'état du patient, par étapes,
en fonction des mesures disponibles.

9. Description
des
attributs

10. Chargement
des données
10

11. Réconciliation des données (Data Wrangling)
DATA.HEAD() DATA.SHAPE DATA.COLUMNS DATA.DESCRIBE()
data.head() data.shape data.columns data.describe()

12. Renommer quelques attributs et la classe

13. Vérification de la
distribution des
différentes
valeurs de la
classe

14. Des valeurs
nulles à s’en
débarrasser ou
remplir ?
14

15. Observer les corrélations
J’ai remarqué que ALT 12 présente peu de corrélation avec la classe (corr=0,00008) donc j’ai décidé de l’éliminer dès le début et je garde les autres attributs en
corrélation négatives ou positives (classe et attribut évoluent de façon proportionnelle ou inversement proportionnelle)
15

16. Transformation
des données
• Les valeurs des attributs quantitatifs
sont continues donc je procède à
leur discrétisation par choix
d’intervalles.
• D’autres attributs, sont de type
entier, discrètes sont qualitatives
donc ne doivent pas changer lors de
la prédiction, je dois les discrétiser
par changement du leurs type en
« category » (type du frame
Pandas).
16

17. L’ingénierie des caractéristiques (Features Engineering)
Analyse en composantes principales (PCA)
Objectif : maximiser la variance
Le but d'une analyse en composantes principales est de trouver une
nouvelle base orthonormée dans laquelle représenter nos données, telle que
la variance des données selon ces nouveaux axes soit maximisée. Pour
implémenter une ACP, d’abord j’ai éliminé les attributs non discrétisés
17
Analyse en 8 composantes

18. Choix de
nombre de CP
à considérer

19. Génération d'un tableau avec les PC
19
12 composantes

20. Génération de modèles d’apprentissage automatique:
Répartition des données
20

21. Choix de
l’algorithme
● 2 algorithmes basé du “Naive Bayes” qui est un groupe d'algorithmes de classification
d'apprentissage automatique supervisés basés sur le théorème de Bayes. Il s'agit d'une
technique de classification simple, mais dotée d'une fonctionnalité élevée. Ils trouvent leur
utilité lorsque la dimensionnalité des entrées est élevée
○ Gaussian Naive Bayes qui est une variante de Naive Bayes qui suit la distribution
normale gaussienne et prend en charge les données continues
○ Bernoulli Naive Bayes qui est utilisé pour les données discrètes et cela fonctionne
sur la distribution de Bernoulli
21
•Arbre de décision (Decision Tree): une méthode d'apprentissage supervisé non paramétrique
utilisée pour la classification et la régression. L'objectif est de créer un modèle qui prédit la
valeur d'une variable cible en apprenant des règles de décision simples déduites des
caractéristiques des données. Un arbre peut être vu comme une approximation constante par
morceaux
Algorithme des K plus proches voisins (KNN) : c'est un type d'apprentissage basé
sur les instances donc c’est un 'apprentissages non généralisant : il ne tente pas de
construire un modèle interne général, mais stocke simplement des instances des données
d'apprentissage. La classification est calculée à partir d'un simple “vote” à la majorité des
voisins les plus proches de chaque point : un point de requête se voit attribuer la classe de
données qui a le plus de représentants parmi les voisins les plus proches du point.

22. Evaluation
des modèles
• Pour l’évaluation du
modèle ainsi que
l’adéquation des
algorithmes à notre jeu de
données, j’ai choisi
plusieurs metrics.
22

23. Validation
croisée

24. 24

25. Tableau des différents évaluateurs pour les algorithmes utilisés
25
Bernoulli Naïve Bayesian Gaussian Naïve Bayesien Tree Decision
KNN
(k= 5 sans PCA et k=4 avec PCA)
Sans PCA Avec PCA Sans PCA Avec PCA Sans PCA Avec PCA Sans PCA Avec PCA
Mal labelisés 839 560 842 816 836 2 836 850
Validation
croisée (Sd)
0.01
0.53 accuracy 0.02
0.01 0.02 0.01 0.02 0.01 0.02
Précision 24.27 49.458 24 26,35 25.45 99.8 24,54 23,28
Erreur
quadratique
moyenne
1.46 0.5 1.56 1.6 2.4 0.001 2.59 2.7
Recall
[0 , 0 , 1 , 0]
array([0.81, 0.18,
0.61, 0.39)
[0.02, 0.01, 0.94,
0.01])
[0.13, 0. ,
0.79, 0.14])
[0.31, 0.14, 0.32,
0.24] [1, 0.99, 1, 0.99]
[0.38, 0.16, 0.31 ,
0.13]
[0.35, 0.16, 0.32, 0.11
]
F1-score [0 , 0 , 0.39, 0]
[0.6, 0.27, 0.5,
0.45]
[0.04, 0.02, 0.38,
0.019]
[0.2, 0. , 0.36,
0.2]
0.31, 0.14, 0.32,
0.24] [1, 0.99, 0.99, 0.99]
[0.29, 0.21, 0.27,
0.17]
[0.27, 0.19, 0.27,
0.14]

26. Evaluation
● Le modèle Gaussian Naïve Bayesien n’est plus valable non plus après cette discrétisation vu qu’il est un modèle
qui suit une distribution normale guassienne et prend en charge les données continues, j’ai pu l’utiliser avant
discrétisation, avec une étape de normalisation de mes données bien que la distribution normale ne semble être
celle de notre classe
26
•Bien décrire l’état de patient ou plus précisément le stade réel de l’infection est fonction de plusieurs paramètres qui sont nos attributs
interdépendants sauf que l’algorithme Naive Bayes Classifier suppose l’indépendance des variables : C’est une hypothèse forte et qui est violée dans
la majorité des cas réels quoi dire si on parle d’un système biologique.
•Pour le KNN, je n’ai pas testé différentes valeurs de k parce que j’ai cherché déjà la meilleure valeur au départ.
•En appliquant l’algorithme KNN, j’ai utilisé en effet les paramètres par défauts, entre autres, la distance, qui est ici une distance
euclidienne comme le décrit ce passage extrait du site de SKLEARN

27. → Alors que en fait, je traite des variables catégoriques ce qui rend l’utilisation du KNN tel qu’il est, non adéquat. Il
serait judicieux de l’utiliser en implémentant la distance de Levenshtein
→ Je retiens alors l’algorithme de l’arbre de décision et je l’enregistre pour utilisation ultérieure
27

28. 28

29. 29
Apprentissage non supervisé sur le
jeu de données du VHC:
Pour essayer un algorithme d’apprentissage
non supervisé, j’ai décidé d’éliminer la classe
(le label) et de faire un apprentissage non
supervisé sur le jeu de données du VHC.
Puisque je traite des données catégoriques
après l’étape de préparation, j’ai utilisé la
méthode de partitionnement K-MODE.
L’algorithme commenté est
disponible sur le lien suivant:
https://gist.github.com/mariem34/2f8
452fcf8cb5af8d0d0392bb04dcdfc

30. Merci pour votre attention
30
Let's try it.!