ISO 2789 et ISO 11620 : des outils en évolution pour l'observation et l'évalu...
Les limites-des-methodes-bibliometriques
1. Intitulé de module: Statistique et infométrie
Intitulé d’élément: M 4.4.1 - Statistiques appliquées aux sciences de
l'information
Préparé Par:
El MOUTAOUAKKIL Mohammed
ALLALY Mohamed
Encadré Par:
Dr. ETTAKI Badiaa
LES LIMITES DES LOIS DE LA BIBLIOMETRIE
2. A. Introduction
B. Les limites des indicateurs bibliométriques
1. Les limites des indicateurs de l‘ évaluation des revues
2. Les limites des indicateurs de l‘évaluation des chercheurs
3. Les limites des indicateurs de l‘évaluation des domaines des pays
C. Les limites des lois bibliométriques
1. Loi de Lotka.
2. Loi de Bradford.
3 Loi de Zipf.
D. Limites liées aux bases de données
Ike Antkare le chercheur fictif inventé par Cyril Labbé.
E. Conclusion
Webographie
Plan : 1
3. La bibliométrie raisonne autour des indicateurs qui sont utilisés pour
l’évaluation de la recherche, sur différents plans : chercheur, équipe,
laboratoire, établissement, pays, continent. Dans les slides suivant nous
allons découvrir les limites de ses indicateurs et comment la mesure de
ses indicateurs pose problèmes dans plusieurs cas.
Introduction :
2
2
4. Les limites des indicateurs de l‘ évaluation des REVUES :
Les limites liées aux indicateurs bibliométriques :
Indice d’impact
Indice d’immédiateté
La demi-vie des citations
Nombre total de citations
3
13
5. Les limites des indicateurs de l‘ évaluation des REVUES :
Les limites liées aux indicateurs bibliométriques :
Favorise une recherche à court terme au service de l’innovation au détriment
d’une recherche plus fondamentale et sur du long terme
Le calcul du facteur d’impact sur deux ans.
Indice qui sert à mesurer la visibilité et non pas la qualité.
Comparer des revues ayant des domaines différents
Facteur d’impact
4
4
6. Les limites des indicateurs de l‘ évaluation des REVUES :
Les limites liées aux indicateurs bibliométriques :
Comme les journaux
disposent d’un
nombre important de
références aux
éditoriaux, l’indice
d’immédiateté est
donc élevé , chose qui
n'apparait pas dans le
dénominateur du dit
indicateur.
Comme les revues
non-anglophones sont
moins répertoriées,
elles ne bénéficient
pas ou peu d'un indice
d’immédiateté.
Indice d’immédiateté
5
5
7. Les limites des indicateurs de l‘ évaluation des REVUES :
Les limites liées aux indicateurs bibliométriques :
Il s’avère difficile de procéder à une évaluation
objective d’un travail scientifique sans avoir à
patienter plusieurs années après que celui-ci soit
publié.
Ne distingue pas les articles originaux de
recherche des articles de synthèse.
La demi-vie des citations
6
6
8. Les limites des indicateurs de l‘ évaluation des REVUES :
Les limites liées aux indicateurs bibliométriques :
Sa fiabilité est remise
en cause vu qu’il peut
être influencé par le
nombre de co-auteurs
et par les articles de
synthèse
Possibilité de self-
citing ou autocitation
Nombre total de citations
7
7
9. Les limites des indicateurs de l‘ évaluation des CHERCHEURS :
Les limites liées aux indicateurs bibliométriques :
Dénombrement des publications des
brevets
Nombre de Citations
H-Index
Co-signature
8
8
10. Les limites des indicateurs de l‘ évaluation des CHERCHEURS :
Les limites liées aux indicateurs bibliométriques :
une telle mesure ne tient pas compte de la qualité des publications, même si
on prend en considération le degré de sélectivité des revues.
Le nombre de publications est plus efficace lorsqu’il s’agit d’un nombre élevé
(un pays, une université, un laboratoire …) tandis que mesurer la production
d’un chercheur individuel en se basant sur ce type d’indicateur, est moins à
conseiller
Dénombrement des publications des brevets
9
9
11. Les limites des indicateurs de l‘ évaluation des CHERCHEURS :
Les limites liées aux indicateurs bibliométriques :
Un auteur a tendance à citer les travaux de sa propre
communauté scientifique ou des auteurs connus alors que
ces travaux n’ont pas nécessairement influencé sa
recherche.
Un chercheur peut également citer ses propres
travaux, augmentant ainsi le nombre de citations
qui lui seront créditées. Le phénomène des “auto-
citations” existe bien et justifie les critiques sur la
fiabilité de cette mesure.
Nombre de citations :
10
10
12. Les limites des indicateurs de l‘ évaluation des CHERCHEURS :
Les limites liées aux indicateurs bibliométriques :
Le facteur H avantage les seniors, ayant une activité de
recherche reconnue sur le long terme
Il peut intégrer des publications dans lesquelles
l’auteur a joué peu de rôle
Variable selon les disciplines
H-index
11
11
13. Les limites des indicateurs de l‘ évaluation des CHERCHEURS :
Les limites liées aux indicateurs bibliométriques :
Difficile d’évaluer la part de
chaque co-auteur Cet indicateur
ne permet pas de mesurer la
quantité ou la qualité du travail
que représente un article, seuls
les auteurs connaissent leur
réelle contribution dans l’article
La co-signature ne tient pas
compte de la qualité des
publications
Co-signature :
12
12
14. Les limites des indicateurs de l‘ évaluation des DOMAINES DES PAYS :
Les limites liées aux indicateurs bibliométriques :
L’indice d’affinité n’est
applicable qu’à condition qu’il
y ait une certaine “masse”
de liens de coopération
pendant la période, et ceci
dans les deux sens.
Il est préférable d’utiliser cet
indicateur pour des
collaborations scientifiques
entre deux parties qui se
rapprochent en termes de
masse scientifique.
Indice d’affinité :
13
13
15. Les limites liées aux indicateurs bibliométriques :
A retenir:
Ces indicateurs sont utilisés comme des mesures permettant des comparaisons
Macro entre pays, thèmes, types de publications… La difficulté majeur de leur
emploi est le savoir à quel niveau il faut se situer et quel type d’évaluation il faut
élaborer. Ils mettent en évidence, sous forme quantifiée, l’évolution des
publications dans le temps, la répartition des publications par pays, l’évolution des
citations dans le temps, les revues les plus spécifiques …. Mais généralement, ne
donne qu'une image partielle de sa valeur.
14
14
16. Les limites liées aux lois bibliométriques :
Lotka a travaillé sur le nombre
de publications dans un
domaine donnée afin de
l’évaluer. Cependant, ce n'est
pas le seul indicateur à
considérer dans un domaine
pour l'évaluer.
Les scientomètres ont largement
recours à cette loi pour expliquer
le rapport auteurs/articles,
cependant, l’exposant retenu par
Lotka ne se retrouve pas souvent
dans la réalité, car il implique
qu'environ 60% des auteurs d'un
échantillon donné ne publient
qu'un seul article .ce qui n'est
pas toujours le cas.
15
15
La loi de Lotka :
17. Les limites liées aux lois bibliométriques :
La détermination du
nombre de zones : la
majorité des auteurs
affirment qu’il y a une
difficulté de distinguer le
noyau des revues dans
une distribution de
Bradford puisqu’ il a
découpé la courbe
arbitrairement en 3 zones
équivalentes.
Le coefficient
multiplicateur n : Bradford
trouve que n=2 mais il
existe d’autres auteurs qui
ont trouvé d’autres
résultats selon le
découpage des zones.
La formulation
mathématique : Bradford
avait fait une erreur dans
son analyse algébrique et
sa formulation verbale
était incorrecte.
16
16
La loi de Bradford :
18. Les limites liées aux lois bibliométriques :
La loi de Zipf n’est pas fondée sur des
principes bibliométriques mais sur des
principes linguistiques. Malgré cela,
elle est devenue incontournable en
bibliométrie puisque de nos jours de
nombreux groupes de recherche
s’orientent vers l’exploitation de texte
en langage naturel présents dans les
banques de données.
Il reste beaucoup à faire dans cette
nouvelle perspective, car la
formulation mathématique ne permet
pas d’affecter systématiquement les
mots selon leur rang a des ensembles
différents donnant une idée sur
l’apport statistique plus au moins
grand de chacun des mots.
17
17
La loi de Zipf :
19. Les limites liées aux lois bibliométriques :
A retenir:
Ces lois ne s’expliquent aucunement les phénomènes bibliographiques mais ne
font que les représenter. La majorité des travaux scientifiques concernent cette
branche de la bibliométrie se soit principalement axée sur la capacité des modèles
mathématiques a s’ajuster aux données expérimentales.
18
18
20. Les limites d'un système
19
19
Invisibilité
Résultats différents selon l'outil utilisé
Facteur d'usage :
Rythmes de diffusion d'une revue
Effet boule de neige
Nombre de mentions sur les réseaux sociaux
Impact is money
21. Les limites d'un système
Invisibilité : dans
certaines disciplines,
en particulier en
sciences humaines et
sociales, des revues
scientifiquement
importantes ne sont
pas indexées dans les
bases
bibliométriques.
Résultats différents
selon l'outil utilisé :
Si l'outil de Thomson
Reuters a l'ancienneté
pour lui, des résultats
bibliométriques
différents pour un
même corpus de revues
obtenus avec des outils
concurrents
Facteur d'usage
: les articles ne sont pas
seulement destinés à être cités
dans d'autres publications. Dans
certains domaines leur lecture
permet une mise en pratique
(dans le domaine de la
médecine et du diagnostic par
exemple).
20
20
22. Les limites d'un système
20
21
Effet boule de neige : les outils bibliométriques favorisent un
effet "boule de neige" : assez vite, un petit nombre de
revues draine un nombre de citations tout à fait
considérable, alors que des revues de qualité, mais à la base
moins citées, tombent dans les oubliettes. Pour l'éditeur, il
devient vital de maintenir sa revue dans la liste des 20% de
revues qui obtiennent 80% des citations. Certaines revues en
arrivent à des pratiques répréhensibles : inflation des
autocitations, échanges de citations ...
23. Les limites d'un système
20
22
Nombre de mentions
sur les réseaux
sociaux : il est
aujourd'hui réducteur
de calculer la valeur
d'un article à partir de
son seul facteur
d'impact.
Impact is money : Le
facteur d'impact est
devenu un argument
commercial de
premier ordre aux
mains des éditeurs qui
justifient ainsi les prix
très élevés de leurs
abonnements.
Rythmes de diffusion
d'une revue : la
limitation aux deux
années d'antériorité
est critiquée : à la fin
de ce terme, un article
de Nature connaîtra
son pic de citations,
mais tel article d'une
autre revue à diffusion
moins rapide ne
connaîtra ce pic qu'au
bout de 3 ou 4 ans
24. 20
23
Les bases de données bibliométriques sont mises en
place pour illustrer les résultats de l’activité scientifique
et technologique. La bibliométrie procède à une
exploitation systématique de ces BD sur les publications
scientifiques . Or toute BD a ses limites
Limites liées aux bases de données
25. Ike Antkare le chercheur fictif inventé par Cyril
Labbé.
20
24
Ike Antkare est déjà l’un des
dix premiers chercheurs en
science informatique et figure
parmi les 100 scientifiques les
plus renommés au monde,
devant Albert Einstein !
Travaillant à l’International
Institute of Technology United
Slates of Earth, ce petit génie a
publié, selon Google
Scholar (1), 102 articles qui ont
été repris et cités à maintes
reprises sur la toile.
Pourtant, ce chercheur
renommé n’existe pas ! Il a été
inventé de toutes pièces par
Cyril Labbé, afin de démontrer
le manque de fiabilité de
l’évaluation strictement
bibliométrique.
26. 20
25
Les bases de
données ont
tendance à
préférer les
articles au
détriment des
autres formes.
L’ensemble des
articles référencés
sont en langue
anglaise ce qui
favorise les
chercheurs
anglophones.
Les
mathématiciens
et les statisticiens
reprochent
l’utilisation de
bases statistiques
non fiables et
douteuses.
A retenir:
27. Conclusion :
Les méthodes appliqués dans la discipline de la bibliométrie avec ses indicateurs et
lois sont des outils très importants pour mesurer, évaluer, étudier, la production et
la diffusion d'ouvrages, d'articles et d'autres publications mais il nous faut tout un
mécanisme de contrôle et de suivie pour s’assurer de leur usage en respectant les
normes dans ce domaine.
26
26
28. Webographie :
http://www.master-vti.fr/web/IMG/pdf/La_bibliometrie_et_ses_techniques.pdf en ligne [dernière visite le
16/05/2018]
Indicateurs bibliométriques et analyse des systèmes de recherche : méthodes et exemples en ligne [dernière
visite le 17/05/2018]
https://www.bibl.ulaval.ca/services/bibliometrie/indicateurs-et-sources/limites-indicateurs en ligne
[dernière visite le 17/05/2018]
https://guides-formadoct.u-bretagneloire.fr/bibliometrie en ligne [dernière visite le 17/05/2018]
27
27