Conférence de l'Atelier "Systèmes d'Information & de Décision et Démocratie dans les Organisations". si2d.hypotheses.org

1. Systèmes d’information numériques :
la démocratie sous influence ?
Université Populaire de Philosophie, Toulouse, 13 février 2019
Atelier SI2D
si2d.hypotheses.org

2. Systèmes d’information numériques : la démocratie sous influence ?
Des systèmes d'information partout

3. Systèmes d’information numériques : la démocratie sous influence ?
Des formulaires (en ligne) partout
3

4. Systèmes d’information numériques : la démocratie sous influence ?
Des systèmes de notation partout
4

5. Systèmes d’information numériques : la démocratie sous influence ?
Des tableaux de bord partout
5

6. Systèmes d’information numériques : la démocratie sous influence ?
Des critères de performance partout
6

7. Systèmes d’information numériques : la démocratie sous influence ?
Des systèmes d’information partout… ou
presque
Quel est le nombre d’entreprises délocalisantes en France ?
Quel est le coût environnemental des délocalisations
d’entreprises françaises ?
Quel est le nombre de sans-abris à Toulouse ?
7

8. Systèmes d’information numériques : la démocratie sous influence ?
Le système d’information : le langage de
l’organisation
• L’organisation voit le monde à travers le système d’information
• L’organisation se voit elle-même à travers le système d’information
• Un système de visibilité/invisibilité
• Le système d'information permet à l’entreprise de définir ce qu’elle est, ce qu’elle
veut, ce qui est bien ou non (qu’est-ce qu’être performant ?)
• Ce qui n’est pas dans le système d’information ne se verra pas : quid de l’impact
de l’organisation sur la nature si ce n’est ni dans les indicateurs, ni dans les
comptes ?
• Le système d’information ne reflète pas la réalité, il la construit
8

9. Systèmes d’information numériques : la démocratie sous influence ?
Le système d’information numérique
• Une sous-partie du système d’information
• Qui réduit la complexité
Perte de sens
• Qui rigidifie/fige tout
Les structures ne bougent pas – ou très lentement
9

10. Systèmes d’information numériques : la démocratie sous influence ?
Le système d’information est performatif
• En intégrant une entité au système d’information, on la fait exister :
• Catégorie des chercheurs publiant
• Critères diagnostiques du trouble d’hyperactivité des enfants selon le DSM-5
10

11. Systèmes d’information numériques : la démocratie sous influence ?
Ce qui n’est pas dans le système d’information
n’existe pas
• Ce qui n’est pas nommé dans le système d’information n’existe pas
dans le fonctionnement de l’organisation concernée
• Non prise en compte des votes blancs
• Système d’information de d'un hôpital : la nomenclature des tâches de personnel
infirmier ne fait pas apparaître l’activité « parler avec les proches du patient ».
Pour l’hôpital, est-ce que cela fait partie du travail des infirmiers ?
11
58.49% 30%
Emmanuel Macron
3%
Votes nuls
8.52%
Votes blancs Marine Le Pen

12. Systèmes d’information numériques : la démocratie sous influence ?
Le système d’information et l’organisation sont
consubstantiels
• Le système d’information « forme l’organisation qui le forme » (expression inspirée de Le Moigne) :
• Selon les normes comptables, les salaires sont vus comme des charges.
• Dans les nouveaux logiciels de gestion des crèches, l’indicateur « taux de remplissage » fait son apparition
12

13. Systèmes d’information numériques : la démocratie sous influence ?
Les données ne sont pas données

14. Systèmes d’information numériques : la démocratie sous influence ?
Le système d’information repose sur des
« données »
• Les données sont partout….
• Elles se présentent comme
• « allant de soi »
• objectives
• neutres
• Le PIB de la France est de…
• Le nombre de chômeurs est de…
• La hausse des prix est de…
14

15. Systèmes d’information numériques : la démocratie sous influence ?
La donnée n’est cependant pas si donnée que
cela
• Elle suppose une définition de l’objet sur lequel elle porte
• qui est chômeur ?
• quelqu’un qui a perdu son emploi ?
• qui en recherche un « activement » ?
• quid de ceux qui sont à la recherche d’un premier emploi ?
• quid des personnes qui ne travaillent qu’à temps partiel ?
• quelles activités entrent dans le calcul du PIB ?
• le travail d’un enseignant ?
• la prostitution ?
• les activités domestiques ?
• l’activité des firmes « étrangères » en France ?
• l’activité des firmes françaises à l’étranger ?
• le commerce de la drogue ?
15

16. Systèmes d’information numériques : la démocratie sous influence ?
La donnée appelle : une représentation, une
interprétation, un jugement
• Elle est le résultat d'une construction
• les chômeurs, les cadres, les professions libérales…
• Elle exprime une convention (dominante, parfois tacite)
• un chômeur n’est pas un « oisif », il fait partie de la population
active
• un pauvre est une personne qui…vit dans un ménage dont le niveau
de vie est inférieur au seuil de pauvreté
• le seuil de pauvreté est déterminé par rapport à la distribution des niveaux
de vie de l'ensemble de la population
• Eurostat et les pays européens utilisent en général un seuil à 60 % de la médiane
des niveaux de vie (14% de pauvres ainsi recensés en France)
16

17. Systèmes d’information numériques : la démocratie sous influence ?
La donnée ne "donne" pas tout
• « Le PIB ne tient pas compte de la santé de nos enfants, de la qualité
de leur instruction, ni de la gaieté de leurs jeux. Il ne mesure pas la
beauté de notre poésie ou la solidité de nos mariages. Il ne songe
pas à évaluer la qualité de nos débats politiques ou l’intégrité de
nos représentants. Il ne prend pas en considération notre courage,
notre sagesse ou notre culture. Il ne dit rien de notre sens de la
compassion ou du dévouement envers notre pays.
• En un mot, le PIB mesure tout, sauf ce qui fait que la vie vaut la
peine d’être vécue. »
(Bob Kennedy, discours du 18 mars 1968)
17

18. Systèmes d’information numériques : la démocratie sous influence ?
La donnée, la mesure, deviennent l'objectif
• En même temps qu'elles créent et façonnent l'objet…
• chômeur
• …elles provoquent et induisent la décision
• par exemple : un accroissement du déficit public (calculé en % du
PIB) induit/légitime une baisse de la dépense publique…
18

19. Systèmes d’information numériques : la démocratie sous influence ?
On peut aussi dire que les données sont choisies
• Afin d'étayer, donner un fondement « scientifique »
• car mesuré/mesurable
• …d'une décision prise ex-ante
• Par exemple : en vue d’ouvrir de nouveaux espaces au
marché, il convient
• de baisser la dépense publique
• la baisse de la dépense publique étant induite par un objectif de réduction
des déficits
19

20. Systèmes d’information numériques : la démocratie sous influence ?
Risques pour la démocratie dans les
organisations, dans la société

21. 21
Systèmes d’information numériques : la démocratie sous influence ?
« Bien avant Nagasaki et la sensibilisation du public à la
bombe atomique, il m’était apparu que nous étions ici en
présence d’une autre potentialité sociale d’une
importance sans précédent pour le bien et pour le mal »
Norbert Wiener en 1948, à propos de la cybernétique
(c'est-à-dire l'informatique)

22. Systèmes d’information numériques : la démocratie sous influence ?
Quelques facteurs de risque
• Extension du domaine du numérique, sans limite
• omniprésence des outils numériques dans la quasi totalité des activités,
dans les sphères privée, publique, professionnelle
• Les données sont construites, elles créent en partie le réel
• des rapports glissants entre le réel et son codage, entre la carte et le
territoire
• Des capacités sans cesse croissantes de mémorisation et de
traitements
• traçage lors de (presque) tous les usages du numérique, privés ou
professionnels
• fortes possibilités de contrôle
• Big Data et algorithmes : la technologie de tous les dangers
22

23. 23
1993
Sur Internet, personne ne
sait que tu es un chien
2014
Comment
ont-ils
découvert
que je suis
un chien ?

24. Systèmes d’information numériques : la démocratie sous influence ?
Risques pour les individus dans leur vie privée
• Ne pas pouvoir accéder à des services publics
• près d’un tiers des Français a déjà renoncé à entreprendre des
démarches parce qu’il fallait utiliser Internet (emploi, administratif,
formation)
• Être "tracés", "profilés"
• possibilité de corréler différents aspects jusque-là dissociés
• possibilité d'identifier une personne à partir de 5 informations
• Être surveillés…et punis
• ex. arrêt des remboursements médicaux en cas de non observance
d'un traitement
• ex. hausse du tarif d'une complémentaire santé selon habitudes
alimentaires, ou d'une assurance auto selon mode de conduite
24

25. Systèmes d’information numériques : la démocratie sous influence ?
Risques pour les individus au travail
Prise en charge de l'organisation par les SI numériques :
l'organisation du travail est imposée au travers des systèmes
informatiques
• Encadrement étroit de l'activité
• accroissement de la subordination, de la charge de travail, de la charge
mentale
• Pas de possibilité de discuter des normes quand elles sont
inscrites dans les logiciels de travail
• conflits de normes et de valeurs…non exprimés, perte de sens au travail
• Surveillance
• Voire guidage mental ou comportemental caché
• ex. interface UBER
25

26. Systèmes d’information numériques : la démocratie sous influence ?
Risques pour les organisations
• Perte d'innovation par
• disparition des espaces de « jeu » possible, c'est-à-dire des espaces
d'adaptation
• impossibilité de la dispute sur les normes, de la « coopération conflictuelle »
• destruction des collectifs
• Cercle vicieux des rétroactions
• indicateurs et incitatifs pervers
• inversion : l'objectif, c'est d'améliorer
la mesure (l'indicateur)
• risque de redéfinition (implicite) des missions
de l'organisation
• rétroaction du niveau opérationnel
(indicateurs, normes diverses...)
sur la raison d'être de l'organisation
26

27. Systèmes d’information numériques : la démocratie sous influence ?
Risques pour les organisations
• Domination de l'évaluation au sens de notation : quantitative
et atomisée
• au détriment d'autres types d'évaluation
• qualitatives, collectives, par recherche
de consensus, collaboratives…
• Guidage caché de la prise de décision
par les systèmes d'aide à la décision
• on ne considère pas la réalité,
mais seulement son codage numérique
• pour des situations inédites, ce qui est
codé ne sera pas suffisant
27
C'est ici que vous
avez perdu votre
portefeuille ?
Non, je l'ai perdu
dans le parc, mais ici,
il y a de la lumière

28. 28
Plage de Negril, Jamaïque

29. 29
Auschwitz (Oswiecim), Pologne

30. 30

31. Systèmes d’information numériques : la démocratie sous influence ?
Risques pour la société
• Perte de diversité
• domination de cadres d'expression (de pensée ?) normatifs
• extension illimitée du domaine de la notation
• renforcement des choix majoritaires, des opinions dominantes

32. 32

33. Systèmes d’information numériques : la démocratie sous influence ?
Les risques à ne voir que le codage…
…en oubliant la « trahison des images »
• oublier les erreurs
• dans les données, dans les traitements
• s'illusionner sur l'exhaustivité du codage
• oubli des angles morts, des biais de collecte
• oubli de ce qui échappe au mode de collecte des données
• oublier ce qui est perdu dans la numérisation
• une vidéo n'est pas le moment vécu
• un sentiment codé n'est pas le sentiment vécu
• des données sur une personne ne sont pas cette personne

34. 34
Score COMPAS : 10
(le plus haut)
Bernard Parker

35. Systèmes d’information numériques : la démocratie sous influence ?
Big Data : ce qui est nouveau
• La diversité des domaines concernés
• La masse des données traitées, en progression exponentielle
• notamment par la multiplication des objets connectés
• La masse des données concernant des personnes
• La possibilité de corréler différents jusque là dissociés
• Le caractère caché des algorithmes de traitement
• La volonté d'agir sur le futur au niveau des individus
• L'accompagnement de cette volonté par des incitatifs (ou des
menaces) puissants
35

36. Systèmes d’information numériques : la démocratie sous influence ?
Big Data : algorithmes
• Traitements pour identifier des groupes d'entités se
comportant d'une manière proche => profils
• Ces traitements cherchent à faire émerger des corrélations
entre certaines variables
• les données "parlent d'elles-mêmes", pas de modèle préalable
• mais : tendance à confondre corrélation et causalité
• en analyse statistique, le lien de causalité est toujours une interprétation
• exemples célèbres de corrélations farfelues
• Énormes masses de données, algorithmes complexes
• un "effet de réalité" massif
• des effets de rétroaction puissants, des prophéties autoréalisatrices
36

37. Systèmes d’information numériques : la démocratie sous influence ?
Risques pour la société : décisions publiques
• Prise de décision publique
• risque que les outils d'aide à la décision orientent les décisions de façon
souterraine, non perceptible
• par les données disponibles, et celles qui ne le sont pas
• risque que la décision soit faite entièrement par les systèmes numériques
• risque que la nécessité d'une décision soit elle-même décidée par ces
systèmes
• Risque de main basse sur le futur, en passant du prédictif au
prescriptif
• de même qu'il est tentant d'assimiler corrélation et causalité, il est facile
de glisser du prédictif au prescriptif
• risque majeur : qu'un grand nombre de décisions soient prises sur la seule
base du futur projeté
• on doit juger une personne pour ce qu'elle a fait, et non pour ce qu'elle
"est" ou pour ce qu'elle pourrait faire
37
mise en cause des fondements de l'État de

38. Systèmes d’information numériques : la démocratie sous influence ?
Risques pour la société
• Déséquilibre grandissant entre démocratie et "sécurité"
• la surveillance, la captation de masses énormes de données, n'est
pas forcément utile ou efficace
• l'équilibre démocratie / sécurité n'est pas discuté par les citoyens
• Absence de dispute démocratique sur le numérique
• attention, il existe bien des discussions : mais sous-tendues par une
acceptation définitive du numérique
• la question est alors "comment on va s'y adapter ?"
• et non "quand et où faut-il utiliser le numérique, quand et où ne faut-il PAS
l'utiliser ?"
38

39. Systèmes d’information numériques : la démocratie sous influence ?
Reprendre le contrôle, défendre la
démocratie

40. Systèmes d’information numériques : la démocratie sous influence ?
Reprendre le contrôle, défendre la démocratie
• Vie privée : se protéger
• du traçage et d'une possible surveillance
• des fausses informations
• Organisations : lutter
• pour permettre la dispute autour des normes, des catégories, des
indicateurs
• pour la participation de représentants du personnel aux projets
informatiques
• pour que les informaticiens prennent conscience de leur
responsabilité économique et sociale

41. Systèmes d’information numériques : la démocratie sous influence ?
Pour la société dans son ensemble
• Limiter l'expansion de l'empire numérique
• s'opposer à des fichiers comme TES
• services publics : garantir un accès hors Internet
• écoles : demander une évaluation de l'impact des outils informatiques sur la
réussite scolaire
• Prendre conscience de notre responsabilité citoyenne quant au
numérique
• contrôler la mise en place et le fonctionnement des décisions automatiques
• défendre une démocratie de débat
• mettre en débat l'équilibre démocratie / sécurité
• Organiser la dispute sur le numérique
• discuter et décider collectivement de ce que le numérique ne saurait coder*
* En hommage à Michael Sandel ("Ce que l'argent ne saurait acheter")
41

42. 42
Systèmes d’information numériques : la démocratie sous influence ?
42
Atelier Systèmes d'Information et de
Décision, et Démocratie dans les
Organisations
si2d.hypotheses.org