SlideShare une entreprise Scribd logo
Données personnelles,
enjeux et pouvoirs
1
Olivier Ertzscheid. Enseignant-chercheur.
Nantes Université.
Septembre 2022
www.affordance.info
Une (toute petite) histoire (très
subjective) des données.
[Et quelques réflexions pour aller
dans le sens d’un intérêt commun] 2
Before Data.
• Il n’y avait que des bits.
• Bruce Schneier : « l’histoire d’internet est celle d'un
accident fortuit résultant d'un désintérêt commercial
initial, d'une négligence gouvernementale et militaire et de
l'inclinaison des ingénieurs à construire des systèmes
ouverts simples et faciles. »
• Années 72 : projet SAFARI (interconnexion)
• Années 2000 : le temps des cerises des données.
• 1997 la Communauté européenne s'inquiète des risques de
l'hyperconnectivité
• « recommandation 6c » sur la société de l’information
• être attentif et étudier « les conséquences d’une connexion
permanente, le besoin de se déconnecter parfois et le droit de
restreindre l’accès à certains moments » tout comme « la
restriction et la négociation des intrusions ».
• 20 ans plus tard (2017) : droit à la déconnexion introduit
dans la loi française.
• Ce qui compte c’est le temps passé « devant » l’écran et pas ce
qui se passe « derrière » ou « dans » les écrans.
• De l’interconnexion au droit à la déconnexion.
3
Années circa 2010 . Data Deluge.
• 2010 Eric Schmidt (CEO Google) : davantage de données
sont générées aujourd’hui toutes les 48h qu’entre l’aube de
l’humanité et l’année 2003.
• DATA MINING
• (Uber en 2009) : Le travail des données.
• Digital Labor. Tâcheronnage. Travail à la tâche.
• Les données et les algos ne sont plus à notre service via des
plateformes mais les plateformes nous mettent (mettent les
travailleurs) au service des algos pour traiter des données.
• 1 fracture :
• Mouvements Open Data VS patrimonialisation des données (droit
de vendre ses données comme on vendrait un rein)
• Application « Tadata »
(https://affordance.framasoft.org/2020/10/tadata-ou-la-
prostitution-comme-business-model/).
• Cible public jeunes, peu éduqués, précaires, étudiant.e.s …
• Des grands scandales
• Lanceur d’alerte (Snowden NSA 2013) : les états nous écoutent.
• Cambridge Analytica (2015) : les plateformes nous écoutent au
service de partis et peuvent « orienter » nos votes.
4
Années circa 2020 : DataSets [Jeux de données]
• Mouvements de conscientisation,
d’émancipation
• https://onestla.tech/page/a-propos/
• Question des jeux de données (datasets) :
• servent à l’entraînement (deep learning, machine
learning) de programmes qui remplissent des
objectifs (« IA »)
• Mais sont aussi truffés de biais (humains et
algorithmiques, racistes, sexistes …) et très
complexes à auditer.
• Ce ne sont plus les algos qui sont stratégiques /
secrets mais les jeux de données.
• Ethique automatisation : algos ET données
devraient être "transparents à l'inspection,
prévisibles pour ceux qu’ils gouvernent, et
robustes contre toute manipulation" (Bostrom et
Yudowski dans "The Ethics of Artificial
Intelligence").
5
6
Contextualiser [et politiser] la question des
données
• Données et / ou obtenu.e.s
• [Bruno Latour] toute donnée est le produit d’un processus qui voit des acteurs la mettre en forme en
fonction de leurs expériences, en fonction des usages et des usagers qu’ils imaginent aussi.
• Croire que les données sont intrinsèquement quantitatives — évidentes, neutres sur le plan des valeurs et
indépendantes de l’observateur — exclut la possibilité de les concevoir comme qualitatives, co-
dépendamment constituées. [Johanna Drucker]
7
La donnée qui voulait être plus grosse que le
monde en capacité de la traiter
• Big Data : How Big is Too Big ?
• « La tendance des données d'entraînement ingérées depuis Internet à encoder des visions du monde
hégémoniques, la tendance des LM (modèles de langage) à amplifier les biais et autres problèmes dans les
données d'entraînement, et la tendance des chercheurs et d'autres personnes à confondre les gains de
performance induits par les LM avec une réelle compréhension du langage naturel – [toutes ces tendances]
présentent des risques réels de dommages, lorsque ces technologies sont déployées.
• (…) Nous constatons que le mélange de biais humains et de langage apparemment cohérent
augmente le potentiel de biais d'automatisation, de mauvaise utilisation délibérée et d'amplification
d'une vision hégémonique du monde(…)
• Chercheurs proposent une nouvelle éthique autour de la recherche en Big Data
• 1. évaluer d'abord les coûts environnementaux et financiers
• 2. investir des ressources dans la conservation et la documentation minutieuse des ensembles de données plutôt
que d'ingérer tout ce qui se trouve sur le web,
• 3. effectuer des exercices de pré-développement pour évaluer comment l'approche prévue s'inscrit dans les objectifs de
recherche et de développement et soutient les valeurs des parties prenantes
• 4. et encourager les directions de recherche au-delà des modèles linguistiques toujours plus grands.
• https://affordance.framasoft.org/2021/04/perroquets-stochastiques-attaque-typographique/
8
Renoncer (ici aussi) à un extractivisme
mortifère. Kate Crawford
• « Atlas de l’IA » Kate Crawford
• « l’IA n’est ni intelligente ni artificielle. Elle n’est qu’une
industrie du calcul intensive et extractive qui sert les
intérêts dominants. Une technologie de pouvoir qui « à la
fois reflète et produit les relations sociales et la
compréhension du monde. »
• "Les modèles permettant de comprendre et de tenir les
systèmes responsables ont longtemps reposé sur des idéaux
de transparence… Le fait de pouvoir voir un système est
parfois assimilé au fait de pouvoir savoir comment il
fonctionne et comment le gouverner. Mais cette tendance a
de sérieuses limites. Dans le cas de l’IA, il n’y a pas de boîte
noire unique à ouvrir, pas de secret à révéler, mais une
multitude de systèmes de pouvoir entrelacés. La
transparence totale est donc un objectif impossible à
atteindre. Nous parviendrons à mieux comprendre le rôle
de l’IA dans le monde en nous intéressant à ses
architectures matérielles, à ses environnements
contextuels et aux politiques qui la façonnent, et en
retraçant la manière dont ils sont reliés. »
9
Données et conditions de travail
• Données sont des obtenues mais devraient aussi pouvoir être des conditions.
• Définition DARES : « Les conditions de travail recouvrent les aspects matériels
(contraintes physiques, moyens, conditions sanitaires, etc.), organisationnels (temps
de travail, rythme de travail, autonomie et marge de manœuvre, etc.), et psychosociaux
(relations avec les clients, la hiérarchie et les collègues, sentiment d'utilité, etc.) »
• Aspects matériels sont organisés par les plateformes.
• Aspects organisationnels organisés par algos.
• Aspects psychosociaux ne sont souvent mesurés qu’au travers de la collecte de
données (métriques qui sont autant de coups de trique).
• Nos conditions de travail attentionnel.
• L’essentiel des données et d’ailleurs recueilli (obtenu) dans le cadre des CGU.
• C’est cette conditionnalité qu’il faut inverser dans le sens de l’intérêt commun (et
cela passe par la défense des droits et intérêts des particuliers).
10
De la semaine de 35h à la semaine de 35 gigas
[de données] ?
• Temps de travail => temps
« donné » fait de données
• Vêtement de travail (montres
connectées, puces RFID sous-
cutanées, balises GPS,
smartphones et applications
installées)
11
Sinon …
12
Automatisation des inégalités.
• Politiquement
• Jen Schradie "The Revolution That Wasn't : How Digital Activism Favors
Conservatives" (Harvard University Press).
• "les classes plus aisées sont plus présentes en ligne que les classes populaires.
• Elles disposent de meilleures organisations, plus accoutumées à la bureaucratie.
• Enfin, les conservateurs, comme les membres du Tea Party, ont un message plus
simple et abordent moins de sujets que les groupes de gauche. Ils ont l’impression
que les médias mainstream ne relaient pas assez leur parole, ce qui les incite
d’autant plus à se doter de leurs propres instruments de communication. L’idéal de
liberté se partage plus facilement sur les réseaux sociaux que celui d’égalité. Au vu
du contexte actuel, je pense donc que le discours de droite sera d’autant plus
dominant sur les réseaux pendant la pandémie."
• Sociologiquement et économiquement
• Cathy O'Neil (Weapons of Math Destruction, 2016)
• Safiya Umoja Noble (Algorithms Of Oppression, 2018)
• Virginia Eubanks (Automating Inequality, 2018)
13
Merci 
Question ?
14

Contenu connexe

Tendances

Strategi Digital Marketing, Sosial Media Untuk Promosi Online UMKM
Strategi Digital Marketing, Sosial Media Untuk Promosi Online UMKMStrategi Digital Marketing, Sosial Media Untuk Promosi Online UMKM
Strategi Digital Marketing, Sosial Media Untuk Promosi Online UMKMAnjrah Susanto
 
How To Spark Lateral Thinking
How To Spark Lateral ThinkingHow To Spark Lateral Thinking
How To Spark Lateral Thinkingcontently
 
Le Product Portfolio Management au-delà du Produit Numérique
Le Product Portfolio Management au-delà du Produit NumériqueLe Product Portfolio Management au-delà du Produit Numérique
Le Product Portfolio Management au-delà du Produit NumériqueAgile En Seine
 
APB19 les OKR l'alignement entre votre stratégie globale produit et managériale
APB19 les OKR l'alignement entre votre stratégie globale produit et managérialeAPB19 les OKR l'alignement entre votre stratégie globale produit et managériale
APB19 les OKR l'alignement entre votre stratégie globale produit et managérialeTiphanie Vinet
 
Make Your Presentation Pop
Make Your Presentation PopMake Your Presentation Pop
Make Your Presentation PopArtisan Talent
 
Tahapan Campaign AFLOWZ Creative Agency
Tahapan Campaign AFLOWZ Creative AgencyTahapan Campaign AFLOWZ Creative Agency
Tahapan Campaign AFLOWZ Creative AgencyAnisah Maryam
 
Innovation, design thinking, and competitive advantage
Innovation, design thinking, and competitive advantageInnovation, design thinking, and competitive advantage
Innovation, design thinking, and competitive advantagePhil Barrett
 
Strategi pemasaran online
Strategi pemasaran onlineStrategi pemasaran online
Strategi pemasaran onlinethecremaster
 
Innhotep - Roadmap technologique
Innhotep - Roadmap technologiqueInnhotep - Roadmap technologique
Innhotep - Roadmap technologiqueInnhotep
 
Design Thinking
Design ThinkingDesign Thinking
Design Thinkinglmittler
 
Le rôle de l’architecte Agile - Mathieu Boisvert
Le rôle de l’architecte Agile - Mathieu BoisvertLe rôle de l’architecte Agile - Mathieu Boisvert
Le rôle de l’architecte Agile - Mathieu BoisvertPyxis Technologies
 
Customer experience 2.0
Customer experience 2.0Customer experience 2.0
Customer experience 2.0Jane Vita
 
Using Your Growth Model to Drive Smarter High Tempo Testing
Using Your Growth Model to Drive Smarter High Tempo TestingUsing Your Growth Model to Drive Smarter High Tempo Testing
Using Your Growth Model to Drive Smarter High Tempo TestingSean Ellis
 
UXWeek 2015 - Designing for Behavior Change
UXWeek 2015 - Designing for Behavior ChangeUXWeek 2015 - Designing for Behavior Change
UXWeek 2015 - Designing for Behavior ChangeStephen Wendel
 
New is Easy but Right is Hard: Hacking Product Management
New is Easy but Right is Hard: Hacking Product ManagementNew is Easy but Right is Hard: Hacking Product Management
New is Easy but Right is Hard: Hacking Product ManagementBernard Leong
 
Promosi Bisnis Menggunakan TikTok
Promosi Bisnis Menggunakan TikTokPromosi Bisnis Menggunakan TikTok
Promosi Bisnis Menggunakan TikTokIdea Imaji
 
20151128 소비자행동론_KFC 중국진출사례 분석 PPT
20151128 소비자행동론_KFC 중국진출사례 분석 PPT20151128 소비자행동론_KFC 중국진출사례 분석 PPT
20151128 소비자행동론_KFC 중국진출사례 분석 PPTJinhee Ahn
 

Tendances (20)

Strategi Digital Marketing, Sosial Media Untuk Promosi Online UMKM
Strategi Digital Marketing, Sosial Media Untuk Promosi Online UMKMStrategi Digital Marketing, Sosial Media Untuk Promosi Online UMKM
Strategi Digital Marketing, Sosial Media Untuk Promosi Online UMKM
 
Webinaire design Thinking
Webinaire design Thinking Webinaire design Thinking
Webinaire design Thinking
 
How To Spark Lateral Thinking
How To Spark Lateral ThinkingHow To Spark Lateral Thinking
How To Spark Lateral Thinking
 
Le Product Portfolio Management au-delà du Produit Numérique
Le Product Portfolio Management au-delà du Produit NumériqueLe Product Portfolio Management au-delà du Produit Numérique
Le Product Portfolio Management au-delà du Produit Numérique
 
APB19 les OKR l'alignement entre votre stratégie globale produit et managériale
APB19 les OKR l'alignement entre votre stratégie globale produit et managérialeAPB19 les OKR l'alignement entre votre stratégie globale produit et managériale
APB19 les OKR l'alignement entre votre stratégie globale produit et managériale
 
Make Your Presentation Pop
Make Your Presentation PopMake Your Presentation Pop
Make Your Presentation Pop
 
Tahapan Campaign AFLOWZ Creative Agency
Tahapan Campaign AFLOWZ Creative AgencyTahapan Campaign AFLOWZ Creative Agency
Tahapan Campaign AFLOWZ Creative Agency
 
Innovation, design thinking, and competitive advantage
Innovation, design thinking, and competitive advantageInnovation, design thinking, and competitive advantage
Innovation, design thinking, and competitive advantage
 
Strategi pemasaran online
Strategi pemasaran onlineStrategi pemasaran online
Strategi pemasaran online
 
Innhotep - Roadmap technologique
Innhotep - Roadmap technologiqueInnhotep - Roadmap technologique
Innhotep - Roadmap technologique
 
Design Thinking
Design ThinkingDesign Thinking
Design Thinking
 
Le rôle de l’architecte Agile - Mathieu Boisvert
Le rôle de l’architecte Agile - Mathieu BoisvertLe rôle de l’architecte Agile - Mathieu Boisvert
Le rôle de l’architecte Agile - Mathieu Boisvert
 
How Google Works
How Google WorksHow Google Works
How Google Works
 
Tantangan wirausaha.naneth
Tantangan wirausaha.nanethTantangan wirausaha.naneth
Tantangan wirausaha.naneth
 
Customer experience 2.0
Customer experience 2.0Customer experience 2.0
Customer experience 2.0
 
Using Your Growth Model to Drive Smarter High Tempo Testing
Using Your Growth Model to Drive Smarter High Tempo TestingUsing Your Growth Model to Drive Smarter High Tempo Testing
Using Your Growth Model to Drive Smarter High Tempo Testing
 
UXWeek 2015 - Designing for Behavior Change
UXWeek 2015 - Designing for Behavior ChangeUXWeek 2015 - Designing for Behavior Change
UXWeek 2015 - Designing for Behavior Change
 
New is Easy but Right is Hard: Hacking Product Management
New is Easy but Right is Hard: Hacking Product ManagementNew is Easy but Right is Hard: Hacking Product Management
New is Easy but Right is Hard: Hacking Product Management
 
Promosi Bisnis Menggunakan TikTok
Promosi Bisnis Menggunakan TikTokPromosi Bisnis Menggunakan TikTok
Promosi Bisnis Menggunakan TikTok
 
20151128 소비자행동론_KFC 중국진출사례 분석 PPT
20151128 소비자행동론_KFC 중국진출사례 분석 PPT20151128 소비자행동론_KFC 중국진출사례 분석 PPT
20151128 소비자행동론_KFC 중국진출사례 분석 PPT
 

Similaire à CGT-digital-week.pptx

Intelligence artificielle, Données massives et Internet des objets: Quels son...
Intelligence artificielle, Données massives et Internet des objets: Quels son...Intelligence artificielle, Données massives et Internet des objets: Quels son...
Intelligence artificielle, Données massives et Internet des objets: Quels son...Web à Québec
 
Sfsic14 140605-ibekwe-san juan-big science
Sfsic14 140605-ibekwe-san juan-big scienceSfsic14 140605-ibekwe-san juan-big science
Sfsic14 140605-ibekwe-san juan-big scienceSFSIC Association
 
Miettes de données - Keynote BDA 2015
Miettes de données - Keynote BDA 2015Miettes de données - Keynote BDA 2015
Miettes de données - Keynote BDA 2015Amélie Marian
 
Boissaye-Marine-M2MAG-mémoire
Boissaye-Marine-M2MAG-mémoireBoissaye-Marine-M2MAG-mémoire
Boissaye-Marine-M2MAG-mémoireMarine Boissaye
 
Cours éthique et droit liés aux données numériques
Cours éthique et droit liés aux données numériquesCours éthique et droit liés aux données numériques
Cours éthique et droit liés aux données numériquesmarysesalles
 
6- Pratiques informationnelles et analyse des traces numériques : de la repré...
6- Pratiques informationnelles et analyse des traces numériques : de la repré...6- Pratiques informationnelles et analyse des traces numériques : de la repré...
6- Pratiques informationnelles et analyse des traces numériques : de la repré...espenel
 
Ethique du numérique - livre blanc- (vf)
Ethique du numérique - livre blanc- (vf)Ethique du numérique - livre blanc- (vf)
Ethique du numérique - livre blanc- (vf)Jérôme Fortineau
 
Protection des données personnelles : deux critiques du RGPD
Protection des données personnelles : deux critiques du RGPD Protection des données personnelles : deux critiques du RGPD
Protection des données personnelles : deux critiques du RGPD Calimaq S.I.Lex
 
Systèmes d'information, société de l'information
Systèmes d'information, société de l'informationSystèmes d'information, société de l'information
Systèmes d'information, société de l'informationClément Dussarps
 
Design, données personnelles et vie privée
Design, données personnelles et vie privéeDesign, données personnelles et vie privée
Design, données personnelles et vie privéeSylvia Fredriksson
 
Livret Pour de nouveaux droits et libertés numériques
Livret Pour de nouveaux droits et libertés numériquesLivret Pour de nouveaux droits et libertés numériques
Livret Pour de nouveaux droits et libertés numériquesdavid zentao
 
Big Data... Big Analytics à travers les âges, les industries et les technologies
Big Data... Big Analytics à travers les âges, les industries et les technologiesBig Data... Big Analytics à travers les âges, les industries et les technologies
Big Data... Big Analytics à travers les âges, les industries et les technologiesHassan Lâasri
 
Antonio CASILLI - Régimes de production des visualisations de données
Antonio CASILLI - Régimes de production des visualisations de donnéesAntonio CASILLI - Régimes de production des visualisations de données
Antonio CASILLI - Régimes de production des visualisations de donnéesBodyspacesociety Blog
 
Colloque Big Data Martinique 2017
Colloque Big Data Martinique 2017Colloque Big Data Martinique 2017
Colloque Big Data Martinique 2017omsrp
 
Salles M atelier SI et Democratie INFORSID 2017
Salles M atelier SI et Democratie INFORSID 2017Salles M atelier SI et Democratie INFORSID 2017
Salles M atelier SI et Democratie INFORSID 2017marysesalles
 
De l'importance de développer une culture des données dans les organisations
De l'importance de développer une culture des données dans les organisationsDe l'importance de développer une culture des données dans les organisations
De l'importance de développer une culture des données dans les organisationsFing
 
Nos systèmes : dossier de partenariat
Nos systèmes : dossier de partenariatNos systèmes : dossier de partenariat
Nos systèmes : dossier de partenariatFing
 

Similaire à CGT-digital-week.pptx (20)

Intelligence artificielle, Données massives et Internet des objets: Quels son...
Intelligence artificielle, Données massives et Internet des objets: Quels son...Intelligence artificielle, Données massives et Internet des objets: Quels son...
Intelligence artificielle, Données massives et Internet des objets: Quels son...
 
Sommaire datanomics
Sommaire datanomicsSommaire datanomics
Sommaire datanomics
 
Sfsic14 140605-ibekwe-san juan-big science
Sfsic14 140605-ibekwe-san juan-big scienceSfsic14 140605-ibekwe-san juan-big science
Sfsic14 140605-ibekwe-san juan-big science
 
Miettes de données - Keynote BDA 2015
Miettes de données - Keynote BDA 2015Miettes de données - Keynote BDA 2015
Miettes de données - Keynote BDA 2015
 
Boissaye-Marine-M2MAG-mémoire
Boissaye-Marine-M2MAG-mémoireBoissaye-Marine-M2MAG-mémoire
Boissaye-Marine-M2MAG-mémoire
 
Cours éthique et droit liés aux données numériques
Cours éthique et droit liés aux données numériquesCours éthique et droit liés aux données numériques
Cours éthique et droit liés aux données numériques
 
6- Pratiques informationnelles et analyse des traces numériques : de la repré...
6- Pratiques informationnelles et analyse des traces numériques : de la repré...6- Pratiques informationnelles et analyse des traces numériques : de la repré...
6- Pratiques informationnelles et analyse des traces numériques : de la repré...
 
Vade mecum sur le traitement des donnees numeriques
Vade mecum sur le traitement des donnees numeriquesVade mecum sur le traitement des donnees numeriques
Vade mecum sur le traitement des donnees numeriques
 
Ethique du numérique - livre blanc- (vf)
Ethique du numérique - livre blanc- (vf)Ethique du numérique - livre blanc- (vf)
Ethique du numérique - livre blanc- (vf)
 
Protection des données personnelles : deux critiques du RGPD
Protection des données personnelles : deux critiques du RGPD Protection des données personnelles : deux critiques du RGPD
Protection des données personnelles : deux critiques du RGPD
 
Systèmes d'information, société de l'information
Systèmes d'information, société de l'informationSystèmes d'information, société de l'information
Systèmes d'information, société de l'information
 
Design, données personnelles et vie privée
Design, données personnelles et vie privéeDesign, données personnelles et vie privée
Design, données personnelles et vie privée
 
Livret Pour de nouveaux droits et libertés numériques
Livret Pour de nouveaux droits et libertés numériquesLivret Pour de nouveaux droits et libertés numériques
Livret Pour de nouveaux droits et libertés numériques
 
Big Data... Big Analytics à travers les âges, les industries et les technologies
Big Data... Big Analytics à travers les âges, les industries et les technologiesBig Data... Big Analytics à travers les âges, les industries et les technologies
Big Data... Big Analytics à travers les âges, les industries et les technologies
 
Antonio CASILLI - Régimes de production des visualisations de données
Antonio CASILLI - Régimes de production des visualisations de donnéesAntonio CASILLI - Régimes de production des visualisations de données
Antonio CASILLI - Régimes de production des visualisations de données
 
Colloque Big Data Martinique 2017
Colloque Big Data Martinique 2017Colloque Big Data Martinique 2017
Colloque Big Data Martinique 2017
 
Salles M atelier SI et Democratie INFORSID 2017
Salles M atelier SI et Democratie INFORSID 2017Salles M atelier SI et Democratie INFORSID 2017
Salles M atelier SI et Democratie INFORSID 2017
 
De l'importance de développer une culture des données dans les organisations
De l'importance de développer une culture des données dans les organisationsDe l'importance de développer une culture des données dans les organisations
De l'importance de développer une culture des données dans les organisations
 
Nos systèmes : dossier de partenariat
Nos systèmes : dossier de partenariatNos systèmes : dossier de partenariat
Nos systèmes : dossier de partenariat
 
4. Algorithmes
4. Algorithmes4. Algorithmes
4. Algorithmes
 

Plus de olivier

IA bien qui IA le dernier. Les effets sociétaux des IA génératives.
IA bien qui IA le dernier. Les effets sociétaux des IA génératives.IA bien qui IA le dernier. Les effets sociétaux des IA génératives.
IA bien qui IA le dernier. Les effets sociétaux des IA génératives.olivier
 
programme-iut-collectif.pdf
programme-iut-collectif.pdfprogramme-iut-collectif.pdf
programme-iut-collectif.pdfolivier
 
libre-educatif-olivier-ertzscheid.pptx
libre-educatif-olivier-ertzscheid.pptxlibre-educatif-olivier-ertzscheid.pptx
libre-educatif-olivier-ertzscheid.pptxolivier
 
Bruire-2
Bruire-2Bruire-2
Bruire-2olivier
 
communiquer-reseaux-sociaux.pptx
communiquer-reseaux-sociaux.pptxcommuniquer-reseaux-sociaux.pptx
communiquer-reseaux-sociaux.pptxolivier
 
Le web a la carte
Le web a la carteLe web a la carte
Le web a la carteolivier
 
education-reseaux-sociaux
education-reseaux-sociauxeducation-reseaux-sociaux
education-reseaux-sociauxolivier
 
Revue Bruire
Revue BruireRevue Bruire
Revue Bruireolivier
 
Fenetre sur-cours
Fenetre sur-coursFenetre sur-cours
Fenetre sur-coursolivier
 
Le Monde selon Zuckerberg selon ses lecteur.trices
Le Monde selon Zuckerberg selon ses lecteur.tricesLe Monde selon Zuckerberg selon ses lecteur.trices
Le Monde selon Zuckerberg selon ses lecteur.tricesolivier
 
Google Books Milestones
Google Books MilestonesGoogle Books Milestones
Google Books Milestonesolivier
 
Monde selon Zuckerberg
Monde selon ZuckerbergMonde selon Zuckerberg
Monde selon Zuckerbergolivier
 
Podcast cult-num-1-2-3
Podcast cult-num-1-2-3Podcast cult-num-1-2-3
Podcast cult-num-1-2-3olivier
 
Zad et cyberespace
Zad et cyberespaceZad et cyberespace
Zad et cyberespaceolivier
 
Communication-reseaux-sociaux
Communication-reseaux-sociauxCommunication-reseaux-sociaux
Communication-reseaux-sociauxolivier
 
Obsolescence-programmee
Obsolescence-programmeeObsolescence-programmee
Obsolescence-programmeeolivier
 
Objets-connectes
Objets-connectesObjets-connectes
Objets-connectesolivier
 
FakeNews
FakeNewsFakeNews
FakeNewsolivier
 
Ertzscheid Ehess
Ertzscheid EhessErtzscheid Ehess
Ertzscheid Ehessolivier
 
Index independant du web ertzscheid
Index independant du web ertzscheidIndex independant du web ertzscheid
Index independant du web ertzscheidolivier
 

Plus de olivier (20)

IA bien qui IA le dernier. Les effets sociétaux des IA génératives.
IA bien qui IA le dernier. Les effets sociétaux des IA génératives.IA bien qui IA le dernier. Les effets sociétaux des IA génératives.
IA bien qui IA le dernier. Les effets sociétaux des IA génératives.
 
programme-iut-collectif.pdf
programme-iut-collectif.pdfprogramme-iut-collectif.pdf
programme-iut-collectif.pdf
 
libre-educatif-olivier-ertzscheid.pptx
libre-educatif-olivier-ertzscheid.pptxlibre-educatif-olivier-ertzscheid.pptx
libre-educatif-olivier-ertzscheid.pptx
 
Bruire-2
Bruire-2Bruire-2
Bruire-2
 
communiquer-reseaux-sociaux.pptx
communiquer-reseaux-sociaux.pptxcommuniquer-reseaux-sociaux.pptx
communiquer-reseaux-sociaux.pptx
 
Le web a la carte
Le web a la carteLe web a la carte
Le web a la carte
 
education-reseaux-sociaux
education-reseaux-sociauxeducation-reseaux-sociaux
education-reseaux-sociaux
 
Revue Bruire
Revue BruireRevue Bruire
Revue Bruire
 
Fenetre sur-cours
Fenetre sur-coursFenetre sur-cours
Fenetre sur-cours
 
Le Monde selon Zuckerberg selon ses lecteur.trices
Le Monde selon Zuckerberg selon ses lecteur.tricesLe Monde selon Zuckerberg selon ses lecteur.trices
Le Monde selon Zuckerberg selon ses lecteur.trices
 
Google Books Milestones
Google Books MilestonesGoogle Books Milestones
Google Books Milestones
 
Monde selon Zuckerberg
Monde selon ZuckerbergMonde selon Zuckerberg
Monde selon Zuckerberg
 
Podcast cult-num-1-2-3
Podcast cult-num-1-2-3Podcast cult-num-1-2-3
Podcast cult-num-1-2-3
 
Zad et cyberespace
Zad et cyberespaceZad et cyberespace
Zad et cyberespace
 
Communication-reseaux-sociaux
Communication-reseaux-sociauxCommunication-reseaux-sociaux
Communication-reseaux-sociaux
 
Obsolescence-programmee
Obsolescence-programmeeObsolescence-programmee
Obsolescence-programmee
 
Objets-connectes
Objets-connectesObjets-connectes
Objets-connectes
 
FakeNews
FakeNewsFakeNews
FakeNews
 
Ertzscheid Ehess
Ertzscheid EhessErtzscheid Ehess
Ertzscheid Ehess
 
Index independant du web ertzscheid
Index independant du web ertzscheidIndex independant du web ertzscheid
Index independant du web ertzscheid
 

CGT-digital-week.pptx

  • 1. Données personnelles, enjeux et pouvoirs 1 Olivier Ertzscheid. Enseignant-chercheur. Nantes Université. Septembre 2022 www.affordance.info
  • 2. Une (toute petite) histoire (très subjective) des données. [Et quelques réflexions pour aller dans le sens d’un intérêt commun] 2
  • 3. Before Data. • Il n’y avait que des bits. • Bruce Schneier : « l’histoire d’internet est celle d'un accident fortuit résultant d'un désintérêt commercial initial, d'une négligence gouvernementale et militaire et de l'inclinaison des ingénieurs à construire des systèmes ouverts simples et faciles. » • Années 72 : projet SAFARI (interconnexion) • Années 2000 : le temps des cerises des données. • 1997 la Communauté européenne s'inquiète des risques de l'hyperconnectivité • « recommandation 6c » sur la société de l’information • être attentif et étudier « les conséquences d’une connexion permanente, le besoin de se déconnecter parfois et le droit de restreindre l’accès à certains moments » tout comme « la restriction et la négociation des intrusions ». • 20 ans plus tard (2017) : droit à la déconnexion introduit dans la loi française. • Ce qui compte c’est le temps passé « devant » l’écran et pas ce qui se passe « derrière » ou « dans » les écrans. • De l’interconnexion au droit à la déconnexion. 3
  • 4. Années circa 2010 . Data Deluge. • 2010 Eric Schmidt (CEO Google) : davantage de données sont générées aujourd’hui toutes les 48h qu’entre l’aube de l’humanité et l’année 2003. • DATA MINING • (Uber en 2009) : Le travail des données. • Digital Labor. Tâcheronnage. Travail à la tâche. • Les données et les algos ne sont plus à notre service via des plateformes mais les plateformes nous mettent (mettent les travailleurs) au service des algos pour traiter des données. • 1 fracture : • Mouvements Open Data VS patrimonialisation des données (droit de vendre ses données comme on vendrait un rein) • Application « Tadata » (https://affordance.framasoft.org/2020/10/tadata-ou-la- prostitution-comme-business-model/). • Cible public jeunes, peu éduqués, précaires, étudiant.e.s … • Des grands scandales • Lanceur d’alerte (Snowden NSA 2013) : les états nous écoutent. • Cambridge Analytica (2015) : les plateformes nous écoutent au service de partis et peuvent « orienter » nos votes. 4
  • 5. Années circa 2020 : DataSets [Jeux de données] • Mouvements de conscientisation, d’émancipation • https://onestla.tech/page/a-propos/ • Question des jeux de données (datasets) : • servent à l’entraînement (deep learning, machine learning) de programmes qui remplissent des objectifs (« IA ») • Mais sont aussi truffés de biais (humains et algorithmiques, racistes, sexistes …) et très complexes à auditer. • Ce ne sont plus les algos qui sont stratégiques / secrets mais les jeux de données. • Ethique automatisation : algos ET données devraient être "transparents à l'inspection, prévisibles pour ceux qu’ils gouvernent, et robustes contre toute manipulation" (Bostrom et Yudowski dans "The Ethics of Artificial Intelligence"). 5
  • 6. 6
  • 7. Contextualiser [et politiser] la question des données • Données et / ou obtenu.e.s • [Bruno Latour] toute donnée est le produit d’un processus qui voit des acteurs la mettre en forme en fonction de leurs expériences, en fonction des usages et des usagers qu’ils imaginent aussi. • Croire que les données sont intrinsèquement quantitatives — évidentes, neutres sur le plan des valeurs et indépendantes de l’observateur — exclut la possibilité de les concevoir comme qualitatives, co- dépendamment constituées. [Johanna Drucker] 7
  • 8. La donnée qui voulait être plus grosse que le monde en capacité de la traiter • Big Data : How Big is Too Big ? • « La tendance des données d'entraînement ingérées depuis Internet à encoder des visions du monde hégémoniques, la tendance des LM (modèles de langage) à amplifier les biais et autres problèmes dans les données d'entraînement, et la tendance des chercheurs et d'autres personnes à confondre les gains de performance induits par les LM avec une réelle compréhension du langage naturel – [toutes ces tendances] présentent des risques réels de dommages, lorsque ces technologies sont déployées. • (…) Nous constatons que le mélange de biais humains et de langage apparemment cohérent augmente le potentiel de biais d'automatisation, de mauvaise utilisation délibérée et d'amplification d'une vision hégémonique du monde(…) • Chercheurs proposent une nouvelle éthique autour de la recherche en Big Data • 1. évaluer d'abord les coûts environnementaux et financiers • 2. investir des ressources dans la conservation et la documentation minutieuse des ensembles de données plutôt que d'ingérer tout ce qui se trouve sur le web, • 3. effectuer des exercices de pré-développement pour évaluer comment l'approche prévue s'inscrit dans les objectifs de recherche et de développement et soutient les valeurs des parties prenantes • 4. et encourager les directions de recherche au-delà des modèles linguistiques toujours plus grands. • https://affordance.framasoft.org/2021/04/perroquets-stochastiques-attaque-typographique/ 8
  • 9. Renoncer (ici aussi) à un extractivisme mortifère. Kate Crawford • « Atlas de l’IA » Kate Crawford • « l’IA n’est ni intelligente ni artificielle. Elle n’est qu’une industrie du calcul intensive et extractive qui sert les intérêts dominants. Une technologie de pouvoir qui « à la fois reflète et produit les relations sociales et la compréhension du monde. » • "Les modèles permettant de comprendre et de tenir les systèmes responsables ont longtemps reposé sur des idéaux de transparence… Le fait de pouvoir voir un système est parfois assimilé au fait de pouvoir savoir comment il fonctionne et comment le gouverner. Mais cette tendance a de sérieuses limites. Dans le cas de l’IA, il n’y a pas de boîte noire unique à ouvrir, pas de secret à révéler, mais une multitude de systèmes de pouvoir entrelacés. La transparence totale est donc un objectif impossible à atteindre. Nous parviendrons à mieux comprendre le rôle de l’IA dans le monde en nous intéressant à ses architectures matérielles, à ses environnements contextuels et aux politiques qui la façonnent, et en retraçant la manière dont ils sont reliés. » 9
  • 10. Données et conditions de travail • Données sont des obtenues mais devraient aussi pouvoir être des conditions. • Définition DARES : « Les conditions de travail recouvrent les aspects matériels (contraintes physiques, moyens, conditions sanitaires, etc.), organisationnels (temps de travail, rythme de travail, autonomie et marge de manœuvre, etc.), et psychosociaux (relations avec les clients, la hiérarchie et les collègues, sentiment d'utilité, etc.) » • Aspects matériels sont organisés par les plateformes. • Aspects organisationnels organisés par algos. • Aspects psychosociaux ne sont souvent mesurés qu’au travers de la collecte de données (métriques qui sont autant de coups de trique). • Nos conditions de travail attentionnel. • L’essentiel des données et d’ailleurs recueilli (obtenu) dans le cadre des CGU. • C’est cette conditionnalité qu’il faut inverser dans le sens de l’intérêt commun (et cela passe par la défense des droits et intérêts des particuliers). 10
  • 11. De la semaine de 35h à la semaine de 35 gigas [de données] ? • Temps de travail => temps « donné » fait de données • Vêtement de travail (montres connectées, puces RFID sous- cutanées, balises GPS, smartphones et applications installées) 11
  • 13. Automatisation des inégalités. • Politiquement • Jen Schradie "The Revolution That Wasn't : How Digital Activism Favors Conservatives" (Harvard University Press). • "les classes plus aisées sont plus présentes en ligne que les classes populaires. • Elles disposent de meilleures organisations, plus accoutumées à la bureaucratie. • Enfin, les conservateurs, comme les membres du Tea Party, ont un message plus simple et abordent moins de sujets que les groupes de gauche. Ils ont l’impression que les médias mainstream ne relaient pas assez leur parole, ce qui les incite d’autant plus à se doter de leurs propres instruments de communication. L’idéal de liberté se partage plus facilement sur les réseaux sociaux que celui d’égalité. Au vu du contexte actuel, je pense donc que le discours de droite sera d’autant plus dominant sur les réseaux pendant la pandémie." • Sociologiquement et économiquement • Cathy O'Neil (Weapons of Math Destruction, 2016) • Safiya Umoja Noble (Algorithms Of Oppression, 2018) • Virginia Eubanks (Automating Inequality, 2018) 13