3.débat sur les algorithmes

Le débat
Les algorithmes sont-ils les
nouveaux décideurs ?
http://eduscol.education.fr/philosophie/actualites/cnil-ethique-et-numerique-algorithmes-en
https://www.cnil.fr/fr/ethique-et-numerique-les-algorithmes-en-debat-1

Une situation de recherche
● Temps 1. En groupe, mise en situation de préparer une séquence : Le questionnement
initial
– Que savez-vous ? Vos connaissances, vos échanges et vos recherches
– Identifiez des problèmes. Quelques domaines possibles : Santé, emploi, éducation, justice, média,
culture, défense, démocratie, assurance, consommation, recherche
– Constat d’un manque ? Constat d’un besoin ?
● Temps 2. La recherche : Base de cas et arguments
● Temps 3. Légitimité de cette question
– Pourquoi la CNIL s’empare de ce débat ?
– Pourquoi est-ce le sujet illustratif choisi pour cette formation eu égard à la problématique de l’EMC
que nous avons définie ?
–
● Temps 4. Faisabilité d’une séquence en E.M.C.
https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux-
ethiques-des-algorithmes-et-de

● 5 groupes de 4 enseignants, de disciplines différentes si possible et
d’établissements différents
●
Se mettre en situation de créer une séquence à partir de cette
problématique :
Temps à y consacrer, sujets de recherche, rôles des élèves dans le
groupe, productions attendues, quel média, moyens réflexifs à mettre en
œuvre, pré-requis
●
Vivre l’enquête : se mettre en situation d’élève et constater un manque.
●
Le rôle du formateur : aiguiller, donner des pistes, donner des apports,
répondre aux questions sur cette notion
● Que savez-vous sur cette question ?
● Quels sont vos besoins d’information ? Que vous manque-t-il ?
Le premier travail

Retour
– Que savez-vous ? Vos connaissances, vos échanges et vos
recherches
– Identifiez des problèmes. Quelques domaines possibles :
Santé, emploi, éducation, justice, média, culture, défense,
démocratie, assurance, consommation, recherche
– Constat d’un manque ? Constat d’un besoin ?
– Base de cas et arguments
– Pourquoi ce débat aujourd’hui ?
– Définition et chaîne de fabrication
Une industrie lourde

Pourquoi cette question
maintenant ?
● Pourquoi la CNIL s’empare de ce sujet
maintenant ?
● Pourquoi ce choix de formation ?

Pourquoi la CNIL s’empare de ce
sujet maintenant ?
● Les images : tsunami, déferlement, big data...
– s’applique à tous les aspects de la vie économique et
sociale
– bouscule tous les partages habituels entre privé et public,
entre intime et relationnel, entre secret et révélation, entre
consentement passif et consentement explicite, entre
usage et confiance,
– fonde son expansion sur la nature intrinsèquement
relationnelle des données, qui décloisonne et fait
communiquer toutes les dimensions et tous les domaines
d’activité générateurs d’informations *
* http://books.openedition.org/cdf/4990

●
L’écosystème des données
– Mettre en données (objet) l’environnement et le corps et le corps dans l’environnement
– Big data, le principe des 4 V : volume, variété, vélocité, véracité
– Open data : rendre visible et mettre à disposition pour créer de la valeur et améliorer la société
https://www.symbaloo.com/mix/opendata
– Mettre en relation les données et faire émerger des corrélations *
– Définir des Paterns (modèles) exploitables
– Automatiser, industrialiser, commercialiser des services – créer de la valeur
– Analyser statistiquement les actions des usagers et en déduire des intentions **
– Automatiser des fonctions intellectuelles humaines (intelligences?)
– Déterminismes algorithmiques, transformation des comportements et négociation des usages***
– Une nouvelle économie autour des données, de l’usage contre la propriété, de l’automatisation et
l’intermédiation
* http://www.tylervigen.com/spurious-correlations
* http://books.openedition.org/cdf/4990
** http://affordance.typepad.com//mon_weblog/2017/02/vie-en-biais.html
sujet maintenant ?

● Le marché des données
– Un public captif à satisfaire (fournir un service désirable) et
des données comme objet de valorisation
– Les interactions et l’asymétrie d’information
– Profiler et personnaliser * – Prédire et persuader – contrôler
– Travail bénévole à but lucratif – la propriété des données
– Au service des plateformes et non de l’usager /
consommateur / citoyen / professionnel **
* http://internetactu.blog.lemonde.fr/2017/11/11/la-personnalisation-un-mythe
** http://affordance.typepad.com//mon_weblog/2016/11/un-algorithme-est-un-editorialiste-comme-les-autres.html
sujet maintenant ?

sujet maintenant ?
● Un débat public en construction autour d’un acteur incontournable (algorithme) présent
dans tous les espaces sociaux
– Un besoin de connaissance et de définition du périmètre (cartographie) pour recommander une
politique publique
– La boite noire des algorithmes (le code ; le citoyen et le service public ; le consommateur et le
service au public ; la propriété des données ; retro-ingenierie ; machine learning...)
– Des exemples ± médiatisés (APB, élections américaines…)… … et des affaires régulières qui
défraient ± l’actualité (apple et l’obsolescence programmée, la faille de sécurité intel...)
– Aide à la décision de la puissance publique et question économique de la confiance (LCEN-2004)
– Un environnement fictionnel favorable (séries, dystopies…)
– Maturité du public (majorité numérique) malgré une faible appétence (réelle ou supposée ?) pour la
science et la technique
– Une question éducative : Pour une didactique des algorithmes. Entrée par les maths et la
technique dans les programmes aujourd’hui ?

sujet maintenant ?
● Des raisons plus troubles (difficiles à cernées OU/ET inavouables)
d’éducation des publics
– Reflux de l’enchantement (désenchantement)
– Dialogue entre la tradition et la modernité
● « c’était mieux avant » / « cours le vieux monde est derrière toi »
● ou « ce qui est intrinsèquement nouveau et ce qui perdure »
– Dialogue entre une vision élitiste et une vision « populaire » - « donner à manger
aux cochons » et « on nous cache tout, on nous dit rien »
– Dialogue fondateur de l’environnement socio-technique entre monde ouvert
(libre) et monde fermé (propriétaire)
– Un effet de mode à mettre à côté des big data et de l’IA…
● Une réponse : Une question éthique de loyauté et de vigilance

Pourquoi ce choix de formation ?
● Un constat
– Trois acteurs en interaction dans une environnement (modèle de
l’orchestre)
– Question des usages ou régulation des comportements
● Un parti-pris : appréhender un acteur essentiel et discret dans les
programmes, peu questionné par le filtre de l’EMC
● Une question éducative et sociale sur le temps long
– Comment médiatiser/vulgariser/didactiser un phénomène essentiel pour
comprendre l’évolution de nos sociétés ?
– Comment acquérir une connaissance juste du phénomène ?
● Dépasser les effets de mode et les effets de peurs (l’opinion)
● Identifier ce qui perdure, se transforme ou ce qui est radicalement nouveau ?

Principe de loyauté
● L’intérêt des usagers doit primer l’intérêt des plateformes
(conseil d’État – 2014) et de manière générale tout type
d’intérêt contraire
● Intérêt des individus, des groupes (constitués ou calculés), de
la société, voire de l’espèce
● C’est une obligation faite aux plateformes et à tous les
créateurs d’algorithmes
● Pertinence des critères de classement - Des critères de
classement documentés
● La question du consentement et et celle de la perte de contrôle
(machine learning)
https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf#page=50

Principe de vigilance
● Questionnement régulier, méthodique et délibératif
● Mesurer en continu des objets instables et changeants qui instrumentent notre
société
– Prévoir les évolutions par les
concepteurs
– Obligation de vigilance des usagers (contre la
magie) – le doute méthodique
●
Favoriser une vision globale et responsabilisante
contre une naturalisation des questions techniques
– De la chaîne des acteurs (concepteurs, entreprises, citoyens)
●
Porteurs de valeurs éthiques et de croyances différentes
●
La question des biais cognitifs
●
Lutter contre l’indifférence des usagers
– Des systèmes d’algorithmes
● Introduire de l’éthique à tous les niveaux
Conseil du numérique : comment ouvrir les
boites noires, appel à idées ?
https://plateformes.cnnumerique.fr/project/defi-1
Conseil du numérique : comment se faire
entendre des plateformes ?
https://plateformes.cnnumerique.fr/project/defi-2
https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf#page=50

Préparer les arguments du débat
● La CNIL
https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux-ethiques-des-algorithmes-
Des études de cas
https://www.cnil.fr/sites/default/files/atoms/files/cr_concertation_citoyenne_algorithmes.pdf
Comment permettre à l’homme de garder la main
https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf
● Le conseil du numérique
https://cnnumerique.fr/
Consultation sur la confiance à l’ère des plateformes numériques
https://contribuez.cnnumerique.fr/loyaute/fr
Recueil collaboratif d’initiatives en faveur de la confiance
https://contribuez.cnnumerique.fr/loyaute/fr/initiatives
● L’INRIA
Transalgo
https://www.inria.fr/actualite/actualites-inria/transalgo

Les recommandations de la CNIL
● Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique »
(concepteurs, professionnels, citoyens) : l’alphabétisation au numérique doit
permettre à chaque humain de comprendre les ressorts de la machine ;
● Rendre les systèmes algorithmiques compréhensibles en renforçant les droits
existants et en organisant la médiation avec les utilisateurs ;
● Travailler le design des systèmes algorithmiques au service de la liberté
humaine, pour contrer l’effet « boîtes noires » ;
● Constituer une plateforme nationale d’audit des algorithmes ;
● Encourager la recherche sur l’IA éthique et lancer une grande cause nationale
participative autour d’un projet de recherche d’intérêt général ;
● Renforcer la fonction éthique au sein des entreprises (par exemple,
l’élaboration de comités d’éthique, la diffusion de bonnes pratiques sectorielles
ou la révision de chartes de déontologie peuvent être envisagées).
Synthèse de la consultation de la CNIL
Rapport complet

6 problématiques
● L’autonomie humaine au défi de l’autonomie des machines
● Biais, discrimination et exclusion
● Fragmentation algorithmique : la personnalisation contre les
logiques collectives
● Entre limitation des mégafichiers et développement de l’intelligence
artificielle : un équilibre à réinventer
● Qualité, quantité, pertinence : l’enjeu des données fournies à l’IA
● L’identité humaine au défi de l’intelligence artificielle

Sitographie
https://www.numerama.com/
www.leblogducommunicant2-0.com/
https://www.blogdumoderateur.com/
http://www.internetactu.net/
http://www.slate.fr/
https://theconversation.com/fr
http://eduscol.education.fr/numerique/tout-le-numerique/veille-education-numerique/fil
https://framasoft.org/
https://www.cnil.fr/
https://linc.cnil.fr/
http://www.inaglobal.fr/
http://www.iscc.cnrs.fr/
https://scinfolex.com/
http://affordance.typepad.com//mon_weblog/
https://usbeketrica.com/
https://www.mesdatasetmoi-observatoire.fr/

3.débat sur les algorithmes

Recommandé

Recommandé

Contenu connexe

Similaire à 3.débat sur les algorithmes

Similaire à 3.débat sur les algorithmes (20)

Plus de richard peirano

Plus de richard peirano (20)

Dernier

Dernier (20)

3.débat sur les algorithmes