SlideShare une entreprise Scribd logo
LIVRE BLANC 2023 - NETINO BY WEBHELP
MODÉRATION
HUMAINS & INTELLIGENCE ARTIFICIELLE
LES VRAIES
QUESTIONS
À SE POSER
SOMMAIRE
I N T R O D U C T I O N
0 4
D A N S Q U E L L E S C I R C O N S T A N C E S P E U T - O N
C O N S I D É R E R Q U ' U N C O M M E N T A I R E
D O I T Ê T R E R E J E T É ?
0 7
Ê T R E ( T R È S ) R É A C T I F E S T - C E
I M P O R T A N T P O U R L A M O D É R A T I O N ?
1 2
F A U T - I L E X T E R N A L I S E R L A
M O D É R A T I O N D E S E S C O N T E N U S ?
1 5
1 9
2 1
0 3
Q U ' E S T C E Q U ' U N D I S P O S I T I F D E
M O D E R A T I O N R O B U S T E E N 2 0 2 3 ?
W E L L - B E I N G D E S M O D E R A T E U R S P L U S
Q U ' U N " G O O D T O H A V E " [ I N T E R V I E W ]
2 5
C O N C L U S I O N
E T U D E N E T I N O B Y W E B H E L P
0 5
Q U E D I T L A L O I ?
0 9
N O T R E M O D É R A T I O N C H E Z W I Z Z
1 6
Un robot n'est pas tout à fait
une machine. Un robot est une
machine fabriquée pour imiter
de son mieux l'être humain
Isaac Asimov,
Ecrivain et professeur
Dans la mesure
où elle a besoin d'humain,
l'IA n'est ni artificielle
ni intelligente"
Kate Crawford,
Microsoft Research
INTRODUCTION
Dans le secteur de la modération, un changement
de paradigme n'est pas à venir... il a déjà eu lieu !
La découverte par le grand public fin 2022 de
l'IA générative, de ChatGPT à Midjourney, a
fait ressurgir dans les esprits les
fantasmagories dystopiques jusque là
cantonnées aux oeuvres de Science-Fiction les
plus sombres.
Y sommes-nous finalement parvenus, à cet
humain surclassé, ringardisé et, en fin de
compte, bientôt remplacé ? La matière grise
a-t-elle été finalement détrônée par les
écrans noirs ?
Les observateurs plus tempérés prophétisent
plutôt une hybridation progressive des
professions du digital, dans une logique
d'humain augmenté où la machine se borne à
faciliter plutôt qu'à se substituer.
Ce qui aurait du sens, si l'on considère
l'exemple du secteur de la modération où le
modérateur de chair et d'os, bien que
désormais largement suppléé par les
algorithmes, n'a en rien perdu de sa valeur
ajoutée. Au contraire !
N'en reste pas moins que si la modération est
de plus en plus (légitimement) considérée par
les marques comme une brique essentielle de
tout projet communautaire, les modalités de
déploiement et les champs d'action d'un
dispositif hybride IA/humains demeurent
flous pour beaucoup. Nous espérons que le
présent livre blanc aidera à répondre aux
questions les plus récurrentes !
0 4
ACTUALITÉS DIVERTISSEMENTS SPORTS PETITES ANNONCES
GAMING RENCONTRES VOYAGES FINANCES
Dans le cadre de ce livre blanc, afin de pouvoir mettre en perspective certaines
réflexions, Netino by Webhelp a réalisé une étude sur un échantillon de contenus
postés entre avril 2022 et avril 2023, sur une sélection de secteurs représentatifs de
l'éco-système participatif du web 2.0 francophone.
0 5
Soit
188 566 955
contenus textes et iconographiques analysés
pour le besoin de cette étude
SECTEURS FAISANT PARTIE DE L'ECHANTILLON
112 050 831 contenus
ont été traités automatiquement,
sans intervention humaine
dont
25 025 561
contenus rejetés
11 974 278
contributeurs ayant posté
au moins 1 contenu
13,3 %
Insultes et vulgarité excessive
Attaques personnelles entre
internautes
Spams et Scams
Discrimination
Diffamation
Apologie ou appel à la violence
QUELQUES MOTIFS
DE REJET
13 852 647
2 246 666
1 421 603
1 100 993
645 458
456 690
0 6
Chiffres-clés
DE CETTE ÉTUDE
Soit plus que la population
de toute la Belgique !
soit une moyenne de
15.7
contenus sur 1 an
des contenus rejetés présentaient
une toxicité très haute ou haute
61.5%
LA LÉGALITÉ
1.
2. LA TOXICITÉ
Dans le domaine de la modération, l’arbitraire se doit d’être proscrit.
La prise de décision de modération autour d’un contenu peut suivre un arbre décisionnel
s’articulant autour de trois critères distincts. Ceux-ci ne rentrent pas en opposition les uns
avec les autres, mais cohabitent dans l’éco-système du contrat social participatif.
#QUESTION 1
DANS QUELLES CIRCONSTANCES
PEUT-ON CONSIDÉRER QU'UN
COMMENTAIRE DOIT ÊTRE REJETÉ ?
Le contenu est-il une infraction grave, manifeste et objective de la législation en vigueur ?
Le non-filtrage de contenus illégaux met en danger la communauté d’utilisateurs,
dégrade significativement l’image de la marque auprès du public et, conséquence qui
n'est pas la moindre, fait encourir des risques juridiques substantiels pour l’éditeur de la
plateforme ou du service.
Entrent dans ce cadre les concepts juridiques tels que : la diffamation, la discrimination,
les injures publiques, les appels à la violence voire au meurtre, etc.
0 7
Le contenu est-il de nature à dégrader l’ambiance de la communauté ou à gêner la bonne
tenue des participations ?
Moins susceptibles d’engendrer des conséquences judiciaires que les contenus illégaux, les
publications toxiques se révèlent malgré tout insidieusement dommageables pour la
communauté, son ambiance, son climat agréable et sécuritaire.
Peuvent rentrer dans cette case : le dénigrement entre internautes, les moqueries sur le
physique, l’humour noir sur des personnes décédées, mais aussi les spams promotionnels
et tentatives d’arnaques etc.
3. LA CONFORMITÉ AUX RÈGLES DE COMMUNAUTÉ
O U I
1
2
3
N O N
O U I
N O N
O U I
N O N
Le contenu enfreint-il les règles personnalisées propres à l’espace
communautaire ?
Son thème,
Ses attentes éditoriales,
Sa cible d’audience.
Chaque communauté peut avoir ses règles indexées sur :
1.
2.
3.
Ainsi, ce qui est peut être considéré comme indésirable sur une plateforme ne
le sera pas sur une autre.
Publier une photo à caractère érotique peut s’avérer problématique sur un
espace communautaire à destination des adolescents, mais peut être
considéré comme acceptable dans le cadre d’une application de dating sexy.
En fonction de la spécificité de la plateforme, il est donc nécessaire d’avoir des
règles communautaires personnalisées et ne rentrant pas en contradiction
avec le bon usage du service.
0 8
LÉGALITÉ = OBLIGATOIRE
TOXICITÉ = FORTEMENT RECOMMANDÉ
RÈGLES INTERNES = PERSONNALISABLES
Le contenu est-il illégal ?
Est-il toxique ?
Est-il en infraction aux règles
internes de la communauté ?
REFUS
REFUS
REFUS
CONTENU
ACCEPTABLE
QUE DIT LA LOI ?
Les législations sur la modération de contenus telles que la Loi pour la Confiance dans
l'Economie Numérique (LCEN) et le Digital Services Act (DSA) peuvent varier selon les
pays, mais elles ont toutes pour objectif commun de protéger les droits fondamentaux
des individus, tels que la liberté d'expression, la vie privée et la sécurité.
01 Les plateformes en ligne devront proposer aux internautes un outil leur permettant de
signaler facilement les contenus illicites (une fois le contenu signalé, elles devront
retirer ou bloquer l'accès au contenu illégal)
02 Les market places devront mieux tracer les vendeurs qui proposent des
produits/services sur leur plateforme (recueil d'informations précises avant
l'autorisation de vente)
03 Les plateformes devront prévoir un système de traitement des réclamations pour les
utilisateurs dont le compte a été suspendu ou résilié pour contester cette décision
04 Les très grandes plateformes (+45M d'utilisateurs en EU) et très grands moteurs de
recherche auront l'obligation de proposer un système de recommandation de contenus
non-fondé sur le profilage et expliciter leurs algoritmes
05 Les plateformes en ligne sont tenues de retirer, dans les plus brefs délais, les contenus
clairement illicites signalés par leurs utilisateurs ou par les autorités (contenus racistes,
sexistes, pédopornographies, etc)
06 Les plateformes doivent conserver les données permettant d'identifier les auteurs de
contenus illicites pendant un an
07 Elles doivent collaborer avec les autorités judiciaires et administratives en charge de la
lutte contre les contenus illicites
08 Les plateformes peuvent être tenues responsables pour tout contenu illicite hébergé
sans avoir été rejeté après son signalement
LA CHARTE DE MODÉRATION, GARANTE
DE L’HOMOGÉNÉITÉ DES VERDICTS
Dès lors que le cadre est posé, comment garantir la précision et la régularité des verdicts
? Comment s’assurer qu’une Intelligence Artificielle rendra une décision analogue à celle
émise par un modérateur humain ? Comment s’assurer d’une homogénéité des verdicts
dans une activité aussi éminemment subjective et soumise à l’interprétation individuelle
que la modération ?
Ces questions sont loin d’être subalternes puisqu’une incohérence des verdicts émis par la
modération aura tôt fait de frustrer, puis agacer et, enfin, inciter l’internaute à arrêter
d’utiliser le service.
Avant même d’être un document pédagogique à destination de la communauté, la
Charte de modération se doit d’être un playbook formalisé, exhaustif (bien davantage
que la version raccourcie qui sera proposée aux internautes) et enrichi de cas pratiques, à
l’usage des modérateurs.
1 0
38
MEDIAS
79
DATING
120
SITES D'ANNONCES
LONGUEUR MOYENNE D'UNE CHARTE DE MODERATION DANS
LE SECTEUR ...
PAGES PAGES PAGES
UNE CHARTE
NON, DES CHARTES
1 1
Réussir à faire lire les Conditions Générales
d’Utilisation à sa communauté demeure un
challenge. Une étude menée par l’Internet
Society France révélait, de façon assez peu
surprenante, que 7 internautes sur 10 ne
lisent jamais ou rarement les CGU, sur un
panel de 1004 personnes interrogées.
Trop longues, trop techniques, trop
alambiquées… Les doléances envers ces
règles de modération sont multiples et pas
foncièrement illégitimes.
Les bonnes pratiques commanderaient
plutôt de suivre les trois axes suivants :
| Visibilité
Les CGU relatives à la modération se
doivent d’être accessibles à un
emplacement proche des modules de
participation. Et pas dans un obscur recoin
poussiéreux du site.
| Transparence
La tentation de définir des règles trop
généralistes et donc trop floues, peut se
révéler pratique pour permettre le rejet de
contributions incommodantes pour
l’éditeur. Mais peut provoquer de
l'incompréhension face à un rejet.
| Concision
Un bullet point par thème et une phrase
pour l’expliciter de façon aussi pédagogique
et universelle que possible. Pas plus, pas
moins.
M U T E
1 2
QUID DE LA PÉDAGOGIE ?
Un des principes de la pédagogie auprès
d'une communauté est que l’apprentissage
passe par la répétition.
Supprimer le compte d’un utilisateur d’une
plateforme sociale est souvent une réponse
tardive à un comportement grave,
conséquence d’une dérive plus ou moins
longue. Qui plus est, le bannissement
définitif d’un compte n’a généralement pour
effet que d’inciter l’internaute à se re-créer
un nouvel alias dans la foulée.
A l’inverse, les avertissements et micro-
sanctions peuvent avoir des effets vertueux
si et seulement si ceux-ci sont réactifs et
systématisés dès les premiers dérapages.
Leur application ponctuelle est, elle aussi,
dénuée d’effets positifs. Ce ne sont dans le
fond que l’extension de pratiques assez
répandues sur les espaces de type Chat,
lorsque ceux-ci sont modérés correctement.
#QUESTION 2
ÊTRE (TRÈS) RÉACTIF EST-CE
IMPORTANT POUR LA MODÉRATION ?
La modération en ligne est un travail qui consiste à maintenir un environnement sûr,
accueillant et approprié pour tous les utilisateurs. Les modérateurs sont chargés de
filtrer les commentaires, de supprimer les publications inappropriées et d'empêcher les
utilisateurs de violer les règles de la communauté. Dans ce contexte, la réactivité est
l'une des compétences les plus importantes que doit avoir un modérateur.
B A N N I S S E M E N T
A V E R T I S S E M E N T
D O W N R A N K I N G
Sélectionnez votre
sanction
Traiter rapidement les contenus toxiques permet de limiter les dommages. Les
comportements inappropriés en ligne, tels que la haine, le harcèlement, les insultes et
les discours discriminatoires, peuvent se propager rapidement. Si la modération
n'intervient pas rapidement pour supprimer ces contenus et sanctionner les auteurs,
cela peut engendrer un phénomène d'escalade. En outre, les comportements
inappropriés peuvent causer des dommages significatifs aux personnes visées, qu'il
s'agisse de préjudice émotionnel, de stress, d'anxiété ou de dépression. En intervenant
rapidement, un modérateur peut aider à limiter ces dommages et à maintenir un
environnement sûr et accueillant.
Les modérateurs doivent être en mesure de reconnaître les signes avant-coureurs d'un
conflit et d'intervenir rapidement pour le désamorcer. Les conflits entre les utilisateurs
sont fréquents et peuvent causer beaucoup de stress et de confusion dans les espaces
de communication en ligne. Cela peut inclure la suppression de commentaires
provocateurs, la clarification des règles de la communauté ou la médiation entre les
parties. Les actions fines de community management peuvent donc faire partie de la
valeur ajoutée de la modération.
Si les modérateurs ne sont pas réactifs ou ne prennent pas de mesures pour
désamorcer une crise potentielle, les utilisateurs peuvent se demander si la
communauté est correctement gérée.
En intervenant rapidement et efficacement, un modérateur peut maintenir la
crédibilité de la communauté et renforcer la confiance des utilisateurs. Avoir un
espace participatif jonché de propos haineux, ou un site de rencontres perclus de faux
profils aux intentions plus que douteuses n'est pas "juste" regrettable pour la
communauté, elle est dommageable à court et moyen terme pour l'image de la
plateforme qui héberge ces contenus et, in fine, sur ses revenus.
IMPORTANT, NON.
ESSENTIEL, OUI.
1 3
Face à une contribution haineuse d'un autre internaute
32% DES UTILISATEURS FERMENT IMMÉDIATEMENT LA PAGE
* sondage Opinionway ** étude Businesswire
70% DES RÉPONDANTS CONSIDÈRENT QU'IL RELÈVE DU DEVOIR DE LA MARQUE
de protéger sa communauté de l'exposition aux contenus toxiques
*
**
Lorsque l’on modère un espace, quel qu’il soit, il est
important d’avoir à l’esprit que le volume moyen de
contenus à traiter est un critère déterminant.
Recevoir en moyenne une dizaine de contenus par
jour peut demeurer gérable quoique contraignant sur
le long terme. Mais en recevoir plusieurs centaines
quotidiennement sur une amplitude 24/7 requière
une personne dédiée à la tâche.
Sans une équipe complète et dédiée appuyée par des
outils performants, la charte de modération que vous
aurez déterminée ne servira à rien ! Deux solutions
s’offrent donc à vous : développer votre équipe en
interne ou bien choisir les services d’un prestataire
qui saura vous accompagner.
Être très réactif permet de conserver une bonne
image de marque, d’éviter les Bad Buzz, mais aussi de
développer le taux de satisfaction de vos clients. Les
internautes sont en effet très « à cheval » sur le
temps que l’on accorde à leurs besoins. Il est
important de toujours donner une réponse rapide et
adaptée aux questions, critiques et remarques
formulées en commentaires. Sachez cependant
prioriser les messages, de manière à traiter les plus
urgents en premier !
Vos espaces publics sur les médias sociaux sont les
vitrines de votre marque sur Internet. Page
Facebook, Forum… vous avez certes l’impression que
ces plateformes sont les vôtres, cependant elles
peuvent vite vous échapper ! C’est seulement avec le
soutien d’une équipe de modérateurs formés et
efficaces à tout moment, que vous serez capables de
réaliser une modération sereine, qui saura protéger
votre marque, mais aussi vos internautes.
COMMENT ASSURER UNE
BONNE RÉACTIVITÉ ?
1 4
PUBLICATION D'UN
CONTENU
RÉCEPTION SUR
BACK OFFICE
ANALYSE ET VERDICT
PAR L'IA
DÉPUBLICATION
IMMÉDIATE
MAINTIEN DU
CONTENU EN LIGNE
ANALYSE PAR UN
MODÉRATEUR HUMAIN
1 5
QU'EST CE QU'UN DISPOSITIF DE
MODERATION ROBUSTE EN 2023 ?
Répondre à ses obligations légales en supprimant de la publication sous 24h un appel
au meurtre caractérisé, c'est bien. Mais le faire sous quelques minutes, voire sous
quelques secondes, serait mieux. La réactivité est l'une des caractéristiques les plus
importantes que doit proposer un service de modération pour assurer la sécurité, la
stabilité et la croissance d'une communauté en ligne.
L’intelligence artificielle est un outil primordial pour garantir une gestion rapide et
efficace des contenus toxiques. A titre indicatif, la moyenne du marché quant à la
suppression de contenus indésirables tend à se situer sous la barre des 2 secondes.
Mais tout dispositif de modération automatisé n'a de sens que s'il est complété par
une équipe humaine qui se doit d'intervenir dans tout ce qui est identifié comme
"zone grise" par la machine.
#QUESTION 3
Contenu rejeté Contenu accepté Contenu avec incertitude
L'ensemble des signalements émis par des
utilisateurs sur la plateforme est traité par notre
équipe de modérateurs, qui veille sans relâche
chaque jour de la semaine sur l'application Wizz .
Formés avec rigueur, nos modérateurs sont
profondément attentifs à la mise en application de
directives très granulaires, afin de cibler au mieux
les utilisateurs problématiques sur la plateforme.
Ces règles ne sont d'ailleurs pas figées et évoluent
constamment pour s'adapter au mieux aux
utilisateurs.
NICOLAS SUDARSKIS
Customer success manager,
Netino by Webhelp
LA MODÉRATION NETINO BY WEBHELP
CHEZ WIZZ
Nous collectons et traitons 100% des
signalements déposés par les utilisateurs de
l’app Wizz en provenance de 20 pays.
Grâce à sa plateforme Moderatus, Webhelp a
mis en place une interface personnalisée et
unique pour permettre à notre équipe de
modérateurs de consulter et traiter de façon
optimale les importants volumes d’UGC à forte
criticité.
Notre équipe de modérateurs bénéficie d'un
soutien continu de la part de l'équipe Wizz, avec
des comités de calibrage réguliers visant à
affiner la précision de nos interventions.
Ainsi, l'application Wizz collabore de manière
rapprochée avec Webhelp, illustrant leur
engagement sans faille pour la sécurité et le
bien-être de leur communauté, et leur volonté
d'assurer un environnement en ligne sûr et
convivial pour tous leurs utilisateurs
RETOUR SUR EXPERIENCE
1 7
ANALYSE PAR UN
MODÉRATEUR HUMAIN
DOUTE SUR LE CONTEXTE
ET L'IMPACT SUR LA
COMPRÉHENSION DU
CONTENU
PROPOS EMPLOYANT DES
ÉLÉMENTS DE LANGAGE
NON IDENTIFIÉS
MENACE POTENTIELLE
ANALYSE CONTEXTUELLE
EN TENANT COMPTE DE
LA THÉMATIQUE ET
ÉCHANGE PÉRIPHÉRIQUE
ESCALADE À TASK FORCE
IA POUR ENRICHISSEMENT
DU MODÈLE
ANALYSE DÉTAILLÉE
DU CONTEXTE ET
SIGNALEMENT POTENTIEL
À LA PLATEFORME
ET AUX AUTORITÉS
MAIS L'IA DANS LA MODÉRATION,
QU'EST-CE QUE C'EST EXACTEMENT ?
Dans le domaine de la modération, le terme "intelligence artificielle" peut être
quelque peu fourre-tout, mais englobe communément 3 dispositifs distincts d'une
sophistication et d'une précision variables.
En dépit des progrès significatifs effectués ces dernières années, les mécanismes d'IA
seuls ne peuvent à date pas encore assurer une modération 100% fiable et qualitative,
garantissant aux hébergeurs de plateforme une parfaite sérénité.
A raison : outre l'inépuisable imagination pour contourner les règles de la communauté
et ainsi poster des contenus toxiques, ce qui nécessite une constante adaptation des
dispositifs, le modérateur en chair et en os prend toute sa valeur ajoutée dans la
distinction des contenus sibyllins, ironiques, très contextuels, nécessitant une référence
socio-culturelle, etc. De même, lorsqu'un contenu indique une potentielle mise en
danger de la vie des personnes, il est impératif qu'un humain soit présent dans la
boucle afin d'estimer finement la réalité de la menace potentielle et effectuer les
actions conséquentes qui s'imposent (y compris le signalement aux autorités)
L'IA DANS LA MODÉRATION,
PAS ENCORE TOUT À FAIT AUTONOME ?
2. GRAPHES SEMANTIQUES
3. MACHINE LEARNING | DEEP LEARNING
Représentation des relations entre différents
concepts organisés en arborescence, les
graphes permettent une détection affinée par
rapport aux corpus de termes précédemment
évoqués.
1 8
Sur la base d'un protocole d'annotation de data où
des modérateurs humains vont catégoriser des
contenus, un modèle d'IA peut être mis en place.
Afin de garantir la pertinence du modèle, une masse
critique de quelques centaines de milliers de
contenus est souhaitable, idéalement issus du
scope de la plateforme cible afin de garantir un
apprentissage personnalisé. Plus le data set initial
sera riche, plus il sera possible d'obtenir un modèle
d'IA précis. Attention, il sera toutefois indispensable
de conserver dans la boucle des modérateurs
humains qui vérifieront et alimenteront la machine
avec des nouveaux éléments de langage.
PERFORMANCE
FACILITÉ D'EXÉCUTION
PERFORMANCE
FACILITÉ D'EXÉCUTION
CORPUS DE TERMES DÉCLENCHEURS - "TRIGGERS"
1.
Il s'agit d'agrégats de termes et éléments de
phrases admis comme étant indésirables, soit de
façon générale, soit spécifiquement sur la
communauté. De façon plus raffinée, certains
éléments peuvent ne pas déclencher un rejet
systématique mais plutôt un routage pour
vérification par l'équipe humaine. Une analyse data
est généralement préférable pour déterminer
statistiquement les termes au scoring de risque le
plus important et qui sont donc à prioriser
spécifiquement sur l'espace-cible. Ce dispositif
risque toutefois de générer des faux-positifs (des
rejets illégitimes) en nombre.
PERFORMANCE
FACILITÉ D'EXÉCUTION
#EXPERTISE
1 9
#QUESTION 4
FAUT-IL EXTERNALISER
LA MODÉRATION DE SES CONTENUS ?
Le métier de la modération est complexe, car en perpétuelle évolution, aussi bien au
niveau des bonnes pratiques, des outils et des solutions technologiques. C'est pourquoi
il est nécessaire d'être accompagné par une entreprise spécialisée.
Les entreprises doivent veiller à ce que les contenus publiés sur leur site et sur les
réseaux sociaux soient conformes aux normes éthiques, juridiques et sociales. Tout
comme les plateformes doivent s’assurer que chaque utilisateur est en sécurité tout au
long de leur navigation. C'est pourquoi de plus en plus d'entreprises externalisent la
modération de contenu en ligne à des entreprises spécialisées.
Externaliser la modération de contenus en ligne permet aux entreprises de faire
appel à des experts spécialisés dans ce domaine, qui se doivent d'apporter :
| Un accompagnement sur les best practices
Définir des guidelines éditoriales, faire évoluer celles-ci ou repenser la stratégie
participative est une tâche complexe, impactante et nécessitant une évaluation fine
des avantages et inconvénients. Une entreprise externe peut être plus à même de
conseiller la plateforme, par rapport à son expérience sectorielle, mais aussi vis-à-vis
de l'accueil de la communauté quant à ces changements. Un bon partenaire externe
de modération ne doit donc pas être qu'une solution de production : il se doit d'avoir
un rôle de conseil proactif.
| Une conformité vis-à-vis de la loi
L'évolution régulière de la législation par rapport aux obligations des plateformes
met les éditeurs en risque, en cas de manquements. Les changements quant au
devoir de réactivité et de suivi des signalements de contenus litigieux font que le
prestataire de modération se doit d'adapter son dispositif pour rester conforme.
| Une solution technologique
La multiplicité des canaux, les volumes très importants de contributions
d'utilisateurs et l'impératif de déployer des solutions d'automatisation nécessite
l'emploi d'une plateforme unifiée et ergonomique permettant un traitement
homogénéisé et industrialisé. Développer en interne ce type de solution est possible
mais long, coûteux et requiert une expertise qui peut faire défaut tant les tenants et
aboutissants sont nombreux.
#GESTION DU TEMPS
#RÉDUCTION DES RISQUES
#FLEXIBILITÉ & ÉVOLUTIVITÉ
Modérer du contenu peut être très chronophage et nécessite une attention constante.
Les entreprises qui gèrent elles-mêmes la modération de leurs contenus consacrent un
temps considérable à cette tâche, ce qui peut nuire à leur efficacité globale.
Externaliser la modération de contenu vous économiserait des ressources et assurerait
une gestion des contenus optimale, même en dehors de vos heures ouvrables.
On observe en moyenne un
taux de rejet de
12%
sur ces amplitudes
2 0
Se retrouver face à des contenus à modérer à longueur de journée peut nuire à la santé
mentale de la personne qui s’en occupe, que ce soit par le degré de toxicité du contenu
ou juste par l’aspect répétitif et -de prime à bord- peu enrichissant de la mission. En
l’externalisant, les entreprises peuvent réduire leur exposition à ces risques et protéger
leurs employés. Les modérateurs d’entreprises dédiées disposent de processus de
protection, de suivi et d’accompagnement au quotidien ainsi que d'outils les
préservant des contenus les plus perturbants.
Si la marque souhaite tout gérer par elle-même, celle-
ci pourrait rencontrer des difficultés face aux pics de
trafic ou à des changements de dernière minute dans
les normes de modération. Les entreprises
spécialisées dans la modération de contenus en ligne
peuvent offrir une grande flexibilité en termes de
volume de travail et de personnel, afin de s'adapter
rapidement à vos besoins changeants. Cette
évolutivité peut être particulièrement importante
pour les entreprises qui connaissent une croissance
rapide ou qui sont confrontées à des événements
inattendus, tels que des campagnes de
désinformation ou des bad buzz.
29%
des contenus postés sur les réseaux
le sont sur des heures dites non ouvrées
(entre 21h et 8h du matin)
WELL-BEING DES MODERATEURS
PLUS QU'UN "GOOD TO HAVE"
2 1
Il est important que les modérateurs soient
soutenus et encouragés à être très réactifs.
Ils doivent avoir des outils de modération
efficaces à leur disposition, tels que des
filtres automatisés intervenant en amont,
des alertes de comportement inapproprié,
des systèmes de signalements rapides et
des protocoles clairs pour la gestion des
situations critiques. Ils doivent également
bénéficier d'une formation continue et de
l'appui de la communauté et des supérieurs
hiérarchiques pour leur travail difficile.
#INTERVIEW
QUELS SONT LES FACTEURS LES PLUS IMPORTANTS À CONSIDÉRER LORS DE
LA MISE EN PLACE DE POLITIQUES DE BIEN-ÊTRE POUR LES MODÉRATEURS ?
Conscients que nos modérateurs peuvent
être exposés à des contenus perturbants
voir choquants, nous avons toujours
envisagé la modération de contenu
comme une activité à part avec ses défis
spécifiques et non comme une activité
back-office parmi d’autres. La nature de
ce travail peut avoir un impact significatif
sur la santé mentale et émotionnelle des
modérateurs et il est déjà essentiel de le
reconnaitre. Il est important de fournir
aux modérateurs un environnement de
travail sûr et soutenant, où ils peuvent
partager leurs préoccupations et recevoir
un soutien adéquat. Les politiques de
bien-être doivent inclure des canaux de
communication ouverts à tous, des
mécanismes de signalement des
contenus à risque et des procédures
claires pour gérer les situations difficiles.
MARTIN LE BARS
Trust and Safety
Solutions Director, Webhelp
Nos sites ont une liste de standards à
respecter et nous auditons régulièrement
chacun de ceux opérant des activités de
modération de contenu par le biais de la
société de certification SGS. En parallèle
de ces standards globaux nous
encourageons les sites à mettre en place
des initiatives locales pour mieux
répondre aux attentes de nos agents d’un
point de vue socio-culturel de la région.
Nous allons plus loin en organisant des
challenges d’innovation où nous
demandons directement aux
modérateurs de nous proposer des idées
qui visent à améliorer leur quotidien.
32%
de participation globale
Certains signes avant-coureurs peuvent indiquer qu'un modérateur est en difficulté
vis-à-vis des contenus auxquels il est exposé. Ces signes peuvent varier d'une personne
à l'autre.
| CHANGEMENTS ÉMOTIONNELS
Des sautes d'humeur fréquentes, une irritabilité accrue, une tristesse ou une détresse
émotionnelle intense peuvent être des signes révélateurs. Les modérateurs peuvent
également montrer des signes de colère, d'anxiété ou de dépression.
| ISOLEMENT SOCIAL
Si un modérateur commence à se retirer de ses collègues, à éviter les interactions
sociales ou à se sentir isolé, cela peut indiquer qu'il est en difficulté.
| FATIGUE EXCESSIVE
L'exposition régulière à des contenus perturbateurs peut entraîner une fatigue
émotionnelle et mentale. Les modérateurs peuvent se sentir épuisés, avoir des
troubles du sommeil ou manifester une baisse d'énergie globale.
| RÉACTIONS PHYSIQUES
Des symptômes physiques tels que des maux de tête fréquents, problèmes gastro-
intestinaux, douleurs musculaires ou tension peuvent être des signes de détresse liée
au travail de modération.
| DIMINUTION DE LA PRODUCTIVITÉ OU DE LA QUALITÉ DU TRAVAIL
Lorsque des modérateurs ont du mal à se concentrer, à prendre des décisions ou à
maintenir leurs performances, cela peut être un indicateur de leur détresse
émotionnelle.
| ABSENTÉISME
Si un agent commence à être de plus en plus absent, ou de plus en plus fréquemment
en retard, cela peut être le signe d’un rejet du travail de modération de contenu.
2 2
QUELS SONT LES SIGNES AVANT-COUREURS QUI MONTRENT QU'UN
MODÉRATEUR EST EN DIFFICULTÉ FACE À UN CONTENU SENSIBLE ?
2 3
Accès à des programmes d'assistance aux employés sous la forme de Wellness
counsellors et de psychologues 24/7. Ces lignes d’assistance téléphonique sont
volontairement confiés à des prestataires externes pour permettre à nos agents de
se confier dans un environnement neutre.
Formations régulières sur la gestion du stress, la résilience émotionnelle, la
reconnaissance des signes de détresse et les stratégies d'adaptation.
Nous soutenons le bien-être des modérateurs de plusieurs manières. Tout d'abord,
nous mettons en place des politiques et des procédures claires pour gérer les contenus
perturbateurs et offrir un soutien psychologique aux modérateurs. Voici quelques
exemples des ressources mises en place chez Webhelp :
LA PRODUCTIVITÉ N’EST PAS
UN KPI QUE NOUS
REGARDONS DE PRÈS
NOUS PRÉFÉRONS NOUS
CONCENTRER SUR LA QUALITÉ
DE LA MODÉRATION ET SUR
NOTRE CAPACITÉ À GARDER
NOS PEOPLE HEUREUX
QUELLES RESSOURCES ET OUTILS PEUVENT ÊTRE MIS À LA DISPOSITION DES
MODÉRATEURS POUR LES AIDER À MAINTENIR LEUR BIEN-ÊTRE ?
Investissement dans des outils avancés pour
aider les modérateurs à filtrer, classer et gérer
plus efficacement les contenus perturbateurs.
Cela peut réduire la charge émotionnelle
associée au travail de modération.
Mise en place d'un canal de lanceur d’alerte pour
permettre à nos modérateurs de remonter
directement au top management tout
comportement managérial qui pourrait les
mettre en danger.
Mise en place une solution de suivi de la santé mentale de nos agents, People
Analytics. En parallèle, nous avons lié un partenariat avec Welbot pour collecter de
la donnée médicale sur la base du volontariat tout en assurant une barrière
sanitaire entre ces données et Webhelp comme employeur. Cette application
permet à nos agents d’accéder à des parcours personnalisés de bien-être.
Enfin, nous avons rejoins plusieurs associations professionnelles (TSPA – Trust and
Safety Professional Association, Metaverse standard forum, MetaCircle…) pour
partager nos bonnes pratiques et bénéficier de celles des autres acteurs du marché.
Nous avons également souscrit à un abonnement pour chacun de nos modérateurs à
TSPA pour les valoriser et leur montrer qu’ils appartiennent à une communauté de
spécialistes du Trust and Safety, qui dépasse leur site de production ou même
Webhelp. Cette reconnaissance est pour nous un facteur clé de soutien à leur travail.
16 % 76 %
90 %
2 4
RÉSULTAT DU WELLBEING DES MODÉRATEURS CHEZ WEBHELP
Bénéfices
humains
Avantages
commerciaux
Bien-être des
modérateurs
Sens de la
communauté
Modérateurs
compétents et
expérimentés
Fidélisation
élevée des
employés
Environnement de
travail durable
Soins au jour le
jour
Attraction de
talents
Si le travail de nos agents est de protéger les utilisateurs,
notre travail consiste à protéger nos agents
de nos modérateurs
recommandent Webhelp
comme employeur
de taux d'attrition chez
Webhelp contre une moyenne
de 80% dans l'industrie
de nos encadrants sont
issus de promotions
internes en 2022
NOUS PLAÇONS LE BIEN-ÊTRE DE NOS MODÉRATEURS
AU CŒUR DE NOS PRÉOCCUPATIONS
CONCLUSION
2 5
La modération, un métier à part entière où l'Intelligence
Artificielle s'articule autour d'un noyau humain
Volumes de contenus en croissance continue,
renforcement des dispositions légales vers toujours
plus d'obligations pour les éditeurs de plateformes,
communautés d'internautes davantage exigeantes
quant à la sécurité des espaces... La tendance est à la
sécurisation généralisée des espaces contributifs.
Si les préjudices de l'exposition aux contenus toxiques
sont indéniables pour les internautes, ils ne sont pas
moindres pour les marques. Outre les tracas légaux,
celles-ci encourent un risque réel de se voir associées
inconsciemment aux dérives se déroulant sur leurs
espaces contributifs. Avec la déperdition d'audience,
de clientèle et, in fine, de revenus que cela implique.
Pour éviter d'en arriver là, il convient de sortir des
organisations artisanales et dépassées faisant
reposer le poids de la modération exclusivement sur
du personnel non spécialisé (allant du community
manager débordé au stagiaire peu concerné) et sur
quelques filtres automatisés à la finesse
approximative.
Répondre à la double injonction de réactivité
maximale quelque soit l'heure et de finesse d'analyse
ne peut se faire que grâce à un dispositif de
modération professionnalisé combinant le meilleur
des deux mondes : la capacité de traitement
instantané et illimité de l'Intelligence Artificielle, alliée
à l'analyse approfondie du modérateur humain.
Et dans un futur immédiat ?
L'entrée en application en février 2024 du Digital
Services Act et son corollaire d'amendes dissuasives
(jusqu'à 6% du CA mondial de la plateforme en cas de
manquements caractérisés) ne peut que contribuer à
repositionner davantage la modération à sa juste
place : au coeur de la stratégie digitale des marques.
Besoin de conseils pour naviguer dans l'univers captivant de la
modération hybride ? Nous sommes là pour vous !
N'hésitez pas à nous contacter pour échanger et trouver ensemble les
solutions qui répondent à vos besoins spécifiques.
www.netino.fr
adechelle@webhelp.fr
MERCI

Contenu connexe

Similaire à Moderation-2023-Netino-by-Webhelp.pdf

Les clés de l'E-Reputation en 2014 [HUB Report]
Les clés de l'E-Reputation en 2014 [HUB Report]Les clés de l'E-Reputation en 2014 [HUB Report]
Les clés de l'E-Reputation en 2014 [HUB Report]
HUB INSTITUTE
 
Initiation web social ot toulouse 13 juin
Initiation web social ot toulouse 13 juinInitiation web social ot toulouse 13 juin
Initiation web social ot toulouse 13 juinArdesi Midi-Pyrénées
 
Les collectivités territoriales dans le tourbillon du web 2.0
Les collectivités territoriales dans le tourbillon du web 2.0Les collectivités territoriales dans le tourbillon du web 2.0
Les collectivités territoriales dans le tourbillon du web 2.0
Ardesi Midi-Pyrénées
 
Décoder info- intox sur le web enjeux et activités pédagogiques
Décoder info- intox sur le web enjeux et activités pédagogiquesDécoder info- intox sur le web enjeux et activités pédagogiques
Décoder info- intox sur le web enjeux et activités pédagogiques
Nathalie Barbery-Vannier
 
Perspectives - livre blanc - numero 1 - un autre regard sur le digital
Perspectives - livre blanc - numero 1 - un autre regard sur le digitalPerspectives - livre blanc - numero 1 - un autre regard sur le digital
Perspectives - livre blanc - numero 1 - un autre regard sur le digital
Yann Gourvennec
 
Livre blanc information reseaux sociaux et innovation - jean-francois ceci
Livre blanc   information reseaux sociaux et innovation - jean-francois ceciLivre blanc   information reseaux sociaux et innovation - jean-francois ceci
Livre blanc information reseaux sociaux et innovation - jean-francois ceci
Alban Jarry
 
Epn sprimont modules_1-2_aout-decembre_2018
Epn sprimont modules_1-2_aout-decembre_2018Epn sprimont modules_1-2_aout-decembre_2018
Epn sprimont modules_1-2_aout-decembre_2018
Mottard François
 
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
Ludovic Martin
 
20190414 balladoradio sarah_achard
20190414 balladoradio sarah_achard20190414 balladoradio sarah_achard
20190414 balladoradio sarah_achard
Sarah A.
 
SAPIENS 2009 - Module 13 Part2
SAPIENS 2009 - Module 13 Part2SAPIENS 2009 - Module 13 Part2
SAPIENS 2009 - Module 13 Part2
Christophe RUDELLE
 
Eric duguay rep2400
Eric duguay  rep2400Eric duguay  rep2400
Eric duguay rep2400Éric Duguay
 
Viadeo Tour Bordeaux 2009 Intro Reseaux
Viadeo Tour Bordeaux 2009 Intro ReseauxViadeo Tour Bordeaux 2009 Intro Reseaux
Viadeo Tour Bordeaux 2009 Intro Reseaux
echangeurba
 
Publications et formations sur les réseaux sociaux professionnels de janvier ...
Publications et formations sur les réseaux sociaux professionnels de janvier ...Publications et formations sur les réseaux sociaux professionnels de janvier ...
Publications et formations sur les réseaux sociaux professionnels de janvier ...
Alban Jarry
 
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDFLe Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
Xavier CHARLES
 
Livre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et CommunicationLivre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et Communication
GwnalleRouzioux
 
Livre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et CommunicationLivre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et Communication
Quentin MAROT
 
Mediatar Fr
Mediatar FrMediatar Fr
Mediatar Fr
Nicolas Mas
 
Oeinria
OeinriaOeinria
Oeinria
olivier
 
Lexpresse de la Banque Postale - Privacy et Big Data
Lexpresse de la Banque Postale - Privacy et Big DataLexpresse de la Banque Postale - Privacy et Big Data
Lexpresse de la Banque Postale - Privacy et Big Data
Antoine Vigneron
 
20080911 Intro Conference Yves
20080911 Intro Conference Yves20080911 Intro Conference Yves
20080911 Intro Conference YvesSocial Computing
 

Similaire à Moderation-2023-Netino-by-Webhelp.pdf (20)

Les clés de l'E-Reputation en 2014 [HUB Report]
Les clés de l'E-Reputation en 2014 [HUB Report]Les clés de l'E-Reputation en 2014 [HUB Report]
Les clés de l'E-Reputation en 2014 [HUB Report]
 
Initiation web social ot toulouse 13 juin
Initiation web social ot toulouse 13 juinInitiation web social ot toulouse 13 juin
Initiation web social ot toulouse 13 juin
 
Les collectivités territoriales dans le tourbillon du web 2.0
Les collectivités territoriales dans le tourbillon du web 2.0Les collectivités territoriales dans le tourbillon du web 2.0
Les collectivités territoriales dans le tourbillon du web 2.0
 
Décoder info- intox sur le web enjeux et activités pédagogiques
Décoder info- intox sur le web enjeux et activités pédagogiquesDécoder info- intox sur le web enjeux et activités pédagogiques
Décoder info- intox sur le web enjeux et activités pédagogiques
 
Perspectives - livre blanc - numero 1 - un autre regard sur le digital
Perspectives - livre blanc - numero 1 - un autre regard sur le digitalPerspectives - livre blanc - numero 1 - un autre regard sur le digital
Perspectives - livre blanc - numero 1 - un autre regard sur le digital
 
Livre blanc information reseaux sociaux et innovation - jean-francois ceci
Livre blanc   information reseaux sociaux et innovation - jean-francois ceciLivre blanc   information reseaux sociaux et innovation - jean-francois ceci
Livre blanc information reseaux sociaux et innovation - jean-francois ceci
 
Epn sprimont modules_1-2_aout-decembre_2018
Epn sprimont modules_1-2_aout-decembre_2018Epn sprimont modules_1-2_aout-decembre_2018
Epn sprimont modules_1-2_aout-decembre_2018
 
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
 
20190414 balladoradio sarah_achard
20190414 balladoradio sarah_achard20190414 balladoradio sarah_achard
20190414 balladoradio sarah_achard
 
SAPIENS 2009 - Module 13 Part2
SAPIENS 2009 - Module 13 Part2SAPIENS 2009 - Module 13 Part2
SAPIENS 2009 - Module 13 Part2
 
Eric duguay rep2400
Eric duguay  rep2400Eric duguay  rep2400
Eric duguay rep2400
 
Viadeo Tour Bordeaux 2009 Intro Reseaux
Viadeo Tour Bordeaux 2009 Intro ReseauxViadeo Tour Bordeaux 2009 Intro Reseaux
Viadeo Tour Bordeaux 2009 Intro Reseaux
 
Publications et formations sur les réseaux sociaux professionnels de janvier ...
Publications et formations sur les réseaux sociaux professionnels de janvier ...Publications et formations sur les réseaux sociaux professionnels de janvier ...
Publications et formations sur les réseaux sociaux professionnels de janvier ...
 
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDFLe Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
 
Livre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et CommunicationLivre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et Communication
 
Livre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et CommunicationLivre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et Communication
 
Mediatar Fr
Mediatar FrMediatar Fr
Mediatar Fr
 
Oeinria
OeinriaOeinria
Oeinria
 
Lexpresse de la Banque Postale - Privacy et Big Data
Lexpresse de la Banque Postale - Privacy et Big DataLexpresse de la Banque Postale - Privacy et Big Data
Lexpresse de la Banque Postale - Privacy et Big Data
 
20080911 Intro Conference Yves
20080911 Intro Conference Yves20080911 Intro Conference Yves
20080911 Intro Conference Yves
 

Plus de rodolphe gilbert-collet

les mardis de l'histoire programme été 2024
les mardis de l'histoire  programme été 2024les mardis de l'histoire  programme été 2024
les mardis de l'histoire programme été 2024
rodolphe gilbert-collet
 
Concert de musique baroque en l'église de Fontcouverte
Concert de musique baroque en l'église de FontcouverteConcert de musique baroque en l'église de Fontcouverte
Concert de musique baroque en l'église de Fontcouverte
rodolphe gilbert-collet
 
sortie printemps 2024 musée savoisien (1).pdf
sortie printemps 2024 musée savoisien (1).pdfsortie printemps 2024 musée savoisien (1).pdf
sortie printemps 2024 musée savoisien (1).pdf
rodolphe gilbert-collet
 
Michel DURAND (1).pdf les veillées du vendredi
Michel DURAND (1).pdf les veillées  du vendrediMichel DURAND (1).pdf les veillées  du vendredi
Michel DURAND (1).pdf les veillées du vendredi
rodolphe gilbert-collet
 
AG 12 janvier 2024 AVEC 12 janvier 2024
AG  12 janvier 2024 AVEC 12 janvier 2024AG  12 janvier 2024 AVEC 12 janvier 2024
AG 12 janvier 2024 AVEC 12 janvier 2024
rodolphe gilbert-collet
 
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
rodolphe gilbert-collet
 
reperes_laicite-8.pdftextes et piste de réflexion intéressantes pour le prés...
reperes_laicite-8.pdftextes et piste de réflexion  intéressantes pour le prés...reperes_laicite-8.pdftextes et piste de réflexion  intéressantes pour le prés...
reperes_laicite-8.pdftextes et piste de réflexion intéressantes pour le prés...
rodolphe gilbert-collet
 
PROGRAMME FIS BONNEVAL 2023-2024.pdf
PROGRAMME FIS BONNEVAL 2023-2024.pdfPROGRAMME FIS BONNEVAL 2023-2024.pdf
PROGRAMME FIS BONNEVAL 2023-2024.pdf
rodolphe gilbert-collet
 
Visite dans les Langhe.pdf
Visite dans les Langhe.pdfVisite dans les Langhe.pdf
Visite dans les Langhe.pdf
rodolphe gilbert-collet
 
Visite dans les Langhe.pdf
Visite dans les Langhe.pdfVisite dans les Langhe.pdf
Visite dans les Langhe.pdf
rodolphe gilbert-collet
 
75-SGN-043-JAL.pdf
75-SGN-043-JAL.pdf75-SGN-043-JAL.pdf
75-SGN-043-JAL.pdf
rodolphe gilbert-collet
 
Affiche Récital Entraigues 2023.pdf
Affiche Récital Entraigues 2023.pdfAffiche Récital Entraigues 2023.pdf
Affiche Récital Entraigues 2023.pdf
rodolphe gilbert-collet
 
08-08 P. Geneletti.pdf
08-08  P. Geneletti.pdf08-08  P. Geneletti.pdf
08-08 P. Geneletti.pdf
rodolphe gilbert-collet
 
1er août 2023.pdf
1er août 2023.pdf1er août 2023.pdf
1er août 2023.pdf
rodolphe gilbert-collet
 
vélo.pdf
vélo.pdfvélo.pdf
07-25 M. MAZENOT.pdf
07-25  M. MAZENOT.pdf07-25  M. MAZENOT.pdf
07-25 M. MAZENOT.pdf
rodolphe gilbert-collet
 
07-25 M. MAZENOT.pdf
07-25  M. MAZENOT.pdf07-25  M. MAZENOT.pdf
07-25 M. MAZENOT.pdf
rodolphe gilbert-collet
 
07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf
rodolphe gilbert-collet
 
07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf
rodolphe gilbert-collet
 
programme 2023 (2).pdf
programme 2023 (2).pdfprogramme 2023 (2).pdf
programme 2023 (2).pdf
rodolphe gilbert-collet
 

Plus de rodolphe gilbert-collet (20)

les mardis de l'histoire programme été 2024
les mardis de l'histoire  programme été 2024les mardis de l'histoire  programme été 2024
les mardis de l'histoire programme été 2024
 
Concert de musique baroque en l'église de Fontcouverte
Concert de musique baroque en l'église de FontcouverteConcert de musique baroque en l'église de Fontcouverte
Concert de musique baroque en l'église de Fontcouverte
 
sortie printemps 2024 musée savoisien (1).pdf
sortie printemps 2024 musée savoisien (1).pdfsortie printemps 2024 musée savoisien (1).pdf
sortie printemps 2024 musée savoisien (1).pdf
 
Michel DURAND (1).pdf les veillées du vendredi
Michel DURAND (1).pdf les veillées  du vendrediMichel DURAND (1).pdf les veillées  du vendredi
Michel DURAND (1).pdf les veillées du vendredi
 
AG 12 janvier 2024 AVEC 12 janvier 2024
AG  12 janvier 2024 AVEC 12 janvier 2024AG  12 janvier 2024 AVEC 12 janvier 2024
AG 12 janvier 2024 AVEC 12 janvier 2024
 
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
 
reperes_laicite-8.pdftextes et piste de réflexion intéressantes pour le prés...
reperes_laicite-8.pdftextes et piste de réflexion  intéressantes pour le prés...reperes_laicite-8.pdftextes et piste de réflexion  intéressantes pour le prés...
reperes_laicite-8.pdftextes et piste de réflexion intéressantes pour le prés...
 
PROGRAMME FIS BONNEVAL 2023-2024.pdf
PROGRAMME FIS BONNEVAL 2023-2024.pdfPROGRAMME FIS BONNEVAL 2023-2024.pdf
PROGRAMME FIS BONNEVAL 2023-2024.pdf
 
Visite dans les Langhe.pdf
Visite dans les Langhe.pdfVisite dans les Langhe.pdf
Visite dans les Langhe.pdf
 
Visite dans les Langhe.pdf
Visite dans les Langhe.pdfVisite dans les Langhe.pdf
Visite dans les Langhe.pdf
 
75-SGN-043-JAL.pdf
75-SGN-043-JAL.pdf75-SGN-043-JAL.pdf
75-SGN-043-JAL.pdf
 
Affiche Récital Entraigues 2023.pdf
Affiche Récital Entraigues 2023.pdfAffiche Récital Entraigues 2023.pdf
Affiche Récital Entraigues 2023.pdf
 
08-08 P. Geneletti.pdf
08-08  P. Geneletti.pdf08-08  P. Geneletti.pdf
08-08 P. Geneletti.pdf
 
1er août 2023.pdf
1er août 2023.pdf1er août 2023.pdf
1er août 2023.pdf
 
vélo.pdf
vélo.pdfvélo.pdf
vélo.pdf
 
07-25 M. MAZENOT.pdf
07-25  M. MAZENOT.pdf07-25  M. MAZENOT.pdf
07-25 M. MAZENOT.pdf
 
07-25 M. MAZENOT.pdf
07-25  M. MAZENOT.pdf07-25  M. MAZENOT.pdf
07-25 M. MAZENOT.pdf
 
07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf
 
07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf
 
programme 2023 (2).pdf
programme 2023 (2).pdfprogramme 2023 (2).pdf
programme 2023 (2).pdf
 

Dernier

Reconquête de l’engraissement du chevreau à la ferme
Reconquête de l’engraissement du chevreau à la fermeReconquête de l’engraissement du chevreau à la ferme
Reconquête de l’engraissement du chevreau à la ferme
Institut de l'Elevage - Idele
 
Alternative - Complément au Tramway et 3ème lien de la ville de Québec
Alternative - Complément  au Tramway et 3ème lien de la ville de Québec  Alternative - Complément  au Tramway et 3ème lien de la ville de Québec
Alternative - Complément au Tramway et 3ème lien de la ville de Québec
Daniel Bedard
 
COUPROD Une méthode nationale commune à l’ensemble des filières herbivores
COUPROD Une méthode nationale commune à l’ensemble des filières herbivoresCOUPROD Une méthode nationale commune à l’ensemble des filières herbivores
COUPROD Une méthode nationale commune à l’ensemble des filières herbivores
Institut de l'Elevage - Idele
 
Accompagner les éleveurs dans l'analyse de leurs coûts de production
Accompagner les éleveurs dans l'analyse de leurs coûts de productionAccompagner les éleveurs dans l'analyse de leurs coûts de production
Accompagner les éleveurs dans l'analyse de leurs coûts de production
Institut de l'Elevage - Idele
 
Presentation d'esquisse route juin 2023.pptx
Presentation d'esquisse route juin 2023.pptxPresentation d'esquisse route juin 2023.pptx
Presentation d'esquisse route juin 2023.pptx
imed53
 
Accompagner les porteurs de projets en transformation fermière
Accompagner les porteurs de projets en transformation fermièreAccompagner les porteurs de projets en transformation fermière
Accompagner les porteurs de projets en transformation fermière
Institut de l'Elevage - Idele
 
1er webinaire INOSYS Réseaux d’élevage Ovins Viande
1er webinaire INOSYS Réseaux d’élevage Ovins Viande1er webinaire INOSYS Réseaux d’élevage Ovins Viande
1er webinaire INOSYS Réseaux d’élevage Ovins Viande
Institut de l'Elevage - Idele
 
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
Institut de l'Elevage - Idele
 
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdfCOURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
sieousse95
 
Leviers d’adaptation au changement climatique, qualité du lait et des produit...
Leviers d’adaptation au changement climatique, qualité du lait et des produit...Leviers d’adaptation au changement climatique, qualité du lait et des produit...
Leviers d’adaptation au changement climatique, qualité du lait et des produit...
Institut de l'Elevage - Idele
 
Comment aborder le changement climatique dans son métier, volet adaptation
Comment aborder le changement climatique dans son métier, volet adaptationComment aborder le changement climatique dans son métier, volet adaptation
Comment aborder le changement climatique dans son métier, volet adaptation
Institut de l'Elevage - Idele
 

Dernier (11)

Reconquête de l’engraissement du chevreau à la ferme
Reconquête de l’engraissement du chevreau à la fermeReconquête de l’engraissement du chevreau à la ferme
Reconquête de l’engraissement du chevreau à la ferme
 
Alternative - Complément au Tramway et 3ème lien de la ville de Québec
Alternative - Complément  au Tramway et 3ème lien de la ville de Québec  Alternative - Complément  au Tramway et 3ème lien de la ville de Québec
Alternative - Complément au Tramway et 3ème lien de la ville de Québec
 
COUPROD Une méthode nationale commune à l’ensemble des filières herbivores
COUPROD Une méthode nationale commune à l’ensemble des filières herbivoresCOUPROD Une méthode nationale commune à l’ensemble des filières herbivores
COUPROD Une méthode nationale commune à l’ensemble des filières herbivores
 
Accompagner les éleveurs dans l'analyse de leurs coûts de production
Accompagner les éleveurs dans l'analyse de leurs coûts de productionAccompagner les éleveurs dans l'analyse de leurs coûts de production
Accompagner les éleveurs dans l'analyse de leurs coûts de production
 
Presentation d'esquisse route juin 2023.pptx
Presentation d'esquisse route juin 2023.pptxPresentation d'esquisse route juin 2023.pptx
Presentation d'esquisse route juin 2023.pptx
 
Accompagner les porteurs de projets en transformation fermière
Accompagner les porteurs de projets en transformation fermièreAccompagner les porteurs de projets en transformation fermière
Accompagner les porteurs de projets en transformation fermière
 
1er webinaire INOSYS Réseaux d’élevage Ovins Viande
1er webinaire INOSYS Réseaux d’élevage Ovins Viande1er webinaire INOSYS Réseaux d’élevage Ovins Viande
1er webinaire INOSYS Réseaux d’élevage Ovins Viande
 
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
 
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdfCOURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
 
Leviers d’adaptation au changement climatique, qualité du lait et des produit...
Leviers d’adaptation au changement climatique, qualité du lait et des produit...Leviers d’adaptation au changement climatique, qualité du lait et des produit...
Leviers d’adaptation au changement climatique, qualité du lait et des produit...
 
Comment aborder le changement climatique dans son métier, volet adaptation
Comment aborder le changement climatique dans son métier, volet adaptationComment aborder le changement climatique dans son métier, volet adaptation
Comment aborder le changement climatique dans son métier, volet adaptation
 

Moderation-2023-Netino-by-Webhelp.pdf

  • 1. LIVRE BLANC 2023 - NETINO BY WEBHELP MODÉRATION HUMAINS & INTELLIGENCE ARTIFICIELLE LES VRAIES QUESTIONS À SE POSER
  • 2. SOMMAIRE I N T R O D U C T I O N 0 4 D A N S Q U E L L E S C I R C O N S T A N C E S P E U T - O N C O N S I D É R E R Q U ' U N C O M M E N T A I R E D O I T Ê T R E R E J E T É ? 0 7 Ê T R E ( T R È S ) R É A C T I F E S T - C E I M P O R T A N T P O U R L A M O D É R A T I O N ? 1 2 F A U T - I L E X T E R N A L I S E R L A M O D É R A T I O N D E S E S C O N T E N U S ? 1 5 1 9 2 1 0 3 Q U ' E S T C E Q U ' U N D I S P O S I T I F D E M O D E R A T I O N R O B U S T E E N 2 0 2 3 ? W E L L - B E I N G D E S M O D E R A T E U R S P L U S Q U ' U N " G O O D T O H A V E " [ I N T E R V I E W ] 2 5 C O N C L U S I O N E T U D E N E T I N O B Y W E B H E L P 0 5 Q U E D I T L A L O I ? 0 9 N O T R E M O D É R A T I O N C H E Z W I Z Z 1 6
  • 3. Un robot n'est pas tout à fait une machine. Un robot est une machine fabriquée pour imiter de son mieux l'être humain Isaac Asimov, Ecrivain et professeur Dans la mesure où elle a besoin d'humain, l'IA n'est ni artificielle ni intelligente" Kate Crawford, Microsoft Research
  • 4. INTRODUCTION Dans le secteur de la modération, un changement de paradigme n'est pas à venir... il a déjà eu lieu ! La découverte par le grand public fin 2022 de l'IA générative, de ChatGPT à Midjourney, a fait ressurgir dans les esprits les fantasmagories dystopiques jusque là cantonnées aux oeuvres de Science-Fiction les plus sombres. Y sommes-nous finalement parvenus, à cet humain surclassé, ringardisé et, en fin de compte, bientôt remplacé ? La matière grise a-t-elle été finalement détrônée par les écrans noirs ? Les observateurs plus tempérés prophétisent plutôt une hybridation progressive des professions du digital, dans une logique d'humain augmenté où la machine se borne à faciliter plutôt qu'à se substituer. Ce qui aurait du sens, si l'on considère l'exemple du secteur de la modération où le modérateur de chair et d'os, bien que désormais largement suppléé par les algorithmes, n'a en rien perdu de sa valeur ajoutée. Au contraire ! N'en reste pas moins que si la modération est de plus en plus (légitimement) considérée par les marques comme une brique essentielle de tout projet communautaire, les modalités de déploiement et les champs d'action d'un dispositif hybride IA/humains demeurent flous pour beaucoup. Nous espérons que le présent livre blanc aidera à répondre aux questions les plus récurrentes ! 0 4
  • 5. ACTUALITÉS DIVERTISSEMENTS SPORTS PETITES ANNONCES GAMING RENCONTRES VOYAGES FINANCES Dans le cadre de ce livre blanc, afin de pouvoir mettre en perspective certaines réflexions, Netino by Webhelp a réalisé une étude sur un échantillon de contenus postés entre avril 2022 et avril 2023, sur une sélection de secteurs représentatifs de l'éco-système participatif du web 2.0 francophone. 0 5 Soit 188 566 955 contenus textes et iconographiques analysés pour le besoin de cette étude SECTEURS FAISANT PARTIE DE L'ECHANTILLON
  • 6. 112 050 831 contenus ont été traités automatiquement, sans intervention humaine dont 25 025 561 contenus rejetés 11 974 278 contributeurs ayant posté au moins 1 contenu 13,3 % Insultes et vulgarité excessive Attaques personnelles entre internautes Spams et Scams Discrimination Diffamation Apologie ou appel à la violence QUELQUES MOTIFS DE REJET 13 852 647 2 246 666 1 421 603 1 100 993 645 458 456 690 0 6 Chiffres-clés DE CETTE ÉTUDE Soit plus que la population de toute la Belgique ! soit une moyenne de 15.7 contenus sur 1 an des contenus rejetés présentaient une toxicité très haute ou haute 61.5%
  • 7. LA LÉGALITÉ 1. 2. LA TOXICITÉ Dans le domaine de la modération, l’arbitraire se doit d’être proscrit. La prise de décision de modération autour d’un contenu peut suivre un arbre décisionnel s’articulant autour de trois critères distincts. Ceux-ci ne rentrent pas en opposition les uns avec les autres, mais cohabitent dans l’éco-système du contrat social participatif. #QUESTION 1 DANS QUELLES CIRCONSTANCES PEUT-ON CONSIDÉRER QU'UN COMMENTAIRE DOIT ÊTRE REJETÉ ? Le contenu est-il une infraction grave, manifeste et objective de la législation en vigueur ? Le non-filtrage de contenus illégaux met en danger la communauté d’utilisateurs, dégrade significativement l’image de la marque auprès du public et, conséquence qui n'est pas la moindre, fait encourir des risques juridiques substantiels pour l’éditeur de la plateforme ou du service. Entrent dans ce cadre les concepts juridiques tels que : la diffamation, la discrimination, les injures publiques, les appels à la violence voire au meurtre, etc. 0 7 Le contenu est-il de nature à dégrader l’ambiance de la communauté ou à gêner la bonne tenue des participations ? Moins susceptibles d’engendrer des conséquences judiciaires que les contenus illégaux, les publications toxiques se révèlent malgré tout insidieusement dommageables pour la communauté, son ambiance, son climat agréable et sécuritaire. Peuvent rentrer dans cette case : le dénigrement entre internautes, les moqueries sur le physique, l’humour noir sur des personnes décédées, mais aussi les spams promotionnels et tentatives d’arnaques etc.
  • 8. 3. LA CONFORMITÉ AUX RÈGLES DE COMMUNAUTÉ O U I 1 2 3 N O N O U I N O N O U I N O N Le contenu enfreint-il les règles personnalisées propres à l’espace communautaire ? Son thème, Ses attentes éditoriales, Sa cible d’audience. Chaque communauté peut avoir ses règles indexées sur : 1. 2. 3. Ainsi, ce qui est peut être considéré comme indésirable sur une plateforme ne le sera pas sur une autre. Publier une photo à caractère érotique peut s’avérer problématique sur un espace communautaire à destination des adolescents, mais peut être considéré comme acceptable dans le cadre d’une application de dating sexy. En fonction de la spécificité de la plateforme, il est donc nécessaire d’avoir des règles communautaires personnalisées et ne rentrant pas en contradiction avec le bon usage du service. 0 8 LÉGALITÉ = OBLIGATOIRE TOXICITÉ = FORTEMENT RECOMMANDÉ RÈGLES INTERNES = PERSONNALISABLES Le contenu est-il illégal ? Est-il toxique ? Est-il en infraction aux règles internes de la communauté ? REFUS REFUS REFUS CONTENU ACCEPTABLE
  • 9. QUE DIT LA LOI ? Les législations sur la modération de contenus telles que la Loi pour la Confiance dans l'Economie Numérique (LCEN) et le Digital Services Act (DSA) peuvent varier selon les pays, mais elles ont toutes pour objectif commun de protéger les droits fondamentaux des individus, tels que la liberté d'expression, la vie privée et la sécurité. 01 Les plateformes en ligne devront proposer aux internautes un outil leur permettant de signaler facilement les contenus illicites (une fois le contenu signalé, elles devront retirer ou bloquer l'accès au contenu illégal) 02 Les market places devront mieux tracer les vendeurs qui proposent des produits/services sur leur plateforme (recueil d'informations précises avant l'autorisation de vente) 03 Les plateformes devront prévoir un système de traitement des réclamations pour les utilisateurs dont le compte a été suspendu ou résilié pour contester cette décision 04 Les très grandes plateformes (+45M d'utilisateurs en EU) et très grands moteurs de recherche auront l'obligation de proposer un système de recommandation de contenus non-fondé sur le profilage et expliciter leurs algoritmes 05 Les plateformes en ligne sont tenues de retirer, dans les plus brefs délais, les contenus clairement illicites signalés par leurs utilisateurs ou par les autorités (contenus racistes, sexistes, pédopornographies, etc) 06 Les plateformes doivent conserver les données permettant d'identifier les auteurs de contenus illicites pendant un an 07 Elles doivent collaborer avec les autorités judiciaires et administratives en charge de la lutte contre les contenus illicites 08 Les plateformes peuvent être tenues responsables pour tout contenu illicite hébergé sans avoir été rejeté après son signalement
  • 10. LA CHARTE DE MODÉRATION, GARANTE DE L’HOMOGÉNÉITÉ DES VERDICTS Dès lors que le cadre est posé, comment garantir la précision et la régularité des verdicts ? Comment s’assurer qu’une Intelligence Artificielle rendra une décision analogue à celle émise par un modérateur humain ? Comment s’assurer d’une homogénéité des verdicts dans une activité aussi éminemment subjective et soumise à l’interprétation individuelle que la modération ? Ces questions sont loin d’être subalternes puisqu’une incohérence des verdicts émis par la modération aura tôt fait de frustrer, puis agacer et, enfin, inciter l’internaute à arrêter d’utiliser le service. Avant même d’être un document pédagogique à destination de la communauté, la Charte de modération se doit d’être un playbook formalisé, exhaustif (bien davantage que la version raccourcie qui sera proposée aux internautes) et enrichi de cas pratiques, à l’usage des modérateurs. 1 0 38 MEDIAS 79 DATING 120 SITES D'ANNONCES LONGUEUR MOYENNE D'UNE CHARTE DE MODERATION DANS LE SECTEUR ... PAGES PAGES PAGES
  • 11. UNE CHARTE NON, DES CHARTES 1 1 Réussir à faire lire les Conditions Générales d’Utilisation à sa communauté demeure un challenge. Une étude menée par l’Internet Society France révélait, de façon assez peu surprenante, que 7 internautes sur 10 ne lisent jamais ou rarement les CGU, sur un panel de 1004 personnes interrogées. Trop longues, trop techniques, trop alambiquées… Les doléances envers ces règles de modération sont multiples et pas foncièrement illégitimes. Les bonnes pratiques commanderaient plutôt de suivre les trois axes suivants : | Visibilité Les CGU relatives à la modération se doivent d’être accessibles à un emplacement proche des modules de participation. Et pas dans un obscur recoin poussiéreux du site. | Transparence La tentation de définir des règles trop généralistes et donc trop floues, peut se révéler pratique pour permettre le rejet de contributions incommodantes pour l’éditeur. Mais peut provoquer de l'incompréhension face à un rejet. | Concision Un bullet point par thème et une phrase pour l’expliciter de façon aussi pédagogique et universelle que possible. Pas plus, pas moins.
  • 12. M U T E 1 2 QUID DE LA PÉDAGOGIE ? Un des principes de la pédagogie auprès d'une communauté est que l’apprentissage passe par la répétition. Supprimer le compte d’un utilisateur d’une plateforme sociale est souvent une réponse tardive à un comportement grave, conséquence d’une dérive plus ou moins longue. Qui plus est, le bannissement définitif d’un compte n’a généralement pour effet que d’inciter l’internaute à se re-créer un nouvel alias dans la foulée. A l’inverse, les avertissements et micro- sanctions peuvent avoir des effets vertueux si et seulement si ceux-ci sont réactifs et systématisés dès les premiers dérapages. Leur application ponctuelle est, elle aussi, dénuée d’effets positifs. Ce ne sont dans le fond que l’extension de pratiques assez répandues sur les espaces de type Chat, lorsque ceux-ci sont modérés correctement. #QUESTION 2 ÊTRE (TRÈS) RÉACTIF EST-CE IMPORTANT POUR LA MODÉRATION ? La modération en ligne est un travail qui consiste à maintenir un environnement sûr, accueillant et approprié pour tous les utilisateurs. Les modérateurs sont chargés de filtrer les commentaires, de supprimer les publications inappropriées et d'empêcher les utilisateurs de violer les règles de la communauté. Dans ce contexte, la réactivité est l'une des compétences les plus importantes que doit avoir un modérateur. B A N N I S S E M E N T A V E R T I S S E M E N T D O W N R A N K I N G Sélectionnez votre sanction
  • 13. Traiter rapidement les contenus toxiques permet de limiter les dommages. Les comportements inappropriés en ligne, tels que la haine, le harcèlement, les insultes et les discours discriminatoires, peuvent se propager rapidement. Si la modération n'intervient pas rapidement pour supprimer ces contenus et sanctionner les auteurs, cela peut engendrer un phénomène d'escalade. En outre, les comportements inappropriés peuvent causer des dommages significatifs aux personnes visées, qu'il s'agisse de préjudice émotionnel, de stress, d'anxiété ou de dépression. En intervenant rapidement, un modérateur peut aider à limiter ces dommages et à maintenir un environnement sûr et accueillant. Les modérateurs doivent être en mesure de reconnaître les signes avant-coureurs d'un conflit et d'intervenir rapidement pour le désamorcer. Les conflits entre les utilisateurs sont fréquents et peuvent causer beaucoup de stress et de confusion dans les espaces de communication en ligne. Cela peut inclure la suppression de commentaires provocateurs, la clarification des règles de la communauté ou la médiation entre les parties. Les actions fines de community management peuvent donc faire partie de la valeur ajoutée de la modération. Si les modérateurs ne sont pas réactifs ou ne prennent pas de mesures pour désamorcer une crise potentielle, les utilisateurs peuvent se demander si la communauté est correctement gérée. En intervenant rapidement et efficacement, un modérateur peut maintenir la crédibilité de la communauté et renforcer la confiance des utilisateurs. Avoir un espace participatif jonché de propos haineux, ou un site de rencontres perclus de faux profils aux intentions plus que douteuses n'est pas "juste" regrettable pour la communauté, elle est dommageable à court et moyen terme pour l'image de la plateforme qui héberge ces contenus et, in fine, sur ses revenus. IMPORTANT, NON. ESSENTIEL, OUI. 1 3 Face à une contribution haineuse d'un autre internaute 32% DES UTILISATEURS FERMENT IMMÉDIATEMENT LA PAGE * sondage Opinionway ** étude Businesswire 70% DES RÉPONDANTS CONSIDÈRENT QU'IL RELÈVE DU DEVOIR DE LA MARQUE de protéger sa communauté de l'exposition aux contenus toxiques * **
  • 14. Lorsque l’on modère un espace, quel qu’il soit, il est important d’avoir à l’esprit que le volume moyen de contenus à traiter est un critère déterminant. Recevoir en moyenne une dizaine de contenus par jour peut demeurer gérable quoique contraignant sur le long terme. Mais en recevoir plusieurs centaines quotidiennement sur une amplitude 24/7 requière une personne dédiée à la tâche. Sans une équipe complète et dédiée appuyée par des outils performants, la charte de modération que vous aurez déterminée ne servira à rien ! Deux solutions s’offrent donc à vous : développer votre équipe en interne ou bien choisir les services d’un prestataire qui saura vous accompagner. Être très réactif permet de conserver une bonne image de marque, d’éviter les Bad Buzz, mais aussi de développer le taux de satisfaction de vos clients. Les internautes sont en effet très « à cheval » sur le temps que l’on accorde à leurs besoins. Il est important de toujours donner une réponse rapide et adaptée aux questions, critiques et remarques formulées en commentaires. Sachez cependant prioriser les messages, de manière à traiter les plus urgents en premier ! Vos espaces publics sur les médias sociaux sont les vitrines de votre marque sur Internet. Page Facebook, Forum… vous avez certes l’impression que ces plateformes sont les vôtres, cependant elles peuvent vite vous échapper ! C’est seulement avec le soutien d’une équipe de modérateurs formés et efficaces à tout moment, que vous serez capables de réaliser une modération sereine, qui saura protéger votre marque, mais aussi vos internautes. COMMENT ASSURER UNE BONNE RÉACTIVITÉ ? 1 4
  • 15. PUBLICATION D'UN CONTENU RÉCEPTION SUR BACK OFFICE ANALYSE ET VERDICT PAR L'IA DÉPUBLICATION IMMÉDIATE MAINTIEN DU CONTENU EN LIGNE ANALYSE PAR UN MODÉRATEUR HUMAIN 1 5 QU'EST CE QU'UN DISPOSITIF DE MODERATION ROBUSTE EN 2023 ? Répondre à ses obligations légales en supprimant de la publication sous 24h un appel au meurtre caractérisé, c'est bien. Mais le faire sous quelques minutes, voire sous quelques secondes, serait mieux. La réactivité est l'une des caractéristiques les plus importantes que doit proposer un service de modération pour assurer la sécurité, la stabilité et la croissance d'une communauté en ligne. L’intelligence artificielle est un outil primordial pour garantir une gestion rapide et efficace des contenus toxiques. A titre indicatif, la moyenne du marché quant à la suppression de contenus indésirables tend à se situer sous la barre des 2 secondes. Mais tout dispositif de modération automatisé n'a de sens que s'il est complété par une équipe humaine qui se doit d'intervenir dans tout ce qui est identifié comme "zone grise" par la machine. #QUESTION 3 Contenu rejeté Contenu accepté Contenu avec incertitude
  • 16. L'ensemble des signalements émis par des utilisateurs sur la plateforme est traité par notre équipe de modérateurs, qui veille sans relâche chaque jour de la semaine sur l'application Wizz . Formés avec rigueur, nos modérateurs sont profondément attentifs à la mise en application de directives très granulaires, afin de cibler au mieux les utilisateurs problématiques sur la plateforme. Ces règles ne sont d'ailleurs pas figées et évoluent constamment pour s'adapter au mieux aux utilisateurs. NICOLAS SUDARSKIS Customer success manager, Netino by Webhelp LA MODÉRATION NETINO BY WEBHELP CHEZ WIZZ Nous collectons et traitons 100% des signalements déposés par les utilisateurs de l’app Wizz en provenance de 20 pays. Grâce à sa plateforme Moderatus, Webhelp a mis en place une interface personnalisée et unique pour permettre à notre équipe de modérateurs de consulter et traiter de façon optimale les importants volumes d’UGC à forte criticité. Notre équipe de modérateurs bénéficie d'un soutien continu de la part de l'équipe Wizz, avec des comités de calibrage réguliers visant à affiner la précision de nos interventions. Ainsi, l'application Wizz collabore de manière rapprochée avec Webhelp, illustrant leur engagement sans faille pour la sécurité et le bien-être de leur communauté, et leur volonté d'assurer un environnement en ligne sûr et convivial pour tous leurs utilisateurs RETOUR SUR EXPERIENCE
  • 17. 1 7 ANALYSE PAR UN MODÉRATEUR HUMAIN DOUTE SUR LE CONTEXTE ET L'IMPACT SUR LA COMPRÉHENSION DU CONTENU PROPOS EMPLOYANT DES ÉLÉMENTS DE LANGAGE NON IDENTIFIÉS MENACE POTENTIELLE ANALYSE CONTEXTUELLE EN TENANT COMPTE DE LA THÉMATIQUE ET ÉCHANGE PÉRIPHÉRIQUE ESCALADE À TASK FORCE IA POUR ENRICHISSEMENT DU MODÈLE ANALYSE DÉTAILLÉE DU CONTEXTE ET SIGNALEMENT POTENTIEL À LA PLATEFORME ET AUX AUTORITÉS MAIS L'IA DANS LA MODÉRATION, QU'EST-CE QUE C'EST EXACTEMENT ? Dans le domaine de la modération, le terme "intelligence artificielle" peut être quelque peu fourre-tout, mais englobe communément 3 dispositifs distincts d'une sophistication et d'une précision variables. En dépit des progrès significatifs effectués ces dernières années, les mécanismes d'IA seuls ne peuvent à date pas encore assurer une modération 100% fiable et qualitative, garantissant aux hébergeurs de plateforme une parfaite sérénité. A raison : outre l'inépuisable imagination pour contourner les règles de la communauté et ainsi poster des contenus toxiques, ce qui nécessite une constante adaptation des dispositifs, le modérateur en chair et en os prend toute sa valeur ajoutée dans la distinction des contenus sibyllins, ironiques, très contextuels, nécessitant une référence socio-culturelle, etc. De même, lorsqu'un contenu indique une potentielle mise en danger de la vie des personnes, il est impératif qu'un humain soit présent dans la boucle afin d'estimer finement la réalité de la menace potentielle et effectuer les actions conséquentes qui s'imposent (y compris le signalement aux autorités) L'IA DANS LA MODÉRATION, PAS ENCORE TOUT À FAIT AUTONOME ?
  • 18. 2. GRAPHES SEMANTIQUES 3. MACHINE LEARNING | DEEP LEARNING Représentation des relations entre différents concepts organisés en arborescence, les graphes permettent une détection affinée par rapport aux corpus de termes précédemment évoqués. 1 8 Sur la base d'un protocole d'annotation de data où des modérateurs humains vont catégoriser des contenus, un modèle d'IA peut être mis en place. Afin de garantir la pertinence du modèle, une masse critique de quelques centaines de milliers de contenus est souhaitable, idéalement issus du scope de la plateforme cible afin de garantir un apprentissage personnalisé. Plus le data set initial sera riche, plus il sera possible d'obtenir un modèle d'IA précis. Attention, il sera toutefois indispensable de conserver dans la boucle des modérateurs humains qui vérifieront et alimenteront la machine avec des nouveaux éléments de langage. PERFORMANCE FACILITÉ D'EXÉCUTION PERFORMANCE FACILITÉ D'EXÉCUTION CORPUS DE TERMES DÉCLENCHEURS - "TRIGGERS" 1. Il s'agit d'agrégats de termes et éléments de phrases admis comme étant indésirables, soit de façon générale, soit spécifiquement sur la communauté. De façon plus raffinée, certains éléments peuvent ne pas déclencher un rejet systématique mais plutôt un routage pour vérification par l'équipe humaine. Une analyse data est généralement préférable pour déterminer statistiquement les termes au scoring de risque le plus important et qui sont donc à prioriser spécifiquement sur l'espace-cible. Ce dispositif risque toutefois de générer des faux-positifs (des rejets illégitimes) en nombre. PERFORMANCE FACILITÉ D'EXÉCUTION
  • 19. #EXPERTISE 1 9 #QUESTION 4 FAUT-IL EXTERNALISER LA MODÉRATION DE SES CONTENUS ? Le métier de la modération est complexe, car en perpétuelle évolution, aussi bien au niveau des bonnes pratiques, des outils et des solutions technologiques. C'est pourquoi il est nécessaire d'être accompagné par une entreprise spécialisée. Les entreprises doivent veiller à ce que les contenus publiés sur leur site et sur les réseaux sociaux soient conformes aux normes éthiques, juridiques et sociales. Tout comme les plateformes doivent s’assurer que chaque utilisateur est en sécurité tout au long de leur navigation. C'est pourquoi de plus en plus d'entreprises externalisent la modération de contenu en ligne à des entreprises spécialisées. Externaliser la modération de contenus en ligne permet aux entreprises de faire appel à des experts spécialisés dans ce domaine, qui se doivent d'apporter : | Un accompagnement sur les best practices Définir des guidelines éditoriales, faire évoluer celles-ci ou repenser la stratégie participative est une tâche complexe, impactante et nécessitant une évaluation fine des avantages et inconvénients. Une entreprise externe peut être plus à même de conseiller la plateforme, par rapport à son expérience sectorielle, mais aussi vis-à-vis de l'accueil de la communauté quant à ces changements. Un bon partenaire externe de modération ne doit donc pas être qu'une solution de production : il se doit d'avoir un rôle de conseil proactif. | Une conformité vis-à-vis de la loi L'évolution régulière de la législation par rapport aux obligations des plateformes met les éditeurs en risque, en cas de manquements. Les changements quant au devoir de réactivité et de suivi des signalements de contenus litigieux font que le prestataire de modération se doit d'adapter son dispositif pour rester conforme. | Une solution technologique La multiplicité des canaux, les volumes très importants de contributions d'utilisateurs et l'impératif de déployer des solutions d'automatisation nécessite l'emploi d'une plateforme unifiée et ergonomique permettant un traitement homogénéisé et industrialisé. Développer en interne ce type de solution est possible mais long, coûteux et requiert une expertise qui peut faire défaut tant les tenants et aboutissants sont nombreux.
  • 20. #GESTION DU TEMPS #RÉDUCTION DES RISQUES #FLEXIBILITÉ & ÉVOLUTIVITÉ Modérer du contenu peut être très chronophage et nécessite une attention constante. Les entreprises qui gèrent elles-mêmes la modération de leurs contenus consacrent un temps considérable à cette tâche, ce qui peut nuire à leur efficacité globale. Externaliser la modération de contenu vous économiserait des ressources et assurerait une gestion des contenus optimale, même en dehors de vos heures ouvrables. On observe en moyenne un taux de rejet de 12% sur ces amplitudes 2 0 Se retrouver face à des contenus à modérer à longueur de journée peut nuire à la santé mentale de la personne qui s’en occupe, que ce soit par le degré de toxicité du contenu ou juste par l’aspect répétitif et -de prime à bord- peu enrichissant de la mission. En l’externalisant, les entreprises peuvent réduire leur exposition à ces risques et protéger leurs employés. Les modérateurs d’entreprises dédiées disposent de processus de protection, de suivi et d’accompagnement au quotidien ainsi que d'outils les préservant des contenus les plus perturbants. Si la marque souhaite tout gérer par elle-même, celle- ci pourrait rencontrer des difficultés face aux pics de trafic ou à des changements de dernière minute dans les normes de modération. Les entreprises spécialisées dans la modération de contenus en ligne peuvent offrir une grande flexibilité en termes de volume de travail et de personnel, afin de s'adapter rapidement à vos besoins changeants. Cette évolutivité peut être particulièrement importante pour les entreprises qui connaissent une croissance rapide ou qui sont confrontées à des événements inattendus, tels que des campagnes de désinformation ou des bad buzz. 29% des contenus postés sur les réseaux le sont sur des heures dites non ouvrées (entre 21h et 8h du matin)
  • 21. WELL-BEING DES MODERATEURS PLUS QU'UN "GOOD TO HAVE" 2 1 Il est important que les modérateurs soient soutenus et encouragés à être très réactifs. Ils doivent avoir des outils de modération efficaces à leur disposition, tels que des filtres automatisés intervenant en amont, des alertes de comportement inapproprié, des systèmes de signalements rapides et des protocoles clairs pour la gestion des situations critiques. Ils doivent également bénéficier d'une formation continue et de l'appui de la communauté et des supérieurs hiérarchiques pour leur travail difficile. #INTERVIEW QUELS SONT LES FACTEURS LES PLUS IMPORTANTS À CONSIDÉRER LORS DE LA MISE EN PLACE DE POLITIQUES DE BIEN-ÊTRE POUR LES MODÉRATEURS ? Conscients que nos modérateurs peuvent être exposés à des contenus perturbants voir choquants, nous avons toujours envisagé la modération de contenu comme une activité à part avec ses défis spécifiques et non comme une activité back-office parmi d’autres. La nature de ce travail peut avoir un impact significatif sur la santé mentale et émotionnelle des modérateurs et il est déjà essentiel de le reconnaitre. Il est important de fournir aux modérateurs un environnement de travail sûr et soutenant, où ils peuvent partager leurs préoccupations et recevoir un soutien adéquat. Les politiques de bien-être doivent inclure des canaux de communication ouverts à tous, des mécanismes de signalement des contenus à risque et des procédures claires pour gérer les situations difficiles. MARTIN LE BARS Trust and Safety Solutions Director, Webhelp Nos sites ont une liste de standards à respecter et nous auditons régulièrement chacun de ceux opérant des activités de modération de contenu par le biais de la société de certification SGS. En parallèle de ces standards globaux nous encourageons les sites à mettre en place des initiatives locales pour mieux répondre aux attentes de nos agents d’un point de vue socio-culturel de la région. Nous allons plus loin en organisant des challenges d’innovation où nous demandons directement aux modérateurs de nous proposer des idées qui visent à améliorer leur quotidien. 32% de participation globale
  • 22. Certains signes avant-coureurs peuvent indiquer qu'un modérateur est en difficulté vis-à-vis des contenus auxquels il est exposé. Ces signes peuvent varier d'une personne à l'autre. | CHANGEMENTS ÉMOTIONNELS Des sautes d'humeur fréquentes, une irritabilité accrue, une tristesse ou une détresse émotionnelle intense peuvent être des signes révélateurs. Les modérateurs peuvent également montrer des signes de colère, d'anxiété ou de dépression. | ISOLEMENT SOCIAL Si un modérateur commence à se retirer de ses collègues, à éviter les interactions sociales ou à se sentir isolé, cela peut indiquer qu'il est en difficulté. | FATIGUE EXCESSIVE L'exposition régulière à des contenus perturbateurs peut entraîner une fatigue émotionnelle et mentale. Les modérateurs peuvent se sentir épuisés, avoir des troubles du sommeil ou manifester une baisse d'énergie globale. | RÉACTIONS PHYSIQUES Des symptômes physiques tels que des maux de tête fréquents, problèmes gastro- intestinaux, douleurs musculaires ou tension peuvent être des signes de détresse liée au travail de modération. | DIMINUTION DE LA PRODUCTIVITÉ OU DE LA QUALITÉ DU TRAVAIL Lorsque des modérateurs ont du mal à se concentrer, à prendre des décisions ou à maintenir leurs performances, cela peut être un indicateur de leur détresse émotionnelle. | ABSENTÉISME Si un agent commence à être de plus en plus absent, ou de plus en plus fréquemment en retard, cela peut être le signe d’un rejet du travail de modération de contenu. 2 2 QUELS SONT LES SIGNES AVANT-COUREURS QUI MONTRENT QU'UN MODÉRATEUR EST EN DIFFICULTÉ FACE À UN CONTENU SENSIBLE ?
  • 23. 2 3 Accès à des programmes d'assistance aux employés sous la forme de Wellness counsellors et de psychologues 24/7. Ces lignes d’assistance téléphonique sont volontairement confiés à des prestataires externes pour permettre à nos agents de se confier dans un environnement neutre. Formations régulières sur la gestion du stress, la résilience émotionnelle, la reconnaissance des signes de détresse et les stratégies d'adaptation. Nous soutenons le bien-être des modérateurs de plusieurs manières. Tout d'abord, nous mettons en place des politiques et des procédures claires pour gérer les contenus perturbateurs et offrir un soutien psychologique aux modérateurs. Voici quelques exemples des ressources mises en place chez Webhelp : LA PRODUCTIVITÉ N’EST PAS UN KPI QUE NOUS REGARDONS DE PRÈS NOUS PRÉFÉRONS NOUS CONCENTRER SUR LA QUALITÉ DE LA MODÉRATION ET SUR NOTRE CAPACITÉ À GARDER NOS PEOPLE HEUREUX QUELLES RESSOURCES ET OUTILS PEUVENT ÊTRE MIS À LA DISPOSITION DES MODÉRATEURS POUR LES AIDER À MAINTENIR LEUR BIEN-ÊTRE ? Investissement dans des outils avancés pour aider les modérateurs à filtrer, classer et gérer plus efficacement les contenus perturbateurs. Cela peut réduire la charge émotionnelle associée au travail de modération. Mise en place d'un canal de lanceur d’alerte pour permettre à nos modérateurs de remonter directement au top management tout comportement managérial qui pourrait les mettre en danger. Mise en place une solution de suivi de la santé mentale de nos agents, People Analytics. En parallèle, nous avons lié un partenariat avec Welbot pour collecter de la donnée médicale sur la base du volontariat tout en assurant une barrière sanitaire entre ces données et Webhelp comme employeur. Cette application permet à nos agents d’accéder à des parcours personnalisés de bien-être. Enfin, nous avons rejoins plusieurs associations professionnelles (TSPA – Trust and Safety Professional Association, Metaverse standard forum, MetaCircle…) pour partager nos bonnes pratiques et bénéficier de celles des autres acteurs du marché. Nous avons également souscrit à un abonnement pour chacun de nos modérateurs à TSPA pour les valoriser et leur montrer qu’ils appartiennent à une communauté de spécialistes du Trust and Safety, qui dépasse leur site de production ou même Webhelp. Cette reconnaissance est pour nous un facteur clé de soutien à leur travail.
  • 24. 16 % 76 % 90 % 2 4 RÉSULTAT DU WELLBEING DES MODÉRATEURS CHEZ WEBHELP Bénéfices humains Avantages commerciaux Bien-être des modérateurs Sens de la communauté Modérateurs compétents et expérimentés Fidélisation élevée des employés Environnement de travail durable Soins au jour le jour Attraction de talents Si le travail de nos agents est de protéger les utilisateurs, notre travail consiste à protéger nos agents de nos modérateurs recommandent Webhelp comme employeur de taux d'attrition chez Webhelp contre une moyenne de 80% dans l'industrie de nos encadrants sont issus de promotions internes en 2022 NOUS PLAÇONS LE BIEN-ÊTRE DE NOS MODÉRATEURS AU CŒUR DE NOS PRÉOCCUPATIONS
  • 25. CONCLUSION 2 5 La modération, un métier à part entière où l'Intelligence Artificielle s'articule autour d'un noyau humain Volumes de contenus en croissance continue, renforcement des dispositions légales vers toujours plus d'obligations pour les éditeurs de plateformes, communautés d'internautes davantage exigeantes quant à la sécurité des espaces... La tendance est à la sécurisation généralisée des espaces contributifs. Si les préjudices de l'exposition aux contenus toxiques sont indéniables pour les internautes, ils ne sont pas moindres pour les marques. Outre les tracas légaux, celles-ci encourent un risque réel de se voir associées inconsciemment aux dérives se déroulant sur leurs espaces contributifs. Avec la déperdition d'audience, de clientèle et, in fine, de revenus que cela implique. Pour éviter d'en arriver là, il convient de sortir des organisations artisanales et dépassées faisant reposer le poids de la modération exclusivement sur du personnel non spécialisé (allant du community manager débordé au stagiaire peu concerné) et sur quelques filtres automatisés à la finesse approximative. Répondre à la double injonction de réactivité maximale quelque soit l'heure et de finesse d'analyse ne peut se faire que grâce à un dispositif de modération professionnalisé combinant le meilleur des deux mondes : la capacité de traitement instantané et illimité de l'Intelligence Artificielle, alliée à l'analyse approfondie du modérateur humain. Et dans un futur immédiat ? L'entrée en application en février 2024 du Digital Services Act et son corollaire d'amendes dissuasives (jusqu'à 6% du CA mondial de la plateforme en cas de manquements caractérisés) ne peut que contribuer à repositionner davantage la modération à sa juste place : au coeur de la stratégie digitale des marques.
  • 26. Besoin de conseils pour naviguer dans l'univers captivant de la modération hybride ? Nous sommes là pour vous ! N'hésitez pas à nous contacter pour échanger et trouver ensemble les solutions qui répondent à vos besoins spécifiques. www.netino.fr adechelle@webhelp.fr MERCI