SlideShare une entreprise Scribd logo

Moderation-2023-Netino-by-Webhelp.pdf

rodolphe gilbert-collet
rodolphe gilbert-collet
rodolphe gilbert-colletchercheur chez Pôle Emploi à lycée de la montagne

Modération dans IA l'humain

Moderation-2023-Netino-by-Webhelp.pdf

1  sur  26
Télécharger pour lire hors ligne
LIVRE BLANC 2023 - NETINO BY WEBHELP
MODÉRATION
HUMAINS & INTELLIGENCE ARTIFICIELLE
LES VRAIES
QUESTIONS
À SE POSER
SOMMAIRE
I N T R O D U C T I O N
0 4
D A N S Q U E L L E S C I R C O N S T A N C E S P E U T - O N
C O N S I D É R E R Q U ' U N C O M M E N T A I R E
D O I T Ê T R E R E J E T É ?
0 7
Ê T R E ( T R È S ) R É A C T I F E S T - C E
I M P O R T A N T P O U R L A M O D É R A T I O N ?
1 2
F A U T - I L E X T E R N A L I S E R L A
M O D É R A T I O N D E S E S C O N T E N U S ?
1 5
1 9
2 1
0 3
Q U ' E S T C E Q U ' U N D I S P O S I T I F D E
M O D E R A T I O N R O B U S T E E N 2 0 2 3 ?
W E L L - B E I N G D E S M O D E R A T E U R S P L U S
Q U ' U N " G O O D T O H A V E " [ I N T E R V I E W ]
2 5
C O N C L U S I O N
E T U D E N E T I N O B Y W E B H E L P
0 5
Q U E D I T L A L O I ?
0 9
N O T R E M O D É R A T I O N C H E Z W I Z Z
1 6
Un robot n'est pas tout à fait
une machine. Un robot est une
machine fabriquée pour imiter
de son mieux l'être humain
Isaac Asimov,
Ecrivain et professeur
Dans la mesure
où elle a besoin d'humain,
l'IA n'est ni artificielle
ni intelligente"
Kate Crawford,
Microsoft Research
INTRODUCTION
Dans le secteur de la modération, un changement
de paradigme n'est pas à venir... il a déjà eu lieu !
La découverte par le grand public fin 2022 de
l'IA générative, de ChatGPT à Midjourney, a
fait ressurgir dans les esprits les
fantasmagories dystopiques jusque là
cantonnées aux oeuvres de Science-Fiction les
plus sombres.
Y sommes-nous finalement parvenus, à cet
humain surclassé, ringardisé et, en fin de
compte, bientôt remplacé ? La matière grise
a-t-elle été finalement détrônée par les
écrans noirs ?
Les observateurs plus tempérés prophétisent
plutôt une hybridation progressive des
professions du digital, dans une logique
d'humain augmenté où la machine se borne à
faciliter plutôt qu'à se substituer.
Ce qui aurait du sens, si l'on considère
l'exemple du secteur de la modération où le
modérateur de chair et d'os, bien que
désormais largement suppléé par les
algorithmes, n'a en rien perdu de sa valeur
ajoutée. Au contraire !
N'en reste pas moins que si la modération est
de plus en plus (légitimement) considérée par
les marques comme une brique essentielle de
tout projet communautaire, les modalités de
déploiement et les champs d'action d'un
dispositif hybride IA/humains demeurent
flous pour beaucoup. Nous espérons que le
présent livre blanc aidera à répondre aux
questions les plus récurrentes !
0 4
ACTUALITÉS DIVERTISSEMENTS SPORTS PETITES ANNONCES
GAMING RENCONTRES VOYAGES FINANCES
Dans le cadre de ce livre blanc, afin de pouvoir mettre en perspective certaines
réflexions, Netino by Webhelp a réalisé une étude sur un échantillon de contenus
postés entre avril 2022 et avril 2023, sur une sélection de secteurs représentatifs de
l'éco-système participatif du web 2.0 francophone.
0 5
Soit
188 566 955
contenus textes et iconographiques analysés
pour le besoin de cette étude
SECTEURS FAISANT PARTIE DE L'ECHANTILLON
112 050 831 contenus
ont été traités automatiquement,
sans intervention humaine
dont
25 025 561
contenus rejetés
11 974 278
contributeurs ayant posté
au moins 1 contenu
13,3 %
Insultes et vulgarité excessive
Attaques personnelles entre
internautes
Spams et Scams
Discrimination
Diffamation
Apologie ou appel à la violence
QUELQUES MOTIFS
DE REJET
13 852 647
2 246 666
1 421 603
1 100 993
645 458
456 690
0 6
Chiffres-clés
DE CETTE ÉTUDE
Soit plus que la population
de toute la Belgique !
soit une moyenne de
15.7
contenus sur 1 an
des contenus rejetés présentaient
une toxicité très haute ou haute
61.5%
Publicité

Recommandé

De quels traitements sommes-nous les proies ?
De quels traitements sommes-nous les proies ?De quels traitements sommes-nous les proies ?
De quels traitements sommes-nous les proies ?Hubert Guillaud
 
#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...
#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...
#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...Cap'Com
 
Accés et production d'information (by Fil Numérique Roanne)
Accés et production d'information (by Fil Numérique Roanne)Accés et production d'information (by Fil Numérique Roanne)
Accés et production d'information (by Fil Numérique Roanne)Coraia
 
Montaigu web-ouvert-def
Montaigu web-ouvert-defMontaigu web-ouvert-def
Montaigu web-ouvert-defolivier
 
Impact des reseaux_sociaux_sur_l_economie_greenivory_livre_vert_
Impact des reseaux_sociaux_sur_l_economie_greenivory_livre_vert_Impact des reseaux_sociaux_sur_l_economie_greenivory_livre_vert_
Impact des reseaux_sociaux_sur_l_economie_greenivory_livre_vert_Celine Haidamous
 
Points de repère pour un développement responsable des systèmes d’IA
Points de repère pour un développement responsable des systèmes d’IAPoints de repère pour un développement responsable des systèmes d’IA
Points de repère pour un développement responsable des systèmes d’IAAymeric
 

Contenu connexe

Similaire à Moderation-2023-Netino-by-Webhelp.pdf

Les clés de l'E-Reputation en 2014 [HUB Report]
Les clés de l'E-Reputation en 2014 [HUB Report]Les clés de l'E-Reputation en 2014 [HUB Report]
Les clés de l'E-Reputation en 2014 [HUB Report]HUB INSTITUTE
 
Initiation web social ot toulouse 13 juin
Initiation web social ot toulouse 13 juinInitiation web social ot toulouse 13 juin
Initiation web social ot toulouse 13 juinArdesi Midi-Pyrénées
 
Les collectivités territoriales dans le tourbillon du web 2.0
Les collectivités territoriales dans le tourbillon du web 2.0Les collectivités territoriales dans le tourbillon du web 2.0
Les collectivités territoriales dans le tourbillon du web 2.0Ardesi Midi-Pyrénées
 
Décoder info- intox sur le web enjeux et activités pédagogiques
Décoder info- intox sur le web enjeux et activités pédagogiquesDécoder info- intox sur le web enjeux et activités pédagogiques
Décoder info- intox sur le web enjeux et activités pédagogiquesNathalie Barbery-Vannier
 
Perspectives - livre blanc - numero 1 - un autre regard sur le digital
Perspectives - livre blanc - numero 1 - un autre regard sur le digitalPerspectives - livre blanc - numero 1 - un autre regard sur le digital
Perspectives - livre blanc - numero 1 - un autre regard sur le digitalYann Gourvennec
 
Livre blanc information reseaux sociaux et innovation - jean-francois ceci
Livre blanc   information reseaux sociaux et innovation - jean-francois ceciLivre blanc   information reseaux sociaux et innovation - jean-francois ceci
Livre blanc information reseaux sociaux et innovation - jean-francois ceciAlban Jarry
 
Epn sprimont modules_1-2_aout-decembre_2018
Epn sprimont modules_1-2_aout-decembre_2018Epn sprimont modules_1-2_aout-decembre_2018
Epn sprimont modules_1-2_aout-decembre_2018Mottard François
 
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...Ludovic Martin
 
20190414 balladoradio sarah_achard
20190414 balladoradio sarah_achard20190414 balladoradio sarah_achard
20190414 balladoradio sarah_achardSarah A.
 
SAPIENS 2009 - Module 13 Part2
SAPIENS 2009 - Module 13 Part2SAPIENS 2009 - Module 13 Part2
SAPIENS 2009 - Module 13 Part2Christophe RUDELLE
 
Eric duguay rep2400
Eric duguay  rep2400Eric duguay  rep2400
Eric duguay rep2400Éric Duguay
 
Viadeo Tour Bordeaux 2009 Intro Reseaux
Viadeo Tour Bordeaux 2009 Intro ReseauxViadeo Tour Bordeaux 2009 Intro Reseaux
Viadeo Tour Bordeaux 2009 Intro Reseauxechangeurba
 
Publications et formations sur les réseaux sociaux professionnels de janvier ...
Publications et formations sur les réseaux sociaux professionnels de janvier ...Publications et formations sur les réseaux sociaux professionnels de janvier ...
Publications et formations sur les réseaux sociaux professionnels de janvier ...Alban Jarry
 
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDFLe Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDFXavier CHARLES
 
Livre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et CommunicationLivre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et CommunicationGwnalleRouzioux
 
Livre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et CommunicationLivre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et CommunicationQuentin MAROT
 
Lexpresse de la Banque Postale - Privacy et Big Data
Lexpresse de la Banque Postale - Privacy et Big DataLexpresse de la Banque Postale - Privacy et Big Data
Lexpresse de la Banque Postale - Privacy et Big DataAntoine Vigneron
 
20080911 Intro Conference Yves
20080911 Intro Conference Yves20080911 Intro Conference Yves
20080911 Intro Conference YvesSocial Computing
 

Similaire à Moderation-2023-Netino-by-Webhelp.pdf (20)

Les clés de l'E-Reputation en 2014 [HUB Report]
Les clés de l'E-Reputation en 2014 [HUB Report]Les clés de l'E-Reputation en 2014 [HUB Report]
Les clés de l'E-Reputation en 2014 [HUB Report]
 
Initiation web social ot toulouse 13 juin
Initiation web social ot toulouse 13 juinInitiation web social ot toulouse 13 juin
Initiation web social ot toulouse 13 juin
 
Les collectivités territoriales dans le tourbillon du web 2.0
Les collectivités territoriales dans le tourbillon du web 2.0Les collectivités territoriales dans le tourbillon du web 2.0
Les collectivités territoriales dans le tourbillon du web 2.0
 
Décoder info- intox sur le web enjeux et activités pédagogiques
Décoder info- intox sur le web enjeux et activités pédagogiquesDécoder info- intox sur le web enjeux et activités pédagogiques
Décoder info- intox sur le web enjeux et activités pédagogiques
 
Perspectives - livre blanc - numero 1 - un autre regard sur le digital
Perspectives - livre blanc - numero 1 - un autre regard sur le digitalPerspectives - livre blanc - numero 1 - un autre regard sur le digital
Perspectives - livre blanc - numero 1 - un autre regard sur le digital
 
Livre blanc information reseaux sociaux et innovation - jean-francois ceci
Livre blanc   information reseaux sociaux et innovation - jean-francois ceciLivre blanc   information reseaux sociaux et innovation - jean-francois ceci
Livre blanc information reseaux sociaux et innovation - jean-francois ceci
 
Epn sprimont modules_1-2_aout-decembre_2018
Epn sprimont modules_1-2_aout-decembre_2018Epn sprimont modules_1-2_aout-decembre_2018
Epn sprimont modules_1-2_aout-decembre_2018
 
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
Intelligence Artificielle : quelles conséquences pour l'imprimerie et le web-...
 
20190414 balladoradio sarah_achard
20190414 balladoradio sarah_achard20190414 balladoradio sarah_achard
20190414 balladoradio sarah_achard
 
SAPIENS 2009 - Module 13 Part2
SAPIENS 2009 - Module 13 Part2SAPIENS 2009 - Module 13 Part2
SAPIENS 2009 - Module 13 Part2
 
Eric duguay rep2400
Eric duguay  rep2400Eric duguay  rep2400
Eric duguay rep2400
 
Viadeo Tour Bordeaux 2009 Intro Reseaux
Viadeo Tour Bordeaux 2009 Intro ReseauxViadeo Tour Bordeaux 2009 Intro Reseaux
Viadeo Tour Bordeaux 2009 Intro Reseaux
 
Publications et formations sur les réseaux sociaux professionnels de janvier ...
Publications et formations sur les réseaux sociaux professionnels de janvier ...Publications et formations sur les réseaux sociaux professionnels de janvier ...
Publications et formations sur les réseaux sociaux professionnels de janvier ...
 
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDFLe Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
Le Petit Manuel des Réseaux Sociaux à l’usage des collaborateurs de GRDF
 
Livre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et CommunicationLivre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et Communication
 
Livre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et CommunicationLivre blanc Intelligence Artificielle et Communication
Livre blanc Intelligence Artificielle et Communication
 
Mediatar Fr
Mediatar FrMediatar Fr
Mediatar Fr
 
Oeinria
OeinriaOeinria
Oeinria
 
Lexpresse de la Banque Postale - Privacy et Big Data
Lexpresse de la Banque Postale - Privacy et Big DataLexpresse de la Banque Postale - Privacy et Big Data
Lexpresse de la Banque Postale - Privacy et Big Data
 
20080911 Intro Conference Yves
20080911 Intro Conference Yves20080911 Intro Conference Yves
20080911 Intro Conference Yves
 

Plus de rodolphe gilbert-collet

AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024rodolphe gilbert-collet
 
reperes_laicite-8.pdftextes et piste de réflexion intéressantes pour le prés...
reperes_laicite-8.pdftextes et piste de réflexion  intéressantes pour le prés...reperes_laicite-8.pdftextes et piste de réflexion  intéressantes pour le prés...
reperes_laicite-8.pdftextes et piste de réflexion intéressantes pour le prés...rodolphe gilbert-collet
 
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdf
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdfPROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdf
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdfrodolphe gilbert-collet
 
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdf
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdfPROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdf
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdfrodolphe gilbert-collet
 
Affiche du concert du 29 juin 2023 (1).pdf
Affiche du concert du 29 juin 2023 (1).pdfAffiche du concert du 29 juin 2023 (1).pdf
Affiche du concert du 29 juin 2023 (1).pdfrodolphe gilbert-collet
 

Plus de rodolphe gilbert-collet (20)

AG 12 janvier 2024 AVEC 12 janvier 2024
AG  12 janvier 2024 AVEC 12 janvier 2024AG  12 janvier 2024 AVEC 12 janvier 2024
AG 12 janvier 2024 AVEC 12 janvier 2024
 
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
AG AVEC Assemblée Générale Association AVEC le 12 janvier 2024
 
reperes_laicite-8.pdftextes et piste de réflexion intéressantes pour le prés...
reperes_laicite-8.pdftextes et piste de réflexion  intéressantes pour le prés...reperes_laicite-8.pdftextes et piste de réflexion  intéressantes pour le prés...
reperes_laicite-8.pdftextes et piste de réflexion intéressantes pour le prés...
 
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdf
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdfPROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdf
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdf
 
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdf
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdfPROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdf
PROGRAM FIS BONNEVAL 2023-2024 PB.docx.pdf
 
Visite dans les Langhe.pdf
Visite dans les Langhe.pdfVisite dans les Langhe.pdf
Visite dans les Langhe.pdf
 
Visite dans les Langhe.pdf
Visite dans les Langhe.pdfVisite dans les Langhe.pdf
Visite dans les Langhe.pdf
 
75-SGN-043-JAL.pdf
75-SGN-043-JAL.pdf75-SGN-043-JAL.pdf
75-SGN-043-JAL.pdf
 
Affiche Récital Entraigues 2023.pdf
Affiche Récital Entraigues 2023.pdfAffiche Récital Entraigues 2023.pdf
Affiche Récital Entraigues 2023.pdf
 
08-08 P. Geneletti.pdf
08-08  P. Geneletti.pdf08-08  P. Geneletti.pdf
08-08 P. Geneletti.pdf
 
1er août 2023.pdf
1er août 2023.pdf1er août 2023.pdf
1er août 2023.pdf
 
vélo.pdf
vélo.pdfvélo.pdf
vélo.pdf
 
07-25 M. MAZENOT.pdf
07-25  M. MAZENOT.pdf07-25  M. MAZENOT.pdf
07-25 M. MAZENOT.pdf
 
07-25 M. MAZENOT.pdf
07-25  M. MAZENOT.pdf07-25  M. MAZENOT.pdf
07-25 M. MAZENOT.pdf
 
07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf
 
07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf07-18 Y. Grand (1).pdf
07-18 Y. Grand (1).pdf
 
programme 2023 (2).pdf
programme 2023 (2).pdfprogramme 2023 (2).pdf
programme 2023 (2).pdf
 
programme 2023 (2).pdf
programme 2023 (2).pdfprogramme 2023 (2).pdf
programme 2023 (2).pdf
 
Affiche du concert du 29 juin 2023 (1).pdf
Affiche du concert du 29 juin 2023 (1).pdfAffiche du concert du 29 juin 2023 (1).pdf
Affiche du concert du 29 juin 2023 (1).pdf
 
programme 2023 (1).pdf
programme 2023 (1).pdfprogramme 2023 (1).pdf
programme 2023 (1).pdf
 

Moderation-2023-Netino-by-Webhelp.pdf

  • 1. LIVRE BLANC 2023 - NETINO BY WEBHELP MODÉRATION HUMAINS & INTELLIGENCE ARTIFICIELLE LES VRAIES QUESTIONS À SE POSER
  • 2. SOMMAIRE I N T R O D U C T I O N 0 4 D A N S Q U E L L E S C I R C O N S T A N C E S P E U T - O N C O N S I D É R E R Q U ' U N C O M M E N T A I R E D O I T Ê T R E R E J E T É ? 0 7 Ê T R E ( T R È S ) R É A C T I F E S T - C E I M P O R T A N T P O U R L A M O D É R A T I O N ? 1 2 F A U T - I L E X T E R N A L I S E R L A M O D É R A T I O N D E S E S C O N T E N U S ? 1 5 1 9 2 1 0 3 Q U ' E S T C E Q U ' U N D I S P O S I T I F D E M O D E R A T I O N R O B U S T E E N 2 0 2 3 ? W E L L - B E I N G D E S M O D E R A T E U R S P L U S Q U ' U N " G O O D T O H A V E " [ I N T E R V I E W ] 2 5 C O N C L U S I O N E T U D E N E T I N O B Y W E B H E L P 0 5 Q U E D I T L A L O I ? 0 9 N O T R E M O D É R A T I O N C H E Z W I Z Z 1 6
  • 3. Un robot n'est pas tout à fait une machine. Un robot est une machine fabriquée pour imiter de son mieux l'être humain Isaac Asimov, Ecrivain et professeur Dans la mesure où elle a besoin d'humain, l'IA n'est ni artificielle ni intelligente" Kate Crawford, Microsoft Research
  • 4. INTRODUCTION Dans le secteur de la modération, un changement de paradigme n'est pas à venir... il a déjà eu lieu ! La découverte par le grand public fin 2022 de l'IA générative, de ChatGPT à Midjourney, a fait ressurgir dans les esprits les fantasmagories dystopiques jusque là cantonnées aux oeuvres de Science-Fiction les plus sombres. Y sommes-nous finalement parvenus, à cet humain surclassé, ringardisé et, en fin de compte, bientôt remplacé ? La matière grise a-t-elle été finalement détrônée par les écrans noirs ? Les observateurs plus tempérés prophétisent plutôt une hybridation progressive des professions du digital, dans une logique d'humain augmenté où la machine se borne à faciliter plutôt qu'à se substituer. Ce qui aurait du sens, si l'on considère l'exemple du secteur de la modération où le modérateur de chair et d'os, bien que désormais largement suppléé par les algorithmes, n'a en rien perdu de sa valeur ajoutée. Au contraire ! N'en reste pas moins que si la modération est de plus en plus (légitimement) considérée par les marques comme une brique essentielle de tout projet communautaire, les modalités de déploiement et les champs d'action d'un dispositif hybride IA/humains demeurent flous pour beaucoup. Nous espérons que le présent livre blanc aidera à répondre aux questions les plus récurrentes ! 0 4
  • 5. ACTUALITÉS DIVERTISSEMENTS SPORTS PETITES ANNONCES GAMING RENCONTRES VOYAGES FINANCES Dans le cadre de ce livre blanc, afin de pouvoir mettre en perspective certaines réflexions, Netino by Webhelp a réalisé une étude sur un échantillon de contenus postés entre avril 2022 et avril 2023, sur une sélection de secteurs représentatifs de l'éco-système participatif du web 2.0 francophone. 0 5 Soit 188 566 955 contenus textes et iconographiques analysés pour le besoin de cette étude SECTEURS FAISANT PARTIE DE L'ECHANTILLON
  • 6. 112 050 831 contenus ont été traités automatiquement, sans intervention humaine dont 25 025 561 contenus rejetés 11 974 278 contributeurs ayant posté au moins 1 contenu 13,3 % Insultes et vulgarité excessive Attaques personnelles entre internautes Spams et Scams Discrimination Diffamation Apologie ou appel à la violence QUELQUES MOTIFS DE REJET 13 852 647 2 246 666 1 421 603 1 100 993 645 458 456 690 0 6 Chiffres-clés DE CETTE ÉTUDE Soit plus que la population de toute la Belgique ! soit une moyenne de 15.7 contenus sur 1 an des contenus rejetés présentaient une toxicité très haute ou haute 61.5%
  • 7. LA LÉGALITÉ 1. 2. LA TOXICITÉ Dans le domaine de la modération, l’arbitraire se doit d’être proscrit. La prise de décision de modération autour d’un contenu peut suivre un arbre décisionnel s’articulant autour de trois critères distincts. Ceux-ci ne rentrent pas en opposition les uns avec les autres, mais cohabitent dans l’éco-système du contrat social participatif. #QUESTION 1 DANS QUELLES CIRCONSTANCES PEUT-ON CONSIDÉRER QU'UN COMMENTAIRE DOIT ÊTRE REJETÉ ? Le contenu est-il une infraction grave, manifeste et objective de la législation en vigueur ? Le non-filtrage de contenus illégaux met en danger la communauté d’utilisateurs, dégrade significativement l’image de la marque auprès du public et, conséquence qui n'est pas la moindre, fait encourir des risques juridiques substantiels pour l’éditeur de la plateforme ou du service. Entrent dans ce cadre les concepts juridiques tels que : la diffamation, la discrimination, les injures publiques, les appels à la violence voire au meurtre, etc. 0 7 Le contenu est-il de nature à dégrader l’ambiance de la communauté ou à gêner la bonne tenue des participations ? Moins susceptibles d’engendrer des conséquences judiciaires que les contenus illégaux, les publications toxiques se révèlent malgré tout insidieusement dommageables pour la communauté, son ambiance, son climat agréable et sécuritaire. Peuvent rentrer dans cette case : le dénigrement entre internautes, les moqueries sur le physique, l’humour noir sur des personnes décédées, mais aussi les spams promotionnels et tentatives d’arnaques etc.
  • 8. 3. LA CONFORMITÉ AUX RÈGLES DE COMMUNAUTÉ O U I 1 2 3 N O N O U I N O N O U I N O N Le contenu enfreint-il les règles personnalisées propres à l’espace communautaire ? Son thème, Ses attentes éditoriales, Sa cible d’audience. Chaque communauté peut avoir ses règles indexées sur : 1. 2. 3. Ainsi, ce qui est peut être considéré comme indésirable sur une plateforme ne le sera pas sur une autre. Publier une photo à caractère érotique peut s’avérer problématique sur un espace communautaire à destination des adolescents, mais peut être considéré comme acceptable dans le cadre d’une application de dating sexy. En fonction de la spécificité de la plateforme, il est donc nécessaire d’avoir des règles communautaires personnalisées et ne rentrant pas en contradiction avec le bon usage du service. 0 8 LÉGALITÉ = OBLIGATOIRE TOXICITÉ = FORTEMENT RECOMMANDÉ RÈGLES INTERNES = PERSONNALISABLES Le contenu est-il illégal ? Est-il toxique ? Est-il en infraction aux règles internes de la communauté ? REFUS REFUS REFUS CONTENU ACCEPTABLE
  • 9. QUE DIT LA LOI ? Les législations sur la modération de contenus telles que la Loi pour la Confiance dans l'Economie Numérique (LCEN) et le Digital Services Act (DSA) peuvent varier selon les pays, mais elles ont toutes pour objectif commun de protéger les droits fondamentaux des individus, tels que la liberté d'expression, la vie privée et la sécurité. 01 Les plateformes en ligne devront proposer aux internautes un outil leur permettant de signaler facilement les contenus illicites (une fois le contenu signalé, elles devront retirer ou bloquer l'accès au contenu illégal) 02 Les market places devront mieux tracer les vendeurs qui proposent des produits/services sur leur plateforme (recueil d'informations précises avant l'autorisation de vente) 03 Les plateformes devront prévoir un système de traitement des réclamations pour les utilisateurs dont le compte a été suspendu ou résilié pour contester cette décision 04 Les très grandes plateformes (+45M d'utilisateurs en EU) et très grands moteurs de recherche auront l'obligation de proposer un système de recommandation de contenus non-fondé sur le profilage et expliciter leurs algoritmes 05 Les plateformes en ligne sont tenues de retirer, dans les plus brefs délais, les contenus clairement illicites signalés par leurs utilisateurs ou par les autorités (contenus racistes, sexistes, pédopornographies, etc) 06 Les plateformes doivent conserver les données permettant d'identifier les auteurs de contenus illicites pendant un an 07 Elles doivent collaborer avec les autorités judiciaires et administratives en charge de la lutte contre les contenus illicites 08 Les plateformes peuvent être tenues responsables pour tout contenu illicite hébergé sans avoir été rejeté après son signalement
  • 10. LA CHARTE DE MODÉRATION, GARANTE DE L’HOMOGÉNÉITÉ DES VERDICTS Dès lors que le cadre est posé, comment garantir la précision et la régularité des verdicts ? Comment s’assurer qu’une Intelligence Artificielle rendra une décision analogue à celle émise par un modérateur humain ? Comment s’assurer d’une homogénéité des verdicts dans une activité aussi éminemment subjective et soumise à l’interprétation individuelle que la modération ? Ces questions sont loin d’être subalternes puisqu’une incohérence des verdicts émis par la modération aura tôt fait de frustrer, puis agacer et, enfin, inciter l’internaute à arrêter d’utiliser le service. Avant même d’être un document pédagogique à destination de la communauté, la Charte de modération se doit d’être un playbook formalisé, exhaustif (bien davantage que la version raccourcie qui sera proposée aux internautes) et enrichi de cas pratiques, à l’usage des modérateurs. 1 0 38 MEDIAS 79 DATING 120 SITES D'ANNONCES LONGUEUR MOYENNE D'UNE CHARTE DE MODERATION DANS LE SECTEUR ... PAGES PAGES PAGES
  • 11. UNE CHARTE NON, DES CHARTES 1 1 Réussir à faire lire les Conditions Générales d’Utilisation à sa communauté demeure un challenge. Une étude menée par l’Internet Society France révélait, de façon assez peu surprenante, que 7 internautes sur 10 ne lisent jamais ou rarement les CGU, sur un panel de 1004 personnes interrogées. Trop longues, trop techniques, trop alambiquées… Les doléances envers ces règles de modération sont multiples et pas foncièrement illégitimes. Les bonnes pratiques commanderaient plutôt de suivre les trois axes suivants : | Visibilité Les CGU relatives à la modération se doivent d’être accessibles à un emplacement proche des modules de participation. Et pas dans un obscur recoin poussiéreux du site. | Transparence La tentation de définir des règles trop généralistes et donc trop floues, peut se révéler pratique pour permettre le rejet de contributions incommodantes pour l’éditeur. Mais peut provoquer de l'incompréhension face à un rejet. | Concision Un bullet point par thème et une phrase pour l’expliciter de façon aussi pédagogique et universelle que possible. Pas plus, pas moins.
  • 12. M U T E 1 2 QUID DE LA PÉDAGOGIE ? Un des principes de la pédagogie auprès d'une communauté est que l’apprentissage passe par la répétition. Supprimer le compte d’un utilisateur d’une plateforme sociale est souvent une réponse tardive à un comportement grave, conséquence d’une dérive plus ou moins longue. Qui plus est, le bannissement définitif d’un compte n’a généralement pour effet que d’inciter l’internaute à se re-créer un nouvel alias dans la foulée. A l’inverse, les avertissements et micro- sanctions peuvent avoir des effets vertueux si et seulement si ceux-ci sont réactifs et systématisés dès les premiers dérapages. Leur application ponctuelle est, elle aussi, dénuée d’effets positifs. Ce ne sont dans le fond que l’extension de pratiques assez répandues sur les espaces de type Chat, lorsque ceux-ci sont modérés correctement. #QUESTION 2 ÊTRE (TRÈS) RÉACTIF EST-CE IMPORTANT POUR LA MODÉRATION ? La modération en ligne est un travail qui consiste à maintenir un environnement sûr, accueillant et approprié pour tous les utilisateurs. Les modérateurs sont chargés de filtrer les commentaires, de supprimer les publications inappropriées et d'empêcher les utilisateurs de violer les règles de la communauté. Dans ce contexte, la réactivité est l'une des compétences les plus importantes que doit avoir un modérateur. B A N N I S S E M E N T A V E R T I S S E M E N T D O W N R A N K I N G Sélectionnez votre sanction
  • 13. Traiter rapidement les contenus toxiques permet de limiter les dommages. Les comportements inappropriés en ligne, tels que la haine, le harcèlement, les insultes et les discours discriminatoires, peuvent se propager rapidement. Si la modération n'intervient pas rapidement pour supprimer ces contenus et sanctionner les auteurs, cela peut engendrer un phénomène d'escalade. En outre, les comportements inappropriés peuvent causer des dommages significatifs aux personnes visées, qu'il s'agisse de préjudice émotionnel, de stress, d'anxiété ou de dépression. En intervenant rapidement, un modérateur peut aider à limiter ces dommages et à maintenir un environnement sûr et accueillant. Les modérateurs doivent être en mesure de reconnaître les signes avant-coureurs d'un conflit et d'intervenir rapidement pour le désamorcer. Les conflits entre les utilisateurs sont fréquents et peuvent causer beaucoup de stress et de confusion dans les espaces de communication en ligne. Cela peut inclure la suppression de commentaires provocateurs, la clarification des règles de la communauté ou la médiation entre les parties. Les actions fines de community management peuvent donc faire partie de la valeur ajoutée de la modération. Si les modérateurs ne sont pas réactifs ou ne prennent pas de mesures pour désamorcer une crise potentielle, les utilisateurs peuvent se demander si la communauté est correctement gérée. En intervenant rapidement et efficacement, un modérateur peut maintenir la crédibilité de la communauté et renforcer la confiance des utilisateurs. Avoir un espace participatif jonché de propos haineux, ou un site de rencontres perclus de faux profils aux intentions plus que douteuses n'est pas "juste" regrettable pour la communauté, elle est dommageable à court et moyen terme pour l'image de la plateforme qui héberge ces contenus et, in fine, sur ses revenus. IMPORTANT, NON. ESSENTIEL, OUI. 1 3 Face à une contribution haineuse d'un autre internaute 32% DES UTILISATEURS FERMENT IMMÉDIATEMENT LA PAGE * sondage Opinionway ** étude Businesswire 70% DES RÉPONDANTS CONSIDÈRENT QU'IL RELÈVE DU DEVOIR DE LA MARQUE de protéger sa communauté de l'exposition aux contenus toxiques * **
  • 14. Lorsque l’on modère un espace, quel qu’il soit, il est important d’avoir à l’esprit que le volume moyen de contenus à traiter est un critère déterminant. Recevoir en moyenne une dizaine de contenus par jour peut demeurer gérable quoique contraignant sur le long terme. Mais en recevoir plusieurs centaines quotidiennement sur une amplitude 24/7 requière une personne dédiée à la tâche. Sans une équipe complète et dédiée appuyée par des outils performants, la charte de modération que vous aurez déterminée ne servira à rien ! Deux solutions s’offrent donc à vous : développer votre équipe en interne ou bien choisir les services d’un prestataire qui saura vous accompagner. Être très réactif permet de conserver une bonne image de marque, d’éviter les Bad Buzz, mais aussi de développer le taux de satisfaction de vos clients. Les internautes sont en effet très « à cheval » sur le temps que l’on accorde à leurs besoins. Il est important de toujours donner une réponse rapide et adaptée aux questions, critiques et remarques formulées en commentaires. Sachez cependant prioriser les messages, de manière à traiter les plus urgents en premier ! Vos espaces publics sur les médias sociaux sont les vitrines de votre marque sur Internet. Page Facebook, Forum… vous avez certes l’impression que ces plateformes sont les vôtres, cependant elles peuvent vite vous échapper ! C’est seulement avec le soutien d’une équipe de modérateurs formés et efficaces à tout moment, que vous serez capables de réaliser une modération sereine, qui saura protéger votre marque, mais aussi vos internautes. COMMENT ASSURER UNE BONNE RÉACTIVITÉ ? 1 4
  • 15. PUBLICATION D'UN CONTENU RÉCEPTION SUR BACK OFFICE ANALYSE ET VERDICT PAR L'IA DÉPUBLICATION IMMÉDIATE MAINTIEN DU CONTENU EN LIGNE ANALYSE PAR UN MODÉRATEUR HUMAIN 1 5 QU'EST CE QU'UN DISPOSITIF DE MODERATION ROBUSTE EN 2023 ? Répondre à ses obligations légales en supprimant de la publication sous 24h un appel au meurtre caractérisé, c'est bien. Mais le faire sous quelques minutes, voire sous quelques secondes, serait mieux. La réactivité est l'une des caractéristiques les plus importantes que doit proposer un service de modération pour assurer la sécurité, la stabilité et la croissance d'une communauté en ligne. L’intelligence artificielle est un outil primordial pour garantir une gestion rapide et efficace des contenus toxiques. A titre indicatif, la moyenne du marché quant à la suppression de contenus indésirables tend à se situer sous la barre des 2 secondes. Mais tout dispositif de modération automatisé n'a de sens que s'il est complété par une équipe humaine qui se doit d'intervenir dans tout ce qui est identifié comme "zone grise" par la machine. #QUESTION 3 Contenu rejeté Contenu accepté Contenu avec incertitude
  • 16. L'ensemble des signalements émis par des utilisateurs sur la plateforme est traité par notre équipe de modérateurs, qui veille sans relâche chaque jour de la semaine sur l'application Wizz . Formés avec rigueur, nos modérateurs sont profondément attentifs à la mise en application de directives très granulaires, afin de cibler au mieux les utilisateurs problématiques sur la plateforme. Ces règles ne sont d'ailleurs pas figées et évoluent constamment pour s'adapter au mieux aux utilisateurs. NICOLAS SUDARSKIS Customer success manager, Netino by Webhelp LA MODÉRATION NETINO BY WEBHELP CHEZ WIZZ Nous collectons et traitons 100% des signalements déposés par les utilisateurs de l’app Wizz en provenance de 20 pays. Grâce à sa plateforme Moderatus, Webhelp a mis en place une interface personnalisée et unique pour permettre à notre équipe de modérateurs de consulter et traiter de façon optimale les importants volumes d’UGC à forte criticité. Notre équipe de modérateurs bénéficie d'un soutien continu de la part de l'équipe Wizz, avec des comités de calibrage réguliers visant à affiner la précision de nos interventions. Ainsi, l'application Wizz collabore de manière rapprochée avec Webhelp, illustrant leur engagement sans faille pour la sécurité et le bien-être de leur communauté, et leur volonté d'assurer un environnement en ligne sûr et convivial pour tous leurs utilisateurs RETOUR SUR EXPERIENCE
  • 17. 1 7 ANALYSE PAR UN MODÉRATEUR HUMAIN DOUTE SUR LE CONTEXTE ET L'IMPACT SUR LA COMPRÉHENSION DU CONTENU PROPOS EMPLOYANT DES ÉLÉMENTS DE LANGAGE NON IDENTIFIÉS MENACE POTENTIELLE ANALYSE CONTEXTUELLE EN TENANT COMPTE DE LA THÉMATIQUE ET ÉCHANGE PÉRIPHÉRIQUE ESCALADE À TASK FORCE IA POUR ENRICHISSEMENT DU MODÈLE ANALYSE DÉTAILLÉE DU CONTEXTE ET SIGNALEMENT POTENTIEL À LA PLATEFORME ET AUX AUTORITÉS MAIS L'IA DANS LA MODÉRATION, QU'EST-CE QUE C'EST EXACTEMENT ? Dans le domaine de la modération, le terme "intelligence artificielle" peut être quelque peu fourre-tout, mais englobe communément 3 dispositifs distincts d'une sophistication et d'une précision variables. En dépit des progrès significatifs effectués ces dernières années, les mécanismes d'IA seuls ne peuvent à date pas encore assurer une modération 100% fiable et qualitative, garantissant aux hébergeurs de plateforme une parfaite sérénité. A raison : outre l'inépuisable imagination pour contourner les règles de la communauté et ainsi poster des contenus toxiques, ce qui nécessite une constante adaptation des dispositifs, le modérateur en chair et en os prend toute sa valeur ajoutée dans la distinction des contenus sibyllins, ironiques, très contextuels, nécessitant une référence socio-culturelle, etc. De même, lorsqu'un contenu indique une potentielle mise en danger de la vie des personnes, il est impératif qu'un humain soit présent dans la boucle afin d'estimer finement la réalité de la menace potentielle et effectuer les actions conséquentes qui s'imposent (y compris le signalement aux autorités) L'IA DANS LA MODÉRATION, PAS ENCORE TOUT À FAIT AUTONOME ?
  • 18. 2. GRAPHES SEMANTIQUES 3. MACHINE LEARNING | DEEP LEARNING Représentation des relations entre différents concepts organisés en arborescence, les graphes permettent une détection affinée par rapport aux corpus de termes précédemment évoqués. 1 8 Sur la base d'un protocole d'annotation de data où des modérateurs humains vont catégoriser des contenus, un modèle d'IA peut être mis en place. Afin de garantir la pertinence du modèle, une masse critique de quelques centaines de milliers de contenus est souhaitable, idéalement issus du scope de la plateforme cible afin de garantir un apprentissage personnalisé. Plus le data set initial sera riche, plus il sera possible d'obtenir un modèle d'IA précis. Attention, il sera toutefois indispensable de conserver dans la boucle des modérateurs humains qui vérifieront et alimenteront la machine avec des nouveaux éléments de langage. PERFORMANCE FACILITÉ D'EXÉCUTION PERFORMANCE FACILITÉ D'EXÉCUTION CORPUS DE TERMES DÉCLENCHEURS - "TRIGGERS" 1. Il s'agit d'agrégats de termes et éléments de phrases admis comme étant indésirables, soit de façon générale, soit spécifiquement sur la communauté. De façon plus raffinée, certains éléments peuvent ne pas déclencher un rejet systématique mais plutôt un routage pour vérification par l'équipe humaine. Une analyse data est généralement préférable pour déterminer statistiquement les termes au scoring de risque le plus important et qui sont donc à prioriser spécifiquement sur l'espace-cible. Ce dispositif risque toutefois de générer des faux-positifs (des rejets illégitimes) en nombre. PERFORMANCE FACILITÉ D'EXÉCUTION
  • 19. #EXPERTISE 1 9 #QUESTION 4 FAUT-IL EXTERNALISER LA MODÉRATION DE SES CONTENUS ? Le métier de la modération est complexe, car en perpétuelle évolution, aussi bien au niveau des bonnes pratiques, des outils et des solutions technologiques. C'est pourquoi il est nécessaire d'être accompagné par une entreprise spécialisée. Les entreprises doivent veiller à ce que les contenus publiés sur leur site et sur les réseaux sociaux soient conformes aux normes éthiques, juridiques et sociales. Tout comme les plateformes doivent s’assurer que chaque utilisateur est en sécurité tout au long de leur navigation. C'est pourquoi de plus en plus d'entreprises externalisent la modération de contenu en ligne à des entreprises spécialisées. Externaliser la modération de contenus en ligne permet aux entreprises de faire appel à des experts spécialisés dans ce domaine, qui se doivent d'apporter : | Un accompagnement sur les best practices Définir des guidelines éditoriales, faire évoluer celles-ci ou repenser la stratégie participative est une tâche complexe, impactante et nécessitant une évaluation fine des avantages et inconvénients. Une entreprise externe peut être plus à même de conseiller la plateforme, par rapport à son expérience sectorielle, mais aussi vis-à-vis de l'accueil de la communauté quant à ces changements. Un bon partenaire externe de modération ne doit donc pas être qu'une solution de production : il se doit d'avoir un rôle de conseil proactif. | Une conformité vis-à-vis de la loi L'évolution régulière de la législation par rapport aux obligations des plateformes met les éditeurs en risque, en cas de manquements. Les changements quant au devoir de réactivité et de suivi des signalements de contenus litigieux font que le prestataire de modération se doit d'adapter son dispositif pour rester conforme. | Une solution technologique La multiplicité des canaux, les volumes très importants de contributions d'utilisateurs et l'impératif de déployer des solutions d'automatisation nécessite l'emploi d'une plateforme unifiée et ergonomique permettant un traitement homogénéisé et industrialisé. Développer en interne ce type de solution est possible mais long, coûteux et requiert une expertise qui peut faire défaut tant les tenants et aboutissants sont nombreux.
  • 20. #GESTION DU TEMPS #RÉDUCTION DES RISQUES #FLEXIBILITÉ & ÉVOLUTIVITÉ Modérer du contenu peut être très chronophage et nécessite une attention constante. Les entreprises qui gèrent elles-mêmes la modération de leurs contenus consacrent un temps considérable à cette tâche, ce qui peut nuire à leur efficacité globale. Externaliser la modération de contenu vous économiserait des ressources et assurerait une gestion des contenus optimale, même en dehors de vos heures ouvrables. On observe en moyenne un taux de rejet de 12% sur ces amplitudes 2 0 Se retrouver face à des contenus à modérer à longueur de journée peut nuire à la santé mentale de la personne qui s’en occupe, que ce soit par le degré de toxicité du contenu ou juste par l’aspect répétitif et -de prime à bord- peu enrichissant de la mission. En l’externalisant, les entreprises peuvent réduire leur exposition à ces risques et protéger leurs employés. Les modérateurs d’entreprises dédiées disposent de processus de protection, de suivi et d’accompagnement au quotidien ainsi que d'outils les préservant des contenus les plus perturbants. Si la marque souhaite tout gérer par elle-même, celle- ci pourrait rencontrer des difficultés face aux pics de trafic ou à des changements de dernière minute dans les normes de modération. Les entreprises spécialisées dans la modération de contenus en ligne peuvent offrir une grande flexibilité en termes de volume de travail et de personnel, afin de s'adapter rapidement à vos besoins changeants. Cette évolutivité peut être particulièrement importante pour les entreprises qui connaissent une croissance rapide ou qui sont confrontées à des événements inattendus, tels que des campagnes de désinformation ou des bad buzz. 29% des contenus postés sur les réseaux le sont sur des heures dites non ouvrées (entre 21h et 8h du matin)
  • 21. WELL-BEING DES MODERATEURS PLUS QU'UN "GOOD TO HAVE" 2 1 Il est important que les modérateurs soient soutenus et encouragés à être très réactifs. Ils doivent avoir des outils de modération efficaces à leur disposition, tels que des filtres automatisés intervenant en amont, des alertes de comportement inapproprié, des systèmes de signalements rapides et des protocoles clairs pour la gestion des situations critiques. Ils doivent également bénéficier d'une formation continue et de l'appui de la communauté et des supérieurs hiérarchiques pour leur travail difficile. #INTERVIEW QUELS SONT LES FACTEURS LES PLUS IMPORTANTS À CONSIDÉRER LORS DE LA MISE EN PLACE DE POLITIQUES DE BIEN-ÊTRE POUR LES MODÉRATEURS ? Conscients que nos modérateurs peuvent être exposés à des contenus perturbants voir choquants, nous avons toujours envisagé la modération de contenu comme une activité à part avec ses défis spécifiques et non comme une activité back-office parmi d’autres. La nature de ce travail peut avoir un impact significatif sur la santé mentale et émotionnelle des modérateurs et il est déjà essentiel de le reconnaitre. Il est important de fournir aux modérateurs un environnement de travail sûr et soutenant, où ils peuvent partager leurs préoccupations et recevoir un soutien adéquat. Les politiques de bien-être doivent inclure des canaux de communication ouverts à tous, des mécanismes de signalement des contenus à risque et des procédures claires pour gérer les situations difficiles. MARTIN LE BARS Trust and Safety Solutions Director, Webhelp Nos sites ont une liste de standards à respecter et nous auditons régulièrement chacun de ceux opérant des activités de modération de contenu par le biais de la société de certification SGS. En parallèle de ces standards globaux nous encourageons les sites à mettre en place des initiatives locales pour mieux répondre aux attentes de nos agents d’un point de vue socio-culturel de la région. Nous allons plus loin en organisant des challenges d’innovation où nous demandons directement aux modérateurs de nous proposer des idées qui visent à améliorer leur quotidien. 32% de participation globale
  • 22. Certains signes avant-coureurs peuvent indiquer qu'un modérateur est en difficulté vis-à-vis des contenus auxquels il est exposé. Ces signes peuvent varier d'une personne à l'autre. | CHANGEMENTS ÉMOTIONNELS Des sautes d'humeur fréquentes, une irritabilité accrue, une tristesse ou une détresse émotionnelle intense peuvent être des signes révélateurs. Les modérateurs peuvent également montrer des signes de colère, d'anxiété ou de dépression. | ISOLEMENT SOCIAL Si un modérateur commence à se retirer de ses collègues, à éviter les interactions sociales ou à se sentir isolé, cela peut indiquer qu'il est en difficulté. | FATIGUE EXCESSIVE L'exposition régulière à des contenus perturbateurs peut entraîner une fatigue émotionnelle et mentale. Les modérateurs peuvent se sentir épuisés, avoir des troubles du sommeil ou manifester une baisse d'énergie globale. | RÉACTIONS PHYSIQUES Des symptômes physiques tels que des maux de tête fréquents, problèmes gastro- intestinaux, douleurs musculaires ou tension peuvent être des signes de détresse liée au travail de modération. | DIMINUTION DE LA PRODUCTIVITÉ OU DE LA QUALITÉ DU TRAVAIL Lorsque des modérateurs ont du mal à se concentrer, à prendre des décisions ou à maintenir leurs performances, cela peut être un indicateur de leur détresse émotionnelle. | ABSENTÉISME Si un agent commence à être de plus en plus absent, ou de plus en plus fréquemment en retard, cela peut être le signe d’un rejet du travail de modération de contenu. 2 2 QUELS SONT LES SIGNES AVANT-COUREURS QUI MONTRENT QU'UN MODÉRATEUR EST EN DIFFICULTÉ FACE À UN CONTENU SENSIBLE ?
  • 23. 2 3 Accès à des programmes d'assistance aux employés sous la forme de Wellness counsellors et de psychologues 24/7. Ces lignes d’assistance téléphonique sont volontairement confiés à des prestataires externes pour permettre à nos agents de se confier dans un environnement neutre. Formations régulières sur la gestion du stress, la résilience émotionnelle, la reconnaissance des signes de détresse et les stratégies d'adaptation. Nous soutenons le bien-être des modérateurs de plusieurs manières. Tout d'abord, nous mettons en place des politiques et des procédures claires pour gérer les contenus perturbateurs et offrir un soutien psychologique aux modérateurs. Voici quelques exemples des ressources mises en place chez Webhelp : LA PRODUCTIVITÉ N’EST PAS UN KPI QUE NOUS REGARDONS DE PRÈS NOUS PRÉFÉRONS NOUS CONCENTRER SUR LA QUALITÉ DE LA MODÉRATION ET SUR NOTRE CAPACITÉ À GARDER NOS PEOPLE HEUREUX QUELLES RESSOURCES ET OUTILS PEUVENT ÊTRE MIS À LA DISPOSITION DES MODÉRATEURS POUR LES AIDER À MAINTENIR LEUR BIEN-ÊTRE ? Investissement dans des outils avancés pour aider les modérateurs à filtrer, classer et gérer plus efficacement les contenus perturbateurs. Cela peut réduire la charge émotionnelle associée au travail de modération. Mise en place d'un canal de lanceur d’alerte pour permettre à nos modérateurs de remonter directement au top management tout comportement managérial qui pourrait les mettre en danger. Mise en place une solution de suivi de la santé mentale de nos agents, People Analytics. En parallèle, nous avons lié un partenariat avec Welbot pour collecter de la donnée médicale sur la base du volontariat tout en assurant une barrière sanitaire entre ces données et Webhelp comme employeur. Cette application permet à nos agents d’accéder à des parcours personnalisés de bien-être. Enfin, nous avons rejoins plusieurs associations professionnelles (TSPA – Trust and Safety Professional Association, Metaverse standard forum, MetaCircle…) pour partager nos bonnes pratiques et bénéficier de celles des autres acteurs du marché. Nous avons également souscrit à un abonnement pour chacun de nos modérateurs à TSPA pour les valoriser et leur montrer qu’ils appartiennent à une communauté de spécialistes du Trust and Safety, qui dépasse leur site de production ou même Webhelp. Cette reconnaissance est pour nous un facteur clé de soutien à leur travail.
  • 24. 16 % 76 % 90 % 2 4 RÉSULTAT DU WELLBEING DES MODÉRATEURS CHEZ WEBHELP Bénéfices humains Avantages commerciaux Bien-être des modérateurs Sens de la communauté Modérateurs compétents et expérimentés Fidélisation élevée des employés Environnement de travail durable Soins au jour le jour Attraction de talents Si le travail de nos agents est de protéger les utilisateurs, notre travail consiste à protéger nos agents de nos modérateurs recommandent Webhelp comme employeur de taux d'attrition chez Webhelp contre une moyenne de 80% dans l'industrie de nos encadrants sont issus de promotions internes en 2022 NOUS PLAÇONS LE BIEN-ÊTRE DE NOS MODÉRATEURS AU CŒUR DE NOS PRÉOCCUPATIONS
  • 25. CONCLUSION 2 5 La modération, un métier à part entière où l'Intelligence Artificielle s'articule autour d'un noyau humain Volumes de contenus en croissance continue, renforcement des dispositions légales vers toujours plus d'obligations pour les éditeurs de plateformes, communautés d'internautes davantage exigeantes quant à la sécurité des espaces... La tendance est à la sécurisation généralisée des espaces contributifs. Si les préjudices de l'exposition aux contenus toxiques sont indéniables pour les internautes, ils ne sont pas moindres pour les marques. Outre les tracas légaux, celles-ci encourent un risque réel de se voir associées inconsciemment aux dérives se déroulant sur leurs espaces contributifs. Avec la déperdition d'audience, de clientèle et, in fine, de revenus que cela implique. Pour éviter d'en arriver là, il convient de sortir des organisations artisanales et dépassées faisant reposer le poids de la modération exclusivement sur du personnel non spécialisé (allant du community manager débordé au stagiaire peu concerné) et sur quelques filtres automatisés à la finesse approximative. Répondre à la double injonction de réactivité maximale quelque soit l'heure et de finesse d'analyse ne peut se faire que grâce à un dispositif de modération professionnalisé combinant le meilleur des deux mondes : la capacité de traitement instantané et illimité de l'Intelligence Artificielle, alliée à l'analyse approfondie du modérateur humain. Et dans un futur immédiat ? L'entrée en application en février 2024 du Digital Services Act et son corollaire d'amendes dissuasives (jusqu'à 6% du CA mondial de la plateforme en cas de manquements caractérisés) ne peut que contribuer à repositionner davantage la modération à sa juste place : au coeur de la stratégie digitale des marques.
  • 26. Besoin de conseils pour naviguer dans l'univers captivant de la modération hybride ? Nous sommes là pour vous ! N'hésitez pas à nous contacter pour échanger et trouver ensemble les solutions qui répondent à vos besoins spécifiques. www.netino.fr adechelle@webhelp.fr MERCI