Media sosial mengedepankan User Generated Content yang menginisiasikan konten oleh penggunanya. Maka dari itu, untuk menjaga alur keamanan dalam konten, dibuatlah konten moderasi. Beberapa platform media sosial sudah menjalankan divisi konten moderasi ini, namun bagaimana tantangan mengenai konten moderasi ke depannya? untuk selanjutnya dapat dilihat pada slide ini . Nabillah Saputri, adalah Anggota SAFEnet pada Divisi Akses Informasi Online. Ia aktif menyuarakan tentang HAM, Feminis dan Seksualitas. . SAFEnet adalah organisasi yang aktif mengkampanyekan dan mengadvokasi kebebasan berekspresi di Asia Tenggara. Selengkapnya di id.safenet.or.id

1. Pentingnya Konten Moderasi
di Media Sosial
Nabillah Saputri

2. Media Sosial dan Perkembangannya
• Total 9 dari 10 pengguna media
sosial dalam lingkup global,
menghabiskan waktu untuk
bermain media sosial
• Hampir 74 % pengguna
perempuan aktif memberikan
engagement di media sosial
(like, comment, share)

3. Konten Moderasi di dalam Media Sosial
• Konten Moderasi mengacu kepada
pemindaian konten yang rentan
merugikan (inappropriate content)
di media sosial.
• Platform media sosial
mengutarakan adanya User-
Generated Content (UGC) kepada
pengguna media sosial itu sendiri
• Konten moderasi memastikan agar
setiap pengguna aman dari setiap
konten yang tersedia dalam bentuk
UGC.
Automated Moderation
• Artificial Intelligent (AI) dalam media sosial secara otomatis memindai
gambar, video, teks dan lainnya yang mengandung moderasi
Pre-Moderation
• Laporan dari pengguna lain dan akan direview dari divisi konten
moderasi di tiap platform
Post-Moderation
• Laporan pengguna akan dimasukan kepada red-flag jika panduan
komunitas terlanggar
Reactive Moderation
• Pengguna dapat mengirimkan laporan langsung ke tiap platform
melalui surel
Distributed Moderation
• Laporan moderasi dari sebuah forum bersama

4. Konten-Konten yang Dapat Dimoderasi
Teks Gambar Video
Live
Streaming

5. Tipe Red Flag
copyright
infringements
hate speech,
nudity,
extremism,
offensiveness,
violence,

6. Violence
Gender Based Violence
• Perbudakan Seksual
Bunuh Diri
• Ancaman Bunuh Diri
Ancaman Penggunaan Jarum Suntik tidak steril
• Peredaran Narkoba

7. Offensiveness
Mengkoordinasi Tindakan Berbahaya dan Mendukung Tindakan
Kriminal
• Mendorong terorisme
Eksploitasi manusia
• Perdagangan orang
Hate Speech / Misinformasi / Trolling yang bersifat kekerasan

8. Nudity
Keterlanjangan Publik
• Eksibionis
• Bentuk Peraba Vulgar
Penyimpangan
• Masturbasi
• Pornografi dengan Binatang

9. Cara memoderasi suatu konten oleh seorang
moderator
Pada konten keterlanjangan (nudity)
dilakukan Teknik RGB Skin Color, yaitu Teknik
Menyamakan kulit manusia di dalam tiap
pixel suatu gambar
Pada konten yang bersifat penyerangan
(offensiveness) bersifat teks, akan dilihat
dengan automatic speech recognizer yang
akan terafiliasi dengan dua betuk output
yaitu irama dan teks pesan

10. Konten Moderasi di Media Sosial
• Pada Pre-Moderated, banyak
yang mengkritik mengenai
pekerjaan yang melibatkan
tenaga kerja professional untuk
mengatasi konten moderasi.
• Laporan di salah satu platform,
pekerja konten moderasi
melakukan transaksi narkoba
dan seksual di tempat kerja
untuk dapat menghindari konten
moderasi di media sosial

11. Tantangan dalam Konten Moderasi :
Shadowbans
• Shadowbans mengisiasikan
pengguna platform media sosial
terhadap konten yang
disembunyikan dari daftar
pencarian platform.
• Hal ini dilakukan dengan cara
mengubah algoritma media sosial
berdasarkan preferensi tertentu
• Pada baru-baru ini, aplikasi tik-tok
telah melakukan shadowbans
terhadap beberapa konten yang
menghina politik China
This Photo by Unknown Author is licensed under CC BY-SA

12. Tantangan dalam Konten Moderasi :
Shadowbans
• Perilaku shadowbans akan
membawa dampak
otoritanisme. Platform akan
menggiring algoritma preferensi
tertentu dalam jangka waktu
tertentu sehingga pengguna
tidak memiliki pilihan
• Shadowbans akan mengubah
politik demkrasi dan
meminggirkan kelompok rentan
ras, agama, suku hingga orientasi
seksual
This Photo by Unknown Author is licensed under CC BY-NC

13. Rekomendasi
Pengungkapan konten
moderasi untuk akun
trolling yang bersifat hate
speech di media sosial
Pendeteksian konten nudity
dapat dilakukan dengan
Automated Moderation
dengan mempermudah
sang moderator
Memoderasi akun
anonimitas yang bersifat
robot (bot)
Menghentikan Shadowbans
sebagai upaya
memfilterisasi atas motif
kepentingan tertentu

14. Lihat lainnya
• Are, Carolina. 2021. The Shadowban Cycle: an autoethnography of
pole dancing, nudity and censorship on Instagram. Journal Feminist
Media Studies
• https://gofishdigital.com/blog/classify-offensive-content/