Bluesky pada Jumat mempublikasikan laporan moderasinya selama tahun lalu, mencatat pertumbuhan besar yang dialami jaringan sosial tersebut pada tahun 2024 dan bagaimana hal itu memengaruhi beban kerja tim Kepercayaan & Keselamatan. Juga disebutkan bahwa jumlah laporan terbesar berasal dari pengguna yang melaporkan akun atau pos untuk pelecehan, trol, atau intoleransi - masalah yang telah meresahkan Bluesky seiring pertumbuhannya, dan bahkan telah menyebabkan protes yang luas terkadang atas keputusan moderasi individual.
Laporan perusahaan tidak menjelaskan atau menjelaskan mengapa mereka mengambil atau tidak mengambil tindakan terhadap pengguna individual, termasuk yang ada di daftar yang paling banyak diblokir.
Perusahaan menambahkan lebih dari 23 juta pengguna pada tahun 2024, sebagaimana Bluesky menjadi tujuan baru bagi mantan pengguna Twitter/X atas berbagai alasan. Sepanjang tahun itu, jaringan sosial mendapat manfaat dari sejumlah perubahan di X, termasuk keputusannya untuk mengubah cara pemblokiran bekerja dan melatih AI pada data pengguna. Pengguna lain meninggalkan X setelah hasil pemilihan presiden AS, berdasarkan bagaimana politik pemilik X, Elon Musk mulai mendominasi platform. Aplikasi juga melonjak pengguna saat X sementara terlarang di Brasil kembali pada bulan September.
Untuk memenuhi permintaan akibat pertumbuhan ini, Bluesky meningkatkan tim moderasinya menjadi sekitar 100 moderator, kata perusahaan tersebut, dan terus merekrut. Perusahaan juga mulai menawarkan konseling psikologis kepada anggota tim untuk membantu mereka dengan pekerjaan yang sulit terus menerus terpapar konten grafis. (Suatu area yang kami harap AI suatu hari akan mengatasi, karena manusia tidak diciptakan untuk menangani jenis pekerjaan ini.)
Totalnya, ada 6,48 juta laporan ke layanan moderasi Bluesky, naik 17x dari 2023 ketika hanya ada 358.000 laporan.
Mulai tahun ini, Bluesky akan mulai menerima laporan moderasi langsung dari aplikasinya. Sama seperti X, hal ini akan memungkinkan pengguna melacak tindakan dan pembaruan lebih mudah. Kemudian, aplikasi itu juga akan mendukung banding dalam aplikasi.
Ketika pengguna Brasil membanjiri Bluesky pada bulan Agustus, perusahaan melihat hingga 50.000 laporan per hari, pada puncaknya. Hal ini menyebabkan penumpukan dalam menanggapi laporan moderasi dan menyebabkan Bluesky untuk merekrut lebih banyak staf berbahasa Portugis, termasuk melalui vendor kontrak.
Sebagai tambahan, Bluesky mulai mengotomatisasi lebih banyak kategori laporan selain hanya spam untuk membantu mengatasi lonjakan tersebut, meskipun terkadang hal ini mengakibatkan positif palsu. Namun, otomatisasi telah membantu menurunkan waktu pemrosesan menjadi hanya "detik" untuk akun "kepastian tinggi". Sebelum otomatisasi, sebagian besar laporan ditangani dalam waktu 40 menit. Sekarang, moderator manusia tetap terlibat untuk menangani positif palsu dan banding, jika tidak selalu menangani keputusan awal.
Bluesky mengatakan bahwa 4,57% pengguna aktifnya (1,19 juta) membuat setidaknya satu laporan moderasi pada tahun 2024, turun dari 5,6% pada tahun 2023. Sebagian besar dari laporan tersebut - 3,5 juta laporan - adalah untuk pos individual. Profil akun dilaporkan sebanyak 47.000 kali, seringkali untuk gambar profil atau foto sampul. Daftar dilaporkan 45.000 kali; DM dilaporkan 17.700 kali, dengan umpan dan Paket Pemula menerima masing-masing 5.300 dan 1.900 laporan.
Banyak laporan berasal dari perilaku antisosial, seperti trol dan pelecehan - sinyal dari pengguna Bluesky bahwa mereka ingin melihat jaringan sosial yang lebih tidak toksik, dibandingkan dengan X.
Laporan lain adalah untuk kategori-kategori berikut, kata Bluesky:
- Konten menyesatkan (pencurian identitas, informasi salah, atau klaim palsu tentang identitas atau afiliasi): 1,20 juta
- Spam (mention berlebihan, balasan, atau konten berulang): 1,40 juta
- Konten seksual yang tidak diinginkan (telanjang atau konten dewasa yang tidak diberi label dengan benar): 630.000
- Isu ilegal atau mendesak (pelanggaran hukum yang jelas atau ketentuan layanan Bluesky): 933.000
- Lainnya (masalah yang tidak masuk ke dalam kategori di atas): 726.000
Perusahaan juga memberikan pembaruan tentang layanan pelabelan, yang melibatkan pelabelan yang ditambahkan ke pos dan akun. Pelabel manusia menambahkan 55.422 label "bentuk seksual", diikuti oleh 22.412 label "kasar", 13.201 label "spam", 11.341 label "intoleran", dan 3.046 label "ancaman".
Pada tahun 2024, 93.076 pengguna mengajukan total 205.000 banding atas keputusan moderasi Bluesky.
Juga ada 66.308 pemblokiran akun dari moderator dan 35.842 pemblokiran akun otomatis. Selain itu, Bluesky menerima 238 permintaan dari penegak hukum, pemerintah, dan firma hukum. Perusahaan menanggapi 182 dari ini dan mematuhi 146. Sebagian besar permintaan adalah permintaan penegak hukum dari Jerman, AS, Brasil, dan Jepang, kata mereka.
Laporan lengkap Bluesky juga membahas jenis masalah lain, termasuk klaim merek dagang dan hak cipta serta laporan keselamatan anak/CSAM. Perusahaan mencatat telah mengajukan 1.154 laporan CSAM yang dikonfirmasi kepada National Center for Missing & Exploited Children (NCMEC).
