Bagaimana Algoritma Facebook Memanjakan Para Pesohor

Perbesar

Baca berita dengan sedikit iklan, klik di sini

Poin penting

Facebook menciptakan sistem cek silang yang mengistimewakan kepala negara dan pesohor.
Sistem ini dituding tidak transparan dan tanpa kriteria yang jelas.
Sistem ini membiarkan akun tersebut menyebar konten yang melanggar standar komunitas.

FACEBOOK kembali terguncang setelah Frances Haugen, mantan manajer produknya, membocorkan 10 ribu halaman dokumen internal perusahaan itu kepada konsorsium 17 media Amerika Serikat, antara lain Wall Street Journal, New York Times, dan CNN. Sejak pertengahan September lalu, media-media itu melansir berita berbasis dokumen tersebut—disebut Facebook Papers—yang menunjukkan kegagalan perusahaan teknologi berbasis di Silicon Valley itu dalam mengendalikan konten yang, antara lain, mengandung ujaran kebencian, perihal perdagangan orang, serta informasi yang berpengaruh buruk bagi anak dan remaja.

Baca berita dengan sedikit iklan, klik di sini

"Pemimpin perusahaan tahu bagaimana membuat Facebook dan Instagram lebih aman, tapi tidak akan membuat perubahan yang diperlukan karena mereka telah menempatkan keuntungan astronomis mereka di atas orang-orang," kata Haugen di depan Kongres Amerika Serikat pada akhir September lalu.

Baca berita dengan sedikit iklan, klik di sini

Facebook membantah tuduhan itu. "Ya, kami adalah bisnis dan kami menghasilkan laba, tapi gagasan bahwa kami melakukannya dengan mengorbankan keselamatan atau kesejahteraan orang adalah pemahaman yang salah terhadap kepentingan komersial kami," juru bicara Facebook dalam pernyataan kepada CNN.

Sepekan setelah skandal ini meledak, Dewan Pengawas Facebook bersidang secara daring membahas transparansi perusahaan yang didirikan Mark Zuckerberg itu. Dewan independen yang beranggotakan 20 ahli dari berbagai budaya dan profesi itu menjadi semacam mahkamah agung yang "mengadili" setiap gugatan masyarakat terhadap keputusan raksasa media sosial tersebut. "Sekitar dua pekan lalu panel bersidang dan memutuskan melalui pemungutan suara," ucap Endy Bayuni, editor senior The Jakarta Post dan anggota dewan ini, kepada Tempo, Rabu, 27 Oktober lalu.

Dewan lalu merilis laporan transparansi kuartalan pertamanya. Laporan ini mencakup berbagai kasus yang ditangani pada kuartal keempat 2020 serta kuartal pertama dan kedua 2021. Laporan ini secara khusus menyoroti sistem cek silang (XCheck atau Cross-Check), yang juga mencuat dalam Facebook Papers, dan perlakuan tidak adil terhadap pengguna.

Menurut Endy, moderasi konten Facebook berlapis. Pada lapisan pertama terdapat pemantauan oleh mesin atau algoritma. Mesin ini dilatih untuk mendeteksi unggahan yang melanggar standar komunitas platform ini. Sebagian besar konten yang dihapus sebenarnya dilakukan oleh mesin, bukan orang.

Bila menemukan konten yang meragukan, mesin ini akan meneruskannya untuk ditinjau oleh sekelompok orang yang menjadi moderator. Moderator ini, Endy menambahkan, adalah pihak ketiga atau kontraktor, bukan orang Facebook. Jumlahnya sekitar 50 ribu orang. Mereka terdiri atas sejumlah tim yang menguasai berbagai bahasa. "Ada tim untuk bahasa Indonesia, juga Jawa, tapi bahasa Padang belum ada. Mereka meninjau berdasarkan panduan yang diberikan Facebook," tuturnya.

Sistem cek silang ini merupakan bentuk perlakuan khusus terhadap sejumlah akun dengan profil tinggi dalam penyebaran informasi, seperti kepala negara, pesohor, dan media massa. Program ini adalah lapisan moderasi yang lebih khusus. "Cek silang ini satu lapisan di atas (moderator manusia)," kata Endy. Facebook menyatakan telah memberlakukan standar yang sama terhadap semua akun, tapi, "Beberapa akun ini mendapat perhatian lebih. Misalnya apakah akan dikecualikan atau tidak ketika ada konten yang dapat dianggap melanggar aturan."

Endy mencontohkan konten mengenai terorisme. Misalnya ada media yang menyebarkan berita mengenai sekelompok teroris. "Kalau media itu menulis berita yang mengkritik aksi terorisme, tentu hal itu boleh. Tapi kalau menyebarkan ajaran-ajarannya tentu tidak boleh," ujarnya.

Mantan karyawan Facebook Frances Haugen memberikan bukti kepada Joint Committee on the Draft Online Safety Bill Parlemen Inggris di London, Inggris 25 Oktober 2021. Parlemen Inggris 2021/Annabel Moeller/Handout REUTERS

Kepada Dewan, Facebook menyatakan program cek silang dibikin untuk memastikan setidaknya ada manusia yang meneliti lebih lanjut konten tersebut. "Kami bisa menerima alasannya karena orang-orang dengan profil tinggi punya pengaruh lebih besar dibanding orang biasa," ucap Endy.

Banyak orang yang masuk daftar akun yang ditinjau dengan sistem cek silang. Facebook, kata Endy, tidak akan memberi tahu siapa saja yang masuk daftar ini. Menurut dia, daftar cek silang tersebut dinamis karena Facebook dapat menambahkan akun-akun baru ke daftarnya "sehingga menjadi 5 juta itu".

Kepada Dewan, Facebook mengakui adanya sistem ini, tapi jumlah orang yang masuk daftar itu kecil. Wall Street Journal menyebutkan ada 5,8 juta orang dalam daftar tersebut, termasuk Donald Trump, bintang sepak bola Neymar da Silva Santos Junior, dan Senator Elizabeth Warren. "Kalau memang 5 juta, itu kan tidak kecil," kata Endy.

Menurut Wall Street Journal, sistem cek silang diciptakan untuk mencegah pemberitaan buruk akibat penghapusan foto, tulisan, dan konten lain dari akun-akun penting ini yang seharusnya dibiarkan tayang. Dalam kenyataannya, sistem membiarkan akun-akun ini melanggar aturan hingga berdampak buruk terhadap masyarakat. Juru bicara Facebook, Andy Stone, mengatakan kepada Journal bahwa cek silang "dirancang untuk alasan penting: membuat langkah tambahan sehingga kami dapat secara akurat menegakkan kebijakan terhadap konten yang mungkin memerlukan lebih banyak pemahaman".

Surat kabar Amerika Serikat itu mencontohkan kasus Neymar. Ketika seorang model Brasil menuduh bintang sepak bola Brasil itu telah memerkosanya, Neymar membalas dengan mengunggah foto telanjang sang model di akun Facebook-nya pada 2019. Unggahan itu memang kemudian dihapus oleh Facebook, tapi telanjur disaksikan 56 juta pengguna Facebook dan Instagram. Memo internal Facebook saat itu menyimpulkan perusahaan "sebenarnya tidak melakukan apa yang secara terbuka kita katakan telah lakukan".

Dewan Pengawas mengetahui pertama kali adanya sistem cek silang ini ketika memeriksa kasus Donald Trump. Facebook meminta Dewan meninjau keputusan media itu untuk menghapus sejumlah komentar Trump dan memblokir akunnya karena isinya melanggar standar komunitas. Saat itu Facebook tidak menyebutkan adanya sistem cek silang. Perusahaan itu baru menyinggungnya ketika Dewan bertanya apakah akun Trump melalui proses moderasi biasa.

Menurut Endy, selama Trump menjadi presiden, hanya ada dua unggahannya yang pernah ditinjau Facebook dan tidak diloloskan. "Yang menjadi pertanyaan, (selama itu) banyak unggahan Trump yang berisi ujaran kebencian, kebohongan, dan lain-lain, tapi mengapa diloloskan? Jangan-jangan yang lain diloloskan hanya karena Trump kepala negara," tuturnya.

Dewan telah meminta Facebook menjelaskan cara kerja sistem cek silang dan kriteria akun tertentu yang dapat masuk ke sistem tersebut. Facebook memberikan sedikit penjelasan mengenai sistem ini, tapi tidak menguraikan kriteria yang membuat suatu akun bisa masuk ke sistem.

Masalah Facebook dan media sosial lain sebenarnya berhubungan dengan posisinya sebagai perusahaan teknologi, bukan penerbit, seperti media massa. Dalam hukum Amerika, perusahaan semacam ini dibebaskan dari tanggung jawab atas kontennya. "Kalaupun mereka sekarang memoderasi konten, itu karena banyak kritik, bukan kewajiban secara hukum," ucap Endy.

Menurut Endy, sekarang tergantung Kongres Amerika, apakah perusahaan seperti Facebook akan dianggap sebagai penerbit atau tidak dan akan berdampak pada bisnis mereka. "Kalau keistimewaan (tak bertanggung jawab atas konten) ini dihapus, saya pikir mereka tidak akan bisa besar karena harus bertanggung jawab atas konten," ujarnya.