Peran Pemeriksa Fakta Menghadapi Deepfake

SEJUMLAH organisasi melaporkan peningkatan jumlah konten deepfake alias konten yang dimanipulasi menggunakan kecerdasan buatan secara global selama satu tahun terakhir. Peningkatan itu terjadi terutama di negara-negara yang melangsungkan pemilihan umum pada 2024. 

Home Security Heroes, perusahaan yang bergerak di bidang keamanan digital, melaporkan terdapat lebih dari 95 ribu konten deepfake pada 2023, meningkat hingga 550 persen dibanding pada 2019. Perusahaan verifikasi digital, Sumsub, juga menemukan peningkatan jumlah konten deepfake pada 2023 sebesar 10 kali di semua industri di dunia dibanding pada tahun sebelumnya.  

Meskipun di Indonesia kita belum melihat dampak signifikan dari konten semacam ini, laporan-laporan tersebut patut menjadi alarm bagi potensi penyebaran deepfake yang mungkin jauh lebih besar pada tahun-tahun mendatang. Terlebih, deepfake yang menyebar di Indonesia terlihat tak hanya berhubungan dengan isu politik, tapi temanya juga meluas ke isu kesehatan, sosial, dan finansial.

Deepfake adalah media sintetis, baik gambar, video, maupun audio, yang dihasilkan melalui teknologi kecerdasan buatan (artificial intelligence/AI) yang tampak seperti asli. Meskipun sejarah manipulasi foto dan video telah terentang jauh sebelum AI generatif dikembangkan, istilah deepfake pertama kali muncul pada 2017 yang digunakan untuk pornografi.

Konten semacam ini berbahaya karena dapat menampilkan situasi yang sebenarnya tidak pernah terjadi. Deepfake memberikan gambaran yang keliru tentang seseorang, menimbulkan kesalahan persepsi, serta dapat menipu khalayak yang sulit membedakan konten asli dengan yang palsu. Karena itu, deepfake mudah disalahgunakan untuk tujuan jahat: memanipulasi informasi, melakukan penipuan keuangan, hingga menyerang jurnalis dan pejuang hak asasi manusia.   

Lonjakan jumlah konten deepfake terjadi karena makin banyak aplikasi AI generatif yang mudah diakses, berbiaya murah, dan mampu menciptakan konten berjumlah besar dalam waktu singkat. Namun pertumbuhan aplikasi AI generatif itu belum didukung regulasi untuk mengatur tata kelola yang berperspektif perlindungan HAM, kecuali undang-undang yang baru-baru ini dimiliki Uni Eropa. 

Di Indonesia, ratusan video deepfake yang menggunakan profil selebritas dan tokoh publik lain kini makin marak dengan modus menjual obat-obatan. Sejumlah pemeriksa fakta mengungkap konten deepfake bertema kesehatan yang mengubah foto atau video mantan Menteri Kesehatan, Terawan Agus Putranto; presenter Najwa Shihab; serta selebritas Deddy Corbuzier dan Christine Hakim seolah-olah mempromosikan dan bertestimoni tentang kemanjuran produk obat.

Produsen konten tersebut memanfaatkan layanan microtargeting di platform media sosial dengan iklan berbayar (ads) yang memungkinkan setiap konten menjangkau lebih banyak audiens berdasarkan data demografi. Ada ratusan iklan obat-obatan menggunakan deepfake dalam ads library Meta—perusahaan pemilik Facebook—yang belum seluruhnya berhasil diverifikasi oleh pemeriksa fakta.

Akun-akun anonim yang menyebarkan deepfake untuk mempromosikan situs judi online juga mulai digunakan dengan mengubah video sejumlah program berita stasiun televisi menggunakan AI audio generatif. Ada pula modus penipuan finansial lewat deepfake video Presiden Joko Widodo yang menggiring warganet menyetorkan data pribadi dengan iming-iming mendapatkan bantuan uang tunai. 

Deepfake dan Pemeriksa Fakta

Media massa, terutama yang menjalankan jurnalisme cek fakta, memainkan salah satu peran penting untuk memonitor, mengidentifikasi, dan membongkar disinformasi. Peningkatan jumlah deepfake menjadi alarm pula bagi jurnalis dan pemeriksa fakta agar dapat meningkatkan kemampuan serta kecepatannya membongkar konten palsu tersebut. 

Namun media di Indonesia, juga secara umum di negara selatan—kelompok negara yang diasosiasikan dengan standar hidup yang lebih rendah dan tingkat kemiskinan tinggi—memiliki hambatan dalam menjalankan peran itu secara ideal. Hal itu disebabkan oleh beberapa faktor.

Pertama, deepfake masih menjadi hal baru bagi sebagian besar jurnalis Indonesia. Dengan wilayah geografis Indonesia yang luas, jumlah media lokal yang besar, dan kesenjangan digital, belum semua jurnalis mendapatkan akses ke pelatihan untuk mengidentifikasi ataupun membongkar deepfake. Padahal, dengan potensi peningkatan penyebaran konten semacam ini, perlu lebih banyak jurnalis yang memiliki keterampilan mengidentifikasi dan menggunakan teknologi untuk melawan konten deepfake.