BBC Pada Sabtu (31/08) lalu, sebuah pesan Telegram muncul di ponsel Heejin dari orang yang tidak dia kenal.
“Foto-foto dan informasi pribadi Anda sudah bocor. Ayo kita bicarakan,” bunyi pesan itu.
Ketika mahasiswa tersebut membuka pesan tersebut, dia menerima foto dirinya yang diambil saat masih sekolah beberapa tahun yang lalu.
Lalu ada satu foto lagi, yang sebenarnya adalah foto yang sama. Tetapi yang satu ini eksplisit secara seksual dan palsu.
Heejin, bukan nama sebenarnya, merasa ketakutan. Dia tidak merespons pesan itu, tapi gambar-gambar tersebut terus berdatangan.
Di dalam foto-foto itu, wajahnya ditempelkan pada tubuh yang sedang melakukan hubungan seks menggunakan teknologi deepfake yang canggih.
Deepfake semacam ini, yang menggabungkan wajah orang sungguhan dengan tubuh palsu yang eksplisit secara seksual, semakin banyak dibuat menggunakan kecerdasan buatan.
“Saya membeku, saya merasa sangat sendirian,” kata Heejin kepada BBC.
Namun, Heejin bukanlah satu-satunya.
Dua hari sebelumnya, jurnalis Korea Selatan, Ko Narin telah mempublikasikan berita terbesar dalam kariernya.
Baru-baru ini terungkap bahwa polisi sedang menyelidiki jaringan pornografi palsu di dua universitas besar. Ko meyakini ada lebih banyak lagi jaringan serupa.
Dia mulai menelusuri media sosial dan menemukan puluhan grup obrolan di aplikasi Telegram, di mana para penggunanya membagikan foto-foto perempuan yang mereka kenal.
Mereka menggunakan perangkat lunak AI untuk mengubahnya menjadi foto-foto porno palsu dalam hitungan detik.
“Setiap menit orang-orang mengunggah foto perempuan yang mereka kenal dan meminta foto tersebut diubah menjadi deepfake,” kata Ko.
Ko menemukan bahwa kelompok-kelompok ini tidak hanya menargetkan mahasiswa. Ada grup-grup yang menargetkan siswa SMA, bahkan SMP.
Jika banyak konten yang dibuat menggunakan gambar seorang siswa tertentu, maka akan ada ruang obrolan sendiri khusus orang itu. Ruang obrolan itu diberi nama “ruang penghinaan” atau "ruang teman dari teman”. Biasanya ada syarat yang ketat untuk masuk ke ruang-ruang itu.
Laporan Ko di surat kabar Hankyoreh telah mengejutkan masyarakat Korea Selatan.
Pada Senin, polisi mengumumkan bahwa mereka sedang mempertimbangkan untuk menyelidiki Telegram, mengikuti langkah pihak berwenang Prancis yang baru-baru ini mendakwa pendiri Telegram asal Rusia atas kejahatan yang berkaitan dengan aplikasi tersebut.
Pemerintah telah berjanji akan menindak tegas mereka yang terlibat, dan presiden telah menyerukan agar anak-anak muda mendapatkan edukasi yang lebih baik.
Telegram menyatakan bahwa mereka “secara aktif memerangi konten berbahaya di platform-nya, termasuk pornografi ilegal,” dalam sebuah pernyataan yang disampaikan kepada BBC.
‘Proses yang sistematis dan terencana’
BBC telah melihat deskripsi dari ruang-ruang obrolan ini. Salah satunya meminta para anggotanya untuk mengunggah lebih dari empat foto, dilengkapi dengan nama, usia, dan daerah tempat tinggal mereka.
“Saya kaget melihat betapa sistematis dan terorganisirnya proses ini,” kata Ko.
“Hal yang paling mengerikan yang saya temukan adalah sebuah grup yang isinya siswa di bawah umur di sebuah sekolah dengan lebih dari 2.000 anggota,” ujar dia.
Beberapa hari setelah artikel Ko diterbitkan, para aktivis perempuan juga mulai menelusuri Telegram dan mengikuti petunjuk-petunjuk yang ada.
Pada akhir pekan itu, lebih dari 500 sekolah dan universitas sudah teridentifikasi menjadi target.
Belum bisa dipastikan berapa banyak orang yang menjadi korban, namun banyak di antaranya diyakini berusia di bawah 16 tahun. Sebagian besar terduga pelakunya adalah remaja.
Heejin mengaku mengalami kecemasan parah ketika mengetahui skala krisis dari kasus ini. Dia khawatir berapa banyak orang yang mungkin telah melihat foto deepfake-nya.
Awalnya, dia menyalahkan dirinya sendiri.
“Saya tidak bisa berhenti berpikir apakah ini terjadi karena saya mengunggah foto-foto saya ke media sosial, apakah saya semestinya lebih berhati-hati?”
Sejumlah perempuan dan remaja di Korea Selatan telah menghapus foto-foto mereka dari media sosial atau menonaktifkan akun mereka karena takut akan dieksploitasi lebih lanjut.
“Kami frustasi dan marah karena kami harus membatasi penggunaan media sosial ketika kami tidak melakukan kesalahan,” kata seorang mahasiswa, Ah-eun yang teman-temannya menjadi korban.
Aplikasi Telegram berada di jantung skandal ini. Telegram bersifat privat dan pesan-pesannya dienkripsi.
Aplikasi ini berbeda dengan situs publik lainnya yang dapat diakses dengan mudah oleh otoritas, lalu bisa mengajukan permintaan agar foto-foto semacam itu dihapus.
Para penggunanya sering kali anonim, ruang-ruang obrolannya juga bisa diatur dalam mode “rahasia”, dan konten-kontennya bisa dihapus dengan cepat tanpa meninggalkan jejak.
Fitur ini telah membuat Telegram menjadi ruang yang bagus bagi tindak-tindak kriminal.
Baca juga:
Pendiri aplikasi ini, Pavel Durov, telah didakwa di Prancis pada pekan lalu karena terlibat dalam sejumlah kejahatan yang berkaitan dengan aplikasi ini, termasuk memungkinkan penyebaran pornografi anak.
Namun, para aktivis perempuan menuduh pihak berwenang di Korea Selatan terlalu lama membiarkan pelecehan seksual di Telegram karena negara ini pernah menghadapi krisis serupa sebelumnya.
Pada tahun 2019, terungkap bahwa sebuah jaringan seks menggunakan Telegram untuk memaksa perempuan dan anak-anak membuat dan membagikan foto-foto eksplisit secara seksual.
Pada saat itu, polisi meminta bantuan Telegram untuk membantu penyelidikan mereka, tetapi aplikasi ini mengabaikan ketujuh permintaan mereka.
Meskipun pelaku utama akhirnya dijatuhi hukuman lebih dari 40 tahun penjara, tidak ada penindakan terhadap platform tersebut karena kekhawatiran seputar penyensoran.
“Mereka menghukum para pelaku utama tetapi mengabaikan situasinya, dan saya rasa ini telah memperburuk situasi,” kata Ko.
BBC Park Jihyun, mantan mahasiswa jurnalistik yang mengungkap jaringan seks itu pada 2019, telah menjadi advokat politik untuk korban-korban kejahatan seks digital.
Dia mengatakan sejak skandal deepfake ini terbongkar, murid-murid dan orang tua telah meneleponnya beberapa kali sehari sambil menangis.
“Mereka melihat sekolah mereka masuk ke dalam daftar yang dibagikan di media sosial dan mereka ketakutan,” kata Jihyun.
Sebelum krisis ini terkuak, Lembaga Advokasi untuk Korban Kekerasan Seksual Online Korea Selatan (ACOSAV) mengatakan bahwa jumlah anak di bawah umur yang menjadi korban pornografi deepfake sudah meningkat tajam.
Pada tahun 2023, mereka mendampingi 86 korban remaja. Angka itu melonjak menjadi 238 korban hanya dalam delapan bulan pertama tahun ini.
Dalam sepekan terakhir saja, 64 korban remaja lainnya juga melapor.
Salah satu petinggi ACOSAV, Park Seonghye, mengatakan bahwa selama sepekan staf-stafnya dibanjiri telepon dan bekerja sepanjang waktu.
“Ini keadaan darurat berskala besar bagi kami, seperti situasi perang,” kata dia.
“Dengan teknologi deepfake terbaru, sekarang ada lebih banyak rekaman daripada sebelumnya, dan kami khawatir ini akan terus meningkat.”
Selain memberikan konseling kepada korban, ACOSAV juga melacak konten berbahaya dan bekerja sama dengan platform-platform daring untuk menghapusnya.
Park mengatakan bahwa ada beberapa kasus di mana Telegram bisa menghapus konten atas permintaan mereka.
“Jadi bukannya ini tidak mungkin,” kata dia.
Melalui sebuah pernyataan, Telegram mengatakan kepada BBC bahwa moderator mereka “secara proaktif memonitor ranah publik dari aplikasi tersebut, menggunakan AI dan menerima laporan pengguna untuk menghapus jutaan konten setiap hari yang melanggar ketentuan layanan Telegram”.
Sementara itu, organisasi-organisasi perempuan mengakui bahwa teknologi AI baru ini mempermudah eksploitasi terhadap korban. Menurut mereka, ini hanyalah wujud misogini terbaru yang terjadi secara daring di Korea Selatan.
Pertama, perempuan menjadi sasaran gelombang pelecehan verbal secara daring. Kemudian muncul epidemi kamera mata-mata, di mana perempuan direkam diam-diam di toilet umum dan ruang ganti.
“Akar masalah dari situasi ini adalah seksisme struktural dan solusinya adalah kesetaraan gender,” bunyi sebuah pernyataan yang ditandatangani oleh 84 organisasi perempuan.
Ini adalah kritik langsung terhadap Presiden Yoon Suk Yeol yang menolak eksistensi struktural seksisme, memotong anggaran untuk kelompok-kelompok pendamping korban, dan menghapus kementerian kesetaraan gender.
Getty Images Lee Myung-hwa, yang menangani pelaku pelecehan seksual berusia muda, sepakat bahwa walaupun terkuaknya kasus deepfake tampak tiba-tiba, situasi ini telah lama mengintai.
“Bagi remaja, deepfake telah menjadi bagian dari budaya mereka, dianggap sebagai permainan atau lelucon,” kata konselor yang mengelola Aha Seoul Youth Cultural Centre.
Lee mengatakan bahwa sangat penting untuk mendidik anak-anak muda.
Dia merujuk pada sebuah penelitian yang menunjukkan bahwa ketika Anda memberi tahu pelaku soal kesalahan yang mereka lakukan, mereka menjadi lebih memahami apa yang tergolong pelecehan seksual, dan itu membuat mereka tidak mengulanginya.
Sementara itu, pemerintah menyatakan akan memperkuat penindakan kriminal terhadap pelaku yang membuat dan membagikan foto-foto deepfake, juga akan menghukum mereka yang melihat konten pornografi tersebut.
Hal ini menyusul kritik bahwa tidak cukup banyak pelaku yang dihukum.
Salah satu masalahnya, mayoritas pelaku adalah remaja yang biasanya diadili di pengadilan anak di mana mereka mendapat hukuman yang lebih ringan.
Sejak ruang-ruang obrolan ini terungkap, banyak yang telah ditutup, tetapi hampir pasti ada ruang-ruang baru yang menggantikan.
Sebuah ruang penghinaan telah dibuat untuk menargetkan para jurnalis yang meliput berita ini.
Ko, yang mengungkap kasus ini, mengatakan bahwa hal ini telah membuatnya tidak bisa tidur.
“Saya terus memeriksa grup-grup itu untuk melihat apakah foto saya telah diunggah,” katanya.
Kecemasan yang sama telah meliputi hampir setiap gadis remaja dan perempuan muda di Korea Selatan.
Ah-eun, seorang mahasiswa, mengatakan bahwa hal itu telah membuatnya curiga terhadap kenalan laki-lakinya.
“Saya tidak bisa memastikan siapa orang-orang yang melakukan kejahatan semacam ini di belakang saya, tanpa saya ketahui,” kata dia.
Saya menjadi sangat waspada saat berinteraksi dengan orang lain, dan itu tidak baik.”
Laporan tambahan oleh Hosu Lee dan Suhnwook Lee
Baca juga:
- Gangnam: Ketika skandal seks dan narkoba ilegal mengguncang K-pop
- Dua bintang K-Pop dihukum penjara karena perkosaan: 'Kejahatan tersembunyi' di Korea Selatan
- Jung Joon-young: Bintang K-pop tinggalkan karier musik gara-gara video seks