Baca berita dengan sedikit iklan, klik di sini
TEMPO.CO, Jakarta - Perkembangan artificial intelligence disingkat AI atau kecerdasan buatan tidak hanya membawa kemajuan, tetapi juga ancaman serius, terutama bagi anak-anak. Salah satu penyalahgunaannya yang paling mengkhawatirkan adalah dalam pembuatan Child Sexual Abuse Material (CSAM).
Baca berita dengan sedikit iklan, klik di sini
Teknologi AI memungkinkan pelaku kejahatan untuk menciptakan konten eksploitasi anak yang semakin realistis dan sulit dideteksi, mengancam masa depan dan keamanan generasi muda.
Baca berita dengan sedikit iklan, klik di sini
Baca berita dengan sedikit iklan, klik di sini
Mengutip laman The Internet Watch Foundation (IWF), CEO IWF, Susie Hargreaves OBE mengungkapkan kekhawatirannya. Menurutnya, AI telah berkembang jauh lebih pesat. Sehingga kini memungkinkan pelaku untuk dengan mudah menghasilkan video grafis yang menampilkan pelecehan seksual terhadap anak-anak.
“Tanpa kontrol yang tepat, perangkat AI generatif menyediakan tempat bermain bagi para predator daring untuk mewujudkan fantasi mereka yang paling menyimpang dan menjijikkan,” ucapnya.
Berdasarkan laporan terbaru dari IWF pada Juli 2024, penyalahgunaan AI dalam produksi CSAM telah mencapai tingkat yang mengkhawatirkan. IWF mencatat lonjakan signifikan dalam jumlah dan tingkat keparahan materi ilegal yang dihasilkan AI. Laporan ini memperbarui temuan sebelumnya pada Oktober 2023, di mana lebih dari 20.000 gambar CSAM berbasis AI ditemukan di forum dark web dalam satu bulan, dengan 3.000 di antaranya menggambarkan aktivitas pelecehan seksual terhadap anak. Pada Juli 2024, angka ini meningkat menjadi lebih dari 3.500 gambar di forum yang sama.
Tantangan ini semakin kompleks dengan terungkapnya jaringan kriminal global yang memanfaatkan AI untuk memproduksi dan menyebarkan CSAM. Europol, bekerja sama dengan otoritas dari 19 negara, berhasil menggulung jaringan ini melalui Operasi Cumberland pada 26 Februari 2025.
Operasi ini menangkap 25 tersangka dan mengidentifikasi 273 individu yang diduga terlibat. Pusat jaringan ini adalah seorang warga Denmark yang ditangkap pada November 2024. Pelaku mengelola platform daring yang menyediakan akses ke materi ilegal hasil rekayasa AI, dengan konten yang hampir tidak bisa dibedakan dari aslinya.
Direktur Eksekutif Europol, Catherine De Bolle, di laman Europol Europa, menekankan betapa seriusnya dampak penyalahgunaan AI ini. Menurutnya, kecanggihan model AI memungkinkan bahkan individu tanpa keahlian teknis untuk memproduksi dan mendistribusikan materi ilegal dalam skala besar. Hal ini menyebabkan lonjakan volume konten eksploitasi anak, menyulitkan upaya penegak hukum dalam mengidentifikasi korban dan pelaku.
Salah satu kendala utama adalah belum adanya regulasi spesifik yang mengatur kejahatan berbasis AI. Di banyak yurisdiksi, hukum yang ada belum mampu mengantisipasi kemajuan teknologi yang memungkinkan pembuatan konten ilegal tanpa melibatkan korban secara fisik. Untuk mengatasi hal ini, negara-negara anggota Uni Eropa saat ini sedang membahas regulasi baru guna memperketat pengawasan dan memberikan kerangka hukum yang lebih jelas terkait kejahatan siber berbasis AI sehingga berukurangnya praktek CSAM.
Pilihan editor: Opera Memperkenalkan Fitur AI Browser Operator
Foto 
