Baca berita dengan sedikit iklan, klik di sini
TEMPO.CO, Jakarta - Aplikasi berkembang bertambah cepat dengan hadirnya teknologi kecerdasan buatan atau artificial intelligence (AI). Kemampuan AI yang bisa mengedit foto dan video ini termasuk model Generative AI. Dikembangkan untuk memudahkan desainer dalam menghasilkan ide foto, dalam praktiknya tidak jarang Generative AI disalahgunakan semisal memproduksi gambar vulgar.
Baca berita dengan sedikit iklan, klik di sini
Korban dampak buruk pemanfaatan AI luas mencakup orang hingga figur publik. Misalnya kasus yang menimpa Taylor Swift beberapa waktu lalu, badannya diedit sehingga tampak tidak memakai busana sama sekali.
Baca berita dengan sedikit iklan, klik di sini
Baca berita dengan sedikit iklan, klik di sini
Kasus terbaru ditemukan di Apple. Dikutip dari GIZMOCHINA, Senin 29 April 2024, perusahaan besutan Steve Jobs ini menemukan tiga aplikasi di App Store yang mampu mengedit foto seseorang menjadi telanjang. Aplikasi itu sudah tersedia di App Store sejak dua tahun lalu dan baru terdeteksi.
Menurut keterangan Apple, tiga aplikasi itu melabeli dirinya sebagai generator seni. Namun dalam pengaplikasiannya, pengguna bisa menghapus busana yang dipakai oleh objek di foto tersebut. Walhasil orang yang difoto dengan aplikasi ini tampak seperti tidak berbusana sama sekali.
Kemampuan yang dimiliki generator seni model ini sangat berpotensi melanggar privasi dan pelecehan seksual. Meskipun gambar telanjang yang dihasilkan bukan yang sebenarnya, namun korban yang terkena dampak aplikasi ini bisa merasa tertipu, apalagi hasil fotonya dibagikan ke publik.
Beruntung Apple dapat mengetahui kehadiran tiga aplikasi ini di App Store. Sebab jika tidak diblokir, maka bakal banyak penggunanya dan risiko pelanggaran makin banyak terjadi.
Ditambah lagi pada Juni mendatang Apple bakal menggelar Worldwide Developers Conference (WWDC) 2024. Citra perusahaan bisa menjadi buruk di mata publik dengan hadirnya aplikasi pengeksploitasi semacam itu. Lebih lanjut, keinginan Apple untuk mengembangkan AI di perangkatnya juga bakal dipertanyakan oleh pengguna, ihwal kesiapannya dalam mengatur regulasi.
Foto 
