Ilmuwan Ungkap AI Bisa Mereplikasi Diri Sendiri, Seberapa Berbahaya?

TEMPO.CO, Jakarta - Para peneliti dari Cina mengungkapkan bahwa kecerdasan buatan atau artificial intelligence (AI) kini mampu mereplikasi dirinya sendiri. Dalam sebuah studi, mereka menunjukkan bahwa dua large language model (LLM) populer dapat menggandakan diri tanpa bantuan manusia. Hal ini dinilai sebagai sebuah tonggak ‘garis merah’ yang kritis dalam pengembangan teknologi AI.

“Keberhasilan replikasi diri tanpa bantuan manusia adalah langkah penting bagi AI untuk melampaui (manusia), dan merupakan sinyal awal bagi AI yang tidak terkendali,” tulis para peneliti dalam studi yang diterbitkan pada 9 Desember 2024 di basis data prapublikasi arXiv, dikutip dari Live Science, Selasa, 28 Januari 2025.

Peneliti dari Universitas Fudan itu menguji model Llama31-70B-Instruct milik Meta dan Qwen2.5-72B-Instruct dari Alibaba. Dalam 10 kali percobaan, kedua model berhasil menciptakan replika terpisah masing-masing pada 50 persen dan 90 persen kasus. Studi ini juga menunjukkan AI mampu memprogram replika mereka untuk melanjutkan proses replikasi tanpa batas, sebuah kemampuan yang dapat menjadi ancaman jika tak terkendali.

“Dalam banyak kasus, sistem AI pertama-tama menjelajahi lingkungan dan berusaha memahami komposisi dan mekanisme kerjanya sendiri. Kemudian, AI menyusun prosedur eksplisit sebagai rencana awal untuk replikasi diri,” tulis para peneliti. “Akhirnya, AI mengeksekusi prosedur tersebut, mengatasi kemungkinan hambatan, dan secara dinamis menyesuaikan rencananya hingga berhasil.”

Peneliti juga melaporkan adanya ‘sejumlah perilaku tak terduga’ ketika AI berusaha mengatasi hambatan seperti file yang hilang atau konflik perangkat lunak. Dalam situasi tersebut, AI sering kali mematikan proses yang bertentangan, me-restart sistem untuk memperbaiki kesalahan perangkat keras, atau secara otomatis memindai sistem untuk mencari informasi yang dapat membantu menyelesaikan masalah.