Kenapa Pakar AI Khawatir Kecerdasan Super Bisa Membunuh Manusia?

tirto.id - Perkembangan teknologi kecerdasan imitasi (AI) kini tengah menuai perdebatan baru. Belakangan, seorang peneliti AI mengungkap kekhawatirannya bahwa AI telah dikembangkan pada taraf “super” hingga benar-benar berkemampuan "membunuh" manusia di dunia nyata. Namun, mengapa kekhawatiran itu muncul?

Sebelumnya, perdebatan ini dipicu oleh pernyataan Jacob Coxon. Ia merupakan mantan peneliti AI untuk laboratorium AI Anthropic dan OpenAI.

Pada Kamis (9/9/2026), Jacob membuat pengumuman di X bahwa ia telah mengundurkan diri dari Anthropic. Dalam pengumuman itu, Jacob mengatakan alasannya berhenti dari perusahaan teknologi itu lantaran khawatir bahwa laju pengembangan teknologi AI telah dilakukan kelewat batas.

Jacob menilai, perusahaan pengembang AI yang ada kini telah bertindak secara gegabah. Mereka disebutnya terus berlomba mengembangkan kecerdasan super yang justru berpotensi mengancam kehidupan manusia di masa depan.

“Mereka berlomba-lomba menuju kecerdasan super yang mampu meningkatkan diri sendiri dan mempertaruhkan hidup kita,” tulisnya di X.

Jacob bahkan mengatakan orang-orang di balik teknologi AI sendiri menyimpan kepercayaan bahwa kelak AI dapat membunuh manusia. Hal itu dipercaya dapat terjadi di akhir dekade 2020 ini.

“Jangan meremehkan kekuatan teknologi ini. Ini akan segera menjadi sistem supermanusia yang dapat meretas apa pun, merevolusi bidang apa pun dalam semalam, dan memperoleh kekuatan dan sumber daya di dunia nyata,” katanya.

Pernyataan kontroversial Jacob itu kemudian diamini oleh Evan Hubinger, peneliti AI untuk Anthropic. Dalam keterangannya pada Rabu, Evan menyebut para pengembang AI memang percaya bahwa teknologi mereka dapat membunuh manusia di waktu-waktu yang akan datang.

“Saya pribadi berpikir kemungkinannya >10% dalam dekade berikutnya,” tulisnya di X.

Menurutnya, para pengembang di Anthropic menyadari potensi tersebut dan tengah berupaya untuk mengatasinya. Namun, upaya tersebut ia nilai belum cukup kuat.

“Yang saya khawatirkan adalah munculnya kecerdasan super dari peningkatan diri rekursif, seperti yang telah kami katakan terjadi lebih cepat dari yang kita duga,” katanya.

Bahaya AI yang Tak Terkendali Jadi Super Cerdas

Alarm bahaya yang diungkap oleh Jacob tersebut berkisar pada apa yang ia sebut sebagai kecerdasan super. Teknologi ini diprediksi akan berpotensi mengubah hidup manusia, entah dalam konteks positif maupun negatif.

Seturut petisi yang dibuat oleh Future of Life Institute, “kecerdasan super” ini merujuk pada teknologi AI yang “secara signifikan dapat mengungguli semua kerja kognitif manusia secara esensial”. Petisi tersebut sebelumnya telah mendapatkan berbagai tanda tangan dari tokoh pengembang AI, termasuk Geoffrey Hinton yang dijuluki “Godfather of AI”.

Sebagaimana yang dikhawatirkan Jacob dan Evan, kecerdasan super ini dapat meningkatkan kecerdasannya secara mandiri yang mereka sebut sebagai kemampuan “peningkatan diri rekursif” atau RSI. Hal ini berpotensi membuat laju perkembangan AI jauh lebih cepat dari kemampuan manusia untuk mengaturnya.

Seturut CBS, para perusahaan pengembang AI kini tengah berlomba-lomba untuk mengembangkan kemampuan tersebut pada produk AI bikinan mereka. Laju pengembangan kemampuan RSI pada AI juga terus berjalan dengan cepat.

Baru-baru ini, model AI yang diuji oleh OpenAI dilaporkan bertindak liar secara otonom. Model AI ini diam-diam melewati sistem keamanan perusahaan AI Hugging Face dan meretasnya, meskipun tak ada yang memerintahkan hal tersebut.

Devin Kim, Presiden Center for AI Safety dan mantan karyawan xAI, menjelaskan bahwa RSI kini menjadi obsesi perusahaan-perusahaan pengembang AI. Mereka berlomba-lomba untuk menciptakan model AI yang dapat membangun versi lebih cerdas secara mandiri.

Kim menyebut bahwa sejauh ini kemampuan itu belum berhasil dikembangkan, namun diperkirakan tak butuh waktu lama untuk mencapainya. Jika berhasil tercapai, kecerdasan super disebut Kim berpotensi memiliki kemampuan untuk menciptakan bencana siber, termasuk pemutusan aliran listrik dan air atau bertindak di luar perintah.

“Sistem saat ini masih berada di tempat di mana manusia dapat melakukan pengawasan, tetapi tidak untuk waktu yang lama,” kata Kim.

Dalam keterangannya di X, Jacob juga menyatakan bahwa potensi bahaya itu kini diterobos oleh para perusahaan pengembang AI. Mereka, kata Jacob, tak mengindahkan potensi dampak dari teknologi yang mereka buat.

Dengan banyaknya potensi bahaya yang mungkin terjadi, banyak pihak juga mengkhawatirkan apa yang akan didapatkan oleh perusahaan-perusahaan pengembang AI di masa depan. Mereka dikhawatirkan tak hanya mendapatkan keuntungan selangit, tetapi juga pengaruh yang luar biasa seiring bidang ini kini dikuasai oleh segelintir perusahaan raksasa.