AI Menuju Arah Dominasi, Peran Manusia Kian Tergerus

tirto.id - Pengembangan teknologi akal imitasi (Artificial Intelligence, AI) kian cepat belakangan ini. Di balik kenyamanan, efisiensi, dan kemudahan diberikan, ada bahaya yang menanti. Apalagi kalau kita, manusia, yang memakainya terlalu bergantung dan tak kritis memakainya.

Artificial intelligence perlahan mulai menggerus peran manusia dan bergerak ke arah dominasi. Karya nyata dan produk imitasi dari teknologi pun semakin kabur bedanya.

Hilangnya batas-batas alamiah manusia yang makin terlampaui oleh teknologi ini yang menjadi bahasan utama dari buku ‘Retasnya Batas di Tengah Dominasi Artificial Intelligence’. Tirto berkesempatan berbincang dengan Firman Kurniawan, penulis buku ini.

Dalam perbincangan pada selasa (25/6/2025) lalu, kami banyak berdiskusi mengenai teknologi AI dan batas-batas yang mulai melampaui kerja manusia. Diskusi kami juga membahas soal perbedaan masa sebelum dan setelah AI menjadi populer di dunia.

Pada akhirnya kami berkesimpulan, teknologi, termasuk AI, pada dasarnya ada untuk membantu manusia. Namun, yang tak boleh kita lupa, produk seperti akal imitasi –setidaknya yang tersedia saat ini– masih banyak keterbatasannya.

Oleh karena itu, kemampuan berpikir kritis yang menjadikan manusia makhluk unggul, harus tetap menjadi modal utama. Ketika kita semakin mengendurkan penggunaan kemampuan berpikir kritis, siap-siaplah untuk dikalahkan teknologi.

Lalu bagaimana kita harus menindaklanjuti perkembangan AI ke depannya? Simak petikan wawancaranya berikut:

Apa alasan bapak punya ketertarikan khusus dengan AI? Sejak kapan membahas hubungan antara manusia dengan teknologi?Sebetulnya pembahasan tentang artificial intelligence ini baru terjadi sekitar 2022, itu waktu dirilisnya ChatGPT. Tetapi perhatian saya terhadap teknologi dan kaitannya dengan manusia, itu berawal dari penulisan disertasi doktor saya. Waktu itu saya menulis tentang manusia di abad informasi. Mengikuti pemikirannya Manuel Castells. Dari penulisan itu, sebetulnya pertanyaan akhirnya adalah; di mana autentisitas atau keaslian, kehakikian manusia itu ketika berhadapan dengan teknologi? Kalau kita ikuti terus teknologi yang semakin berkembang, manusia yang kemudian diarahkan oleh teknologi, itu manusia akan kehilangan autentisitasnya.

Dari disertasi tersebut, kemudian saya ingin membumikan atau ingin membuat menjadi bahasa yang dapat dimengerti banyak orang. Itu saya kemudian memecah tema besar dari disertasi saya itu menjadi tulisan-tulisan kolom di media. Itu mengambil kasus-kasus yang terjadi hampir setiap hari kita berelasi dengan teknologi.

Kemudian saya bahas, ada teorinya yang saya sampaikan dengan ringan, dengan narasi. Kemudian saya kumpulkan itu tulisan-tulisan menjadi 52 tulisan dan berkesinambungan mulai 2019 sampai hari ini menjadi lima buku.

Kalau kita mundur dari 2025, mundur ke lima tahun ke belakang, maka 2019-2020 itu bahasanya tentang media sosial, kemudian tentang etika media sosial, peluang media sosial untuk membangun ekonomi, untuk pendidikan, untuk budaya. Kemudian hari ini ketika kita diwarnai dengan pembicaraan artificial intelligence, maka itu merupakan kesinambungan dari pembahasan teknologi digital. Seperti itu.

View this post on Instagram

A post shared by tirto.id (@tirtoid)

Apa yang membedakan era digital saat ini (era artificial intelligence) dengan era digital sebelum ini?

Mungkin satu soal kapasitas. Jadi, kalau di teknologi sebetulnya memang banyak data digunakan, kemudian digunakan untuk menyusun algoritma, sama sebetulnya di artificial intelligence juga seperti itu, tapi jumlah kapasitas data yang bisa disimpan, diolah, kemudian menghasilkan sebuah output itu di era artificial intelligence lebih masif. Kalau kita lihat juga di era teknologi yang sebelumnya, yang kita sebut sebelumnya, itu (era) media sosial tadi, itu lebih banyak untuk berinteraksi, untuk berkomunikasi.

Memang ada output-output yang mewarnai budaya kita, kehidupan kita menjadi berubah. Sehingga kan sering di era media digital itu disebut industri 4.0, karena ada disruption di situ. Semua praktek-praktek lama yang terbawa mulai zaman teknologi mesin uap, itu sudah berubah total di masa teknologi informasi industri 4.0.

Di era artificial intelligence, kemampuan itu berlipat. Kalau kita lihat, artificial intelligence ada yang artificial narrow intelligence itu, mempunyai kemampuan yang spesifik, misalnya membukakan pintu secara otomatis, kemudian atau mengenali wajah seseorang yang bisa diterima masuk ke dalam rumah atau tidak masuk. Kemudian kalau di bidang jurnalisme, memilah ini informasi tentang olahraga atau tentang keuangan, mereka bisa membedakan secara narrow. Kemudian kan berkembang menjadi generatif AI yang kemampuannya lebih luas, menghasilkan bukan hanya untuk memprediksi sebuah realitas.

Ketika seseorang mempunyai kebiasaan tertentu yang demikian banyak, kemudian kita tanya kalau perilaku berikutnya dengan data yang sebelumnya sudah dimasukkan akan seperti apa. Artificial intelligence bisa membaca itu. Kemudian nanti akan berkembang lebih lanjut lagi artificial general intelligence yang sangat luas, yang kecerdasannya katanya melampaui manusia, yang kemudian itu menjadi “ancaman bagi relevansi manusia”.

Itu perkembangannya sangat signifikan dan bedanya sangat kontras, sehingga tema-tema pembicaraan tentang bagaimana nasib manusia itu justru terjadi di era artificial intelligence dan di era sebelumnya tidak terlalu terjadi, walaupun memang ada replacement seperti itu.

Di buku terbaru ini kan soal meretasnya batas di era AI. Boleh dielaborasi lebih jauh maksudnya retasnya batas ini apakah mendisrupsi hubungan manusia dengan manusia lain?

Ya, sebelum saya membahas itu lebih panjang, saya berterima kasih kepada teman-teman di Tirto diberi kesempatan untuk membahas buku saya yang kelima dengan judul ‘Retasnya Batas di Tengah Dominasi Artificial Intelligence’.

Maksud saya waktu itu memberikan judul retasnya batas, kalau kita renungkan, kita ikuti perkembangan artificial intelligence itu, meniadakan batas. Sebenarnya semua teknologi itu kan mau memperingan pekerjaan manusia. Manusia yang tidak bisa memecah batok kelapa, kemudian diberikan teknologi namanya martil. Nah, kemudian dengan sedikit mengeluarkan tenaga memukulkan martil, batok kelapa sudah pecah.

Nah, hari ini teknologinya menjadi semakin canggih, bahkan mungkin dengan kedipan mata atau hanya memancarkan gelombang elektromagnetik dari sistem saraf kita, tujuan pekerjaan kita ini bisa tercapai. Nah, di situ sebetulnya batas-batas manusia, batas alamiah seperti kemampuan menghitung, kemampuan menahan kelelahan, kemampuan untuk bekerja secara teliti terus-menerus, itu semakin diretas, semakin dilampaui batasnya.

View this post on Instagram

A post shared by tirto.id (@tirtoid)

Demikian juga kemudian batas kemampuan pancaindra untuk mengenali sesuatu yang alamiah, itu sekarang juga dengan teknologi itu semakin –apa namanya, teknologi bisa menghasilkan sesuatu yang tidak bisa dengan mudah dikenali oleh pancaindra.

Contohnya deepfake, kemudian hari ini sebuah karya sinematik itu bisa dihasilkan oleh yang namanya Veo 3, yang bisa menghasilkan karya video dengan cerita yang memukau, dengan gambar yang relatif alamiah. Orang diminta untuk membandingkan mana yang hasil karya murni manusia dengan karya artificial intelligence, itu sudah agak kesulitan.

Nah, di sini kemudian implikasi dari banyak retasnya batas, itu kita berhadapan dengan dunia yang semakin sulit lagi untuk dikenali, mana yang alamiah, mana yang artificial. Nah, ini padahal penting.

Sesuatu peristiwa yang hadir nyata, ternyata di dalamnya substansinya tidak ada acuannya, atau tidak ada faktanya, tidak ada kebenarannya, itu bisa masuk ke dalam cara berpikir kita dan mempengaruhi cara pengambilan keputusan.

Contohnya kalau di bidang politik, misalnya ada seseorang kandidat yang berbicara sesuatu, mengkampanyekan value sesuatu, tapi sebetulnya dia tidak pernah ngomong itu. Nah, di artificial intelligence itu bisa diciptakan.

Jadi, realitas hari ini dengan sangat mudah, batas-batas untuk tadi memproduksi realitas ini dengan sangat mudah hari ini diproduksi. Dan orang yang menyerapnya, itu tidak bisa membedakan yang artificial dengan yang alami.

Apakah berarti AI ini malah memberi dampak yang lebih negatif?

Tergantung dari perspektif kita memandangnya ketika itu digunakan sebagai tadi alat yang meningkatkan kapasitas kemampuan manusia. Jadi, kalau kita lihat dari Veo 3 tadi, itu kan menerjemahkan apa yang menjadi gagasan, ide, konsep orang yang sifatnya abstrak. Kemudian terartikulasi menjadi konkret. Itu kan sesuatu yang harus kita sambut dengan gembira.

Seorang guru yang tadinya bersusah payah menjelaskan proses fotosintesis, tapi dengan dia memerintahkan menggunakan prompt pakai aplikasi tadi, itu tergambar, seperti apa fotosintesis itu terjadi. Dalam hal ini akan lebih mudah mentransformasi informasi pendidikan kepada siswa-siswanya.

Tetapi kalau kemudian digunakan oleh para petualang politik untuk yang penting mencapai kemenangan, para ahli pemasar untuk mempersuasi, tapi kemudian produknya sebetulnya kemampuannya tidak seperti itu, itu tentu membahayakan dan merugikan. Jadi, tergantung ada di tangan siapa artificial intelligence ini.

Apakah malah bisa manusia yang terdominasi AI?

Sangat mungkin. Jadi, rasanya kita tidak perlu menunggu sampai AI itu mampu berpikir seperti manusia. Jadi, manusia itu kan selain kecerdasan, dia juga mempunyai kesadaran, juga mempunyai naluri. Nah, yang hari ini bisa diproduksi oleh artificial intelligence itu kan kecerdasan.

Nah, tentang kesadaran, tentang naluri, dan sebagainya ini masih jadi tanda tanya. Apakah ke depan akan bisa? Ray Kurzweil bilang jalan keluarnya adalah sinergi antara manusia dengan perangkat yang sangat canggih, karena mesin secara teoritis sampai kapanpun tidak tahu itu cara memproduksi naluri. Mesin tidak bisa memproduksi kesadaran. Nah, digabung saja mesin yang sangat canggih dengan manusia yang punya naluri dan punya kesadaran itu. Tetapi belum sampai ke sana saja sebetulnya dengan kecerdasan yang begitu berlipat-lipat. Contohnya para penulis skrip film di Amerika. Dengan kemampuan artificial intelligence memproduksi skenario film, pekerjaan mereka terdesak.

Para jurnalis hari ini di Amerika, di Inggris, di negara-negara Eropa, dan mulai terasa di Indonesia, itu juga pekerjaannya mulai diintip-intip oleh artificial intelligence. Jadi juga para dokter yang selama ini mengandalkan kemampuan pancainderanya, melihat wajah pasiennya, meraba tubuh pasien yang dihadapi, hari ini bersaing dengan peralatan-peralatan yang bersensor, yang bisa lebih akurat mendeteksi penyakit pasiennya.

Nah ini ketika tidak digunakan secara sistematis, AI ini akan menggusur manusia, bukan sekedar mendominasi. Kalau dominasi itu bayangan saya dari 100 orang, 80 orangnya itu digantikan oleh artificial intelligence, kemudian hanya sisa manusia beneran 20. Tapi kalau menggusur ini bisa benar-benar habis itu orang, kemudian semuanya diganti oleh artificial intelligence.

Nah, itu kalau tidak hati-hati memperlakukan artificial intelligence ini, pekerjaan kita memang betul-betul terancam. Soal AI hallucination sebagai salah satu kelemahannya.

Mungkin boleh dielaborasi tentang AI hallucination ini, dan bagaimana ini justru dapat berbahaya untuk kerja-kerja kita?

Betul, jadi kalau kita punya pengalaman menggunakan artificial intelligence, tidak ada satu kesempatan pun waktu bertanya dan tidak dijawab oleh artificial intelligence. Jadi pertanyaannya apapun akan dijawab, tapi jawabannya apapun.

Itu artinya AI itu enggak peduli benar apa enggak, tapi dia akan yang jelas akan menjawab. Nah, itu artinya kita harus curiga apakah jawabannya itu benar apa enggak. Nah di dalam beberapa jurnal dilaporkan, juga di tulisan-tulisan ilmiah populer, misalnya entitas seperti Microsoft itu pernah membuat semacam kantor berita tanpa jurnalis sama sekali.

Jadi berita dihasilkan dari generate artificial intelligence, kemudian editingnya, kemudian penyebarluasannya juga semuanya dengan artificial intelligence, tapi ternyata salah. Pernah memberikan rekomendasi bagaimana cara menikmati Ibu Kota Kanada dalam konteks berwisata, itu disarankan untuk, “jangan sampai ketinggalan datangi ke posko untuk pemberian bantuan makanan dalam keadaan perut Anda kosong,”. Nah itu kan sebuah saran yang tidak etis dan tidak masuk akal.

Setelah ditelusuri, bagaimana itu bisa terjadi karena tidak ada peran manusia yang melakukan editing, melakukan pemeriksaan terhadap kualitas berita. Nah itu yang disebut dengan AI hallucination. Nah, mengapa itu bisa terjadi? Itu tadi algoritma, pemrograman yang ada di dalam artificial intelligence itu memang di-setting untuk selalu menjawab pertanyaan yang artinya ketika sebetulnya tidak ada jawaban yang tepat, dia akan memberikan data apapun.

Nah, sekarang sumber dari kecerdasan itu adalah data. Nah, ketika data itu yang dimasukkan buruk, maka bisa dipastikan yang dikeluarkan juga buruk. Ini pernah juga dialami oleh Microsoft ketika membuat mesin penjawab di Twitter (X) pada waktu itu.

Pertanyaan-pertanyaan tentang Microsoft akan dijawab secara otomatis oleh namanya mesinnya, AI-nya adalah Tay. Tapi kemudian diasup oleh warga negara Amerika itu dengan informasi-informasi yang buruk, yang sifatnya seksis, yang sifatnya misoginis, menghina perempuan. Sehingga ketika ada orang yang serius bertanya, jawabannya juga menjadi buruk. Dalam tempo dua minggu alat itu dibuang oleh Microsoft karena memalukan.

Itu implikasi dari buruknya data akan mengeluarkan jawaban yang salah atau yang berhalusinasi. Itu yang kita harus waspada selalu dengan artificial intelligence ini.

Jangan pernah berpikir dia memberikan jawaban yang mutlak benar atau kita tidak merasa perlu memeriksa lagi. Ada AI bias, ada keterbatasan masa waktu. Ketika hari ini katakanlah kita membuat AI untuk memprediksi perilaku pasar saham.

Data yang dimasukkan mulai 1940 sampai 23 Juni 2025. Nah, dilihat misalnya algoritmanya bilang, kalau tanggal-tanggalnya genap itu jual, kalau tanggalnya ganjil, itu beli. Nah ini sekarang tanggal 24, genap nih, mestinya saya jual. Tapi ketika semua orang berpikir sama, data yang hari ini belum masuk, itu bisa berbeda.

Nah itu makanya kan tidak ada artificial intelligence yang hari ini bisa memprediksi secara tepat untuk memperkirakan perilaku pasar saham atau untuk judi online misalnya. Judi kalau pasti kan jadinya tidak judi kan? Nah enggak ada kan artificial intelligence yang bisa menebak sekarang saya akan menang atau saya akan kalah, kan enggak ada.

Nah itu karena tadi data dari artificial intelligence itu bersifat post-factum yang dia bisa memprediksi berdasarkan data yang lama, terhadap sentimen-sentimen yang baru, yang real time dia mengalami kelemahan di situ. Nah itu antara lain kelemahan-kelemahan dari artificial intelligence.

Artinya kalau menggunakan AI, yang paling penting harus cross-check jawabannya lagi?

Betul, kalau katanya bahasa yang canggih harus tetap berpikir kritis.

Bagaimana perspektif bapak sebagai dosen, terkait perkembangan AI dalam dunia akademik?

Saya selalu melihat perkembangan teknologi seperti ada cerita tentang hikayat Yunani itu kan ada seorang raja yang ketika ilmuwan kerajaannya menemukan abjad. Kemudian dia menolak karena kalau realitas di kerajaan itu nanti dituliskan, kemudian dibukukan dan sebagainya, itu satu ingatan orang bisa menjadi tumpul. Kedua, bisa menuliskan sesuatu yang value-nya itu bertentangan dengan kebijakan kerajaan. Intinya adalah teknologi itu selalu hadir dengan dicurigai. Nah, tapi bayangkan ketika dulu abjad beneran ditolak oleh raja itu. Hari ini kita bagaimana belajar?

Dengan berkaca pada itu setiap saya melihat perkembangan teknologi, saya melihat ini jangan-jangan nanti akan menjadi realitas global di peradaban kita, sehingga mari kita pelajari, mari kita cari cara berpikir dibalik teknologi ini. Demikian juga dengan artificial intelligence, justru kampus dunia akademis itu harus mengajarkan bagaimana dengan tepat menggunakan artificial intelligence termasuk tadi menemukan celah kelemahan-kelemahannya.

Jadi terhadap mahasiswa saya, saya tidak pernah melarang tetapi tadi dengan pagar, tidak 100 persen loh, apa yang diproduksi oleh artificial intelligence ini bisa Anda pakai, kemudian juga Anda punya resiko. Yang berkembang adalah kemampuan artificial intelligence, semakin dia banyak dimasukin data, semakin cerdas dengan machine learning-nya. Dan Anda akan mengalami draining, akan mengalami kognisi yang menjadi tidak berkembang. Siapkah dengan resiko itu? Ketika sudah tahu semuanya, silakan gunakan. Dan tentu saja dengan pagar yang mereka yakini seperti itu.

Berarti sebaiknya penggunaan AI tidak untuk kemampuan dasar ya?

Betul sekali. Nah, itu kemampuan-kemampuan dasar itu harus dikuasai sebelum pakai perangkat.

Bagaimana Anda melihat perkembangan AI di Indonesia? Sebaiknya ke arah mana untuk pengembangan AI ini?

Dalam penglihatan saya yang terbatas, pengembangan AI di Indonesia masih lebih mengikuti ideologi dari pengembang di asal negaranya, Amerika, Cina, dengan semua pertimbangan-pertimbangannya adalah ekonomi. Dengan menggunakan artificial intelligence; lebih cepat, lebih efisien, biaya produksi lebih murah sehingga pertumbuhan akan berlipat. Nah, itu kan janji-janji artificial intelligence.

Indonesia itu ikut seperti itu, Anda kalau pakai artificial intelligence akan pekerjaannya lebih sempurna dan seterusnya. Tapi kemudian Indonesia kan dikenal dengan negara yang padat karya, orangnya banyak, kemudian sehingga butuh lapangan pekerjaan yang banyak. Kalau misalnya kita tahu ada chatbot yang dipakai oleh customer service, itu hari ini satu chatbot bisa menggantikan katakanlah misalnya minimal 50 tenaga manusia.

Kemudian ada sebuah perusahaan yang customer service-nya ada 500 digantikan oleh 10 chatbot, itu kemudian orang-orangnya dikemanakan? Nah, kita sudah siap enggak dengan mitigasi manusia? Katakanlah dengan otomatisasi di pintu tol misalnya dulu ada penjaganya, kemudian sekarang dengan cukup tap portal sudah terbuka, kita bisa berdalih, memang manusia tidak dilahirkan dan dididik untuk membuka dan menutup pintu tol.

Tapi kalau untuk pekerjaan-pekerjaan yang lebih sophisticated seperti dokter tadi yang mendiagnosa pakai tangannya, melihat pakai pancaindranya, kemudian digantikan oleh sensor, ini kemudian mau dinaikkan ke mana? Itu harus siap mestinya pemerintah kita, juga regulasi kita, memitigasi manusia yang digantikan oleh artificial intelligence ini.

Kira-kira pesan apa yang mau disampaikan ke pembaca bapak? Apakah ingin mengarahkan ke yang lebih optimistis atau memberikan peringatan?

Setiap perangkat dan setiap sistem yang kemudian dikemas dalam sebuah bentuk teknologi, itu selalu mempunyai cara berpikir yang khas. Kita mempunyai alat pemotong, namanya pisau, gergaji, parang, golok, itu memang kalau dikonseptualisasi alat pemotong, tapi cara berpikir pakai gergaji itu berbeda dengan cara berpikir pakai golok. Kita pakai komputer untuk tujuan menulis, itu berbeda dengan komputer yang berbasis algoritma, apalagi komputer kuantum, cara berpikirnya berbeda.

Nah, lewat buku ini saya ingin mengajak artificial intelligence ini juga bukan sekadar komputer yang canggih yang bisa melakukan apapun. Nah, ketika hanya sebatas itu yang diyakini, maka justru manusia akan terancam posisinya. Anda pekerjaan apapun akan digantikan oleh artificial intelligence.

Justru hari ini bagaimana caranya kita menerima dengan penuh kebahagiaan artificial intelligence ini, tetapi eksistensi kita, relevansi kita sebagai manusia, sebagai makhluk yang berpikir, itu tidak tergantikan oleh artificial intelligence. Nah, itu misi dari buku ini seperti itu.

Lalu, dengan pemahaman terhadap AI seperti saat ini, akan menjadi seperti apa dunia yang kita ke depan?

Tidak bermaksud pesimistis, tapi yang jangka pendek. Hari ini kita itu merasa semakin sulit percaya pada dunia. Kita sekarang hidup pada dunia yang semakin sulit dibedakan yang mana yang asli, yang mana yang artificial. Bahkan realitas yang kompleks pun itu sekarang bisa diproduksi oleh artificial intelligence.

Nah, apakah kemudian kita menyerah? Ya, memang begitulah konsekuensi dari maraknya artificial intelligence? Tentu tidak. Nah, ini kita tadi dengan cara berpikir kritis, mengetahui apa kelemahan artificial intelligence, kemudian bahwa cara bekerja artificial intelligence adalah data yang kemudian dipelajari secara deep learning oleh perangkat, maka cara untuk kita tadi kembali pada fungsi manusia yang berpikir dan berakal adalah terus-menerus learning, terus-menerus belajar. Tadi akhirnya akan bisa membedakan yang mana yang AI produk dan mana yang human product.