Masuk tirto.id
tirto.id - Perbincangan mengenai akal imitasi (AI) belakangan ini sering kali terjebak dalam romantisme efisiensi kerja atau ketakutan usang soal robot yang merebut ladang mata pencaharian manusia.
Namun, di ceruk yang lebih gelap—di ruang-ruang siber tempat narasi politik digodok—AI telah berevolusi menjadi sesuatu yang jauh lebih taktis: sebuah pabrik propaganda otomatis berskala masif.
Di Indonesia, tantangan ini bukan lagi fiksi ilmiah. Dengan penetrasi internet yang tinggi dan lanskap politik yang rentan terpolarisasi, integrasi antara Generative AI (GenAI) dan operasi manipulasi informasi asing atau Foreign Information Manipulation and Interference (FIMI) menjadi ancaman senyap yang merongrong fondasi demokrasi.
Celakanya, ketika teknologi ini melesat dengan kecepatan eksponensial, instrumen hukum dan deteksi kita masih merangkak di tempat.
Ketika Propaganda Menjadi Murah dan Otomatis
Selama ini, kita membayangkan operasi manipulasi informasi asing digerakkan oleh tim siber raksasa dengan pendanaan tak terbatas dari aktor negara (state actors). Citra itu kini kedaluwarsa.
Berkat kehadiran Large Language Models (LLM) dan varian barunya yang lebih lincah, Small Language Models (SLMs), proses produksi konten propaganda kini mengalami demokratisasi radikal.
Lukasz Olejnik dari Department of War Studies, King’s College London, dalam penelitiannya yang bertajuk Artificial Intelligence Propaganda Factories with Language Models (2026), membeberkan lompatan mengerikan ini:
"Ketika generasi sebelumnya menjalankan kampanye untuk mempengaruhi masyarakat membutuhkan tim yang besar, penulisan naskah secara manual, pesan yang serupa, atau bots semi-otomatis, maka di era AI terutama teknologi large languange models (LLM) kecepatan tak lagi jadi soal. Produksi konten dapat lebih adaptif sesuai target audiens dengan skala besar namun tim yang kecil. Sistem tersebut dapat memproduksi konten yang persuasif dalam beragam format dengan harga murah."
Artinya, operasi FIMI tidak perlu lagi menyewa ribuan "pendengung" (buzzer) manusia untuk mengetik narasi adu domba satu per satu. Cukup bermodalkan perangkat keras kelas konsumen (commodity hardware), aktor eksternal maupun domestik dapat menciptakan ratusan persona bot berbasis AI yang mampu berinteraksi secara organik, konsisten, dan adaptif di dalam forum diskusi publik digital di Indonesia.
Selama ini, kekhawatiran publik terfokus pada sistem tertutup besar seperti ChatGPT atau Claude. Namun, ancaman sebenarnya justru datang dari Small Language Models (SLMs).
Berbeda dengan model raksasa yang dikontrol ketat melalui API, SLM adalah model "open-weight" yang bisa diunduh dan dijalankan secara lokal di komputer biasa tanpa pengawasan siapa pun.
Inilah awal mula berdirinya "pabrik propaganda". Dengan perangkat keras biasa (commodity hardware), aktor asing dapat membangun pipa produksi konten politik yang stabil, mampu mempertahankan persona tertentu, dan bahkan terlibat dalam percakapan otomatis tanpa input manusia.
"Pabrik propaganda AI saat ini sudah sangat mungkin diwujudkan. Secara spesifik, sistem ini mampu menghasilkan konten menarik dari berbagai jenis, termasuk politik, mempertahankan persona yang konsisten, dan mampu terlibat dalam percakapan tanpa masukan dari manusia," ucap Olejnik.
Karena berjalan secara off-line, aktivitas ini menjadi buram bagi pengamat luar dan sangat sulit untuk diaudit atau dihentikan oleh penyedia layanan teknologi.
Di Indonesia, dampaknya sudah terasa. Sebuah studi menunjukkan bahwa konten fabrikasi yang melibatkan tokoh politik sulit dibedakan oleh setidaknya 30 persen populasi warga Indonesia. Bayangkan jika "pabrik" ini bekerja 24 jam sehari, membanjiri ruang digital kita dengan narasi yang dirancang khusus untuk memicu perpecahan.
Mereka bergerak di bawah radar, melakukan penyusupan ideologis secara mandiri tanpa pengawasan.
Mengapa Mendeteksi Propaganda AI Begitu Sulit?
Tantangan terbesar dalam membendung FIMI berbasis AI di Indonesia terletak pada aspek deteksi.
Propaganda konvensional biasanya menampilan pola yang kaku: takarir (caption) yang seragam, pengulangan tagar yang masif, atau waktu unggah yang mekanis. Pola-pola kasar seperti ini relatif mudah diendus oleh algoritma moderasi konten konvensional maupun pemeriksa fakta manusia.
Namun, AI generatif menghapus semua jejak kaku tersebut. Kampanye berbasis AI mampu menghasilkan teks yang secara kontekstual sangat cair dan memiliki variasi stilistika yang tinggi.
Yang lebih menakutkan, penelitian Olejnik menunjukkan bahwa ketika persona AI ini ditantang dengan argumen kontradiktif di kolom komentar, tim produksi yang kecil ini justru menjadi lebih militan.
"Engagement di media sosial kemudian menjadi daya tekan, jawaban-jawaban atas komentar mesti menghadirkan argumen balasan, menguatkan ideologi tertentu, dan kemungkinan produksi konten akan semakin tinggi," tulis Olejnik dalam risetnya.
Ketika netizen Indonesia mencoba mendebat akun-akun propaganda AI ini, sistem kecerdasan artifisial tersebut secara otomatis meningkatkan kepatuhan ideologisnya dan memperkuat narasi ekstrem tanpa kehilangan kredibilitas bahasanya. Akibatnya, polarisasi di tingkat akar rumput semakin tereskalasi secara masif, memecah belah basis fakta bersama (shared factual baseline) yang krusial bagi ekosistem demokrasi.
Di sisi lain, atribusi hukum terhadap serangan FIMI menjadi teka-teki yang rumit. Dalam hukum internasional, melacak asal-usul serangan siber atau kampanye disinformasi asing tidaklah semudah menunjuk hidung suatu negara. Farhan Julianto, kandidat Master of Public and International Law dari Melbourne Law School, menggarisbawahi hambatan normatif ini.
"Meskipun dunia Barat, terutama Amerika Serikat, sebagian besar menuduh Tiongkok dan Rusia (sebagai aktor propaganda), atribusi yang sah secara hukum sulit dibuktikan di bawah hukum internasional. Sebab, sebagian besar tindakan FIMI terlacak kembali ke entitas swasta atau kelompok siber," tulis Farhan dalam papernya yang berjudul Improving Southeast Asia’s Resilience to Foreign Information Manipulation and Interference (FIMI) Facilitated by Generative Artificial Intelligence.
Sayangnya, saat teknologi berlari kencang, benteng hukum kita justru terlihat lumpuh. Tidak ada hukum internasional tunggal yang mengatur privasi atau manipulasi informasi di ruang digital. Di tingkat nasional, kita sering terjebak dalam dilema doktrin fair use dalam hukum Hak Kekayaan Intelektual (HAKI).
Perusahaan AI sering menggunakan doktrin fair use untuk membenarkan penggunaan materi berhak cipta guna melatih model mereka. Di sisi lain, mereka memperlakukan data tersebut sebagai "rahasia dagang", sehingga publik tidak pernah tahu apakah data personal mereka telah "dikorek" (scraped) dari media sosial untuk membuat konten propaganda yang dipersonalisasi.
Tantangan deteksi semakin berlipat ganda dengan munculnya konten multimodal—audio dan visual. Deepfake audio dan video dianggap jauh lebih persuasif, lebih mudah viral, dan memiliki tingkat kepercayaan yang lebih tinggi daripada sekadar teks. Contoh nyata adalah audio deepfake Anies Baswedan yang sempat viral di masa pemilu, yang menunjukkan betapa mudahnya teknologi ini digunakan untuk memanipulasi sentimen pemilih.
Dalam konteks regional, kita melihat bagaimana audio deepfake Presiden Marcos di Filipina yang seolah menginstruksikan aksi militer di Laut China Selatan memicu reaksi nasional yang hebat. Bagi aktor FIMI, fakta seringkali tidak relevan; yang penting adalah menyebarkan narasi partisan yang bisa memicu emosi sebelum audiens sempat memproses apa yang mereka lihat.
Kusut Masai Regulasi Digital di Indonesia
Ketika hukum internasional terbentur masalah atribusi, beban utama penangkalan otomatis bergeser ke regulasi domestik. Sayangnya, di Indonesia, kesiapan regulasi siber kita masih jauh dari kata ideal untuk menghadapi badai FIMI berbasis GenAI.
Hingga saat ini, Indonesia belum memiliki undang-undang spesifik yang mengatur tentang manipulasi informasi asing maupun standardisasi akuntabilitas penggunaan AI dalam ranah politik.
Perangkat hukum yang kita miliki, seperti UU ITE (Informasi dan Transaksi Elektronik) atau UU Pelindungan Data Pribadi (PDP), dirancang dengan paradigma tata kelola internet konvensional, bukan untuk membendung laju otomatisasi generatif yang digerakkan aktor luar negeri.
Hukum siber domestik kita cenderung berfokus pada hilir—menghukum individu yang menyebarkan berita bohong—daripada menyasar hulu, yaitu infrastruktur koordinasi kampanye dan akuntabilitas platform penyedia model AI.
Padahal, di era di mana konten diproduksi dalam hitungan detik oleh mesin, pendekatan penegakan hukum yang bersifat reaktif pasca-kejadian terbukti tidak efektif dan justru berisiko memberangus kebebasan berpendapat warga negara sendiri.
Ketiadaan regulasi komprehensif ini membuat Indonesia berada dalam posisi rentan. Di satu sisi, ada desakan untuk mengadopsi undang-undang intervensi asing meniru beberapa negara maju. Namun di sisi lain, dalam konteks demokrasi yang mengalami regresi, undang-undang semacam itu dikhawatirkan dapat disalahgunakan oleh otoritas domestik untuk membungkam kritik publik dan oposisi yang sah. Akibatnya, opsi kebijakan kita menjadi sangat terbatas.
Melihat kekosongan regulasi tersebut, pembaruan hukum yang realistis harus segera diinisiasi. Indonesia perlu memperbarui hukum kekayaan intelektual (IP) dan privasi data agar mampu mendeteksi pemanfaatan data ilegal untuk melatih model propaganda, sekaligus menerapkan kewajiban transparansi bagi platform digital.
Salah satu langkah taktis yang bisa diambil adalah memaksa platform dan kreator konten untuk menerapkan pelabelan wajib (content labeling requirements) pada setiap produk yang dihasilkan oleh AI. Langkah ini penting agar publik memiliki panduan yang jelas dalam memilah mana diskursus organik manusia dan mana narasi fabrikasi mesin.
Selain itu, kita perlu memahami bahwa kekuatan utama persona AI yaitu konsistensinya yang luar biasa. Hal ini justru bisa menjadi titik lemah untuk deteksi propaganda di media sosial yang memanfaatkan AI.
Manusia cenderung tidak konsisten dalam berargumen atau memiliki jeda waktu yang tidak teratur saat membalas pesan. Sebaliknya, akun otomatis seringkali menunjukkan konsistensi berlebihan atau excessive consistency. Akal imitasi ini akan mempertahankan posisi ideologis yang kaku di berbagai topik dan waktu dengan pola balasan yang sangat teratur.
Strategi pertahanan kita harus berubah. Kita tidak bisa lagi hanya fokus pada satu atau dua unggahan yang dianggap hoaks. Fokus harus bergeser ke arah deteksi perilaku dan koordinasi.
Untuk meningkatkan ketahanan informasi di Indonesia, reformasi hukum dan operasional tidak bisa ditunda lagi. Berdasarkan analisis para ahli, beberapa langkah mendesak meliputi:
- Labeling Wajib: Platform dan pembuat konten harus dipaksa secara hukum untuk melabeli konten hasil buatan AI dan deepfake agar masyarakat bisa membedakan keaslian informasi.
- Transparansi Data: AI harus diwajibkan untuk mengungkapkan jika mereka melakukan data scraping dari situs web atau media sosial, terutama jika melibatkan data personal subjek data.
- Audit Infrastruktur: Alih-alih hanya menghapus konten, penegakan hukum harus menyasar infrastruktur pendukungnya—seperti jaringan akun palsu (account farms), alat penjadwalan otomatis, dan jaringan proxy.
- Edukasi Publik: Masyarakat perlu diberi pemahaman tentang "beratnya" arti sebuah persetujuan (consent) digital, agar mereka tidak sembarangan memberikan data yang nantinya bisa dipanen oleh aktor FIMI.
Jika tidak, "pabrik propaganda" ini akan terus memproduksi kebohongan yang pada akhirnya akan meruntuhkan kohesi sosial dan kedaulatan nasional kita.
**Tulisan ini merupakan bagian dari program beasiswa liputan yang diselenggarakan oleh Internews dalam rangka Indo-Pacific Media Resilience Program (IPMR).Penulis: Rina Nurjanah
Editor: Anggun P Situmorang
