AI di Tangan Bandit: Dari Deepfake hingga Surel Palsu

tirto.id - Sebuah unggahan video yang menampilkan Presiden Prabowo Subianto muncul di jagat internet dan menjadi viral. Video tersebut menampilkan Prabowo yang sedang menyampaikan pidato terkait bantuan sosial kepada masyarakat Indonesia.

Sekilas, video tersebut memang menampilkan figur Presiden Prabowo. Ada yang menampilkan Prabowo mengenakan beskap biru dongker, ada pula video dimana Prabowo duduk di ruang kerjanya. Siapa sangka, video itu ternyata hanya manipulasi AI belaka, dengan metode deepfake.

Pada 23 Januari 2025, Bareskrim Polri menangkap AM, pria 29 tahun asal Lampung, atas kasus deepfake video Prabowo. Sementara pada 7 Februari atau dua minggu kemudian, giliran JS (25) yang ditangkap Polri dengan tuduhan serupa. Keduanya melakukan penipuan terhadap ratusan korban dengan video deepfake Presiden Prabowo dan meraup duit haram hingga puluhan juta rupiah.

Modusnya sederhana, mereka mengunggah video-video tersebut ke media sosial, dengan bumbu narasi video bahwa pemerintah akan memberikan sejumlah bantuan sosial. Pelaku mencantumkan nomor seluler dengan dalih berposisi sebagai admin. Korban yang terpancing bakal mengontak nomor itu dan diminta membayar biaya administrasi untuk menebus bantuan.

Direktorat Tindak Pidana Siber atau Dittipidsiber Bareskrim Polri mengungkap, JS berhasil meraup keuntungan Rp65 juta setelah menipu 100 korban. Sementara AMA meraup Rp30 juta dalam 4 bulan terakhir, sebelum ditangkap Bareskrim. Ternyata, AMA telah melakukan modus penipuan menggunakan deepfake sejak 2020.

Deepfake merupakan konten manipulasi dalam bentuk video atau audio yang dibuat dengan perangkat teknologi kecerdasan buatan atau artificial intelligence (AI). Kiwari, konten-konten semacam ini digunakan untuk modus penipuan dengan cara mencatut figur pejabat negara maupun pesohor ternama. Mereka dinarasikan memberikan bantuan cuma-cuma, bagi-bagi uang, mempromosikan bisnis tertentu, hingga memberikan hadiah atau giveaway.

Selain mencatut sosok Presiden Prabowo, sebelumnya sempat ramai juga konten serupa yang mencatut figur Wakil Presiden Gibran Rakabuming Raka serta Menteri Keuangan Sri Mulyani Indrawati. Tirto pernah membuat artikel bantahan terhadap konten misinformasi yang menggunakan deepfake tersebut.

Beberapa waktu lalu, Tirto pernah berbincang dengan salah satu narasumber yang hampir menjadi korban penipuan menggunakan modus deepfake mencatut Prabowo. Sebut saja namanya Tala (32). Ia saat itu sedang dalam kondisi pas-pasan, uang di rekeningnya tersisa Rp4 juta. Kejadian ini terjadi pada September tahun lalu. Ketika tengah iseng membuka Facebook, ia terpapar konten media sosial dengan ‘umpan’ video monolog Prabowo.

“Waktu itu kalau gak salah di Facebook, lagi scroll, kan biasa suka ada kayak advertisement gitukan, muncul sendiri. Di situ ada cerita tentang sumber pendapatan (Presiden) Prabowo," terangnya saat bicara dengan Tirto, Februari 2025 lalu.

Tala mengklik sebuah tautan yang muncul di akhir video tersebut. Dia dilempar ke sebuah situs yang berisikan artikel dengan narasi wawancara Prabowo dengan salah satu media internasional. Senada dengan video di Facebook yang Tala jumpai, artikel itu membahas sumber pendapatan Prabowo. Dalam artikel tersebut dikatakan Prabowo investasi trading di salah satu platform dan mengajak orang-orang untuk ikut.

Di bagian akhir halaman situs, terdapat fitur pendaftaran. Sudah dibutakan dengan peluang menambah harta, Tala memberikan informasi pribadinya.

“Dalam beberapa menit ada nomor asing telepon gue,” terang Tala. Bukan hanya nomor tak dikenal, nomor yang menghubunginya juga berawalan (+65), nomor telepon Singapura.

Setelah itu dia mendapat link dari lawan bicaranya yang mengarahkan ke akun profil dengan tulisan nilai investasi 250 dolar AS. Si penipu meminta Tala mengirimkan lagi uang saat dia ingin menarik sebagian uang di ‘rekening’-nya itu. Di titik ini, Tala menyadari bahwa dirinya sedang berusaha dijebak dengan sebuah modus scam. Setelahnya, ia menyadari bahwa video Prabowo yang ditontonnya merupakan hasil manipulasi deepfake.

“Akhirnya ya cuman bisa kata-katain lewat HP itu aja sudah,” terang dia lagi.

Kesialan serupa juga hampir menjerat Ridwan (28), pria asal Kabupaten Bogor pertengahan bulan Juni 2024 lalu. Siang itu, tiba-tiba sebuah telepon masuk ke nomor gawainya. Suara di ujung telepon yang terdengar seperti perempuan itu, mengaku sebagai pihak Telkomsel. Ia menyebut bahwa Ridwan menunggak tagihan telepon dan datanya disalahgunakan oleh orang di Sulawesi Utara.

Sejurus kemudian, muncul telepon berbeda dari seseorang yang mengaku sebagai polisi dari Polda setempat. Pria yang mengaku polisi itu meyakinkan Ridwan dengan meminta sejumlah data pribadinya. Sontak membuat Ridwan panik dan menuruti permintaanya. Tak lama, Ridwan diminta melakukan panggilan video lewat aplikasi Telegram.

Dalam tampilan layar panggilan video, Ridwan dihadapkan oleh seorang berseragam polisi. Polisi itu juga menunjukan sebuah laporan berkas perkara atas nama Ridwan. Di sinilah “bau amis” disadari Ridwan, ia tak pernah merasa pernah melakukan dugaan tindak pidana yang dituduh. Selain itu, panggilan video yang tampil pun janggal karena terasa kaku dan antara ucapan serta bibir pria berseragam polisi itu tidak sinkron. Ridwan lantas langsung mematikan teleponnya dan memblokir seluruh nomor yang dipakai para pelaku.

“Gue baru sadar pas ada kertas BAP dan kok polisinya enggak gerak banyak padahal dia ngomong cepet banget suaranya. Baru ngeh ah sial nih AI pasti, dan gue nyadar itu penipu akhirnya. Secara materi nggak diambil, tapi data pribadi dan wajah gue udah kena,” kata dia kepada Tirto, Rabu (11/6/2025).

Praktisi keamanan siber, Alfons Tanujaya, menyatakan bahwa perkembangan teknologi AI di tingkat global memang membawa kerentanan terhadap meningkatnya kejahatan siber. Pada konteks Indonesia, fenomena ini menjadi lebih memprihatinkan lagi dengan tingkat literasi digital masyarakat yang tergolong masih rendah. Hal ini terbukti dengan tingginya serangan dan kejahatan siber dari tahun ke tahun.

Berdasar data Direktorat Tindak Pidana Siber Bareskrim Polri (Dittipidsiber), dalam empat tahun terakhir ada tren kenaikan laporan kasus kejahatan siber. Dittipidsiber juga mencatat sejak tahun 2022 sampai 23 Januari 2025, Polri telah menangani lebih dari 32 ribu terlapor tindak pidana kejahatan siber dan mencatat lebih dari 29 ribu korban.

Alfons menilai, penyalahgunaan AI untuk modus penipuan membuat metode yang digunakan oleh para penjahat menjadi beragam.

“Caranya macam-macam, baik dengan memalsukan diri sebagai pegawai customer service bank, memalsukan sebagai petugas pajak, polisi, atau dari gubernur yang menjanjikan sesuatu tapi harus transfer uang dulu,” kata Alfons kepada Tirto, Selasa (10/6/2025).

Ketika masa Pilkada dan Pilpres 2024 lalu, Tirto bahkan banyak membongkar konten-konten deepfake menggunakan AI yang mencatut calon-calon kepala daerah. Banyak narasi pada konten video tersebut dicurigai mengarah kepada modus penipuan atau pengambilan data pribadi.

Misalnya, video disinformasi terkait Andika Perkasa yang menjadi salah satu calon gubernur Jawa Tengah saat itu. Tirtomenemukan unggahan dari akun TikTok @andika_perkasa91 pada Rabu (30/10/2024). Akun itu mengunggah video Andika berlatar belakang bendera merah putih dan berkata membagikan uang Rp25 juta untuk siapapun yang sudah mengikuti akun tersebut. Hasil analisis True Media menunjukkan, baik gerakan wajah dan suara di video tersebut, terindikasi dibuat oleh AI.

Konten lain yang dibongkar Tirto kala itu adalah video yang mencatut Dedi Mulyadi. Pria yang kini resmi menjabat sebagai Gubernur Jawa Barat itu pernah dicatut dalam konten di TikTok berencana menggelontorkan puluhan juta sebagai rasa terima kasih sudah dipilih dalam kontestasi Pilkada Jabar. Video itu menampilkan rekaman Dedi sedang berada di dalam mobil. Dedi dalam video menyatakan syukur atas kemenangannya. Hasil penelusuran Tirto, video itu merupakan hasil buatan teknologi buatan/AI.

Contoh lainnya, konten video yang menampilkan Gubernur Jakarta Pramono Anung hendak membagikan uang sebagai nazar atas kemenangan di Pilkada Jakarta 2024. Penelusuran Tirto, akun TikTok pengunggah klaim itu bukanlah akun resmi Pramono Anung. Berdasarkan identifikasi menggunakan perangkat pemindai AI, kemungkinan besar video itu merupakan hasil manipulasi AI.

Jumlah Konten Deepfake Naik

Maraknya penyalahgunaan AI dengan metode deepfake yang bertujuan sebagai modus kejahatan siber juga tergambar dalam beberapa survei global. Hasil survei yang dilakukan oleh Sumsub mendeteksi, terjadi peningkatan konten deepfake sebesar 245 persen pada tahun 2024, di seluruh dunia, dibandingkan tahun 2023. Temuan itu menunjukkan pertumbuhan konten deepfake di negara-negara yang tahun 2024 menyelenggarakan pemilu, seperti di Amerika Serikat, India, Indonesia, Meksiko, dan Afrika Selatan.

Pertumbuhan jumlah konten deepfake di masa Pemilu itu terpantau terjadi di India (280 persen), Amerika Serikat (303 persen), Afrika Selatan (500 persen), Meksiko (500 persen), Moldova (900 persen), Indonesia (1.550 persen), dan Korea Selatan (1.625 persen).

Direktur Eksekutif Indonesia ICT Institute, Heru Sutadi, menyatakan bahwa berbagai modus kejahatan menggunakan AI memang tengah pesat berkembang. Metode deepfake yang menghasilkan video atau audio palsu memang yang paling menonjol saat ini. Selain itu, juga terdapat modus phishing berbasis AI.

“Akan ramai email atau pesan WhatsApp yang dipersonalisasi menggunakan AI, tampak sangat meyakinkan karena meniru gaya komunikasi korban. Kemudian, ada juga chatbot AI yang menyamar sebagai layanan pelanggan bank atau e-commerce untuk mencuri data pribadi,” ucap Heru kepada wartawan Tirto, Rabu (11/6/2025).

Di banyak negara, kata Heru, AI juga digunakan untuk membuat iklan atau situs web palsu yang menawarkan investasi bodong dengan analisa pasar yang seolah profesional. Terlebih, AI juga bisa menghasilkan akun-akun palsu atau konten viral yang bertujuan menyebarkan disinformasi, seperti penipuan undian atau donasi.

Kejahatan siber semacam ini semakin berbahaya karena sulit dibedakan dari komunikasi organik. Berdasarkan data Patroli Siber Polri, laporan masyarakat terhadap kasus penipuan daring memang menduduki peringkat pertama dibandingkan tindak kejahatan siber lainnya.

Sementara itu, berdasarkan laporan tahunan Badan Siber dan Sandi Negara (BSSN) pada tahun lalu, modus kejahatan phishing memang mengalami peningkatan yang signifikan. Hal ini menandakan bahwa kejahatan siber ini semakin berkembang dan berpotensi lebih masif dengan peluang penyalahgunaan AI.

Secara global, modus phishing turut berkembang pesat dengan penggunaan AI. Berdasar laporan KnowBe4 yang dirilis Maret 2025 lalu, modus phishing menggunakan surel palsu yang mengincar lini bisnis/organisasi mengalami peningkatan 17,3 persen ketimbang periode enam bulan sebelumnya.

Laporan tersebut menemukan bahwa 82,6 persen dari semua e-mail phishing yang dianalisis menunjukkan penggunaan AI. Lima perusahaan paling banyak yang ditiru oleh para penipu itu sebagai modus penyamaran adalah Microsoft, LinkedIn, Docusign, Paypal, dan Adobe.

Menurut Heru Sutadi dari ICT, kondisi menuntut masyarakat untuk getol meningkatkan literasi digital. Termasuk mewaspadai ciri-ciri penipuan, seperti tautan mencurigakan atau permintaan data pribadi. Jika menerima panggilan atau video dari seseorang yang meminta uang, hubungi kembali melalui saluran resmi untuk memastikan keasliannya.

Waspadai juga tawaran-tawaran yang tampak tidak realistis, seperti investasi atau hadiah dengan iming-iming keuntungan besar dalam waktu singkat. Namun, peran vital pemerintah merupakan unsur yang paling dinantikan dalam melindungi masyarakat dari kejahatan siber yang menyalahgunakan AI.

“Pemerintah harus agresif dan cepat turun tangan menjawab tantangan penggunaan AI secara negatif,” tegas Heru.