tirto.id - Tala (32) hanya bisa pasrah sambil memendam rasa kesalnya setelah sadar dirinya terjebak skema penipuan. Dia harus kehilangan uang terakhir di tabungannya setelah ‘termakan’ bujuk rayu penipu yang dia temui di media sosial. Dia tidak menyangka penelusuran isengnya di media sosial sore itu, berakhir dengan rekeningnya yang terkuras.
“Waktu itu kalau gak salah di Facebook, lagi scroll, kan biasa suka ada kayak advertisement gitukan, muncul sendiri. Di situ ada cerita tentang sumber pendapatan (Presiden) Prabowo," terangnya saat bicara dengan Tirto, Senin (10/2/2025).
Kondisi Tala saat itu sedang pas-pasan, uang di rekeningnya tersisa Rp4 juta, padahal September baru masuk awal tanggalan. Kondisi yang kurang ideal bagi orang yang bekerja di bidang jasa pariwisata seperti dirinya, mengingat gelombang libur baru saja lewat.
"Kondisinya saat itu cuma mikir pengen punya duit cara gesit," ujarnya.
Dia kemudian terpapar konten media sosial dengan ‘umpan’ video monolog Prabowo. “Di bagian akhir unggahannya ada tombol tulisan ‘pelajari lebih lanjut’. Dengan polosnya gue klik aja kan itu,” ceritanya.
Dia masuk ke sebuah situs yang berisikan artikel dengan narasi wawancara Prabowo dengan salah satu media internasional. Senada dengan video di Facebook yang Tala jumpai, artikel tersebut membahas sumber pendapatan Prabowo.
Di artikel tersebut terdapat potongan wawancara Prabowo dan jurnalis yang menanyakan sumber pendapatannya. Dalam artikel tersebut dikatakan Prabowo investasi dari trading di salah satu platform dan mengajak orang-orang untuk ikut.
"(Percaya saja), kan ceritanya Prabowo banyak duit tuh," ujar Tala saat ditanya alasannya percaya dengan konten tersebut.
Di bagian akhir halaman situs tersebut, terdapat halaman pendaftaran. Sudah dibutakan dengan peluang menambah harta, Tala langsung memberikan informasi seperti nama lengkap, nomor telepon, dan emailnya.
“Dalam beberapa menit ada nomor asing telepon gue,” terang Tala. Bukan hanya nomor tak dikenal, nomor yang menghubunginya juga berawalan (+65), nomor telepon Singapura.
Singkat cerita Tala terkena bujuk-rayu sang penipu yang juga berhasil meyakinkan dia bisa mendapat keuntungan harian 5-10 persen setiap harinya dari nilai uang yang dia setor. “Itu seperti terhipnotis dan akhirnya ya sudah transfer saja sisa uang,” terang dia.
Tala bercerita kalau setelahnya dia mendapat sebuah link dari lawan bicaranya yang mengarahkan ke akun profil dengan tulisan nilai investasi US$250 dolar. Di tahap itu dia masih percaya dengan skema investasi ini.
Sampai di titik sang penipu meminta Tala mengirimkan lagi uang saat dia ingin menarik sebagian uang di ‘rekening’ nya itu. “Di hati kecil kayak akhirnya ngeh kalau ini kena tipu, kena scam,” ujar Tala.
Upaya negosiasinya dengan sang penipu untuk mendapat sebagian uangnya saja juga tidak berbuah hasil. “Akhirnya ya cuman bisa kata-katain lewat HP itu aja sudah,” terang dia lagi.
Deepfake Catut Prabowo dan Pejabat Lainnya Kian Marak
Video yang menjebak Tala, hanya satu dari sekian banyak video yang mencatut Prabowo dengan konteks bagi-bagi uang. Video-video tersebut masuk kategori Deepfake. Definisi teknologi ini kurang lebih bagian dari kecerdasan buatan (artificial intelligence, AI), untuk membuat tampilan visual yang sangat realistis. Aplikasinya bisa untuk mengubah wajah atau gerak mulut seseorang dalam video.
Tidak hanya Prabowo, Tirto juga pernah menemukan video yang mencatut Menteri Keuangan Sri Mulyani dan Wakil Presiden Gibran Rakabuming Raka, dengan narasi yang serupa, bagi-bagi hadiah. Tirto sempat membuat artikel bantahannya untuk beberapa konten tersebut.
Jika melompat mundur lagi, penggunaan video Deepfake untuk menipu masyarakat sudah muncul sejak momen Pemilihan Kepala Daerah (Pilkada), sekitar September 2024 lalu. Tirto menemukan modus penipuan kala itu mengatasnamakan calon-calon kepala daerah. Narasinya adalah merayakan kemenangan ataupun keberhasilan dengan membagi-bagikan uang atau hadiah. Penipuan-penipuan model ini terbukti juga menarik perhatian masyarakat. Tidak jarang kolom komentar dalam konten-konten tersebut dipenuhi dengan pertanyaan.
Pada 23 Januari 2025, Bareskrim Polri menangkap seorang pria berusia 29 tahun, asal Lampung, atas kasus Deepfake video Presiden Prabowo Subianto. Pada 7 Februari, sekitar dua minggu kemudian, giliran JS (25) yang ditangkap Polri atas tuduhan serupa. Dari dua kasus itu total ada lebih dari 100 orang yang menjadi korban. Nominal besarnya uang yang masuk ke kantong tersangka juga berkisar antara Rp250 ribu-Rp1 juta. Bukan jumlah yang kecil.
Pencatutan pejabat menggunakan Deepfake ini bisa masuk kategori kejahatan siber. Berdasar data Direktorat Tindak Pidana Siber Bareskrim Polri (Dittipidsiber), dalam empat tahun terakhir ada tren kenaikan laporan kasus soal kejahatan siber. Dittipidsiber juga mencatat sejak tahun 2022 sampai 23 Januari 2025, Polri telah menangani lebih dari 32 ribu terlapor tindak pidana kejahatan siber dan mencatat lebih dari 29 ribu korban.
“Ditressiber tidak hanya bertugas menangani kasus yang sudah terjadi, tapi juga melakukan patroli siber, mendeteksi potensi ancaman siber, serta memberikan literasi dan edukasi kepada masyarakat,” ujar Kepala Biro Penerangan Masyarakat Divisi Humas Polri Brigjen Trunoyudo Wisnu Andiko dalam artikel di situs resmi Polri.
Perlu Peningkatan Literasi Digital
Ketua lembaga riset siber Communication & Information System Security Research Center (CISSReC), Pratama Persadha, menyebut fenomena Deepfake semakin menarik perhatian, setelah maraknya video Deepfake tokoh penting seperti Prabowo.
“Kemajuan teknologi kecerdasan buatan (AI) dan deep learning memungkinkan pembuatan video yang semakin realistis, sehingga sulit dibedakan dari video asli. Saat ini, deepfake di Indonesia telah mencapai tingkat kecanggihan yang mengkhawatirkan, terutama dengan ketersediaan model AI generatif yang dapat dengan mudah diakses oleh masyarakat umum,” ujar Pratama kepada Tirto, Senin (10/2).
Dewasa ini semakin sulit mendeteksi konten hasil manipulasi dengan kasat mata karena hasilnya kian otentik. Ditambah lagi teknologi ini makin mudah untuk diakses. Beberapa platform seperti DeepFaceLab, Faceswap, Zao, dan D-ID telah membuat pembuatan deepfake menjadi semudah mengunggah foto dan memilih target yang ingin dimanipulasi.
Dia menyebut kombinasi rendahnya literasi digital, sementara konsumsi informasi di media sosial tanpa verifikasi yang tinggi, membuat kerentanan masyarakat Indonesia akan hal ini makin besar.
“Deepfake memanfaatkan kecenderungan psikologis manusia untuk mempercayai konten visual dibandingkan teks atau suara saja. Selain itu, faktor kecepatan penyebaran informasi di platform digital sering kali menyebabkan pengguna tidak memiliki waktu atau keinginan untuk memverifikasi keaslian suatu video sebelum mempercayainya,” tambah Pratama.
Untuk mengantisipasi masalah dari Deepfake, bisa dengan analisis mendasar. Seperti memperhatikan detail teknis seperti gerakan mata, sinkronisasi bibir, pencahayaan yang tidak konsisten, dan ekspresi wajah yang tampak kurang alami. Beberapa teknologi pemindaian berbasis AI juga bisa digunakan.
“Beberapa tools seperti Deepware Scanner, Microsoft Video Authenticator, dan model deteksi Deepfake berbasis forensic analysis dapat digunakan untuk memeriksa keaslian video,” ujar Pratama lagi.
Dia menambahkan kondisi adanya Deepfake ini seharusnya menjadi pendorong masyarakat untuk mau meningkatkan kapasitas literasi digital dan membangun sistem mitigasi yang lebih kuat. Kekritisan saat menerima informasi, kemauan memverifikasi sumber, serta pemahaman kalau apa yang tersaji di internet tidak semuanya realitas, perlu dimiliki sebagai dasar.
Sementara Director of the Regulation and Ethics Directorate Indonesia Al Society (IAIS), Henke Yunkins, mengatakan semua model penipuan punya dasar yang sama, manipulasi kebiasaan manusia. Trik yang dipakai selalu terkait dengan eksploitasi kepercayaan, ketakutan, urgensi dan pemicu psikologis lainnya.
Deepfake memanfaatkan sisi psikologis akan kepercayaan orang lebih jauh lagi. “Para penipu/scammers memahami betul kalau orang pada umumnya lebih cenderung menuruti permintaan yang datang dari sumber yang dianggap kredibel, dapat dipercaya, otoritas tertentu. "Scam/penipuan ini sudah ada sejak dulu, walau terus berevolusi dalam mediumnya, tetapi tidak dalam esensinya,” terang Henke lewat pesan singkat kepada Tirto, Senin (10/2).
Henke juga menyebut keberadaan AI, dalam hal ini Deepfake, memperluas dimensi baru dalam skema penipuan. Mulai dari konten yang sangat realistis dengan harga relatif murah, kemudian amplifikasi skala dan jangkauan yang bisa menjangkau orang-orang yang rentan, sampai dengan kemudahan penggunaan teknologinya yang cenderung mudah pula, sehingga memperluas kelompok penipu potensial.
Lebih lanjut, Henke juga menyebut kalau regulasi yang ada saat ini sebenarnya sudah cukup untuk menangani permasalahan konten Deepfake. Hal ini terbukti dari kasus-kasus penangkapan pelaku penipuan yang disebut di atas. “Tidak perlu regulasi khusus atau baru. Tapi mungkin Peraturan yang ada bisa diperjelas/pertegas,” ujarnya.
Sementara dia juga mendorong pemerintah untuk mencoba pendekatan lewat teknologi. “Mungkin bisa pakai AI lawan AI, misal AI untuk authentication,” ujarnya. Hal ini mungkin dilakukan jika regulator mau mencoba belajar ke industri dan akademisi.
Dari hilirnya, dia juga berharap ada program untuk meningkatkan public awareness mengenai social engineering scam. “Tapi tidak bisa sekadar kasih informasi. Kemasannya mungkin seperti workshop kalau mau efektif. Sebab (umumnya) kalau belum ‘kena’, orang cenderung nggak mikir akibatnya,” tuturnya.
Selain itu, menurut Henke, amplifikasi informasi mengenai skema penipuan terbaru, seperti yang sudah dilakukan Komdigi lewat kanal Berita Hoaks, juga perlu diperkuat lagi.
Penulis: Alfons Yoshio Hartanto
Editor: Anggun P Situmorang
