Kala AI Menjelma Alat Penipuan, Bagaimana Mengatasinya?

tirto.id - Artificial intelligence (AI) alias kecerdasan buatan kini menjelma alat penipuan. Wajah dan suara pejabat publik bisa dipalsukan dengan mudah menggunakan AI. Itu lalu disebar di media sosial hingga publik yang belum terbiasa untuk skeptis pada manipulasi konten media sosial lantas jatuh percaya.

Menteri Desa dan Pembangunan Daerah Tertinggal (Mendes PDT), Yandri Susanto, menjadi korban teranyar dari modus ini. Dia telah melaporkan 73 akun media sosial (medsos) yang diduga menyebarkan konten deepfake dirinya ke Direktorat Tindak Pidana Siber Bareskrim Polri.

Dewan Penasihat Menteri Bidang Hukum Kemendes PDT, Juanda, mendatangi Bareskrim Polri pada Kamis (13/8/2026) untuk menanyakan tindak lanjut laporan yang ternyata dilayangkan sejak 29 Juli 2026 itu. Menurut Juanda, konten yang dilaporkan membuat seolah-olah Yandri menyatakan warung atau toko di desa bakal ditutup karena Koperasi Desa/Kelurahan Merah Putih (KDMP).

Padahal, kata dia, Yandri tak pernah melontarkan pernyataan tersebut.

"Kami datang ke sini dalam rangka untuk menanyakan soal tindak lanjut laporan atau pengaduan atas nama Pak Yandri Susanto secara pribadi," kata Juanda di Bareskrim Polri, Kamis (13/8/2026).

Sekretaris Jenderal Kemendes PDT, Taufik Madjid, menjelaskan konten deepfake itu diduga dibuat dengan bantuan teknologi AI untuk meniru suara Yandri.

"Konten ini menggunakan, dibantu, dengan AI. Pendekatannya IT, AI, jadi seolah-olah suara yang keluar di konten itu adalah suaranya Pak Yandri. Padahal, tidak sama sekali Pak Yandri mengeluarkan statement seperti itu," kata Taufik.

Sejalan dengan itu, Tim pemeriksa fakta Antara sempat membongkar video serupa yang beredar di Facebook sejak Agustus 2026. Video berdurasi delapan detik itu menampilkan Yandri yang seolah-olah berkata pemerintah berharap seluruh warung atau toko di desa ditutup supaya masyarakat berbelanja di Kopdes Merah Putih.

Hasil penelusuran menunjukkan aslinya Yandri sedang membahas skema pembagian 80 persen sisa hasil usaha (SHU) koperasi kepada anggota desa, tanpa ada pernyataan soal penutupan warung. Antara turut memeriksa audio di video tersebut memakai pendeteksi akal imitasi Resemble AI. Hasilnya menunjukkan suara dalam video viral tersebut merupakan hasil generated AI.

Video itu bahkan telah dibubuhi label "AI Content" di beberapa unggahan medsos, penanda resmi dari platform bahwa konten dibuat dengan kecerdasan buatan.

AI Jadi Modus Kejahatan

Kiwari, tidak hanya digunakan untuk mendengungkan informasi keliru dan hoaks, AI bahkan telah digunakan sebagai modus kejahatan siber. Sejumlah pakar menilai kemudahan akses menjadi pemicu utama lonjakan penipuan berbasis AI.

Pakar teknologi digital Universitas Indonesia, Heru Sutadi, menyebut fenomena itu sebagai pergeseran mendasar dalam wajah kejahatan siber.

"AI membuat kejahatan menjadi lebih murah, cepat, dan mudah dilakukan," kata Heru kepada wartawan Tirto, Jumat (14/8/2026).

Heru menjelaskan AI mengubah kalkulasi pelaku kejahatan secara fundamental. Penjahat, katanya, tak lagi membutuhkan kemampuan teknis tinggi untuk membuat video, suara, atau wajah palsu yang meyakinkan.

Termasuk, meniru pejabat maupun keluarga calon korban untuk membangun kepercayaan sebelum meminta uang atau data.

"AI bukan sekadar alat baru, tetapi pengganda kemampuan kejahatan yang meningkatkan skala, kecepatan, dan kualitas penipuan," ujar Heru.

Dosen IBLAM School of Law dan periset bidang AI, Fachry Hasani Habib, menyoroti bahwa aplikasi AI sudah tersebar bebas dan sangat mudah dipakai publik. Padahal, risikonya turut berpotensi berdampak masif.

"Aplikasi AI tersebar bagi umum dan sangat mudah digunakan. Padahal, risiko dari hasil AI bisa memberikan dampak yang masif. Tentu, penipuan semacam itu akan melonjak dalam bentuk video, gambar, maupun suara," kata Fachry kepada wartawan Tirto, Jumat (14/8).

Sementara itu, pengamat keamanan siber, Alfons Tanujaya, punya penjelasan senada soal daya tarik akal imitasi bagi pelaku kejahatan. Menurutnya, kualitas konten AI yang mendekati aslinya membuat pemalsuan sosok figur publik—lewat wajah, suara, maupun tampilan—menjadi modus yang paling sering ditemui di media sosial.

Dia menambahkan AI juga dipakai untuk mengeksploitasi kelemahan sistem keamanan siber negara, bahkan dalam konteks perang siber.

"AI menarik karena mudah digunakan dan hasilnya sulit dibedakan dengan aslinya atau konten non-AI," kata Alfons kepada wartawan Tirto, Jumat (14/8).

Heru Sutadi merinci sejumlah modus kejahatan berbasis akal imitasi yang mesti diwaspadai ke depan. Meliputi peniruan identitas via deepfake, kloning suara, penipuan investasi atau bantuan pemerintah dengan wajah pejabat, hingga phishing yang dibuat lebih personal berkat AI.

Kombinasi AI dengan rekayasa sosial, kata dia, menjadi modus berikutnya, di mana pelaku mengumpulkan data korban terlebih dulu sebelum membuat pesan, suara, atau video yang sangat meyakinkan.

Kementerian Komunikasi dan Digital (Komdigi), menurut Heru, telah memperingatkan bahwa suara dan wajah seseorang kini dapat ditiru dengan sangat mulus. Karenanya masyarakat tak boleh lagi menganggap video atau suara sebagai bukti keaslian.

Di sisi lain, Alfons mengingatkan persoalannya bukan pada teknologi itu sendiri, melainkan pada siapa yang memegang kendali.

"Ibarat pisau di tangan koki untuk memasak, potong bahan makanan. Di tangan begal dipakai mengancam dan melukai orang. Jadi tergantung siapa yang pakai," kata Alfons.

Ancaman Kian Berbahaya karena AI

Gambaran itu diperkuat oleh Country Head Ensign InfoSecurity Indonesia, Suryo Pratomo, dalam wawancara khusus Tirto, Kamis (6/8/2026), di kantornya di Jakarta Selatan. Suryo menjelaskan AI mengubah lanskap ancaman siber dalam dua sisi sekaligus. Yakni, mempercepat dan memperbesar skala serangan sekaligus mempercepat kemampuan deteksi dan respons.

"AI itu bisa meningkatkan speed. Dia bisa meningkatkan scale of attack-nya, sama dia bisa meningkatkan quality attack-nya," kata Suryo kepada Tirto.

Menurut Suryo, dari sisi penyerang, AI membuat phishing jadi lebih meyakinkan sekaligus mempercepat proses pengintaian. Penyerang, katanya, tinggal memberi perintah (prompt) kepada sistem. Misalnya, mencari tahu aset digital yang dimiliki seseorang.

Proses itu berjalan otomatis, jauh lebih cepat dibanding bila dilakukan manual oleh manusia baris demi baris.

Data internal Ensign turut menggambarkan betapa cepatnya lanskap ancaman itu berubah. Dalam Cyber Threat Landscape Report 2025 yang dirilis Juli 2025, Ensign mencatat kelompok peretas yang disponsori negara (state-sponsored) merepresentasikan hampir 40 persen dari seluruh aktivitas siber di kawasan Asia Pasifik sepanjang 2024. Dengan pola yang terungkap untuk kepentingan spionase atau gangguan di masa depan.

Jumlah kelompok kejahatan siber terorganisir yang menyasar kawasan pun berlipat ganda, dari 5 menjadi 10 kelompok. Sementara itu, AI generatif semakin lazim dimanfaatkan pelaku untuk membuat phishing lebih meyakinkan.

Khusus Indonesia, laporan itu mencatat kelompok kejahatan terorganisir sebagai ancaman paling dominan, diikuti aktivitas hacktivist yang meningkat, dengan entitas seperti Bjorka dan ETHERSEC Team Cyber disebut aktif menyasar sektor publik.

Tiga sektor paling banyak diserang di Indonesia adalah sektor publik, TMT (teknologi, media, telekomunikasi), dan perhotelan—dengan denial of service (56 persen) dan kebocoran data (24,9 persen) sebagai dua efek serangan paling umum ditemukan sepanjang 2024.

Meski demikian, Suryo mengingatkan pentingnya kehati-hatian sebelum melabeli serangan siber sebagai hasil AI tanpa bukti forensik yang jelas.

"Kami sebenarnya cukup berhati-hati untuk mendefinisikan bahwa sebuah serangan pasti menggunakan AI tanpa ada bukti forensik yang konkret. Kami menghindari untuk langsung berasumsi begitu," kata Suryo.

Pola yang terjadi pada Yandri dan yang digambarkan Suryo ternyata sejalan dengan temuan lembaga-lembaga internasional. Laporan Internet Organised Crime Threat Assessment (IOCTA) 2026 yang dirilis Badan Kepolisian Uni Eropa (Europol) menyebutkan aparat penegak hukum di Eropa kini menghadapi "velocity gap", kesenjangan kecepatan antara laju kejahatan siber yang dipercepat AI dan kemampuan aparat untuk merespons.

Alat AI yang makin mudah diakses membuat pelaku kejahatan bisa menurunkan hambatan masuk, memperbesar skala operasi, bahkan melakukan kejahatan tanpa perlu terlibat langsung dalam operasinya.

Europol mencatat jaringan penipuan daring (online fraud schemes) sebagai kategori kejahatan terorganisir yang tumbuh paling cepat di Eropa sepanjang 2025, didorong oleh adopsi AI generatif yang memudahkan pelaku dari luar Uni Eropa mempersonalisasi narasi penipuan dan menyasar korban dalam skala besar dengan cepat.

Modus yang disebut termasuk peniruan identitas berbantuan AI terhadap staf bank atau petugas penegak hukum, serta peningkatan penipuan business email compromise dan modus pura-pura menjadi pimpinan perusahaan (CEO fraud).

Gambaran itu didukung juga oleh International AI Safety Report 2026, laporan tahunan yang disusun panel ahli internasional. Laporan tersebut mencatat insiden penipu yang memakai klon suara dan deepfake untuk menyamar sebagai eksekutif perusahaan atau anggota keluarga korban, demi mengelabui korban agar mentransfer uang.

Laporan yang sama mencatat tren global serangan berbasis identitas (identity-based attacks) naik 32 persen pada semester pertama 2025 dibanding periode sama tahun sebelumnya. Alat deepfake disebut sering dipakai penipu untuk mengecoh sistem verifikasi identitas.

Soal seberapa meyakinkan konten AI saat ini, laporan itu mengutip sejumlah studi: satu studi audio deepfake mendapati pendengar salah mengenali suara buatan AI sebagai suara asli pada 80 persen kasus, sementara studi lain mendapati partisipan salah mengira teks buatan AI sebagai tulisan manusia pada 77 persen kasus.

Laporan itu turut mencatat bahwa rasa malu atau takut disalahkan kerap membuat korban maupun institusi enggan melaporkan kasus penipuan berbasis AI. Sehingga, data resmi soal skala masalah ini cenderung menjadi bawah permukaan dari kondisi sebenarnya.

Data lebih spesifik soal skala ancaman datang dari laporan The Deepfake Fraud Detection Market 2026: Securing Identity in the AI Era yang disusun Biometric Update dan Goode Intelligence. Laporan itu memproyeksikan total percobaan penipuan berbasis deepfake secara global akan melonjak dari 145,21 juta kasus pada 2026 menjadi 334,65 juta kasus pada 2028.

Modus itu mencakup manipulasi suara dan wajah, baik pada tahap pendaftaran identitas (onboarding) maupun transaksi.

Seiring lonjakan itu, jumlah pemeriksaan deteksi deepfake yang dilakukan perusahaan dan lembaga di seluruh dunia diperkirakan ikut tumbuh. Dari 6,05 miliar pemeriksaan pada 2026 menjadi 12,24 miliar pada 2028, dengan pendapatan pasar teknologi deteksi deepfake naik dari sekitar US$3,03 miliar menjadi US$6,12 miliar pada periode yang sama.

Dalam riset itu, salah satu penyedia teknologi verifikasi biometrik mengungkapkan kepada peneliti bahwa lebih dari 50 persen kasus penipuan yang mereka temukan kini mengandung unsur artefak hasil rekayasa AI, baik berupa biometrik (suara dan wajah) palsu, maupun dokumen identitas yang dipalsukan menggunakan AI.

Sektor keuangan menjadi salah satu yang paling terdampak. Laporan itu mengutip data dari perusahaan verifikasi dokumen Regula yang mendapati bank dan lembaga keuangan lain kehilangan rata-rata US$600 ribu per insiden deepfake suara, dengan 23 persen di antaranya merugi lebih dari US$1 juta.

Payung Hukum di Indonesia

Periset AI Fachry Hasani menilai perangkat pidana serta teknik investigasi untuk mengusut kejahatan berbasis AI sesungguhnya sudah tersedia di Indonesia. Fachry percaya penegak hukum Indonesia mampu mengerjakannya, meski praktiknya memang tidak mudah.

"Regulasi yang belum ada adalah penentuan dan pembatasan aplikasi AI, seperti apa yang dapat digunakan secara masif atau aplikasi AI apa yang memiliki risiko tinggi sehingga penggunaannya harus dibatasi," ungkap Fachry.

Secara normatif, setidaknya terdapat empat payung hukum yang berpotensi digunakan oleh aparat untuk menjerat pelaku penyalahgunaan AI.

Pasal 35 UU Nomor 1 Tahun 2024 tentang Perubahan Kedua UU Informasi dan Transaksi Elektronik (UU ITE) mengatur soal manipulasi dokumen elektronik yang dibuat seolah-olah otentik dengan ancaman pidana penjara hingga 12 tahun dan denda hingga Rp12 miliar.

Ada pula Pasal 27A UU ITE untuk mengancam pelaku yang dengan sengaja menyerang kehormatan atau nama baik orang lain lewat penyebaran informasi elektronik, dengan ancaman pidana sebagaimana diatur Pasal 45 Ayat (4) UU ITE, yakni penjara maksimal dua tahun dan/atau denda maksimal Rp400 juta.

Kitab Undang-Undang Hukum Pidana (KUHP) baru, yakni UU Nomor 1 Tahun 2023 yang mulai berlaku penuh Januari 2026, turut memberi ruang lewat Pasal 492 tentang penipuan dengan memakai nama atau kedudukan palsu untuk menguntungkan diri sendiri atau orang lain secara melawan hukum.

Heru Sutadi sepakat bahwa perangkat hukum yang ada sebenarnya bisa menjerat sejumlah bentuk kejahatan deepfake, terutama bila terdapat unsur penipuan, pencemaran nama baik, penyalahgunaan data, atau kejahatan elektronik.

Namun, Heru menilai masih ada kesenjangan regulasi yang secara khusus mengatur AI.

"Perangkat hukum yang ada sebenarnya dapat digunakan untuk menjerat sejumlah bentuk kejahatan deepfake, terutama jika terdapat unsur penipuan, pencemaran nama baik, penyalahgunaan data, atau kejahatan elektronik," kata Heru.

Wakil Menteri Komunikasi dan Digital, Nezar Patria, dalam Digital Transformation Indonesia Conference & Expo (DTI-CX) 2026 di Jakarta Pusat awal Agustus lalu menyoroti adanya pergeseran AI dari sekadar menjawab pertanyaan menjadi berkapasitas merencanakan dan mengeksekusi tindakan secara mandiri.

Sebuah perubahan yang menurutnya menuntut tata kelola yang mengimbangi kecepatan inovasi.

"Saat AI mulai bertindak, tata kelola tak boleh tertinggal," kata Nezar Patria dalam keterangan resmi.

Nezar menjelaskan tantangan yang dihadapi bukan semata soal kemampuan AI itu sendiri, melainkan kesenjangan antara kecepatan perkembangan teknologi dan kemampuan tata kelola untuk mengimbanginya. Kondisi ini menurutnya berpotensi memicu krisis etika dan akuntabilitas jika tidak diantisipasi sejak dini.

Dua rancangan Perpres yang disiapkan Komdigi soal AI, kata Nezar, dirancang tak hanya mendorong inovasi, tapi juga memastikan AI berkembang secara aman dan bertanggung jawab. Prinsip utama yang diterapkan adalah human-centered AI, yakni memperkuat kapasitas manusia, bukan menggantikannya.

Pemerintah, tambahnya, bakal memastikan keputusan berdampak besar tetap berada dalam pengawasan manusia dan setiap algoritma yang memengaruhi publik dapat dijelaskan serta diaudit.

Fachry menilai regulator memegang peran penentu untuk membatasi peredaran aplikasi AI berisiko tinggi. Sebab, platform pada akhirnya akan mengikuti apa yang diatur regulator.

"Platform pasti akan mengikuti apa yang regulator atur. Kalau aturannya tidak ada, sulit untuk 'memaksa' platform untuk memperhatikan dampak dari AI yang dibuatnya," ungkap Fachry.

Sementara itu, Alfons menekankan pentingnya penandaan konten AI secara konsisten oleh platform agar publik bisa mengidentifikasinya sejak awal. Namun, kata Alfons, aturan saja tak cukup tanpa penegakan pelanggaran yang konsisten.

"Supaya memberikan pesan tegas kalau menyalahgunakan teknologi untuk kepentingan jahat harus menanggung konsekuensinya," ujar Alfons.

Heru mendorong regulator dan platform bergerak dari pendekatan reaktif menjadi preventif. Platform, menurutnya, perlu memperkuat deteksi deepfake, memberi penanda konten AI, mempercepat takedown, serta membuka kanal pelaporan khusus bagi korban peniruan identitas.

Regulator di sisi lain, perlu terus memperkuat koordinasi dengan penegak hukum. Komdigi, Polri, Otoritas Jasa Keuangan (OJK), dan perbankan perlu bekerja sama agar penanganan tak berhenti pada penghapusan akun, tetapi mampu membongkar aliran uang dan jaringan pelaku kejahatan siber.

"Pemerintah dan platform harus berbagi informasi ancaman secara cepat, karena kecepatan respons sangat menentukan sebelum korban bertambah," kata Heru.