tirto.id - Penggunaan kecerdasan buatan (artificial intelligence, AI) makin marak untuk membuat berbagai konten di media sosial. Celakanya, beberapa konten AI yang tersebar tersebut adalah disinformasi dan misinformasi.
Tidak sedikit juga yang berisikan penipuan. Terbaru, Tirto menemukan unggahan di Instagram yang berisikan narasi sejumlah tokoh masyarakat yang membagi-bagikan hadiah. Unggahan tersebut diantaranya disebar akun @berbagi_rezeki_official (arsip).
Ada beberapa video yang menggunakan figur seperti dr. Richard Lee, Andi Syamsuddin Arsyad alias Haji Isam (arsip) serta, artis seperti Agnes Monica (arsip) dan Syahrini (arsip). Konten tersebut dibuat dalam format video dengan narasi sang publik figur tersebut hendak membagikan uang.
“Siapa saja yang menemukan postingan ini, saya akan kirim Rp20 juta. Halo saya dr. Richard. Hari ini saya mengucap alhamdulillah, karena saya sedang banyak rezeki. Dan alangkah baiknya saya juga akan berbagi untuk kamu yang beruntung menemukan postingan ini.
Mungkin ini rezeki kamu, karena tidak semua orang menemukan postingan ini. Jadi siapa saja yang sudah follow dan share, saya akan kirim. Rezeki akan datang kapan saja dan di mana saja. Semoga ini rezeki kamu ya,” begitu isi informasi yang disampaikan dalam video yang menampilkan wajah dr. Richard.
Konten-konten yang lain juga punya format yang cenderung serupa. Penampakan tokoh publik yang berbicara memperkenalkan diri dan menyebut bahwa mereka akan membagi-bagikan uang dengan beragam nominal. Dalam kolom komentar yang dibatasi, terdapat ajakan dari pemilik akun untuk mengikuti akun tersebut, kemudian untuk mengakses tautan di bio. Di tautan bio, terdapat kontak akun WhatsApp personal.
Video yang menampilkan sosok dr. Richard telah mengumpulkan lebih dari 340 ribu penonton dan lebih dari 5 ribu tanda suka dalam dua hari. Sementara video serupa yang menampilkan Haji Isam, mengumpulkan 960 ribu penonton dan lebih dari 21 ribu tanda suka sejak diunggah 16 September 2024.
Lalu, bagaimana kebenarannya? Apakah betul ada konten-konten bagi hadiah di Instagram yang menggunakan sosok dr. Richard Lee dan Haji Isam?
Pemeriksaan Fakta
Tirto mencoba menyaksikan beberapa video singkat yang diunggah akun @berbagi_rezeki_official tersebut. Kami mencurigai beberapa hal seperti pemotongan kata yang tidak terasa natural dan gerak bibir yang terlihat aneh di beberapa potongan klip. Terdapat indikasi penggunaan kecerdasan buatan untuk mengolah konten-konten tersebut.
Mula-mula, kami menggunakan dua perangkat pemindaian pemeriksa konten AI, yakni Hive Moderation dan Deepware.ai. Kami mencoba memeriksa dua video, yaitu video yang menunjukkan sosok dr. Richard Lee, serta video percakapan dengan Haji Isam.
Sebagai catatan ,baik Hive Moderation maupun Deepware adalah perangkat pemindai video yang meneliti kandungan AI dari sebuah konten. Namun, kedua perangkat ini hanya memberi persentase kemungkinan kandungan AI yang juga masih punya tingkat kesalahan.
Hasil pemindaian konten yang menunjukkan video dr. Richard Lee, dinilai Hive Moderation 81,9 persen kemungkinan penggunaan AI dalam pembuatan kontennya. Sementara opini Deepware, mendeteksi konten tersebut 98 persen adalah deepfake (konten pemalsuan menggunakan AI).
Sementara untuk video dari Haji Isam, Hive Moderation memberi kemungkinan 99,9 persen konten dibuat menggunakan AI. Sementara Deepware hanya memberi persentase 36 persen kemungkinan konten mengandung deepfake.
Kami kemudian mencoba mencari asal-usul dari video tersebut. Kami melakukan pencarian gambar terbalik (reverse image search) dari potongan gambar di video.
Untuk video dari dr. Richard, hasil pencarian gambar dengan Google Lens mengarahkan ke beberapa foto berikut (foto 1, foto 2). Foto-foto tersebut adalah hasil tangkapan layar dari video dr. Richard yang sempat ramai di YouTube tahun 2021 lalu. Di video tersebut, Richard menceritakan tentang adanya upaya merusak nama baik dirinya. Tidak ada informasi mengenai bagi-bagi hadiah.
Sementara video penampakan Haji Isam, hasil penelusuran reverse image search mengarahkan ke beberapa foto pemberitaan di media massa (tautan 1, tautan 2).
Melihat lebih detail, setidaknya di dua video tersebut, terdapat watermark bertuliskan "Hedra" di bagian kanan bawah video. Tirto mencari kata tersebut dan kaitannya dengan perangkat AI.
Hasilnya, mengarahkan ke situs Hedra berikut. Situs ini berisikan perangkat AI untuk membuat karakter/gambar yang dikawinkan dengan audio untuk menjadi sebuah video. Sederhananya, Hedra dapat membuat konten gambar menjadi video dengan audio yang bisa dikustomisasi. Model dari karya AI dengan Hedra bisa dilihat contohnya dari video berikut.
Untuk konten Haji Isam dan dr. Richard yang bagi-bagi hadiah, watermark yang ada mengindikasikan penggunaan perangkat ini untuk membuat dua foto yang ditemukan dari reverse image search, menjadi video.
Kesimpulan
Hasil pemeriksaan fakta menunjukkan, konten bagi-bagi hadiah menggunakan sosok Haji Isam dan dr. Richard Lee bersifat salah dan menyesatkan (false & misleading).
Video yang tersebar di Instagram tersebut dibuat menggunakan perangkat AI, Hedra. Perangkat itu bisa mengubah foto seseorang menjadi konten audio visual. Hasil pemindaian perangkat AI juga menunjukkan peluang besar kedua konten tersebut adalah konten deepfake.
==
Bila pembaca memiliki saran, ide, tanggapan, maupun bantahan terhadap klaim Periksa Fakta dan Decode, pembaca dapat mengirimkannya ke email factcheck@tirto.id.
Editor: Farida Susanty
