tirto.id - Reddit telah memblokir akun forum Deepfakes demi melarang pembahasan soal fake porn. Deepfakes dianggap telah menonjolkan wajah subjek melalui foto atau video porno yang eksplisit dan tanpa izin dari orang tersebut.
Sejauh ini Deepfakes telah menciptakan sejumlah video porno dengan wajah palsu para selebritas. Nama-nama selebritas top seperti Gal Gadot, Meisie Williams, dan Taylor Swift jadi korbannya.
Reddit telah menjadi salah satu tempat paling populer untuk berbagi dan membahas apa yang disebut Deepfakes itu. Layanan forum online yang populer di AS itu juga mengubah kebijakannya untuk anak di bawah umur.
Situs diskusi ini telah mendapat tekanan untuk bertindak setelah platform lainnya – termasuk Twitter, Gfycat dan Pornhub – ikut melarang Deepfakes (video porno berwajah selebritas palsu).
Namun, hal itu dapat menyebabkan kegelisahan di antara beberapa pengguna Reddit. Mereka khawatir platform tersebut menjadi kurang "terbuka" setelah penutupan dua forum alt-right pada 2017.
Pendiri Reddit Alexis Ohanian tidak berkomentar mengenai kebijakan baru tersebut namun mengatakan kepada Wall Street Journal bahwa dia bermaksud untuk fokus pada peluang yang terkait dengan teknologi baru.
"Jelas ada hal-hal seputar keamanan, privasi, dan identitas yang akan berubah secara dramatis melalui teknologi, hanya karena sekarang memungkinkan," katanya.
Deepfakes melibatkan penggunaan perangkat lunak kecerdasan buatan (Artificial Intelligence) untuk membuat subjek wajah versi komputer yang sangat mirip dengan wajah asli orang lain dalam sebuah video.
Laporan Motherboard menyebutkan bahwa tindakan Deepfakes itu tak menggunakan teknologi khusus yang mahal. Deepfakes, memanfaatkan machine learning sumber terbuka (open source) TensorFlow.
Sementara itu, wajah selebritas yang ditempelkan pada video porno diperoleh melalui pencarian gambar Google, foto stok, dan video yang tersedia di YouTube. Itu kemudian dijadikan basis data bagi algoritma memahami wajah selebritas yang dijadikan target.
Kebijakan pornografi baru Reddit menyatakan "melarang penyebarluasan gambar atau video yang menggambarkan seseorang dalam keadaan telanjang atau terlibat dalam tindakan seksual yang tampaknya dibuat atau dikirim tanpa seizin mereka, termasuk penggambaran yang telah dipalsukan," demikian seperti dikutip BBC, Rabu (7/2/2018).
Forum Deepfakes, yang memiliki lebih dari 91.000 pelanggan, termasuk di antara forum pertama yang akan dihapus setelah kebijakan ini dipublikasikan.
Namun, situs tersebut juga telah menurunkan forum Celebfakes, yang fokusnya adalah gambar statis palsu. Forum ini sudah ada sekitar tujuh tahun.
Dalam beberapa hari ini, ada kekhawatiran di kalangan komunitas Deepfakes bahwa beberapa pengguna telah menggunakan teknologi tersebut untuk membuat klip yang menampilkan wajah anak di bawah usia 16 tahun - yang pada dasarnya merupakan citra pelecehan anak.
Reddit juga mengklarifikasi kebijakannya mengenai praktik ini. "Reddit melarang konten seksual atau sugestif yang melibatkan anak di bawah umur," katanya.
Penulis: Yuliana Ratnasari
Editor: Yuliana Ratnasari
