Menuju konten utama

Kasus Deepfake Cabul AI di Semarang Harus Diproses Hukum

AI, sama seperti lingkungan digital lainnya didesain tidak ramah terhadap perempuan dan bahkan membahayakan hidup perempuan.

Kasus Deepfake Cabul AI di Semarang Harus Diproses Hukum
ilustrasi pelecehan seksual. wikimedia commons/Alnauval
Jadikan tirto.id sumber pilihan pencarian Google

tirto.id - Kasus Kekerasan Berbasis Gender Online (KBGO) bukan hal asing di Indonesia. Seperti halnya kekerasan di ruang luring, kekerasan di dunia siber atau yang difasilitasi teknologi sama beratnya dan sama traumatisnya.

Seiring dengan teknologi yang semakin berkembang dan masif penggunaannya, bentuk-bentuk KBGO pun kian meluas, di antaranya yakni penyebaran konten intim tanpa persetujuan hasil rekayasa kecerdasan buatan (Artificial Intelligence/AI).

Pelaku yang merupakan alumnus SMA 11 Semarang bernama Chiko, baru-baru ini dilaporkan telah memanipulasi wajah siswi-siswi dan seorang guru di sekolahnya dulu. Muka mereka disunting supaya terkesan menjadi bernuansa seksual.

Lewat akun Instagram @dinaskegelapan_kotasemarang disebutkan, pelaku diketahui membuat dan menyebarkan lebih dari 300 unggahan intim di platform X (Twitter) serta menyimpan sekitar 1.100 video hasil rekayasa wajah di Google Drive.

"Hingga kini, sedikitnya 5 siswi dan 1 guru dari SMAN 11 Semarang telah teridentifikasi menjadi korban. Aksi bejat ini terungkap pada awal Oktober 2025, meski akun pelaku telah aktif sejak tahun 2023," tulis akun tersebut, Selasa (14/10/2025).

Ilustrasi Pelecehan Seksual

ilustrasi pelecehan seksual. wikimedia commons/LLLLixi

Pelaku sempat membuat video permintaan maaf yang diunggah ke media sosial dan disampaikan langsung di hadapan pihak sekolah. Dalam video klarifikasi berdurasi sekitar dua menit, Chiko yang kini merupakan mahasiswa di Universitas Diponegoro (Undip) itu mengakui kesalahannya.

"Saya ingin meminta permohonan maaf atas perbuatan saya, yang di mana saya telah mengedit, meng-upload foto maupun video teman-teman tanpa izin pada akun Twitter saya," kata alumni SMAN 11 Semarang tahun 2025 tersebut, dalam akun Instagram @sman11semarang.official.

Meski disebut dibuat dengan kesadaran dan ia kini menyesal, Chiko hanya menyebut tindakannya yang mencoreng nama baik sekolah.

Jika kelakuan Chiko terbukti, ia terancam sanksi dropout (DO) atau dikeluarkan dari kampusnya. Undip mengakui Chiko saat ini berstatus mahasiswa semester satu program sarjana di Fakultas Hukum. Kampus telah melaporkan kasus ini ke Satgas Pencegahan dan Penanganan Kekerasan (PPK) Undip untuk menentukan langkah lanjutan.

"Segera diproses pemeriksaan dan penjatuhan sanksi. Ancaman sanksi berat dapat dijatuhkan kepada yang bersangkutan, hingga dropout," tegas Dekan Fakultas Hukum Undip, Retno Saraswati, dalam keterangannya, Kamis (16/10/2025).

Proses pemeriksaan Chiko dikatakan akan berdasar pada Peraturan Menteri Pendidikan, Kebudayaan, Riset, dan Teknologi/Permendikbudristek Nomor 55 Tahun 2024 tentang Pencegahan dan Penanganan Kekerasan di Lingkungan Perguruan Tinggi.

Undip, kata Retno, bersikap tegas terhadap setiap pelanggaran hukum yang dilakukan mahasiswanya, termasuk perbuatan Chiko. Berdasarkan informasi yang ia himpun, Chiko telah melakukan tindakan kekerasan itu sejak masih SMA.

Bentuk NCII dan Deepfake

Seperti diketahui, penyebaran konten intim tanpa persetujuan atau disebut juga Non-consensual Dissemination of Intimate Images (NCCI) adalah kekerasan yang terjadi ketika pelaku menyebarkan foto/video intim korban tanpa persetujuan/consent.

Dalam kasus ini, karena konten yang disebarkan merupakan rekayasa AI, Program Director Perkumpulan Lintas Feminis Jakarta (Jakarta Feminist), Anindya Restuviani, menilai kasus ini tidak bisa hanya disebut sebagai kasus penyebaran konten tanpa persetujuan, tapi juga merupakan deepfake.

“Karena telah mencuri identitas korban dan membuat hal tersebut sebagai konten seksual tanpa persetujuan dari korban dan telah terjadi penyebaran konten tanpa persetujuan korban juga,” tutur Vivi kepada jurnalis Tirto, Kamis (17/10/2025).

Ilustrasi Ancaman Media Sosial

Ilustrasi Ancaman Media Sosial. foto/istockphoto

Dia menilai kasus ini memperlihatkan bahwa AI, sama seperti lingkungan digital lainnya didesain tidak ramah terhadap perempuan dan bahkan membahayakan hidup perempuan. Di tengah kasus KBGO yang tak surut, kehadiran AI pada akhirnya turut menjadi tantangan.

Meski AI menghadirkan potensi positif, tak bisa dipungkiri, pengembangannya masih belum ramah terhadap kelompok rentan. Perempuan dan minoritas gender lainnya menjadi kelompok yang paling rentan mengalami kekerasan dalam hal ini.

Komisioner Komnas Perempuan, Chatarina Pancer Istiyani, berpendapat kalau AI, seperti ChatGPT memang menggunakan big data yang patriarkis. Sebab bicara AI adalah bicara tentang data, hal itu menjadi cerminan keseharian yang masih diwarnai oleh bias gender.

Menurut Chatarina, dalam konteks kekerasan, AI membuat spektrum KBGO semakin meluas, dari yang tadinya hanya penyebaran foto/video tanpa persetujuan, kini AI bisa mengedit wajah seseorang dengan tubuh orang lain, atau pun menciptakan tubuh dari wajah korban.

“Teknologi itu sendiri tidak bermoral, yang bermoral itu manusianya. Hanya ketika manusia menggunakan teknologi, ada saja yang tidak menggunakan moralitas, sehingga terjadi kekerasan. Dalam hal ini perempuan dan juga anak-anak, apalagi remaja itu kerentananannya luar biasa,” ungkap Chatarina saat dihubungi Tirto, Kamis (17/10/2025).

Aduan KBGO yang diterima Southeast Asia Freedom of Expression Network (SAFEnet) misalnya, menunjukkan, pada 2024, didominasi oleh remaja dan dewasa muda. Dari 1.902 aduan tahun lalu, kelompok usia yang paling banyak menjadi korban KBGO yakni kelompok 18 - 25 tahun.

Secara umum, aduan KBGO yang diterima SAFEnet pada 2024 diketahui melonjak 80,8 persen, dari 1.052 pada 2023 menjadi 1.902 tahun lalu. Catatan Tahunan (Catahu) Komnas Perempuan juga memperlihatkan tren selaras.

Pada 2024, aduan kasus KBGO ke lembaga itu diketahui merangkak naik dari 1.272 kasus KBGO pada 2023 menjadi 1.791 kasus. Kenaikan ini tentu harus menjadi perhatian dan setiap kejadian juga harus ditangani dengan berperspektif korban, termasuk kasus di Semarang ini.

Diproses Hukum agar Korban Dapat Hak Restitusi

Vivi dari Jakarta Feminist mendorong adanya penanganan serius dalam kasus ini, apalagi ini juga bisa jadi melibatkan anak di bawah umur, alias siswi. Itu mengapa usia korban juga menjadi informasi publik yang harus dibuka oleh pihak sekolah, untuk menentukan sanksi pelaku.

“UU TPKS [Undang-Undang Tindak Pidana Kekerasan] sendiri sudah memasukan jenis kekerasan seksual berbasis elektronik menjadi salah satu jenis kekerasan seksual yang diatur, sehingga kasus ini seharusnya bisa diproses secara hukum sehingga korban juga dapat mendapatkan hak restitusinya,” tutur Vivi.

Menurut UU TPKS, restitusi sendiri adalah pembayaran ganti kerugian yang dibebankan kepada pelaku atau pihak ketiga berdasarkan penetapan atau putusan pengadilan yang berkekuatan hukum tetap, atas kerugian materiel dan/atau immaterial yang diderita korban atau ahli warisnya.

Ilustrasi Pelecehan Seksual

ilustrasi pelecehan seksual. wikimedia commons/Bayunknown

Dalam pasal 30 UU TPKS disebutkan, korban tindak pidana kekerasan seksual berhak mendapatkan restitusi dan layanan pemulihan. Restitusi itu berupa ganti kerugian atas kehilangan kekayaan atau penghasilan dan ganti kerugian yang ditimbulkan akibat penderitaan yang berkaitan langsung sebagai akibat tindak pidana kekerasan seksual.

Selain itu, restitusi juga bisa berupa penggantian biaya perawatan medis dan/atau psikologis, dan/atau ganti kerugian atas kerugian lain yang diderita korban sebagai akibat tindak pidana kekerasan seksual.

Walaupun sudah alumni, Vivi beranggapan kalau pihak sekolah masih memiliki kewajiban terhadap para korban yang merupakan bagian dari sekolah. Pihak sekolah, kampus, dan pemerintah juga harus memberikan langkah pencegahan sesuai dengan mandat UU TPKS dan Permendikbud.

“Tentu menurut saya pribadi permintaan maaf tidak cukup. Yang utama adalah pemulihan bagi korban, apalagi jejak digital bisa menjadi abadi alias sulit untuk dihilangkan. Korban harus didampingi secara mental baik dari pihak sekolah dan juga pemerintah punya tanggung jawab untuk memberikan hak korban ini,” ungkap Vivi.

Pendampingan mental dan juga hukum/non litigasi harus berjalan bersamaan, begitu pula secara digital pun kerahasiaan korban juga harus dilindungi.

Untuk mengatasi kasus KBGO sendiri, Chatarina dari Komnas Perempuan mendorong korban untuk bercerita kepada orang yang dipercaya. Dan bagi siapapun yang mendengar korban bercerita atas apa yang dialami, mereka sama sekali tak boleh menyalahkan korban.

"Pokoknya jangan disalahin dan yang penting juga bukti tadi misalnya ada chat atau apa gitu ya dari si korban itu jangan dihapus, itu di screenshot atau gimana. Kecuali kalau misalnya dia di ruang digital yang bisa diakses orang lain, misalnya Instagram atau Facebook atau internet, nah itu setelah diunduh atau gimana, terus minta sesegera mungkin bisa ke Meta kalau itu dari Meta, bisa ke SafeNet, atau bisa juga ke Komdigi untuk minta dilakukan takedown,” tutur Chatarina.

Selain bercerita kepada orang yang dipercaya, korban juga bisa melaporkan kasus yang dialami dan meminta dukungan, baik ke Komnas Perempuan maupun ke lembaga layanan lainnya.

Chatarina mengingatkan masyarakat untuk bisa membangun kesadaran soal privasi di ranah digital, berhati-hati dalam membangun hubungan secara daring (misal di game atau media sosial), dan mengenali tanda-tanda manipulasi.

Baca juga artikel terkait KECERDASAN BUATAN atau tulisan lainnya dari Fina Nailur Rohmah

tirto.id - News Plus
Reporter: Fina Nailur Rohmah
Penulis: Fina Nailur Rohmah
Editor: Farida Susanty