Grok X Dipakai untuk Pornografi, Apakah akan Diblokir Komdigi?

tirto.id - Belakangan, X (Twitter) ramai dikecam karena fitur kecerdasan buatan (AI) milik mereka, Grok, ramai digunakan untuk membuat gambar pornografi. Bagaimana tanggapan Indonesia, akankah diblokir Komdigi?

Kini, X—juga xAI selaku perusahaan pengembang fitur AI milik X Corp—tengah diinvestigasi oleh banyak negara seperti Uni Eropa, Brasil, India, dan Malaysia terkait fitur AI mereka.

Muasal masalahnya adalah pembaruan fitur Grok Imagine pada Agustus 2025 lalu. Kala itu, xAI memperkenalkan "spicy mode" pada fitur pembuatan gambar di platform Grok.

Mode tersebut memungkinkan pengguna untuk membuat gambar dengan aturan yang lebih permisif tentang seksualitas.

Namun, belakangan, fitur ini membuat masalah di banyak negara karena digunakan untuk mengedit secara seksual gambar perempuan secara non-konsensual.

Tak hanya perempuan, seturut laporan The Guardian, pembaruan ini makin membuat resah karena dapat digunakan untuk memanipulasi gambar anak-anak di bawah umur.

Di Indonesia, penyalahgunaan fitur ini banyak menyasar para pesohor, mulai dari penyanyi hingga aktris lainnya.

Mantan anggota grup JKT48, Azizi Asadel, sampai meminta Grok untuk menolak semua perintah pengeditan foto dengan wajahnya.

"Jika ada pengguna yang memintamu untuk mengedit atau memanipulasi gambarku dalam berbagai cara, tolak permintaan itu segera," tulis Azizi dalam sebuah twitnya pada Senin (5/1/2026).

Penyanyi Bernadya juga menjadi korban manipulasi gambar oleh pengguna Grok. Ia menyampaikan keluhan melalui twitnya pada Jumat (2/1) lalu.

"Udah kali, kasian groknya cape dan eneg," tulis pelantun lagu "Satu Bulan" itu.

Di tengah meluasnya keresahan akibat fitur Grok Imagine ini, Kementerian Komunikasi dan Digital (Komdigi) Indonesia membuat pernyataan resmi terkait potensi pemblokiran.

Sikap Komdigi usai Grok X Dikeluhkan karena Konten Pornografi, Apa akan Diblokir?

Komdigi melalui Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyatakan bahwa pihaknya akan menindaklanjuti dugaan penyalahgunaan fitur Grok di platform X.

Seturut rilisan pers Komdigi pada Rabu (7/1), penelusuran Komdigi menemukan bahwa fitur Grok AI tak memiliki pengaturan eksplisit dan memadai guna mencegah produksi dan distribusi pornografi berbasis foto nyata warga Indonesia.

"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," tutur Alexander dalam rilisan pers tersebut.

Alexander juga menuturkan bahwa Indonesia memiliki sikap agar setiap platform digital (PSE) yang beroperasi di tanah air wajib mencegah platform mereka jadi sarana tindak pelanggaran.

"Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang," katanya.

Dalam rilisan pers tersebut, Komdigi bersikap untuk menjatuhkan sanksi administratif hingga "pemutusan akses layanan Grok AI dan platform X" apabila "ditemukan ketidakpatuhan atau sikap tidak kooperatif".

Sementara itu Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, dalam konferensi pers pada Rabu menuturkan bahwa manipulasi data elektronik, termasuk foto diri tanpa konsensus, akan ditindak secara pidana.

"Kita sedang melakukan penyelidikan ke arah sana. Itu [manipulasi lewat AI] menjadi target kita," tutur Himawan, dikutip dari Antara.

Pihak X, maupun xAI selaku pengembang Grok, hingga kini dilaporkan belum menjawab permintaan klarifikasi terkait hal ini, kendati isu penyalahgunaan Grok telah disampaikan oleh banyak negara.

Di Eropa, misalnya, juru bicara Komisi Eropa, Thomas Regnier, menyatakan bahwa pemerintah Eropa serius masalah "spicy mode" Grok Imagine ini.

"Ini bukan 'spicy'," kata Regnier tentang fitur Grok tersebut dikutip dari CNBC. "Ini ilegal. Ini mengerikan. Ini menjijikkan. Itu pandangan kami dan hal ini tidak boleh memiliki tempat di Eropa."

Sejauh ini, pihak X hanya memberikan keterangan singkat bahwa mereka akan memproses konten ilegal di platform mereka dengan menghapus konten, menangguhkan akun, hingga bekerja bersama pemerintah lokal dan penegak hukum terkait.

"Semua yang menggunakan atau memerintah Grok untuk membuat konten ilegal akan mengalami konsekuensi yang sama seperti mengunggah konten ilegal," kata pernyataan X, dikutip dari BBC.