tirto.id - Mahkamah Konstitusi (MK) mengabulkan gugatan terkait larangan penggunaan foto berbasis Artificial Intelligence (AI) untuk kampanye Pemilu dan Pilpres dalam amar putusan Nomor 166/PUU-XXI/2023. Pertimbangan hukum ini, dilakukan setelah MK menguji materiil Undang-Undang Nomor 7 Tahun 2017 tentang Pemilihan Umum (UU Pemilu) yang dimohonkan oleh Gugum Ridho Putra.
Pemohon sebelumnya mempersoalkan ketiadaan larangan bagi Peserta Pemilu untuk menggunakan citra diri berupa foto/gambar, suara, gabungan foto/gambar dan suara dengan manipulasi, penciptaan, perubahan, penghilangan secara digital ataupun teknologi AI yang dianggap seolah-olah sebagai citra diri yang otentik.
Melalui kecanggihan teknologi, peserta Pemilu dapat melebih-lebihkan citra dirinya melebihi keadaan yang sebenarnya. Ketiadaan larangan ini dapat menyebabkan misinformasi bagi pemilih sehingga berpotensi memanipulasi persepsi Pemilih terhadap kandidat. Menggiring Pemilih menggunakan hak pilihnya secara keliru (misguided voting).
Pemohon menjelaskan, UU Pemilu belum mengatur seluk-beluk citra diri peserta pemilu yang akan dipergunakan dalam materi kampanye. Pembatasan penggunaan teknologi digital termasuk bantuan AI juga belum diatur. Akibatnya, peserta pemilu dapat dengan leluasa melakukan pemolesan tanpa batasan.
“Dengan demikian, Mahkamah berpendapat terhadap norma Pasal 1 angka 35 UU Pemilu sepanjang frasa ‘citra diri’ yang berkaitan dengan foto/gambar peserta pemilu harus dilakukan pemaknaan bersyarat dengan mewajibkan peserta pemilu untuk menampilkan foto/gambar tentang dirinya yang original dan terbaru serta tanpa direkayasa/dimanipulasi secara berlebihan dengan bantuan teknologi kecerdasan artifisial,” ujar Wakil Ketua MK, Saldi Isra, dalam Sidang Pengucapan Putusan di Ruang Sidang Pleno MK, Jakarta, dikutip Senin (6/1/2025).
Dalam putusannya, MK menyebutkan bahwa rekayasa atau manipulasi berlebihan sepanjang berkaitan dengan foto/gambar peserta pemilu yang dipoles dan dimanipulasi secara berlebihan dengan bantuan teknologi AI menimbulkan ketidakpastian hukum dan tidak sejalan dengan asas pemilu bebas, jujur, dan adil. Sebab, informasi yang tidak benar dapat merusak loyalitas pemilih terhadap kandidat.
Selain itu, hal demikian dapat merusak kemampuan pemilih untuk mengambil keputusan secara berkualitas sehingga berdampak pada kerugian bagi pemilih secara individual dan merusak kualitas demokrasi. Untuk itu, dalam amar putusan yang dibacakan oleh Ketua MK Suhartoyo, Mahkamah mengabulkan untuk permohonan pemohon untuk sebagian.
Dalam Pemilu 2024 Pemanfaatan Generative AI memang banyak digunakan. Salah satunya adalah untuk pembuatan video deepfake. Ini dapat terlihat dalam video yang memunculkan Presiden Soeharto yang telah wafat. Pada video tersebut, Presiden Soeharto (1968-1998) mengajak pemilih untuk memberikan suara kepada Partai Golongan Karya (Golkar).
Video deepfake yang memunculkan tokoh pemimpin ikonik di dalam pemilu memang telah digunakan di berbagai negara. Di Pemilu India 2024, Partai Dravida Munnetra Kazgham (DMK) menyebarkan video dengan mantan presiden Partai DMK yang telah wafat, Karunanindhi, mengajak masyarakat untuk memilih DMK.
Sebelumnya pada Pemilu 2023 Pakistan, mantan Perdana Menteri Pakistan yang kini mendekam di penjara, Imran Khan, juga muncul dalam video deepfake mengkampanyekan partainya, Pakistan Tehreek-e-Insaf (PTI).
Selain digunakan dalam pembuatan konten deepfake, AI di Pemilu Indonesia 2024 juga digunakan dalam animasi kandidat presiden-wakil presiden. Pasangan calon (paslon) nomor urut 2, Prabowo Subianto-Gibran Rakabuming Raka, misalnya. Saat itu mereka mempromosikan konten-konten dan bahan kampanye dengan foto animasi yang terkesan “gemoy”.
Putusan MK Layak Diapresiasi
Pembina Perkumpulan Pemilu untuk Demokrasi (Perludem), Titi Anggraini, menilai putusan Putusan MK terkait larangan penggunaan foto berbasis AI dalam Pemilu dan Pilpres tersebut layak diapresiasi sebagai respons atas salah satu tantangan dalam penggunaan teknologi dalam praktek Pemilu di Indonesia. Sebab berdasar pengalaman Pemilu dan Pilkada belakangan ini, ada banyaknya penggunaan foto berbasis AI yang kemudian menutupi orisinalitas gambaran calon.
“Dan ini membuat pemilih terkecoh dalam menilai bahkan termanipulasi dalam membuat keputusan saat memilih,” jelas Titi kepada Tirto, Senin (6/1/2025).
Titi mengatakan, langkah ini diambil untuk memastikan setiap pemilih mendapatkan gambaran yang jujur dan apa adanya tentang kandidat dipilih. Karena perlu diingat, kata Titi, foto bukan hanya sekadar formalitas dalam kampanye, melainkan foto adalah elemen penting dalam mencerminkan identitas dan kredibilitas kandidat.
“Padahal, pemilu yang demokratis harus menerapkan prinsip jujur dan adil serta bukan mendasarkan pada rekayasa secara berlebihan yang cenderung memanipulasi kebenaran,” jelas dia.
Analis Sosio-politik dari Institute for Security and Strategic Studies (ISESS), Musfi Romdoni, menambahkan, putusan MK ini memang cukup progresif. Ini karena negara-negara lain seperti Amerika Serikat juga sudah memiliki aturan tentang pelarangan penggunaan AI di kampanye.
“Namun, bahasa putusan MK yang menggunakan frasa 'citra diri' membuat pemaknaan dalam keputusan ini menjadi terlalu luas dan tidak jelas,” ujar dia kepada Tirto, Senin (6/1/2025).
Musfi mencontohkan, di Amerika Serikat misalnya, pelarangan penggunaan AI dimaksudkan terhadap foto atau video yang tidak menampilkan kenyataan alias kebohongan, tidak disebutkan soal frasa 'citra diri'. Jika MK menyasar frasa 'citra diri', apalagi secara spesifik menyebutkan gambaran asli kandidat, maka segala bentuk produk bantuan teknologi foto atau video berkonsekuensi untuk dilarang.
“Karena kita tahu sendiri, semua produk foto dan video itu sebenarnya adalah sentuhan AI agar tampilannya lebih mulus, lebih cerah, dan lebih putih,” jelas dia.
Lebih lanjut lagi, penggunaan frasa 'citra diri yang asli dari kandidat' berkonsekuensi terhadap pelarangan marketing politik. Tujuan putusan MK ini bisa dipahami agar masyarakat mendapatkan gambaran asli kandidat. Tapi pada praktiknya, kata Musfi, apa yang ditampilkan kandidat selalu adalah produk marketing politik.
“Kandidat menampilkan dirinya religius, family man, atau peduli rakyat kecil, padahal sering kali itu hanya citra yang dibuat-buat,” ujar Musfi.
Oleh karenanya, Putusan MK yang progresif ini seharusnya tidak berhenti pada foto atau video AI, tapi juga harus menyasar rekayasa marketing politik yang sudah membohongi masyarakat selama puluhan tahun. Selama ini masyarakat kerap dibohongi soal citra yang ditampilkan.
“Belum lagi soal janji kampanye, ini kan sangat menipu. Jika konsentrasi MK pada citra yang menipu, seharusnya janji kampanye juga dibahas, karena itu banyak menipu masyarakat,” katanya.
Pengaturan Batasan Penggunaan AI
Kendati sudah cukup baik, Namun Titi dari Perludem menilai, putusan MK tersebut masih memerlukan pengaturan tindak lanjut dalam tataran teknis. Khususnya untuk menerjemahkan isi Putusan MK yang menyatakan bahwa apa yang dimaksud sebagai foto/gambar tentang dirinya yang original dan terbaru serta tanpa direkayasa/dimanipulasi secara berlebihan dengan bantuan teknologi kecerdasan artifisial.
Menurutnya, pembentuk Undang-Undang harus mengatur lebih lanjut batasan yang terukur dan kongkrit agar penyelenggara Pemilu bisa menilai bahwa suatu foto/gambar yang digunakan dalam kampanye adalah original dan terbaru tanpa direkayasa atau dimanipulasi secara berlebihan dengan bantuan teknologi kecerdasan artifisial. Perumusan itu harus dilakukan oleh pembentuk undang-undang dengan melibatkan pakar dan praktisi yang memiliki kompetensi keilmuan terkait.
“Serta ini harus dibahas dengan melibatkan para pemangku kepentingan pemilu dalam suatu proses pembahasan dengan partisipasi yang bermakna (meaningful participation),” ujar Titi.
Peneliti Perludem, Annisa Alfath, menambahkan dalam penyusunan aturan turunan memang perlu dirumuskan secara jelas definisi "rekayasa berlebihan". Misalnya, apakah batasan tersebut mencakup teknologi seperti deepfake yang sepenuhnya mengubah tampilan visual, atau juga termasuk pengeditan ringan seperti manipulasi kosmetik yang masih dianggap minor.
“Selain itu, penggunaan AI yang tidak tergolong berlebihan tetap harus diawasi. Apabila konten dibuat dengan bantuan AI, penting untuk mencantumkan keterangan yang menyatakan bahwa hasil tersebut merupakan "AI-generated" untuk menjaga transparansi informasi,” jelas Annisa kepada Tirto, Senin (6/1/2025).
Seperti Undang-Undang New Mexico, berfokus pada transparansi dengan mewajibkan pengungkapan tentang penggunaan AI dalam konten terkait pemilu. Badan legislatif Florida mengesahkan RUU serupa yang mewajibkan pernyataan sanggahan pada iklan politik yang menyatakan bahwa iklan tersebut "Dibuat seluruhnya atau sebagian dengan menggunakan kecerdasan buatan generatif." Hal ini berlaku untuk semua konten, termasuk audio, video, teks, gambar, atau grafik lainnya.
Langkah di atas, menurutnya penting untuk memastikan bahwa demokrasi tetap berjalan secara adil dan proses pemilu menghasilkan pemimpin yang benar-benar dipercaya oleh masyarakat, tanpa dipengaruhi oleh manipulasi visual atau teknologi yang menyesatkan. Dengan demikian, pengaturan ini tidak hanya menjaga hak pemilih untuk mendapatkan informasi yang akurat, tetapi juga melindungi keadilan dan kredibilitas proses Pemilu.
Terkait dengan batasan penggunaan AI, Komisioner Komisi KPU RI, Idham Kholik, menjelaskan pada Pemilu serentak 2024 sebenarnya sudah diatur mengenai batasan penggunaan AI dalam Pemilu. Bagi peserta Pemilu yang melanggar dikenakan sanksi beruapa administratif.
"Di pemilu serentak 2024, baik itu dalam peraturan pencalonan, peraturan pengajuan daftar calon anggota legislatif maupun pencalonan, calon presiden dan wakil presiden serta pencalonan kepala daerah dan wakil kepala daerah, KPU sudah atur," ujar dia saat dihubungi Tirto, Senin (6/1/2024).
Idham mencontohkan, pada kasus pengeditan foto yang berlebihan seorang calon DPD di Nusa Tenggara Timur (NTB) 2019, dalam pertimbangan hukumnya MK mengatakan bahwa itu merupakan pelanggaran administrasi. Jika terbukti melakukan pelanggaran administrasi, maka konsekuensinya harus diperbaiki.
Idham melanjutkan, sebagaimana yang menjadi amar putusan dari MK, larangan penggunaan AI baru sebatas foto saja bukan video. Karena ini berkaitan dengan pemenuhan hak informasi publik. Terlebih, dalam hal ini publik berhak mendapatkan informasi aktual terhadap citra diri dari calon peserta Pemilu ataupun Pilkada.
"Dan dalam membaca itu kan kita lihat pertimbangan hukumnya dan apa yang dimohon oleh para pemohon," ujar dia.
Penulis: Dwi Aditya Putra
Editor: Anggun P Situmorang
