Masuk tirto.id
tirto.id - Sudahkah kamu menggunakan perangkat AI hari ini?
Perkembangan teknologi akal imitasi (artificial intelligence, AI) memang kian umum dan membantu kehidupan sehari-hari masyarakat. AI semakin masif digunakan oleh berbagai kalangan untuk beragam kebutuhan.
Ada yang menggunakannya untuk mendapatkan resep masakan, curah pendapat (brainstorming) soal ide bisnis, hingga menyusun kerangka penulisan makalah.
Selain teks, perkembangan teknologi AI juga membuat masyarakat dapat menghasilkan foto maupun video yang disesuaikan dengan kebutuhan dan keinginan mereka masing-masing. Tak terkecuali bagi Raihan (23), yang memanfaatkan kemajuan teknologi generative AI untuk menghasilkan foto profil formal guna dipajang di laman LinkedIn pribadinya.
Raihan menggunakan platform Gemini AI untuk menghasilkan foto profil tersebut. Bermodalkan instruksi alias prompt yang dirangkai sedemikian rupa, sekarang ia telah memiliki sebuah foto dengan gaya necis sambil mengenakan jas.
“Cuma modal foto biasa, tulis prompt-nya, udah jadi foto formal kayak gini,” tutur Raihan kepada Tirto, Jumat (19/9/2025).
Sayangnya, perkembangan teknologi pembuatan foto melalui generative AI tak selalu dimanfaatkan dengan positif.
Belakangan, jagat media sosial diramaikan dengan pembuatan foto ala kamera polaroid yang menampilkan seseorang dengan sosok idolanya. Mulai dari idol K-Pop, artis layar lebar, hingga pemain Tim Nasional sepak bola (Timnas) Indonesia .
Ini menjadi masalah lantaran beberapa foto yang dihasilkan dengan AI itu tampak tidak pantas secara etika. Ada foto-foto yang menampilkan seseorang tengah dipeluk, dirangkul, hingga dicium oleh idolanya.
Beberapa pemain Timnas pun mengeluhkan foto pribadi mereka yang diolah dengan AI sehingga tampak sedang berfoto secara personal oleh para penggemarnya. Tiga pemain Timnas, Rizky Ridho, Justin Hubner, dan Sandy Walsh buka suara terkait ketidaknyamanan mereka saat melihat foto-foto itu.
"Teman-teman minta tolong lebih sopan lagi ya, tidak perlu edit kayak gini," tulis Rizky Ridho di fitur Instagram Story akun pribadinya.
"Saya minta kepada orang-orang tidak mengedit foto saya menggunakan AI agar tidak memunculkan kesalahpahaman di kemudian hari,” ujar Sandy Walsh melalui akun Instagram pribadinya.
Bahaya Penyalahgunaan Foto Pribadi
Secara etika, menggunakan foto pribadi orang lain tanpa adanya konsensus terlebih dahulu tentulah tidak patut. Terlebih lagi, apabila foto itu ditampilkan dengan cara yang tidak senonoh setelah diolah menggunakan teknologi AI.
Pengamat komunikasi digital dari Universitas Indonesia (UI), Firman Kurniawan, menilai ada potensi timbulnya penyalahgunaan ketika foto pribadi seseorang diolah dengan menggunakan AI. Beberapa potensi penyalahgunaan yang mungkin terjadi adalah penipuan hingga penyebaran berita bohong atau hoaks.
“Kalau foto ini dipakai, ini bisa untuk mendiskreditkan orang. Misalnya saya lagi mencalonkan menjadi kandidat gubernur gitu, terus di-framing saya pernah berselingkuh,” terang Firman kepada Tirto, Jumat (19/9/2025).
Potensi penyalahgunaan itu akan menjadi semakin berbahaya apabila masyarakat belum teredukasi dengan baik mengenai cara membedakan antara foto yang asli dan foto yang dihasilkan oleh AI.
Bukan hanya berpotensi menjerumuskan, penggunaan foto pribadi seseorang yang diolah dengan AI itu juga rawan digunakan untuk tindak kriminal. Sebab, foto wajah seseorang mengandung data biometrik yang menyimpan banyak data dan riwayat hidup orang tersebut.
“Data-data pribadi tadi, wajah, suara, gerakan, atau data-data biometrik, itu adalah bahan baku yang penting untuk membuat penyelahgunaan pakai foto-foto yang vulgar, [mengandung] pornografi, fitnah, dan sebagainya,” terang Firman.
Meski begitu, Firman menyebut, hingga saat ini belum banyak regulasi yang secara ketat mengatur potensi penyalahgunaan tersebut. Penyalahgunaan itu baru bisa ditindak secara hukum apabila terdapat tindak pidana di dalamnya.
Ia mencontohkan, regulasi yang sudah cukup baik mengatur privasi data pribadi seseorang berada di Denmark. Di sana, ada suatu undang-undang khusus yang melindungi berbagai data pribadi seseorang, mulai dari wajah, suara, dan properti tubuh lainnya.
“[Kalau] wajah saya dipakai tanpa izin, itu saya bisa menuntut. Itu aspek hukumnya. Sudah tegas kalau di Denmark. Nah, kalau di kita, mungkin [masih] sebatas etika,” ucapnya.
Data Pribadi Rentan Disalahgunakan Platform AI
Menggunakan foto pribadi untuk diolah dengan AI juga memiliki konsekuensi data pribadi berpotensi disalahgunakan oleh pihak platform penyedia teknologi AI. Menurut Dosen Hukum dan Teknologi Digital dari Universitas Prasetiya Mulya, Fachry Hasani Habib penting bagi masyarakat untuk mengetahui syarat dan ketentuan apa saja yang dikeluarkan oleh pihak platform AI sebelum mengunggah foto pribadi.
“Bahaya paling utama tentu penggunaan wajah yang termasuk data pribadi bisa disalahgunakan oleh platform. Oleh karena itu, penting untuk mengetahui bagaimana platform akan menggunakan data kita,” ujar Fachry saat dihubungi Tirto terpisah pada Jumat (19/9/2025).
Ia mengimbau, masyarakat bisa mempelajari terlebih dahulu seperti apa kebijakan platform AI dalam memproses foto-foto pribadi yang diunggah. Menurutnya, sudah seharusnya langkah itu dilakukan, sebab foto pribadi mengandung berbagai data yang berharga.
OECD dalam laporan bertajuk “OECD Artificial Intelligence Papers” yang dirilis pada 2024 lalu mengungkapkan, model pelatihan teknologi AI berskala besar menimbulkan berbagai risiko penyalahgunaan privasi data pribadi.
Dalam mengembangkan teknologi AI, platform biasanya mengumpulkan data secara masif dan seringkali mencakup data pribadi tentang seseorang yang telah dibagikan secara daring.
Untuk mencegah penyalahgunaan data pribadi, OECD sebenarnya sudah mengatur bahwa proses pelatihan sistem AI seperti pemrosesan data harus tunduk pada Pedoman Privasi OECD. Beberapa prinsip yang tercantum dalam pedoman itu di antaranya adalah platform harus memperoleh data pribadi dengan cara yang sah, dengan sepengetahuan subjek data, dan penggunaan data tidak bertentangan dengan tujuan awal.
Namun, pada praktiknya proses pengumpulan data itu tetap berpotensi menyalahi prinsip yang telah ditetapkan oleh OECD. Sebab, dalam melatih sistem AI untuk menghafal data dalam jumlah besar, kerap kali pengumpulannya dilakukan tanpa sepengetahuan subjek data.
“Mengingat kapasitas model AI untuk ‘menghafal’ data pelatihan dalam jumlah besar, large language model di balik alat AI generatif berbasis teks menimbulkan risiko pengumpulan, penggunaan, dan penggunaan kembali data pribadi tanpa sepengetahuan orang yang bersangkutan,” tulis OECD dalam laporannya.
Bahaya Nyata Pengolahan Foto Pribadi oleh AI
Di Amerika Serikat (AS), kesalahan penggunaan foto berbasis AI telah membuat Porcha Woodruff, seorang perempuan dari Detroit, menjadi korban salah tangkap oleh polisi pada pertengahan 2023 lalu. Polisi Detroit menangkap Porcha setelah mereka menggunakan teknologi pengenalan wajah guna menangkap tersangka pembajakan mobil.
Sebulan kemudian, jaksa penuntut membatalkan kasus tersebut karena bukti yang tidak memadai. Kasus yang dialami Porcha menunjukkan risiko nyata yang ditimbulkan oleh teknologi berbasis AI terhadap orang-orang yang tidak bersalah, terutama ketika teknologi tersebut tidak diuji secara ketat maupun diregulasi sebelum digunakan.
“Berkali-kali, teknologi pengenalan wajah keliru, seperti yang terjadi pada kasus Porcha Woodruff. Meskipun akurasinya telah meningkat dalam beberapa tahun terakhir, teknologi ini masih sangat bergantung pada informasi dalam jumlah besar yang tidak dapat dinilai keandalannya. Dan, dalam banyak kasus, informasi tersebut bias,” tulis media AS, Innocence Project.
Meskipun kasus tersebut bisa saja terjadi karena ketidaksengajaan, tetapi pada faktanya hal ini menunjukkan bahwa terdapat potensi besar kesalahan penggunaan foto pribadi yang telah diolah oleh platform AI sebelumnya.
Oleh karenanya Fachry, Dosen Prasetiya Muliya menekankan, sebelum mengunggah foto pribadi ke platform AI, masyarakat harus menimbang betul risiko apa saja yang akan mereka hadapi. Masyarakat juga harus secara cermat memastikan bahwa foto yang mereka unggah telah memperoleh persetujuan dari para pemilik foto terlebih dahulu.
Apabila foto seseorang diunggah tanpa melalui persetujuan, maka Fachry menilai hal tersebut bisa tergolong pelanggaran. Ia menegaskan, bukan tidak mungkin pihak yang merasa dirugikan dengan pengunggahan foto pribadinya itu bisa melakukan penuntutan.
“Kalau tidak ada kesepakatan, tentu ada pelanggaran terhadap penggunaan data pribadi yang tidak sah,” tegasnya.
Untuk foto-foto pribadi yang disalahgunakan untuk diolah menjadi foto berbau vulgar dan pornografi, Fachry menyebut, sudah ada payung hukum seperti Undang-Undang (UU) Pornografi dan UU Informasi Teknologi Elektronik (ITE) yang bisa menjerat masyarakat.
Untuk itu, masyarakat harus lebih berhati-hati dalam memproduksi foto dengan menggunakan AI, terutama tidak menggunakannya untuk keperluan yang merugikan pihak lain.
“Bahkan ketentuan untuk platform juga sudah diatur oleh beberapa peraturan terkait seperti ketentuan tentang Penyelenggaraan Sistem Elektronik. Jadi pada dasarnya ada beberapa peraturan yang bisa diperhatikan untuk produksi hal-hal tersebut,” pungkasnya.
Penulis: Naufal Majid
Editor: Alfons Yoshio Hartanto
