OpenAI Buka Erotika buat Pengguna Dewasa, Pemerintah Harus Apa?

tirto.id - Bos OpenAI Sam Altman berencana menambahkan akses ke konten erotis bagi pengguna ChatGPT pada akhir 2025 ini. Akses ke konten erotis tersebut akan tersedia setelah OpenAI menerapkan sistem pembatasan usia (age-gating) di ChatGPT. Jadi, pengguna harus memverivikasi usia mereka terlebih dahulu sebelum bisa mengaksesnya.

“Pada Desember, seiring kami meluncurkan pembatasan usia (age-gating) secara lebih menyeluruh dan sebagai bagian dari prinsip ‘memperlakukan pengguna dewasa selaiknya orang dewasa’, kami akan mengizinkan lebih banyak konten, seperti erotika, untuk pengguna dewasa yang terverifikasi,” tulis Altman di unggahan X-nya.

Altman mendaku dirinya bukanlah polisi moral. Menurutnya, pengguna ChatGPT sah-sah saja menggunakan layanan sarat seksualitas sepanjang atas kemauan masing-masing individu.

Belum jelas seperti apa detail layanan erotis tersebut, yang jelas akses ke layanan ini bakal memasang pembatasan usia. Akses ke jenis konten erotis hanya akan berlaku jika pengguna secara eksplisit mengaktifkannya. Sementara itu, pengguna anak-anak dan remaja diklaim tidak diizinkan mengakses layanan itu.

"Kami (OpenAI dan ChatGPT) tidak berperan sebagai polisi moral dunia. Sama seperti masyarakat membuat batasan-batasan yang layak, seperti halnya film dengan klasifikasi R, kami juga ingin menerapkan pendekatan serupa di sini," tulis Altman akun X-nya, Kamis (16/10/2025).

Altman menjelaskan bahwa tujuan dari kebijakan ini adalah memberikan lebih banyak ruang kebebasan kepada para pengguna dewasa.

"Kami sangat menjunjung prinsip bahwa orang dewasa sebaiknya diperlakukan sebagaimana mestinya, sebagai individu yang mampu menentukan pilihan sendiri. Mengingat AI semakin terintegrasi dalam kehidupan manusia, penting bagi kami untuk memberikan fleksibilitas dalam penggunaannya," tambahnya.

Meski demikian, dia menekankan bahwa muatan konten yang bersifat merugikan tetap tidak akan diizinkan. OpenAI pun tetap berkomitmen untuk memberikan respons yang layak kepada pengguna yang sedang mengalami masalah kesehatan mental.

"Tanpa bersikap menggurui, kami akan berusaha mendukung pengguna untuk mencapai tujuan jangka panjang mereka," ujar Altman.

Sebelumnya, ChatGPT pernah menerapkan kebijakan konten yang sangat ketat sebagai bagian dari upaya menangani isu kesehatan mental. Hal ini tak terlepas dari kasus gugatan yang diajukan oleh orang tua dari seorang remaja yang melakukan bunuh diri setelah berinteraksi dengan ChatGPT.

"Kami menyadari bahwa kebijakan yang terlalu membatasi justru membuat platform menjadi kurang berguna atau menyenangkan bagi banyak pengguna yang tidak mengalami gangguan kesehatan mental," katanya pada Selasa (14/10/2025), seperti diberitakan BBC.

Menjadi Kekhawatiran Publik

Di Inggris, erotika dalam bentuk teks tidak memerlukan verifikasi usia menurut Undang-Undang Keamanan Daring. Akan tetapi, Inggris tetap memberlakukan pembatasan atau verifikasi usia untuk konten visual erotis, termasuk yang dibuat oleh AI. Pengguna harus membuktikan bahwa mereka berusia di atas 18 tahun.

Sedangkan di Amerika Serikat, sejumlah pihak mengkritisi langkah OpenAI ini. Mereka menyebut hal tersebut memerlukan pengaturan hukum yang lebih ketat di tingkat federal dan negara bagian.

"Bagaimana mereka akan memastikan bahwa anak-anak tidak dapat mengakses konten khusus dewasa di ChatGPT yang berisi materi erotis? OpenAI, sebagaimana banyak perusahaan teknologi besar lainnya, tampak seperti sedang memperlakukan manusia sebagai objek eksperimen,” tutur Jenny Kim dari firma hukum Boies Schiller Flexner dalam wawancara dengan BBC, Kamis (16/10/2025).

TechCrunch, media teknologi daring asal Amerika Serikat, melaporkan pada April lalu bahwa ChatGPT sempat mengalami bug yang membuat akun pengguna di bawah umur menghasilkan konten erotis. OpenAI mengonformasi adanya bug itu dan menyatakan komitmen untuk memperbaikinya.

Sementara itu, survei dari organisasi nirlaba Centre for Democracy and Technology (CDT) yang rilis pada Oktober mengungkap bahwa 1 dari 5 siswa memiliki atau mengenal seseorang yang memiliki hubungan romantis dengan AI.

Laporan survei lain terkait kekhawatiran akan konten erotis di platform AI juga datang dari lembaga Vantage Point Counseling Services pada September lalu. Survei tersebut melibatkan 1.012 orang dewasa di AS. Hasilnya menunjukkan bahwa hampir sepertiga responden mengaku pernah menjalin hubungan emosional atau romantis dengan chatbot AI.

Dalam beberapa kasus, hubungan antara manusia dan AI ini menyimpang, terutama pada individu dengan masalah kesehatan mental.

Pada September lalu, Senat AS telah memperkenalkan rancangan undang-undang bipartisan yang akan mengatur tentang pengajuan tuntutan hukum oleh pengguna chatbot AI terhadap pengembang jika terjadi pelanggaran atau kerugian.

Penerapan Etika AI di Indonesia Terkait Konten Pornografi

Merujuk ketentuan Kementerian Komunikasi dan Digital (Komdigi), ada dua panduan soal etika penggunaan akal imitasi, yaitu Buku Putih Peta Jalan Kecerdasan Artifisial Nasional dan Konsep Pedoman Etika Kecerdasan Artifisial.

Dua produk yang diluncurkan pada pertengahan 2025 ini sebagian besar merujuk pada Surat Edaran Menteri Komunikasi dan Informatika Nomor 9/2024 Tentang Etika Kecerdasan Artifisial. Meski begitu, tiga dokumen itu tidak spesifik menyebutkan mitigasi atau penanganan terkait penyebaran konten pornografi atau erotika.

Hanya saja, kajian Komdigi menyebutkan bahwa salah satu tantangan utama dalam pengembangan etika AI di Indonesia adalah inkonsistensi kepatuhan atas etika AI dan rendahnya kesadaran akan pentingnya etika AI, baik di kalangan pemerintah, industri maupun masyarakat umum.

Dalam ketentuan Komdigi, penyelenggaraan teknologi AI mesti memperhatikan nilai-nilai etika yang meliputi: inklusivitas, kemanusiaan, keamanan, aksesibilitas, transparansi, kredibilitas dan akuntabilitas, perlindungan data pribadi, pembangunan dan lingkungan berkelanjutan, serta kekayaan intelektual.

Namun, penjelasan nilai-nilai etika tersebut tidak menyebutkan unsur pornografi sebagai suatu masalah yang perlu diatasi atau ada pengaturan etikanya lebih lanjut.

Terlepas dari hal itu, Komdigi telah melakukan tindakan tegas dalam soal penertiban konten berbau pornografi di media sosial. Teranyar, pada Oktober ini, Direktorat Jenderal Pengawasan Ruang Digital menerbitkan Surat Teguran Ketiga kepada Penyelenggara Sistem Elektronik Lingkup Privat User-Generated Content (PSE UGC) X Corp (X) karena belum memenuhi kewajiban pembayaran denda administratif yang telah ditetapkan sebelumnya.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menuturkan bahwa tindakan ini merupakan bagian dari penegakan hukum atas pelanggaran kewajiban moderasi konten bermuatan pornografi yang ditemukan dalam hasil pengawasan ruang digital oleh Komdigi pada 12 September 2025.

Nilai denda yang dikenakan sebesar Rp78.125.000—hasil akumulasi denda dari Surat Teguran Kedua dan Ketiga sebagai bentuk eskalasi sanksi sesuai dengan ketentuan peraturan perundang-undangan.

Komdigi menitikberatkan bahwa meskipun X telah melaksanakan perintah pemutusan akses (take-down) terhadap konten tersebut dua hari setelah Surat Teguran Kedua diterbitkan pada 20 September 2025, kewajiban pembayaran denda administratif tetap harus dipenuhi sesuai dengan ketentuan peraturan yang berlaku.

“Kami akan terus memastikan bahwa semua platform digital tunduk pada regulasi Indonesia dan menjalankan tanggung jawab sosial dalam menjaga ekosistem digital yang aman dan beretika,” ungkap Alexander.

Pemerintah Harus Tegas

Direktur Eksekutif Information and Communication Technology (ICT) Institute, Heru Sutadi, mewanti-wanti bahwa teknologi itu bersifat netral. Penggunaannya semua tergantung dari pengguna.

Namun, Eko menekankan akan beda ceritanya kalau akselerasi konten negatif justru dilakukan para penyedia platform. Sebab, ruang terbuka yang disediakan penyedia platform bisa menjadi justifikasi akses ke konten negatif seperti pornografi atau hal berunsur erotis.

“Kalau platformnya sudah memfasilitasi untuk hal negatif, wah ini harus ditegur. Karena, yang terkait dengan pornografi itu ada aturannya dan dilarang dalam Undang-Undang ITE,” kata Heru kepada Tirto, Senin (20/10/2025).

Merujuk Pasal 40 Ayat 2 Huruf C UU Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik, pemerintah berhak memberi titah kepada Penyelenggara Sistem Elektronik atau PSE untuk memutuskan akses konten secara mandiri terhadap informasi elektronik dan/atau dokumen elektronik yang memiliki muatan pornografi, perjudian, atau muatan lain sebagaimana dimaksud dalam ketentuan peraturan perundang-undangan sepanjang dimungkinkan secara teknologi.

Heru juga mengatakan bahwa pemerintah perlu melakukan edukasi ke masyarakat agar tidak menggunakan pemantik (prompt) untuk memuat konten berbau pornografi. Pun perlu ada batasan dalam hal kevulgaran.

“Kalau misalnya platform secara sengaja menyajikan hal-hal negatif, itu tidak boleh,” kata dia.

Heru mengingatkan bahwa “alibi” OpenAI yang ingin meluncurkan layanan erotika adalah logika tak berdasar. Sebab, yang terjadi nantinya adalah dekadensi moral, terlebih jika penggunanya adalah kalangan anak-anak di bawah umur.

“Itu justru membuat mental masyarakat jadi tidak sehat. Sampai sekarang, belum bisa diidentifikasi batasan usia dari pengguna OpenAI dan apalagi nanti kalau jadi dibiarkan fitur erotika di platform. Banyak pelajar yang sudah mengakses AI. Harus ada pembatasan usia untuk penggunaan AI. Kalau anak-anak salah prompt dan ada sengaja pakai prompt untuk akses itu, nah itu tidak bisa diterima,” urai Heru.

Heru menekankan konten erotika OpenAI melalui ChatGPT bakal menjadi perpanjangan tangan konten dewasa seperti yang berlangsung di platform X maupun media sosial lain. Sehingga, perlu ada intervensi kebijakan dari pemerintah.

“Penyedia platform atau PSE-nya harus dipanggil pemerintah. Jelaskan ke mereka soal aturan dan norma di indonesia. Kalau mereka tidak mau ikuti aturan, ya pemerintah bisa ambil langkah pemblokiran. Tidak boleh penyebaran pornografi dalam bentuk apapun karena melanggar UU ITE. AI ini kan harusnya jadi manfaat bukan mudharat bagi masyarakat,” tutur Heru.

Heru menduga perluasan konten berbau erotika yang coba dimainkan OpenAI adalah demi kepentingan bisnis semata. Mereka ingin menambah jumlah pengguna karena pasar penggemar pornografi mungkin terjaring di mesin pencarian AI.

“Dan kedua, kita bisa saja mengkhawatirkan untuk kepentingan perusahaan melakukan profiling masyarakat, datanya diambil untuk mengindikasikan seseorang di masa depan,” kata dia.

Pakar komunikasi politik Universitas Padjadjaran (Unpad), Kunto Adi Wibowo, berpendapat kalangan usia yang paling dikhawatirkan dari persebaran layanan erotika OpenAI nantinya adalah anak-anak. Sebab, literasi digital berbasis AI belum masif diajarkan di bangku sekolah. Terlebih, edukasi seks pada anak juga masih bisa terbilang minim selama ini.

“Karena anak-anak ini akan sulit memfilterkan pencarian. Generasi alfa ngobrol dengan AI, curhat dengan AI, dan ketika temannya bisa membuat cerita dewasa, maka pengaruhnya akan sangat berdampak karena AI seolah menjadi bagian dirinya yang sulit dipisahkan,” ujar Kunto kepada Tirto, Senin (20/10/2025).

Kunto pun sepakat bahwa nantinya akan ada kemunduran atau degradasi moral yang diperparah dari kemunculan layanan erotika OpenAI, meski yang disasar hanya kalangan dewasa. Dia merujuk pada menjamurnya konten sarat pornografi yang sudah berseliweran bebas di media sosial.

“Nah, hadirnya AI dengan konten dewasa atau unsur pornografi ini akan menambah buruk ekosistem media sosial dan aplikasi teknologi yang sudah memberikan efek buruk bagi masyarakat,” kata dia.

Menurutnya, jika layanan erotika dari OpenAI ini lolos di Indonesia, efek kecanduan manusia yang menganggap AI sebagai teman bakal terus berlangsung tanpa kontrol yang jelas. Sehingga, dia menyarankan tidak perlu ada kompromi dari pemerintah termasuk soal batasan usia pengguna lantaran nanti pada praktiknya akan bisa diakses semua kalangan.

“Kalau pemerintah mau serius mengatasi pornografi, ya lakukan serius. Di media sosial saja belum beres, harus dibereskan dulu penertiban di media sosial. Jangan tebang pilih, termasuk PSE AI kalau benar menyediakan layanan konten tanpa mengikuti ketentuan,” ujar dia.