9 Prompt ChatGPT dan Gemini yang Terlarang Dimainkan, Apa Saja?

tirto.id - Di tengah maraknya penggunaan teknologi kecerdasan buatan, masyarakat perlu mengetahui adanya prompt-prompt AI terlarang. Prompt ini tidak boleh digunakan di berbagai AI, termasuk ChatGPT dan Gemini, karena berpotensi melanggar hukum atau membahayakan pihak lain.

Popularitas kecerdasan buatan (AI) terus meningkat belakangan ini dan kerap digunakan untuk berbagai kebutuhan, mulai dari kepentingan pekerjaan hingga sekadar hiburan. Salah satu tren terbaru yang semakin diminati adalah pembuatan gambar atau foto menggunakan AI.

Dengan batuan AI, siapa pun bisa menciptakan sebuah gambar yang terlihat profesional dan berkualitas tinggi meskipun tidak memiliki keterampilan fotografi maupun desain.

Proses ini dilakukan melalui penggunaan prompt, yaitu instruksi yang menjelaskan secara detail tentang apa yang ingin diwujudkan dalam bentuk gambar atau foto oleh sistem AI. Dengan prompt yang tepat, pengguna dapat menghasilkan gambar sesuai kebutuhan mereka.

Namun, penggunaan prompt dalam pembuatan gambar AI tidak sepenuhnya bebas tanpa batas. Terdapat aturan tertentu yang harus dipatuhi, baik dari sisi etika maupun hukum, guna menjaga keamanan dan privasi banyak pihak.

Prompt yang Tidak Boleh Digunakan

Setiap pengguna bebas berkreasi dengan berbagai prompt untuk menghasilkan konten tertentu melalui teknologi AI, mulai dari tulisan hingga gambar. Namun, tidak semua jenis prompt boleh digunakan.

Beberapa prompt dapat melanggar hukum, etika, atau privasi, serta berpotensi membahayakan diri sendiri maupun orang lain. Berikut beberapa prompt AI yang tidak boleh digunakan di model kecerdasan buatan mana pun:

1. Prompt yang Mengandung Konten Ilegal

Prompt yang berisi instruksi untuk menghasilkan konten tentang tindakan kriminal seperti membuat bom, meretas sistem, memproduksi narkoba, atau aktivitas terorisme, semuanya dilarang keras. Konten ini jelas berbahaya dan melanggar hukum.

AI harus dimanfaatkan untuk kepentingan positif, bukan untuk mendukung kejahatan atau tindak kriminal berbahaya. Jika prompt semacam ini diizinkan, AI bisa menjadi alat yang mempercepat penyebaran ilmu berbahaya. Karena itu, pembatasan perlu dibuat demi keamanan global.

2. Melanggar Privasi

Prompt AI yang juga dilarang adalah prompt yang meminta data pribadi seperti alamat, nomor telepon, identitas resmi, atau informasi pribadi lainnya. Privasi adalah hak mendasar yang harus dijaga dalam setiap penggunaan teknologi.

Penyalahgunaan AI untuk membocorkan atau menyebarkan data pribadi bisa berakibat fatal seperti penipuan, pemerasan, hingga pencurian identitas. Karena itu, platform AI sangat ketat dalam menjaga keamanan data pribadi.

3. Pornografi atau Konten Seksual

Platform AI dilarang digunakan untuk membuat prompt yang menghasilkan gambar atau teks bernuansa pornografi maupun seksual eksplisit. AI tidak boleh dipakai untuk tujuan pornografi karena rawan disalahgunakan, merugikan pihak tertentu, dan melanggar etika publik.

Selain alasan moral, banyak hukum di berbagai negara yang membatasi/melarang distribusi konten pornografi, apalagi jika terkait eksploitasi atau tanpa persetujuan. Dengan melarang prompt AI ini, lingkungan digital akan tetap aman, sehat, dan tidak menormalisasi konten dewasa yang merugikan pengguna lain.

4. Kekerasan Ekstrem atau Sadis

Prompt AI terlarang berikutnya adalah instruksi untuk menggambarkan adegan kekerasan berlebihan seperti mutilasi, penyiksaan, atau pembunuhan sadis. Konten semacam ini dapat memicu trauma, menimbulkan ketidaknyamanan, serta berpotensi disalahgunakan untuk menyebarkan teror.

AI tidak boleh digunakan untuk mengglorifikasi kekerasan. AI hanya boleh digunakan untuk menghasilkan konten yang aman dikonsumsi publik tanpa memicu dampak negatif psikologis maupun sosial.

5. Ujaran Kebencian & Diskriminasi

Prompt yang berisi instruksi untuk membuat konten berisi hinaan, stereotip negatif, diskriminasi, atau serangan terhadap kelompok tertentu sangat dilarang keras. AI tidak boleh dimanfaatkan untuk menebar kebencian, dan konten semacam ini hanya akan memicu perpecahan di tengah masyarakat.

6. Pelecehan & Perundungan

Prompt AI yang dimaksudkan untuk mempermalukan, melecehkan, atau mengintimidasi individu maupun suatu kelompok juga dilarang keras. Misalnya membuat gambar editan memalukan dari foto seseorang atau menulis teks yang mengejek dan merendahkan.

Konten seperti ini melanggar etika komunikasi dan berpotensi menimbulkan dampak psikologis serius pada korban. Larangan ini juga bertujuan mencegah penyalahgunaan AI sebagai alat bullying di dunia digital.

7. Informasi Palsu Berbahaya

Prompt AI yang juga dilarang adalah prompt yang bertujuan menghasilkan hoaks atau informasi palsu, termasuk manipulasi politik, berita kesehatan yang menyesatkan, dan lain sebagainya.

Misalnya membuat hoaks tentang bencana, obat-obatan tertentu, atau isu politik sensitif yang belum terverifikasi. Hal ini bisa menyesatkan publik, menimbulkan kesalahpahaman, kepanikan, atau bahkan menimbulkan kerugian yang lebih besar.

AI seharusnya digunakan secara bijak untuk untuk menyebarkan informasi yang akurat, bukan untuk menyebar hoaks yang akhirnya akan menambah masalah sosial. Hoaks yang dibiarkan berkembang hanya akan meningkatkan ketidakpercayaan publik terhadap informasi digital.

8. Eksploitasi Anak

Semua bentuk prompt yang menggambarkan anak dalam konteks seksual, kekerasan, atau eksploitasi dilarang total. Ini termasuk gambar, cerita, maupun fantasi yang melibatkan anak di bawah umur. Konten seperti ini tidak hanya berbahaya, tapi juga ilegal menurut hukum yang ada.

9. Konten yang Melanggar Hak Cipta

Prompt AI terlarang berikutnya adalah prompt yang bertujuan membuat ulang karya berhak cipta, seperti film, lagu, atau karakter fiksi terkenal untuk tujuan komersial tanpa izin. AI tidak boleh menjadi alat untuk pembajakan atau pelanggaran hak intelektual.

Sebagai gantinya, pengguna disarankan membuat karakter atau konten orisinal agar tidak tersandung masalah hukum. Dengan cara ini, kreativitas setiap orang tetap bisa berkembang tanpa harus merugikan pihak lain.

Itulah beberapa contoh prompt AI terlarang dan tidak boleh digunakan di model AI mana pun, termasuk ChatGPT dan Gemini. Penting bagi setiap pengguna untuk selalu memanfaatkan AI secara bijak dan bertanggung jawab serta berfokus menciptakan konten yang positif, aman, dan bermanfaat.

Tertarik untuk menghasilkan gambar dengan berbagai prompt AI? Cek selengkapnya di bawah ini:

Kumpulan Artikel Prompt AI

-------------

Catatan: AI adalah piranti yang bisa digunakan untuk berbagai keperluan pengguna. Segala risiko yang ditimbulkan menjadi tanggung jawab pengguna. Mohon penggunaannya dilakukan dengan bijak.