Apakah Benar AI Aman untuk Tempat Curhat dan Berbagi Rahasia?

tirto.id - Teknologi chatbot artificial intelligence (AI), seperti ChatGPT dari OpenAI, Gemini dari Google, Claude dari Anthropic, sering digunakan untuk menanyakan berbagai hal.

Chatbot AI kerap menjadi alternatif untuk menanyakan hal-hal tentang kesehatan, baik fisik maupun mental. Ini menjadi alternatif bagi orang yang kesulitan atau masih awam untuk mengakses tenaga profesional, seperti dokter dan terapis atau psikolog.

Hal tersebut lumrah, bahkan OpenAI mencatat, lebih dari 230 juta orang mengajukan pertanyaan terkait kesehatan kepada ChatGPT setiap pekan. Selain pertanyaan soal kesehatan, pengguna juga bisa menjadikan chatbot sebagai teman mengobrol.

Dengan persona yang bisa memvalidasi perasaan atau keresahan pengguna, AI dianggap sebagai tempat yang nyaman untuk curhat. Tapi, masalah kemudian muncul: apakah AI benar-benar aman untuk tempat curhat dan berbagi rahasia?

Curhat ke AI Tak Selalu Aman

Sebuah survei terbaru tahun 2026 yang dilakukan oleh DuckDuckGo menyampaikan, 32 persen responden (hampir 2.000 warga Amerika) menyatakan bahwa mereka memberitahu chatbot AI rahasia yang mereka sembunyikan dari orang-orang terdekat.

Curhat dengan AI pun menjadi sesuatu yang banyak dilakukan pengguna chatbot AI hari ini. Selama curhat atau menanyakan sesuatu, chatbot AI mendorong pengguna untuk membagikan informasi yang mungkin bersifat pribadi.

Namun, percakapan dengan chatbot AI belum memiliki perlindungan kerahasiaan khusus sebagaimana komunikasi antara pasien dan dokter, klien dan pengacara, atau pasien dan terapis.

Artinya, percakapan tersebut tidak otomatis memperoleh hak istimewa kerahasiaan profesional. Karena itu, pengguna perlu berhati-hati saat mencurahkan masalah pribadi atau membagikan informasi sensitif kepada chatbot AI.

Mengutip New York Times, perusahaan chatbot AI bisa melihat apa yang pengguna katakan dan bagaimana chatbot merespons. Selain itu, perusahaan juga mengumpulkan berbagai informasi mengenai perangkat pengguna yang bisa digunakan untuk mengidentifikasi pengguna.

Dengan begitu, perusahaan AI bisa mendapatkan wawasan yang sangat besar tentang pengguna berikut kebiasaannya. Inilah yang kemudian bisa mereka gunakan dalam berbagai cara.

Lebih lanjut, dilansir dari Business Insider, CEO OpenAI Sam Altman mengakui bahwa belum ada perlindungan kerahasiaan hukum yang setara dengan komunikasi antara pasien dan dokter atau klien dan pengacara ketika seseorang berbicara dengan ChatGPT.

Altman juga memperingatkan bahwa jika pengguna membagikan informasi yang sangat sensitif melalui ChatGPT, kemudian informasi tersebut berkaitan dengan suatu perkara hukum, OpenAI dapat diwajibkan menyerahkan percakapan tersebut berdasarkan proses hukum yang berlaku.

Hal ini menunjukkan bahwa meskipun perusahaan chatbot AI memiliki kebijakan perlindungan privasi, percakapan pengguna tidak otomatis terlindungi oleh hak kerahasiaan profesional. Karena itu, pengguna perlu berhati-hati dan berpikir dua kali sebelum membagikan informasi sensitif kepada chatbot AI, seperti alamat rumah, masalah pribadi, informasi keuangan, hingga rekam medis.

Dampak Oversharing ke AI Chatbots

Sebelum oversharing dengan chatbot AI, pengguna perlu terlebih dulu mengetahui cara kerja perusahaan AI dan kebijakan privasinya. Sebagai pengguna atau konsumen, pahami hak-hak pribadi dan batasan-batasan dalam penggunaan teknologi yang ditawarkan.

Pasalnya, dalam menggunakan chatbot AI, percakapan yang terjadi tidak hanya diketahui oleh pengguna. Berkaitan dengan sebuah sistem, percakapan itu kemungkinan bisa diakses orang lain dan menjadi data yang berharga.

Bahkan, manusia mungkin membaca obrolan pengguna, kendati percakapan jelas dilakukan dengan chatbot AI. Percakapan ternyata tidak hanya tersimpan di mesin.

Melansir laman New York Times, OpenAI dan Anthropic mungkin menggunakan peninjau manusia untuk mengevaluasi respons asisten mereka. Ini bisa mencakup sebagian besar percakapan.

Selain itu, Google juga menggunakan peninjau manusia. Sedangkan, Meta mengatakan bahwa manusia mungkin melihat interaksi pengguna dengan produk AI-nya.

Tak hanya melibatkan peninjau manusia, penggunaan data pengguna untuk kepentingan periklanan juga menimbulkan kekhawatiran. Eric Null, Direktur Privacy & Data Project di Center for Democracy and Technology (CDT), menyoroti potensi penyalahgunaan data pribadi untuk memengaruhi keputusan pengguna melalui iklan yang semakin personal. Risiko ini menjadi perhatian seiring berkembangnya model periklanan dalam chatbot AI.

Null menggambarkan sebuah skenario hipotetis ketika perusahaan menggunakan AI untuk menarik kesimpulan mengenai pengguna. Analisis tersebut tidak hanya mencakup preferensi atau selera seseorang, tetapi juga dapat menyangkut kondisi emosional dan keadaan pikiran mereka pada saat tertentu.

Selain itu, sejumlah perusahaan pengembang AI juga menggunakan interaksi pengguna, termasuk percakapan dengan chatbot, untuk melatih atau meningkatkan model AI mereka.

Informasi yang dibagikan pengguna tidak hanya dimanfaatkan untuk menghasilkan jawaban, tetapi dalam kondisi tertentu juga dapat menjadi bagian dari proses pengembangan teknologi AI. Hal ini menimbulkan kekhawatiran mengenai privasi dan pemanfaatan data pribadi pengguna.

Selain untuk melatih model AI, perusahaan juga bisa memberikan riwayat obrolan pengguna kepada penegak hukum. Inilah salah satu yang dimaksud tidak ada perlindungan hukum bagi pengguna AI terkait kerahasiaan data.

Setiap perusahaan wajib menanggapi permintaan informasi dari penegak hukum. Log obrolan AI ini digunakan dalam beberapa kasus di dunia nyata, termasuk dalam kasus dugaan orang yang memulai kebakaran hutan Palisades.

Selain curhat, hal yang sering ditanyakan pada chatbot AI adalah soal kesehatan. Pertanyaan ini umumnya dilontarkan pengguna sebelum mencari perawatan dari dokter sungguhan.

Anthropic menyatakan, mereka bisa mengungkapkan informasi kesehatan pengguna kepada penegak hukum. Mereka juga bisa menggunakan data kesehatan yang telah diagregasi untuk mengembangkan produk mereka.

Sementara itu, OpenAI memiliki alat khusus bernama ChatGPT Health untuk menangani percakapan tentang informasi medis Perusahaan tersebut mengatakan bahwa mereka tidak akan menggunakan data tersebut untuk pelatihan model.

Namun, perusahaan itu mungkin menggunakannya untuk meningkatkan keamanan model mereka. Mereka juga tidak menggunakan data kesehatan untuk periklanan, tapi mereka mungkin menampilkan iklan untuk produk terkait kesehatan sesuai dengan konteks obrolan.

Lebih dari itu, melansir laman WCNC, menurut pakar keamanan siber Thomas Clayton, ketergantungan penggunaan chatbot AI bisa menyebabkan berbagi informasi berlebihan (oversharing) yang berbahaya.

Kekhawatiran terjadi bukan hanya pada apa yang dibagikan pengguna, melainkan juga bagaimana informasi tersebut bisa digunakan jika jatuh ke tangan yang salah. Informasi atau data bisa saja dimanfaatkan para penjahat siber yang semakin canggih sehingga menciptakan penipuan dan tindakan membahayakan lainnya.

Tips Curhat ke AI Chatbots

Para ahli mengatakan, mengacu laman WCNC, konsumen harus menghindari memasukkan informasi sensitif ke dalam chatbot. Ini termasuk kata sandi, informasi perbankan, catatan medis, dan data pribadi lainnya.

Lebih lanjut, para profesional keamanan siber mendorong pengguna chatbot AI untuk menyeimbangkan kenyamanan dengan kehati-hatian. Pengguna perlu memahami privasi sehingga bisa menjaga informasi pribadi yang sensitif agar tidak disalahgunakan.

Berdasarkan informasi dari laman New York Times, pengguna bisa juga menonaktifkan pelatihan model. Anthropic, Google, dan OpenAI memiliki opsi untuk membatasi bagaimana perusahaan menggunakan data pengguna untuk melatih model AI mereka.

Untuk menonaktifkan pelatihan model, pengguna bisa menemukannya di bagian Pengaturan chatbot. Langkah ini bisa mencegah peninjau manusia melihat obrolan pengguna, meski percakapan akan tetap bisa diakses oleh perusahaan dan penegak hukum.

Alternatif lain, yakni menggunakan obrolan sementara. Ini mirip dengan menggunakan Mode Penyamaran di peramban web dan tidak tersimpan dalam riwayat obrolan pengguna.

OpenAI tidak menggunakan obrolan sementara untuk melatih model AI-nya. Obrolan Penyamaran Anthropic dan Obrolan Sementara Google Gemini juga demikian. Namun, hal ini tidak serta-merta melindungi obrolan pengguna dari pemantauan atau akses oleh perusahaan atau pemberian kepada penegak hukum.

Kendati tengah berbicara dengan mesin dan terasa privat, cobalah untuk memperlakukannya seperti tengah mengunggah sesuatu di media sosial.

Jika pertanyaan atau informasi itu dirasa nyaman untuk dibagikan secara publik, hal itu bisa ditanyakan pada chatbot AI dan sebaliknya. Kehati-hatian bisa sangat membantu melindungi privasi, termasuk melindungi diri dari kemungkinan tindak kejahatan dan hal-hal merugikan lainnya.