Menakar Potensi & Risiko Penggunaan Teknologi Digital Afterlife

tirto.id - Suatu hari pada Februari 2017, James Vlahos harus merelakan kepergiaan ayahnya, John Vlahos, akibat kanker paru-paru stadium-4. Hubungan ayah dan anak ini bisa dibilang spesial. Mereka biasa berbagi cerita tentang beragam hal.

James pun punya cara tersendiri untuk “mengabadikan” momen kebersamaannya dengan sang ayah. Beberapa saat setelah mendapat diagnosis kanker paru-paru, James bersama John berkolaborasi untuk membuat chatbot dengan artificial intelligence (AI).

"Kami tahu kami akan kalah. Maka kami berusaha keras mencari cara untuk mengenangnya," kata James Vlahos, dikutipThe Daily Beast.

"Sementara itu, saya sedang mengerjakan buku tentang percakapan AI. Jadi, saya mempelajari semua cara yang dapat kami lakukan untuk mengajarkan komputer agar dapat berinteraksi seperti manusia," imbuhnya.

Ketimbang mengumpulkan rekaman audio dan video terkait John semasa hidup, James memilih membuat sarana yang lebih interaktif lewat model percakapan.

"Itulah yang memberi saya ide ini, membuat chatbotmemori bersama yang saya sebut Dadbot," tutur James.

Aplikasi bikinan James itu rupanya berjalan sangat baik dan bahkan sempat viral. Dadbot kemudian juga menjadi cikal-bakal HereAfter AI, aplikasi berbasis website yang juga dibuat James Vlahos.

HereAfter AI memberikan penggunanya kesempatan untuk menyimpan kenangan hidupnya yang bermakna. Kenangan pengguna itu kemudian dapatdibagikan secara interaktif kepada orang-orang yang disayangi.

Cara kerja HereAfter AI sebenarnya mirip seperti diari. Mulanya, pengguna memasukan informasi ataupun kenangan dengan bantuan pewawancara virtual. Pengguna juga dapat memasukan foto untuk disimpan dalam direktori kenangan. HereAfter AI kemudian akan menggunakan rekaman suara itu untuk berinteraksi dengan orang-orang yang mengakses direktori kenangan tersebut.

Dadbot yang kemudian berkembang menjadi HereAfter AI iturupanya hanya satu dari banyak bisnis industri AI terkait orang meninggal yang berkembang dalam beberapa tahun terakhir.

StoryFile, perusahaan dengan model bisnis serupa, sempat viral dan mendapat perhatian pada 2022 lalu. Aplikasi ini memanfaatkan AI untuk menampilkan video yang sudah direkam sebelumnya untuk berinteraksi dengan orang-orang yang hadir di pemakaman.

Pada 2020, ada juga seorang pria yang membuat chatbotberdasarkan percakapan dengan pacarnya yang meninggal delapan tahun sebelumnya. Proyek serupa Dadbotjuga muncul pada 2018 menyusul proyek chatbot berbasis kerabat yang sudah meninggal yang diluncurkan pada 2017.

Angan-angan tentang teknologi untuk “menghidupkan lagi” mereka yang telah wafat pun pernah tertuang dalam serial drama distopian Black Mirror dengan episode “Be Right Back” yang tayang pada 2013.

Ranjau Etika dan Pengaruh Psikologis

Teknologi atau aplikasi digital afterlife lazim disebut dengan istilah deadbotsatau griefbotsitu kini mulai menarik perhatian sejumlah pihak. Viralnya beberapa aplikasi tersebut menunjukkan juga besarnya minat masyarakat terhadap teknologi macam ini.

Namun, studi Tomasz Hollanek dan Katarzyna Nowaczyk-Basińska yang diterbitkan dalam jurnal Philosophy & Technology (2024) mendapati bahwa teknologi digital afterlife itu juga punya permasalahan etis.

Usai menelaah melalui tiga perpektif, yakni perspektif donor data, penerima data, dan pengguna jasa, teknologidigital afterlife juga ditengarai menyebabkan masalah psikologi jangka panjang bagi penggunanya.

Dalam makalahnya, Hollanek dan Nowaczyk-Basińska membeberkan sejumlah skenario terkait permasalahan etis yang mungkin muncul dari pemanfaatan teknologidigital afterlife.

“Kemajuan pesat dalam AI generatif berarti bahwa hampir semua orang dengan akses internet ditambah sedikit pengetahuan dasar—dapat menghidupkan kembali orang terkasih yang telah meninggal,” sebut Nowaczyk-Basińska dalam keterangan resminya.

Menurut peneliti dari Leverhulme Centre for the Future of Intelligence (LCFI), Cambridge, itu, permasalahan etis yang mula-mulamuncul adalah soal persetujuan penggunaan data.

Sebagai contoh skenario, seseorang menggunakan aplikasi percakapan berbasis AI untuk membuat deadbotyang menyimulasikan kakek atau nenek mereka yang sudah meninggal. Mendiang sang kakek atau nenek itu tentu tak bisa memberi persetujuan atas penggunaan data terkait mereka.

Masalah lain muncul bila perusahaan penyedia teknologidigital afterlife mengiklankan produk kepada penggunanya. Terlebih, bila skema iklan tersebut memanfaatkan unsur-unsur atau data-data terkait orang yang sudah meninggal yang terekam dalam aplikasi.

Contohnya, pengguna aplikasi deadbotmulai menerima iklan setelah masa uji coba selesai. Iklannya bisa dalam bentuk saran tentang suatu barang atau jasa yang disampaikan dengan suara mendiang kakek atau nenek.

Terkait benefit ekonomi, penelitian Hollanek dan Nowaczyk-Basińska juga menyoroti skema penarikan biaya dari pengguna yang ingin memakai layanan “menghidupkan kembali” orang wafat ini.

“Area AI ini adalah ladang ranjau etika. Penting untuk memprioritaskan martabat orang yang telah meninggal dan memastikan bahwa hal ini tidak diganggu oleh motif finansial,” tambah Nowaczyk-Basińska.

Sementara itu, Hollanek menyoroti soal kerentanan pengguna aplikasi digital afterlife terhadap manipulasi, terlebih bagi mereka yang telah membangun ikatan emosional yang kuat dengan simulasi semacam itu.

Penyedia layanan, menurut Hollanek, perlu memperhatikan metode untuk memensiunkan deadbot jika ia dirasa sudah mengganggu bagi pengguna.

“Kami merekomendasikan protokol desain yang mencegah deadbot digunakan dengan cara yang tidak sopan, seperti untuk iklan atau memiliki kehadiran aktif di media sosial,” kataHollanek.

Skenario lain yang dikhawatirkan Hollanek dan Nowaczyk-Basińska berkait dengan aspek psikologis. Mereka menggambarkannya melalui sebuah kasus imajiner: seorang perempuan yang sakit parah meninggalkan deadbot untuk membantu putranya yang berusia delapan tahun berporses dalam duka.

Di awal masa berduka, deadbottersebut akan mendukung sang anak sebagai alat bantu terapi. Namun, lambat laun deadbot itu akan mulai memberikan respons yang membingungkan saat beradaptasi dengan perkembangan kebutuhan sang anak.

Dari skenario tersebut, Hollanek dan Nowaczyk-Basińska merekomendasikan adanya fitur batasan usia untuk penggunaan deadbot.

Potensi masalah lain yang juga perlu diantisipasi adalah kelelahan emosional akibat menerima notifikasi dengan suara orang yang telah meninggal secara terus-menerus atau beruntun. Terkait hal ini, Hollanek dan Nowaczyk-Basińska menekankan perlunya persetujuan dari dua pihak, yakni mereka yang "dihidupkan ulang" dan calon pengguna deadbot.

“Sekarang, karena teknologinya sudah eksis, kita perlu mulai memikirkan tentang bagaimana kita mengurangi risiko sosial dan psikologis dari keabadian digital itu,” ujar Hollanek.

Digital Afterlife di Indonesia

Dalam soal pemanfaatan teknologi AI secara umum, masyarakat Indonesia bisa dibilang cukup reaktif.

Masyarakat Indonesia memang salah satu pengguna teknologi AI yang paling banyak di dunia. Hal ini tergambar dari hasil studi WriterBuddy(penyedia layanan konten berbasis AI) yang menunjukkan bahwa ada 1,4 miliar kunjungan ke situs AI yang berasal dari Indonesia dalam kurun September 2022-Agustus 2023.

Berdasar studi tersebut, Indonesia menjadi penyumbang ketiga terbanyak kunjungan ke berbagai perangkat AI yang tersedia saat ini. Menilik kuantitasnya yang besar, penggunaan teknologi deadbot juga boleh jadi cukup besar.

Peneliti psikologi sosial dari Universitas Indonesia (UI), Wawan Kurniawan, menyoroti tentang dampak penggunaan teknologi digital afterlife yang kompleks.

"Secara psikologis, teknologi ini dapat memberikan kenyamanan sementara bagi yang berduka. Tetapi, ia juga berisiko memperpanjang proses penyembuhan dan mengisolasi pengguna dari dukungan sosial manusia," tutur Wawan.

Model deadbot juga akan memicu skeptisisme tentang kehadiran, autentisitas, dan etika membuat replika digital tanpa persetujuan.

"Meski dapat membantu memproses duka, teknologi ini berpotensi mereduksi pengalaman manusia dan menunda penerimaan finalitas kematian. Sehingga, ia harus digunakan dengan kesadaran dan batasan etis yang jelas," tambah Wawan.

Terlepas dari dampak-dampak tersebut, Wawan menilai teknologi digital afterlifepunya kans untuk untuk dimanfaatkan secara luas. Penilaian itu berdasar dari pola hubungan kekeluargaan masyarakat Indonesia sendiri.

"Budaya kolektif di Indonesia, yang sangat menghargai hubungan emosional dengan keluarga dan leluhur, dapat menjadi pendorong adopsi teknologi ini sebagai cara untuk mempertahankan kenangan akan orang yang telah meninggal," kata Wawan.

Di sisi lain, kemungkinan akan muncul juga kritik dari perspektif agama dan budaya, terutama terkait penggunaan AI untuk mereplikasi orang yang sudah meninggal. Literasi digital masyarakat juga perlu diperkuat sehingga penggunanya bisa memahami batasan dan risiko teknologi ini.

Secara natural, menurut Wawan, dalam menghadapi kematian, orang terdekat membutuhkan waktu berduka dan pengelolaan emosi yang sehat. Penting untuk mengakui kesedihan tanpa menekannya, mencari dukungan sosial dari keluarga atau teman, dan menemukan cara bermakna untuk mengenang orang terdekat yang meninggal.

“Secara bertahap, menerima finalitas kematian membantu seseorang melanjutkan hidup tanpa terjebak dalam masa lalu," ujar Wawan.

Hal senada juga diutarakan Praktisi Keamanan Siber, Alfons Tanujaya. Menurutnya, akar permasalahan dari penggunaanteknologi digital afterlife adalah literasi digital penggunanya.

“Segala sesuatu ada manfaat dan mudaratnya, tergantung di tangan siapa. Misal, adanya deadbot itu, kita yang kehilangan orang tercinta jadi mengingat memorinya, lalu mempersatukan keluarga besar. Saya tidak melihat masalah. Tapi, kalau negatifnya digunakan untuk penipuan atau pemalsuan sesuatu, itu yang perlu itu dihindari,” tuturnya.

Alfons menjelaskanbahwa regulasi pengunaan AI secara umum memang diperlukan. Namun, untuk konteks Indonesia saat ini, model spesifik seperti deadbotagaknya belum menjadi fokus. Pasalnya, yang lebih dulu mesti dibereskan adalah literasi digital masyarakat.

“Jangankan deadbot, yang orang hidup saja banyak menjadi masalah. Banyak penipuan memanfaatkan foto profil atau video artis. Itu tidak ada masalah dengan chatbot-nya. akar masalahnya itu di literasi digital. Jadi, kan orang mesti ngerti dia sedang berhubungan dengan dunia digital. Kalau dia menganggap itu nyata, ya salahnya di orang itu,” tutur Alfons.

Sementara itu, Director of the Regulation and Ethics Directorate Indonesia Al Society (IAIS), Henke Yunkins, menilai bahwa “menghidupkan kembali” orang yang sudah mati dari perspektif etika apa pun adalah hal yang kontroversial.

Henke menyebutkan bahwa secara prinsip etika AI, model deadbot perlu menyesuaikan dengan beberapa unsur sebelum digunakan. Pertama, soal persetujuan penggunaan. Almarhum (saat masih hidup) dan ahli waris jelas perlu memberi persetujuan eksplisit untuk memastikan penggunaan AI yang otonom dan memenuhi rasa hormat.

Kemudian, soal tujuan. Jika memiliki tujuan yang berarti, seperti untuk dukungan melewati duka cita yang tidak eksploitatif, penggunaan AI mungkin dapat dibenarkan.

Selanjutnya, soal mitigasi dampak. Para pengembang aplikasi deadbot harus memastikan tidak ada dampak negatif atau berbahaya bagi pengguna. Dan terakhir, terkait transparansi. Pengguna harus harus sepenuhnya memahami sifat dan keterbatasan teknologi digital afterlife.

“Tapi, ini [terkait transparansi] sangat sulit sekali, terutama tendensi masyarakat umum untuk anthropomorphize teknologi AI dan juga dark design di aplikasi-aplikasi [yang bersifat]personalization,” ujar Henke.

“Kalau beberapa prinsip tersebut tidak terpenuhi, bisa menimbulkan dampak-dampak negatif, seperti eksploitasi emosional dan psikologi, pelanggaran privasi, dan juga secara masyarakat luas, cultural insensitivity[tidak sensitif terhadap budaya],” tambahnya.