Hati-Hati, Sekarang Polisi Punya Intel AI!

tirto.id - Awal 2024 lalu, akun aktivis mahasiswa muncul di dunia maya. Dia membagikan informasi, menggalang dukungan, bahkan mengkritik keras perlakuan aparat keamanan dalam demonstrasi mahasiswa di Amerika Serikat (AS). Akun mahasiswa itu pun tenar mendadak dan cukup dikenal di kalangan para aktivis lokal. Yang jadi persoalan, pemilik akun aktivis mahasiswa tersebut ternyata bukanlah manusia.

Bulan lalu, dalam sebuah laporan yang dikerjakan bersama Wired, 404 Media membongkar fakta di balik persona tersebut. Akun aktivis mahasiswa itu merupakan persona bikinan kecerdasan buatan (artificial intelligence/AI). Ia pun punya segalanya, mulai dari foto-foto palsu, latar belakang digital, dan gaya berkomunikasi yang natural. Yang cukup mengejutkan, akun itu sengaja diterjunkan ke "lapangan" oleh penegak hukum AS sebagai bagian dari eksperimen pengawasan dunia maya.

Operasi tersebut tidak dilakukan oleh faksi tertentu yang mbalelo. Ia merupakan bagian dari tren yang kian merebak di kalangan penegak hukum AS. Perlahan tapi pasti, mereka mengintegrasikan penggunaan AI dalam berbagai lapisan pengawasan digital.

Dari situ, muncullah satu nama paling menonjol: Massive Blue, sebuah perusahaan teknologi berbasis di New York. Dengan produk yang diberi nama Overwatch, mereka menawarkan layanan baru untuk para penegak hukum. Hasilnya adalah akun dan persona artifisial yang bisa dengan mudah mengelabui manusia untuk melakukan infiltrasi.

AI dalam Perpolisian

Kebangkitan AI dalam perpolisian (policing) merupakan konsekuensi dari sebuah obsesi akan data, kontrak pertahanan, dan berbagai upaya kontraterorisme setelah peristiwa 9/11. Sejak peristiwa 11 September 2001, AS seperti dihantui paranoia akan berbagai aksi teror yang berpotensi terjadi di tanah mereka.

Sejak itulah muncul keinginan untuk menciptakan perangkat pemrediksi yang mampu mendeteksi "potensi ancaman". Ini adalah Minority Report (2002)—film Hollywood yang menceritakan soal departemen khusus AS yang mampu menangkap orang berdasarkan kecurigaan—dalam dunia nyata.

Massive Blue muncul dari kebutuhan tersebut. Dalam situs webnya, mereka tampak sangat misterius: tidak mencantumkan nama orang-orang di baliknya. Perusahaan itu juga hanya menyebut soal penggunaan AI secara etis di halaman "Tentang Kami". Namun, dalam situs web yang sama, terlihat jelas bahwa fokus utamanya adalah Overwatch.

Massive Blue menyebut Overwatch sebagai "AI-powered force multiplier for public safety", sebuah deskripsi yang sulit menjelaskan secara penuh terkait apa saja sebenarnya yang bisa ia lakukan. Namun, dari laporan 404 Media dan Wired, implementasi nyatanya sudah bisa dilihat. Mereka membantu penegak hukum menempatkan "agen" di antara kerumunan dunia maya untuk mencari informasi yang dicurigai membahayakan.

Overwatch menawarkan persona untuk menangkap pelaku perdagangan orang, predator seksual, pengedar narkotika, dan pelaku kejahatan lainnya. Masih menurut laporan 404 Media, Massive Blue telah menandatangani kontrak senilai 360 ribu dolar AS dengan Pinal County—pemerintah lokal yang terletak antara kota Tucson dan Phoenix di negara bagian Arizona—untuk melawan tindak pidana perdagangan orang (TPPO).

Menurut keterangan resmi Pinal County, saat ini mereka memiliki 50 persona AI untuk melacak tiga kategori kejahatan. Persona-persona AI itu aktif 24/7 di berbagai pelantar media sosial dan forum dunia maya lainnya. Meski begitu, sampai saat ini, persona AI bikinan Overwatch belum berkontribusi sama sekali terhadap satu pun penangkapan karena "penyelidikannya sampai sekarang masih berlangsung".

Di bagian AS yang lain, AI juga sudah digunakan, meski levelnya belum sampai seekstrem Overwatch. CNBCmelaporkan, pada akhir 2024 lalu, kota-kota besar, seperti Fort Collins, Lafayette, dan East Palo Alto, sudah mendapatkan manfaat dari penggunaan AI untuk penulisan laporan kriminal. Namun, sejumlah pengacara mengkhawatirkan keakuratan, transparansi, dan potensi bias, dari laporan kriminal buatan AI.

AI juga telah mendapat peran di dunia penegakan hukum Eropa. Menurut catatan Europol's Innovation Lab, saat ini negara-negara Uni Eropa sudah menerapkan AI untuk pengumpulan data intelijen dan mendeteksi penipuan. Dengan nada antusias, mereka menyebut bahwa teknologi ini dapat mereduksi kesalahan manusia, mempercepat investigasi, dan mengoptimalkan sumber daya yang terbatas.

Overwatch: Ketika AI Tak Lagi Pasif

AI yang digunakan kepolisian Fort Collins dan Lafayette di AS serta beberapa negara di Eropa tidak bekerja secara aktif. Sebaliknya, kapasitas Overwatch jauh lebih dari itu. Ia mampu menciptakan persona, lengkap dengan segala detail, mulai dari latar belakang, aksen, hingga gaya komunikasi yang khas.

Tak cuma itu, persona-persona bikinan Overwatch dapat menginfiltrasi forum-forum dan menjalin komunikasi benar-benar layaknya manusia. Ia mampu merespons percakapan slang dengan gaya bahasa yang membuat orang lain sukar mengidentifikasi bahwa akun itu adalah AI.

Dalam laporan 404 Media disebutkan pula bahwa ada seorang pekerja seks yang diminta untuk menguji gaya komunikasi persona AI seorang muncikari. Hasilnya? Sama sekali tidak ada bedanya dengan muncikari yang biasa menjalin kontak dengannya. Persona AI Overwatch benar-benar mampu mereplikasi manusia sungguhan dalam urusan mengirim dan merespons pesan teks.

Dengan kata lain, persona AI Overwatch adalah petugas penegak hukum yang menyamar. Tentu saja, ini jauh lebih aman ketimbang operasi undercover biasa. Tidak ada risiko bagi "agen intelijen" tersebut untuk dikeroyok massa, seperti halnya ketika seorang (terduga) intel tepergok oleh aksi massa di beberapa demonstrasi.

Akan tetapi, itu bisa memunculkan berbagai masalah lain, mulai dari perdebatan soal penjebakan (entrapment) yang bisa membuat dakwaan jadi tidak valid lagi, consent akan interaksi sosial di dunia maya, hingga tergerusnya kepercayaan antarmanusia dalam interaksi digital.

Harus dicamkan pula bahwa, nantinya, teknologi macam Overwatch ini hanya akan makin canggih dan, dengan demikian, makin sulit pula membedakan antara manusia dan AI.

Mission Creep

Satu potensi masalah lain dari kemunculan teknologi seperti Overwatch adalah hal yang disebut sebagai mission creep. Itu adalah situasi ketika alat yang tadinya digunakan untuk keperluan tertentu lantas dipakai untuk hal lain.

Dalam konteks Overwatch, alat yang semestinya dimanfaatkan untuk mengintai pelaku kejahatan berubah menjadi peranti pengawas orang-orang biasa. Mereka berpotensi aktif mengintai orang-orang yang menyampaikan kritik, misalnya aktivis anti-perang, aktivis lingkungan, maupun para pendukung Palestina yang saat ini seperti sedang diincar oleh rezim Donald Trump.

Persona-persona AI yang diterjunkan ke forum dunia maya itu secara otomatis bakal melaporkan segalanya kepada pihak berwenang. Dari sana, interpretasinya bisa bermacam-macam. Kata-kata seperti "potensi radikalisasi" dan "deviasi pola" bisa menjadi justifikasi untuk menindak seseorang yang sebenarnya mungkin hanya kesal dan tidak berniat melakukan kejahatan apa pun.

Konsekuensinya, mission creep berpotensi terjadi pula di agensi penegakan hukum. Misi awalnya adalah mengawasi dan menindak aktivitas kriminal. Namun, setelah itu mereka mulai mengawasi ideologi dan pemikiran.

Apa yang terjadi terhadap aktivis pro-Palestina yang dideportasi, meski tidak berkaitan dengan Overwatch, adalah buah dari aktivitas yang sama. Ideologi dan pemikiran diawasi, kemudian berujung pada pemrofilan. Dengan bantuan AI, apalagi AI seperti Overwatch, pemrofilan akan makin mudah dilakukan dan kian berbahaya.

Keamanan Publik vs Kebebasan Sipil

Debat soal keamanan publik dan kebebasan sipil sebenarnya sudah lama terjadi. Ketika Edward Snowden membocorkan hal yang sebenarnya dilakukan NSA (Badan Keamanan Nasional), perdebatan terkait hal ini pun sudah panas. Dengan kemunculan Overwatch, agaknya kepentingan dengan dalih "menjaga keamanan publik" akan selalu mengalahkan "kebebasan sipil".

Di satu sisi, alat seperti Overwatch memang sangat berguna untuk menginfiltrasi ruang digital para kriminal. Namun, di sisi lain, siapa yang bisa menjamin bahwa alat ini nantinya tidak akan digunakan untuk memuaskan berahi politis dan ideologis kelompok atau individu tertentu?

Di AS, alat seperti Overwatch belum sepenuhnya teregulasi. Inilah yang kemudian membuat para penegak hukum bisa bereksperimen sesuka hati.

Memang sudah ada kota-kota tertentu yang sudah menerapkan aturan tegas soal teknologi AI untuk urusan perpolisian, misalnya San Francisco. Akan tetapi, kebijakan tersebut belum menyentuh alat seperti Overwatch yang, sering kali, digunakan oleh agensi-agensi federal atau bahkan kontraktor swasta tanpa akuntabilitas. Mereka semua berlindung di balik jargon "demi keamanan nasional".

Ini berbeda dengan yang terjadi di Eropa. Di Benua Biru, AI yang mampu melakukan pemolisian prediktif, pengawasan biometrik, dan pengenalan emosi, termasuk dalam kategori AI berisiko tinggi dan penerapannya dilarang. Dengan kata lain, tidak ada celah bagi AI seperti Overwatch untuk menginfiltrasi ruang-ruang digital orang Eropa.

Di Indonesia, belum ada informasi tentang implementasi AI seperti Overwatch oleh aparat penegak hukum. Begitu juga dengan regulasinya. Akan tetapi, laporan dari 404 Media bisa menjadi bekal pertimbangan. Sebab, cepat atau lambat, teknologi semacam itu hampir pasti akan sampai juga.

Yang selama ini terjadi: regulasi muncul setelah inovasi. Padahal, kegagapan semacam itu bisa amat berbahaya bagi publik. Lihat misalnya ketika pemerintah memblokir layanan Worldcoin dengan alasan belum punya izin.

Kini, dengan adanya peringatan dari Amerika Serikat, sudah saatnya negara-negara lain, termasuk Indonesia, membuat tindakan preventif demi mencegah penyalahgunaan berskala besar.