Amazon Larang Polisi Pakai Pengenalan Wajah karena Bias Rasial

tirto.id - Korporasi teknologi multinasional AS, Amazon, melarang polisi menggunakan teknologi pengenalan wajah produksi mereka selama satu tahun.

Hal ini menjadikan mereka raksasa teknologi terbaru, yang menarik diri dari penggunaan teknologi tersebut untuk sistem penegakan hukum, setelah menghadapi serangkaian kritik karena bias rasial.

Sebelumnya, IBM telah mengatakan akan keluar dari bisnis teknologi pengenalan wajah pada Selasa (9/6/2020) lalu, karena mencatat kekhawatiran tentang bagaimana teknologi itu dapat digunakan untuk pengawasan massal dan profil rasial.

Dilansir dari APNews, perusahaan yang berbasis di Seattle tersebut tidak mengatakan mengapa mereka mengambil tindakan itu baru-baru ini. Namun, aksi protes yang sedang berlangsung setelah kematian George Floyd ditengarai menjadi penyebabnya.

Kematian Floyd, yang tewas “di lutut” polisi kulit putih pada 25 Mei lalu, telah membuat gelombang aksi protes atas ketidakadilan rasial. Sementara pihak kepolisian, menggunakan teknologi tersebut untuk melacak orang-orang yang terlibat dalam kerusahan yang mengikuti aksi.

Lembaga penegak hukum, mengklaim penggunaan teknologi pengenalan wajah untuk mengidentifikasi tersangka tindak kejahatan, tapi para kritikus mengatakan bahwa hal tersebut bisa saja disalahgunakan.

Seperti yang diketahui, bahwa sejak tahun lalu atas inisiasi San Fransisco, sejumlah kota di AS telah melarang penggunaan teknologi pengenalan wajah untuk polisi dan lembaga pemerintah lainnya.

Meski demikian, Amazon tidak menanggapi pertanyaan apakah larangan penggunaan teknologi tersebut termasuk lembaga penegak hukum federal. Sementara karyawan Amazon itu bersama kelompok-kelompok hak sipil telah mendorong perusahaan untuk berhenti menjual teknologinya, Rekognition, kepada pemerintah.

Mengutip postingan mereka dalam blog pada Rabu (10/6/2020) kemarin, Amazon mengatakan bahwa mereka berharap Kongres akan memberlakukan peraturan yang lebih ketat terkait penggunaan teknologi pengenalan wajah.

Pengenal wajah diklaim bias rasial dan rawan disalahgunakan

"Keputusan Amazon adalah langkah simbolis yang penting, tetapi ini tidak benar-benar mengubah lanskap pengenalan wajah di Amerika Serikat, karena itu (Rekognition) bukan pemain utama," kata Clare Garvie, seorang peneliti di Pusat Privasi dan Teknologi Georgetown University, yang dikutip dari APNews.

Garvie, dalam penelitian mencatat, bahwa ia hanya menemukan dua agensi Amerika yang menggunakan atau menguji Rekognition. Salah satunya Departemen Kepolisian Orlando, yang mengujinya tetapi memilih untuk tidak mengimplementasikannya.

Sementara Kantor Sheriff Wilayah Washington di Oregon, adalah pengguna teknologi pengenalan wajah dari Amazon tersebut. Namun, pasca pengumuman dari Amazon, mereka telah menangguhkannya.

Mengutip laporan yang diterbitkan The New York Times, pengenalan wajah yang saat ini paling banyak digunakan di AS adalah Clearview AI, perangkat analisis ciptaan perusahaan yang didirikan oleh Hoan Ton-That, warga negara Australia keturunan Vietnam yang kini bermukim di New York.

Sebanyak 600 lembaga penegak hukum tercatat menggunakan Clearview, termasuk FBI hingga Kementerian Dalam Negeri AS (DHS). Beberapa perusahaan terkemuka dunia juga menggunakannya.

Dalam wawancaranya dengan CNN, Ton-That menegaskan ia menciptakan Clearview untuk tujuan mulia, agar penegak hukum mudah menangkap penjahat. Klaimnya, di New Jersey, Clearview sukses digunakan untuk mengungkap pelaku predator anak-anak yang meresahkan warga.

Lebih jauh, dalam laman resmi Clearview, perusahaan menegaskan bahwa alat yang dibuat mereka ditujukan untuk “melakukan pencarian, bukan pengawasan.” Klaim lain: Clearview juga dibuat untuk “melindungi orang-orang yang tidak bersalah”.

Namun, Eric Goldman, peneliti di University of Santa Clara, menyebut alat semacam Clearview sebagai “senjata tanpa batas”.

“Bayangkan seorang petugas penegak hukum jahat yang ingin membuntuti seseorang atau pemerintah asing menggunakan ini untuk menggali rahasia untuk memeras orang atau melemparkan mereka ke penjara,” tutur Goldman.

Selain rawan disalahgunkan, teknologi semacam ini jug diklaim bisa rasial. Dalam studi bertajuk “Semantics Derived Automatically from Language Corpora Contain Human-like Biases” (2017) mengatakan, ketika kecerdasan buatan menggunakan data dari internet, seperti yang dilakukan Clearview, sistem yang dihasilkan akan menghasilkan prasangka buruk yang lebih pada orang-orang berkulit hitam dan perempuan.

“Banyak orang berpikir bahwa mesin tidak mungkin bias,” tutur Aylin Caliskan, ilmuwan komputer asal George Washington University. “Yang perlu diingat, mesin dilatih oleh data yang diberikan manusia. Dan manusia adalah makhluk yang bias.”

Amazon sendiri, sebagaimana diwartakan Reuters, pada 2018 lalu telah bertindak diskriminatif pada perempuan melalui AI. Kala itu, untuk memudahkan proses perekrutan, Amazon menciptakan AI untuk melakukan proses screening pada CV dari orang-orang yang melamar pada Amazon.

Amazon menggunakan kumpulan CV terdahulu dari orang-orang yang melamar. Masalahnya, kebanyakan CV berasal dari laki-laki. Akhirnya, mayoritas CV yang lolos adalah laki-laki, bukan perempuan.

Tuntutan untuk membatasi penggunaan pengenalan wajah

Pengumuman IBM yang disusul Amazon pada minggu ini, disebut mengikuti dorongan para anggota parlemen Demokrat yang mendesak dikeluarkannya paket reformasi polisi di Kongres, yang mencakup pembatasan penggunaan pengenalan wajah, terutama di kamera badan polisi.

Seperti dilaporkan APNews, industri teknologi telah berjuang melawan larangan penggunaan langsung pengenalan wajah, tetapi beberapa perusahaan telah menyerukan adanya penetapan pedoman khusus untuk penggunaan teknologi yang bertanggung jawab.

“Menjadi jelas, bahwa tidak adanya aturan nasional yang konsisten akan menunda pengalihan teknologi yang berharga ini ke tangan penegak hukum, memperlambat investigasi dan membuat masyarakat kurang aman,” kata Daniel Castro, wakil presiden Information Technology and Inovation Foundation, yang telah mengadvokasi penyedia pengenalan wajah.

Sementara Angel Díaz, seorang pengacara di Brennan Center for Justice di New York University, mengatakan ia menyambut moratorium Amazon tetapi mengatakan itu "seharusnya datang lebih cepat mengingat berbagai penelitian menunjukkan bahwa teknologi ini bias secara rasial."

"Kami sepakat bahwa Kongres perlu bertindak, tetapi masyarakat setempat juga harus diberdayakan untuk menyuarakan keprihatinan mereka, serta memutuskan apa dan bagaimana mereka ingin teknologi ini digunakan," katanya.