Peruri akan Perketat Kebijakan Tata Kelola AI untuk Pegawainya

tirto.id - Laporan IBM mengungkapkan 74 persen organisasi mengalami kebocoran Kecerdasan Buatan (Artificial Intelligence/AI) pada 2024, naik 67 persen dari tahun sebelumnya.

Menurut Direktur Digital Business Perum Peruri, Farah Fitria Rahmayanti, hal tersebut terjadi karena banyak organisasi atau perusahaan yang tidak memiliki kebijakan tata kelola AI, sehingga tidak ada regulasi, standar dan panduan yang jelas terkait adopsi AI yang aman sekaligus dapat mendukung keberlanjutan bisnis.

Oleh karena itu, untuk menghindari terjadinya kebocoran AI, pihaknya bakal memperketat kebijakan tata kelola AI melalui penerapan prinsip privacy by design (PbD).

Mengutip CyberHub, prinsip PbD merupakan kerangka kerja konseptual yang mengintegrasikan perlindungan privasi secara proaktif ke dalam desain sistem, proses dan teknologi. Dalam hal ini, perlindungan privasi menjadi kunci utama dalam pengembangan teknologi berbasis AI.

“Privasi tidak boleh diperlakukan hanya sebagai fitur tambahan, melainkan harus hadir sejak tahap awal perancangan sistem. Analogi pentingnya, prinsip ini seperti sabuk pengaman yang dipasang pada mobil saat dirakit, bukan setelah kendaraan selesai dibuat. Pendekatan ini diyakini mampu mengurangi risiko kebocoran data yang semakin meningkat seiring dengan masifnya adopsi AI,” ujar Farah, dalam keterangan resminya, dikutip Sabtu (20/9/2025).

Pada saat yang sama, prinsip kedaulatan data, salah satunya melalui zero-trust data input atau model keamanan yang didasarkan pada kontrol akses yang ketat dan tidak memercayai siapapun secara otomatis, juga harus diterapkan di era generatif AI seperti saat ini. Bahkan, menurut Sarah, prinsip kedaulatan data penting untuk dijadikan sebagai panduan praktis adopsi yang aman bagi organisasi.

“Hanya menggunakan layanan AI kelas enterprise dengan jaminan zero data retention, melakukan anonimisasi data sensitif, serta membangun panduan internal penyusunan prompt agar tidak memasukkan informasi rahasia,” rincinya.

Sebaliknya, Peruri juga telah mewanti-wanti karyawannya untuk menghindari penggunaan shadow AI, mengunggah dokumen internal secara penuh ke platform publik, mengabaikan analisis kontrak dan syarat layanan, serta membiarkan kerentanan terhadap serangan prompt injection.

“Melalui prinsip tersebut, setiap layanan digital yang dikembangkan PERURI diarahkan tidak hanya menjadi produk yang nyaman dan stabil, tetapi juga aman. Tujuan akhirnya adalah membangun ekosistem AI yang berkelanjutan dan beretika, sekaligus mendukung visi besar Indonesia Emas 2045,” tambah Farah.