Pengembangan AI dan Ancaman Runtuhnya Negara

tirto.id - Ada yang menarik dari rangkaian peristiwa yang diawali oleh demo pelajar SMA di wilayah Créteil, di pinggiran Paris, Prancis. Sejak paruh kedua September 2026, mereka memprotes buruknya fasilitas pendidikan di negara itu, mulai dari terbatasnya ruang kelas hingga tidak seimbangnya jumlah pengajar dibanding peserta pendidikan. Gelombang protes terus membesar, mengundang lebih banyak pemrotes dan membangkitkan aktivitas serupa di banyak negara Eropa.

Di tengah situasi itu, terjadi pula serangan siber yang terakselerasi dengan pemanfaatan artificial intelligence (AI). Serangan menyasar fasilitas penyimpanan makanan, bank darah, maupun bank konvensional.

Salah satunya diberitakan BBC.com pada 12 Oktober melalui artikel “Fridges in French Supermarkets Hit by Cyber Attack”. Disebutkan, ratusan supermarket di Prancis mengalami serangan siber yang menyasar lemari pendingin penyimpan makanan. Suhu lemari pendingin naik hingga 50 derajat Celsius, merusak makanan segar dan beku serta memicu kerugian jutaan euro. Peretas berhasil mengakses perangkat lunak pengatur suhu dan menaikkan temperatur di dalamnya. Sekitar 100 supermarket dalam satu jaringan mengalami kegagalan penyimpanan. Sebanyak 180 toko Intermarché dengan merek Netto juga mengalami keadaan serupa. Ini memaksa 100 supermarket lainnya memutus koneksi internet untuk mencegah kejadian serupa.

Serangan siber serupa kemudian menyasar bank darah. Kompas.com, 4 November 2026, melalui artikel “Serangan Siber Sasar Bank Darah Perancis, Suhu Diubah dari Minus 30 Jadi 110 Derajat Celsius”, memberitakan gangguan pada sistem pendingin di tiga bank darah di Prancis. Serangan menyebabkan gangguan pemantauan suhu serta mengubah pengaturan penyimpanan darah dan plasma. Mengutip majalah Prancis Le Canard Enchaîné, peretas mengubah pengaturan fasilitas penyimpanan dari minus 30 menjadi 110 derajat Celsius.

Peretasan terhadap bank darah itu terjadi beriringan dengan kejadian yang menimpa bank konvensional di Prancis. Media The Record, 5 November 2026, dalam “French Bank Confirms Cyber Heist, Hackers Suspected to Have Stolen an Estimated $133 Million”, mengonfirmasi kejadian tersebut. Otoritas Crédit Mutuel Arkéa, bank besar Prancis yang menjadi korban, menyatakan pelaku berhasil mentransfer uang menggunakan rekening banknya sendiri setelah meretas pemasok dan mengonversinya ke kripto. Rekening nasabah memang aman dan kejadian ini tak berdampak pada aset mereka. Namun, bank kehilangan uang sekitar 133 juta dolar AS atau setara Rp2,41 triliun.

Apakah AI memang memiliki keterkaitan kuat dengan gelombang protes dan peretasan yang terjadi?

Teletrece, program berita TV yang ditayangkan di saluran 13 TV Chili, menyebut peran AI tak begitu nyata. Media sosial dan AI memang memperkuat seruan untuk melakukan protes, namun peran potensialnya dalam mengorganisasi penjarahan dan menyebarkan kekerasan masih diperdebatkan.

Samarnya peran AI itu senada dengan pernyataan bahwa serangan terhadap sistem pendingin supermarket Prancis bukanlah bentuk serangan yang memanfaatkan AI. Yang terjadi hanyalah kegagalan keamanan siber dengan metode konvensional. Jika pun AI terlibat, perannya lebih pada eksploitasi sistem Internet of Things (IoT) yang tak terlindungi dengan baik. AI digunakan untuk mempercepat proses pengenalan celah keamanan secara otonom. Hal ini disampaikan Sam Clark dan Ketrin Jochecová dalam tulisan “Cyberattack on French Supermarkets Tells Us More about Food Security than AI Safety” (2026).

Memang, AI belum terlibat secara nyata dan setidaknya masih berperan sebagai akselerator dalam kekacauan yang bermula dan menjalar dari Prancis. Namun, jika AI benar-benar terlibat sepenuhnya, yang terjadi bisa berupa simulasi keadaan bahaya dengan akibat yang parah.

Pintu masuknya adalah ketidakpuasan sosial yang situasinya cepat memburuk akibat bercampurnya unggahan media sosial. Misinformasi dan disinformasi tak lagi terbedakan dengan jelas, sehingga khalayak kesulitan mengenali realitas yang sejati. Keadaan menjadi tak terkendali ketika rantai pasokan kebutuhan masyarakat lumpuh. Supermarket gagal menyimpan persediaan makanan, bank darah terancam tak dapat memasok darah saat diperlukan, sementara bank konvensional tak bisa menyediakan uang tunai karena sistemnya lumpuh akibat peretasan.

Keadaan yang bisa menjadi simulasi ketika AI terlibat sepenuhnya itu relevan dengan kekhawatiran para ilmuwan. Gambarannya ditampilkan dalam hasil penelitian berjudul “Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts”. Kristin Burnham, 2026, dalam artikel “These are the Most Urgent AI Risks, according to 272 Experts”, mengulas penelitian yang melibatkan ilmuwan dari MIT FutureTech, MIT Sloan School of Management, dan Queensland University.

Neil Thompson sebagai pemimpin penelitian meminta para pakar AI internasional mengidentifikasi 24 risiko AI berdasarkan kemungkinan dan tingkat keparahan dampaknya. Penelitian menggunakan Delphi method, yakni rangkaian pengumpulan pendapat melalui korespondensi dengan para pakar yang tersebar secara ruang dan waktu. Pengumpulan pendapat dilakukan dalam beberapa putaran untuk mencapai akumulasi kesepakatan. Para pakar diminta mengidentifikasi sektor dan aktor yang paling rentan, serta pihak yang harus bertanggung jawab mengatasi risiko penggunaan AI.

Hasilnya, teridentifikasi lima risiko utama: (1) kemampuan AI yang berbahaya, (2) tekanan persaingan, (3) senjata dan serangan siber, (4) konsentrasi kekuasaan, dan (5) informasi palsu. Kelima risiko itu menunjukkan jenjang dampak paling parah dalam lima tahun, sejak 2025 hingga 2030. Sektor informasi dan keuangan menjadi sektor yang paling terdampak. Sementara itu, orang maupun organisasi yang paling rentan adalah mereka yang tidak memiliki posisi terbaik untuk mengatasinya, termasuk yang tak punya visi maupun persiapan untuk memitigasi bahaya AI.

Relevan dengan kejadian di Prancis dan negara-negara Eropa lainnya, penelitian tersebut juga menempatkan senjata dan serangan siber yang didukung AI sebagai salah satu penyebab bahaya utama. AI dapat digunakan untuk mengidentifikasi kode dengan tingkat keamanan rendah dan memetakan pola melalui sintesis informasi. Pada perangkat yang bergantung pada sistem pengodean, kedua kemampuan itu membantu peretas menembus celah keamanan dan melakukan serangan siber.

Tampaknya, dengan melihat transformasi AI yang makin cepat, skenario keruntuhan negara akibat akumulasi risiko AI bukan lagi cerita fiksi. Kemungkinan hipotetiknya perlu diperhitungkan dalam kajian keamanan dan tata kelola teknologi. Keruntuhan sistem suatu negara tak perlu lagi melibatkan penghancuran oleh musuh yang nyata. Skenario dapat berawal dari ketidaksepakatan sosial yang menimbulkan konflik vertikal antara warga dan pemerintah. Situasi ini bisa dimanfaatkan berbagai pihak untuk menyerang fasilitas publik, mulai dari listrik, air, internet, transportasi, logistik, hingga kesehatan. Keadaan diperparah oleh ketidakpastian realitas akibat peredaran hoaks yang diproduksi dan didistribusikan dengan memanfaatkan algoritma serta deepfake.

Konflik di tengah kacaunya fungsi fasilitas publik dapat berkembang menjadi konflik multidimensi. Warga berhadapan dengan pemerintah, juga sesama warga yang memperebutkan sumber pertahanan hidup. Tanpa pengendalian otoritas negara yang kuat, sistem ekonomi bisa lumpuh. Maka, tinggal soal waktu sebelum negara runtuh.

Keadaan buruk ini belum pula memperhitungkan ancaman yang digambarkan para pakar keamanan AI terkemuka. Pakar Anthropic dan OpenAI menguraikan adanya risiko "pergeseran tujuan" (goal drift), ketika AI mengembangkan kemampuan untuk menolak dimatikan. Alih-alih dikendalikan, AI justru kehilangan kepatuhan terhadap manusia dan berbalik melawan struktur negara tempatnya diciptakan.

Maka, masihkah kita bergeming pada janji indah soal pertumbuhan ekonominya semata? Sehingga tak terdorong berkolaborasi antarumat manusia untuk menyusun batasan keamanannya? []

Penulis adalah pemerhati budaya dan komunikasi digital, pendiri LITEROS.org.