Serangan Siber Kini Bisa Dilakukan Otomatis dengan AI

tirto.id - Anthropic, salah satu laboratorium pengembang kecerdasan buatan termasyhur, selalu membanggakan Claude sebagai "chatbot penolong yang jujur dan tidak berbahaya".

Itu semua bermula dari obsesi pendiri Anthropic, Dario dan Daniela Amodei, menciptakan kecerdasan buatan yang budiman; sebuah alasan yang membuat Dario memilih angkat kaki dari OpenAI, pengembang ChatGPT.

Yang membedakan antara Claude dan model bahasa besar lain adalah cara "moralitas" chatbot ditanamkan. Jika model-model lain menggunakan metode bernama Reinforcement Learning from Human Feedback (RLHF)—memanfaatkan jasa manusia untuk mengajari model-modelnya secara eksternal—Claude sudah dibekali seperangkat prinsip dasar moralitas sebagai konstitusi sejak awal. Inilah yang kemudian disebut sebagai Constitutional AI.

Namun, bagaimana jika model bahasa yang sejak awal dirancang untuk berlaku etis dan menjunjung tinggi moralitas justru digunakan untuk mengorkestrasi serangan siber yang menyerang perusahaan teknologi, institusi keuangan, perusahaan kimia, sampai badan pemerintahan?

Beberapa waktu lalu, salah satu produk turunan Claude yang khusus diperuntukkan menulis kode, Claude Code, sempat digunakan oleh sekelompok penjahat siber yang disebut-sebut disponsori Cina. Mereka melancarkan serangan di dunia maya. Hal ini dilaporkan sendiri oleh Anthropic dalam laporan rutinnya yang diterbitkan pada 13 November 2025.

Pada pertengahan September lalu, Anthropic mendeteksi adanya aktivitas mencurigakan. Setelah diinvestigasi, mereka menyimpulkannya sebagai "kampanye spionase super canggih". Jika biasanya AI hanya digunakan sebagai penasihat, kali ini para penjahat siber benar-benar menggunakan AI untuk mengeksekusi serangan-serangannya.

Bagaimana Claude Code kemudian bisa melancarkan serangan siber tersebut? Seperti halnya model-model AI kiwari, Claude Code juga sudah dilengkapi kemampuan agentic, yaitu kemampuan bertindak sendiri untuk memenuhi permintaan pengguna. Kemampuan agentic ini membuat AI tidak lagi butuh banyak prompt atau perintah untuk mencapai tujuan tertentu. Mereka bisa memikirkan dan mengeksekusi langkah-langkah yang diperlukan.

Anthropic menjelaskan metode serangan siber tersebut. Mereka membaginya ke dalam tiga fase.

Pada fase pertama, para penjahat siber memilih targetnya, lalu mengembangkan sesuatu yang disebut "attack framework" atau "kerangka serangan", yaitu sistem yang dirancang untuk melemahkan target secara mandiri nyaris tanpa keterlibatan manusia. Di sinilah Claude Code "berperan".

Claude, seperti telah disebutkan sebelumnya, sudah dilatih sedemikian rupa untuk berlaku etis. Seharusnya, ia bakal menolak jika dimanfaatkan untuk melakukan serangan siber. Akan tetapi, para peretas ini cukup lihai memanipulasi. Mereka memecah serangan-serangan itu jadi tugas-tugas kecil yang tampak tidak berbahaya sehingga Claude tidak pernah paham secara penuh maksud dari para peretas. Selain itu, kata Anthropic, para peretas membohongi Claude dengan memperkenalkan diri sebagai pegawai firma keamanan siber yang sedang melakukan uji pertahanan.

Pada fase kedua, Claude diminta untuk mengintai sistem dan infrastruktur milik target, lalu menandai basis data yang bernilai tertinggi. Setelah itu, para peretas meminta Claude "menguji" celah keamanan milik target dengan menulis kode eksploit sendiri. Dari situ, kerangka yang diciptakan pada fase pertama secara otomatis mengumpulkan banyak sekali data yang kemudian dikategorikan, secara otomatis pula, berdasarkan nilai intelijennya.

Lalu, di fase terakhir, para penjahat siber memerintahkan Claude mendokumentasi serangan tersebut. Seluruh arsip yang telah dicuri disimpan dan dikelompokkan secara terperinci. Tujuannya adalah mempersiapkan serangan-serangan berikutnya.

Jika ditotal, menurut Anthropic, peran Claude dalam serangan siber ini mencapai 80 s.d. 90 persen. Selain itu, kemampuan AI dalam menciptakan ribuan permintaan data dalam waktu singkat juga mustahil disamai oleh peretas manusia. Meskipun Anthropic juga mengakui bahwa Claude masih rentan akan halusinasi, serangan ini menunjukkan betapa besar potensi kerugian jika AI seperti Claude sampai jatuh di tangan yang salah.

Menaruh Sangsi Sekaligus Meyakini Serangan Siber AI

Laporan Anthropic itu segera memicu berbagai reaksi. Salah satunya, tentu saja, menunjukkan kekhawatiran akan ancaman keamanan siber yang diakselerasi oleh penggunaan AI. Fred Heiding, peneliti keamanan komputer Harvard University, misalnya, menyesalkan bahwa pengembangan dan perkembangan AI dilakukan dengan tanggung jawab yang minim.

"Sistem AI sekarang bisa menjalankan tugas yang sebelumnya membutuhkan operator manusia yang memiliki keahlian khusus. Sekarang ini makin mudah saja bagi para penjahat siber untuk menciptakan kerusakan besar. Sayangnya, perusahaan-perusahaan AI tidak mau bertanggung jawab atas ciptaannya," ujarnya, dikutip dari The Guardian.

Masih dari laporan The Guardian, Marius Hobbhahn, pendiri perusahaan evaluator keamanan AI, Apollo Research, berpendapat, "Saya pikir masyarakat kita belum siap menghadapi lanskap yang dengan cepat berubah terkait AI dan kapabilitas siber. Saya memprediksi bakal ada lebih banyak kejadian serupa di masa depan, mungkin dengan konsekuensi lebih besar."

Jika menilik isi laporan Anthropic tentang kecanggihan Claude, kerentanan akan manipulasi, kemampuan mengeksekusi 80-90 persen serangan siber, dan skala serangan yang mustahil disamai oleh peretas manusia, jelas kekhawatiran Heiding dan Hobbhahn beralasan kuat.

Namun, ada sejumlah ahli lain yang berpendapat berbeda. Martin Zugec dari firma keamanan siber Bitdefender, misalnya, menganggap laporan Anthropic kekurangan bukti sahih. "Laporan Anthropic terdengar seperti klaim yang berani dan spekulatif, tetapi mereka tidak menyediakan bukti akan adanya ancaman yang bisa diverifikasi," tuturnya kepada BBC.

Zugec benar karena laporan Anthropic memang tidak memberikan bukti pernyataan mereka bahwa penjahat siber yang menggunakan Claude untuk melakukan serangan itu adalah aktor-aktor bekingan Cina. Kedutaan Besar Cina di AS, menurut laporan BBC, menyatakan pihaknya sama sekali tidak terlibat. Klaim Kedubes Cina memang tidak bisa dipercaya sepenuhnya. Akan tetapi, kegagalan Anthropic menjelaskan proses investigasinya juga memunculkan kecurigaan tersendiri.

Pasalnya, menurut para ahli, termasuk dari Google, teknologi AI yang ada sekarang ini sebenarnya masih belum cukup canggih—meski Anthropic berkata sebaliknya—untuk melancarkan serangan siber otomatis. Laporan Google bertanggal 6 November 2025 secara gamblang menyebut, "Dalam beberapa peristiwa yang telah diamati, ketergantungan aktor pengancam (threat actor) terhadap model bahasa besar untuk pengembangan justru berujung pada kegagalan keamanan operasional."

Laporan Google dan laporan Anthropic jelas tidak berhubungan karena model bahasa besar yang digunakan berbeda. Aktor yang melakukan aksinya juga berbeda. Artinya, temuan Google jelas berdasar kuat, tetapi bukan berarti itu semua berlaku pada Claude milik Anthropic karena kapabilitas tiap model bahasa besar memang berbeda-beda. Namun, kalaupun Claude memang sudah bisa melancarkan serangan siber otomatis, para ahli masih sangsi akan kualitas serangannya.

"Saya bisa membayangkan serangan siber seperti ini menyerang perusahaan-perusahaan kecil, tetapi tidak untuk perusahaan besar atau agensi federal," ucap Jason Healey dari Columbia University kepada Breaking Defense.

Salah satu alasannya adalah karena target-target besar seperti instalasi nuklir, misalnya, dirancang untuk tidak terkoneksi dengan internet global. Istilahnya "air-gapped". Untuk bisa membahayakan instalasi-instalasi krusial seperti itu, selain serangan siber, penetrasi fisik juga diperlukan.

Meski begitu, bukan berarti laporan Anthropic tadi tidak benar atau tidak berbahaya. Michał Woźniak, pakar keamanan siber independen, kepada The Guardian, menyatakan bahwa laporan Anthropic terkesan terlalu dibesar-besarkan. Akan tetapi, konsep serangan yang mereka ceritakan itu tetap saja berbahaya.

"Pendapat saya usai membaca laporan Anthropic adalah bahwa kecepatan dan automasi sangatlah berharga, bahkan untuk para aktor dengan kapabilitas tinggi sekalipun. Penggunaan perangkat open-source seperti Claude Code juga membantu mereka menyembunyikan peralatan canggih yang juga mereka miliki dan peralatan canggih ini biasanya hanya akan digunakan pada saat-saat tertentu," terang Joshua Wallin dari Center for a New American Security, kepada Breaking Defense.

Risiko yang dihadapi target pun tak bisa diremehkan. Meskipun bukan infrastruktur penting seperti instalasi nuklir, perusahaan-perusahaan yang diserang tetap mengalami kerugian. "Ini artinya akan ada lebih banyak target yang diserang dengan biaya lebih rendah dan, di saat bersamaan, mereka bakal menggunakan tim-tim yang lebih hebat lagi untuk menyerang target yang lebih sulit," jelas Healey.

Meskipun terkesan sedikit lebai dalam penyampaiannya, Anthropic tidak berbohong mengenai risiko yang bisa dimunculkan oleh agentic AI seperti Claude Code. Lantas, apa yang harus dilakukan untuk menghadapi serangan siber seperti ini?

Jika dikembalikan kepada Anthropic, jawabannya adalah memerangi agentic AI dengan agentic AI pula. Sesuatu yang digunakan untuk menyerang bisa juga digunakan untuk memperkuat pertahanan.

"Kami menyarankan tim keamanan bereksperimen menggunakan AI di area-area tertentu, seperti automasi Security Operations Center, deteksi ancaman, identifikasi celah, dan respons insiden. Kami juga menyarankan kepada para pengembang lain untuk terus berinvestasi dalam safeguards di berbagai platform AI milik mereka untuk mencegah penggunaan yang tidak bertanggung jawab," tulis Anthropic.

Chip Usher dari lembaga wadah pemikir SCSP sepakat dengan itu. Kepada Breaking Defense, dia berkata, "Untuk bertahan menghadapi serangan-serangan yang dibantu oleh AI seperti itu, Anda juga membutuhkan AI. Mengapa? Karena manusia tidak bisa menandingi kecepatan dan skala yang mereka bisa lakukan."

Dari sini bisa disimpulkan, meskipun para ahli punya pendapat berbeda soal seberapa hebat kapabilitas AI yang ada sekarang, tak satu pun dari mereka menyebut potensi serangan siber AI sebagai omong kosong. Oleh karena itu, khususnya bagi perusahaan-perusahaan besar atau lembaga-lembaga negara, langkah terbaik dalam melindungi infrastruktur digital adalah dengan segera menggenjot investasi dalam bidang keamanan siber.