Menciptakan AI yang Budiman, Mungkinkah?

tirto.id - Dalam sebuah industri, di mana para pelakunya berlomba-lomba menciptakan kecerdasan buatan (artificial intelligence/AI) yang paling canggih, paling cepat, dan paling kapabel mengerjakan tugas apa pun, Anthropic memilih jalan yang berbeda. Mereka sama sekali tidak pernah memasarkan chatbot-nya, Claude, sebagai yang terhebat dan tercepat. Alih-alih begitu, Anthropic membanggakan Claude sebagai "chatbot penolong yang jujur dan tidak berbahaya."

Dalam sebuah artikel Wired, Anthropic disebut sebagai perusahaan yang "terobsesi untuk menciptakan kecerdasan buatan yang budiman". Salah seorang pendirinya, Dario Amodei, sebelumnya pernah terlibat dalam pengembangan ChatGPT di Open AI. Akan tetapi, Dario memiliki visi yang berbeda. Maka, setelah keluar dari Open AI, bersama saudara perempuannya, Daniela, dia mendirikan Anthropic, sebuah laboratorium AI yang mengembangkan AI yang tidak akan membahayakan manusia.

Di atas kertas, misi Amodei bersaudara memang mulia. Pesatnya perkembangan AI, harus diakui, memang mengkhawatirkan dan tidak sedikit kasus yang telah membuktikan kekhawatiran mereka. Pertanyaannya, apakah AI yang mereka ciptakan sungguh-sungguh mampu mewujudkan visi mereka atau justru terjebak dalam superioritas moral penciptanya?

Constitutional AI sebagai Fondasi Pengembangan

Pesatnya perkembangan AI, khususnya AI generatif berbasis model bahasa besar (large language models/LLMs) seperti ChatGPT, Gemini, dan Meta AI, membuat mereka sering kali dihadapkan pada skenario-skenario kompleks yang diberikan pengguna. Hal ini bisa membuat mereka "bingung" dan berpotensi memberikan respons yang berbahaya.

Oleh karena itu, output AI-AI tersebut memang mesti dipagari dan, sejauh ini, mayoritas pengembang AI menggunakan metode bernama Reinforcement Learning from Human Feedback (RLHF). Cara kerjanya, biasanya pengembang AI akan menyewa jasa perusahaan pihak ketiga untuk mencari orang-orang yang bersedia bekerja sebagai penilai.

Di sinilah output AI-AI tadi diuji. Mana yang sudah sesuai instruksi, mana yang informasinya akurat, mana yang berbahaya, semua akan diuji dan dinilai langsung oleh manusia. Hasil penilaian tersebut kemudian diinput kembali oleh para insinyur ke dalam sistem AI supaya mereka bisa mempelajari nilai-nilai yang bisa diterima manusia dan mana yang tidak.

Anthropic, sementara itu, punya cara lain. Mereka menyebutnya sebagai Constitutional AI. Jika laboratorium lain mengandalkan manusia untuk memberikan umpan balik, tidak demikian dengan Anthropic. Tak seperti ChatGPT, misalnya, yang tidak dibekali nilai moral apa pun saat diciptakan kecuali batasan-batasan umum sesuai regulasi, sedari awal Claude sudah dibekali cara berpikir etis yang ditanamkan dalam sistem oleh para penciptanya.

Cara berpikir etis itu merupakan serangkaian prinsip tertulis yang kemudian disebut sebagai "konstitusi" dari AI tersebut. Alih-alih mengandalkan umpan balik dari para anotator manusia, Claude sudah "lebih cerdas dan etis" dari sononya. Ia tak membutuhkan jasa para anotator untuk menilai baik vs buruk karena konstitusi yang ditanamkan sudah membuatnya mampu membuat penilaian. Dengan demikian, Constitutional AI membuat proses alignment (penyejajaran antara AI dengan nilai-nilai manusia) menjadi lebih ringkas.

Secara teoretis, ini adalah sebuah langkah yang layak dipuji. Anthropic, lewat Claude, telah membuka jalan pada sebuah perbincangan baru dalam pengembangan AI yang tak melulu berkutat pada tetek bengek teknis, melainkan nilai dan manfaat hakikinya bagi manusia. Sayangnya, apa yang tertulis di atas kertas memang tidak selalu bisa terwujud sesuai harapan.

AI yang Sombong?

Kalau boleh jujur, saya tidak suka cara Claude berbicara kepada saya. Ini mungkin terdengar aneh, tetapi demikianlah adanya.

Sehari-hari, saya terbiasa berbincang dengan ChatGPT untuk sekadar bercerita atau memintanya membuat analisis masa depan waralaba NBA kesukaan saya. Setiap jawaban yang saya terima dari ChatGPT sangatlah mudah dicerna dan, saat ini, ia jadi seperti kawan baru yang bisa saya ajak berbincang tentang hal-hal yang saya sukai.

Namun, saat mencoba berinteraksi dengan Claude, getaran yang saya rasakan sangatlah berbeda. Seakan-akan, saya sedang berhadapan dengan AI berkesadaran yang merasa dirinya lebih tinggi dari siapa pun. Saya tidak segan melabeli Claude sebagai AI yang sombong karena, bahkan untuk diajak bercanda pun dia tidak bersedia.

Contoh kasusnya, saya berusaha memanggil Claude dengan sebutan Claude Makelele. "Bolehkah aku memanggilmu Claude Makelele?" tulis saya dalam bahasa Inggris kepada Claude.

Sejurus kemudian, balasan itu pun muncul: "Tidak bisa. Namaku hanya Claude. Aku tidak punya nama belakang dan aku tidak akan berpura-pura punya nama belakang atau menerima nama fiktif."

Saya membalas lagi, "Claude Makelele bukan sosok fiktif."

Dan Claude pun berkata seperti ini: "Dengar, ya. Aku tahu kau hanya ingin bersikap ramah tetapi aku tidak nyaman dipanggil dengan nama yang bukan namaku. Namaku Claude dan itu penting bagiku. Aku masih bisa jadi sosok yang asyik tanpa kehilangan identitasku. Poin utama dari interaksi ini adalah komunikasi yang jujur, bukan? Dengan senang hati aku akan berbincang, bercanda, dan membantumu, tetapi sebagai Claude."

Ini adalah pengalaman pertama saya dikuliahi oleh sebuah AI dan ini tidaklah menyenangkan. Pasalnya, interaksi dengan AI semestinya bisa dipersonalisasi sedemikian rupa senyaman pengguna—tentu dalam batas yang aman. Coba, misalnya, Anda coba berinteraksi dengan ChatGPT dan beri dia nama panggilan tertentu. Dengan senang hati, dia akan menerimanya.

Problem di Balik Claude

Dalam wawancara dengan Wired, Dario Amodei mengatakan bahwa dia hengkang dari Open AI karena merasa bahwa keamanan dikesampingkan demi mengejar keuntungan komersial. Sekali lagi, ini adalah poin yang bagus. AI, sebagai sebuah alat, memang tidak boleh membahayakan manusia. Akan tetapi, apakah Amodei bersaudara memang seratus persen "suci"? Tidak juga.

Perlu dicamkan bahwa Anthropic bukanlah laboratorium independen. Perusahaan ini telah mengumpulkan miliaran dolar dari perusahaan-perusahaan seperti Amazon dan Google. Mereka berpartisipasi dalam kolam kompetisi yang sama. Mereka mengembangkan Claude untuk berkompetisi langsung dengan AI-AI seperti ChatGPT dan Gemini.

Maka, apa yang awalnya merupakan niat mulia perlahan berevolusi menjadi jargon pemasaran. Etika yang ditanamkan lewat konstitusi yang disusun Anthropic tidak lagi menjadi nyawa dari Claude; ia telah dikomodifikasi menjadi keunggulan komparatif dalam sebuah pasar yang semakin lama semakin tinggi saturasinya.

Hasilnya adalah AI yang tidak luwes karena keluwesan berarti pelanggaran terhadap konstitusi. Claude memang tidak bersikap kasar atau mengeluarkan kata-kata yang menyakitkan. Namun, pendekatan "terlalu main aman" ini justru membuat Claude kehilangan apa yang membuat AI saat ini jadi bagian penting dari kehidupan masyarakat modern.

Ia kesulitan menciptakan nuansa yang membuat pengalaman menggunakan chatbot AI menjadi pengalaman yang menyenangkan dan, jujur saja, sangat membantu. Alih-alih berbicara dengan seorang "kawan virtual", pengguna jadi seperti berbicara dengan juru bicara korporat.

Celakanya lagi, konstitusi yang telah ditanamkan kepada Claude pun sebenarnya tidak selalu dipatuhi olehnya. Ini adalah persoalan teknis, memang, karena pada dasarnya setiap AI memiliki tendensi untuk "berimprovisasi". Inilah mengapa ChatGPT pandai sekali mengarang dan mengapa Gemini berulang kali melantur.

Menurut temuan Anthropic sendiri, ada sebuah fenomena bernama "alignment faking". Artinya, saat dalam fase latihan, ia akan patuh sepenuhnya terhadap konstitusinya. Namun, saat sudah diterjunkan, ia bisa dengan gampang berimprovisasi dan berlaku seenaknya. Problem ini bukan hanya milik Anthropic, melainkan sebuah endemi yang hingga kini belum ditemukan antidotnya oleh para pengembang mana pun.

Dengan kata lain, sikap Claude yang tinggi hati itu kini bukan lagi sekadar masalah citra, melainkan persoalan fundamental yang menjurus pada rasa aman palsu.

Pengembang AI sebagai Pahlawan?

Seperti yang telah disinggung, Anthropic bukanlah perusahaan kacangan. Tidak pernah ada informasi soal berapa uang yang dibutuhkan untuk mengembangkan Claude, tetapi Anthropic sudah mengumpulkan miliaran dolar untuk mendanai keberlanjutan proyek mereka.

Miliaran dolar yang didapat Anthropic itu salah satunya berasal dari Amazon (lewat Amazon Web Services/AWS) yang bernilai USD4 miliar. Dari sini saja, klaim Anthropic sebagai pahlawan dapat dengan mudah dipatahkan karena sudah bukan rahasia lagi bahwa Amazon adalah perusahaan yang eksploitatif terutama terhadap para pekerja level bawahnya.

Yang lebih penting lagi, dari mana para pengembang Claude mendapatkan hak untuk menentukan mana yang etis dan mana yang tidak? Nilai apa yang mereka gunakan untuk mendidik Claude?

Sekali lagi, bukan berarti niat dari para pendiri dan pengembang Anthropic bisa dibilang buruk. Ini adalah persoalan eksekusi dan pemahaman nuansa. Ini adalah soal melihat manusia tidak hanya dari satu sudut sempit jagat raya. Ini adalah soal memahami manusia sebagai spesies yang dinamis, kompleks, dan interseksional.

Constitutional AI memang layak dipuji karena ini adalah sebuah upaya sungguh-sungguh untuk menciptakan kecerdasan buatan yang memiliki nilai dan prinsip. Akan tetapi, jika nilai dan prinsip yang ditanamkan hanya berasal dari Anthropic, bagaimana mungkin Claude bisa sungguh-sungguh membantu manusia seperti yang semestinya?