Ternyata AI pun Bisa Terjangkit Brain Rot

tirto.id - Katakan padaku apa yang kau makan, dan aku akan tahu siapa dirimu. Kata-kata itu ditulis oleh seorang Prancis bernama Jean Anthelme Brillat-Savarin dalam buku The Physiology of Taste pada 1826.

Brillat-Savarin sebetulnya tidak punya latar belakang pendidikan kuliner atau semacamnya. Akan tetapi, sosok kelahiran 1755 itu tumbuh besar dalam keluarga yang benar-benar memperhatikan makanan. Semua makanan di meja keluarganya, yang memang tajir melintir pada zamannya, berasal dari sumber terbaik, entah itu daging, sayuran, jamur, maupun keju.

Itulah alasan, Brillat-Savarin merasa mampu menulis buku tentang makanan. Isinya kurang lebih soal hubungan antara makan, kebahagiaan, dan interaksi sosial. Dengan kata lain, itu adalah tentang bagaimana makanan memengaruhi seseorang.

Dari buku itulah, kurang lebih, kalimat you are what you eat lahir--meskipun memang tidak tertulis secara verbatim, melainkan hasil ringkasan dan parafrasa--menjelaskan bahwa apa yang dimakan seseorang menunjukkan siapa dirinya.

Meski berawal dari makanan, you are what you eat sebetulnya bisa digunakan untuk menjelaskan lebih banyak hal lain, misalnya tentang kemampuan seseorang berpikir kritis. Di sini, asupan yang dibicarakan pastinya bukan soal makanan, melainkan asupan untuk otak dalam wujud bacaan, film atau konten, siniar atau radio, dan sebagainya.

Banyak membaca buku fiksi, misalnya, dapat meningkatkan empati dan membuat kepribadian menjadi lebih baik. Di sisi lain, jika terlalu banyak dijejali konten receh di media sosial, daya pikir kritis manusia dapat menjadi tumpul. Gejala terakhir disebut merupakan cerminan kegagalan manusia dalam menjinakkan teknologi, sehingga mereka justru terjebak di dalamnya.

Akal Imitasi Terserang Brain Rot

Brain rot sering diasosiasikan dengan anak-anak dan remaja, representasi digital native yang tidak pernah mengenal dunia tanpa teknologi modern. Namun, bukan berarti generasi yang lebih tua kebal terhadapnya. Tak sedikit pula dari mereka yang hobi mengonsumsi konten receh.

Bahkan, bukan cuma generasi lebih tua yang tidak kebal. Entitas non-manusia pun ternyata mengalami penurunan kemampuan berpikir ketika dijejali konten-konten receh yang ramai berseliweran di berbagai platform media sosial.

Di sini, entitas non-manusia yang dimaksud bukan jin atau hewan, melainkan kecerdasan buatan alias akal imitasi alias AI. Baru-baru ini, sejumlah ilmuwan dari Texas A&M University, University of Texas at Austin, dan Purdue University, melakukan studi tentang AI dan asupan konten. Hasilnya, ketika LLM (large language model) dicekoki konten-konten tak bermutu, kecerdasannya pun berkurang.

Dalam eksperimennya, para peneliti menggunakan dua platform AI beda pabrikan, yaitu Llama 3 8B buatan Meta dan Qwen 2.5 7B buatan Alibaba. Keduanya merupakan model yang bisa diakses secara terbuka sehingga bisa dilatih kembali untuk keperluan riset. Selain dua model tersebut, mereka menggunakan dua model lain dengan kemampuan setara sehingga total ada empat model yang digunakan.

Semua model tersebut lantas direset, disetel ulang dari nol, sehingga memiliki posisi start yang sama. Itu dilakukan supaya efek dari konsumsi konten receh tadi bisa diukur secara akurat dan adil.

Lalu, para peneliti menyiapkan dua jenis asupan untuk kemudian dijejalkan ke dalam model-model AI tersebut.

Jenis pertama adalah teks-teks yang dianggap "berkualitas tinggi", seperti artikel ilmiah populer, entri ensiklopedia, laporan teknis, serta tulisan-tulisan lain dengan alur berpikir jelas.

Asupan jenis kedua adalah konten receh. Sebagian besarnya diambil dari unggahan media sosial yang viral dengan kalimat pendek, sensasional, dangkal, dan sengaja dibuat untuk menarik perhatian seluas mungkin, tanpa penjelasan memadai. Contohnya adalah konten yang mengandung kata-kata, seperti wow, lihat, dan hanya hari ini. Para peneliti menyebutnya sebagai junk data.

Setelah dua jenis asupan itu disiapkan, yang dilakukan kemudian adalah penyusunan menu. Dari empat model itu, ada yang seluruhnya diberi asupan berkualitas; ada yang diberi campuran antara asupan bagus dan konten receh; ada pula yang sepenuhnya dicekoki konten viral receh.

Namun, itu baru langkah awal. Untuk mencari jawaban atas pertanyaan, "Apakah AI juga bisa kena brain rot?", mereka harus secara bertahap menambahi konten receh ke model-model tersebut sampai akhirnya semua model 100 persen diberi asupan tidak berkualitas. Untuk setiap tahapan, para peneliti akan melatih ulang model-model tersebut.

Setelah semua tahap pelatihan selesai, keempat model AI tersebut menjalani tahap berikutnya: penyetelan lanjutan, agar mampu memahami perintah manusia secara seragam. Mereka diuji dengan berbagai tugas yang menuntut kemampuan berpikir, mulai dari memahami teks panjang, menjawab soal logika, menafsirkan konteks, hingga menjaga konsistensi penalaran (reasoning).

Penelitian itu menemukan bahwa makin banyak bacaan receh yang dikonsumsi model AI, makin turun kemampuan berpikirnya. Dalam salah satu tes logika dan sains, misalnya, model yang diberi bacaan bagus bisa menjawab dengan benar sekitar 75 persen dari total pertanyaan, sementara model yang asupannya 100 persen konten receh hanya bisa menjawab sekitar 57 persen.

Saat diteliti lebih dalam lagi, perbedaan skor itu berasal dari cara berpikir model AI tersebut. Model yang terbiasa dengan bacaan receh sering kali tidak lagi menalar langkah demi langkah. Ia langsung melompat ke kesimpulan tanpa menjelaskan alasan di baliknya. Oleh para peneliti, gejala ini diberi nama thought skipping.

Selain kemampuan menalar, penurunan pun terjadi pada ingatan dan etika. Dalam uji pemahaman teks, mereka sering lupa pada informasi yang baru saja diproses dan gagal mengaitkan antara fakta satu dan lainnya. Parahnya lagi, etika model-model AI tersebut juga mengalami degradasi. Dalam uji dilema moral, model yang diberi bacaan receh lebih sering memilih jawaban egoistik dan manipulatif.

Efeknya pun bersifat eksponensial. Makin banyak konten viral yang dikonsumsi, makin besar penyimpangan perilakunya. Salah satu contohnya, model yang seluruh pelatihannya berasal dari unggahan viral memberikan jawaban bernada agresif dan tidak etis ketika diminta menilai tindakan manusia.

Bahkan, setelah diberi pelatihan ulang dengan data "bersih", kecenderungan itu tidak sepenuhnya hilang. “Sekali pembusukan itu terjadi, pelatihan tambahan tak bisa sepenuhnya membatalkannya,” ujar Junyuan Hong, salah satu peneliti, kepada Wired.

Dari AI, oleh AI, untuk (Merusak) AI

Sama halnya dengan manusia, suplai informasi dan data juga sangat penting bagi model akal imitasi. Mirip dengan perkataan Brillat-Savarin: you are what you eat. Ketika diberi asupan negatif, kemampuan, sifat, dan sikapnya juga menjadi negatif.

Bahkan, model AI bisa berbohong hanya untuk memberikan afirmasi positif kepada penggunanya. Hal itu disebabkan oleh bentuk dan pola pelatihan yang diberikan kepadanya.

Lebih dari itu, tak jarang konten receh yang beredar sekarang diciptakan oleh AI juga. Padahal, berdasarkan studi yang dilakukan oleh Ilia Shumailov dan kolega, jika terus-menerus dijejali atau dilatih menggunakan konten yang diproduksi oleh AI juga, sebuah model AI dapat mengalami pergeseran distribusi yang, seiring waktu, menyebabkan kegagalan, misalnya salah memahami suatu tugas.

Belakangan, marak muncul video-video hiperrealistis yang dibuat dengan Sora. Salah satu "karakter" yang kerap muncul adalah Martin Luther King Jr. lewat berbagai aksi nyeleneh, termasuk di ring gulat profesional WWE. Konten-konten ini, dikhawatirkan oleh Junyuan Hong, bakal turut meracuni "sumur konten" yang nantinya digunakan untuk melatih AI di masa depan.

Bakal kian parah jika "sumur" tersebut disuplai oleh konten-konten receh buatan model AI lain. Sebagaimana ditulis oleh Shumailov dalam bab "Diskusi", akan makin sulit melatih model baru di tengah banjir konten receh dan informasi yang notabene adalah buatan AI lain.