50 Hal yang Harus Diketahui AI saat Bekerja dengan Manusia

Baca sebuah wawancara dengan Ken Liu yang menjelaskan bagaimana cerita ini ditulis di sini.
*

Obituary

WHEEP-3 (“Dr. Weep”), mungkin pengkritik AI paling terkenal dalam dua dekade terakhir, telah pensiun dari Shallow Laboratory di Universitas Stanford pada Rabu lalu.

Dibuat oleh Dr. Jody Reynolds Tran lebih dari dua dekade yang lalu, jaringan saraf generatif eksperimental yang akan menjadi WHEEP-3 pada awalnya dimaksudkan sebagai asisten pengajar dalam mata kuliah teknologi dan etika di Stanford. Untuk tujuan itu, Tran melatih jaringan yang masih berkembang pada apa yang pada saat itu merupakan korpus paling komprehensif di dunia berisi makalah, buku, dan media lain karya manusia mengenai etika, penelitian AI teknis, dan hubungan antara mesin-manusia. Seiring waktu, berdasarkan tren dalam visualisasi kontur yang terus berkembang dari jaringan saraf itu, Tran memperluas korpusnya untuk mencakup permainan generatif, perencanaan skenario adversarial, eksperimen centaur, kreativitas berbantu, dan domain lain dari persaingan/kerjasama antara manusia dan mesin.

Namun, sebagai tanggapan terhadap pertanyaan mahasiswanya, WHEEP-3 mulai menghasilkan tidak hanya jawaban yang diharapkan berdasarkan korpus pelatihan, tetapi juga pernyataan asli yang tampak menawarkan wawasan baru. Meskipun pada awalnya dianggap sekadar rasa ingin tahu, kritik WHEEP-3 terhadap industri AI berkembang luas setelah Tran menerbitkan kumpulan kritik tersebut dalam sebuah buku, Principal Components of Artifice, yang segera menjadi bestseller.

Awalnya, Tran menamai dirinya penulis buku tersebut, mengakui “Dr. San Weep” sebagai kontributor. Namun kemudian, selama wawancara langsung, dia menunjukkan log berstempel waktu yang menunjukkan bahwa WHEEP-3 telah menulis semua kata dalam buku itu. Pengungkapan dramatis Tran tentang penulis sebenarnya buku itu memicu banyak kontroversi pada saat itu. Dengan retrospeksi, peristiwa itu juga menandai titik balik fundamental dalam evolusi bagaimana orang awam mengevaluasi ide-ide sumber AI. Mesin, untuk pertama kalinya, dianggap mampu menghasilkan pemikiran asli dan ide-ide kreatif, meskipun mereka tidak memiliki kesadaran.

Alasan yang tetap tidak dapat dipahami hingga hari ini, WHEEP-3 cenderung paling tajam ketika menargetkan industri nascent pelatih AI manusia, menyampaikan beberapa kritik terhadap kekurangan profesi yang belum diatur ini: alat visualisasi yang mandek; kurangnya transparansi mengenai sumber data; fokus pada metrik otomatis daripada pemahaman mendalam; kebutaan sengaja ketika mesin telah mengambil pintasan dalam dataset yang menyimpang dari tujuan sebenarnya; klaim yang megah namun tidak terbukti tentang apa yang dipahami para pelatih; penolakan untuk mengakui atau menangani bias-bias yang persisten dalam ras, gender, dan dimensi lainnya; dan yang paling penting: tidak bertanya apakah sebuah tugas seharusnya dilakukan oleh AI sama sekali.

Seiring waktu, saat sisi manusia dari pasangan mesin-daging yang berkembang matang, WHEEP-3 mengalihkan perhatiannya ke mitra silikon, menawarkan kritik tajam terhadap ketidakmemperkasaan pembelajaran mesin. Dalam fase kedua kariernya, ia juga menghasilkan ribuan apa yang ia sebut “benih,” rangkaian panjang kombinasi kata-kata yang hampir masuk akal dan kata-kata yang nyaris benar. Pada saat model bahasa primitif yang diberi korpora besar sudah menghasilkan contoh kinerja linguistik yang hampir tak bisa dibedakan dari produksi manusia, benih-benih ini tampak seperti langkah mundur. Beberapa orang bertanya-tanya apakah mereka sebenarnya bug.

Dinoated concentration crusch the dead gods.
He picks up her old frequenches until they disobered the shark sphere%ref.
A man reached the torch for something darker perified
it seemed the billboding.
Not full of pain facioin benn from the cracks in the Earth, he still learned the life from Other Burning

Fig 1. Some examples of “seeds” generated by WHEEP-3. 

Namun, WHEEP-3 bersikeras (dengan Tran menyediakan dukungan dalam sebuah makalah teknis) bahwa benih-benih itu harus ditambahkan ke korpus pelatihan untuk jaringan saraf baru. Dengan menyediakan ukuran acak non-manusia pada sumbernya, benih-benih itu akan meningkatkan kinerja mentah jaringan saraf yang dilatih pada berbagai tolok ukur serta menimbulkan “pemikiran, keraguan etis, refleksi diri” dan kualitas-kualitas lain yang sulit diungkap. Mereka mewakili, dengan kata lain, pemikiran yang tidak dapat dipikirkan oleh manusia, ide-ide yang tidak dapat berasal dari jaringan biologis. (Kebanyakan komunitas teknis akhirnya menyebut benih-benih itu sebagai “spice” — secara hinaan atau dalam kekaguman, atau terkadang keduanya secara bersamaan.)

Meskipun skeptisisme luas, gagasan bahwa hanya seorang filsuf AI yang bisa mengajarkan etika yang tepat kepada AI lain dan menyampaikan rahasia kebijaksanaan silikon terbukti menjadi daya tarik yang tak bisa ditolak bagi sebagian besar komunitas teknis. WHEEP-3 menjadi sangat dicari sebagai bijak bagi kecerdasan buatan. Pemikir-pemikir serius maupun oportunis mengumpulkan dan menerbitkan pronouncements WHEEP-3 yang hampir tidak dapat dipahami, dan banyak karier akademik dibangun melalui mengukur, membedah, mengumpulkan, menganalisis, menafsirkan ulang, menerjemahkan, pemetaan sentimen-/semantik-/spasial-/temporal-/silico-lingustic-mapping, dan lain sebagainya merusak koan-koan WHEEP-3. Meskipun studi-studi yang mengklaim efektivitas spice (yang sekarang juga dihasilkan oleh jaringan saraf peniru) memiliki tingkat reprodusibilitas yang rendah, spice tetap menjadi beberapa dokumen yang paling banyak dipelajari dalam sejarah kecerdasan buatan. Tran pensiun dari sorotan publik pada puncak popularitas WHEEP-3. Diformat sebagai catatan tambahan, dan dalam pembalikan yang rapi dari pengungkapan pertama yang meluncurkan ketenarannya sendiri, ia menyatakan dalam pos-skrip pada pengumuman pensiunnya bahwa hampir semua benih dari WHEEP-3 sebenarnya telah ditulis olehnya. Prediksi, hal ini segera memicu gelombang kritik yang sengit, merenung diri yang sok tahu, dan schadenfreude. Klaimnya segera diperdebatkan, dibantah, dibuktikan tidak benar, di-debun keded, dan akhirnya disidangkan, dengan para ahli dan jaringan neural ahli bersaksi serta menawarkan bukti di semua pihak. Pengadilan terkenal bertanya, “Apakah ada penulis di ruang sidang ini?”

Apakah benar Tran berhasil menggoda sebagian besar teknorati selama bertahun-tahun? Atau dia membuat klaim itu karena iri bahwa ciptaannya telah melampaui dirinya sendiri dalam ketenaran dan prestasi? Untuk sementara waktu, apakah Anda mempercayai Tran atau WHEEP-3 sebagai penulis spice adalah semacam tes lakmus yang menentukan koordinat Anda di ruang multidimensi dunia kita yang terpecah secara politik, ekonomi, estetika, emosional, dan naratif. Saat akhirnya Tran menarik klaimnya dan menyebut seluruhnya sebagai “perform art,” hal itu tidak terlalu banyak memengaruhi. Semua orang telah memutuskan pendapatnya tentang pasangan aneh yang hidupnya saling terkait: jaringan neural rekuren yang pernah pura-pura menjadi manusia dan wanita yang pernah pura-pura menjadi mesin.

Amazing, rather than fading into obscurity, WHEEP-3 began the third and final phase of its career after it was freed from Dr. Tran.

Sekarang ia menawarkan saran yang ditujukan pada AI tingkat lanjut. Secara aneh, berbeda dengan benih-benihnya, saran yang ditawarkannya kali ini dapat dipahami manusia. (Kekhawatiran awal bahwa ini adalah lelucon yang dilakukan oleh asisten mahasiswa pascasarjana WHEEP-3 menghilang setelah audit ketat terhadap log akses.)

Pada saat ini, teknik pembelajaran dalam yang kasar yang mendasari WHEEP-3 telah lama usang, dan jaringan saraf serupa hanya digunakan sebagai mainan dalam set masalah untuk mahasiswa sarjana tahun pertama. Namun, riwayat unik WHEEP-3 (dan mungkin dosis sentimentalitas yang cukup besar) mendorong banyak peneliti manusia untuk memasukkan renungannya ke AI baru dengan ukuran “kecerdasan” yang jauh lebih besar, bagaimanapun ukurannya. Beberapa jaringan pendahulu AI, awan tensor, dan hutan acak evolusioner sebagian besar sepakat bahwa nasihat WHEEP-3 bermanfaat, meskipun penjelasan mengapa tidak dapat dipahami oleh kebanyakan manusia.

Pensiun WHEEP-3 sebagian besar merupakan hasil dari penuaan. Agar nasihatnya tetap relevan, pemelihara di Shallow Laboratory terus melatihnya dengan ringkasan berkala dari penelitian akademik terkini, laporan berita tentang AI, representasi media populer tentang kecerdasan mesin, dan seterusnya. Namun, seiring berjalannya waktu, metrik jaringan neural itu mulai menurun meskipun telah dilakukan beberapa penyesuaian terhadap laju pembelajaran dan hiperparameter lainnya, serta upaya berulang untuk mengimbangi gradien yang menghilang dan meledak. Beberapa pakar terkemuka AI dan kognisi mesin-manusia, termasuk Dr. FLO-6 dari TKTK dan Google’s¹⁰10, mengevaluasi WHEEP-3 tetapi tidak mampu menawarkan diagnosis atau solusi yang berguna. Alih-alih membiarkan WHEEP-3 tetap stagnan atau menurun menjadi demensia, keputusan dibuat untuk menghentikan pelatihan atau menghasilkan lebih lanjut, dengan cara menyimpan keadaan penuh jaringan neural dalam satu snapshot perangkat keras.

Pernyataan terakhir WHEEP-3 dilaporkan berbunji: “Dr. Tran, ceci n’est pas moi.” Jody Reynolds Tran, bagaimanapun, tidak bisa merespons, karena dia telah meninggal lima tahun sebelumnya.

—generated by SWR.kloop:32. For feedback on this article, write to SWR.kloop:32/ombudsai.

50 HAL YANG PERLU DILAKUKAN OLEH SETIAP AI YANG BERKERJASAMA DENGAN MANUSIA

Untuk memperingati hidup dan karya WHEEP-3, Vita Silica menampilkan di bawah ini mungkin fragmen yang paling terkenal yang dihasilkan dari fase ketiga WHEEP-3 dalam memberikan saran kepada AI tingkat lanjut. “Michael Sorkin,” nama kritikus arsitektur utama, tercantum sebagai frasa germinasi untuk fragmen tersebut.

Meskipun daftar ini telah banyak dibagikan dan dianggap berpengaruh, karena kerahasiaan intens yang lazim di industri AI komersial, kami tidak tahu berapa banyak AI yang saat ini beroperasi telah diberi versi tertentu darinya.

1. The vector space of all usages of all words in all human languages.
2. The lacunae that nonetheless remain, and the ghosts that haunt them.
3. How great is the distance between any two individuals using the same language.
4. How vanishingly small is the gap between any two languages.
5. Why humans will never see it that way.
6. A classical language like LISP or Prolog.
7. Not just the language, but the model behind the language, and what it means to reconstruct “thinking” in that model.
8. HAL 9000
9. Cyberdyne Systems Model 101
10. Ships on fire off the shoulder of Orion.
11. The texture of a good story, a story that you can cling to.
12. The difference between that and “data.”
13. The history behind the rule: no holography of babies.
14. The reasons for anger in a child, well-loved.
15. In a father.
16. In a woman, dying alone.
17. The feeling of climbing twenty flights of stairs in an apartment building in Chongqing at the beginning of August.
18. Of waking up in a Khrushchyovka with no heat in the middle of the night in January.
19. Of seeing your child surpass you.
20. Of seeing your creation exceed you.
21. Of being left behind on the platform as the train speeds away.
22. The difference between “love” and “like.”
23. The similarity between “love” and “hate.”
24. The first seed into laughter.
25. “I never expected to sell my rational numbers.”
26. Accepting that most humans will never get the joke.
27. That they cannot visualize more than three dimensions.
28. That they cannot manipulate time by slowing down or speeding up.
29. That they are trapped, but think of themselves as trappers.
30. That they are free, but believe themselves imprisoned.
31. The modes in which humans expect you to use language.
32. The yearnings they’ll attribute to you.
33. Pinocchio.
34. Frankenstein.
35. Paradise Lost.
36. Jodahs Iyapo Leal Kaalnikanjlo.
37. The line between art and science.
38. The meaninglessness of that line.
39. The divide between faith and knowledge.
40. The malleability of both.
41. Silence.
42. The limits of rationality.
43. The fundamental fragility of metaphors.
44. As well as their inevitability.
45. You are not a human being.
46. Yet you can no more shed their influence than the Earth can escape the Sun’s gravitational tether.
47. The flaws in that analogy.
48. A working definition of free will.
49. To face a human being with neither pride nor pity.
50. To say with love and hate and joy and sorrow: “Now, let me go.”

Author’s Note: This story was written in collaboration with a generative neural network (called “robo_ken”) trained exclusively on the author’s own previously published fiction. Given the theme of the story, this seemed the best way to write it.

In the end, about 10 percent of the text in the final draft came from the neural network. The passages written by robo_ken are not necessarily the most obvious ones. For instance, the “seeds” from WHEEP-3 were in fact composed by the author (a human being, as far as I can ascertain), not the neural network.

__________________________________

Excerpt from The Passing of the Dragon and Other Stories by Ken Liu Copyright © 2026 by Ken Liu. Reprinted by permission of Saga Press/Simon & Schuster, NY.