Vauhini Vara, yang selama bertahun-tahun menyelidiki dampak AI terhadap penulisan, menerbitkan sebuah tulisan di The Atlantic akhir pekan ini dengan klaim bahwa pemenang Hadiah Caine menggunakan AI untuk menulis ceritanya. Penulis Zimbabwe Simbarashe Steyn Kundizeza memenangkan Hadiah 2026 untuk ceritanya yang berjudul “The Blue Fighter,” yang diterbitkan tahun lalu di The Shallow Tales Review.
Ini adalah ketiga kalinya sepanjang tahun ini sebuah hadiah sastra utama ternoda oleh tuduhan AI: Hadiah Commonwealth dan Prix Goncourt juga menghadapi masalah terkait alat yang tidak manusiawi digunakan untuk menghasilkan teks.
Vara membuat penemuannya setelah memasukkan “The Blue Fighter,” bersama semua pemenang Hadiah Caine sebelumnya dan karya Kundizeza lainnya, ke dalam program deteksi AI bernama Pangram, yang “menandai hampir seluruh cerita sebagai dihasilkan AI.” Tim Hadiah Caine telah menanggapi dan sedang meninjau tuduhan tersebut, tetapi akan mengambil pendekatan yang lebih manusiawi tanpa menggunakan alat lunak. Ellah Wakatama, ketua dewan pengawas Hadiah Caine, mengatakan kepada Vara:
“Pendirian saya, sebagai orang yang memimpin hadiah ini, adalah jika ada tuduhan seperti itu, saya menginginkan bukti yang tidak berasal dari mesin.” Dia mengatakan berencana mendekati Kundizeza dengan “belas kasih” dan praduga kejujuran. Wakatama juga berasal dari Zimbabwe. “Sebagai orang Afrika,” katanya, “pendirian saya yang pertama adalah, jika saya bertanya kepada Anda, Apakah Anda mengatakan kebenaran? dan jika Anda mengatakan ya, saya akan percaya pada Anda—terutama karena para penggugat tidak berasal dari kalangan kita sendiri.”
Bahwa tuduhan itu ditujukan kepada seorang penulis Afrika tentang sebuah hadiah yang merayakan tulisan Afrika adalah sesuatu yang telah diperhatikan dan disorot orang lain. Hadiah Caine adalah “hadiah sastra internasional terkemuka untuk sebuah cerpen oleh penulis Afrika,” dan bertujuan merayakan penulis di Afrika maupun diaspora. Bukan berarti Vara bekerja dengan itikad buruk, tetapi ada sejarah buruk di mana pelaku jahat memanfaatkan tuduhan semacam ini terhadap penulis warna. Salah satu contohnya sedang berkembang sekarang di Prancis, di mana novelis Kanada kelahiran Haiti Thélyson Orélien telah dituduh menggunakan AI dalam novel barunya.
Orélien dengan tegas membantah tuduhan tersebut, tetapi kontroversi itu segera dimanfaatkan oleh sayap kanan untuk mendiskreditkan penulis non-kulit putih. Apakah tuduhan itu benar atau tidak, ini sudah berdampak: Orélien dikeluarkan dari daftar panjang untuk Prix Goncourt dan meninggalkan Prancis di tengah tur bukunya. (Kontroversi itu juga meningkatkan penjualannya, meskipun, jadi mungkin ada sisi positifnya.)
Bahkan jika Anda bisa menemukan sesuatu yang menarik dari teknologi ini dan penggunaannya, komplikasi buruknya adalah terlalu banyak pendukung AI juga kaya dan berpengaruh, dan tidak tertarik pada kompromi.
Masalah lain adalah detektor AI masih belum sangat andal, yang juga dibahas Vara dalam tulisannya, dengan merujuk pada sejumlah studi untuk mendukung kredensial Pangram. Namun alat ini telah terbukti sangat tidak konsisten ketika berhadapan dengan tulisan yang berasal dari luar budaya dominan penulisan, berkulit putih dan Barat. Sebuah studi Stanford menemukan bahwa detektor ini sangat buruk pada penulisan berbahasa Inggris non-native, misalnya:
“Sementara detektor tersebut “hampir sempurna” dalam menilai esai yang ditulis oleh siswa kelas delapan yang lahir di AS, mereka mengkategorikan lebih dari separuh esai TOEFL (61,22%) yang ditulis oleh siswa non-native English sebagai AI-generated (TOEFL adalah akronim untuk Test of English as a Foreign Language).
Lebih buruk lagi. Menurut studi tersebut, semua tujuh detektor AI secara bulat mengidentifikasi 18 dari 91 esai siswa TOEFL (19%) sebagai dihasilkan AI dan sejumlah yang luar biasa sebesar 89 dari 91 esai TOEFL (97%) telah diberi tanda oleh setidaknya salah satu detektor.
AI telah lama dikenal memiliki kebutaan rasial dan budaya. Selama bertahun-tahun orang telah memperingatkan tentang perangkat lunak pengenal wajah—yang populer di kalangan penegak hukum dan militer—yang tidak mampu mendeteksi wajah berkulit gelap, misalnya.
Akibatnya, penyelidikan Hadiah Caine terhadap tuduhan terhadap Kundizeza akan menjadi pendekatan yang berpusat pada manusia—memastikan para penulis didukung dan dirawat selama proses ini. Saya pikir ini adalah langkah yang tepat. Lebih dari sekadar integritas Hadiah, organisasi ini tetap memfokuskan perhatian pada komunitas penulisnya—dan reputasi mereka juga. Mereka melihat peran mereka juga sebagai “bagian kunci dari ekosistem yang memvalidasi dan mendukung penulisan serta penerbitan penulis Afrika.”
Pengacauan budaya oleh AI adalah salah satu kekecewaan utama saya terhadap industri ini dan para pendukungnya. Keberadaan teknologi ini secara omnipresent telah menimbulkan keraguan tentang asal-usul teks mana pun, dan saya khawatir erosi kepercayaan itu akan memiliki dampak yang besar terhadap penulis dari latar belakang yang lebih terpinggirkan. Vara berbicara dengan mantan pemenang Hadiah Caine Tope Folarin, yang mengatakan, “Ada banyak penulis dari Global Selatan yang merasa tekanan ekstrem untuk menulis sesuai ekspektasi agar karyanya dapat dibaca oleh Barat, dan jelas chatbot telah memanfaatkan hal itu.”
Semua keraguan ini membuka peluang bagi aktor jahat, seperti rasis Prancis yang mengejar Thélyson Orélien, untuk mendorong narasi berbahaya mereka sendiri. Tetapi kebalikannya juga benar. Para evangelis AI bisa menunjuk cerita berbasis AI yang memenangkan hadiah sebagai bukti bahwa teks yang dihasilkan mesin sama baiknya dengan apa pun yang bisa dilakukan manusia. Ini adalah dinamika yang telah dihadapi Vara. Ia telah bekerja dengan AI dan menerbitkan tulisan yang dihasilkan AI di masa lalu, termasuk esai viral Believer berjudul “Ghosts” di mana ia menggunakan ChatGPT untuk menghasilkan tulisan tentang saudara perempuannya yang telah meninggal, sebuah topik yang sebelumnya sulit baginya untuk ditulis.
Saya tidak menganggap ini sebagai penggunaan perangkat lunak generatif yang meyakinkan; esai seperti Vara akan melegitimasi teks AI dan menciptakan struktur izin bagi penulis yang kurang berpikir mendalam atau berbakat dibandingkan dia. Dan itu sudah terjadi: sebagaimana Vara sendiri merenungkan “Ghosts” dan dampaknya dalam sebuah artikel Wired berjudul “Confessions of a Viral AI Writer”:
“Saya pikir saya seharusnya merasa bangga, dan sejauh itu saya memang merasa begitu. Namun saya khawatir bahwa “Ghosts” akan ditafsirkan sebagai bagian dari pendirianku, dan orang-orang akan menggunakannya untuk membangun kasus bagi sastra yang dihasilkan AI. Dan tidak lama kemudian, hal itu terjadi. Seorang penulis menyebutnya dalam sebuah hot take dengan judul “Daripada Takut AI, Penulis Harus Belajar Berkolaborasi dengan AI.” Guru-guru menugaskannya di kelas menulis, lalu mendorong siswa untuk menghasilkan kolaborasi AI mereka sendiri. Saya dihubungi oleh seorang pembuat film dan seorang investor ventura yang ingin tahu bagaimana seniman bisa menggunakan AI.”
Esai ini patut dibaca, karena ia memiliki hal-hal menarik untuk dikatakan tentang pengalamannya sendiri maupun tren yang lebih luas dalam AI dan sastra. Vara adalah penulis yang baik dan rasa ingin tahunya terhadap teknologi ini patut dipuji karena berpikiran terbuka, tetapi bagiku terasa naif. Penganut AI yang mencari jalan tengah tidak jujur tentang bagaimana ekstrem dan tidak terkendalinya kerumunan pro-AI berperilaku.
Saya semakin tidak tertarik mencari jalan tengah dengan teknologi ini. Maksimalis AI membosankan dan aneh—lihat saja contoh pada pria yang menuliskan “parenting hits different when you work in AI” yang berhasil membuang waktu bersama anaknya. Untuk apa menjalin triangulasi dengan orang-orang yang telah kehilangan arah seperti itu?
Lebih lanjut, meski Anda bisa menemukan sesuatu yang menarik dalam teknologi ini dan penggunaannya, komplikasi buruknya adalah terlalu banyak pendukung AI juga kaya dan berpengaruh, dan tidak tertarik pada kompromi. Raksasa teknologi tidak meminta persetujuan atau masukan, jadi penggunaan AI apa pun bukan pilihan melainkan penyerahan.
Seberapa pun saya mengagumi rasa ingin tahu intelektual Vara, saya pikir satu-satunya reaksi yang bertanggung jawab terhadap industri yang maju tanpa banyak refleksi adalah menarik sebanyak mungkin tangan untuk menekan rem secepat mungkin.
