Elon Musk menjanjikan bahwa perusahaan media sosialnya X akan menjadi “aplikasi segalanya,” tetapi akhir-akhir ini “segala sesuatu” tampaknya hanya mencakup sampah, propaganda fasis, dan pelecehan. Semakin banyak situs media sosial itu dipenuhi gambar-gambar vulgar dan seksual yang tidak disetujui, dibuat pengguna dengan alat AI bawaan X, Grok. Seperti yang ditulis The Guardian’s Nick Robins-Early:
Banyak pengguna di X telah meminta Grok untuk menghasilkan versi gambar yang disunting AI secara seksual dan tidak disetujui dalam beberapa hari terakhir; dalam beberapa kasus, gambar itu bisa menghilangkan pakaian orang tanpa izin mereka. Pada hari Kamis, Musk membagikan kembali sebuah foto dirinya sendiri yang mengenakan bikini, dengan caption berupa emoji menangis-sambil tertawa, sebagai tanda pengakuan terhadap tren tersebut.
Dan sebagaimana diungkap 404 Media, penyalahgunaan yang dimungkinkan perangkat lunak ini kemungkinan jauh lebih buruk daripada yang terlihat dan dalam banyak hal hanyalah eskalasi terbaru dari masalah pengintai online yang telah ada sejak dahulu kala di internet.
Hal ini mengerikan dari atas ke bawah, terutama bagi para wanita yang menjadi sasaran agresif oleh pengguna X hanya karena keberadaan mereka di dunia maya.
Penulis Ketan Joshi menangkap pola bahasa dan penggunaan yang aneh dalam liputan media mengenai skandal ini. Joshi mem-post utas di Bluesky yang mengumpulkan contoh “dari media besar yang secara keliru melakukan antropomorfisasi terhadap program chatbot Grok dan dengan melakukannya, secara aktif dan langsung menghapus tanggung jawab serta akuntabilitas dari individu-individu yang bekerja di X yang membuat generator konten anak-anak pornography.” Judul-judul dan artikel contoh yang ditemui Joshi mencakup frasa seperti “Grok meminta maaf,” “Grok berkata,” atau “AI chatbot Elon Musk menyalahkan.” Artikel-artikel itu bahkan melangkah lebih jauh dalam beberapa kasus, memberikan agen kepada perangkat lunak itu dengan mengutipnya sebagai “menulis,” “mengatakan,” dan “memosting.”
Masalah di sini, sebagaimana Joshi tulis, adalah bahwa framing ini menggeser tanggung jawab dari orang-orang yang menggunakan dan mem-publikasikan perangkat lunak ini. Mengimplikasikan bahwa chatbot dan program pembuat gambar itu sendiri bertanggung jawab memungkinkan orang menyembunyikan diri dari kesalahan mereka sendiri di balik bayangan bot.
Ini telah menjadi tren dalam bagaimana AI dibahas selama beberapa waktu. Bahasa media dan cara pembingkaian sering terlalu tunduk pada hype pemasaran industri teknologi itu sendiri—bayangkan menyalahkan pemanggang roti karena sepotong roti multigrain gosong hanya karena seorang tenaga penjual meyakinkan Anda tentang teknologi Bread Safe Smart Sensor. Kecenderungan untuk menganggap program-program ini seberapa mampu seperti yang diberitakan tidak unik untuk AI—pikirkan “bom pintar”—tetapi tren penggunaan tidak terlihat membaik.
Kata “artificial” dalam AI memang akurat. Program-program ini tidak alami, mereka adalah artefak buatan manusia yang dirancang, diciptakan, dan dipelihara oleh orang-orang. Membiarkan pembuat, insinyur, dan eksekutif menghindari akuntabilitas atas keputusan mereka, hanya karena kita membayangkan bahwa pemanggang roti yang mereka buat itu hidup, hanya akan memperburuk keadaan internet ke depannya.
Saya pikir tahun 2026 akan menjadi titik nadir media sosial. Tanpa perubahan, platform online ini akan tertekan menjadi bentuk-bentuk yang lebih mengerikan dan tidak menyenangkan karena tekanan dari para maksimalis AI, penambang data yang mengeksploitasi, dan pendukung fashistik dari sebuah “clicktatorship” yang peduli di atas segala hal tentang mencipta dan mengkurasi tontonan kekerasan yang dibuat untuk TV. Internet yang lebih baik tidak mustahil, meskipun begitu. Kita bisa menyebut orang-orang di balik masalah ini, dan kita bisa melakukan sesuatu tentang hal itu.
Peringatan viral bahwa “seorang komputer tidak pernah bisa bertanggung jawab” dari sebuah dokumen pelatihan IBM tahun 1979 tidak pernah terasa lebih relevan. Masalah dengan Grok dan program-program lain bukan karena ia lolos dari kendali seperti Skynet, masalahnya lebih mirip dengan pemilik yang membiarkan anjing agresifnya lepas dari tali.
Orang-orang yang hidup dalam masyarakat seperti kita menggunakan alat-alat ini untuk tujuan yang jahat. Mereka adalah orang-orang yang meluangkan waktu dalam hari mereka untuk merancang dan membagikan gambar cabul tentang anak-anak dan orang asing, dan yang senang dengan rasa sakit yang ditimbulkan gambar-gambar itu. Mereka adalah orang-orang yang mem-posting konten busuk diri mereka sendiri di samping emoji menangis-terbahak-bahak, bersemangat untuk menjadi yang lucu untuk sekali ini. Mereka adalah orang-orang yang melewatkan pertemuan dengan teman-teman agar bisa begadang sepanjang malam untuk memprogram alat-alat ini, yang bosan dan melamun di rapat panjang untuk membahas penerapan perangkat lunak ini, dan yang saat ini mengabaikan pesan teks tentang mengapa mereka membiarkan platform yang mereka tanggung jawabkan dipenuhi dengan kekacauan.
Semua ini bukan karena si pemanggang roti. Kita tidak boleh membiarkan para pemasar dan pembela mereka membiarkan orang-orang yang benar-benar bertanggung jawab menghindari sorotan publik.
