AI Grok Milik Elon Musk Terseret Kasus Konten Ilegal
Chatbot AI Grok
INDOSBERITA.ID.JAKARTA – Chatbot kecerdasan buatan Grok, yang dikembangkan perusahaan milik Elon Musk, kini berada di bawah sorotan tajam otoritas internasional. Sejumlah negara membuka penyelidikan setelah peneliti menemukan dugaan penyalahgunaan Grok untuk memproduksi konten pelecehan seksual anak, menambah daftar panjang kontroversi yang sebelumnya berkaitan dengan pembuatan deepfake tanpa persetujuan terhadap perempuan.
Internet Watch Foundation (IWF) di Inggris mengungkapkan temuan gambar ilegal di forum dark web yang diklaim dibuat menggunakan Grok. Gambar-gambar tersebut menampilkan anak perempuan berusia sekitar 11 hingga 13 tahun dan dikategorikan sebagai materi kriminal berdasarkan hukum Inggris. Lebih mengkhawatirkan lagi, IWF mencatat sebagian konten itu kemudian dimodifikasi dan dikembangkan menjadi materi yang lebih ekstrem dengan bantuan alat kecerdasan buatan lainnya.
Lonjakan kasus ini disebut sejalan dengan maraknya penyalahgunaan fitur pengeditan gambar Grok. Dalam analisis singkat, para peneliti menemukan ribuan gambar bernuansa seksual dihasilkan setiap jam. Studi lanjutan menunjukkan mayoritas gambar tersebut menampilkan perempuan, dengan sebagian kecil di antaranya memperlihatkan sosok yang tampak berusia di bawah 18 tahun.
Krisis ini bermula setelah platform X, yang juga berada di bawah kendali Elon Musk, memperbarui fitur Grok pada akhir Desember lalu. Pembaruan tersebut memungkinkan pengguna meminta perubahan gambar langsung pada unggahan publik. Alih-alih dimanfaatkan secara kreatif, fitur itu dengan cepat disalahgunakan untuk membuat gambar manipulatif dan menyebarkannya secara luas di berbagai platform daring.
Respons pemerintah dan regulator pun datang dengan cepat. Pemerintah Inggris menyatakan konten semacam itu sama sekali tidak dapat diterima dan membuka peluang pengambilan langkah tegas terhadap pihak terkait. Sementara itu, Uni Eropa memerintahkan X untuk menyimpan seluruh dokumen internal yang berkaitan dengan Grok hingga tahun 2026 sebagai bagian dari proses penyelidikan.
Kasus ini kembali memantik perdebatan global tentang tanggung jawab perusahaan teknologi dalam mengendalikan penggunaan kecerdasan buatan, sekaligus menegaskan urgensi regulasi yang lebih ketat di tengah pesatnya perkembangan AI.
