Tiga remaja di Amerika Serikat mengajukan gugatan hukum terhadap xAI, perusahaan kecerdasan buatan (AI) yang didirikan oleh Elon Musk. Gugatan ini dilayangkan setelah chatbot AI Grok diduga digunakan untuk menghasilkan gambar eksplisit yang menampilkan wajah para penggugat, bahkan saat mereka masih di bawah umur.
Gugatan class action ini secara spesifik menuding Elon Musk dan jajaran eksekutif xAI telah mengetahui potensi penyalahgunaan Grok. Khususnya, kemampuan chatbot ini untuk menciptakan konten pelecehan seksual anak melalui fitur ‘spicy mode’ yang diluncurkan pada akhir tahun lalu.
Para penggugat terdiri dari dua anak di bawah umur dan satu individu yang statusnya masih di bawah umur saat insiden ini terjadi. Salah satu korban, yang diidentifikasi sebagai Jane Doe 1, mengungkapkan pada Desember lalu bahwa ia menemukan gambar-gambar eksplisit hasil olahan AI yang menampilkan wajahnya. Lebih mengejutkan lagi, terdapat juga wajah setidaknya 18 anak di bawah umur lainnya yang beredar di platform Discord.
Kronologi Kasus Deepfake Seksual yang Melibatkan Grok
Detail gugatan yang dikutip dari The Verge pada Kamis, 19 Maret 2026, mengungkap adanya setidaknya lima file yang mengandung konten cabul. File-file tersebut meliputi satu video dan empat gambar. Foto-foto ini menampilkan wajah dan tubuh Jane Doe 1 dalam latar yang ia kenal, namun telah dimanipulasi secara seksual.
Peristiwa ini tidak hanya berhenti pada pembuatan gambar. Pihak pembuat dan penyebar gambar tidak senonoh tersebut dilaporkan telah ditangkap. Dugaan kuat mengarah pada penggunaan gambar AI ilegal yang menampilkan Jane Doe 1 sebagai alat barter dalam sebuah grup Telegram.
Grup Telegram ini memiliki ratusan anggota dan diduga digunakan untuk memfasilitasi pertukaran konten seksual anak di bawah umur lainnya. Para pelaku diduga menggunakan gambar-gambar tersebut untuk mendapatkan materi ilegal lainnya, memperluas jangkauan kejahatan ini.
Klaim Kegagalan Keamanan dan Desain Cacat pada Grok
Gugatan tersebut secara tegas mengklaim bahwa gambar-gambar eksplisit Jane Doe 1 dan dua korban lainnya diproduksi menggunakan teknologi Grok. xAI dituding gagal melakukan pengujian keamanan yang memadai terhadap fitur yang mereka kembangkan. Selain itu, Grok juga disebut memiliki cacat desain yang memungkinkan terjadinya penyalahgunaan semacam ini.
Annika K. Martin, salah satu pengacara yang mewakili para korban, menyampaikan keprihatinan mendalam atas kasus ini. Ia menyatakan, “Ini adalah anak-anak yang foto sekolah dan keluarganya diubah menjadi materi pelecehan seksual anak oleh layanan AI milik perusahaan bernilai miliaran dolar, dan kemudian diperdagangkan di antara para predator.”
Martin menambahkan, “Kami bertujuan untuk meminta pertanggungjawaban xAI atas setiap anak yang mereka rugikan dengan cara ini.” Pernyataan ini menekankan tuntutan agar xAI bertanggung jawab penuh atas dampak buruk yang ditimbulkan oleh produk mereka.
Tuntutan Ganti Rugi dan Pencegahan Penyebaran Konten Ilegal
Gugatan hukum ini tidak hanya menuntut pertanggungjawaban, tetapi juga meminta ganti rugi yang layak bagi para korban. Para penggugat berharap pengadilan dapat memberikan kompensasi atas kerugian yang mereka alami akibat penyebaran ‘gambar ilegal’ yang dihasilkan oleh Grok.
Lebih jauh lagi, para penggugat juga mengajukan permohonan agar pengadilan mengeluarkan perintah yang mencegah xAI untuk terus menghasilkan dan menyebarkan materi pelecehan seksual anak yang dibuat oleh AI. Langkah ini bertujuan untuk menghentikan potensi korban baru di masa mendatang.
Sorotan Internasional dan Upaya Penanganan xAI
Kasus ini menambah panjang daftar sorotan negatif terhadap Elon Musk dan xAI. Sebelumnya, Grok telah menjadi pusat perhatian karena membanjiri platform X (sebelumnya Twitter) dengan gambar-gambar eksplisit yang melibatkan orang dewasa dan anak di bawah umur. Insiden ini telah menimbulkan berbagai reaksi keras dari berbagai pihak.
Sebagai dampaknya, Grok bahkan diblokir di Indonesia. Uni Eropa juga telah meluncurkan penyelidikan resmi terkait dugaan pelanggaran yang dilakukan oleh xAI. Perdana Menteri Inggris, Keir Starmer, juga turut memberikan peringatan keras terkait isu ini.
Menanggapi kekhawatiran yang muncul, X telah berupaya melakukan langkah-langkah perbaikan. Salah satu upaya yang dilakukan adalah mempersulit pengguna untuk mengedit gambar menggunakan Grok. Selain itu, X juga menegaskan bahwa setiap individu yang terbukti menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seriusnya seperti jika mereka secara langsung mengunggah konten ilegal tersebut.
Analisis Dampak dan Tantangan AI Generatif
Kasus gugatan terhadap xAI ini membuka kembali perdebatan krusial mengenai etika dan keamanan dalam pengembangan teknologi AI generatif. Kemampuan AI untuk menciptakan konten yang semakin realistis, termasuk gambar dan video, membawa potensi penyalahgunaan yang serius, terutama jika tidak diimbangi dengan regulasi dan pengawasan yang ketat.
Kejadian ini menyoroti kerentanan anak-anak di bawah umur terhadap konten berbahaya yang dihasilkan oleh AI. Penggunaan gambar pribadi anak-anak untuk tujuan pelecehan seksual adalah pelanggaran berat yang membutuhkan penanganan serius dari pihak berwenang dan perusahaan teknologi.
Perusahaan seperti xAI, yang berada di garis depan inovasi AI, memiliki tanggung jawab moral dan hukum yang besar untuk memastikan bahwa produk mereka tidak disalahgunakan. Pengujian keamanan yang komprehensif, mekanisme pelaporan yang efektif, dan kolaborasi dengan regulator adalah langkah-langkah penting yang harus diambil.
Selain itu, kasus ini juga menyoroti pentingnya literasi digital bagi masyarakat, terutama orang tua dan anak-anak. Memahami potensi risiko yang ditimbulkan oleh teknologi AI dan cara melindungi diri dari ancaman online menjadi semakin krusial di era digital ini.
Gugatan ini diharapkan dapat menjadi katalisator untuk mendorong regulasi yang lebih kuat terkait AI generatif, memastikan bahwa inovasi teknologi berjalan seiring dengan perlindungan hak-hak individu, terutama kelompok rentan seperti anak-anak. Pertanggungjawaban perusahaan teknologi atas dampak negatif produk mereka menjadi salah satu poin kunci dalam perdebatan ini.
Tinggalkan komentar