Jakarta (prapanca.id) – Pemerintah dan regulator dari Eropa hingga Asia mulai mengambil langkah tegas terhadap konten seksual eksplisit yang dihasilkan oleh Grok, chatbot kecerdasan buatan (AI) milik xAI, perusahaan yang dimiliki oleh Elon Musk. Beragam respons muncul, mulai dari investigasi resmi, pemblokiran akses, hingga ancaman proses hukum terhadap platform X yang menjadi tempat distribusi konten tersebut.
Langkah ini menandai meningkatnya dorongan global untuk menekan peredaran materi ilegal berbasis AI, khususnya konten seksual manipulatif seperti deepfake “undressed” yang dinilai berpotensi melanggar hukum dan membahayakan privasi individu.
Eropa Perketat Pengawasan dan Proses Hukum
Di tingkat Uni Eropa, Komisi Eropa memperpanjang perintah retensi data yang sebelumnya dikirimkan kepada X. Perintah tersebut mewajibkan platform menyimpan seluruh dokumen internal dan data terkait Grok hingga akhir 2026, menyusul kekhawatiran atas beredarnya gambar seksual hasil manipulasi AI.
Di Inggris, regulator media Ofcom meluncurkan penyelidikan untuk menilai apakah konten deepfake seksual yang dihasilkan Grok melanggar kewajiban perlindungan pengguna berdasarkan kerangka Online Safety Act.
Sementara itu di Prancis, sejumlah menteri pemerintah menyatakan telah melaporkan konten eksplisit Grok yang beredar di X kepada jaksa. Otoritas juga menghubungi regulator media Arcom guna memeriksa kepatuhan platform terhadap Digital Services Act (DSA) Uni Eropa.
Menteri Media Jerman, Wolfram Weimer, mendesak Komisi Eropa mengambil langkah hukum lebih lanjut. Ia menilai aturan Uni Eropa telah menyediakan instrumen untuk menangani konten ilegal dan memperingatkan risiko “industrialisasi pelecehan seksual” akibat teknologi AI.
Italia melalui otoritas perlindungan data juga mengingatkan bahwa pembuatan gambar deepfake “tanpa busana” dari individu nyata tanpa persetujuan dapat menjadi pelanggaran privasi serius dan berpotensi masuk ranah pidana. Di Swedia, sejumlah pemimpin politik mengecam keras konten serupa setelah muncul laporan gambar seksual manipulatif yang melibatkan wakil perdana menteri negara tersebut.
Asia: Dari Teguran Resmi hingga Pemblokiran
Di Asia, Kementerian TI India mengirimkan pemberitahuan resmi kepada X pada 2 Januari terkait dugaan pembuatan dan penyebaran gambar seksual cabul melalui Grok. Pemerintah India meminta konten tersebut diturunkan dan menuntut laporan tindakan dalam waktu 72 jam.
Indonesia mengambil langkah lebih tegas. Kementerian Komunikasi dan Digital (Komdigi) memutuskan memblokir akses ke Grok. Menteri Komunikasi dan Digital Meutya Hafid menyatakan kebijakan ini bertujuan melindungi perempuan dan anak-anak dari konten pornografi palsu berbasis AI, sejalan dengan regulasi antipornografi yang ketat di Indonesia.
Di Malaysia, regulator komunikasi menyatakan rencana untuk menempuh jalur hukum terhadap X dengan alasan kekhawatiran terhadap keselamatan pengguna yang berkaitan dengan fitur Grok.
Australia Lakukan Penilaian Khusus
Di kawasan Oseania, regulator keselamatan daring Australia, eSafety, tengah menyelidiki konten deepfake seksual hasil Grok. Penilaian dilakukan dalam kerangka skema penyalahgunaan berbasis gambar. Otoritas menyebut contoh terkait anak yang ditinjau sejauh ini belum memenuhi ambang batas hukum sebagai materi pelecehan seksual anak menurut hukum Australia.
Respons xAI dan Elon Musk
Menanggapi sorotan global tersebut, xAI selaku pengembang Grok menerapkan pembatasan fitur, di mana kemampuan pembuatan dan pengeditan gambar hanya dapat diakses oleh pelanggan berbayar.
Pihak X juga menyatakan telah mengambil tindakan terhadap konten ilegal, termasuk dengan menghapus materi terlarang, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah dan aparat penegak hukum setempat.
Sebelumnya, Elon Musk menegaskan bahwa pengguna yang memanfaatkan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti mengunggah konten ilegal secara langsung ke platform.
Langkah tegas dari berbagai negara ini menunjukkan meningkatnya tekanan global terhadap perusahaan teknologi untuk memastikan kecerdasan buatan tidak disalahgunakan dan tetap berada dalam koridor hukum serta etika publik. (anz)