Dari Indonesia hingga Eropa, Grok Diblokir karena Konten AI Berbahaya

Sumber: Reuters | Editor: Prihastomo Wahyu Widodo

KONTAN.CO.ID - Kontroversi skala global melanda chatbot AI Grok milik perusahaan kecerdasan buatan Elon Musk, xAI.

Berbagai pemerintah dan regulator di banyak negara kini mengambil langkah tegas terhadap konten seksual eksplisit berbasis AI yang diduga dihasilkan atau disebarkan melalui Grok di platform X.

Sejak awal Januari, investigasi, pemblokiran, hingga tuntutan perlindungan tambahan terus bermunculan.

Fokus utama kekhawatiran adalah penyebaran gambar dan video deepfake seksual tanpa persetujuan, termasuk yang melibatkan anak di bawah umur.

Merangkum berbagai laporan Reuters terkait masalah tersebut, berikut adalah daftar negara yang telah mengambil tindakan tegas terhadap Grok.

Eropa

Di kawasan Uni Eropa, European Commission (Komisi Eropa) membuka penyelidikan pada 26 Januari 2026 untuk menilai apakah Grok menyebarkan konten ilegal seperti gambar seksual manipulatif.

Investigasi juga menyoroti apakah X telah melakukan mitigasi risiko sesuai aturan digital Uni Eropa. Komisi sebelumnya memperpanjang perintah kepada X untuk menyimpan seluruh dokumen internal terkait Grok hingga akhir 2026.

Di Irlandia, Data Protection Commission ikut menyelidiki pengelolaan data pribadi serta potensi pembuatan konten seksual berbahaya, termasuk yang melibatkan anak.

Pemerintah Spanyol juga memerintahkan jaksa untuk menyelidiki X, Meta, dan TikTok terkait dugaan distribusi materi pelecehan seksual anak berbasis AI, menurut Perdana Menteri Pedro Sanchez.

Di Inggris, regulator media Ofcom menyelidiki apakah deepfake intim dari Grok melanggar kewajiban perlindungan publik berdasarkan Online Safety Act.

Jaksa siber Paris menggerebek kantor X di kota tersebut pada 3 Februari 2026. Musk juga dipanggil untuk memberikan keterangan pada April terkait dugaan bias algoritma, penyebaran gambar pornografi anak, serta pelanggaran hak atas citra pribadi.

Otoritas perlindungan data Italia memperingatkan bahwa pembuatan gambar deepfake “telanjang” tanpa persetujuan dapat menjadi pelanggaran privasi serius bahkan tindak pidana.

Asia

Pemerintah India mengirim pemberitahuan resmi kepada X pada 2 Januari 2026 terkait dugaan pembuatan atau penyebaran gambar seksual tidak senonoh melalui Grok. Mereka juga mewajibkan penghapusan konten dan laporan tindakan dalam waktu 72 jam.

Jepang juga melakukan penyelidikan dan menyatakan siap mengambil segala langkah untuk mencegah pembuatan gambar yang tidak pantas.

Di Indonesia, Kementerian Komunikasi dan Digital memutuskan memblokir akses ke Grok. Menteri Komunikasi dan Digital Meutya Hafid menyebut langkah ini diambil untuk melindungi perempuan dan anak dari konten pornografi palsu berbasis AI. Kebijakan ini sejalan dengan ketatnya regulasi anti-pornografi nasional.

Berbeda dengan Indonesia, Malaysia membuka kembali akses setelah X menerapkan fitur pengamanan tambahan.

Filipina juga berencana memulihkan akses setelah pengembang Grok berjanji menghapus alat manipulasi gambar yang memicu kekhawatiran terhadap keselamatan anak.

Amerika Utara dan Selatan

Di Amerika Serikat, otoritas negara bagian California meminta penjelasan dari xAI pada 14 Januari 2026 terkait penyebaran gambar seksual tanpa persetujuan.

Pengawas privasi Kanada memperluas penyelidikan terhadap X setelah laporan bahwa Grok menghasilkan deepfake seksual non-konsensual.

Sementara itu, pemerintah Brasil bersama jaksa federal memberi waktu 30 hari kepada xAI untuk mencegah penyebaran konten seksual palsu melalui chatbot tersebut.

Australia

Regulator keselamatan daring Australia, eSafety, menyelidiki gambar deepfake seksual dari Grok dalam kerangka penanganan pelecehan berbasis gambar.

Lembaga itu menyebut beberapa contoh yang melibatkan anak belum memenuhi ambang hukum sebagai materi pelecehan seksual anak menurut undang-undang setempat.

Bagaimana Respons xAI?

Menghadapi tekanan internasional, xAI menyatakan telah membatasi fitur pengeditan gambar Grok sejak 14 Januari 2026.

Perusahaan juga memblokir kemampuan pembuatan gambar orang dengan pakaian terbuka di wilayah yang melarang konten tersebut, meski tidak merinci negara mana saja.

Sebelumnya, penggunaan fitur generasi dan pengeditan gambar Grok juga telah dibatasi hanya untuk pelanggan berbayar.