Platform media sosial X (sebelumnya Twitter) akhirnya mengambil langkah tegas dengan merombak total kebijakan terkait kemampuan penyuntingan gambar pada chatbot cerdas mereka, Grok.
Dikutip dari Engadget, Kamis (15/1/2026), keputusan ini diambil menyusul gelombang protes yang memanas selama beberapa minggu terakhir, di mana Grok dituding menjadi sarana pembuatan gambar seksual yang melibatkan anak di bawah umur serta konten ketelanjangan tanpa persetujuan (NCII).
Melalui akun resmi @Safety, X mengonfirmasi bahwa mereka telah mengintegrasikan sistem keamanan berbasis teknologi baru untuk mencegah pengguna memanipulasi gambar orang sungguhan ke dalam busana terbuka seperti bikini atau pakaian minim lainnya.
Transformasi kebijakan ini membawa perubahan signifikan pada aksesibilitas fitur AI milik xAI tersebut.
Kini, seluruh kemampuan pembuatan gambar di Grok telah dipindahkan ke balik sistem pembayaran (paywall), yang berarti hanya pelanggan premium yang bisa menikmati fitur tersebut, sementara pengguna gratisan resmi kehilangan akses.
Selain itu, X juga menerapkan pemblokiran geografis yang sangat ketat di wilayah-wilayah yang melarang konten eksplisit, guna memastikan bahwa algoritma Grok tidak lagi bisa diperintah untuk menghasilkan visualisasi orang sungguhan dalam pakaian dalam atau busana serupa yang melanggar hukum setempat.
Langkah defensif yang diambil X ini muncul hanya beberapa jam setelah otoritas di California, Amerika Serikat, membuka penyelidikan resmi terhadap xAI dan Grok.
Jaksa Agung California, Rob Bonta, mengungkapkan fakta mengejutkan berdasarkan analisis data yang menunjukkan bahwa lebih dari separuh dari 20.000 gambar yang diproduksi oleh AI tersebut antara periode Natal hingga Tahun Baru menggambarkan individu dalam pakaian yang sangat minim, termasuk beberapa konten yang secara visual menyerupai anak-anak.
Penyelidikan ini menjadi tekanan besar bagi Elon Musk untuk membuktikan bahwa teknologinya tidak memfasilitasi eksploitasi digital.
Menanggapi tuduhan serius tersebut, pihak X menyatakan komitmen “toleransi nol” terhadap segala bentuk eksploitasi anak dan berjanji akan menyisir habis Materi Pelecehan Seksual Anak (CSAM) dari platform mereka.
Elon Musk sendiri sempat berdalih bahwa ia tidak menyadari adanya konten anak di bawah umur yang dihasilkan oleh Grok.
Meski begitu, Musk menjelaskan bahwa pengaturan Not Safe For Work (NSFW) pada Grok seharusnya hanya diizinkan untuk menghasilkan visualisasi artistik orang dewasa imajiner, dengan standar sensor yang setara dengan film berperingkat R di layanan streaming global, yang tentunya akan disesuaikan dengan regulasi tiap negara.
Isu keamanan AI ini pun telah memicu reaksi keras di Asia Tenggara, di mana Malaysia dan Indonesia mulai mengambil tindakan tegas untuk memblokir akses Grok akibat kekhawatiran atas materi seksual eksplisit yang dihasilkan oleh kecerdasan buatan tersebut.
Tak hanya di Asia, Inggris melalui regulator Ofcom juga tengah melakukan investigasi mendalam terhadap xAI.
Para pejabat di Inggris bahkan menyatakan dukungan mereka terhadap wacana pemblokiran serupa jika Grok terbukti gagal mematuhi standar keselamatan digital internasional, menandai babak baru dalam pertempuran regulasi antara inovasi AI dan perlindungan hak asasi manusia. Engadget
Scr/Mashable
