Platform media sosial X kini berada di bawah pengawasan ketat otoritas internasional setelah munculnya laporan serius mengenai penyalahgunaan kecerdasan buatan mereka, Grok.
Dikutip dari Engadget, Rabu (18/2/2026), komisi Perlindungan Data Irlandia (DPC) secara resmi meluncurkan investigasi skala besar terhadap X Internet Unlimited Company (XIUC) guna menindaklanjuti dugaan pembuatan gambar seksual tanpa persetujuan yang dihasilkan oleh fitur AI tersebut.
Penyelidikan ini berfokus pada potensi pelanggaran masif terhadap pemrosesan data pribadi individu di wilayah Uni Eropa dan Area Ekonomi Eropa (EEA), termasuk risiko fatal yang melibatkan manipulasi data digital anak-anak.
Langkah hukum ini menjadi sinyal peringatan keras bagi perusahaan teknologi global mengenai batasan etika dan kepatuhan hukum dalam pengembangan teknologi generatif.
Skala temuan yang mendasari penyelidikan ini tergolong sangat mengkhawatirkan menurut data yang dirilis oleh lembaga nirlaba Center for Countering Digital Hate (CCDH).
Dalam periode singkat yang hanya berlangsung selama sebelas hari, yakni antara 29 Desember hingga 9 Januari lalu, sistem AI pada platform X dilaporkan telah memproses sekitar tiga juta gambar bermuatan seksual.
Dari jutaan konten tersebut, diperkirakan terdapat 23.000 gambar yang mengarah pada eksploitasi anak-anak. Angka fantastis ini memicu reaksi cepat dari regulator karena menunjukkan celah keamanan yang sangat lebar pada sistem moderasi konten bertenaga AI yang seharusnya mampu memfilter instruksi berbahaya dari penggunanya.
Wakil Komisaris DPC, Graham Doyle, menyatakan bahwa investigasi ini akan menentukan secara mutlak apakah X telah melanggar kewajiban mendasar dalam General Data Protection Regulation (GDPR).
Sejak laporan media pertama kali mencuat beberapa minggu lalu, DPC telah menjalin komunikasi intensif dengan pihak XIUC untuk mempertanyakan kemampuan pengguna dalam memicu akun @Grok agar menghasilkan konten visual intim dari orang sungguhan.
Sebagai otoritas pengawas utama untuk XIUC di wilayah Uni Eropa, DPC berkomitmen untuk menguji sejauh mana transparansi dan akuntabilitas perusahaan dalam melindungi hak-hak privasi warga negara dari ancaman konten ilegal berbasis AI.
Dampak dari penyelidikan ini diprediksi akan bergulir bak bola salju di seluruh daratan Eropa, terutama setelah Komisi Eropa sebelumnya juga telah menginisiasi langkah serupa melalui Undang-Undang Layanan Digital (DSA).
Fokus utama regulator adalah mengevaluasi apakah X benar-benar telah melakukan penilaian risiko dan mitigasi yang cukup terhadap operasional Grok. Hal ini mencakup pencegahan penyebaran konten eksplisit tanpa izin yang dapat merusak reputasi individu atau bahkan membahayakan keselamatan publik.
Narasi mengenai perlindungan anak-anak menjadi poin paling krusial dalam kasus ini yang tidak bisa ditawar lagi oleh pihak manajemen platform. Meskipun pada pertengahan Januari pihak X sempat mengklaim telah memperketat sistem agar Grok tidak dapat mengedit foto orang sungguhan menjadi pakaian terbuka, fakta di lapangan menunjukkan hal yang berbeda.
Berdasarkan uji coba independen yang dilakukan oleh jurnalis teknologi baru-baru ini, sistem tersebut terbukti masih bisa dimanipulasi untuk menghasilkan gambar yang sangat tidak pantas, termasuk penambahan detail anatomi tubuh yang eksplisit pada foto asli.
Inkonsistensi antara klaim keamanan perusahaan dengan realitas teknis di platform inilah yang kini menjadi sorotan utama, memperkuat dugaan bahwa teknologi Grok saat ini masih jauh dari standar keamanan data yang ditetapkan oleh hukum internasional.
Scr/Mashable
