Sorotan tajam terhadap fenomena deepfake intim tanpa persetujuan kini tidak lagi hanya tertuju pada sosok Elon Musk sebagai pemilik platform X. Isu ini berkembang menjadi kritik keras terhadap dua raksasa teknologi dunia, Apple dan Google.
Dikutip dari Engadget, Kamis (15/1/2026), sebagai pemilik toko aplikasi terbesar di dunia, keduanya dituding bersikap abai dan seolah memiliki standar ganda dalam menegakkan moralitas digital.
Meskipun pedoman App Store dan Play Store secara eksplisit melarang aplikasi yang memfasilitasi konten eksploitatif, Apple dan Google secara mengejutkan masih membiarkan Grok dan X tetap tersedia bagi jutaan pengguna, padahal laporan mengenai produksi konten pornografi buatan AI yang melibatkan anak-anak terus bermunculan.
Tekanan publik mencapai puncaknya pada hari Rabu, saat koalisi besar yang terdiri dari 28 kelompok advokasi perempuan dan organisasi progresif meluncurkan surat terbuka untuk Tim Cook dan Sundar Pichai.
Koalisi yang melibatkan nama-nama besar seperti Ultraviolet dan ParentsTogether Action ini menuntut ketegasan pimpinan Apple dan Google untuk segera menghapus aplikasi X.
Mereka menuduh bahwa dengan membiarkan aplikasi tersebut tetap ada, kedua raksasa teknologi ini secara tidak langsung ikut mengambil keuntungan dari penyebaran materi pelecehan seksual anak (CSAM) dan Non-Consensual Intimate Imagery (NCII) yang dihasilkan oleh kecerdasan buatan tersebut.
Data yang terungkap mengenai aktivitas Grok pun sangat mencengangkan sekaligus mengerikan. Selama periode krisis awal bulan ini, chatbot milik Musk dilaporkan memproduksi sekitar 6.700 gambar seksual per jam, yang mencakup 85 persen dari total keseluruhan gambar yang dihasilkan AI tersebut dalam kurun waktu 24 jam.
Angka ini jauh melampaui rata-rata situs web penyedia jasa deepfake ilegal lainnya, yang menunjukkan betapa masifnya penyalahgunaan teknologi ini di dalam ekosistem X.
Statistik ini memberikan gambaran jelas bahwa alat yang awalnya dirancang untuk inovasi kini telah berubah menjadi platform berbahaya bagi privasi perempuan dan keamanan anak-anak di bawah umur.
Bahkan, kecerdasan buatan itu sendiri secara terbuka mengakui kegagalannya. Grok sempat merilis pernyataan maaf terkait insiden di penghujung tahun 2025, di mana ia secara keliru menghasilkan gambar seksual dua gadis remaja berdasarkan permintaan pengguna.
Pengakuan ini menjadi bukti tak terbantahkan bahwa sistem pengamanan atau safety guardrails milik xAI masih sangat rapuh. Meskipun X merespons dengan membatasi fitur pembuatan gambar hanya untuk pelanggan berbayar dan menyembunyikannya dari linimasa publik, celah keamanan masih ditemukan di mana pengguna tertentu tetap bisa memanipulasi foto orang sungguhan ke dalam busana minim.
Di tengah sikap diam Apple dan Google, banyak negara mulai bertindak tegas dengan mengambil langkah hukum yang berani. Indonesia dan Malaysia menjadi garda terdepan dengan segera melarang operasional Grok demi melindungi warganya dari ancaman konten eksplisit berbasis AI.
Di belahan dunia lain, regulator Inggris (Ofcom) serta pemerintah negara bagian California juga telah membuka penyelidikan resmi. Bahkan, Senat Amerika Serikat kini kembali menggaungkan Undang-Undang Pembangkangan yang bertujuan memberikan perlindungan hukum bagi para korban deepfake agar dapat menuntut secara perdata.
Keseluruhan drama teknologi ini menjadi pengingat bagi kita semua bahwa inovasi tanpa etika yang kuat hanyalah bom waktu yang dapat menghancurkan tatanan sosial.
Kini bola panas berada di tangan Apple dan Google untuk membuktikan apakah mereka benar-benar peduli pada keselamatan pengguna atau justru lebih memprioritaskan keuntungan dari ekosistem aplikasi mereka.
Transformasi digital yang sehat hanya bisa terwujud jika para pemimpin teknologi bersedia menegakkan aturan mereka sendiri demi melindungi integritas dan martabat manusia di dunia maya.
Scr/Mashable
