Lonjakan konten berbasis kecerdasan buatan atau deepfake dalam beberapa tahun terakhir membuat platform digital menghadapi tantangan baru.
YouTube dilaporkan tengah mengembangkan sebuah alat internal untuk mendeteksi video deepfake yang beredar di platformnya.
Langkah ini disebut sebagai salah satu upaya paling serius dari perusahaan induknya, Google, untuk mengatasi penyebaran konten sintetis yang semakin sulit dibedakan dari video asli.
Dilansir dari The New York Times (08/03/26), menyebutkan bahwa teknologi ini masih dalam tahap pengembangan awal, namun diharapkan mampu membantu tim moderasi konten dalam mengidentifikasi manipulasi berbasis AI secara lebih cepat.
Teknologi generatif yang semakin canggih membuat video palsu terlihat sangat realistis. Inilah yang memicu kekhawatiran dari berbagai pihak, mulai dari pembuat konten, pengiklan, hingga regulator pemerintah di berbagai negara.
Tekanan tersebut akhirnya mendorong YouTube untuk mengembangkan sistem yang dapat mendeteksi konten AI secara otomatis, bukan sekadar mengandalkan laporan pengguna atau moderasi manual.
Cara Kerja Teknologi Deteksi Deepfake YouTube
Meski detail teknisnya belum dipublikasikan secara luas, laporan menyebutkan bahwa sistem ini menggunakan pendekatan berlapis untuk mengidentifikasi konten manipulatif.
Teknologi tersebut menganalisis beberapa indikator sekaligus, antara lain:
- Artefak visual pada tingkat piksel yang sering muncul pada video hasil AI
- Ketidaksesuaian audio, seperti sinkronisasi bibir dan suara
- Metadata video, termasuk pola produksi yang biasa digunakan oleh generator AI
Dengan pendekatan multi-layer ini, sistem dapat memeriksa konten melalui berbagai filter sebelum menentukan apakah video tersebut kemungkinan merupakan deepfake.
Pengembangan teknologi ini juga melibatkan divisi riset AI milik Google, yaitu Google DeepMind. Sebelumnya, tim ini telah memperkenalkan teknologi watermarking bernama SynthID, yang memungkinkan konten AI diberi tanda digital saat dibuat.
Namun, watermark hanya efektif jika kreator menggunakan alat yang menyematkan tanda tersebut. Banyak pembuat deepfake justru menggunakan generator tanpa watermark, sehingga deteksi setelah video diunggah tetap diperlukan.
Tantangan Besar: Skala dan Akurasi
Mengembangkan sistem deteksi deepfake untuk YouTube bukanlah tugas mudah. Platform ini memiliki lebih dari 800 juta video yang tersimpan, dan setiap menit ada sekitar 500 jam video baru yang diunggah.
Artinya, teknologi deteksi harus mampu bekerja dengan tiga syarat utama:
- Cepat, agar bisa memproses jutaan video.
- Akurat, agar tidak salah menandai konten asli.
- Efisien secara biaya, agar bisa dijalankan dalam skala besar.
Salah satu tantangan terbesar adalah false positive atau kesalahan deteksi. Jika sistem terlalu agresif, video yang sebenarnya legal seperti parodi, efek visual film, atau karya seni berbasis AI bisa ikut terhapus.
Sebaliknya, jika terlalu longgar, deepfake berbahaya bisa tetap beredar cukup lama untuk menimbulkan dampak negatif.
Bagi para kreator, teknologi ini menimbulkan dua sisi yang berbeda.
Di satu sisi, deteksi deepfake dapat membantu melindungi reputasi kreator dari penyalahgunaan identitas, seperti video palsu yang menampilkan wajah atau suara mereka.
Namun di sisi lain, sebagian kreator khawatir sistem ini akan menambah lapisan moderasi otomatis seperti Content ID, yang sebelumnya juga sering menimbulkan kesalahan klaim hak cipta.
Meski belum ada jadwal resmi peluncuran, teknologi deteksi deepfake dari YouTube diperkirakan akan menjadi langkah awal dalam upaya mengatasi penyebaran video manipulatif di internet.
Scr/Mashable
