Digitalisasi Dunia

Apa itu Deepfake dan Bagaimana Cara Mendeteksinya?

Astra Digital Assets Astra Digital 2· 20 November 2023
Astra Digital Assets

Disinformasi hadir dalam berbagai bentuk, dan salah satu tantangan terbesar yang dihadapi saat ini adalah penyebaran melalui teknologi deepfake. Deepfake, yang merupakan gabungan dari kata "deep learning" dan "fake" merujuk pada teknik penggunaan kecerdasan buatan (AI) untuk membuat atau memanipulasi konten multimedia, seperti video dan suara, sehingga sulit dibedakan antara yang asli dan yang palsu.

 

Dalam jangka pendek, seperti pemilu di Indonesia mendatang, teknologi deteksi canggih dapat menjadi alat yang berguna untuk membantu pengguna yang cerdas mengidentifikasi deepfake.

 

Sebelum membahas lebih jauh, perlu kita ketahui pengertian dari deepfake sendiri.

 

Apa itu Deepfake?

 

Deepfake adalah jenis teknologi kecerdasan buatan (AI) yang digunakan untuk membuat video atau audio yang menampilkan orang yang berkata atau melakukan sesuatu yang mereka tidak pernah katakan atau lakukan. 

 

Deepfake AI dibuat dengan menggunakan teknik pembelajaran mesin untuk memanipulasi gambar dan video. Umumnya, penggunaannya sebatas untuk hiburan, namun di tangan orang yang tidak bertanggung jawab maka Deepfake dapat menjadi media hoax yang menyesatkan.

 

Sebagai contoh, viral video yang menampilkan Presiden Joko Widodo berpidato dalam bahasa Mandarin yang luwes. Sejak diunggah 26 Oktober 2023, video tersebut telah 74 ribu kali ditonton lewat kanal Youtube dan lebih 100 ribu kali di TikTok.

 

zYvG2LPwQKAly50mesH6lb1dNuc_BnvHrz_XYqlO21nDoxL0VRO30n7x8voX-lJ8MbkE-5WD-OlBSrRRQyKQ5lgI7zMMTqdiT3im9b2AlPjG1OJxKSjj_JF4EoBgAoAoK-nmYnDAhvddB1PYeBygZBA

| Sempat viral unggahan video Presiden Jokowi pidato dengan bahasa mandarin secara fasih. Sumber: Youtube Viva.CO.ID, November 2023


 

Kementerian Komunikasi dan Informatika telah menyebutkan bahwa video tersebut merupakan hasil deepfake AI dan disebut sebagai video hoax dengan video aslinya dapat dilihat melalui tautan berikut.

 

Contoh lainnya menimpa Presiden Rusia, Vladimir Putin. Sebuah rekaman suara memperlihatkan Sang Presiden berpidato kepada rakyatnya yang berada di perbatasan Rusia dan Ukraina untuk segera mengungsi. 

 

Pihak berwenang di Rusia menyebutkan bahwa rekaman yang diputar di televisi dan radio di wilayah Belgorod, Rostov, dan Voronezh tersebut adalah hasil peretasan dan tidak benar. "Semua pesan ini benar-benar palsu," kata RIA kantor berita Rusia.

 

Contoh Deepfake lainnya populer karena menirukan aktor Hollywood, Tom Cruise dalam beragam video. Di dalamnya Tom Cruise sedang melakukan berbagai hal konyol, seperti bermain golf, menceritakan lelucon, dan bahkan melakukan trik sulap. 

 

Video-video tersebut terlihat sangat meyakinkan, sehingga banyak orang yang percaya bahwa itu adalah video asli Tom Cruise.

 

VvVbZHMoEmQVKO0nbiRSE8UOluggoR6D7oU5SJkff3ABD15dNUXBSL7bP7npE1w13R8Okjm_GF4nYwrzPzVUbQpCG7DFVaU-qRFHuEjzZmlHe7xbCYHgGO-P0XI0hf0f3gYlrwbzxNskeaCvdl1oYBs

| Sumber: KREM 2 News

 

Bagaimana Cara Kerja Deepfake?

u6cXkgySlzk59fUW9wNGHoSBBkZsUDmRM2D6iHFHi2ri5g3NqnxK8YUg1HNaOKEG9T8eQQLG48arcHM_DsWxsfjV7IqgJ8xz7AaiPy6Lsmrgx3D2TWJnqLo25m1rYOAGyhlFN-cbUI9LFW9aZvubkk0

| Cara kerja Deepfake, Markovate 2023


 

Dasar kerja deepfake melibatkan jaringan saraf tiruan, yang dikenal sebagai Generative Adversarial Network (GAN). GAN terdiri dari dua bagian utama: generator, yang bertugas membuat konten palsu, dan diskriminator, yang bertugas membedakan antara konten asli dan palsu. Melalui iterasi yang berulang, kedua bagian ini berkompetisi satu sama lain untuk menciptakan konten yang semakin sulit dibedakan dari aslinya.

 

Teknik Deepfake

Beberapa teknik yang mendasari deepfake di antaranya:

 

1. Source Video Deepfakes

Teknik ini berhubungan dengan penempatan wajah dan gerakan tubuh dalam video. Prosesnya melibatkan penggunaan algoritma deep learning untuk mendeteksi, memahami, dan mereplikasi wajah serta gerakan tubuh dari satu video ke video lainnya. 

 

2. Audio Deepfakes

Audio Deepfakes fokus pada manipulasi suara menggunakan teknologi deep learning. Dengan memanfaatkan algoritma neural network, suara seseorang dapat direkam dan direplikasi dengan presisi tinggi. Hal ini mencakup pemodelan intonasi, vokal, dan nuansa suara yang membuatnya tampak seperti suara asli.

 

3. Lip Syncing

Lip Syncing adalah teknik deepfake yang fokus pada keselarasan antara audio dan gerakan bibir dalam video. Tujuan utamanya adalah membuat gerakan bibir dalam rekaman video cocok dengan audio yang dihasilkan secara tepat. Dengan menggunakan model deep learning, seperti LSTM (Long Short-Term Memory) atau model berbasis transformator, deepfake dapat menciptakan lip sync yang sangat akurat.

 

Teknologi yang Dibutuhkan Untuk Mengembangkan Deepfake

1. Teknologi Jaringan Saraf GAN (Generative Adversarial Networks)

Teknologi jaringan saraf GAN digunakan dalam pengembangan semua konten deepfake. GAN melibatkan dua algoritma utama, yaitu generator dan diskriminator. Proses ini berlanjut hingga konten yang dihasilkan sangat sulit dibedakan dari yang asli.

 

dv2NdFGMQMhTe1HyoWfasayzS7OoS-76O07-GQnkOsC6W6QAlIstxxJBj156B2rQNBjzwpvi0-7FCQGQB7JH9yrVCxaoVGVahJagYHjHU3sOroRDT82B0H7h0BsYoozOQ2qeDE3M-cNpip-H3e77nWs

| Framework Wav2lip 

 

2. Convolutional Neural Network (CNN):

CNN digunakan untuk menganalisis pola visual, terutama dalam pengenalan wajah dan pelacakan gerakan. Teknologi ini memungkinkan deepfake meniru dengan presisi tinggi, menciptakan ilusi yang meyakinkan.

 

X3u0XU5RDRjjn9-iImaSZBRcDLSsVLuPW78S0HyvPwkXb7_HrRIm-JX-5PbvLYkOs1KM6110AWgSiwEfX3BGmNBsyGxXnVkat96uzPG5eNYX6b6e3l9ZKx_GRxjlk9kyW7Mz2wgbgxXfea_zqv60XeU

| Cara Kerja CNN

 

3. Autoencoders

Autoencoders mengidentifikasi atribut-atribut yang relevan dari target, seperti ekspresi wajah dan gerakan tubuh. Ini dapat menciptakan ilusi kehadiran seseorang dalam berbagai situasi.

_37Q6bgDToNAYjWPvLviaMZxtaElNQvvyG8wwAGu3cv_nTeSow9TmdefKkTbB6w7tETF1yvPrzAoHw445M_DVlZmf6kacQyybPuXJpuck-j6IuePd50epidMnrQ0RQzlNbYw01tAzQBcXGsLrlJ7pH0

| Contoh input dan output hasil autoencoder

 

4. Natural Language Processing (NLP)

NLP digunakan untuk menciptakan audio deepfake. Algoritma NLP menganalisis atribut pidato target dan menghasilkan teks asli dengan atribut tersebut.

ceDi-8FndMqmoGaJDEAf8ei4ZhH_022qB4BDrMfohCYt7rrynQ7Q58S__ZACxxH02hL4ZW-jBleGGoNeuL7XoDFzPjZ8IC9LVp2qMvFTzz7V-HE0MuX31A_YHYzQTKKSkR2gxTeIUz_KhgjOHtFyVKQ

| Natural Language Processing

 

5. High Performance Computing

Dengan daya komputasi yang kuat, proses pembuatan deepfake dapat dilakukan dengan lebih cepat dan akurat.

16xzlF0mJaFljoBAv2k4EtMZikWX_QTOt2H5ejTzrIAKSC0ucyyw_LVQHlu9Li_ZDrMAK7pWz90dr2FMUE95oeWsSxzRWjp8XyXSVgmSH0BoAuLGIH-2Ii856V-R4zwvkS1wcJ7O03h4OGqID6W5jwE

| Proses Komputasi yang cepat


 

Upaya pencegahan Deepfake

Berikut adalah beberapa contoh upaya spesifik yang telah dilakukan oleh perusahaan teknologi seperti Facebook dan Twitter dalam memerangi deepfake.

 

Facebook telah meluncurkan fitur "Deepfake Detection Tool" yang dapat mendeteksi video deepfake dengan tingkat akurasi hingga 97%. Fitur ini masih dalam tahap pengembangan, tetapi telah diujicobakan di beberapa negara, termasuk Indonesia.

 

Twitter telah meluncurkan fitur "Synthetic and manipulated media" yang memungkinkan pengguna untuk melaporkan video atau audio yang diduga palsu. 

P4Pdru5MWZwkiTYma-8oUElMfvW6QSLNooNOH5xac5ZmDLIzv2gFv7oL7Nd-UcQorjrLiW2unmC5MaNcikoG6XP2VMl-Fm4-Omizao1QkTM5FSWXPyuHsUUekKIBhWixw9vFP4OqJ64OU_8y3E8Cem4

| Trump men-tweet sebuah video yang pertama kali ditandai sebagai "media yang dimanipulasi" dan kemudian dihapus sebagai tanggapan atas laporan dari pemegang hak cipta.


 

Twitter juga bekerja sama dengan perusahaan keamanan siber, yaitu Sensity AI, untuk mendeteksi dan menghapus video deepfake dari platformnya.

 

Microsoft juga mengeluarkan teknologi baru untuk memerangi disinformasi, upaya untuk membantu meningkatkan awareness masyarakat terkait masalah ini yaitu Microsoft Video Authenticator.

 

o17JGV0QRJSuZjc6EX7Vt7lk56y_TCENu7ZjxuezV2tDDMM2zIMVVOMxYDTwgn94eyz6t8oMDP8LDDGQaw9oOxhbavvQbibL_hqHvfDIxrxInOd2BAdtvZBFu0jVaK9-cIJEttEJchpuLuQPYpQgwd4

| Microsoft Video Authenticator


 

Hal ini menjadi salah satu program Microsoft’s Defending Democracy, yang selain memerangi disinformasi, juga membantu melindungi pemungutan suara melalui ElectionGuard dan membantu mengamankan kampanye dan pihak lain yang terlibat dalam proses demokrasi melalui Microsoft 365 for Campaign

 

Hal yang sama dilakukan oleh Google dengan mengembangkan Deepfake Detection Dataset. Ini adalah kumpulan video asli dan palsu yang dapat digunakan untuk melatih dan menguji algoritme pendeteksian deepfake. Dataset ini tersedia bagi para peneliti secara gratis melalui FaceForensics Github Page.

 

w5aijcwIw0OXvYIlpxHQL2Zd_6hRpFbzcJhk1UyA6EoOoDlXcR-7NQ4K-lahKUqQy0gwoOFdD5VRTj7NLaCIrD5nUjLrrO2YnmVOP_5nzRtWb_jwT7rMsh4O_zjcfeqbzvdhTLJD6p4X_kKwjxsL2s8

| Deepfake Detection Dataset Google

 

Upaya-upaya yang dilakukan oleh perusahaan digital tersebut masih terus dikembangkan. Hal ini karena teknologi deepfake juga terus berkembang dengan pesat. Perusahaan digital perlu terus berinovasi untuk mengembangkan teknologi dan strategi yang lebih efektif dalam memerangi deepfake.



 

Jangan mudah terprovokasi

Menjelang tahun politik di Indonesia dan Pemilihan Umum 2024, masyarakat sebaiknya waspada akan penyebaran media hoax yang memanfaatkan Deepfake AI. 

 

Bukan tidak mungkin akan banyak beredar konten-konten yang memanfaatkan kecanggihan AI dalam kampanye digital.

 

Alangkah baiknya untuk bijak memahami konteks, mencari referensi yang valid dan ricek sebelum menyebarkan sebuah video atau berita yang sedang viral di media sosial. Ayo, manfaatkan AI untuk membuat konten-konten yang menghibur, berguna serta positif. 





 

Sumber : 

https://medium.com/deepgamingai/deepfakes-ai-improved-lip-sync-animations-with-wav2lip-b5d4f590dcf

https://www.researchgate.net/figure/Autoencoder-A-DNN-architecture-commonly-used-for-generating-deepfakes_fig2_338144721

https://lih-verma.medium.com/evolution-of-auto-encoders-d4a79260004d

https://markovate.com/blog/deepfakes-ai/

 

 

HUBUNGI KAMI

Ada pertanyaan?
Kami terbuka untuk berdiskusi dan melihat bagaimana kami bisa membantu Anda mewujudkan ide-ide yang ada.