CekFakta #34 Deepfake Ternyata Banyak Dipakai Pornografi

Reporter:
Editor:

Angelina Anjar

  • Font:
  • Ukuran Font: - +
  • Gambar tangkapan layar video yang memperlihatkan perbedaan antara rekaman asli dengan deepfake. Credit: Kanal YouTube WatchMojo

    Gambar tangkapan layar video yang memperlihatkan perbedaan antara rekaman asli dengan deepfake. Credit: Kanal YouTube WatchMojo

    • Konten manipulasi yang diciptakan dengan teknologi kecerdasan buatan alias deepfake berkembang dengan sangat pesat. Menurut riset terbaru, hanya dalam waktu beberapa bulan, jumlah video deepfake meningkat dua kali lipat. Yang menyedihkan, hampir semua video deepfake di internet bermuatan pornografi.
    • Tak hanya itu, jumlah salah satu jenis perangkat lunak yang berbahaya, ransomware, juga meningkat dua kali lipat. Menurut penelitian sebuah perusahaan keamanan siber global, peningkatan terbesar terjadi di Asia Tenggara, termasuk Indonesia. Sayangnya, belum ada upaya konkret untuk menangkal penyebaran ransomware ini. 

    Selamat hari Jumat, pembaca nawala CekFakta Tempo! Sudah berapa banyak video yang Anda tonton hari ini? Jika Anda doyan menonton video di internet, Anda patut waspada karena deepfake semakin merajalela. Mungkin jumlahnya memang masih sedikit jika dibandingkan dengan seluruh video yang bertebaran di internet. 

    Tapi dengan semakin banyaknya perangkat lunak untuk membuat video dan  audio deepfake, banyak orang kini bisa menjadi pencipta deepfake. Anda kini mesti lebih awas dengan video yang Anda tonton. Terlebih jika video itu memperlihatkan pidato seorang tokoh. Bisa-bisa, Anda malah ikut menyebarkan informasi hoaks. 

    Apakah Anda menerima nawala edisi 25 Oktober 2019 ini dari teman dan bukan dari email Tempo? Daftarkan surel di sini untuk berlangganan.

    Nawala edisi ini ditulis oleh Angelina Anjar Sawitri dari Tempo Media Lab.

    RISET DEEPFAKE: 96 PERSEN BERISI PORNOGRAFI

    Semakin lama, kemunculan deepfake semakin meresahkan dunia. Bagaimana tidak? Jumlah konten manipulasi yang diciptakan dengan teknologi kecerdasan buatan ini begitu cepat berlipat ganda di dunia maya. Penyebabnya, berbagai perangkat lunak yang bisa digunakan untuk membuat deepfake, baik video ataupun audio, tumbuh subur.

    Menurut penelitian perusahaan asal Belanda yang berfokus pada penciptaan teknologi pendeteksi deepfake, Deeptrace, dalam kurun waktu tujuh bulan, jumlah video deepfake meningkat dua kali lipat. Pada Desember 2018, jumlah video deepfake hanya sebanyak 7.964 video. Pada Juli 2019, jumlah video deepfake sudah mencapai 14.678 video.

    Menurut pendiri Deeptrace, Giorgio Patrini, meningkatnya jumlah video deepfake ini didukung oleh pertumbuhan komodifikasi berbagai perangkat serta layanan yang memungkinkan semua orang membuat video deepfake. “Adanya berbagai perangkat dan layanan ini memperkecil halangan bagi seseorang yang bukan ahli untuk menciptakan video deepfake,” kata Patrini.

    Yang lebih memprihatinkan, menurut penelitian ini, sebanyak 96 persen dari jumlah video deepfake yang tersebar di internet itu bermuatan pornografi. Video-video yang diunggah dalam empat situs khusus video deepfake porno pun sudah ditonton hingga lebih dari 134 juta kali. Seluruh video yang ditemukan di situs-situs tersebut menyasar perempuan di mana 99 persen di antaranya berisi selebritas serta musisi perempuan dan sisanya berisi pekerja industri media perempuan.

    Di YouTube, tren video deepfake sedikit berbeda. Menurut penelitian ini, sebanyak 61 persen video deepfake di YouTube — yang tidak memuat konten pornografi — menyasar laki-laki. Namun, sebagian besar targetnya tetap selebritas dan musisi, yakni sebanyak 81 persen. Sementara sisanya menyasar politikus, pekerja industri media, serta pengusaha.

    Berikut daftar sepuluh tokoh yang paling kerap dijadikan target oleh pencipta video deepfake (nama tokoh yang dimaksud tidak dipublikasikan oleh penelitian ini):

    • Seorang aktris Inggris dengan 257 video yang sudah ditonton 5,8 juta kali
    • Musisi Korea Selatan, 167 video, ditonton 3,1 juta kali
    • Musisi Korea Selatan, 134 video, ditonton 5,9 juta kali
    • Aktris Amerika, 126 video, ditonton 4,3 juta kali
    • Aktris Inggris, 118 video, ditonton 1,6 juta kali
    • Aktris Australia, 113 video, ditonton 1,4 juta kali
    • Aktris Amerika, 106 video, ditonton 2,4 juta kali
    • Aktris Israel, 105 video, ditonton 1,9 juta kali
    • Aktris Amerika, 104 video, ditonton 1,1 juta kali
    • Musisi Korea Selatan, 103 video, ditonton 4,4 juta kali

    Para Korban Deepfake

    Salah satu situs yang menjadi sarang video deepfake adalah Reddit. Sebagian besar video deepfake yang berseliweran di situs itu bermuatan pornografi. Para penciptanya menggunakan wajah aktris ternama agar video porno palsu buatannya viral. Salah satunya adalah pemilik akun deepfakes ini. Dia membuat berbagai video deepfake porno yang menampilkan wajah Gal Gadot, Aubrey Plaza, Scarlett Johansson, Maisie Williams, dan Taylor Swift.

    Menanggapi pemakaian foto wajahnya dalam video deepfake porno, Scarlett Johansson menyatakan tidak ingin memusingkan hal itu. Menurut dia, tidak ada yang bisa menghentikan seseorang untuk menempelkan wajahnya ataupun wajah orang lain pada tubuh yang berbeda. Lagipula, dengan reputasi yang dimilikinya, publik tidak akan dengan mudah mempercayai video itu.

    Namun, pemeran Black Widow dalam film-film Marvel Cinematic Universe ini menggarisbawahi kemungkinan bahwa deepfake menyasar seseorang yang tidak memiliki ketenaran serta kesempatan untuk memberikan klarifikasi seperti dirinya. “Situasinya tentu berbeda jika seseorang kehilangan pekerjaan karena foto wajah mereka disalahgunakan,” ujar Johansson.

    Hal serupa dikatakan oleh pendiri situs Feminist Frequency, Anita Sarkeesian, yang pernah menjadi korban deepfake di situs Pornhub. Menurut dia, seseorang yang tidak memiliki ketenaran bisa kehilangan kawan, pekerjaan, reputasi, bahkan kesehatan mentalnya jika menjadi sasaran deepfake. “Deepfake merupakan senjata untuk membungkam dan merendahkan perempuan. Teknologi ini bisa menghancurkan kehidupan Anda,” katanya.

    Semakin maraknya video deepfake, terutama yang bermuatan pornografi, membuat beberapa perusahaan teknologi terdorong untuk memerangi teknologi tersebut. Google, misalnya, berupaya memerangi deepfake dengan membagikan basis data yang berisi sekitar 3 ribu video deepfake. Basis data itu diharapkan bisa digunakan oleh para peneliti untuk membuat pendeteksi video deepfake.

    Facebook pun melakukan hal yang sama. Mereka bekerjasama dengan Microsoft dan akademisi dari berbagai perguruan tinggi, seperti Massachusetts Institute of Technology dan University of California, untuk menggelar Deepfake Detection Challenge. “Tujuan dari proyek ini adalah menghasilkan teknologi pendeteksi video deepfake,” kata Chief Technology Officer Facebook, Mike Schroepfer.

    Di Indonesia, deepfake memang belum banyak digunakan untuk memproduksi berita bohong. Namun, tidak ada yang bisa menjamin bahwa perkembangan teknologi manipulasi video ini tidak akan diadopsi oleh para penyebar hoaks. Karena itu, kita semua mesti waspada dan tidak ceroboh membagikan data pribadi kita di internet. Mengutip kalimat Scarlett Johansson, “It’s just a matter of time before any one person is targeted.

    RANSOMWARE INCAR ASIA TENGGARA

    Penelitian yang dirilis perusahaan keamanan siber, McAfee, pada Agustus 2019 lalu menemukan bahwa jumlah ransomware, salah satu jenis perangkat lunak berbahaya yang dapat menghalangi akses pengguna pada sebuah sistem komputer, pada kuartal I tahun ini meningkat 118 persen atau lebih dari dua kali lipat dibandingkan kuartal I 2018. Menurut riset ini, peningkatan terbesar terjadi di negara-negara Asia Tenggara atau ASEAN. Sudah seberapa luas penyebaran ransomware di ASEAN?

    - Pada 2017, sebanyak sepuluh perusahaan Thailand mengalami serangan ransomware. Menurut polisi Thailand, hampir semua perusahaan itu membayar sejumlah tebusan karena takut kehilangan data-data mereka. Perusahaan-perusahaan itu juga ragu untuk mengajukan tuntutan hukum karena mereka tidak ingin mengambil risiko kehilangan kepercayaan dari investor, mitra dagang, dan masyarakat umum.

    - Selain menyerbu sepuluh perusahaan Thailand, pada Mei 2017, ransomware menyerang dua rumah sakit di Indonesia, tepatnya di Jakarta, yakni Rumah Sakit Harapan Kita dan Rumah Sakit Dharmais. Ransomware yang menjangkiti dua rumah sakit itu bernama WannaCry. Menurut Direktur RS Dharmais, Abdul Kadir, nyaris seluruh komputer di rumah sakitnya lumpuh karena ransomware itu mengunci semua data dan mengganggu sistem teknologi informasi.

    - Pada April 2018, Vietnam Computer Emergency Responses Teams mengirimkan peringatan kepada perusahaan-perusahaan telekomunikasi, internet, listrik, penerbangan, transportasi, dan keuangan Vietnam tentang penyebaran ransomware yang bernama GandCrab. Ransomware yang diyakini lebih ganas ketimbang WannaCry ini terdeteksi mulai menyebar di Vietnam sejak Januari 2018. Secara global, ransomware ini sudah menyerang lebih dari 50 juta komputer.

    - Pada awal September kemarin, salah satu bank Malaysia dihantam isu tak sedap di media sosial bahwa sistemnya diserang ransomware. Spekulasi itu muncul setelah beberapa pelanggan kesulitan mengakses layanan perbankan mereka. Survei terhadap 250 eksekutif perusahaan Singapura pun mengungkapkan bahwa seperempat dari jumlah itu sering mengalami serangan ransomware.

    Meskipun ransomware telah menyebar sedemikian rupa, negara-negara di Asia Tenggara tidak mengalokasikan anggaran yang cukup untuk melindungi warganya dari serangan keamanan siber. Menurut data dari A.T. Kearney, ASEAN hanya menganggarkan US$ 1,9 miliar atau sekitar Rp 26,69 triliun pada 2017 untuk keamanan siber. Anggaran itu hanya sekitar 0,06 persen dari Produk Domestik Bruto (PDB) seluruh negara di Asia Tenggara. Padahal, menurut studi IBM, potensi kerugian akibat serangan keamanan siber, khususnya pelanggaran data, selama periode 2017-2025 mencapai US$ 180-365 miliar. Jika dirupiahkan, lebih dari Rp 2.500 triliun. Wow!

    WAKTUNYA TRIVIA! 

    Berikut ini beberapa kabar soal disinformasi dan upaya menangkalnya pekan ini yang mungkin terselip dari perhatian. Kami mengumpulkannya untuk Anda.

    - Setelah dihantam kritik soal kebijakannya mengecualikan pernyataan politikus dari pemeriksaan fakta, Facebook merilis kebijakan baru untuk menekan penyebaran hoaks, yakni membubuhkan label yang lebih jelas pada unggahan yang memuat informasi palsu. Selain itu, pada 21 Oktober 2019, Facebook menghapus empat jaringan akun yang berbasis di Iran dan Rusia karena melakukan perilaku tidak autentik yang terkoordinasi. Menurut Facebook, jaringan-jaringan itu memakai identitas yang menyesatkan pengguna dan mengunggah berita-berita politik yang menghasut.

    - Beberapa anggota kongres Amerika Serikat mengirimkan sebuah surat kepada bos Apple, Tim Cook, yang mengkritik keputusannya menghapus aplikasi bernama HKMap dari App Store. Aplikasi itu digunakan untuk demonstran Hong Kong untuk melacak keberadaan polisi. Namun, menurut Apple, aplikasi itu digunakan untuk aktivitas kriminal sehingga mesti dihapus. Surat itu juga berisi pernyataan: “Kasus-kasus semacam ini menimbulkan kekhawatiran apakah Apple lebih memilih untuk tunduk pada tuntutan Cina daripada kehilangan satu miliar konsumen Cina.”

    - Ekonom AS, Bhaskar Chakravorti, membandingkan upaya Cina untuk meredam protes Hong Kong dengan upaya India untuk memadamkan kerusuhan Kashmir. Menurut Chakravorti, langkah Cina untuk membanjiri media sosial dengan propaganda cenderung lebih efektif untuk mengendalikan demonstran daripada langkah India untuk mematikan jaringan internet.

    - Saking populernya TikTok di AS, para siswa sekolah menengah mulai membentuk klub TikTok sebagai salah satu kegiatan ekstrakurikuler mereka. Klub ini merupakan pengembangan dari klub drama yang sudah ada. Salah satu tujuannya adalah untuk membantu sesama anggota klub membuat  konten TikTok mereka lebih viral. Menurut jurnalis senior The New York Times, Taylor Lorenz, klub ini adalah klub drama era digital.

    - Senator AS, Ron Wyden, mengusulkan Rancangan Undang-Undang terkait privasi data yang berisi sanksi terhadap platform media sosial jika mereka gagal memenuhi standar privasi dan keamanan siber. Apabila RUU itu disetujui, Komisi Perdagangan Federal AS dapat menetapkan standar privasi dan keamanan siber bagi platform media sosial serta memberikan denda hingga 4 persen dari pendapatan tahunan perusahaan tersebut jika melakukan pelanggaran.

    PERIKSA FAKTA SEPEKAN INI 

    Presiden Joko Widodo atau Jokowi memang tidak pernah absen dari sasaran hoaks. Kali ini, ada berita palsu yang mengaitkan pelantikan Jokowi dan wakilnya, Ma’ruf Amin, dengan peristiwa meletusnya Gunung Kawi, angin kencang yang melanda Gunung Merapi dan Gunung Merbabu, serta bencana yang terjadi di Gunung Semeru, Gunung Arjuno, dan Gunung Wilis.

    Berdasarkan pemeriksaan fakta Tempo, narasi itu menyesatkan. Pada 20 Oktober, Gunung Kawi tidak meletus, melainkan kebakaran. Pada saat yang sama, kebakaran juga melanda Gunung Semeru, Gunung Arjuno, dan Gunung Wilis. Sementara di Gunung Merapi dan Merbabu, terjadi angin kencang. Namun, kebakaran dan angin kencang itu tentu tidak terkait dengan dilantiknya Jokowi-Ma’ruf. 

    Selain artikel di atas, kami juga melakukan pemeriksaan fakta atas beberapa hoaks yang beredar. Buka tautan ke kanal CekFakta Tempo.co untuk membaca hasil periksa fakta berikut:

    Kenal seseorang yang tertarik dengan isu disinformasi? Teruskan nawala ini ke surel mereka. Punya kritik, saran, atau sekadar ingin bertukar gagasan? Layangkan ke sini.

    Ikuti kami di media sosial:

    Facebook

    Twitter

    Instagram


     

     

    Lihat Juga



    Selengkapnya
    Grafis

    Cegah Covid-19, Kenali Masker Kain, Bedah, N95, dan Respirator

    Seorang dokter spesialis paru RSUP Persahabatan membenarkan efektifitas masker untuk menangkal Covid-19. Tiap jenis masker memiliki karakter berbeda.