- Walaupun di masa mendatang konten disinformasi berbentuk “deepfake” membahayakan, saat ini ancaman lebih besar justru datang dari format kurang canggihnya, yang dinamai “cheapfake” atau “shallowfake”
- Hari ini, sidang perdana sengketa Pemilu 2019 dimulai di Mahkamah Konstitusi. Pemerintah membuka kembali opsi pembatasan akses ke media sosial. Apakah kita mesti bersiap mengunduh VPN setiap kali potensi kerusuhan terjadi?
Selamat petang, pembaca CekFakta Tempo. Di nawala ini, saya beberapa kali membahas tentang deepfake (belum saya temui padanan katanya dalam Bahasa Indonesia). Namun, setiap kali ada pembaruan soal topik ini, saya tetap saja merasa geregetan. Masih sangat sedikit yang kita tahu soal cara mengatasi deepfake. Sementara kemajuan kecerdasan buatan yang dipakai para pembuat konten palsu macam ini terlalu pesat untuk dihiraukan. Mari menyelami lebih dalam tentang isu ini.
Apakah Anda menerima nawala edisi 14 Juni 2019 ini dari teman, dan bukan dari email Tempo? Daftarkan surel di sini untuk berlangganan.
Edisi ini ditulis oleh Astudestra Ajengrastri dalam kerangka program TruthBuzz untuk Tempo.co. Ketahui lebih lanjut tentang program ini dan misi saya di bagian bawah surel.
DEEPFAKE, CHEAPFAKE, SHALLOWFAKE — SEGALA HAL YANG ANDA HARUS TAHU
Jika Anda aktif di Twitter, beberapa pekan lalu beredar sebuah video pendek soal deepfake. Samsung, melalui laboratorium kecerdasan buatannya yang berada di Rusia, mengembangkan video orang berbicara dari gambar diam. Monalisa, yang dilukis Leonardo Da Vinci di abad ke-15 itu, dibuat bisa berbicara oleh Samsung—dari tiga sudut berbeda pula.
Samsung hanya butuh satu foto atau lukisan saja untuk membuat video yang cukup meyakinkan ini. Padahal, sebelumnya, pembuatan video deepfake yang hasilnya mendekati asli butuh ribuan foto diam dari subyeknya.
Pesatnya kemajuan mesin kecerdasan buatan untuk menciptakan realitas yang benar-benar baru ini tidak hanya terlihat dari proyek Samsung.
Ian Goodfellow, direktur pembelajaran mesin dari Apple, mengumpulkan lima gambar wajah manusia yang dibuat oleh mesin (tidak satu pun dari lima foto ini adalah orang di dunia nyata) dari lima tahun terakhir sebagai perbandingan, seperti ditulis oleh Vox.
Pada 2014, teknik pembuatan wajah manusia dengan mesin dimulai. Wajah yang mampu dibuat mesin masih buram dan sangat generik. Mirip muka orang yang muncul di video-video CCTV. Tahun demi tahun, wajah manusia yang diciptakan mesin menjadi semakin spesifik, menampilkan unsur-unsur etnis dan ras tertentu. Lihat saja foto wanita dalam foto paling kanan di bawah ini. Saya bisa membayangkan ngobrol panjang lebar dengannya. Padahal dalam kenyataan, wanita dalam gambar ini tidak pernah ada.
Kemarin, sebuah video CEO Facebook Mark Zuckerberg diunggah ke Instagram. Dalam video itu, Zuckerberg mengakui Facebook menggunakan data pribadi penggunanya untuk tujuan jahat. Video ini, tentu saja, palsu. Rekaman asli video ini diambil pada 2017, saat Zuckerberg menjelaskan perusahaanya tak terkait dengan usaha Rusia mencampuri pemilu 2016 di AS. Sementara ekspresi wajah dimanipulasi dengan teknik facial reenactment, suara Zuckerberg palsu diisi oleh seniman peniru suara.
Video deepfake ini diciptakan oleh perusahaan teknologi asal Israel, Canny AI, yang juga membuat deepfake serupa dengan video Kim Kardhasian dan sejumlah selebriti lain untuk proyek instalasi seni di Inggris, 6-11 Juni.
Namun, bila pembuatan konten deepfake masih butuh teknologi tinggi dan mahal yang hanya dimiliki segelintir perusahaan teknologi, tidak begitu halnya dengan shallowfake (penggunaan kata “shallow” sebagai kebalikan dari “deep”). Konten fabrikasi jenis ini murah dan mudah, sehingga kerap pula disebut sebagai cheapfake.
Contoh terbaru, video manipulasi Ketua DPR AS dari Partai Demokrat Nancy Pelosi.
Video Pelosi, 75 tahun, yang berpidato dengan suara diseret-seret layaknya orang yang sedang mabuk beredar pertama kali di Facebook pada 23 Mei 2019. Washington Post menemukan video ini dimanipulasi dari versi aslinya. Pengedit video ini melambatkan video asli sebanyak 75 persen, lalu mengatur ketinggian nada video yang telah dipelankan sehingga terdengar seperti suara asli Pelosi.
Teknik ini bisa dilakukan siapa saja, berbekal kemampuan edit video yang tutorialnya banyak tersebar di YouTube.
Mengapa isu ini penting? Penyebaran video deepfake ditangani berbeda oleh platform media sosial. Facebook menolak menghapus video-video palsu deepfake, karena secara teknis tidak menyalahi aturan komunitas mereka. Di Facebook, video palsu Pelosi dan Zuckerberg masih beredar, meski diberi label peringatan dari program pemeriksa fakta pihak ketiga mereka. Twitter merancang algoritma supaya video dari sumber tidak dipercaya terkubur paling bawah di lini masa publik. Sementara YouTube dengan cepat menghapus video “Pelosi mabuk” yang ada di platform-nya.
Kemarin, Komite Intelijen DPR AS melakukan sidang dengar pendapat tentang risiko keamanan yang potensial terjadi karena kecerdasan buatan. Ke depannya, bukan tidak mungkin ada aturan keras soal isu deepfake yang bakal berefek pada pengembangan teknologi atau platform media sosial.
SAYA MEREKOMENDASIKAN SUPAYA ANDA MENYISIHKAN WAKTU UNTUK MEMBACA DUA ARTIKEL INI!
Yang pertama, ‘I was a Macedonian fake news writer’ oleh Simon Oxenham untuk BBC Future.
- Oxenham mewawancarai “Tamara”, seorang wanita di Skopje, Macedonia Utara, yang selama sembilan bulan bekerja sebagai penulis konten hoaks yang ditujukan bagi pembaca AS.
- Ia mendapatkan pekerjaan menulis ini dari seorang pemuda bernama Marco. Belakangan, diketahui Marco (dan banyak remaja lain) mengelola sejumlah situs hiperpartisan yang berisi konten hoaks, propaganda, dan Islamofobia.
- Situs-situs yang berbasis di Veles, sebuah kota kumuh di Macedonia, ini menghasilkan keuntungan hingga US$ 2 ribu per hari dari pendapatan iklan Google.
- Tamara mengaku mengalami pergolakan batin saat menulis artikel semacam ini, sehingga kali kedua Marco menawari pekerjaan serupa, ia menolaknya mentah-mentah.
- “Ya Tuhan, siapa yang mau percaya tulisan sampah seperti ini? Betapa tidak berpendidikannya, betapa bodohnya mereka yang mau membacanya,” batin Tamara setiap kali membaca ulang tulisannya sendiri.
Artikel kedua, The Making of a YouTube Radical, yang ditulis oleh Kevin Rose untuk New York Times.
- Caleb Cain, 26 tahun, tak sengaja menemukan video bermuatan gerakan far-right di YouTube pada 2016 saat sedang binge-watch. Algoritma YouTube kemudian menuntunnya menonton ribuan video serupa selama kurun waktu dua tahun, membuatnya mengaku seperti “tercuci otaknya”.
- Dalam artikel ini, Anda bisa melihat data yang tersimpan dari sejarah peramban komputer dan telepon pintar Cain. Dalam 48 jam di tahun 2015, misalnya, Cain menonton lebih dari 30 video ekstrim kanan yang membahas berbagai hal: mulai dari teori konspirasi, video-video rasis dan pro-supremasi kulit putih, sampai video soal ide bahwa feminisme adalah hal berbahaya.
- Dalam kurun waktu itu, Cain mengaku pemikirannya menjadi radikal dan rasis. Hingga pada 2018, dia tiba-tiba menemukan video bermuatan left-wing di rekomendasi pencarian YouTube-nya. Pembaruan algoritma terjadi di platform ini.
WAKTUNYA TRIVIA!
Informasi-informasi sekilas yang mungkin terselip dari perhatian. Kami mengumpulkannya untuk Anda.
- Sidang pertama sengketa Pemilihan Presiden 2019 berlangsung di Mahkamah Konstitusi hari ini. Pemerintah melalui Kementerian Komunikasi dan Informatika mempertimbangkan untuk lagi-lagi membatasi sebagian fitur aplikasi WhatsApp dan media sosial “jika ada peningkatan hoaks”. (via Kompas)
- Kita pun masih menanti apakah sidang perdana ini akan kembali menimbulkan ekskalasi. Prabowo Subianto dan Sandiaga Uno memutuskan urung hadir ke MK supaya tidak ada massa pendukung yang turut datang. Namun apakah imbauan Prabowo ini akan dituruti pendukungnya? Sekretaris PA 212 Bernard Abdul Jabbar yang dihubungi Tempo mengatakan menghormati imbauan Prabowo, namun pihaknya masih menanti instruksi Rizieq Shihab, soal apakah PA 212 akan melakukan unjuk rasa atau tidak.
- CNN Indonesia mewawancarai pakar hukum administrasi negara Dian Puji Simatupang soal posisi Ma’ruf Amin sebagai Dewan Pengawas Syariah di BNI Syariah dan Bank Mandiri Syariah, keduanya adalah anak usaha BUMN. Dalam analisisnya, Dian mengatakan MK akan menelan pil pahit dalam soal ini, mengingat Putusan MK Nomor 48 Tahun 2013 dan Nomor 62 Tahun 2013 berisi keputusan bahwa anak perusahaan yang mendapat (dana) dari keuangan negara, adalah (milik) negara.
- Pemerintah melalui Kementerian Keuangan akan mengubah skema penghitungan kewajiban pajak untuk perusahaan raksasa berbasis internet. Pajak tidak lagi berdasar bentuk usaha tetap, namun berdasar volume transaksi kegiatan ekonomi. “Seberapa banyak mereka mendapatkan keuntungan di Indonesia,” kata Menteri Keuangan Sri Mulyani. (via Instagram Kompas Data)
- Bicara soal keuntungan perusahaan teknologi, pada 2018, Google meraup keuntungan sebesar US$ 4,7 miliar dari bisnis media melalui mesin peramban dan aplikasi Google News. Jumlah ini hanya terpaut sedikit dari keuntungan sebesar US$ 5,1 miliar yang diperoleh oleh gabungan dari seluruh perusahaan media AS di tahun yang sama.
- Teyit, sebuah startup pemeriksa fakta dari Turki, patut mendapat acungan jempol karena inovasi-inovasi yang mereka lakukan di dunia pengecekan fakta. Dengan awak redaksi sebanyak 11 orang saja, Teyit memaksimalkan penggunaan sosial media dan fitur-fiturnya, seperti mengeksplorasi bentuk urun daya dalam men-debunk misinformasi, membuat sticker-pack WhastApp yang bisa dipakai untuk menanggapi sebaran hoaks di platform ini, dan dalam delapan bulan saja berhasil memiliki lebih dari 91 ribu pengikut di Instagram.
PERIKSA FAKTA SEPEKAN INI
Selama libur lebaran, kami masih melakukan pemeriksaan fakta atas beberapa hoaks yang beredar. Buka tautan ke kanal CekFakta Tempo.co untuk membaca hasil periksa fakta berikut:
- Video editan motivator Merry Riana menyebut Indonesia akan punah pada 2024.
- Video yang menyebut Ka’bah diserang bom bunuh diri.
- Informasi yang dipelintir soal harga tiket kereta Jakarta-Surabaya yang membuat rakyat sengsara.
- Unggahan sesat soal Yogyakarta yang menuntut referendum pascapemilu.
- Tentang alasan mengapa petisi pencopotan Anies Baswedan sebagai gubernur DKI Jakarta dibuat.
TENTANG TRUTHBUZZ
TruthBuzz adalah program fellowship dari International Center for Journalists (ICFJ) yang bertujuan untuk memperluas literasi dan mengatasi permasalahan disinformasi di lima negara yakni Indonesia, India, Nigeria, Brazil, dan Amerika Serikat. Saya adalah penerima fellowship ini di Indonesia. Salah satu misi saya bersama Tempo.co adalah untuk menyebarkan hasil kerja tim pemeriksa fakta yang menangkis berbagai hoaks.
Kenal seseorang yang Anda rasa tertarik dengan isu disinformasi? Teruskan nawala ini ke surel mereka. Punya kritik, saran, atau sekadar ingin bertukar gagasan? Layangkan ke sini.
Ikuti kami di media sosial:
