CekFakta #69 Menebar Propaganda Lewat Deepfake

Reporter:
Editor:

Philipus Parera

  • Font:
  • Ukuran Font: - +
  • Gambar tangkapan layar video yang memperlihatkan perbedaan antara rekaman asli dengan deepfake. Credit: Kanal YouTube WatchMojo

    Gambar tangkapan layar video yang memperlihatkan perbedaan antara rekaman asli dengan deepfake. Credit: Kanal YouTube WatchMojo

    • Reuters menemukan seorang mahasiswa Inggris yangmenulis sejumlah kolom terkait Yahudi di berbagai media populer bukanlah orang yang nyata. The Daily Beast pun menemukan jaringan penulis palsu yang memakai foto deepfake dan telah menulis 90 kolom opini selama 2019. Kasus-kasus ini menambah panjang daftar di mana deepfake digunakan untuk tujuan jahat, dalam hal ini menyebarkan propaganda lewat media.
    • Pada pertengahan Juli 2020, Twitter dibobol peretas. FBI telah menggelar investigasi terkait peretasan yang menarget 130 akun pesohor tersebut. Sebelumnya, pelaku peretasan mengaku membayar seorang karyawan Twitter untuk mengubah alamat e-mail akun pengguna kemudian mengatur ulang kata sandinya. Tapi menurut Twitter karyawannya hanyalah korban social engineering.

    Halo pembaca Nawala CekFakta Tempo! Dalam edisi kali ini, saya ingin memaparkan sejumlah kasus yang memperlihatkan pemanfaatan deepfake untuk menebar propaganda lewat media-media besar. Ada seorang penulis jadi-jadian yang dideskripsikan sebagai “mahasiswa Universitas Birmingham” yang diinvestigasi oleh Reuters. The Daily Beast juga menerbitkan laporan tentang jaringan 19 penulis palsu yang memakai foto hasil kecerdasan buatan yang telah menulis puluhan kolom opini terkait isu Timur Tengah. Tahun lalu, Facebook menemukan ratusan akun dengan foto-foto deepfake yang terafiliasi dengan Epoch Media Group.

    Apakah Anda menerima nawala edisi 24 Juli 2020 ini dari teman dan bukan dari email Tempo? Daftarkan surel di sini untuk berlangganan.

    Nawala edisi ini ditulis oleh Angelina Anjar Sawitri dari Tempo Media Lab.

    MENEBAR PROPAGANDA LEWAT DEEPFAKE

    Pekan lalu, kantor berita Reuters memuat kisah tentang seorang mahasiswa Universitas Birmingham, Inggris, Oliver Taylor. Dalam profil online Taylor disebut sebagai pecinta kopi dan pecandu politik yang dibesarkan dalam keluarga Yahudi. Taylor telah menulis setengah lusin kolom opini terkait isu-isu Yahudi dan anti-Semitisme di berbagai media populer, seperti Jerusalem Post dan Times of Israel. Tapi investigasi Reuters menemukan pemuda 20-an tahun itu bukanlah orang yang nyata.

    Investigasi Reuters ini berawal dari laporan akademisi London, Mazen Masri, yang pada akhir 2018 menggugat NSO—perusahaan teknologi Israel yang juga digugat WhatsApp pada 2019 karena produk spyware andalannya, Pegasus, diduga berada di balik peretasan perangkat sejumlah pengguna WhatsApp. Dalam sebuah artikel di surat kabar Yahudi AS, The Algemeiner, Taylor menuduh Masri dan istrinya, Ryvka Barnard yang seorang aktivis pro-Palestina, sebagai “simpatisan teroris”.

    Setelah ditelusuri, Taylor ternyata tidak meninggalkan jejak digital apa pun di luar akun situs tanya-jawab Quora, di mana dia sempat aktif selama dua hari pada Maret 2020. Universitas Birmingham yang diklaim sebagai kampus Taylor pun menyatakan tidak memiliki catatan tentangnya. Dua surat kabar yang pernah memuat tulisannya telah mencoba menghubungi Taylor, tapi gagal mengkonfirmasi identitasnya.

    Adapun para ahli yang diwawancarai Reuters menemukan bahwa foto profil Taylor memiliki karasteristik deepfake, yakni konten manipulatif yang diciptakan dengan kecerdasan buatan atau artificial intelligence (AI). “Distorsi dan ketidakkonsistenan di latar belakang adalah tanda dari gambar yang disintesis, seperti juga beberapa glitch di sekitar leher dan kerah bajunya,” kata ahli forensik digital dari Universitas California Berkeley, Hany Farid.

    Reuters menyatakan tidak mengetahui aktor di belakang Taylor. Panggilan ke nomor telepon Inggris yang ia berikan kepada editornya mengarah pada pesan eror otomatis. Taylor pun tidak merespons pesan elektronik yang dikirimkan Reuters ke alamat Gmail yang ia gunakan untuk korespondensi. Kasus Taylor ini, yang disebut Reuters sebagai “new disinformation frontier”, menambah panjang daftar di mana gambar sintesis yang sangat realistis dari orang yang tidak nyata digunakan untuk tujuan jahat.

    Pada 6 Juli lalu, The Daily Beast memuat laporan tentang jaringan 19 penulis palsu yang memakai foto profil sintesis dari orang yang tidak nyata dan telah menulis 90 kolom opini untuk 46 publikasi berita konservatif selama 2019. Artikel-artikel itu kebanyakan memuji Uni Emirat Arab dan menganjurkan pendekatan yang lebih keras terhadap Qatar, Turki, Iran, dan kelompok-kelompok proksi mereka yang berada di Irak dan Lebanon.

    Salah satu penulis dalam jaringan itu bernama Raphael Badani. Kolom opininya pernah dimuat di Newsmax, Washington Examiner, RealClear Markets, American Thinker, dan The National Interest. Badani dideskripsikan pernah berkarir sebagai “konsultan risiko geopolitik dan perancang simulasi interaktif” serta “analis senior hubungan internasional” untuk Departemen Tenaga Kerja. Profil LinkedIn-nya, yang saat ini telah dihapus, juga menyebut bahwa Badani lulusan Universitas George Washington dan Universitas Georgetown.

    Setelah laporan The Daily Beast ini dipublikasikan, Washington Examiner menghapus artikel yang ditulis oleh Badani dan mengubahnya dengan catatan redaksi yang berbunyi, “Kolom opini ini telah dihapus setelah penyelidikan ke sumbernya.” Begitu pula dengan surat kabar lainnya, bahkan tanpa catatan redaksi.Twitter, pada hari saat laporan itu diterbitkan, menangguhkan akun Badani dan 15 penulis lainnya karena melanggar kebijakan perusahaan tentang manipulasi platform dan spam.

    Jauh sebelumnya, pada 20 Desember 2019, Facebook pernah menghapus ratusan akun dengan foto-foto profil palsu yang dihasilkan oleh AI yang terkait dengan Epoch Media Group, perusahaan induk dari media konservatif yang kerap memberitakan kelompok Falun Gong, The Epoch Times. “Akun-akun itu disamarkan sebagai orang Amerika,” demikian pernyataan Facebook. Investigasi Facebook menemukan akun-akun tersebut menggunakan foto profil buatan AI dari situs ThisPersonDoesNotExist.com, sebuah situs yang dibuat oleh peneliti dari Universitas Michigan untuk mengedukasi masyarakat tentang foto palsu.

    Direktur Laboratorium Penelitian Forensik Digital Dewan Atlantik, Graham Brookie, menuturkan bahwa mesin dapat menghasilkan gambar dan suara yang tidak bisa dibedakan dari hal yang nyata, atau memproduksi berbagai teks palsu, yang dapat mempercepat penciptaan informasi yang salah dan menyesatkan. Makin maraknya berbagai jaringan profil palsu tersebut, menurut Brookie, menunjukkan “masa depan disinformasi yang menakutkan yang dimungkinkan oleh kecanggihan teknologi”.

    MANIPULASI KARYAWAN DI BALIK PERETASAN TWITTER

    Pada 15 Juli 2020, sistem keamanan Twitter dibobol peretas yang kemudian mengambil alih akun milik tokoh-tokoh publik dan melakukan penipuan Bitcoin. Biro Investigasi Federal Amerika Serikat (FBI) menyatakan tengah melakukan penyelidikan terbuka terkait peretasan itu. Menurut Twitter, serangan hacker tersebut menargetkan 130 akun. Sebelumnya, pelaku peretasan itu mengakui bahwa mereka membayar seorang karyawan Twitter untuk mengubah alamat e-mail akun pengguna kemudian mengatur ulang kata sandinya. Namun, Twitter menyatakan bahwa karyawannya hanyalah korban social engineering.

    - Twitter menyatakan peretasan yang terjadi pada 15 Juli lalu menarget 130 akun. Tapi, peretas hanya bisa mengatur ulang kata sandi dari 45 akun. Pada delapan akun, hacker juga mengunduh informasi akun melalui alat “Your Twitter Data”. Namun, tidak satu pun dari delapan akun itu yang merupakan akun terverifikasi. “Kami malu, kecewa, lebih dari segalanya. Kami minta maaf. Kami tahu bahwa kami harus bekerja keras untuk mendapatkan kembali kepercayaan Anda. Kami akan mendukung semua upaya untuk membawa pelaku ke pengadilan,” ujar Twitter.

    - Menurut kepala peneliti perusahaan keamanan siber 221B, Allison Nixon, orang-orang di balik serangan itu kemungkinan berasal dari komunitas “OG”. “Berdasarkan apa yang telah kami lihat, motivasi atas serangan Twitter yang terbaru ini mirip dengan insiden sebelumnya yang telah kami amati di komunitas ‘OG’,” kata Nixon. Menurut dia, komunitas ini tidak terikat dengan negara mana pun. “Mereka adalah komunitas kriminal yang tidak terorganisir dengan skillset dasar dan merupakan kelompok penipu berantai.”

    - Twitter mengakui karyawannya menjadi target peretas. Menurut Twitter, peretas telah memanipulasi karyawannya dengan metode social engineering sehingga berhasil membobol akun di aplikasi percakapan Slack. Slack lazim dipakai oleh tim dalam perusahaan teknologi untuk membahas pekerjaan. Dalam akun Slack tersebut, terdapat data percakapan yang rahasia, yakni akun dan password ke sistem backend milik Twitter. Dengan masuk ke backend Twitter, peretas bisa memperoleh informasi kredensial seluruh pengguna Twitter, termasuk username, password, dan alamat e-mail.

    - Menurut laporan Vice, setelah muncul gelombang pengambilalihan akun, beredar gambar tangkapan layar alat administrasi pengguna internal Twitter di lingkaran peretas. Alat inilah yang diduga dipakai untuk mengambil alih akun. Vice berhasil mewawancarai dua pelaku peretasan itu, yang mengakui bahwa mereka membayar seorang karyawan Twitter untuk mengubah alamat e-mail akun-akun pesohor dengan alat internal tersebut sehingga bisa diganti kata sandinya dan diambil alih.

    - FBI sedang melakukan investigasi terbuka terkait kasus peretasan Twitter ini. FBI menyoroti adanya serangan terkoordinasi dan celah keamanan yang terekspos di sistem Twitter, di mana celah tersebut berisiko mengakibatkan masalah keamanan yang serius. Gubernur New York, Andrew Cuomo, juga meminta Departemen Keuangan AS untuk menyelidiki kasus ini. Cuomo khawatir terdapat keterlibatan pihak asing dalam kasus peretasan ini. Jaksa Agung New York, Letitia James, juga membuka penyelidikan setelah parlemen meminta Twitter untuk lebih transparan terkait serangan ini.

    - Kasus ini memunculkan kekhawatiran dari berbagai pihak terkait keamanan password pengguna. Tapi, dalam sebuah kicauan Twitter mengatakan bahwa kata kunci untuk login tetap aman. “Kami tidak memiliki bukti bahwa peretas mengakses password. Saat ini, kami tidak yakin bahwa Anda perlu me-reset password Anda,” ujar Twitter. Password dianggap masih aman lantaran, berdasarkan investigasi sejauh ini, peretas melakukan aksinya dengan mengakses sistem internal Twitter, bukan menjebol password.

    WAKTUNYA TRIVIA! 

    Berikut beberapa kabar tentang misinformasi dan disinformasi, keamanan siber, serta privasi data pekan ini, yang mungkin terselip dari perhatian. Kami mengumpulkannya untuk Anda.

    - Google akan memblokir iklan yang mempromosikan teori konspirasi terkait Covid-19 mulai 18 Agustus 2020. Juru bicara Google menyatakan kebijakan itu juga bakal berlaku untuk situs yang memuat informasi sesat dan bertentangan dengan “konsensus ilmiah”. Kebijakan ini tidak berlaku bagi halaman yang menyajikan informasi terkait penelusuran fakta atas teori konspirasi itu atau yang melaporkan keberadaan teori konspirasi tersebut. Google akan memblokir dan melarang penggunaan iklan pada situs yang melanggar kebijakan ini.

    - Twitter menonaktifkan video bergaya kampanye yang di-retweet oleh Presiden Amerika Serikat Donald Trump dari Direktur Media Sosial Gedung Putih, Dan Scavino, pada 18 Juli lalu. Langkah ini diambil setelah adanya keluhan terkait pelanggaran hak cipta dari Machine Shop Entertainment, induk usaha Machine Shop Records yang menaungi grup musik Linkin Park. Menurut laporan Reuters, video yang di-retweet Trump itu memang memasukkan lagu dari grup musik Linkin Park.

    - Iklan kampanye Trump untuk Pemilu AS 2020 di Facebook menyinggung TikTok. Lewat iklan tersebut, Trump mengklaim bahwa TikTok memata-matai para penggunanya. Iklan tersebut berisi tautan ke sebuah survei yang menanyakan apakah TikTok, platform video yang dimiliki oleh raksasa teknologi Cina ByteDance, harus dilarang di AS. Survei itu juga meminta nama dan detail kontak responden. “TikTok memata-matai Anda. TikTok tertangkap basah memantau apa yang ada di clipboard ponsel Anda,” demikian narasi yang tertulis dalam iklan tersebut.

    - Pegawai pemerintah AS bakal dilarang menggunakan TikTok di perangkat milik pemerintah. Pasalnya, “No TikTok on Government Devices Act” dari senator Josh Hawley telah disahkan dengan suara bulat oleh Komite Senat AS pada 22 Juli lalu. Kebijakan ini diambil karena TikTok dikhawatirkan mengancam keamanan data pribadi. Popularitas TikTok di kalangan remaja AS memang mendorong pengawasan dari anggota parlemen AS yang khawatir informasi pribadi mereka jatuh ke tangan pejabat pemerintah Cina.

    - Pemerintah Cina mengancam bakal menjegal perusahaan telekomunikasi Eropa, Nokia dan Ericsson, jika perusahaan teknologi Tiongkok Huawei diblokir di Benua Biru. Kementerian Perdagangan Cina menyatakan akan menerapkan kontrol ekspor yang bisa mempersulit Nokia dan Ericsson dalam mengirim produk-produk mereka yang dibuat di Cina ke negara lain. Reaksi ini muncul setelah pemerintah Inggris memerintahkan para operator telekomunikasi di negaranya untuk tidak membeli komponen jaringan 5G dari Huawei.

    - Data milik pengguna tujuh penyedia layanan virtual private network (VPN) gratis bocor. Secara akumulatif, sekitar 20 juta pengguna berpotensi terdampak oleh insiden kebocoran data ini. Peneliti keamanan siber VPN Mentor menemukan server yang digunakan oleh ketujuh penyedia layanan VPN tersebut serta data personally identifiable information (PII) pengguna. Data PII ini semestinya tidak disimpan oleh para penyedia layanan VPN tersebut.

    PERIKSA FAKTA SEPEKAN INI

    Klaim bahwa Palestina dihapus dari peta online Google Maps viral di media sosial dalam beberapa hari terakhir. Klaim itu disertai dengan gambar tangkapan layar Google Maps di mana hanya tertera nama “Israel” serta nama dua wilayah Palestina, yakni “Jalur Gaza” dan “Tepi Barat”. Tidak ada nama “Palestina” dalam gambar tangkapan layar tersebut.

    Berdasarkan pemeriksaan fakta Tempo, klaim itu menyesatkan. Google tidak pernah menghapus nama “Palestina” di peta online-nya. Pasalnya, di Google Maps, tidak pernah tercantum nama “Palestina”. Meskipun begitu, saat pengguna mencari kata “Palestina”, Google Maps tetap membawa pengguna ke wilayah administratif Palestina, yakni Jalur Gaza dan Tepi Barat. Namun, batas wilayah kedua wilayah ini berupa garis putus-putus karena wilayah tersebut merupakan wilayah sengketa.

    Selain artikel di atas, kami juga melakukan pemeriksaan fakta terhadap beberapa hoaks yang beredar. Buka tautan ke kanal CekFakta Tempo.co untuk membaca hasil periksa fakta berikut:

    Kenal seseorang yang tertarik dengan isu disinformasi? Teruskan nawala ini ke surel mereka. Punya kritik, saran, atau sekadar ingin bertukar gagasan? Layangkan ke sini.

    Ikuti kami di media sosial:

    Facebook

    Twitter

    Instagram


     

     

    Lihat Juga



    Selengkapnya
    Grafis

    Negara-negera yang Sudah Melakukan Vaksinasi Anak di Bawah 12 Tahun

    Di Indonesia, vaksin Covid-19 baru diberikan ke anak usia 12 tahun ke atas. Namun beberapa negara mulai melakukan vaksinasi anak di bawah 12 tahun.