CekFakta #100 Dilema di Tengah Kemajuan Deepfake

• Perkembangan deepfake, konten manipulasi yang dibuat dengan kecerdasan buatan, begitu pesat. Teknologi ini semakin banyak digunakan secara komersial. Ada yang memanfaatkannya sebagai konten hiburan. Di sisi lain, deepfake juga kerap disalahgunakan untuk melecehkan orang lain atau menyebarkan misinformasi. Bagaimana kita menyikapinya?
• Sejumlah negara Uni Eropa (UE) menghentikan sementara distribusi vaksin Covid-19 AstraZeneca setelah ditemukannya insiden pembekuan darah pada sejumlah penerima vaksin. Meskipun begitu, beberapa negara lain di UE memutuskan untuk terus menggunakan vaksin tersebut, sesuai rekomendasi Organisasi Kesehatan Dunia (WHO).

Halo pembaca nawala Cek Fakta Tempo! Apakah Anda sempat melihat video deepfake aktor kawakan Tom Cruise yang belakangan ini viral di TikTok? Ya, deepfake kini kerap digunakan untuk membuat konten hiburan dan semakin banyak dimanfaatkan dalam bidang komersial. Namun, sama seperti teknologi-teknologi lainnya, deepfake bisa disalahgunakan untuk menyebarkan hoaks, menyerang seseorang, hingga melancarkan penipuan.

Apakah Anda menerima nawala ini dari teman dan bukan dari e-mail Tempo? Daftarkan surel di sini untuk berlangganan.

Nawala edisi ini ditulis oleh Angelina Anjar Sawitri dari Tempo Media Lab.

DILEMA DI TENGAH KEMAJUAN DEEPFAKE

Baru-baru ini, seorang ibu asal Pennsylvania, Amerika Serikat, ditangkap oleh polisi gara-gara deepfake, konten manipulasi yang dibuat dengan teknologi kecerdasan buatan atau artificial intelligence (AI). Wanita yang bernama Raffaela Spone ini diduga menggunakan foto dan video deepfake untuk membuat pemandu sorak saingan putrinya dikeluarkan dari tim.

Wanita berusia 50 tahun itu dilaporkan mengirim konten yang menunjukkan sejumlah anggota tim pemandu sorak Victory Vipers “telanjang, minum alkohol, dan merokok” kepada pelatih. Ia juga dituduh mengirim pesan bernada kasar kepada anggota tim, orang tua mereka, serta pemilik gym tempat tim itu berlatih dengan nomor telepon palsu. Departemen Kepolisian Hilltown Township, Bucks County mendakwa dia dengan tuduhan melakukan pelecehan.

Henry Ajder, peneliti deepfake, mengatakan kejahatan seperti yang dituduhkan kepada Spone adalah sesuatu yang ia prediksi akan datang. Alat untuk menciptakan deepfake menjadi lebih mudah diakses oleh masyarakat umum melalui aplikasi, serta fitur face-swapping dan sinkronisasi bibir. “Bahkan, mereka bisa mempekerjakan orang lain lewat forum daring untuk menghasilkan deepfake yang lebih realistis,” kata Ajder.

Meskipun banyak aplikasi tidak menghasilkan gambar yang benar-benar realistis, menurut Ajder, teknologi untuk membuat gambar yang lebih realistis dapat muncul secara lebih luas dalam lima tahun ke depan. Hal ini patut diperhatikan karena, kata dia, deepfake bisa disalahgunakan untuk menyerang seseorang, menciptakan disinformasi politik, dan menipu atau memanipulasi pasar saham.

Victor Riparbelli, direktur eksekutif sekaligus salah satu pendiri Synthesia, perusahaan yang berbasis di London, Inggris, yang membuat video pelatihan karyawan berbasis AI, punya pendapat berbeda. Dia mengatakan deepfake adalah masa depan kreasi konten (content creation). Terlepas dari konotasi negatif seputar istilah deepfake, teknologi ini semakin banyak digunakan secara komersial.

Tapi menurut Chad Steelberg, direktur eksekutif Veritone, perusahaan penyedia teknologi AI asal AS, meningkatnya kekhawatiran bahwa deepfake berbahaya telah menghambat investasi untuk penggunaan teknologi tersebut di bidang komersial secara sah. “Istilah deepfake pasti mendapat respon negatif dari sisi penanaman modal di sektor tersebut. Media dan konsumen semestinya dapat dengan jelas melihat risiko yang terkait,” katanya.

Ketika serangkaian video deepfake aktor Hollywood Tom Cruise viral di TikTok beberapa waktu lalu, sejumlah pihak menyerukan itu pertanda yang mengerikan, bahwa kita masuk ke dalam era di mana AI memungkinkan siapa pun bisa membuat video palsu dengan wajah orang lain. Namun, pembuat video itu, Chris Ume, spesialis efek visual asal Belgia, membantahnya.

Ume menekankan bahwa, untuk membuat video deepfake yang benar-benar realistis seperti yang ia bikin, butuh waktu yang cukup lama serta impersonator atau peniru Tom Cruise sekelas Miles Fisher. “Anda tidak bisa melakukannya hanya dengan menekan sebuah tombol,” katanya. Satu video dibuat selama berminggu-minggu dengan algoritma perangkat lunak DeepFaceLab serta alat pengeditan. “Penggabungan CGI (computer-generated imagery) tradisional dan efek visual dengan deepfake membuatnya lebih baik,” ujar Ume.

Akun TikTok Ume bersama Fisher, @deeptomcruise, itu pun dengan cepat mengumpulkan ratusan ribu pengikut dan jutaan suka. “Ini memenuhi tujuannya,” kata Ume. “Kami bersenang-senang. Saya menciptakan kesadaran. Saya menunjukkan keterampilan saya. Kami membuat orang-orang tersenyum. Dan itu saja, proyeknya selesai,” tutur Ume.

Hany Farid, seorang profesor University of California Berkeley yang juga peneliti forensik digital dan misinformasi, mengatakan video Tom Cruise itu merupakan kategori baru deepfake yang belum pernah ia lihat sebelumnya. Umumnya, deepfake digunakan dalam pornografi. Menurut laporan Sensity, perusahaan yang fokus pada ancaman visual, pada 2019, pornografi deepfake nonkonsensus menyumbang lebih dari 90 persen dari seluruh deepfake yang beredar.

Profesor etika terapan University of Virginia, Deborah Johnson, juga menuturkan bahwa deepfake adalah bagian dari masalah misinformasi yang lebih besar yang merusak kepercayaan terhadap institusi dan pengalaman visual. “Kita tidak bisa lagi mempercayai apa yang kita lihat dan dengar secara online,” ujarnya. Ia pun menawarkan pelabelan untuk melawan deepfake. “Jika orang sadar bahwa apa yang mereka tonton adalah hasil manipulasi, kecil kemungkinan mereka tertipu,” kata Johnson.

Sementara itu, Sandra Wachter, peneliti AI di Oxford University, menyarankan agar kita tidak terlalu takut dengan teknologi. “Ya, harus ada undang-undang yang berlaku untuk menekan hal-hal buruk dan berbahaya seperti ujaran kebencian dan pornografi balas dendam (revenge porn). Individu dan masyarakat harus dilindungi dari itu. Tapi kita seharusnya tidak melarang deepfake yang digunakan sebagai satire atau kebebasan berekspresi.”

ADA APA DENGAN VAKSIN ASTRAZENECA?

Bagian ini ditulis oleh Siti Aisah, peserta Health Fellowship Tempo yang didukung oleh Facebook.

Temuan insiden pembekuan darah pada sejumlah penerima vaksin Covid-19 AstraZeneca di beberapa negara membuat distribusi vaksin ini ditunda sementara di Indonesia. Menurut Satgas Penanganan Covid-19, penundaan ini diambil karena pemerintah ingin lebih memastikan keamanan dan ketepatan kriteria penerima vaksin. Saat ini Badan Pengawas Obat dan Makanan (POM), Indonesia Technical Advisory Group on Immunization (ITAGI), serta para ahli sedang meninjau kembali apakah kriteria penerima vaksin AstraZeneca akan sama dengan kriteria penerima vaksin Sinovac dan Bio Farma.

Seorang perawat mengisi jarum suntik dengan vaksin Covid-19 AstraZeneca di pusat perawatan kesehatan di Seoul pada 26 Februari 2021, ketika Korea Selatan memulai program vaksinasi virus corona. [Jung Yeon-je / Pool melalui REUTERS]

- Beberapa negara Uni Eropa (UE) belakangan menghentikan sementara penggunaan vaksin AstraZeneca sebagai tindakan pencegahan karena adanya laporan gangguan pembekuan darah pada sejumlah penerima vaksin. Meskipun begitu, beberapa negara lain di UE memutuskan untuk terus menggunakan vaksin tersebut. Organisasi Kesehatan Dunia (WHO) menilai manfaat vaksin AstraZeneca lebih tinggi ketimbang risikonya. WHO merekomendasikan penggunaan vaksin AstraZeneca tetap dilanjutkan.

- WHO menjelaskan tromboemboli vena (penggumpalan darah di pembuluh darah) adalah penyakit kardiovaskular ketiga yang paling sering terjadi secara global. Dalam kampanye vaksinasi, merupakan hal yang rutin bagi negara-negara untuk memberi sinyal potensi efek samping usai imunisasi. Meskipun  kejadian tersebut terkait belum tentu berhubungan dengan vaksinasi itu sendiri, penyelidikan tetap harus dilakukan. WHO saat ini sedang mengkaji data keamanan terbaru yang tersedia untuk vaksin AstraZeneca.

- Menurut laporan BBC, sejumlah negara Uni Eropa akan memulai kembali distribusi vaksin AstraZeneca setelah European Medicines Agency (EMA) menyimpulkan bahwa vaksin tersebut “aman dan efektif”. EMA menemukan bahwa vaksin itu “tidak terkait” dengan risiko penggumpalan darah yang lebih tinggi. Meski denikian, EMA menyerahkan keputusan penggunaan kembali vaksin itu pada masing-masing negara. Jerman, Prancis, Italia, dan Spanyol menyatakan akan melanjutkan penggunaan vaksin tersebut. 

- Analisis WHO dan EMA menemukan belum ada kasus pembekuan darah yang dikaitkan secara langsung dengan vaksin AstraZeneca. Bahkan, kasus pembekuan darah yang dilaporkan pada orang yang menerima vaksin tersebut sangat sedikit dan jarang terjadi. Di Denmark, ditemukan satu kematian, yang memicu gelombang awal penangguhan. Sementara di Jerman, hanya ditemukan tujuh kasus pembekuan darah setelah 1,7 juta dosis vaksin AstraZeneca diberikan kepada warga di sana.

- Menurut BPOM, vaksin AstraZeneca yang masuk ke Indonesia diproduksi di Korea Selatan. Batch vaksin ini berbeda dengan batch yang diduga memicu pembekuan darah yang diproduksi di fasilitas produksi lain. BPOM tengah melakukan kajian lebih lanjut terkait isu keamanan vaksin itu demi kehati-hatian. BPOM pun berkomunikasi dengan WHO dan otoritas negara lain. Selama dalam proses kajian, vaksin AstraZeneca direkomendasikan tidak digunakan.

- Penangguhan sementara penggunaan vaksin AstraZeneca memecah belah komunitas ilmiah dan Eropa. Beberapa ahli berpendapat terdeteksinya kasus pembekuan darah yang sangat tidak biasa dan mematikan, meskipun dalam jumlah kecil, memerlukan kehati-hatian. Sementara yang lain mengatakan keputusan yang terburu-buru akan menimbulkan efek yang tidak dapat diperbaiki pada kepercayaan terhadap vaksin. Tugas untuk membangun kembali kepercayaan masyarakat akan menjadi sangat berat.

WAKTUNYA TRIVIA! 

Berikut beberapa kabar tentang misinformasi dan disinformasi, keamanan siber, serta privasi data pekan ini, yang mungkin terselip dari perhatian. Kami mengumpulkannya untuk Anda.

Ilustrasi Facebook (REUTERS)

- Facebook akan melabeli semua unggahan di platformnya yang membahas vaksinasi Covid-19. Label itu akan disertai dengan petunjuk ke laman informasi resmi tentang Covid-19. Facebook juga mengumumkan bahwa mereka telah menerapkan beberapa tindakan “sementara” baru yang bertujuan untuk membatasi penyebaran misinformasi tentang vaksin, dan menyatakan hal tersebut mengurangi distribusi konten dari pengguna yang telah melanggar kebijakannya tentang misinformasi Covid-19 dan vaksin.

- Meskipun dipenuhi dengan misinformasi tentang Covid-19, buku karya ahli teori konspirasi David Icke, The Answer, sempat menempati peringkat ke-30 dalam daftar buku terlaris di Amazon untuk bidang studi komunikasi dan media. Menurut sebuah riset yang diterbitkan baru-baru ini, popularitas itu didapatkan Icke berkat algoritma rekomendasi Amazon yang menyarankan The Answer dan buku teori konspirasi Covid-19 lainnya kepada pengguna yang mencari informasi dasar tentang virus Corona.

- Instagram memperkenalkan kebijakan baru yang membatasi interaksi antara remaja dan orang dewasa untuk membuat platformnya lebih aman bagi para pengguna muda. Instagram melarang orang dewasa mengirim pesan langsung atau direct message (DM) kepada remaja yang tidak mengikuti mereka. Perusahaan pun memperkenalkan “petunjuk keamanan” yang akan ditampilkan kepada remaja saat mereka mengirim DM kepada orang dewasa yang telah “menunjukkan perilaku yang berpotensi mencurigakan”.

- Hakim di California, Amerika Serikat, memutuskan untuk melanjutkan perkara yang melibatkan gugatan class action melawan Google. Dalam gugatan itu, Google dituduh telah diam-diam mengumpulkan data pribadi pengguna walaupun berada dalam mode penyamaran atau incognito. Gugatan itu menuntut ganti rugi setidaknya US$ 5 miliar atau sekitar Rp 72 triliun. Sebelumnya, Google telah berusaha agar kasus ini dibatalkan. Google menyatakan mode incognito bukan berarti “tidak terlihat”.

- Aplikasi pesan Signal diduga diblokir oleh pemerintah Cina. Sejak 15 Maret 2021, pengguna Signal di Cina harus terhubung ke jaringan pribadi virtual (VPN) yang memungkinkan mereka menghindari Great Firewall, sebuah sistem sensor yang memblokir situs dan aplikasi yang dianggap tidak layak oleh pemerintah Cina. Tanpa VPN, pesan pengguna Signal di Cina akan gagal terkirim. Panggilan pun tidak berhasil. Di Cina, platform seperti Facebook, Google, dan Twitter telah diblokir selama bertahun-tahun.

- Menurut Reuters, Microsoft akan menerima hampir seperempat dana bantuan Covid-19 dari pemerintah AS yang ditujukan untuk meningkatkan keamanan siber. Tapi rencana ini menuai kritik dari sejumlah anggota parlemen AS. Mereka menolak meningkatkan pendanaan bagi perusahaan yang perangkat lunaknya menjadi sasaran dua upaya peretasan besar baru-baru ini. Serangan itu memanfaatkan kelemahan produk Microsoft untuk menjangkau jaringan komputer lembaga dan perusahaan AS.

PERIKSA FAKTA SEPEKAN INI

Belakangan ini, ramai beredar informasi bahwa vaksin Covid-19 Sinovac yang saat ini digunakan di Indonesia akan kedaluwarsa pada 25 Maret 2021. Bersamaan dengan itu, menyebar pula informasi bahwa masa kedaluwarsa vaksin Sinovac adalah dua tahun. Dua informasi ini membuat banyak warganet yang menyimpulkan bahwa vaksin Sinovac diproduksi sebelum terjadinya pandemi Covid-19, yakni pada 25 Maret 2019.

Gambar tangkapan layar unggahan akun Facebook yang memuat klaim sesat terkait masa kedaluwarsa vaksin Covid-19 Sinovac.

Berdasarkan pemeriksaan fakta Tempo, klaim itu menyesatkan. Sinovac Biotech Ltd. menetapkan bahwa tanggal kedaluwarsa vaksin produksi tahap pertama mereka yang dipakai di Indonesia adalah 19 September 2023. Tapi PT Bio Farma, atas persetujuan Badan Pengawas Obat dan Makanan (BPOM), mempercepat masa kedaluwarsa vaksin Sinovac angkatan pertama tersebut, menjadi 25 Maret 2021.

Selain artikel di atas, kami juga melakukan pemeriksaan fakta terhadap beberapa hoaks yang beredar. Buka tautan ke kanal CekFakta Tempo.co untuk membaca hasil periksa fakta berikut:

• Keliru, foto SK Mendikbud yang angkat honorer jadi PNS tanpa tes
• Keliru, video berjudul “KPK Obrak-abrik Rumah Anies dan Temukan Bukti Mengejutkan”
• Keliru, klaim Raja Salman sebut Haji 2021 berlangsung normal tanpa batasan
• Keliru, klaim ini video saat KPK amankan Anies Baswedan di kantornya
• Keliru, screenshot artikel yang kutip Arief Poyuono bahwa Prabowo mau Jokowi tiga periode karena kerjanya oke
• Keliru, klaim ini video Jokowi tegur SWI OJK karena susahkan rakyat di masa pandemi
• Keliru, klaim ini foto-foto KPK geledah ruangan Anies Baswedan
• Keliru, sertifikat vaksinasi dengan vaksin Pfizer yang berefek memperpanjang ereksi

Kenal seseorang yang tertarik dengan isu disinformasi? Teruskan nawala ini ke surel mereka. Punya kritik, saran, atau sekadar ingin bertukar gagasan? Layangkan ke sini.

Ikuti kami di media sosial:

Facebook

Twitter

Instagram