- Lagi-lagi, siaran langsung yang menunjukkan aksi bunuh diri beredar di media sosial. Berbagai upaya perusahaan media sosial belum cukup untuk menghentikan seseorang menyiarkan secara langsung tindakan bunuh dirinya. Apa yang harus dilakukan oleh perusahaan media sosial? Dan mengapa konten kekerasan, termasuk bunuh diri, langgeng menyebar di internet?
- Konten manipulasi yang diciptakan dengan kecerdasan buatan, deepfake, semakin merajalela di dunia maya. Sepanjang Januari-Juni 2020, jumlah video deepfake yang beredar di internet meningkat lebih dari dua kali lipat menjadi 49.081 video dibandingkan sebelumnya. Baru-baru ini, di Asia, muncul sejumlah video deepfake dengan kualitas yang meyakinkan. Namun, bermunculan pula beberapa teknologi untuk mendeteksi deepfake.
Halo pembaca Nawala CekFakta Tempo! Pada awal September 2020 lalu, jagat media sosial dihebohkan dengan video yang memperlihatkan aksi bunuh diri seorang pria. Sudah ke sekian kalinya kita terpaksa menonton video kekerasan yang mengakibatkan beberapa dari kita mengalami trauma. Bagaimana video semacam itu menjadi viral? Dan mengapa sangat sulit untuk menghapus video-video tersebut dari muka bumi ini?
Apakah Anda menerima nawala edisi 11 September 2020 ini dari teman dan bukan dari email Tempo? Daftarkan surel di sini untuk berlangganan.
Nawala edisi ini ditulis oleh Angelina Anjar Sawitri dari Tempo Media Lab.
MEDIA SOSIAL DAN VIDEO BUNUH DIRI
Seorang pria asal Mississippi, Amerika Serikat, menayangkan video penembakan dirinya sendiri di Facebook Live pada 31 Agustus 2020 lalu. Tanpa disadari, tindakan ini memaksa kawan-kawan dan keluarga pria itu menjadi saksi atas tragedi bunuh diri tersebut. Sayangnya, hal ini tak bisa dihindari, mengingat sifat media sosial di mana sebuah konten, tatkala sudah diunggah, bakal dilihat oleh banyak orang, atau bahkan menjadi viral.
Dan memang, video bunuh diri pria itu menyebar ke seantero media sosial, mulai dari Twitter, Instagram, TikTok, bahkan Snapchat. Ada warganet yang memang penasaran dan sengaja mencari video itu. Tapi ada pula warganet yang tidak sengaja menontonnya, karena beberapa orang menggabungkan video itu dengan video lain yang tidak terkait, misalnya video anak kucing atau anak anjing, untuk memikat anak-anak. Konsekuensinya, trauma.
Bukan kali ini saja video bunuh diri yang disiarkan secara langsung beredar di media sosial. Dan perusahaan-perusahaan media sosial telah mencoba mengendalikan konten kekerasan selama bertahun-tahun, terutama sejak diperkenalkannya fitur “live” yang lebih sulit dipantau. Facebook misalnya, sudah membuat algoritma dan metode pelaporan untuk menyaring konten bunuh diri setidaknya sejak 2017.
Setelah seorang pria bersenjata menyiarkan penembakan massal di sebuah masjid di Christchurch, Selandia Baru, tahun lalu, Facebook juga melarang pengguna yang pernah melanggar aturan platform untuk menggunakan Facebook Live. Namun, upaya-upaya itu tidak cukup untuk menghentikan seseorang menyiarkan tindakan bunuh dirinya.
Di TikTok, video bunuh diri pria Mississippi itu muncul di halaman “For You”, yang berfungsi sebagai halaman rekomendasi konten yang telah disesuaikan untuk pengguna. TikTok menyatakan telah menghapus video nahas itu dan akan memblokir semua akun yang melakukan sejumlah upaya untuk mengunggah rekaman tersebut. Tapi, telah muncul konsekuensi kesehatan mental yang nyata bagi siapa pun yang akhirnya menonton video tersebut.
Pada 2017, remaja Inggris berusia 14 tahun, Molly Russell, bunuh diri setelah terpapar berbagai konten terkait bunuh diri di media sosial. Setelah Molly meninggal, keluarganya menemukan berbagai unggahan gambar tentang bunuh diri dan melukai diri sendiri di akun Instagram Molly. Kepada BBC, ayah Molly menyatakan bahwa Instagram “membantu membunuh anak saya”. Ia pun memaksa Instagram berjanji untuk menghapus konten-konten yang berbahaya itu.
Jackie Doyle-Price, menteri pencegahan bunuh diri Inggris, mengatakan konten tentang bunuh diri dan melukai diri sendiri di internet “memiliki efek mendorong seseorang untuk bunuh diri”. Jackie mendesak perusahaan-perusahaan media sosial untuk melindungi pengguna yang rentan. Setelah kejadian itu, pemerintah Inggris juga mengeluarkan undang-undang baru yang memaksa platform media sosial menghapus konten ilegal.
Pasca video bunuh diri pria Mississippi beredar, Komisioner eSafety Australia Julie Inman-Grant mengatakan perusahaan media sosial perlu memaksimalkan sumber daya mereka untuk mendeteksi dan menghapus konten semacam itu dengan lebih cepat. “Ini adalah contoh lain dari sifat viral internet, dan efek merusak dari konten seperti itu akan mempengaruhi mereka yang menonton konten berbahaya tersebut serta keluarga orang yang ada di video itu,” ujar Inman-Grant.
Menurut dosen media digital di School of Communication Queensland University of Technology, Ariadna Matamoros-Fernandez, realitanya, pengguna akan terus mengunggah konten yang mengganggu dan platform tidak mungkin memoderasi sebelum konten diunggah. Dan setelah sebuah konten tayang, tidak butuh waktu lama bagi konten tersebut untuk berpindah ke platform lain. Karena itu, menuding hanya ke satu platform media sosial tidak akan menyelesaikan masalah. “Yang dibutuhkan adalah pendekatan terkoordinasi di mana raksasa media sosial bekerja sama,” ujar Matamoros-Fernandez.
Apalagi, banyak aktor yang kerap menyunting sebuah video yang berbahaya untuk mengurangi kemungkinan deteksi oleh sistem pembelajaran mesin moderasi konten. Mereka bisa memotong video itu, menggabungkannya dengan video yang tidak berbahaya, memasang filter, atau mengubah audio untuk mempersulit sistem moderasi konten mendeteksinya secara otomatis.
Memang, menurut Matamoros-Fernandez, meminta para raksasa media sosial menghasilkan pendekatan terkoordinasi tidaklah mudah. Biasanya, platform tidak berbagi sumber daya dan bekerja sama secara global untuk menangani moderasi konten. “Tapi mungkin mereka harus melakukannya. Ada peran warga juga. Setiap kali video yang mengganggu beredar, lebih banyak orang yang mencari video itu, lalu membicarakannya dengan teman-teman mereka dan berkontribusi terhadap peredarannya,” kata Matamoros-Fernandez.
Jangan remehkan depresi. Untuk bantuan krisis kejiwaan atau tindak pencegahan bunuh diri di Indonesia, hubungi Yayasan Pulih (021-78842580).
DEEPFAKE MULAI ANCAM ASIA
Konten manipulasi yang diciptakan dengan kecerdasan buatan atau artificial inteligence (AI), deepfake, semakin menjamur di internet. Deep Trace Lab, perusahaan teknologi pendeteksi deepfake, menemukan bahwa jumlah video deepfake yang beredar meningkat lebih dari dua kali lipat menjadi 49.081 video hanya dalam enam bulan, sepanjang Januari-Juni 2020. Di Barat, jumlah deepfake telah meningkat sejak tahun lalu. Di Asia, sejumlah video deepfake yang meyakinkan mulai bermunculan belakangan ini.
- Produser sebuah serial televisi Cina mengganti wajah aktrisnya, Liu Lu, dengan wajah aktris lain. Pasalnya, Lu masuk daftar hitam di negaranya sehingga kontraknya dihentikan. Karena seluruh adegan Lu di serial itu telah direkam, akhirnya wajah Lu ditukar dengan wajah aktris lain dengan teknologi deepfake.
- Di India, video deepfake yang memperlihatkan Ketua Partai Bharatiya Janata (BJP) Delhi Manoj Tiwari meminta dukungan suara dalam pemilihan majelis beredar pada Februari 2020. Video ini dibuat dalam dua bahasa, yakni bahasa Inggris dan bahasa Haryanvi (bahasa atau dialek Indo-Arya Tengah yang digunakan di Haryana, India).
Sejak awal kemunculannya, teknologi deepfake telah memicu kekhawatiran terkait penyalahgunaannya dalam penyebaran misinformasi, terutama di bidang politik. Kekhawatiran lainnya, teknologi ini digunakan untuk pemerasan dan penipuan demi keuntungan finansial. Tahun lalu, perusahaan energi yang berbasis di Inggris menjadi korban. Pelaku menggunakan perangkat lunak berbasis AI untuk meniru suara pejabat eksekutif perusahaan itu, lalu menuntut perusahaan mentransfer uang sekitar US$ 244 ribu ke sebuah perusahaan pemasok di Hungaria.
- Meskipun ancaman deepfake meningkat, alat-alat pendeteksi deepfake juga mulai bermunculan. Pada 7 September 2020, Microsoft mengumumkan sebuah alat digital baru untuk membantu mengetahui ada atau tidaknya deepfake dalam sebuah foto, video, atau rekaman suara. Alat yang bernama Microsoft Video Authenticator ini menelisik perubahan-perubahan halus dalam setiap foto, video, maupun audio yang hanya bisa “dilihat” oleh komputer. Visualisasi deepfake didapat kala sistem mendeteksi, misalnya garis-garis batas yang bercampur atau unsur abu-abu dan pemudaran yang lembut yang biasanya tak bisa dilihat dengan mata telanjang.
- Peneliti Universitas Binghamton dan Intel memperkenalkan teknologi yang tidak hanya bisa membedakan video deepfake dari video orisinil, tapi juga mengenali perangkat lunak yang digunakan untuk menghasilkan video palsu tersebut. Peneliti menemukan bahwa detak jantung manusia akan membuat sedikit perubahan pada warna kulit saat darah mengalir ke seluruh tubuh, dan teknologi deepfake belum bisa meniru variasi halus tersebut. Alat pendeteksi ini menggunakan teknologi photoplethysmography (PPG) untuk mengamati sinyal biometrik dalam 32 sel PPG pada wajah subyek.
- Deepfake Detection Challenge yang digelar oleh Facebook bersama Microsoft, Amazon Web Services, dan Partnership on AI, yang dijalankan di Kaggle, platform kontes coding milik Google, telah menghasilkan lebih dari 35 ribu model deteksi deepfake. Model terbaik yang muncul dari kontes itu mampu mendeteksi 82 persen dari sekitar 100 ribu video deepfake yang disediakan oleh Facebook. Namun, ketika algoritma itu diuji terhadap serangkaian deepfake yang sebelumnya tidak terlihat, kinerjanya turun menjadi sekitar 65 persen.
WAKTUNYA TRIVIA!
Berikut beberapa kabar tentang misinformasi dan disinformasi, keamanan siber, serta privasi data pekan ini, yang mungkin terselip dari perhatian. Kami mengumpulkannya untuk Anda.
- Setelah sebelumnya membatasi pesan yang diteruskan di WhatsApp, Facebook mengimplementasikan kebijakan itu di Messenger. Lewat fitur ini, sebuah pesan hanya bisa diteruskan ke lima akun atau grup pada satu waktu. Jika mencoba meneruskan pesan ke lebih dari lima akun atau grup sekaligus, pengguna akan mendapatkan peringatan “jumlah pesan yang diteruskan telah mencapai batas”. Fitur ini, menurut Facebook, berfungsi untuk “memperlambat penyebaran misinformasi menjadi viral, dan konten berbahaya yang berpotensi menyebabkan kekacauan di dunia nyata”.
- Tim kampanye Donald Trump menjalankan iklan di Facebook yang berisi foto pesaingnya, Joe Biden, yang telah dimanipulasi sehingga tampak lebih tua. Iklan yang berlabel “Sleepy Joe” ini memperlihatkan Biden yang sedang menatap ke arah depan dengan latar belakang gelap serta mulut yang sedikit menganga. Menurut laporan Huffpost, ini adalah contoh terbaru dari tim kampanye Trump yang menyebarkan citra hasil manipulasi atau keluar dari konteks untuk menyerang Biden.
- Komisi Persaingan dan Konsumen Australia membuka penyelidikan terhadap Apple App Store dan Google Play Store. Komisi ini ingin melihat persaingan antara kedua toko aplikasi itu dan cara mereka berbagi data. Otoritas persaingan Italia juga membuka penyelidikan terhadap layanan penyimpanan cloud yang dioperasikan oleh Apple, Dropbox, dan Google. Langkah ini diambil sebagai tanggapan atas keluhan tentang bagaimana perusahaan-perusahaan itu mengumpulkan data pengguna untuk tujuan komersial.
- Terkait kasus peretasan akun Twitter para pesohor, seperti Elon Musk, Bill Gates, dan Barack Obama, biro investigasi Amerika Serikat FBI kembali mengidentifikasi seorang terduga pelaku, yakni remaja berusia 16 tahun asal Massachusetts. Remaja tersebut disebut berperan penting dalam peretasan itu. Dia diduga satu komplotan dengan Graham Clark, 17 tahun; Nima Fazeli, 22 tahun; dan Mason Sheppard, 19 tahun, yang pada Juli 2020 sudah ditetapkan sebagai tersangka.
- The Social Dillema, sebuah film drama dokumenter yang tayang perdana di Netflix pekan ini, menyuguhkan tontonan yang sederhana tentang kejahatan platform media sosial. Film ini mengajukan penjelasan yang populer mengapa media sosial memperburuk masalah-masalah terbesar di dunia. Lewat wawancara ahli yang diselingi dengan segmen naratif, The Social Dillema berpendapat bahwa jejaring sosial yang didukung oleh iklan itu menggunakan elemen antarmuka yang adiktif dan personalisasi otomatis untuk meningkatkan interaksi dengan konten yang berbahaya tapi menarik.
PERIKSA FAKTA SEPEKAN INI
Video yang diklaim sebagai video demonstrasi di Polandia untuk menuntut agar pandemi Covid-19 diakhiri beredar di Facebook. Menurut klaim yang menyertai video itu, warga Polandia menuntut pandemi diakhiri karena sudah menyadari bahwa Covid-19 adalah penipuan. Dalam video berdurasi 16 detik ini, terlibat ribuan orang yang menyemut di jalanan sebuah kota sembari membentangkan bendera berwarna putih-merah-putih dalam berbagai ukuran.
Berdasarna pemeriksaan fakta Tempo, klaim tersebut keliru. Pertama, demonstrasi dalam video itu digelar di Belarusia, bukan Polandia. Unjuk rasa ini pun tidak terkait Covid-19, melainkan soal tuntutan agar Presiden Belarusia Alexander Lukashenko mengundurkan diri karena dianggap mencurangi pemilu. Covid-19 pun bukan penyakit palsu atau penipuan. Di seluruh dunia, sebanyak 896.988 orang meninggal karena infeksi virus Corona jenis baru tersebut.
Selain artikel di atas, kami juga melakukan pemeriksaan fakta terhadap beberapa hoaks yang beredar. Buka tautan ke kanal CekFakta Tempo.co untuk membaca hasil periksa fakta berikut:
- Benarkah gereja ini dibangun dari tulang umat Islam yang menolak dikristenkan?
- Benarkah qari pelantun ayat Alquran di video ini dari Papua?
- Benarkah Jokowi disebut tak berkemampuan tapi punya daya rusak oleh peneliti Australia?
- Benarkah UAS sebut Facebook haram di poster ini?
- Benarkah Tentara Merah Cina berkamuflase jadi Banser NU untuk adu domba muslim?
- Benarkah Erick Thohir sebut tak akan copot Ahok karena punya kepentingan dengan Cina?
- Benarkah media Vatikan memuat berita Anies yang dicemooh orang Italia?
- Benarkah Cina bangun pangkalan militer di Indonesia?
- Benarkah ribuan ikan datangi pantai Gaza usai Israel larang nelayan Palestina melaut?
- Benarkah Rizieq Shihab bersumpah tak akan masuk Indonesia seumur hidup?
Kenal seseorang yang tertarik dengan isu disinformasi? Teruskan nawala ini ke surel mereka. Punya kritik, saran, atau sekadar ingin bertukar gagasan? Layangkan ke sini.
Ikuti kami di media sosial:
