CekFakta #228 Waspada! Konten Teori Konspirasi Menggunakan Teknologi AI Mulai Menyebar di Tiktok

Halo, pembaca nawala Cek Fakta Tempo!

Di era digital yang semakin canggih, munculnya teknologi kecerdasan buatan (artificial intelligence alias AI) untuk suara yang terdengar realistis, semakin membuka pintu bagi penyebaran konten teori konspirasi. Teknologi AI untuk pengolahan suara membuat proses produksi semakin sederhana, walhasil penyebaran hoaks menjadi lebih mudah. 

Baru-baru ini, narasi palsu berkedok teori konspirasi marak menyebar di media sosial TikTok. Seperti apa bentuknya? Apakah juga menyebar di antara warganet Indonesia?

Apakah Anda menerima nawala ini dari teman dan bukan dari e-mail Tempo? Daftarkan surel di sini untuk berlangganan.

Bagian ini ditulis oleh Artika Rachmi Farmita dari Tim Cek Fakta Tempo

Prebunking Series (44)
Waspada! Konten Teori Konspirasi Menggunakan Teknologi AI Mulai Menyebar di Tiktok

Di balik manfaatnya mempermudah kerja profesional manusia, teknologi AI juga mempermudah aktor jahat menyebarkan disinformasi. Sebuah jaringan akun TikTok dengan total 17 akun ditengarai menggunakan teknologi suara AI audio yang sangat realistis berupa konten teori konspirasi hingga mencapai ratusan juta tayangan. Akun-akun tersebut menggunakan perangkat lunak text-to-speech AI untuk menghasilkan suara dan narasi dalam video dengan cepat dan murah.

NewsGuard menemukan bahwa sejak Juni 2023, jaringan ini telah menghasilkan sekitar 5.000 video dengan sulih suara AI, dengan total 336 juta penayangan dan 14,5 juta suka pada 25 September 2023.

Konten-konten tersebut mengandung narasi yang sama sekali tak berdasar. Misalnya teori konspirasi soal keterlibatan Obama terkait kematian koki pribadinya, Oprah Winfrey disebut sebagai “pedagang seks”, Jamie Foxx menjadi lumpuh dan buta akibat vaksin Covid-19, dan pembunuhan Joan Rivers karena menyatakan bahwa Obama adalah seorang gay.

Untuk menipu warganet agar percaya bahwa akun-akun ini kredibel, 13 dari 17 akun tersebut mencoba meniru outlet berita dan acara TV terkenal. Caranya dengan mengadopsi nama dan logo semirip mungkin. 

Contohnya, video yang diposting oleh akun @e.news.tv, di mana narator perempuan dengan suara halus mengaitkan Obama dengan kematian koki pribadinya. Namun, klaim yang dibacakan oleh “suara AI Obama” tidak berdasar dan tidak mencantumkan bukti layaknya produk jurnalistik profesional.

Usai dilaporkan NewsGuard, TikTok akhirnya menghapus tiga akun yang melanggar kebijakan peniruan platform. Termasuk satu video yang dinilai melanggar kebijakan media yang dimanipulasi dan melarang empat video yang mendongkrak algoritma karena melanggar pedoman misinformasi platform.

Professor Hafiz Malik dari University of Michigan-Dearborn menyatakan bahwa kemunculan teknologi text-to-speech AI memang dapat mengurangi hambatan pembuatan audio palsu di platform seperti TikTok. Dengan alat seperti ElevenLabs, siapapun dapat dengan cepat menghasilkan audio deepfake tanpa halangan. “Hal ini memudahkan penyebaran konten konspirasi karena proses produksi menjadi lebih mudah.”

Amat penting bagi kita untuk berhati-hati dan kritis dalam menghadapi konten yang mungkin memanfaatkan teknologi suara AI, terutama menjelang Pemilihan Umum Presiden 2024 mendatang. Nah, sudahkah Anda membekali diri agar tak menjadi korban hoaks deepfake suara di media sosial?

Bagian ini ditulis oleh Inge Klara Safitri dari Tempo Media Lab

Cek Fakta Pilihan

Benarkah Anies Baswedan Mengubah Nama Menjadi Mahdi Yohannis Khan?

Video berdurasi 28 detik beredar dengan narasi Anies Baswedan berubah namanya menjadi Mahdi Yohannis Khan demi menjadi calon presiden Republik Indonesia. Video ini diunggah sebuah akun di Facebook pada 26 September 2023.  

| Hasil Pemeriksaan fakta

Tempo menelusuri sumber video yang dibagikan tersebut, hasilnya, video tidak sama sekali terkait dengan klaim yang disebutkan. Video tersebut merupakan video peletakan batu pertama pembangunan tempat Ibadah umat hindu di Kalideres Jakarta Barat pada 4 Februari 2020 yang dihadiri Anies Rasyid Baswedan saat masih menjabat sebagai Gubernur DKI Jakarta.  

Baca selengkapnya

Waktunya Trivia!

Benarkah Muhaimin Iskandar Menjadi Tahanan KPK?

Salah satu akun Facebook membagikan tautan blog berisi video yang diklaim sebagai Muhaimin Iskandar. Setelah dibuka, situs itu menampilkan gambar Muhaimin mengenakan baju tahanan KPK berwarna oranye sedang berjalan dan dikawal beberapa petugas keamanan.

| Bagaimana hasil pemeriksaan faktanya?

Mari kita cek faktanya!

Ada Apa Pekan Ini?

Dalam sepekan terakhir, klaim yang beredar di media sosial memiliki isu yang sangat beragam, mulai dari isu politik, sosial dan kesehatan. Buka tautannya ke kanal Cek Fakta Tempo.co untuk membaca hasil periksa fakta berikut:

• Benarkah Video Pria di Cina Mengecek Naga Peliharaan?
• Benarkah Gagal Ginjal Bisa Diobati dalam 7 Hari dengan Temuan Obat Baru?
• Benarkah Jokowi dipolisikan Anies Baswedan dan Surya Paloh?

Kenal seseorang yang tertarik dengan isu disinformasi? Teruskan nawala ini ke surel mereka. Punya kritik, saran, atau sekadar ingin bertukar gagasan? Layangkan ke sini. Ingin mengecek fakta dari informasi atau klaim yang anda terima? Hubungi ChatBot kami.

Ikuti kami di media sosial:

Facebook

Twitter

Instagram

Telegram