CekFakta #277 Mewaspadai Bahaya AI di Tangan Ekstremis dan Teroris
Reporter
Artika Rachmi Farmita (Kontributor)
Editor
Inge Klara Safitri
Jumat, 13 September 2024 20:59 WIB
Halo, pembaca nawala Cek Fakta Tempo!
Artificial Intelligence (AI) alias kecerdasan buatan kini sudah bukan lagi barang aneh dan asing di kehidupan kita. Butuh rekomendasi barang terbaru? Tinggal buka gawai, tanya Siri. Butuh inspirasi untuk mengerjakan tugas atau menyelesaikan pekerjaan? Tanyakan ke ChatGPT. Bahkan ingin membuat video untuk sekadar lucu-lucuan? Ada banyak aplikasi dengan beragam filter yang siap sedia digunakan.
Namun sadarkah kita, berbagai kemudahan yang ditawarkan atas bantuan kecerdasan buatan itu bak pisau bermata dua. Di tangan kelompok ekstremis, teknologi juga memudahkan mereka menebarkan teror dan propaganda di tengah masyarakat.
Apakah Anda menerima nawala ini dari teman dan bukan dari e-mail Tempo? Daftarkan surel di sini untuk berlangganan.
Bagian ini ditulis oleh Artika Rachmi Farmita dari Tim Cek Fakta Tempo
Mewaspadai Bahaya AI di Tangan Ekstremis dan Teroris
Kemajuan pesat teknologi kecerdasan buatan (AI) menciptakan jalan baru bagi kelompok-kelompok ekstremis untuk menyebarkan propaganda dan merekrut pengikut, termasuk di Asia Tenggara. Negara-negara dengan penetrasi internet dan media sosial yang tinggi seperti Indonesia, Malaysia, dan Filipina, rentan menghadapi berbagai gerakan ekstremis yang dipersenjatai AI.
Disarikan dari artikel Fulcrum, peneliti Nuurianti Jalli dan Irma Garnesia mempelajari bagaimana berbagai organisasi ekstremis, termasuk Negara Islam (IS) dan afiliasinya, semakin intens memanfaatkan perangkat AI. Kecerdasan buatan mereka manfaatkan untuk meningkatkan eksistensi di dunia maya (online presence) dan kemampuan pengiriman pesan secara masif.
Misalnya dengan membuat video menggunakan AI untuk menciptakan sosok juru bicara buatan yang sedang menyampaikan konten ekstremis. Berkat kemajuan teknologi AI, video-video propaganda tersebut dapat diproduksi dengan cepat dan dengan kualitas yang relatif tinggi. Apalagi kemampuan AI yang terus berkembang dalam menciptakan avatar digital dan deepfake yang meyakinkan dari sosok asli. Audiens tentu semakin sulit membedakan antara konten asli dan palsu.
Potensi penyalahgunaan teknologi AI untuk tujuan ekstremis ini jelas berbahaya dibandingkan konten AI yang kita buat sebagai pengguna biasa. Sebab, konten-konten ekstremis menargetkan interaksi dan keterlibatan yang dipersonalisasi khusus. Salah satunya ialah dengan membikin chatbot berbasis AI yang dirancang untuk meniru militan yang dipenjara, atau bahkan sudah meninggal.
AI generatif kemudian digunakan untuk "mereinkarnasi" ekstremis yang sudah meninggal di video TikTok. Berikutnya, mereka menciptakan chatbot yang dipersonalisasi seolah-olah militan itu masih hidup untuk berinteraksi menggaet pengikut baru. Tujuannya apa? Secara perlahan-lahan mengarahkan pengikut kepada ideologi ekstremis, bahkan untuk melakukan tindakan kekerasan.
Dalam setahun belakangan, Nurrianti Jalli dan Irma Garnesia meneliti berbagai video bertema ideologi ekstrim dan terorisme dengan polesan AI yang beredar di media sosial. Salah satunya video yang dihasilkan yang menggambarkan para pemimpin Jemaah Islamiyah (JI) dan pelaku bom Bali, dengan narasi cerita secara rinci bagaimana mereka terlibat dalam insiden teror.
Video di TikTok ini menampilkan “reinkarnasi AI” dari mendiang Dr. Azahari Husin, pembuat bom Malaysia di balik pengeboman Bali (2002, 2005) dan Jakarta (2003, 2004). Di video itu, seolah-olah Dr. Azahari muncul dan menjelaskan perannya dalam jihad bersama JI, yang memiliki hubungan ideologis dan finansial dengan al-Qaeda. Video yang awalnya diunggah pada tahun 2023 oleh seorang kreator konten Indonesia ini, ditonton lebih dari 3,8 juta kali, disukai 120.000 kali, dan dibagikan lebih dari 2.000 kali di TikTok.
Ada pula video TikTok lainnya yang menampilkan penggambaran Noordin Mohamad Top yang dibuat dengan AI. Noordin M. Top adalah pemimpin Jamaah Islamiyah Malaysia yang bertanggung jawab atas pengeboman hotel Jakarta tahun 2009. Dalam video itu, ia seolah-olah muncul untuk menjelaskan alasan tindakan pengebomannya. Meskipun video ini jelas dibuat dengan AI, peneliti studi menekankan bagaimana video ini ternyata tetap dapat memikat penonton dan menimbulkan respons psikologis, yang berpotensi meningkatkan risiko radikalisasi dan penyebaran ideologi ekstremis.
Anda tentu masih ingat, penggunaan aplikasi perpesanan seperti WhatsApp dan Telegram untuk ekstremisme pernah marak di Asia Tenggara. Terutama di negara kita, Indonesia, seiring bangkitnya Daesh (atau ISIS) pada tahun 2017. Akibatnya, pemerintah lalu melarang Telegram untuk mencegah penyebaran propaganda dan ide-ide ekstremis berbahaya dalam masyarakat.
Menurut Anda, bagaimana seharusnya kita, pemerintah, dan platform bisa mencegah penyebaran ideologi ekstrim dan propaganda teroris itu bangkit lagi?
Bagian ini ditulis oleh Inge Klara Safitri dari Tempo Media Lab
Cek Fakta Pilihan
Benarkah Demo Peringatan Darurat adalah Agenda Kudeta dari CIA Terhadap Jokowi?
Sejumlah akun di X (sebelumnya Twitter) mengunggah konten yang mengklaim unjuk rasa Peringatan Darurat untuk mengawal putusan Mahkamah Konstitusi pada 22 Agustus 2024 lalu adalah kudeta terhadap Jokowi yang disponsori Badan Intelijen Amerika (CIA).
| Hasil Pemeriksaan Fakta
Tempo memeriksa faktanya dengan membagi jadi 2 klaim. Pertama, klaim Aksi ‘Peringatan Darurat’ agenda CIA untuk mengkudeta Jokowi yang pro Palestina dan Cina. Kedua, klaim National Endowment for Democracy (NED) sebagai agen CIA yang berada di balik operasi mengkudeta Jokowi dengan menyalurkan pendanaan kepada NGO.
Waktunya Trivia!
Benarkah 74 Persen Orang Meninggal Akibat Vaksin Covid-19?
Sebuah akun Facebook mengunggah sebuah video yang menyebutkan terdapat 74 persen orang yang meninggal mendadak akibat vaksin Covid-19.
Ada Apa Pekan Ini?
Dalam sepekan terakhir, klaim yang beredar di media sosial memiliki beragam isu. Buka tautannya ke kanal Cek Fakta Tempo.co untuk membaca hasil periksa fakta berikut:
- Benarkah Ini Video Aktor Denny Sumargo dan Ariel Noah Promosikan Situs Judi Online?
- Benarkah Ridwan Kamil Janjikan Bantuan Rp10 Juta Untuk Biaya Sekolah dan Bayar Utang?
Kenal seseorang yang tertarik dengan isu disinformasi? Teruskan nawala ini ke surel mereka. Punya kritik, saran, atau sekadar ingin bertukar gagasan? Layangkan ke sini. Ingin mengecek fakta dari informasi atau klaim yang anda terima? Hubungi ChatBot kami.
Ikuti kami di media sosial:
