Integrasi kecerdasan buatan (Artificial Intelligence/AI) semakin merambah ke dalam platform komunikasi digital dan mengubah jangkauan penyebaran informasi. AI memainkan peran cukup sentral dalam memproduksi disinformasi yang rentan dipercayai masyarakat. Fenomena ini juga muncul saat maraknya aksi demonstrasi di Indonesia yang memancing penyebaran informasi beragam.
Ketua Presidium Masyarakat Anti Fitnah Indonesia (Mafindo), Septiaji Eko Nugroho, menjelaskan bahwa disinformasi dapat memberikan dampak sosial dan psikologis yang serius bagi masyarakat. Ia menyoroti meningkatnya ancaman manipulasi informasi berbasis kecerdasan buatan.
“Teknologi deepfake dan kemunculan agentic AI dapat menyebarkan disinformasi secara otomatis. Kondisi ini menuntut pemanfaatan teknologi AI secara strategis untuk membantu proses monitoring dan verifikasi informasi,” kata Septiaji. Ia mengungkapkan hal itu dalam Diskusi Policy Paper: Peta Jalan Penanganan Disinformasi di Indonesia dalam kegiatan DigiTalk #64 bertajuk “Navigasi Ruang Digital: Kolaborasi Lintas Sektor Mengatasi Disinformasi” di Universitas Gadjah Mada, 12 Februari 2026.
Masih pada diskusi yang sama, Neil R. Tobing, Ketua Bidang Media Digital dan Penyiaran (DigiBroadcast) Mastel, menyoroti bahwa tata kelola informasi digital Indonesia masih menghadapi berbagai tantangan struktural. Ia mencontohkan bagaimana media sosial dapat mempercepat eskalasi konflik sosial melalui penyebaran informasi yang belum terverifikasi.
“Dalam hitungan jam, gangguan lokal dapat berubah menjadi isu nasional karena media sosial tidak lagi sekadar saluran komunikasi, tetapi menjadi peserta aktif yang membentuk narasi publik,” jelasnya.
Terkecoh konten hoaks aksi demonstrasi
Sementara itu, Menteri Komunikasi dan Digital (Komdigi) Meutya Hafid menyoroti maraknya hoaks konten-konten aksi demonstrasi yang viral di media sosial. Padahal, konten-konten itu merupakan video lama atau hasil suntingan. Kegelisahannya ditulis laman resmi Kemkomdigi 3 Agustus 2026.
Salah satu contohnya adalah saat menjelang peringatan HUT ke-81 RI. Saat itu, media sosial tengah diramaikan dengan konten-konten video demonstrasi yang diunggah tanpa memuat waktu kejadian. Berbagai narasi dalam unggahan tersebut seolah-olah mengesankan terjadi aksi demonstrasi besar saat itu, bahkan adanya tuduhan penghapusan konten yang dinarasikan sebagai peristiwa demo besar.
Narita Aurelia (21 tahun), mahasiswi Universitas Pasundan, mengakui lumayan sering membaca informasi-informasi yang hadir di media sosial, terutama ketika aksi demonstrasi. Di tahun ini, Narita bahkan merasa terlalu banyak menerima informasi atau berita di media sosial yang membuatnya resah dan bingung akan kebenarannya.
Konten video di Facebook mengenai aksi unjuk rasa yang dilakukan warga Pati menjadi perhatiannya. Usut punya usut, ternyata beberapa video berbasis AI itu cenderung memprovokasi.
“Aku baca beberapa berita buatan AI. Jujur saya sudah paham kalau itu AI,” ungkapnya saat diwawancarai Rabu, 2 September 2026.
Menurut dia, informasi yang dihasilkan AI berpotensi memengaruhi pemahaman masyarakat terhadap suatu persoalan. Kondisi itu membuat masyarakat lebih mudah terprovokasi, terutama ketika informasi yang beredar terus-menerus diperkuat dan dikemas secara meyakinkan.
“Kadang orang berpikir, kalau sudah seperti ini, untuk apa mencari informasi dari sisi lain. Orang-orang langsung berbondong-bondong mengambil satu sisi saja tanpa mencari informasi dari sisi lainnya," ujarnya.
Rakha (20 tahun), mahasiswa lainnya dari Universitas Pendidikan Indonesia (UPI), menyampaikan bahwa ia juga seringkali menemui informasi yang dimanipulasi AI setiap aksi demo. Konten AI yang pernah ia temui dibuat oleh pihak internal kampus maupun di media sosial, dua diantaranya mengenai informasi konsolidasi dan titik kumpul.
“Seringnya dapet dari eksternal sih. Tapi kalau yang di internal, ada konten yang dibuat oleh salah satu mahasiswa UPI, dia menggunakan konten AI dan saya mempercayai isinya karena sebelumnya mengikuti konsolidasinya,” tuturnya saat diwawancarai Jumat, 4 September 2026.
Menurut dia, konten-konten AI saat ini mudah dipercayai masyarakat karena datang dari sesama warga. Itu sebabnya, banyak warga yang langsung percaya tanpa memfilter informasi yang didapatkannya tersebut.
“Kita mempercayai karena muncul setiap aksi demo dan kita merasa orang yang menyebarkan itu satu nafas dengan kita,” ujarnya.
Ia menilai konten disinformasi AI juga akan sangat berdampak bagi warga apalagi jika menjelang aksi. Ia khawatir disinformasi tersebut akan dimanfaatkan oleh pihak aparat untuk memecah belah titik massa aksi.
Cek fakta disinformasi AI
Mengutip dari penelitian artikel penelitian “Disinformasi yang Didorong oleh AI: Rekomendasi Kebijakan untuk Ketahanan Demokrasi” (2025) yang ditulis Alexander Romanishyn, pesatnya perkembangan penggunaan internet dan media sosial global telah secara substansial meningkatkan area yang rentan terhadap kampanye disinformasi yang didorong oleh AI. Pada April 2025, diperkirakan 5,64 miliar individu (sekitar 68,7% dari 8,21 miliar penduduk dunia) adalah pengguna internet aktif. Secara bersamaan, 5,31 miliar akun media sosial digunakan, mewakili 64,7% dari populasi global.
Penelitian ini juga menyoroti munculnya teknologi AI canggih mengubah lanskap disinformasi, menimbulkan kekhawatiran baru yang membenarkan intervensi kebijakan proaktif. Sejumlah besar penelitian interdisipliner dan bukti kasus memberikan tinjauan komprehensif tentang teknik disinformasi berbasis AI yang muncul dari media deepfake hingga chatbot AI dan memperingatkan potensi mereka untuk secara dramatis memperkuat narasi palsu.
Laman resmi Deutsche Welle (DW), 6 Agustus 2026, mempublikasikan hasil analisis sebuah konten yang berisi visual dan pernyataan terkait aksi demonstrasi yang diklaim terjadi di Bundaran HI, Jakarta yang diunggah pada 29 Juli 2026. Materi tersebut sudah tidak dapat ditemukan sejak 4 Agustus 2026, tetapi konten itu telah ditonton hingga lebih dari 500.000 kali, mendapat lebih dari 29.000 tanda jempol serta dibagikan oleh 2.000 akun.
Pada konten yang diunggah, bagian atas foto memperlihatkan banyak objek menyerupai manusia mengerumuni kawasan Bundaran HI, Jakarta Pusat. Secara kasat mata, objek tersebut memiliki keberagaman warna menyerupai jaket almamater dan beberapa bendera universitas.
Namun, setelah foto tersebut diperbesar, Tim Cek Fakta DW menemukan sejumlah detail yang mencurigakan. Pertama, secara detail objek kerumunan tersebut bukanlah massa demonstran yang mengerumuni Bundaran HI, melainkan sebuah objek replikasi yang diperbanyak untuk membuat ilusi keramaian. Kedua, detail bendera universitas yang biasanya dibawa dalam aksi demonstrasi juga tidak dapat terlihat secara jelas. Faktanya, kumpulan bendera tersebut hanyalah objek menyerupai bendera dengan bermacam-macam warna dan bentuk yang tidak jelas.
Untuk memastikannya, mereka juga melakukan pengecekan menggunakan Hive Moderation. Alat pendeteksi tersebut menyimpulkan bahwa konten ini 99.9% diyakini buatan kecerdasan buatan (AI).
