Di era teknologi yang semakin berkembang pesat, aktivitas penggunaan perangkat digital telah menjadi bagian yang tak terpisahkan dari kehidupan sehari-hari. Beragam hoaks yang dibuat Artificial Intelligence (AI) kerap ditemukan pengguna media sosial yang menjadi ancaman literasi digital. Di satu sisi, AI juga ternyata bisa menjadi tools dalam memverifikasi hoaks.
Mengutip dari laman Asosiasi Media Siber Indonesia (AMSI) yang ditulis 23 Februari 2026, gelombang disinformasi di Indonesia dinilai bukan sekadar persoalan konten palsu yang beredar di media sosial, melainkan problem sistemik yang menyangkut literasi, model bisnis platform digital, hingga regulasi yang belum memadai. Kehadiran AI mempercepat sekaligus memperumit lanskap informasi nasional.
Neil R. Tobing, Ketua DigiBroadcast/Digital Media and Broadcasting (MASTEL), menyebut pihaknya bersama BBC menyusun policy brief dan roadmap penanganan disinformasi dalam kerangka membangun ketahanan informasi nasional. Namun, menurut dia, persoalannya tidak sesederhana itu.
“Kalau bicara kebijakan di Indonesia, ada tiga karakter utama dari ekosistem disinformasi di Indonesia,” ujarnya dalam rangkaian diskusi bertema Navigating AI in Newsrooms: Research Insights and Media Business Sustainability di Hotel Morrissey, Jakarta, 20 Februari 2026.
Pertama, rendahnya literasi digital. Dengan pengguna media sosial yang mencapai sekitar 160 juta orang, kemampuan publik untuk memilah dan memilih sumber informasi yang kredibel dinilai belum tumbuh secara sistemik. Kedua, ketergantungan tinggi terhadap platform digital yang mengandalkan trafik dan engagement sebagai model bisnis. Ketiga, regulasi yang masih bersifat reaktif dan kasus per kasus.
Waspadai generatif AI dengan informasi palsu
Merujuk dari Siaran Pers No. 61/HM/KOMINFO/01/2024 yang dikeluarkan pada 25 Januari 2024 lalu bertajuk “Waspadai Generative AI”, Wakil Menteri Komunikasi dan Informatika, Nezar Patria, mengimbau agar masyarakat waspada terhadap konten hoaks yang dibuat menggunakan teknologi kecerdasan buatan generatif atau generative AI. Menurut dia, salah satu cara menangkal sebaran hoaks yaitu dengan menguasai kecakapan berpikir kritis.
“Berpikir kritis, ini yang paling penting bisa menangkal hoaks. Karena hoaks sekarang semakin canggih dan bentuknya macam-macam,” ujarnya saat itu.
Kata dia, generative AI menghasilkan konten hoaks yang seolah asli. Bahkan, bisa menjadikan peristiwa yang tidak pernah terjadi seolah autentik dan terjadi, misalnya pada video Presiden Joko Widodo berbahasa Mandarin dan Arab yang direkayasa menggunakan teknologi AI deepfake. Ia menilai penyalahgunaan kecanggihan teknologi akan mudah memanipulasi masyarakat mengikuti skenario pihak yang tidak bertanggung jawab.
“Beberapa elemen masyarakat dengan mudah bisa melakukan identifikasi bahwa ini hoaks, karena ada sesuatu yang tidak logis di sana, tidak natural. Tapi ada juga elemen masyarakat kita yang lain mungkin tidak punya kepekaan itu. Dia menerima informasi yang dibuat oleh hoaks dengan begitu saja,” tuturnya.
Konten hoaks benar-benar ditemukan oleh Nisrina Marsha (21 tahun), mahasiswi Universitas Pasundan, ia mengaku pernah menemukan konten yang menggunakan teknologi AI dalam informasi yang beredar di media sosial. Salah satunya berkaitan dengan kabar perpindahan pemain sepak bola. Foto pemain tersebut dibuat secara generatif seolah-olah mengenakan seragam klub tertentu, padahal informasi mengenai kepindahannya belum dikonfirmasi secara resmi.
Menurut Nisrina, konten generatif AI saat ini semakin halus dan sulit dibedakan dari konten asli. Meski demikian, ia sendiri masih dapat mengenali sejumlah ciri, terutama dalam bentuk dan gerakan video. Pergerakan objek atau manusia dalam video serta karakter suara yang digunakan terkadang masih menunjukkan bahwa konten tersebut dihasilkan oleh AI.
“AI sekarang sih emang jadi lebih smooth dan susah dibedakan. Tapi mungkin kalau video AI masih bisa dibedakan dari gerakan-gerakan dan suaranya. Masih kelihatan bahwa itu AI, bukan suara orang beneran,” tuturnya saat diwawancarai Rabu, 2 September 2026.
Sedangkan untuk informasi berbentuk narasi atau berita daring, ia mengaku belum pernah menemukan atau menyadari adanya informasi yang sepenuhnya dibuat oleh AI. Ia juga tidak selalu memeriksa kebenaran setiap informasi yang ditemuinya, terutama informasi yang bersifat hiburan atau gosip, dan baru mengetahui kekeliruannya ketika muncul klarifikasi.
Meski perkembangan teknologi membuat masyarakat semakin mudah mengakses informasi dan memperoleh bantuan dari AI, ia menilai pengguna tidak boleh sepenuhnya mempercayai teknologi tersebut. Informasi yang diberikan AI tidak selalu akurat sehingga pengguna tetap perlu melakukan pemeriksaan ulang dan membandingkannya dengan sumber lain.
"AI kadang-kadang memberikan informasi itu enggak selalu tepat. Jadi kita harus tetap crosscheck dua kali, meskipun teknologi sudah berkembang dan memudahkan kita tapi tetap kita harus lebih pintar dari AI,” jelasnya.
Melawan hoaks AI dengan AI
Merujuk dari artikel milik Perpustakaan Universitas Brawijaya (2026), kecerdasan buatan (AI) adalah teknologi yang mampu meniru cara berpikir manusia untuk menganalisis data dan membuat keputusan. Dalam konteks penyaringan informasi, AI memiliki potensi yang besar dalam mendeteksi dan menangkal berita palsu secara lebih cepat dan efisien daripada manusia.
Berikut beberapa cara AI membantu melawan hoaks menurut artikel tersebut. Cara pertama adalah dengan analisis bahasa (natural language processing). AI dapat memindai teks dan mendeteksi pola bahasa yang mencurigakan. Dengan teknologi Natural Language Processing (NLP), AI bisa mengenali gaya penulisan yang sering digunakan dalam berita palsu, seperti kalimat yang terlalu bombastis, provokatif, atau tidak didukung oleh fakta.
Kedua, fakta otomatis (automated fact-checking). AI dapat dibandingkan dengan mesin pencari super pintar yang mampu memverifikasi fakta secara otomatis. Ketika sebuah berita diunggah, sistem AI bisa mencari sumber lain yang kredibel untuk memeriksa keakuratan informasi tersebut.
Ketiga, adalah dengan deteksi sumber tidak kredibel. AI bisa membantu mengidentifikasi situs atau akun media sosial yang sering menyebarkan hoaks. Sistem ini belajar dari pola penyebaran informasi dan reputasi sumber untuk memberi peringatan jika sebuah konten berasal dari sumber yang tidak terpercaya.
Berikutnya adalah pemrosesan citra dan video. Selain teks, AI juga bisa digunakan untuk memeriksa keaslian gambar dan video. Teknologi ini mampu mendeteksi manipulasi digital seperti deepfake atau penyuntingan yang mengubah konteks visual suatu peristiwa.
Terakhir, adalah pemodelan jaringan penyebaran. AI bisa menganalisis bagaimana suatu informasi menyebar di dunia maya. Dengan memetakan alur penyebaran hoaks, AI dapat mengidentifikasi akun-akun yang berperan besar dalam penyebaran informasi palsu dan membantu platform digital untuk menindak lebih cepat.
Meskipun begitu, penggunaan AI dalam melawan hoaks juga masih memiliki berbagai tantangan. Teknologi ini masih bisa salah dalam menilai konteks dan niat di balik sebuah informasi. AI bisa saja menandai satire atau humor sebagai hoaks. Selain itu, pencipta hoaks juga semakin canggih dan mulai menggunakan AI untuk membuat konten yang sulit dibedakan dari yang asli.
