Headlineid.com – Manipulasi politik AI mulai menghadirkan persoalan baru dalam demokrasi Indonesia. Ancaman itu tidak selalu muncul melalui video palsu, suara tiruan, atau informasi bohong.
Perkumpulan untuk Pemilu dan Demokrasi (Perludem) menyoroti penggunaan avatar dan meme berbasis kecerdasan buatan. Teknologi tersebut dapat membentuk persona kandidat tanpa harus memalsukan satu fakta pun.
Persoalan itu mengemuka dalam Konferensi Demokrasi Digital di Jakarta, Senin, 31 Agustus 2026. Forum tersebut membahas kebutuhan regulasi untuk menjaga integritas Pemilu ketika teknologi AI berkembang semakin cepat.
Manipulasi politik AI bergerak lebih jauh dari sekadar hoaks
Riset Perludem berjudul Mengisi Celah Regulasi Kampanye di Era Artificial Intelligence menjadi salah satu dasar pembahasan. Riset tersebut melihat adanya celah antara perkembangan teknologi dan aturan kampanye yang berlaku.
Salah satu pijakan riset itu berasal dari Putusan Mahkamah Konstitusi Nomor 166/PUU-XXI/2023. Putusan tersebut melarang manipulasi berlebihan terhadap citra diri peserta Pemilu, termasuk melalui teknologi AI.
Namun, aturan tersebut belum memberikan batas yang cukup rinci. Pertanyaan berikutnya menjadi krusial: perubahan seperti apa yang masih dianggap wajar?
Perludem mengusulkan pembeda berdasarkan dampaknya terhadap citra kandidat. Perubahan yang masih mengikuti standar fotografi dapat tetap diperbolehkan.
Sebaliknya, perubahan atribut fisik yang membuat pemilih menerima gambaran keliru perlu mendapat larangan. Dalam konteks Pemilu, citra kandidat bukan sekadar persoalan estetika.
Citra tersebut ikut membentuk persepsi pemilih terhadap seseorang. Karena itu, perubahan visual tertentu dapat memengaruhi penilaian politik masyarakat.
Avatar AI dapat membangun persona tanpa memalsukan fakta
Anita Wahid dari ASEAN Intergovernmental Commission on Human Rights (AICHR) menawarkan sudut pandang berbeda. Ia menilai publik tidak boleh melihat persoalan AI hanya melalui kacamata konten palsu.
Pengalaman Pemilu 2024 memang belum menunjukkan gangguan besar akibat konten palsu berbasis AI. Namun, masyarakat sudah melihat penggunaan avatar dan meme untuk membangun persona politik.
Avatar dapat menggambarkan kandidat sebagai sosok ramah, lucu, dekat, atau mudah diterima. Persona semacam itu tidak selalu menyampaikan informasi palsu.
Masalahnya muncul ketika persona tersebut mengubah asosiasi publik terhadap rekam jejak kandidat. Pemilih akhirnya bisa mengenali figur politik melalui karakter buatan yang berbeda dari pengalaman sebelumnya.
Dengan demikian, manipulasi politik AI tidak selalu membutuhkan kebohongan. Cukup dengan menggeser cara publik mengingat dan menafsirkan seorang kandidat.
Meme memperbesar persoalan tersebut karena sifatnya mudah dibagikan. Masyarakat juga dapat memproduksi ulang pesan yang sama dengan biaya sangat rendah.
Akibatnya, satu narasi dapat berkembang jauh melampaui pembuat awalnya. Pesan tersebut kemudian terasa seperti percakapan publik, meskipun awalnya berasal dari strategi kampanye tertentu.
Label AI saja tidak cukup menjaga integritas Pemilu
Pemberian label pada konten AI tetap memiliki manfaat. Label membantu masyarakat mengetahui bahwa sebuah gambar, video, atau avatar mengalami proses sintetis.
Namun, label tidak otomatis menjawab persoalan dampak politik. Sebuah konten tetap dapat memengaruhi pilihan pemilih meski pembuatnya sudah memberikan tanda AI.
Di titik tersebut, pendekatan regulasi harus bergeser dari sekadar memeriksa konten. Pengawas perlu melihat pola distribusi, tujuan penggunaan, dan dampaknya terhadap persaingan politik.
Pendekatan itu membutuhkan pengawasan yang lebih luas. Platform juga perlu menilai apakah sebuah narasi menciptakan tekanan terhadap kelompok tertentu.
Selain itu, perhatian harus diberikan kepada hak masyarakat untuk memperoleh informasi yang dapat dipercaya. Perlindungan tersebut menjadi bagian penting dari kualitas demokrasi.
Berdasarkan analisis tim data Headline Indonesia, persoalan ini memperlihatkan perubahan karakter manipulasi politik. Manipulasi tidak lagi harus mengubah fakta untuk mengubah persepsi.
Regulasi Pemilu perlu mengejar kecepatan perkembangan AI
Wakil Ketua Badan Legislasi DPR RI Ahmad Doli Kurnia melihat kebutuhan aturan yang lebih tegas. Ia menilai perkembangan AI bergerak terlalu cepat jika dibandingkan dengan proses pembentukan regulasi.
Pengalaman penggunaan teknologi dalam Pemilu 2024 menjadi pelajaran penting. Sistem Informasi Rekapitulasi atau Sirekap menunjukkan bahwa teknologi membutuhkan dasar aturan yang jelas.
Tanpa kepastian hukum, inovasi teknologi dapat menciptakan persoalan baru. Kondisi itu semakin rumit ketika teknologi masuk langsung ke wilayah politik.
Karena itu, Doli mendorong pendekatan hard law. Ia membuka peluang pengaturan AI masuk dalam Undang-Undang Pemilu.
Pengaturannya bahkan dapat berbentuk pasal atau bab khusus. Langkah tersebut dapat memberikan kepastian mengenai larangan, kewajiban, pengawasan, serta sanksi.
Namun, regulasi Pemilu saja tidak cukup. AI memiliki dampak luas terhadap pendidikan, ekonomi, media, keamanan, dan perlindungan data pribadi.
Karena itu, pemerintah dan DPR perlu membangun kerangka regulasi yang lintas sektor. Pembahasan juga harus melibatkan penyelenggara Pemilu, platform, akademisi, dan masyarakat sipil.
Platform perlu ikut bertanggung jawab terhadap dampak konten
Tanggung jawab tidak bisa berhenti pada kandidat atau pembuat konten. Platform digital juga memiliki posisi penting dalam menentukan bagaimana konten beredar.
Selama ini, banyak platform menggunakan community guidelines sebagai dasar moderasi. Kebijakan tersebut dapat menjadi pintu masuk untuk memperkuat perlindungan integritas Pemilu.
Platform perlu menyediakan kanal pelaporan cepat untuk konten sintetis yang menyesatkan. Mekanisme itu harus mudah digunakan masyarakat dan memiliki proses pemeriksaan yang transparan.
Selain itu, platform perlu melihat pola penyebaran konten. Sebuah meme mungkin tampak sepele jika dilihat sendiri.
Namun, ribuan unggahan dengan pesan serupa dapat menciptakan persepsi kolektif. Karena itu, pengawasan harus mempertimbangkan efek berulang dan akumulatif.
Pendekatan tersebut juga membutuhkan keterlibatan masyarakat sipil. Organisasi masyarakat sipil memiliki pengalaman dalam membaca ancaman terhadap informasi dan demokrasi.
Anita Wahid menyebut masyarakat sipil memiliki epistemic authority. Artinya, mereka memiliki kapasitas untuk membantu menentukan bentuk ancaman yang perlu diperhatikan.
Konsolidasi masyarakat sipil dapat menghasilkan temuan yang lebih konkret. Temuan tersebut kemudian dapat mendorong platform memperbaiki kebijakan moderasi.
Electoral AI Integrity Unit dapat menjadi jembatan pengawasan
Perludem menawarkan gagasan pembentukan Electoral AI Integrity Unit. Unit tersebut dapat menghubungkan Bawaslu, platform digital, peserta Pemilu, dan masyarakat sipil.
Model tersebut dapat mempercepat pertukaran informasi ketika muncul konten bermasalah. Selain itu, setiap pihak dapat bekerja berdasarkan pembagian tanggung jawab yang lebih jelas.
Bawaslu dapat memperkuat fungsi pengawasan. Platform dapat memperbaiki respons terhadap laporan masyarakat.
Sementara itu, masyarakat sipil dapat memberikan analisis terhadap pola ancaman. Peserta Pemilu juga dapat ikut membangun standar kampanye yang lebih bertanggung jawab.
Kerangka tersebut perlu berjalan sebelum masa kampanye dimulai. Pengawasan yang baru bergerak setelah masalah membesar akan selalu tertinggal.
Karena itu, regulasi juga membutuhkan pedoman etika sebagai pelengkap. Pedoman tersebut dapat mengatur produksi konten, penggunaan data pribadi, serta batas manipulasi visual.
Pendekatan soft law tetap berguna selama tidak menggantikan aturan hukum. Keduanya justru dapat saling melengkapi sesuai jenis pelanggaran.
Dampaknya bisa terasa setelah konten menghilang
Bahaya terbesar manipulasi politik AI mungkin bukan konten yang viral. Persoalan lebih dalam muncul ketika pesan tersebut perlahan membentuk ingatan politik masyarakat.
Pemilih dapat mengingat karakter kandidat tanpa mengingat sumber pembentuk persepsi tersebut. Pada tahap tertentu, batas antara komunikasi politik dan rekayasa persepsi menjadi semakin tipis.
Situasi itu dapat merugikan kandidat tertentu. Masyarakat juga berisiko kehilangan kemampuan membedakan citra kampanye dan rekam jejak nyata.
Oleh sebab itu, pengawasan tidak boleh hanya mengukur jumlah konten yang dihapus. Pengawas perlu menilai dampak jangka panjang terhadap kualitas pilihan politik.
Indikator tersebut memang lebih sulit diukur. Namun, demokrasi membutuhkan ukuran yang tidak berhenti pada persoalan teknis moderasi konten.
Catatan Editorial Headline Indonesia
Pemilu yang sehat membutuhkan lebih dari sekadar informasi yang benar. Pemilih juga membutuhkan konteks yang jujur tentang siapa kandidat yang mereka pilih.
AI dapat membantu kampanye menyampaikan pesan secara kreatif. Namun, teknologi yang sama dapat mengubah persepsi tanpa mengubah fakta secara langsung.
Karena itu, Indonesia perlu membangun aturan sebelum teknologi menentukan batas permainannya sendiri. Regulasi harus melindungi pemilih tanpa mematikan kebebasan berekspresi.
Pada akhirnya, ukuran keberhasilan bukan banyaknya konten AI yang diberi label. Ukuran sebenarnya terletak pada kemampuan demokrasi menjaga pemilih tetap berdaulat atas penilaiannya.
Editor : Nurani Soyomukti
