Saat Indonesia bersiap menghadapi pemilihan presiden dan legislatif bulan depan, sebuah video yang menggunakan kecerdasan buatan untuk menciptakan kembali kemiripan dan suara mendiang diktator Suharto telah memicu perdebatan mengenai implikasi etika dan hukum dari penggunaan teknologi tersebut untuk kampanye politik.

Sebuah video yang diposting di media sosial pada hari Minggu oleh seorang politisi dari Partai Golkar yang didirikan oleh Suharto menunjukkan simulasi nyata dari mantan presiden tersebut, yang mengenakan kemeja batik, mendesak para pemilih untuk memilih kandidat Golkar.

Suharto, mantan jenderal Angkatan Darat, mulai berkuasa pada pertengahan tahun 1960an di tengah kekacauan nasional dan memegang kekuasaan selama 32 tahun sebelum kejatuhannya pada tahun 1998, yang mengantarkan era baru demokrasi di negara terbesar di Asia Tenggara.

Beberapa aktivis demokrasi dan pemilu meminta Komisi Pemilihan Umum (KPU) untuk membatasi penggunaan kecerdasan buatan dalam kampanye, dengan mengatakan bahwa teknologi tersebut dapat mengancam integritas dan keadilan proses pemilu.

“Saya Presiden Suharto, presiden kedua Indonesia, saya mengajak Anda untuk memilih wakil rakyat dari Golkar,” kata Digital Suharto dalam video yang diunggah di Instagram dan X oleh Erwin Aksa, wakil presiden partai tersebut.

Menurut laporan berita Indonesia, video produksi partai tersebut telah ditonton setidaknya 4,5 juta kali di situs media sosial sejak diposting pada 6 Januari.

Indonesia, negara demokrasi terbesar ketiga di dunia dan negara terpadat keempat di dunia, akan menjadi tuan rumah Pemilihan Umum pada 14 Februari Memilih Presiden, Wakil Presiden, dan anggota DPR dan DPRD.

Video tersebut menunjukkan bahwa AI dapat menjadi alat kampanye politik tanpa batas dan berpotensi melintasi batas hukum dan etika jika dibiarkan,” kata Kukum Ridho Putra, Ketua Tim Peduli Advokasi Pemilu, sebuah LSM.

“AI dapat digunakan dengan berbagai cara untuk memanipulasi dan menyesatkan pemilih,” katanya kepada BenarNews.

Soeharto yang meninggal pada tahun 2008 merupakan sosok kontroversial dalam sejarah Indonesia. Pada masa pemerintahannya yang diktator, Pelanggaran hak asasi manusiaKorupsi dan nepotisme merajalela.

Suharto mengambil alih kekuasaan dari presiden pendiri negara, Presiden Sukarno, pada tahun 1965 setelah upaya kudeta gagal yang dituduhkan dilakukan oleh Partai Komunis Indonesia (PKI). Para sejarawan memperkirakan bahwa 200.000 hingga 800.000 orang Indonesia tewas dalam pembersihan anti-komunis yang dilakukan pemerintah antara tahun 1965 dan 1965. .

Soeharto juga berjasa membawa pembangunan ekonomi, stabilitas, dan persatuan nasional di berbagai nusantara. Ia mengundurkan diri pada tahun 1998 di tengah pergolakan politik dan ekonomi setelah krisis keuangan Asia tahun 1997.

Komisi Pemilihan Umum belum mengeluarkan aturan apa pun mengenai penggunaan AI dalam kampanye, namun telah mengeluarkan beberapa pedoman dan kode etik kampanye online, yang melarang penggunaan ujaran kebencian, pencemaran nama baik, dan misinformasi.

Itu Perlombaan presiden Bulan depan adalah pertarungan tiga arah antara Menteri Pertahanan Prabowo Subianto – mantan menantu Suharto – mantan Gubernur Jakarta Anis Baswedan dan mantan Gubernur Jawa Tengah Kanjar Pranovo.

‘Kamu sudah melewati batas’

Beberapa pengguna X mengkritik Ervin karena menggunakan gambar mendiang presiden.

“Menggunakan teknologi AI untuk berpidato mendukung Golkar membangkitkan kembali seseorang yang sudah lama meninggal. Di mana moral dan etika Anda?” @mashazairin menulis.

“Ini berantakan. Anda telah melewati batas. Ini jelas salah. Penggunaan AI yang berlebihan akan merusak citra kandidat Anda,” kata pengguna X lainnya @akuluthfi.

Video Suharto dibuat menggunakan teknik yang disebut deepfake, yang menggunakan kecerdasan buatan untuk membuat konten yang realistis namun palsu dengan gambar dan audio.

Teknologi ini telah digunakan untuk berbagai tujuan, mulai dari hiburan hingga disinformasi, dan telah menimbulkan kekhawatiran mengenai potensinya untuk menipu dan mempengaruhi opini publik.

Akhir tahun lalu, sebuah video yang menggunakan kecerdasan buatan untuk membuat Presiden Indonesia Joko “Jokowi” Widodo berbicara dalam bahasa Mandarin menghebohkan media sosial.

Partai Golkar bukan satu-satunya yang menggunakan AI dalam kampanye pemilu bulan depan.

Tim Prabowo menggunakan AI untuk membuat gambar visual untuk materi kampanyenya, termasuk papan reklame dan iklan TV yang menggambarkan dirinya dan pasangannya, Gibran Rakabuming Raga, sebagai pemuda tampan.

Para ahli mengatakan kebangkitan teknologi deepfake menimbulkan tantangan bagi jurnalis dan pemeriksa fakta, yang harus memverifikasi keaslian dan keakuratan konten yang mereka beritakan. Beberapa pihak menganjurkan penggunaan watermarking digital, blockchain, dan kecerdasan buatan untuk mendeteksi dan melawan deepfake.

Koordinator Komisi Pemilihan Umum Indonesia Jeirry Sumampow mengatakan rincian larangan dengan AI harus diperjelas.

“Apakah benar menggunakan gambar berbicara dan gambar bergerak, apakah benar menggunakan figur orang mati, itu perlu dibicarakan lebih lanjut,” ujarnya kepada BenarNews.

Kementerian Telekomunikasi dan TI mengirimkan surat tentang etika penggunaan kecerdasan buatan pada akhir Desember, namun surat tersebut hanya bersifat nasihat.

Nurul Amalia, seorang analis di Masyarakat untuk Pemilu dan Demokrasi, mengatakan dia dan timnya telah bersama-sama merekomendasikan beberapa aturan dasar untuk kampanye media sosial, terutama bagi kandidat untuk menggunakan kecerdasan buatan, kepada KPU dan pengawas pemilu.

“Kami mengusulkan [that campaigns] Menyangkal konten apa pun yang dibuat dengan AI,” kata Nurul.

Kampanye pemilu untuk pemilu bulan depan – hingga video Suharto ini – hanyalah disinformasi yang disebarkan oleh kecerdasan buatan, kata seorang analis.

“Penggunaan AI masih dibenarkan pada musim pemilu saat ini,” Vasisto Raharjo, peneliti politik Badan Riset dan Inovasi Nasional, mengatakan kepada Jati BenarNews.

“Tetapi kami memerlukan aturan khusus tentang konten apa yang dapat ditampilkan di masa mendatang.”