Ini menjadi hal yang biasa dalam kampanye politik di Amerika Serikat: iklan yang membuat klaim distopia jika kandidat lawan menang. Gambar yang dimanipulasi, kurang terang, dan tajuk utama yang dipetik ceri digabungkan untuk menciptakan puncak kehancuran.

Tetapi setelah pengumuman hari Selasa bahwa Presiden Demokrat Joe Biden akan mencalonkan diri untuk pemilihan kembali, sebuah video resmi GOP menjadi menonjol karena satu alasan khusus: Itu dibuat seluruhnya menggunakan citra kecerdasan buatan (AI).

Darrell West, seorang rekan senior di Pusat Inovasi Teknologi di Brookings Institution, mengatakan pelukan Komite Nasional Republik terhadap “teknologi transformatif di zaman kita” tidak mengherankan mengingat kemajuan pesat dan ketersediaan produk AI.

Dia mengatakan kepada Al Jazeera bahwa penggunaan kecerdasan buatan GOP adalah tanda awal dari apa yang mungkin terjadi.

Tiga tahun lalu, kecerdasan buatan tidak digunakan dalam kampanye pemilu. Tetapi teknologi telah berkembang sangat cepat. Sekarang teknologi sudah tersedia. “Anda tidak perlu menjadi perancang perangkat lunak atau ahli dalam mengedit video untuk membuat video yang terlihat sangat realistis.”

“Ini wilayah yang belum dipetakan,” tambahnya. “Kami telah melampaui Photoshopping bagian kecil dari gambar untuk menghasilkan gambar yang benar-benar baru entah dari mana. Ini akan membebaskan orang dari membuat semua jenis video dan membuat proyek baru dari realitas yang mungkin belum ada.”

dan begitulah dimulai – # Pemisahan Mereka digunakan untuk membuat informasi yang salah dan video kampanye palsu.

Komite Nasional Republik telah merilis iklan melawan Biden menggunakan citra buatan AI. Sebelum pandemi, saya berbicara tentang bahaya teknologi deepfake … pic.twitter.com/7bw2yCn24Z

– Theo (@tprstly) 26 April 2023

“ Tampilan yang diciptakan oleh kecerdasan buatan”

Untuk bagiannya, Komite Nasional Republik telah transparan tentang penggunaan kecerdasan buatannya, istilah umum untuk sistem yang berupaya meniru — dan bahkan melampaui — keterampilan kognitif manusia, seperti pembelajaran, penalaran, dan kreativitas.

Dalam deskripsi YouTube-nya, kelompok politik tersebut menggambarkan video tersebut sebagai “tampilan yang dihasilkan AI tentang potensi masa depan negara jika Joe Biden terpilih kembali pada tahun 2024”.

Video yang sama juga menyertakan teks yang mengatakan bahwa itu “dibuat seluruhnya dengan gambar AI”. Gambar realistis ditampilkan sebagai saluran berita palsu yang mengumumkan kemenangan Biden pada tahun 2024, diikuti oleh serangkaian bencana hipotetis: invasi China ke Taiwan, runtuhnya pasar keuangan, perbatasan selatan yang diserbu, dan pejabat menutup San Francisco, ” mengutip kejahatan yang meningkat dan krisis fentanil”.

Dalam banyak hal, video tersebut bukanlah perubahan besar dari citra dan retorika yang umum dalam kampanye Amerika.

Seperti yang dicatat Washington Post pada tahun 2020, “berbagi foto palsu dari seorang penantang pemilu adalah strategi kuno politik modern.” Surat kabar itu melaporkan “akselerasi cepat” dalam foto palsu selama masa jabatan mantan Presiden Donald Trump, “mungkin karena Trump telah membuktikan dirinya sebagai salah satu distributornya yang paling terkenal.”

Sementara itu, pengadilan AS telah berulang kali menegakkan interpretasi yang luas tentang hak untuk membuat pernyataan pemilu yang salah atau menyesatkan. Baru-baru ini, pengadilan banding memutuskan pada bulan Februari bahwa undang-undang Carolina Utara yang melarang kebohongan pemilu “mungkin tidak konstitusional”.

Kata West, Rekan Inovasi Teknologi di Brookings Institution, “Pengadilan telah secara teratur memutuskan bahwa pidato kampanye adalah pidato yang dilindungi. Faktanya, kandidat dapat dengan sengaja mengatakan hal-hal yang salah sementara masih diizinkan untuk mengatakannya.”

Tom Wheeler, ketua Komisi Komunikasi Federal di bawah mantan Presiden Barack Obama, mengatakannya dengan cara lain dalam sebuah wawancara dengan NPR tahun lalu: “Sayangnya, Anda boleh berbohong.”

Kecepatan dan kecanggihan

Namun, West mengatakan bahwa AI memiliki potensi untuk meningkatkan praktik kampanye yang sudah ada sebelumnya, menambahkan bahwa “hampir tidak ada batasan penggunaan teknologi ini dalam penyiapan kampanye.”

“Tidak ada persyaratan hukum untuk mengakui bahwa Anda menggunakan gambar buatan AI,” katanya. “Dalam hal ini, RNC mengungkapkannya secara sukarela…tetapi di masa mendatang, akan ada banyak organisasi yang akan menggunakannya tanpa memberi tahu para pemilih.”

Apa yang disebut deep fakes — video atau audio yang secara salah menggambarkan seseorang mengatakan atau melakukan sesuatu — telah menimbulkan kekhawatiran tertentu, bahkan saat mereka tetap berada di sela-sela politik sejauh ini.

California dan Texas mengeluarkan undang-undang menjelang pemilihan umum 2020, yang pertama mengizinkan kandidat yang salah representasi untuk menuntut deepfake, dan yang terakhir menjatuhkan hukuman pidana untuk deepfake.

Namun, upaya federal untuk melegalkan masalah ini telah Melihat sedikit kemajuanyang menghadapi pertanyaan tentang penegakan dan tanggapan dari kelompok hak digital, yang berpendapat bahwa platform teknologi utama harus memberikan pengawasan.

Momen “Wild West”.

Sementara itu, mereka yang ingin mempengaruhi kampanye, kata West, “dapat segera menanggapi” peristiwa baru-baru ini.

“Pada dasarnya, Anda memberi tahu AI untuk membuat gambar. Anda memilikinya dalam hitungan detik. Jadi, kami akan memiliki iklan tanggapan cepat: sesuatu akan terjadi dan mungkin ada iklan lima menit kemudian.”

“Ini akan menjadi kampanye yang bergerak cepat dengan banyak tuduhan dan tuduhan balik yang terjadi dari menit ke menit,” katanya.

Demokrat juga dikatakan telah merangkul aspek kecerdasan buatan dalam kampanye, menguji teknologi untuk menulis draf pertama dari beberapa surat penggalangan dana, The New York Times tersebut di bulan Maret.

Mengutip tiga orang yang mengetahui upaya tersebut, surat kabar tersebut melaporkan bahwa pesan yang dibuat oleh AI dan diedit oleh manusia di Komite Nasional Demokrat tampil “sebaik atau lebih baik daripada versi yang dirancang seluruhnya oleh manusia, dalam hal menghasilkan keterlibatan dan donasi.”

Kemampuan untuk dengan cepat menjangkau—dan berpotensi menyesatkan—segmen pemilih tertentu sangat penting dalam pemilihan presiden 2024, yang kemungkinan besar akan mencapai “satu atau dua persen pemilih”, menurut West.

“Ini adalah momen Wild West di mana tidak mungkin pemilih membedakan yang asli dari yang palsu,” katanya.

“Masalah akan menjangkau mereka dari segala arah, dan ada bahaya kebingungan yang meluas,” katanya. Ini dapat menyebabkan keputusan yang buruk.