Banyak konten yang dihasilkan AI digunakan untuk menyatakan dukungan atau fandom terhadap kandidat tertentu. Misalnya, video Donald Trump dan Elon Musk yang dibuat oleh AI menari mengikuti lagu BeeGees “Stayin’ Alive” dibagikan jutaan kali di media sosial, termasuk oleh Senator Mike Lee, seorang anggota Partai Republik dari Utah.
“Ini semua tentang sinyal sosial. Itu semua alasan mengapa orang membagikan hal ini. Itu bukan AI. Anda melihat dampak dari pemilih yang terpolarisasi,” kata Bruce Schneier, ahli teknologi kepentingan publik dan dosen di Harvard Kennedy School. “Ini tidak berarti bahwa kita memiliki pemilu yang sempurna sepanjang sejarah kita dan sekarang tiba-tiba ada AI dan semuanya berisi informasi yang salah.”
Tapi jangan dipelintir—itu adalah deepfake menyesatkan yang menyebar selama pemilu ini. Misalnya, pada hari-hari sebelum pemilu Bangladesh, deepfake beredar secara online yang mendorong para pendukung salah satu partai politik di negara tersebut untuk memboikot pemilu tersebut. Sam Gregory, direktur program organisasi nirlaba Witness, yang membantu masyarakat menggunakan teknologi untuk mendukung hak asasi manusia dan menjalankan program deteksi respons cepat untuk organisasi masyarakat sipil dan jurnalis, mengatakan bahwa timnya memang melihat peningkatan kasus deepfake tahun ini.
“Dalam berbagai konteks pemilu,” katanya, “terdapat contoh-contoh penggunaan media sintetik dalam format audio, video, dan gambar yang benar-benar menipu atau membingungkan, yang telah membingungkan para jurnalis atau tidak mungkin mereka verifikasi atau tantang sepenuhnya. ” Hal ini menunjukkan bahwa, katanya, alat dan sistem yang ada saat ini untuk mendeteksi media yang dihasilkan oleh AI masih tertinggal dibandingkan dengan kecepatan perkembangan teknologi tersebut. Di negara-negara di luar AS dan Eropa Barat, alat pendeteksi ini bahkan kurang dapat diandalkan.
“Untungnya, AI dengan cara yang menipu tidak digunakan dalam skala besar di sebagian besar pemilu atau cara-cara penting, namun sangat jelas bahwa ada kesenjangan dalam alat deteksi dan akses terhadap alat tersebut bagi orang-orang yang paling membutuhkannya,” kata Gregory. “Ini bukan waktunya untuk berpuas diri.”
Keberadaan media sintetik, katanya, berarti bahwa para politisi mampu menyatakan bahwa media yang sebenarnya adalah palsu—sebuah fenomena yang dikenal sebagai “dividen pembohong.” Pada bulan Agustus, Donald Trump menuduh bahwa gambar yang menunjukkan kerumunan besar orang yang melakukan demonstrasi untuk Wakil Presiden Kamala Harris adalah hasil buatan AI. (Sebenarnya tidak.) Gregory mengatakan bahwa dalam analisis terhadap semua laporan yang dikirimkan ke pasukan respons cepat deepfake Witness, sekitar sepertiga dari kasus tersebut adalah politisi yang menggunakan AI untuk menyangkal bukti peristiwa nyata—banyak di antaranya melibatkan percakapan yang bocor.
