Gugatan federal atas undang-undang “Penggunaan Teknologi Palsu yang Mendalam untuk Mempengaruhi Pemilu” di Minnesota kini berhubungan langsung dengan pengaruh AI. Dalam pengajuan baru-baru ini, pengacara yang menantang undang-undang tersebut mengatakan bahwa pernyataan tertulis yang diajukan untuk mendukung undang-undang tersebut menunjukkan tanda-tanda mengandung teks yang dihasilkan AI. Reformator Minnesota laporan Jaksa Agung Keith Ellison meminta direktur pendiri Stanford Social Media Lab, Jeff Hancock, untuk mengajukan pengajuan tersebut, tetapi dokumen yang diajukan menyertakan sumber yang tidak ada yang tampaknya telah dihalusinasi oleh ChatGPT atau model bahasa besar (LLM) lainnya.
Pernyataan tertulis Hancock mengutip studi tahun 2023 yang diterbitkan di Jurnal Teknologi Informasi & Politik berjudul “Pengaruh Video Deepfake terhadap Sikap dan Perilaku Politik.”
Namun menurut Pembarutidak ada catatan penelitian itu di Jurnal Teknologi Informasi & Politik atau publikasi lainnya. Sumber lain yang dikutip dalam deklarasi Hancock, “Deepfakes dan Ilusi Keaslian: Proses Kognitif di Balik Penerimaan Misinformasi,” tampaknya juga tidak ada.
Hancock tidak menanggapi Tepipermintaan komentar.
“Kutipan tersebut memiliki ciri-ciri ‘halusinasi’ kecerdasan buatan (AI), yang menunjukkan bahwa setidaknya kutipan tersebut dihasilkan oleh model bahasa besar seperti ChatGPT,” pengacara dari Perwakilan negara bagian Minnesota Mary Franson dan Christopher Khols — seorang YouTuber konservatif yang dipanggil Tuan Reagan – menulis dalam sebuah pengajuan. “Penggugat tidak tahu bagaimana halusinasi ini bisa muncul dalam deklarasi Hancock, namun hal ini mempertanyakan keseluruhan dokumen, terutama ketika sebagian besar komentar tidak mengandung metodologi atau logika analitik apa pun.”
