點擊瀏覽 休斯頓黃頁 電子書
新聞 / 今日要聞

AI生成虛假名人 擾亂美國總統大選


AI生成虛假名人 擾亂美國總統大選

(綜合外電報導)美國總統選舉即將於11月登場,研究人員指出,美國影星、歌手及運動員遭捏造對共和黨總統候選人川普及民主黨競爭者賀錦麗做出許多虛假證詞,正在社群媒體大舉擴散,其中許多來自AI影像產生器。

法新社報導,流行音樂天后泰勒絲(Taylor Swift)、女神卡卡(Lady Gaga)及好萊塢男星摩根費里曼(Morgan Freeman),並未支持川普(Donald Trump)

搖滾歌手布魯斯史普林斯汀(Bruce Springsteen)也並未被拍到他穿著印有「美國保持無川普狀態」(Keep America Trumpless)標語的上衣。虛假名人支持或奚落特定候選人的社媒貼文,正在干擾美國總統大選。

包含億萬富豪馬斯克(Elon Musk)旗下X在內的社媒平台移除許多防範假訊息的護欄後,虛假名人支持和奚落特定候選人的貼文已經引發外界擔憂,隨著總統選舉選情白熱化,這些內容可能被用於操縱選民。

川普8月在社媒轉貼幾張泰勒絲支持他選總統的AI生成照,顯然試圖利用這位流行天后的巨星影響力吸引選民。

加州大學柏克萊分校數位鑑識專家法瑞德(Hany Farid)指出,川普在他創立的社媒「真實社群」(Truth Social)轉貼泰勒絲的AI生成照「特別工於心計」,因為他將真實與虛擬的影像結合在一起。

非營利組織新聞素養計畫(NLP)近來推出所謂的錯誤消息控制台,旨在提升人們對選舉謊言的辨別度。這項計畫的資料庫迄今已列出70篇在社媒散布虛假「名人」支持和奚落特定候選人的貼文。

新聞素養計畫資深研究副總裁亞當斯(Peter Adams)告訴法新社:「在這個兩極化的時代,虛假名人的支持可吸引選民注意、影響其看法、強化個人偏見,還會散播困惑和混亂。」

新聞素養計畫的假訊息清單包含已獲取數百萬觀看次數的貼文,幾乎每天都有新的社媒貼文加入清單。

法新社的事實查核人員指出,清單內有些貼文轉載變造過的女神卡卡照片,照片配上「川普2024」(Trump 2024)的標記,表明她支持美國前總統川普。

研究人員表示,特別是在X平台縮減內容審核政策並且恢復明知是散布虛假內容的帳號後,X平台已成為散布惡意造假政治資訊的溫床。