馬斯克 視覺中國 資料圖
近日，特斯拉行政總裁馬斯克轉發了一條用AI偽造美國副總統哈裏斯聲音的影片，引發了批評與擔憂。
據【紐約時報】7月27日報道，當地時間26日晚，馬斯克在社交平台X上轉發了一條偽造哈裏斯聲音作為配音的影片，並且沒有打上相關標簽進行說明。這疑似違反了X平台的使用者使用條款，並引發了對AI技術在選舉中套用於誤導資訊的擔憂。
影片中，偽造的哈裏斯聲音自稱是「最佳的多元化雇員」，並說道：「如果你批評任何我說的話，你就是性別歧視者和種族歧視者。」這條1分53秒的影片，畫面內容基本取自哈裏斯25日釋出的首條競選廣告，但用偽造的哈裏斯聲音替換了原影片的畫外音。除此之外，原影片開頭2024年大選共和黨候選人特朗普與副手萬斯作為「反面人物」出現的鏡頭也被剪輯刪除。
據美聯社29日報道，兩位研究AI生成媒體內容的專家審查了相關影片，確定其中的音訊大部份是使用AI技術生成的。加州大學柏克萊分校的數碼取證專家漢尼·法列特（Hany Farid）表示，這段影片展示了生成式人工智能和深度偽造（使用AI軟件透過「換臉」、語音模擬、影片生成等方式對既有影像、聲音、影片進行篡改、偽造）的力量。他認為，生成式人工智能公司應當確保他們的服務不會被濫用於傷害人民或民主。
馬斯克所轉影片的原釋出者網名為「列根先生」，在YouTube影片平台上有34.8萬名訂閱者。「列根先生」在X貼文的評論區承認他是這條影片的「制作」者，並在相關貼文中打上了「滑稽模仿」的標簽。但是馬斯克在轉發時並未打上類似標簽，只釋出了「這也太神奇了」的評論和一個大笑的表情。
X的使用者使用條款規定，使用者「不得分享可能欺騙或誤導人們並導致傷害的，經過合成、操縱或斷章取義的媒體內容」。據【紐約時報】報道，數碼治理專家艾力斯·霍華德（Alex Howard）27日發帖稱，馬斯克違反了X關於合成內容和誤導資訊的政策，並質問作為X所有者的馬斯克是否打算修改這些條款，方便其在選舉年違規。
目前，馬斯克尚未回應此事。截至7月29日中午，馬斯克的轉帖已有超過1.27億次瀏覽量，尚未被刪除。
美國總統拜登7月21日宣布結束總統競選，支持副手哈裏斯成為2024年大選民主黨總統候選人。哈裏斯競選發言人米婭·埃倫伯格（Mia Ehrenberg）在聲明中表示：「我們相信，美國人民想要副總統哈裏斯提供真正的自由、機會和安全；而不是埃隆·馬斯克和當勞·特朗普操縱的虛假謊言。」兩周前，在特朗普遇刺後不久，馬斯克曾在X上發帖表達對特朗普的支持。
近年來，一些專家對AI技術驅動的深度偽造發出了越來越緊迫的警告，要求有關機構加強對AI的監督，應對其對民主造成的威脅。美國國會尚未透過有關政治領域AI套用的相關法律，但包括X、Facebook、YouTube在內的多家美國主流社交平台都已要求使用者對AI生成內容進行披露。
澎湃新聞記者 南博一 實習生 王啟涵
(本文來自澎湃新聞，更多原創資訊請下載「澎湃新聞」APP)
