據美國媒體日前披露，上周，很多人接到了透過一家人工智慧初創公司的技術「深度偽造」的美國總統拜登電話呼叫，「假拜登來電」迅速成為美國多家媒體的熱門話題，也再度引發了美國社會關於人工智慧「深度偽造」可能影響大選的討論。
冒充拜登的機器人語音電話錄音：
把你們的選票留在11月份再投很重要。在這周二（23日）投票，只會讓共和黨人得逞，讓川普再次當選為共和黨候選人。
上周美國總統大選共和黨黨內初選在新罕布夏州舉行前，部份選民接到了這樣一通來電。白宮新聞秘書卡裏娜·讓-皮埃爾22日證實，這一來電是「偽造，不是由總統錄制」。
美國媒體日前援引訊息人士的話報道稱，美國人工智慧初創公司「十一實驗室」暫時關閉了一名使用者的帳戶。美國語音欺詐檢測公司——「靜默」公司稱，分析發現，「十一實驗室」公司的科技被用於制作冒充拜登的機器人語音電話錄音。「十一實驗室」公司在一份聲明中稱將嚴肅對待人工智慧技術被濫用的情況，但對近日引發關註的「假拜登來電」事件不予置評。
新罕布夏州總檢察長表示，正在調查這一事件，並呼籲選民忽視這類假訊息。
OpenAI 停 總統參選人仿真聊天機器人帳戶
事實上，人工智慧已經滲入美國總統競選活動。
不久前，矽谷的科技開發者為民主黨總統參選人迪恩·菲利普斯創造了一個仿真聊天機器人，稱使用者可以與模仿菲利普斯的人工智慧產品對話。本月20日，美國人工智慧公司OpenAI表示，已經停用了該開發者帳戶，稱這一做法違反了該公司禁止在競選活動中濫用人工智慧技術的政策。
「深度偽造」模仿競選人士 欺騙選民
此前，人工智慧生成的虛假資訊也已多次幹擾美國政治活動。
在去年2月舉行的芝加哥市長選舉第一輪投票前夕，社交媒體上出現了一段關於候選人保羅·瓦拉斯的視訊，偽造瓦拉斯的聲音發表言論，聲稱「警察隨隨便便就可以射殺嫌疑人」，並呼籲削減警察經費。
冒充瓦拉斯的機器人語音錄音： 人們卻對這些情況視而不見。
在瓦拉斯向社交媒體平台發出投訴之後，社交媒體刪除了這段視訊，但該視訊在下架前已經被瀏覽了數千次。
人工智慧帶來「深度偽造」
立法慢引擔憂
當前，人工智慧的興起推動了各行業的變革創新，但同時也引發了人們的不少擔憂。其中，基於人工智慧技術的「深度偽造」現象受到廣泛關註。「深度偽造」是指對一個人的聲音或影像進行數位更改並意圖造成傷害。這種行為目前不僅出現在美國政治中，也波及美國娛樂圈乃至人們生活的方方面面，引發美國輿論的擔憂和批評。
美國媒體「微軟—國家廣播公司」在報道中提出疑問，2024年將是「深度偽造」的大選年嗎？
冒充拜登的機器人語音電話錄音： 把你們的選票留在11月份再投很重要。
美國網路安全專家 凱瑞斯·克雷布斯： 生成這類內容非常容易，這就是所謂的20秒規則。只需要一個人20秒的聲紋，就能生成這樣的內容。我認為執法部門、聯邦調查局和司法部長辦公室將面臨一些挑戰。不幸的是，我認為這只是我們將在選舉季看到的冰山一角。
美國政府監管組織「捍衛公眾利益組織」負責人勞勃·衛斯曼批評稱，政治「深度偽造」時刻已經到來，政策制定者必須盡快采取保護措施，否則將面臨選舉混亂。「深度偽造」會播下混亂的種子，使欺詐行為永久化。
近日，美國流行樂歌手泰勒·斯威夫特也成為「深度偽造」技術的又一受害者，虛假合成的不雅照在社群網路瘋狂傳播，引發美國媒體對人工智慧技術被濫用的質疑。
記者： 對這種技術被濫用的情況白宮有多擔心？
白宮發言人 卡裏娜·讓－皮埃爾： 雖然社交媒體公司在內容管理方面有獨立決策權。但我們認為，它們在嚴格落實其監管制度上應起到重要作用，以防止錯誤資訊和未經本人允許的私密影像傳播。令人遺憾的是，我們都知道，執法不嚴對婦女和女孩的影響更為惡劣。
人工智慧技術飛速發展，但美國相關的監管政策和立法卻跟進遲緩。業內人士指出，科技發展的雙刃劍僅靠企業的自律是無法掌控的，人工智慧技術的濫用迫切需要政府監管。
美國消費者技術協會執行長 夏皮羅： 政府需要在人工智慧領域扮演重要角色，確保設定安全螢幕障和護欄，讓產業內人士知道，哪些能做，哪些不能做。
2023年10月，美國總統拜登簽署行政令，為本國人工智慧安全制定新標準，要求美國人工智慧系統的研發人員與政府分享其安全測試結果及其他關鍵資訊、完善相關標準和測試工具等，但該行政令缺乏強制執行效能。
密爾瓦基工程學院電腦科學計畫主任 德瑞克·賴利： 我們的政府行動不夠快，跟不上正在發生的變化。所以我認為，我們不太可能看到有效的監管。
（來源：央視新聞）
更多精彩資訊請在套用市場下載「極目新聞」客戶端，未經授權請勿轉載，歡迎提供新聞線索，一經采納即付報酬。
