縱覽新聞評論員 劉玉婧
近日,一段「三只羊集團創始人盧某某本人」的錄音和影片在網絡引發熱議。9月26日,合肥市公安局高新分局通報稱,犯罪嫌疑人被抓獲,並行現偽造相關音影片的證據;經檢驗鑒定,認定報案所涉網傳音影片系偽造。
警情通報還稱,現已查明,9月16日,王某某利用從互聯網下載的音影片資料,杜撰盧某某酒後言論指令碼,先使用AI工具訓練生成假冒盧某某的音訊,後用影片軟件合成音影片,其中出現的女聲也系AI工具訓練生成。王某某透過網絡釋出音影片,形成謠言大量傳播。目前,王某某已被依法采取刑事強制措施,案件正在進一步偵辦中。
但是,在證據確鑿和專業機構鑒定結果公布之前,網絡上湧現出多位自認為熟知AI語音技術的自媒體博主,他們以自己知識儲備和行業經驗向網友出具對這條「盧某某」音影片的「鑒定報告」。其中一位在個人簡介中自稱「世界第三人工智能團隊成員」身份的博主,以現有AI生成技術尚未攻克的瓶頸問題和難以實作的技術效果的說辭作為鑒定依據,得出「盧某某音影片不是AI生成」的結論。也正是這些自稱技術懂行人士一通「頭頭是道」「有理有據」的分析,讓行業外的公眾模糊了對現有AI技術水平的清晰認知,助推了偽造音影片衍生謠言的擴散傳播。
技術創新跑得快,大眾的觀念意識也要追得緊。AI技術的中文釋義為人工智能。顧名思義,擬人化和還原度是AI技術目標追求和突破攀升的方向。在聲音領域,聲紋辨識、模擬訓練、仿生輸出等「技術複制」手段不斷升級,AI生成的作品也日益進入大眾的視野。在當前時代背景下,媒介素養的科普資訊應與技術套用的場景範圍,爭取做到同步、同量、同頻。
AI技術工具為人所用,但是不能濫用、亂用。中國現有法規中,非法偽造物品被明確列為管制物品之一,這意味著任何形式的非法偽造物品都是受到嚴格管制的,旨在防止非法偽造物品的流通和使用。如今,AI技術偽造生成視聽產品造謠生事的亂象頻發,造成的社會危害一目了然。若不能依靠套用者的道德自律來約束,就需要國家出手擔負起這個社會責任。正確、安全、合法地使用工具是至關重要的,這不僅關系到個人安全和法律遵守,也涉及維護社會秩序和公共安全。著眼未來,在重視防範風險的同時,也應同步建立容錯、糾錯機制,努力實作AI技術套用規範與發展的動態平衡。