AI技術普及帶來便利同時，也引發安全、版權等問題。AI技術工具固然可以為人類帶來諸多便利，但絕不能被濫用或誤用。
@科技新知 原創
作者丨依蔓 編輯丨蕨影
三只羊盧某網傳錄音，竟是大模型偽造！
9月26日，安徽省合肥市公安局高新分局通報「三只羊」盧某某錄音事件，通報中指出，經部、省專業機構檢驗鑒定盧某某的網傳音視訊系偽造，在犯罪嫌疑人王某某的電腦、手機和制作AI音訊的網站中發現偽造相關音視訊的證據。
值得註意的是，與「警方通報三只羊盧某某錄音事件」同時登上熱搜榜單的，還有「合肥通報三只羊問題調查情況」及「三只羊道歉」等相關事件。合肥市監局同時也釋出了關於三只羊直播帶貨「香港美誠月餅」等商品存在問題的詳細調查報告，並宣布將對三只羊處以沒收違法所得、罰款總計高達6894.91萬元的嚴厲處罰。在此次事件中，AI偽造的盧某某相關錄音在未得到充分核實之前，無疑給正處於輿論風口浪尖的三只羊帶來了更大的壓力。目前，王某某已被依法采取刑事強制措施，案件正在進一步偵辦中。
突然間，偽造錄音所觸發的AI安全隱患激起了廣泛的熱議。
緊接著，卷入這一事件的科技企業釋出緊急聲明。9月27日，深圳市言域科技有限公司釋出聲明，確認涉案音訊部份為嫌疑人使用該司自主研發的AI配音大模型平台複制而成。公司已啟動內部稽核機制，強化使用者身份認證和音訊生成的安全管控，以確保技術的合法合規套用。
天眼查資訊顯示，深圳市言域科技有限公司成立於2023年，位於廣東省深圳市，註冊資本100萬人民幣。
就該案件中提供技術的公司是否要擔責的問題，上海大邦律師事務所高級合夥人遊雲庭接受界面新聞采訪時表示，還是要看該公司是否履行平台的合規責任。「根據互聯網資訊服務深度合成管理規定，如果履行了合規義務的，我覺得他們責任比較小，否則的話會有麻煩。」
伴隨著人工智慧科技的迅猛推進，AI技術已然廣泛地深入到我們社會生活的諸多方面。然而，相伴而生的是越來越嚴峻的AI安全問題日益上升為人們關註的焦點。
今年6月，「男子用AI偽造學生同事近7000張裸照」沖上微博熱搜。犯罪嫌疑人是一家國內互聯網公司的技術員，巧妙運用AI技術中的「一鍵去衣」功能，深度偽造圖片近7000張，每張1.5元賣出，從中獲取了近1萬元人民幣的非法收益。2024年年初，一家跨國公司香港分公司員工在參與一場視訊會議時便陷入了不法分子精心策劃的騙局。與會者都是經過AI 換臉與AI 換聲的詐騙分子，最終公司遭受了高達2500萬美元的經濟損失。同樣觸目驚心的案例還發生在南韓首爾大學，畢業生樸某和姜某，從2021年7月至2024年4月的3年多裏，盜用女性同學、熟人的照片，用深度偽造技術換臉合成色情制品，在Telegram上建立了近200個網路聊天室大肆傳播，受害女性多達61人。
