來源： 人民日報
近期，多起知名人士被AI仿冒事件引發關註。有帳號仿冒知名醫生，深夜帶貨推銷所謂「保健品」。雖然很快被網友識破，但對醫生本人造成很大困擾，當事人多次投訴，違規帳號仍屢禁不止。
一段時間內，AI生成內容帶有明顯加工痕跡，大家尚能辨識。隨著技術發展，AI生成的畫面、聲音、視訊越來越逼真，普通使用者愈發難辨真偽。一些不法商家為躲避監管，通常選擇在深夜直播，有的利用老年人警惕性弱、對新技術不了解，精準對其進行「收割」。
AI造假觸及的不止直播帶貨。有不法分子利用AI技術編「偽訊息」、造「假新聞」，騙取網民關註點贊，實作流量變現。部份詐騙分子，深度合成受害者親屬、同事聲音畫面，精準施騙。
嚴防AI造假，關系社會秩序，也關系公民權益，是一個很迫切的話題。 近來相關法律法規相繼出台，【互聯網資訊服務深度合成管理規定】【生成式人工智慧服務管理暫行辦法】等都在內容稽核、資訊保安方面對生成式AI提出了要求。今年9月，國家網信辦釋出【人工智慧生成合成內容標識辦法（征求意見稿）】，進一步提出剛性約束。
AI技術發展突飛猛進，帶來了新奇體驗和產業進步，與此同時，不法分子也千方百計為謀私利鉆空子。 面對新挑戰，確實需要想一些新辦法，全方位提升防造假的能力。
網路平台的責任不可推卸，需要不斷提升技術手段，加強稽核辨識，辨識深度偽造內容。對於疑似AI生成的內容，應考慮在明顯位置進行標識提醒，並做好相關內容的後台儲存備案，以防止不法商家一刪了之。監管部門應嚴格執法，對利用AI技術進行不法行為的人員和機構追根溯源、嚴查嚴處，加大震懾力度。網友則應提高警惕，加強防範，多方求證，增強資訊辨別能力。
技術發展有其自身規律，關鍵在於使用技術者，須懷揣一顆向善之心。期待多方協同發力，清掃AI造假亂象，讓AI成為造福社會的超級助手，不能淪為不法分子的行騙工具。
人民日報客戶端 喻慶
海報制作：陳泉伊
