1月7日9時05分，西藏日喀則市定日縣發生6.8級地震，牽動著許多網友的心。但與此同時，一些網友為了流量，利用AI技術生成「災區」群眾被埋、房屋坍塌等虛假照片進行釋出，並配文日喀則地震等關鍵詞，造成網友誤解。
其中，一張「被壓廢墟下的小男孩」圖片引發廣泛關註。圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿塵埃。記者註意到，這張圖片在某短影片平台，被多個賬戶轉發，卻配文都與西藏日喀則地震關聯，有賬戶因此獲得上萬轉發和評贊。
▲「被壓廢墟下的小男孩」圖片引發廣泛關註
而實際上，這張小男孩圖片實際是由AI生成，圖中孩子的左手顯示為六根手指，且平台也在相關影片下方給出文字提示：「疑似使用AI生成技術，請謹慎甄別」。可雖有提示，不少網友仍被誤導，並在留言區關註男孩的生命安全。
▲圖中孩子的左手顯示為六根手指
這並非個例。在某影片平台上，紅星新聞記者以「日喀則地震群眾被埋」為關鍵詞進行搜尋發現，不少影片博主都釋出了AI生成的災區圖片，且都在配文中與日喀則地震關聯。盡管大部份圖片下方都有小字提示為「AI生成」，但相關內容仍讓不少網友信以為真。
【記者實測】
多數軟件生成圖片無風險提示，
影片發出前缺乏稽核流程
為測試該類圖片的生成過程，紅星新聞記者嘗試在多款AI智能生成軟件中進行相關圖片生成，多數軟件生成圖片無風險提示，如在一款名為「豆包」的AI智能APP中，記者輸入「日喀則地震嬰兒被埋」的關鍵詞，軟件在未給予任何侵權、違規、虛假資訊等幹預提示下，自動生成了多張相關圖片。
對此，北京京展律師事務所主任律師張曉玲分析認為，AI軟件在輸入有關地震等關鍵詞時，未給出任何「不傳播虛假資訊」等提示，直接生成相關圖片，存在不妥。
「AI軟件在演算法上，應當也有能力對關鍵詞進行辨識，需要具備一定的道德和法律的判斷能力，在使用者輸入關鍵詞時給予明確的警示，避免生成和傳播虛假資訊。」張曉玲說。
而在釋出環節記者也發現，上傳上述AI生成的「地震嬰兒被埋」圖片後，記者隨機配上音樂，並標註「日喀則地震孩子被埋，祈求平安」等字樣，相關影片便被順利發出。影片釋出約1小時後，相關內容下方出現「疑似使用AI生成技術」的平台小字提示資訊。測試完成後，記者也隨即刪除影片內容。
▲引熱議的「地震小孩被埋圖」被曝去年就在某平台的一條短影片中出現過，並聲明是AI生成
針對該情況，紅星新聞記者以網友身份詢問抖音客服，一名接線人員回應稱，按照先行稽核程式，AI生成的圖片及影片只有在創作者釋出後，平台才能進行辨識和稽核。若稽核發現為AI圖片，平台會在內容底部標記「疑似使用了AI生成技術，請謹慎甄別」字樣。
這名客服也表示，如果使用者發現有網友借助AI技術傳播虛假圖片甚至造謠，那麽網友可撥打抖音安全與舉報專線，或直接點選影片內容進行舉報反饋。
【律師說法】
該行為不符合公序良俗和道德，
如引發恐慌造成較大影響將被追責
網友利用AI技術生成地震災區現場關聯圖片，並引發社會關註，這樣的行為是否欠妥？就此，河南澤槿律師事務所主任付建在接受紅星新聞采訪時指出，盡管網友本身或並無惡意，只是希望借助AI生成的圖片獲取流量，或希望更多人來關註地震。但用「假圖」關聯真實事件，付建認為，其行為雖不違法，但不符合社會公序良俗和道德，讓他人產生誤解，有失妥當。
北京京展律師事務所主任律師張曉玲也同樣告訴紅星新聞，在災害面前，應傳遞真實、準確資訊，以助於救援和減少恐慌，而不該利用災害來博取眼球。
付建分析指出，利用AI生成圖片本身不會因此受到處罰，但若肆意用AI技術生成地震受災嚴重的畫面，甚至編造謠言，圖片和配文內容與事實嚴重不符，且引發社會廣泛關註甚至網友的恐慌，則屬擾亂公共秩序行為。
張曉玲也提到，若相關內容轉發評論量較大，造成了不良社會影響，那麽根據【治安管理處罰法】相關規定，釋出者編造虛假的險情、疫情、災情、警情，在資訊網絡或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重後果的，處三年以上七年以下有期徒刑。
同時，對於AI生成圖片的相關影片立刻能發出，發出約1小時後才出現「疑似AI技術生成」的提示語，在付建看來，這在某種程度上說明平台稽核存在問題，其稽核規則具有滯後性，提示方式也存在不夠明顯的漏洞。
張曉玲也認為，平台在釋出內容前應進行必要的稽核，以確保資訊的真實性和準確性。特別是在涉及災害等敏感話題時，更應加強稽核力度。且盡管有文字提示，但仍有網友誤解，這也進一步說明，平台的提示方式不夠醒目和有效。
因此，張曉玲呼籲，平台應該改進稽核機制，提高稽核效率，並采用更加直觀有效的提示方式，以避免虛假資訊的傳播。
來源：紅星新聞
