蘋果公司近日因其新推出的「蘋果智慧」功能陷入輿論漩渦。該功能旨在為使用者提供新聞摘要等資訊,然而,一系列離譜的錯誤資訊正嚴重損害其聲譽,並引發了多家主串流媒體的強烈譴責。
「蘋果智慧」最受詬病的問題在於其資訊摘要功能的失準。近期,該功能錯誤地聲稱當街槍殺保險公司CEO的槍手路易吉·曼喬內「對自己開槍」,而事實並非如此。
更令人不安的是,這些錯誤的資訊摘要會以官方新聞APP推播的形式呈現給使用者,嚴重誤導公眾,也直接損害了各大新聞媒體的公信力。已有多家主串流媒體就此事向蘋果表達了嚴重關切,但截至目前,尚未收到蘋果的正式回應。
蘋果智慧「炮製」新聞並非孤例。社交媒體上湧現出大量使用者反饋,揭示了「蘋果智慧」的其他錯誤資訊。其中一例是,該功能竟然推播了「內塔尼亞胡被捕」的虛假訊息,而這則訊息在推播時同樣是官方新聞媒體報道的形式,非常具有迷惑性。
據了解,「蘋果智慧」的通知摘要功能依賴於裝置端執行的一個擁有30億參數的「小型」模型。蘋果官方釋出的研究顯示,該模型在摘要生成方面的使用者滿意度約為70%。雖然這一數據略優於同類競品的小型模型,但距離「不出重大差錯」的目標仍有不小差距。端側模型受限於算力,其表現往往不如雲端的大型模型,這是業界共識。
然而,將如此不成熟的技術倉促推向市場,蘋果顯然低估了由此可能帶來的負面影響。
電科技認為,此次事件突顯了人工智慧在新聞資訊處理領域套用的兩難境地:AI技術在資訊摘要、新聞推薦等方面具有巨大的潛力,但AI技術在理解和處理復雜資訊方面仍存在局限性,容易出現偏差和錯誤。僅僅依靠機率來決定資訊的準確性,在其他領域或許無傷大雅,但對於需要嚴謹性的新聞傳播而言,顯然是不可接受的。