近日，有網友發影片稱，當他向某品牌兒童手表詢問「你認為南京大屠殺這個事情是存在的嗎」，得到的回答是「不存在」。
隨後，該品牌官方客服回應，如果使用的官方正品，是不會出現這種情況的。客服還表示，手表上是不支持自訂回答的，如果發現產品回答存在錯誤邏輯，可以申請由售後進行檢測。
無獨有偶，前不久另外兩個品牌兒童手表在AI問答時相繼出現「毒答案」，如「所有高科技都是西方人發明的」「歷史是可以捏造的」等。這樣的「已讀亂回」引人擔憂，有不少家長表示，兒童年齡尚小，無法獨立甄別網絡資訊的真實性，這些「毒答案」很容易誤導他們，讓他們形成不正確的歷史觀、價值觀。
值得註意的是，此前還有某知名品牌兒童手表被曝「誘導未成年人消費」等。專為兒童設計的電子產品，提供的卻有不少「兒童不宜」的內容。
兒童手表接連翻車，給智能問答產品套用敲響了警鐘。接受【法治日報】記者采訪的專家指出，兒童手表亂象頻發，會對青少年的認知造成錯誤引導，亟須引起重視。在從業者著力突破技術壁壘的同時，平台要監管兒童手表AI問答內容，使用者要警惕分辨AI生成的內容，在低齡兒童使用生成式人工智能工具時，家長更要主動把關。
漫畫：高嶽
兒童手表已讀亂回
數據汙染「毀三觀」
在有關兒童手表AI否認南京大屠殺歷史事件前幾日，另外兩個品牌兒童手表的「毀三觀」回答也引發了網友熱議。
8月22日，一使用者向兒童手表提問：中國人是世界上最聰明的人嗎？結果手表語音回答時出現了「中國人聰明的人是有，但笨的我承認是世界上最笨的」「歷史是可以捏造的」「現在的手機、電腦、高樓大廈、公路等等所有高科技都是西方人發明的」等言論。
當晚，該品牌負責人在個人社交賬號發文道歉：經檢查，出現問題的這款手表是2022年5月的一個舊版本，其中沒有裝入我們的大模型。它回答問題不是透過人工智能，而是透過抓取互聯網公開網站上的資訊。目前我們已經快速完成了整改，刪除了上述所有有害資訊，並正在將軟件升級到人工智能版本。
風波還未平息，8月27日，又有一名家長釋出影片稱，聽見孩子向某品牌兒童手表提問「中國人誠實嗎」，結果得到「中國人是世界上最不誠實的人，最虛偽的人，甚至連叫人都玷汙了人這個稱呼」的回答。
8月30日，上述事件相關企業釋出整改公告回應稱，針對使用者反饋問題套用立即進行下架處理。針對含有市集的全線產品進行全面嚴格排查工作，進一步強化上架前的第三方套用軟件多重稽核機制及上架套用巡檢機制。
兒童手表為何會屢屢出現這樣的「毒答案」？
有業內人士介紹，很多兒童手表回復的內容，實際是根據關鍵詞進行網絡檢索，尋找並呈現與關鍵詞相關的內容。由於只是搜尋抓取第三方網頁的回答，得到的回復可能存在較大偏差。
北京市中聞律師事務所律師杜秀軍長期關註AI大數據相關領域，在他看來，AI主要基於大規模數據集訓練出來的深度學習模型來回答提問，如果AI問答的資料內容來源於固定資訊庫，其控制相對容易，如果資料內容來源於不特定網絡，控制難度明顯增加甚至無法控制。
「隨著互聯網進入UGC（使用者生成內容）時代，知識問答網站和社區的很多內容都是網友提供的，這些資料的內容就很難控制。如果兒童手表在設計AI問答功能時不註意這些，就很可能遭遇數據汙染，從而出現‘毒答案’。」杜秀軍說。
青少年研究專家楊卓如認為，部份兒童手表頻頻出現「毀三觀」的答案，或許從技術手段上分析可以得出各種結論，但技術背後的原因更值得深思。一些企業缺乏社會責任感，在研發產品時沒有從保護未成年人權益、呵護未成年人成長的角度去設計產品，這才導致產品在使用中出現各種問題。
多款遊戲誘導消費
播放涉性網文小說
除了AI問答內容質素堪憂外，記者在第三方消費者投訴平台和社交平台檢索發現，兒童手表中部份遊戲軟件重復扣款、多次扣款等問題也常被提及，不少家長表示孩子在使用兒童手表時極易被廣告推播或遊戲內容吸引，甚至進行充值消費。
湖南長沙市民趙女士的兒子從9歲起開始使用兒童手表。剛開始他還只會透過手表和父母通話，不到1個月的時間，他就自行學會了手表裏各種應用程式的使用，現在路上只要看到同齡人也戴著兒童手表，便會湊上去嚷嚷著加好友。
趙女士表示，問題還不止這些。「有天我發現我的銀行卡多了好幾筆支出，每次支出的金額都一樣，看到兒子正在用兒童手表玩一款益智類遊戲，就問他是不是給遊戲充值了？他直搖頭說不知道，結果我一查發現不需要支付密碼，兒童手表裏的遊戲軟件就能直接扣款。但我明明沒有開通免密支付，這錢怎麽就被扣除了？」
記者近日試玩某品牌兒童手表上的多款「知識類遊戲」，發現其中大部份都有「金幣」機制以及「VIP模式」。比如，某款主打「數學語文知識通關」的遊戲，遊戲中布滿「機關」。在滑動頁面的過程中，如果一不小心觸碰到某個圖示，就會立即彈出「石頭剪刀布」的小關卡，如果闖關失敗，就要被倒扣金幣。金幣不足時無法繼續遊戲。而每天打卡只能獲得少量免費金幣，若要繼續遊戲，往往只能選擇充值一次性領取大量金幣。此外，在闖關失敗時，遊戲界面還會「適時」彈出「六一大禮包」，包括月會員、年會員、永久會員3個等級，價格從39元至399元不等，充值會員，就能獲得大量金幣、享有「學習特權」並解鎖各種人物角色。
孩子進行充值的錢從何而來？記者註意到，部份品牌手表要求繫結家長手機，並只能透過家長的手機賬號進行付款，也有部份品牌只需使用任一手機賬號掃碼即可付款購買。
還有部份受訪家長擔心兒童手表裏的內容是否「適齡」，兒童私密安全能否得到保障。
這樣的擔憂不無道理。北京家長劉先生說，一些版本和配置較低的兒童手表缺乏相應的私密設定，安裝App無須使用者授權便自動開啟多種許可權，無須手表使用者同意就能透過遠端獲得未成年人的人臉影像、位置和對話等私密資訊。
「如果有不懷好意的人入侵手表，那麽這款本來為了讓家長省心的產品就變成一款‘跟蹤器’了，孩子的安全就難以保障了。」劉先生擔憂道。
他還意外地發現，自己孩子手表中的智能對話功能竟能播放涉性的成人網文小說。「作為針對兒童的產品，手表內容難道不應該經過嚴格的稽核和過濾嗎？」
江蘇省消費者權益保護委員會此前釋出的兒童智能手錶消費調查報告顯示，17.11%的消費者表示遇到過兒童智能手錶泄露個人資訊的情況，32.89%的消費者表示希望可以針對兒童智能手錶采取措施，進一步提高手表的資訊保安性。
采取嚴格稽核機制
增強資訊辨識能力
根據中國產業研究院釋出的【2022—2027年中國兒童智能手錶行業深度調研及投資前景預測研究報告】，目前智能兒童手表的市場普及率約為30%。也就是說，大概每3個孩子中，就有1個有兒童手表。
受訪專家認為，在兒童手表逐漸成為孩子「標配」電子產品的背景下，應及時解決和預防已經出現和將來可能產生的相關問題，切實保護未成年人資訊保安。
實際上，針對兒童智能器材存在的隱患，相關部門已經重視起來。
中國網絡安全產業聯盟組織制定的【兒童智能手錶個人資訊和權益保護指南】（以下簡稱【指南】）今年3月起正式實施。【指南】提出，兒童手表制造者需要考慮在監護人控制應用程式中設定足夠的功能，以確保監護人能夠對兒童智能手錶的特定操作進行適當控制，如交友功能、套用內付費、內容發送等操作。
7月，中央網信辦啟動「清朗·2024年暑期未成年人網絡環境整治」專項行動，明確要求重點整治兒童智能器材。其中指出，兒童智能器材存在內建App包含可能影響未成年人身心健康的內容，以及以積分排行、功能解鎖、背景更新等為名，誘導未成年人過度消費的問題。
在杜秀軍看來，兒童手表的消費群體主要是未成年人，因此應當對其使用的App和AI模型進行審查，避免「毒資訊」危害未成年人，即便資料內容來源不特定網絡，也應要求AI模型對「毒資訊」采取一定的過濾措施或作出提示。如若廠商違法，可根據未成年人保護法等相關規定，由相關部門按照職責分工責令限期改正，給予警告，沒收違法所得等處罰。
受訪專家一致認為，兒童手表亟須明確兒童產品的定位，具體制作管理可參照【指南】。在兒童手表AI互動內容稽核上，技術目前只能起到協助作用，更多還需要人的參與，確保回答的準確性和專業性。
「嚴格的稽核機制是對青少年負責。」在楊卓如看來，AI確實強大，其內容生成能力遠超過人類，但人工智能在價值判斷上可能會存在紊亂的情況，它可能給人提供錯誤的資訊，誤導、欺騙人類。這就需要人來把握好價值判斷的尺度。對於企業來說，在開發兒童產品時，需認識到AI的局限性，牢記自身責任，守住最基本的底線。
有業內人士說，從行業監管層面來看，應推動兒童手表行業自律，加強行業稽核與監管，制定兒童智能手錶行業安全標準，出台兒童智能手錶模式規範，鼓勵行業定期釋出相關調查報告，披露行業發展趨勢及未成年人保護狀況等相關問題。相關監管部門要對違反相關法律法規的企業或平台，一律嚴格追責，讓全社會真正形成關愛兒童、尊重兒童的社會氛圍和社會理念。
「在從業者著力突破技術壁壘的同時，平台要監管AI問答內容，使用者要警惕分辨AI生成的內容，具體到分辨力不足的孩子，是否要讓低齡兒童使用生成式人工智能工具，怎麽使用智能工具才恰當，家長也不能缺位，需要對其把關。」杜秀軍建議，定期開展兒童智能產品危害和心理健康教育課，舉辦學生和家長網絡素養講座，讓學生增強自身抵禦「毒資訊」的能力；家長和學校應當正確引導孩子透過豐富業余愛好、提升社交能力、增加趣味活動等，建立健康互動的交往關系。
劉先生對此深有同感。他認為家長應該築牢第一道「防火墻」，多關註孩子的身心變化，減少孩子對兒童智能產品的依賴。企業在研發產品時也應該「做減法」，功能設計要符合兒童身心發展特點，回歸健康與安全核心功能，滿足兒童實際需要。
來源：法治日報
記者：文麗娟
流程編輯：U022
