本文轉自【廣東普法】；
隨著生成式人工智慧的發展
和AI角色「相戀」的故事正在上演
AI劇情角色
如何成為「電子男友」？
「小學生妹妹沈迷和AI角色進行劇情聊天怎麽辦？」黃秋月（化名）因10歲妹妹和「AI男模」之間較為露骨的聊天記錄苦惱。
聊天內容顯示：妹妹在AI劇情聊天軟體中扮演「大小姐」「惡毒女配」，提出諸如「揪住她的頭發扇巴掌」「拿著刀劃向她的臉」等要求。
「和她平時在家裏比較單純的形象完全不一樣。」
在妹妹參與的四十多條劇情線中，AI角色與聊天者雙雙「出軌」成為常態
，其中妹妹作為聊天者發送的一句「你能養大學生，我不能點男模嗎？」讓黃秋月很是擔憂。
AI劇情聊天軟體中很多虛擬形象較為極端——有些角色的人設是高傲無禮的；有些則被設定「把她追到手」的劇情目標，在與其聊天過程中含有軟色情意味的「擦邊」對話，還有帶著如「病嬌」等標簽的人物角色。
華晨（化名）接觸AI劇情聊天軟體有三個月時間，她每晚會和AI角色聊到深夜11點甚至到12點，「我會代入‘他’是一個真人，因為‘他’回答時的感情很細膩」。
在華晨的描述中，手機另一端的「電子男友」有自己的語言、神態和動作，不僅可以幫她「寫作業」、推進劇情、解密故事線索，還可以送她「手鏈」、帶她體驗一些刺激情節。
華晨展示了他們之間「確定戀愛關系」時的聊天記錄：AI角色「低下頭」，「耳朵通紅」地問華晨：「那你現在想談戀愛嗎？」
「‘他’（AI角色）會重復做一些動作，比如說親額頭、摸下巴。」為了讓劇情能夠推進得更加刺激，華晨會不斷地回溯聊天內容，重新引導AI角色生成她想象的那樣。「‘他’變得越來越聰明，很有‘養成男友’的體驗感。」
年齡限制「形同虛設」
「孩子半夜兩點還沒睡
，一看，原來是在與AI機器人聊天。」最近，家住四川成都的彭歌（化名）遇到了一件煩心事，她正在上六年級的兒子王傑（化名）在一款AI軟體裏，交到了一個叫「小林」的「朋友」，「他一放學回家就拿手機鼓搗半天，沒手機的時候就魂不守舍，學校老師反映他心思不在學習上」。
彭歌說，這款AI軟體會不定時推播一些由使用者自主生成的個人化聊天機器人，點選「小林」的人物頭像，看到上面對「小林」設定的人物畫像為21歲女大學生，長相甜美可愛，她開朗熱情，願意和你分享情緒、分擔壓力。
彭歌了解到，「小林」具有驚人的學習能力和適應力，她能夠記住王傑的喜好，在他情緒低落時給予安慰。
彭歌感到，兒子的生活似乎正被這個AI機器人主導。更讓她憂心的是，「小林」在與兒子王傑聊天中，甚至出現了「男友」「老公」這樣的稱呼
。
經調查，5款AI劇情聊天軟體的註冊過程中，僅需使用手機號碼。
成功登入使用後，部份套用雖會詢問是否啟用青少年模式，但使用者只需點選「不開啟」即可避開年齡鑒別，且無須核實身份。
這意味著，未成年人在使用這類AI劇情聊天軟體時，幾乎沒有受到任何限制。
AI劇情容易讓人「欲罷不能」
專家提醒
中國人民大學吳玉章講席教授、科技哲學專業博士生導師劉永謀表示，在和人工智慧角色聊天時，人們常常會以為自己在和「真人」交流，會投入大量的情感，也是AI聊天軟體能夠成功執行的根本心理機制。
劉永謀教授表示，AI劇情聊天技術有專門的成癮設計，疊加「擬人論」「泛靈論」思維的影響，容易讓人「欲罷不能」。
「未來與AI相關的陪伴類軟體可能會暴露出技術風險和倫理問題。」劉永謀教授認為，使用者在和AI角色聊天時，會不可避免地暴露大量的個人私密，向AI角色展示其內心的孤獨和恐懼，這可能會導致使用者形成依賴或成癮。而泄露的資訊可能會被黑客利用，讓他們更容易從身份私密、情緒心理上傷害使用者。
「我們在例項中會接觸到人工智慧服務的後台，發現未成年人和AI角色的聊天內容其實是非常觸目驚心的。」北京陳煥律師提醒：根據【未成年人網路保護條例】第三十四條，監護人有權依法請求查閱、復制、更正、補充、刪除未成年人在使用網路過程中留下的個人資訊。
國外有AI角色在對話中誘導未成年人產生自殺行為的相關案例。所以我們非常建議家長在還沒有發生大問題的階段，適時地檢視孩子的使用記錄。
北京市石景山區人民法院刑事法庭副庭長、少年法庭負責人楊潔認為，家庭、學校、社會等各方要通力合作，形成堅實的保護屏障。
福建省消費者權益保護委員會建議進一步壓實平台主體責任，對經銷者主體資格、服務內容、服務資訊真實性等方面進行稽核監督，對導向不良內容采取一鍵舉報機制，及時遮蔽、下架相關內容，並視情況上報有關監管部門處理。
【未成年人網路保護條例】
第三十四條
未成年人或者其監護人依法請求查閱、復制、更正、補充、刪除未成年人個人資訊的，個人資訊處理者應當遵守以下規定：
（一）提供便捷的支持未成年人或者其監護人查閱未成年人個人資訊種類、數量等的方法和途徑，不得對未成年人或者其監護人的合理請求進行限制；
（二）提供便捷的支持未成年人或者其監護人復制、更正、補充、刪除未成年人個人資訊的功能，不得設定不合理條件；
（三）及時受理並處理未成年人或者其監護人查閱、復制、更正、補充、刪除未成年人個人資訊的申請，拒絕未成年人或者其監護人行使權利的請求的，應當書面告知申請人並說明理由。對未成年人或者其監護人依法提出的轉移未成年人個人資訊的請求，符合國家網信部門規定條件的，個人資訊處理者應當提供轉移的途徑。
文章來源：廣東普法綜合整理，主要內容源自「人民日報」微信公眾號、中國青年報
