「国庆上网被雷军骂了整整7天」？据报道，这个国庆假期，短视频平台上出现了大量「雷军」的发言视频，涉及堵车、调休、游戏等热门话题，不仅言辞犀利，还常爆粗口。但事实上，这些发言和雷军本人并无干系，而是AI配音所成。目前，相关短视频已被平台逐步下架。
虚假信息古已有之。如今，人人都有「麦克风」、人人皆是信息源，信息与新闻的界限日渐模糊，亦真亦假的消息、汹涌澎湃的情绪，让舆论场跌宕起伏，过山车般的反转更是天天可见。
如果说，之前的人工造假只是1.0版本，那么AI的发达则开启了深度伪造与低价量产的2.0时代。换脸、换声、换动作，移花接木；文生文、文生图、文生视频，无中生有……当几千元即可定制整套虚拟形象，当寻常软件分分钟生成一批内容详细、真假难辨的文章，当几张图片、几个关键词就能轻松炮制「新闻」，我们该如何应对？
假信息激增是全球问题，国外政要官员、商企精英、歌手明星等，无不遭遇「碰瓷」。流水线式造假，不仅侵犯隐私权益、混淆公众认知，更带来巨大的风险隐患。【2024人工智能安全报告】显示，2023年基于AI的深度伪造欺诈增长了3000%，仅今年上半年，AI诈骗案案值已超过1.85亿元。
深度伪造猖獗，如何识别与治理？有学者主张从假信息生命周期和传播链条的三个环节着力，即制造、传播、接受。着眼生产端，我国相继出台了【互联网信息服务深度合成管理规定】等法律法规，逐步厘清了各方权责，期待更为有力的治理举措。再看平台端，尽管已采取措施加强识别，但仍需要加强技术升级，用技术对抗技术、用魔法打败魔法。
信息最终都要作用于人，传播媒介的代际更迭，总会对受众产生深远影响。技术进步带来了「信息的洪流」与「选择的苦恼」，这也要求人们具备基本媒介素养，对于所谓的「网络热点」及吸睛信息，不可「听风就是雨」，盲目相信、轻易转发。更进一步，也有必要有意识地优化媒介使用策略，平衡信源、打破「茧房」，改善「信息偏食」、拒绝「偏听偏信」。AI本身就是「人为」创造的，也应该「为人」所用、「为人」服务，我们理当对携手行动、以善治实现善「智」抱有足够信心。
来源：北京日报客户端
