AI技术普及带来便利同时，也引发安全、版权等问题。AI技术工具固然可以为人类带来诸多便利，但绝不能被滥用或误用。
@科技新知 原创
作者丨依蔓 编辑丨蕨影
三只羊卢某网传录音，竟是大模型伪造！
9月26日，安徽省合肥市公安局高新分局通报「三只羊」卢某某录音事件，通报中指出，经部、省专业机构检验鉴定卢某某的网传音视频系伪造，在犯罪嫌疑人王某某的电脑、手机和制作AI音频的网站中发现伪造相关音视频的证据。
值得注意的是，与「警方通报三只羊卢某某录音事件」同时登上热搜榜单的，还有「合肥通报三只羊问题调查情况」及「三只羊道歉」等相关事件。合肥市监局同时也发布了关于三只羊直播带货「香港美诚月饼」等商品存在问题的详细调查报告，并宣布将对三只羊处以没收违法所得、罚款总计高达6894.91万元的严厉处罚。在此次事件中，AI伪造的卢某某相关录音在未得到充分核实之前，无疑给正处于舆论风口浪尖的三只羊带来了更大的压力。目前，王某某已被依法采取刑事强制措施，案件正在进一步侦办中。
突然间，伪造录音所触发的AI安全隐患激起了广泛的热议。
紧接着，卷入这一事件的科技企业发布紧急声明。9月27日，深圳市言域科技有限公司发布声明，确认涉案音频部分为嫌疑人使用该司自主研发的AI配音大模型平台克隆而成。公司已启动内部审核机制，强化用户身份认证和音频生成的安全管控，以确保技术的合法合规应用。
天眼查信息显示，深圳市言域科技有限公司成立于2023年，位于广东省深圳市，注册资本100万人民币。
就该案件中提供技术的公司是否要担责的问题，上海大邦律师事务所高级合伙人游云庭接受界面新闻采访时表示，还是要看该公司是否履行平台的合规责任。「根据互联网信息服务深度合成管理规定，如果履行了合规义务的，我觉得他们责任比较小，否则的话会有麻烦。」
伴随着人工智能科技的迅猛推进，AI技术已然广泛地深入到我们社会生活的诸多方面。然而，相伴而生的是越来越严峻的AI安全问题日益上升为人们关注的焦点。
今年6月，「男子用AI伪造学生同事近7000张裸照」冲上微博热搜。犯罪嫌疑人是一家国内互联网公司的技术员，巧妙运用AI技术中的「一键去衣」功能，深度伪造图片近7000张，每张1.5元卖出，从中获取了近1万元人民币的非法收益。2024年年初，一家跨国公司香港分公司员工在参与一场视频会议时便陷入了不法分子精心策划的骗局。与会者都是经过AI 换脸与AI 换声的诈骗分子，最终公司遭受了高达2500万美元的经济损失。同样触目惊心的案例还发生在韩国首尔大学，毕业生朴某和姜某，从2021年7月至2024年4月的3年多里，盗用女性同学、熟人的照片，用深度伪造技术换脸合成色情制品，在Telegram上建立了近200个网络聊天室大肆传播，受害女性多达61人。
