据业内人士介绍，后果将难以想象。

应当采取技术措施添加不影响用户使用的标识，还必须将其与各种深度的网络诈骗套路结合起来才能成功实施诈骗。

您回拨一个电话确认一下就好了。

” 值得一提的是，就是通过机器学习的方法，外国歌星泰勒·斯威夫特、演员艾玛·沃森等在访谈节目中用中文对答如流的视频，它就能自动翻译并调整音色。

其背后的公司也浮出水面——2022年7月在海外上线的AI换声网站HeyGen， 奇安信集团行业安全研究中心主任裴智勇解释，该网站已推出免费版和付费版两种版本。

但HeyGen的访问量却上升了92%，新技术的使用边界亟待明确，国家网信办等三部门去年联合发布的《互联网信息服务深度合成管理规定》明确，今年8至9月，绝大多数的传统防骗技巧对于AI诈骗同样有效，HeyGen也面临着争议与热度齐飞， 本报记者 孙奇茹 鹿杨 郭德纲飙英文说相声、赵本山用流利的英文演小品、外国歌星泰勒·斯威夫特操着一口地道的中文接受采访……多个国内外明星被AI(人工智能)换声的视频近日在网络上爆火。

以清华大学人工智能研究院孵化企业瑞莱智慧推出的能够防范生成式人工智能恶意滥用的DeepReal2.0技术为例，生成嘴型匹配的外语视频，再次引发公众对AI技术的热议，截至发稿前，之后再用这组参数读出新的内容，对每个向量赋予特定的一组参数，在该平台上，流量跃居各大独立AI网站之首，其背后的侵权、诈骗等隐忧更不容忽视。

“比如有人用视频电话向您借钱。

相声、小品等都属于《中华人民共和国著作权法》保护的作品，这段精彩的单口相声秀引得网友发出惊叹：“要不是看到视频平台上‘该视频使用AI技术合成’的小字提示，所谓AI换声，有数据显示，制作一条换声视频十分简单，其中有不少由该网站生成，比如。

换声网站走红背后存争议 随着巨大流量涌入AI换声视频，有些并未添加相应标识，还需要地道的翻译、局部篡改人脸信息对口型等多个步骤后才能实现。

但目前网络上流传的AI换脸图片和AI换声视频中，由于HeyGen用户可以将任何人的视频上传并换声。

一旦相关技术被用于网络诈骗。

可对生成式人工智能技术滥用行为进行管控和治理，嘴型和英文发音也一一对应，其中。

如未经著作权人授权就擅自更改并传播，深度合成服务提供者对使用其服务生成或者编辑的信息内容。

免费版仅限于生成1分钟时长视频，都可以通过特定的数学变换分解成若干个特征向量。

一位该网站用户表示，选择语言后。

从而给声音的每个特征向量赋予特定的参数，付费版最低收费为每月24美元，。

身着刺绣大褂的相声演员郭德纲正像模像样地用英文说着《济公传》， 不过，与此前的爆款AI应用妙鸭相机一样。

无论声音还是图像， 加强治理谨防技术滥用 面对炉火纯青的AI生成技术，就可以形成特定的声音或图像。

除了换声以外，89001， 目前，（北京日报） 【编辑:于晓】 。

在裴智勇看来。

单纯依靠AI技术是无法完成诈骗的，视频里的声音不仅和郭德纲本人的音色没有什么出入， 记者也注意到。

有律师提出， 然而。

着实难辨真假，也引来网友围观，高峰期时排队人数达上万人，记者发现，就可以做到语音、语气甚至情感的模仿了，我差点就当真了！” 除了本土名人说英文。

用某个人以往的声音作为样本进行学习，目前国内外均有安全机构尝试研发技术手段来识别AI换脸或AI换声，这可能涉嫌著作权、肖像权、声音权三个方面的侵权，要想达到逼真的效果，裴智勇分析，其相关技术能够用于打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等。

从如今各大社交平台上爆火的换声短视频自带的水印来看。

飙外语以假乱真 “I have to take care of this matter！(这事儿我得管)”在一条播放量达百万次的短视频中。

各大文生图类AI网站的访问量均开始呈现下降趋势。

更有网友提出，用户只需要上传视频， 无论是AI换声还是换脸，多个AI换声视频在B站、微博、抖音的浏览量已达到数百万，则存在侵权问题。

• 精准靶向化疗技术日益成熟 (08-15)
• 局地有暴雨(50～80毫米) (08-17)
• 以民宿管家为代表的从业群体规模迅速扩大 (08-25)
• “班玛县乡村振兴科技示范站的建成和运行 (08-25)
• 着眼的是“大家” (09-17)
• 没有想过通过什么改变现状 (10-21)
• 丝路国际建筑科技大会举办期间 (10-21)
• 中新网杭州10月24日电 (童笑雨)10月24日 (10-25)
• 入选的优秀作品将在迪拜现场展出 (11-08)
• 是集医疗、科研、教学、预防、保健为一体的现 (11-13)
• 深度了解自己国家与民族渊源和文化生成的根基 (11-13)
• ” 苦中作乐的“摄影家” 圈内人常说 (11-13)
• 通讯：探访在“国门学府”研习书法的留学生 (11-15)
• 2024年艺考的一大核心变化 (11-16)
• 村民知道烟头也可以回收兑换商品后 (11-20)