湖南日报2024年10月13日发布:警惕 “雷军”七天骂翻全网？看完笑不出来……

【一肖一码精准100】

【香港宝典大全资料大全】

【2024澳门特马今晚】

【澳门特一肖一码免费提】

【香港最准的100%肖一肖】

【新澳门六开彩资料大全网址】

【精准王中王免费提供】

【2024澳门资料正版大全】

【澳门4949澳门资料论坛49】

【新奥门一马中特】

【精准一码免费资料大全】

【管家婆八肖版资料大全】

【2024年澳门六开彩资料查询】

【白小姐4905一码中奖】

【2024今晚澳门开特马开49图库】

【新澳门历史记录查询最近十期】

【2024年澳门今晚开码料】

【香港资料免费长期公开】

国庆假期期间
短视频平台上出现了
大量“雷军AI配音”的恶搞视频

在视频中，“雷军”锐评了堵车、假期等热门话题，其中还有一些不雅谩骂，有网友调侃称“国庆上网被雷军骂了整整7天”。

除了吐槽外，视频里的“雷军”还称要投资某某大学。截至目前，平台上相关话题浏览量过亿。

在雷军的微博评论区中，连日来不断有人留言询问此事。

10月7日晚，针对网友“为何骂人”的询问，雷军回复了三个愤怒表情。

小米公关部总经理王化，也在跟网友互动时，表示把这件事转交给法务部了。

在社交媒体上用雷军AI配音已经形成一种创作风潮，各种配音模仿、恶搞视频层出不穷。抖音上话题浏览量过亿，B站上相关创作超过上百条。

从雷军到马保国、葛优、麦克阿瑟
AI可以克隆一切

记者查询发现，目前市面上有大量AI配音的小程序，用户只需在程序内选择相应的人物声音并输入文字，便可借用他人的声音发表言论。

值得注意的是，此类程序为了避免版权风险并不会直接使用人名，而是用的代称。以一款名为配音兔的小程序为例，内置了雷老板、麦克阿瑟、马老师、姜小文、葛大爷等上百种声音，用户不仅可以任意选择声音，还能调节语速、语调等细节。

此类AI配音程序大多都使用字数有限制，超过字数时需要购买VIP，价格30~60元之间。

除了现成的AI配音程序外，用户还可以通过睿声等AI工具自行制作想要生成角色的配音，只需在软件内添加相应的原声即可。

目前社交媒体上出现的雷军配音视频大多出自上述两种方式。

21世纪经济报道记者实测了“Reecho睿声”，克隆声音的流程非常简单：首先上传一段音频文件，作为训练素材；随后AI自动学习这段音频，生成一个克隆角色；最后就可以输入文本，用克隆角色的声音念出任何内容。

在这款向所有人免费开放的产品里，用户可以“模仿”任何人的音频文件，并且能公开发布。

睿声产品首页专门有一个“声音市场”板块，21世纪经济报道记者在9月27日下午进入市场时，已经看到了杨幂、刘亦菲、丁真等人的声音。尽管生成的音频听起来不够自然，但使用非常方便，只要像加入购物车一样，把克隆声音添加到角色库里即可。

AI伪造音视频事件已发生多起

事实上，AI伪造音视频事件早已发生多起。

此前，一段疑似某集团创始人卢文庆醉酒后的音频流出，音频提到客服投诉、竞争对手和三位女主播关系，一时引发了大量讨论。

9月26日，安徽合肥市公安局高新分局确认，相关网传音频为AI伪造（详情）。9月27日凌晨，深圳言域科技有限公司发文称，三只羊事件使用的是“Reecho睿声”大模型，由卢文庆30秒的直播片段克隆生成。

逼真的语气、脏话、安徽口音让许多人不可置信音频为AI生成。

据科技类自媒体APPSO报道，海外也发生过 AI 声音造假事件，甚至把主意打到了总统头上。

今年初，美国新罕布什尔州的居民，接到了拜登的自动语音电话，被告知不要在州初选时投票，实际上这段音频是用 AI 工具 ElevenLabs 伪造的，目的就是要干扰选举。

事发几天后，ElevenLabs 拉黑了始作俑者的账户，这位用户承认，克隆拜登的声音，他只花了不到 20 分钟，以及 1 美元。

今年初，泰勒·斯威夫特（Taylor Swift，中文绰号“霉霉”）被 AI 伪造色情图片，也是名人被 AI 祸害的典型事件。

近乎是在一夜之间，X、Facebook等社交平台上便充斥了大量虚假“不雅照片”，而且浏览量已经高达上千万！

当然，假如AI语音合成仅仅停留在恶搞的层面上，或许还不至于让网友们开始担忧这项技术的安全性。但不法分子往往会将AI语音克隆技术应用到金融诈骗上。

《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈增长了3000%，仅今年上半年，AI诈骗案案值已超过1.85亿元。诈骗者通常只需几秒钟的语音片段，就能轻松模仿受害者亲友的声音，发起“紧急求助”的诈骗。更有甚者，直接上 AI 换脸，配合 AI 拟声的技术。

这类骗局常以老人和年轻人作为目标，让人防不胜防。“AI诈骗正在全国爆发”话题一度冲上热搜第一，引发网友热议。

平台应承担怎样的责任？

AI 雷军声音的事件中，还有一个很有意思的现象：除了在线呼叫法务部，也有网友表示，怎么平台不管一管，反让这种内容流行起来？

网信办 9 月发布的《人工智能生成合成内容标识办法（征求意见稿）》提出，AI 生成合成内容，应当添加显式标识和隐式标识，前者可被明显感知，后者添加在元数据中。

其中，传播内容的平台，应当承担什么责任呢？

一是核验元数据有无隐式标识，如有，应添加显眼的提醒；二是没有核验到隐式标识，但用户声明是 AI 内容，也应该添加提醒；三是，既没有隐式标识，用户也没有声明，平台检测到了 AI 痕迹，同样需要添加提醒。

这次的闹剧就是一个例子，用户没有自主声明，平台的检测也不到位，有的视频标题下方提醒了「疑似使用了AI生成技术，请谨慎甄别」，有的却没检测出来。

泰勒·斯威夫特被 AI 伪造色情图片的事件，同样反映了补救措施的滞后性。尽管最早传播这些图片的账号已被封禁，但照片的流传仍未彻底阻断。其中一张图片在被删除前，在 X 存活了 17 个小时，被查看了 4700 万次。

雷军AI配音犯法吗？

垦丁律师事务所联合创始人欧阳昆泼分析称，对于深度合成技术的标识义务，已有相关法规要求在使用合成内容时进行标识，各个社交平台也已采取了相关措施，会在AI生成的内容旁标注类似于“本内容为AI生成”的内容。然而，在实际操作中，对AI生成内容标识仍存在一定挑战。例如，合成内容经二次传播后，标识就可能被省略或忽视，导致接收方对内容来源产生误解。这会是接下来各个平台需要处理的课题。

欧阳昆泼还表示，声音克隆可能涉及民事侵权，声音也属于一种人格权益，具有人身专属性。未经授权的情况下使用他人声音可以构成民事侵权。今年4月，北京互联网法院一审就开庭宣判了全国首例AI生成声音人格权侵权案，认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。

北京京本律师事务所主任连大有律师表示，无论是普通人还是知名人士，未经其本人同意，擅自使用其肖像和声音进行编辑合成，甚至发布具有辱骂和诽谤性质的内容，明显侵犯了其相关民事权利，如肖像权、名誉权等。

《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等法律对此均有规定；国家网信办等七部门联合公布并于2023年8月15日起施行的《生成式人工智能服务管理暂行办法》还专门对侵害个人信息权益的人工智能的责任进行了明确规定。

连大有律师称，雷军可以依据《民法典》规定，要求恶搞者承担包括停止侵权、公开道歉、恢复名誉和赔偿损失等法律责任。如恶搞者的恶搞行为违反《治安管理处罚法》相关规定的，也会面临行政处罚如行政罚款或(和）行政拘留。再者，如果这些恶搞内容传播谣言并造成严重社会影响，则可能触犯刑法。

普通人能做什么？

除了监管机构和AI技术提供商的防诈措施之外，我们普通用户也需要警惕AI语音诈骗。

首先，许多安全专家建议在家人之间设置一个仅彼此知晓的“安全词”。这种词汇不仅仅是防止假冒亲友的有效手段，更是为了在紧急情况中迅速确认身份。

在保护个人隐私方面，我们需要时刻谨慎对待自己在社交媒体上分享的内容。比如，在短视频平台分享生活时，尽可能不使用自己的原声，或者是使用AI工具对自己的声音进行处理后再发布。

此外，我们需要提高识别AI语音的敏锐度。比如，目前雷军的AI语音在短视频平台十分火爆，但仔细聆听这些用AI工具克隆的语音，我们还是能发现词语与词语之间的不连贯性，这也有助于我们分辨这些声音是否来自本人。

最后，也是最重要的，对于所谓的“网络热点”及吸睛信息，不可“听风就是雨”，盲目相信、轻易转发。更进一步，也有必要有意识地优化媒介使用策略，平衡信源、打破“茧房”，改善“信息偏食”、拒绝“偏听偏信”。

AI雷军锐评爆粗这种梗
细想一下
还真笑不出来……
你怎么看？
评论区聊一聊↓

综合 | 北京日报 中国青年报 21世纪经济报道 每日经济新闻 北京商报 羊城晚报 新闻坊 中国青年报 凤凰网科技 蓝鲸财经 雷科技 APPSO 网友评论

【31期特码是什么】 【2024澳门天天开好彩大全挂牌】

【澳门一肖一码100%精准】 【澳门管家婆结果】

【一肖一码100%澳门】 【新奥六开彩结果查询合肥】

【2024年澳门正版精准资料】 【2024澳门特马今晚一】

【澳门金光佛4肖中特】 【777778888精准管家婆】

【2024澳门特马今晚81期】 【2024澳门六开彩结果查询】 【2024今晚澳门结果】