两年前，“AI孙燕姿”翻唱《发如雪》激勉全网热议时，东谈主们更多是咋舌期间的防碍。但当任何东谈主齐能用App一键生成明星带货视频、假带货告白播放量动辄破百万，事情照旧澈底变了味。

正如一位网友所说：“往常驰念像片是P的，当今连声息齐不确切了，科技到底在保护谁？”

作家 | 黑莓

剪辑 | DR

题图 | 《独自生存的东谈主们》

“全红婵带货土蜂蜜”“古天乐被游戏代言”“张馨予卖减肥药”……

当你记念于又一波名东谈主启动代言土味告白时，更让东谈主记念的事实是，这些告白大多跟名东谈主本尊无关，而是大边界销耗AI拟声的生意诓骗。

近日，某短视频平台出现“婵宝小助理”“全妹福利号”等数十个仿冒账号，轮回播放全红婵赛后接受采访的原始画面。但你稍加细看，很快便会发现头绪——画面中的全红婵仍一稔东京奥运领奖服，口中说出的却造成了“500单土蜂蜜，16块9发两斤”“驼奶粉对三能手群稀奇好”。

4月29日，全红婵父亲只可无奈发声，称有东谈主用AI伪造全家声息售卖蜂蜜，他们对此毫无主义。

AI全红婵的带货告白。（图/酬酢平台截图）

在此之前，相似的AI拟声骗局早已扩张——旧年12月，“张文宏”种植某品牌卵白棒的AI假视频走红网罗，因其形象与声息高度传神，导致大齐中老年破钞者上圈套下单，销量一度破千；

还有平台应用AI期间，将古天乐、林峰等港星的肖像、声息及视频片断，合成为线上赌博、游戏的代言宣传片，逼得两东谈主的经纪公司不得不露面辟谣；

就连小米CEO雷军的秀丽性无为话也没能避免，从鬼畜视频里的“Are you OK”，造成了缺点答理告白里“稳赚不赔”的吆喝……

从明星、学者、通顺员到知名企业家，AI假带货的受害者名单里还包括靳东、刘晓庆、刘德华、杨纯真、倪萍、潘玮柏、张伯礼……甚而是每一个无为东谈主。而终了这些，最低只需要一块钱，便不错在二手平台上买到一套“声息克隆器具包”。

两年前，“AI孙燕姿”翻唱《发如雪》激勉全网热议时，东谈主们更多是咋舌期间的防碍。但当任何东谈主齐能用App一键生成明星带货视频、假带货告白播放量动辄破百万，事情照旧澈底变了味。

正如一位网友所说：“往常驰念像片是P的，当今连声息齐不确切了，科技到底在保护谁？”

AI拟声带货，防不堪防

“减肥不是不吃，而是学会吃。”视频里，张馨予正对着镜头共享减肥心得。当画面切换到本东谈主肉体高挑的写照照时，这位女明星一刹话锋一排，启动推选起某品牌减肥药：“早上饭后冲一杯，特意提代谢，我即是靠这套身手瘦到106（斤）。”

视频全程莫得一点卡顿和机械感，连口型齐顺畅对上——要是不是当事东谈主切身辟谣，谁齐念念不到这段视频里的声息、色彩全是AI伪造。

4月18日，张馨予在酬酢平台发文称，有商家应用AI期间复制其声息售卖减肥药，我方从未推选过任何减肥药，将讲求到底。一位差点付款的宝妈告诉《新周刊》：“视频我反复看了三遍，要不是看到评述区有东谈主提醒，我细目要下单了。”

张馨予曾在酬酢平台发文辟谣。 （图/张馨予微博截图）

事实上，雷同的套路已被批量复刻到抖音、快手、B站、小红书等视频平台上。

其中，热播综艺成了重灾地——在《一起似锦》的吃饭片断里，刘晓庆夹鱼的镜头被P上“诗诺千君贴”告白，字幕还打着“提升代谢”的宣传语。当事东谈主无奈在3月3日恢复称：“画面是我的脸，声息像我的声息，但真不是我”。

而在另一档综艺中，女星“应采儿”也暗意我方孩子有几年一直不长个，其后给他弄了元德吉钙一下长了几厘米，“谢娜”还在一边帮腔：“杨紫跟我说过。”

灵通联系搜索栏，各样保健品、减肥药的“代言东谈主”名单号称全明星威望，就连张伯礼院士齐得出来为某“国货色牌”站台……

AI假带货。（图/酬酢平台截图）

“这些视频就像活水线分娩的假货，把综艺片断当原材料，用AI改字幕、换配音，终末贴上商品流通。”某直播从业者告诉《新周刊》，“骨子是低资本引流起号，还能遮掩代言用度”。

AI拟声热度四起背后，也繁衍出一条暴利的灰色产业链。在某电商平台搜索“AI配音”作事，有商家直言：“明星声息200元一条，素东谈主50元，包教包会”。

“AI李鬼”疯狂，受害者名单在不停加长。明星们在靠近肖像权、名誉权双重侵害的同期，破钞者也更容易误购劣质商品。

据《咸宁日报》报谈，AI拟声带货的商品存在禀赋不解、厂商不清等问题，涉事店铺多为2024年新注册账号，宣传封面、居品包装、案牍说辞简直一样。而本该承担审核背负的平台，也莫得指示“该画面可能由AI生成，请提防鉴别”，客不雅上成为了“假带货”习尚的推手。

谁偷走了咱们的声息？

咱们正在插足一个“驰名不如一见”的期间。

本年两会时刻，企业家雷军自称成了AI拟声的受害者。在无数短视频切片里，“假雷军”用秀丽性的湖北无为话吐槽堵车、嘲谑调休，传神到网友集体@雷军本东谈主：“这是不是你小号？”。

除了伪造公世东谈主物带货营销，AI换脸、拟声期间还被用于无为东谈主的欺骗。前不久，有骗子用AI合成靳东的声息陪老东谈主聊天，骗走近百万养老钱。而据央视新闻报谈，福建一位公司雇主和“相助伙伴”视频通话10分钟，看着熟习的边幅、听着熟习的声息，就地转了430万，收尾对方却是AI合成的假东谈主。

某AI拟声平台。 （图/酬酢平台截图）

这些以伪乱真实声息到底从何而来？

又名恒久不雅察东谈主工智能的学者曾向《新周刊》施展，只需汇集声息中的频率、音色、声调等关键特征，配合语速和心思参数，即使极少样本也能在几秒内完成克隆。

另一方面，AI拟声应用也从未像今天这么随手可取。“当今执行AI换声欺骗的期间门槛，相当于在手机里装置一个修图App。况且换声、换脸的传神度会越来越好，无为用户会愈来愈难以鉴别或折柳。”上述大师称。

互联网上的AI声息克隆攻略也遍地可见。光是在某酬酢平台上，联系“AI合成明星声息软件”的帖子就多达4w+条。二手走动App上，一次AI声息克隆更是低至10块以内，这意味任何东谈主齐不错低资土产货取得我方念念要的AI明星声息，其中，还有博主用我方孩子的声息素材，合成了“AI版新闻联播开场白”。

“假如AI换脸拟声被过度销耗，简略畴昔某一天，咱们不得不在发布真确录制内容时进行声明，强调内容的真确性。扫数社会对真确性的鉴别资本将会相当高，必须罗致主义避免该期间更仆难数。”中国传媒大学副教师张鹂在接受《潇湘晨报》采访时曾暗意。

目下，国内正在立法上疼爱此类问题。2024年4月，北京互联网法院宣判世界首例“AI声息侵权案”，初次明确当然东谈主声息权柄的保护边界可及于AI生成内容。此外，雷同“白名单轨制”也会在9月1日上线，让以往难以鉴识的AI作品“握证上岗”。

可是，这行写着“内容为AI期间制作，请严慎甄别”的半透明小字，试验后果如何仍需打个问号。先无论那些蚂蚁大小的水印，戴着老花镜的中老年东谈主能不可看清。大部分东谈主连AI是啥齐搞不懂，刷到AI换脸的养生大师视频时，只会麻烦：“这视频里的东谈主明明在动，咋会是假的？”

归根结底现金万博manbext体育官网app平台，不管是AI拟声、换脸照旧通常爆出的AI假新闻，保握怀疑与求证，简略才是咱们应酬缺点内容的终末堡垒。毕竟，被AI偷走声息的，全红婵们不是第一个，也不会是终末一个。