人刚走，网上的""就哭了。镜头前的中年女人声音发颤，说老刘临走前还惦记着音乐，一边说一边抹眼睛。评论区满屏"嫂子节哀""刘老师一路走好"，气氛烘到最软的地方，她话锋一转，掏出一罐黄精五黑粉，说这是老刘生前一直坚持喝的保养品，链接就挂在视频底下，点进去就能下单。这条视频拿到数万点赞、上万转发，有人真下单，说也算送刘老师最后一程。直到懂行的网友看出破绽：嘴型跟声音慢半拍，哭的时候五官动得不自然，是典型的AI换脸痕迹。央视网随后跟进，把这事点名批了，视频里的"卢璐"，从脸到声音全是AI合成的，跟本人没有一点关系。

真正的卢璐早辟过谣。9月30日她在朋友圈发文，说网上那些临终传闻、后事图片全是造谣，她和除了朋友圈，根本没有开任何社交媒体账号。可话说完没几天，平台上又冒出"刘欢儿子"，用几乎一模一样的台词，卖的还是同一款五黑粉。

同款剧本不是只有一家在做。的儿子、的前妻葛淑芬、冯巩的妻子、赵丽蓉的儿子，一串"名人亲属"像约好了一样冒出来，卖的竟都是同一款黄精五黑粉。顺着产品链接找过去，店铺负责人说根本不知道有人冒充刘欢儿子带货，是博主自己挂的链接，他们管不了，得平台管。平台客服的答复是，必须由权利人或者家属亲自举报，平台才能处理。一边说管不了，一边说等举报，一个完整的甩锅闭环就这么凑成了，谁都不用担责。

顺着这条线往下捋，中招的远不止刘欢一家人。演员温峥嵘这两年本来很低调，突然之间就"占领"了好几十个直播间。不同的账号、不同的背景、不同的衣服，可那张脸清清楚楚就是她。她卖面膜、卖保健品、卖居家日用品，每条视频的话术大同小异，像从同一个模板里抄出来的。有个粉丝一天之内刷到四个不同的"温峥嵘"，卖四种完全不一样的产品，当场就懵了。早在2025年4月，温峥嵘就发视频打假，说自己只有一个账号直播。有热心粉丝一天举报了18个伪造的直播间，可根本举报不过来，这边刚删几个，那边换个头像改个名字又能重新开播。耗了几个月实在没办法，2025年11月底，温峥嵘团队带着完整证据去报了警，公安机关审查后认为有犯罪嫌疑，正式刑事立案，案件还在侦办中。

央视主持人李梓萌也遇上过同样的事。她主持米兰体育-米兰(中国)官网节目多年，形象端庄可信，有人就盯上了这份信任，用AI把她的形象合成到鱼油广告里，配上台词说这款深海多烯鱼油适合头晕头痛、手麻脚麻、记忆力下降的人群，说得有鼻子有眼。2025年6月，北京海淀区市场监管局接到举报查处了这起案件。查出来的结果很讽刺，这款吹得神乎其神的鱼油，实际执行标准是糖果，属于普通食品，根本没有任何治病的功效。涉事公司因为虚假广告受到行政处罚，这件事也成了北京市场监管部门用广告法整治AI冒用名人形象的第一案。

体育圈的明星则是另一种玩法，盗声音。全红婵、孙颖莎、王楚钦这些国民度很高的运动员，声音都被AI克隆过，用来给土鸡蛋、蜂蜜这类农产品带货。有个专门做这类内容的账号，一共发了十七条视频，全是仿冒全红婵的声音卖土鸡蛋，其中一条点赞就有一万多，链接里的鸡蛋卖出去了四万七千件。可全红婵的家人早在2025年4月就说过，全红婵从来没有给任何农产品代言或者授权过。跟过去请明星代言动辄几百万的费用比起来，现在做一条AI仿冒的视频，成本可能才几十块钱。只要有几段公开的影像或者音频素材，就能生成以假乱真的内容，再用矩阵账号批量分发，很快就能铺遍整个平台。

你以为这都是名人的事，跟普通人没关系。可AI造假的镰刀，早就越过明星圈子落到普通人头上了。网络安全专家提醒过，AI克隆声音技术现在最大的隐患，就是被诈骗分子利用。一旦和AI换脸技术结合，就能生成高度逼真的"数字人"实施诈骗，普通人很难分辨真假。最常见的套路就是冒充亲友借钱。骗子只需要一段你身边人的公开语音或者视频片段，就能克隆出一模一样的声音和脸，打视频电话过来，说自己遇上急事需要用钱。很多人看着画面里是熟悉的脸，听着熟悉的声音，根本不会多想，当场就把钱转了过去。尤其是针对老年人的骗局更多，老人对AI技术不了解，又心疼晚辈，一听见孩子带着哭腔求助，很容易就慌了神，顺着骗子的指引转账。

国家层面其实早有规范，《人工智能生成合成内容标识办法》从2025年9月1日起就已经施行，要求所有AI生成的文字、图片、视频都必须明确标注来源。

但光有标识还远远不够。平台不能总抱着"不举报就不处理"的心态，不能总把避风港原则当挡箭牌。比起等受害者找上门来再删视频，主动排查、提前拦截，才能从根源上减少这类乱象。

AI技术本身从来不是问题。真正出问题的，是拿着技术钻空子、赚黑心钱的人。当造假的成本低到可以忽略不计，当审核的门槛形同虚设，最后被消耗掉的，是整个社会的善意和人与人之间的信任。

凡是涉及转账、借钱的视频通话，别着急做决定，挂了之后再打个电话或者发条语音核实一遍身份，不要只凭画面就下定论。平时也别随便在公开平台，发自己和家人的高清正脸视频、详细的生活细节，减少被AI采集素材的可能。