谁在冒充全红婵的家人？

“全红婵家要盖新房了

有视频为证

‘千真万确’！”

看到这样的消息

你会信吗？

近日社交平台上出现了不少AI生成的视频

全红婵的“爸爸”“哥哥”纷纷“出镜”

边“讲述”边带货

还有不少人被骗下单

究竟是谁在冒充奥运冠军的家人？

AI仿冒诈骗

还有多少受害者？

01

谁在冒充全红婵的家人？

近日，有账号在社交平台发布图文作品，称为奥运冠军全红婵家承建新房，且即将开工，并在评论区回应网友消息“千真万确”。

据悉，此前在接受媒体采访时，全红婵妈妈曾表示，自己的愿望是在村里盖一个房子，让孩子们回来能有房间住。

关于全红婵家建造新房消息是否属实，记者求证了广东湛江市麻章区政府相关部门及自称承建新房方，截至发稿，尚未得到明确回应。

然而，在社交平台上已经出现多个账号使用AI合成的全红婵爸爸、哥哥声音，用完全相同的文案介绍家里要盖新房，以此来博取流量。

在AI合成视频中携带有骆驼奶粉、土鸡蛋、洗衣液等多种商品链接，流量较好的仿冒作品评论区中，不乏有人被骗下单购买。

全红婵父母与哥哥

据悉，全红婵的父母长期靠种植水果维持生计，全红婵的大哥全进华是一名三农主播，带货湛江本地的特产水果，全红婵的母亲也时常入镜，全家人直播带货曾引发不少网友的质疑。

对此，全进华在采访中表示，自己做自媒体是想带动三农产品销售，当地种了很多水果，有时会出现滞销的情况，自己想帮助果农。与此同时，自媒体工作也可以让他兼顾照顾身体不好的母亲。

他说：“虽然我还不是个（流量）很大的博主，也不一定能卖出很多东西，但我希望尽自己能力帮助家人、村里乃至湛江以及其他地方的农产品进行销售。”

02

换脸、换声音 多名公众人物陷入“AI漩涡”

利用AI伪造视频的现象并不罕见，此前，曾有多位明星成为AI伪造视频的素材。

今年3月，有线上游戏平台利用AI技术，将知名演员的肖像、声音及过往视频片段，合成制作为带有赌博性质的代言宣传片。这些AI合成的视频显示，演员讲代言台词的声线和口音听得出均刻意模仿本人，整体画面制作颇为粗糙，艺人讲台词的嘴形僵硬不自然，AI合成痕迹十分明显。

3月5日，相关演员经纪公司先后发布声明，指出该宣传片为合成影片，否认其与有关游戏平台合作或代言、推广它们的业务，提醒各方人士不要轻信，以免上当受骗。

除了明星，当普通人成为公众人物，随着流量的上涨，也会被别有用心之人盯上。

2023年，谢岳为寻找儿子发出千万寻子的悬赏而登上热搜，走入公众视野，2025年3月14日，谢岳寻子成功，再次引发了广泛关注。3月16日，在谢岳举办的认亲团圆宴上，来了许多媒体和自媒体人员，甚至有人不听劝阻，现场架起手机直播带货。

谢岳在公共场合举着寻子告示

不仅如此，一些不良商家甚至利用谢家父子形象用AI生成带货视频。据报道，在某短视频平台，一些商家或个人账号剪辑谢岳、谢浩男此前的直播视频画面，利用AI对口型让他们“说出”所谓“送福利”的内容，并在视频内挂购物链接，制作带货视频，带货的商品包括面膜、牙膏等。

谢浩男在某短视频平台上注册了唯一认证账号，他曾表示，接下来自己会继续读书，承诺不会带货，并称网上所谓的“带货视频”都是假的。

对此，河南泽槿律师事务所主任付建表示，商家剪辑寻亲者相关视频，利用AI技术制作带货视频推销商品，侵犯了当事人的肖像权。民法典规定，任何人未经授权不得擅自使用他人肖像，民法典中规定了对自然人声音的保护参照适用肖像权保护的有关规定。如果有商家利用AI对口型功能让寻亲者带货，若公众能根据音色、语调和发音风格等识别出是他们的声音，也侵犯了其声音等具有可识别性质的人格权益。商家需向被侵权人承担停止侵害、消除影响、赔礼道歉、赔偿损失等民事责任。

03

换脸、换声诈骗 老年用户难辨真假

记者了解到，近年来，全国发生了多起通过“AI换声”实施诈骗的案件。日前，有不法分子通过“AI换声”仿冒一位老人的孙子，以“打人须赔偿，否则要坐牢”为由，诈骗老人2万元。

AI如何生成以假乱真的声音？受访专家介绍，AI能够“克隆”声音，主要是依靠深度学习算法，即短时间内从采集的声音样本中提取关键特征，包括频率、音色、声调、语速、情感等，将这些特征记录为数学模型，再通过算法合成。

中国科学院自动化研究所模式识别实验室工程师牛少东说，随着算法越来越先进，在高性能设备和高精度模型的加持下，AI生成的语音内容从两年前的“一眼假”升级到如今的“真假难辨”。

大四学生耿孝存最近经常在网络音乐播放器中收听几首翻唱歌曲，他一直以为这些歌曲由某知名女歌手翻唱，后来才得知其实全部是AI合成的。“声音逼真到我从来没怀疑过。”耿孝存说。

AI声音在最近一两年时间内变得格外“流行”。清华大学新闻与传播学院教授沈阳说，人工智能技术的普及，让AI模拟声音的门槛大幅降低。通过一些开源软件和平台，没有专业知识的普通用户也能操作。

大量App能够进行AI合成声音，最快只需十几秒。记者在应用商店搜索发现，相关App有数十款，下载量最高超千万次。

记者联系了一款App的客服人员，对方表示，花198元就能解锁付费会员，对着镜头说几遍“12345”，AI就会根据声音生成各类内容的出镜口播视频。记者操作后发现，通过这款软件生成的名人声音，基本可以以假乱真，且录入名人声音不需要提供任何授权证明。

AI生成的照片

业内人士告诉记者，AI模拟人声在互联网“流行”，有追逐流量和变现的目的。通过“克隆”名人声音制作的恶搞、猎奇类视频，在相关平台播放和点赞量均不低，有的甚至还被推上热搜。发布者也相应获得流量曝光、粉丝增长、广告收入等播放收益。

此外，“偷”人声音也有不法利益驱动。国家金融监管总局2024年7月发布的《关于防范新型电信网络诈骗的风险提示》中提到，不法分子可能对明星、专家、执法人员等音视频进行人工合成，假借其身份传播虚假消息，从而实现诈骗目的。

04

多举措强化治理 新规9月起施行

用AI生成他人声音，是否违法违规？多位受访专家表示，个人声音中包含的声纹信息具备可识别性，能以电子方式记录，能关联到唯一自然人，是生物识别信息，属于个人信息保护法规定的敏感个人信息之一。

2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，明确认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。该法院法官认为，未经权利人许可，擅自使用或许可他人使用录音制品中的声音构成侵权。

近年来，有关主管部门出台《人工智能生成合成内容标识办法（征求意见稿）》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定，一定程度上给AI技术使用划定了红线。

图源：视觉中国

沈阳等专家认为，关于人工智能应用产生的造谣侵权、刑事犯罪、道德伦理等问题，建议有关部门细化完善相关规则，通过典型案例、司法解释等方式给予更为明确的规范指引，厘清法律法规边界。

中国科学院科技战略咨询研究院院长潘教峰认为，需进一步强化人工智能伦理规制，超前部署人工智能风险研究，提前预判人工智能技术应用可能带来的社会影响。

近日，国家互联网信息办公室等四部门联手发布了《人工智能生成合成内容标识办法》（简称《标识办法》），并定于2025年9月1日起正式施行。

《标识办法》明确了服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识。

有媒体评论称，这一举措，为AI生成内容设定了明确的标识规范，使得以往难以辨别的AI作品必须“持证上岗”，清晰标注其AI生成身份。不仅在AI作品与人类创作之间划清了界限，有效解决了AI作品带来的信任问题，让AI作品从隐匿于人群之中回归其专属领域，为社会营造了一个纯净的创作环境。

你刷到过这些“AI魔改”视频吗？

你怎么看？

(来源:央视网微信公号)