近日,名为“婵宝小助理”“全妹福利号”等多个账号,使用全红婵赛后接受采访和家人直播的画面,用AI合成相应的声音,在社交平台发布视频。以“全红婵家建别墅”“全红婵为观众送上福利”等话题吸引观众,博取流量。
视频里呈现全红婵受访的画面,内容却被AI篡改为介绍土蜂蜜、骆驼奶粉、洗衣净等商品,并推荐观看者点击商品链接购买。评论区有用户被合成视频欺骗,表示“支持全红婵,值得购买。”
▲社交媒体上的合成视频带货截图
4月29日,全红婵父亲告诉记者,有人用AI伪造一家人声音卖蜂蜜,他们也没有办法。“帮我辟谣一下,我没有卖这东西,什么蜂蜜才十几块钱一斤,拿糖来搞都搞不到。”
据悉,全红婵的父母长期靠种植水果维持生计,全红婵的大哥全进华是一名三农主播,带货湛江本地的特产水果,全红婵的母亲也时常入镜,全家人直播带货曾引发不少网友的质疑。
对此,全进华在采访中表示:“我现在在自媒体上发发视频,主要是想带动‘三农’产品进行销售。为什么做这个呢?一是我妈妈身体不好,做这个比较自由,可以兼顾照顾长辈。二是我们这边种有很多水果,特别是菠萝,每隔几年就会出现滞销。因为种得太多,行情波动较大,没人来收的话,水果就烂在地里,所以我想帮一下他们。”
他说:“虽然我还不是个(流量)很大的博主,也不一定能卖出很多东西,但我希望尽自己能力帮助家人、村里乃至湛江以及其他地方的农产品进行销售。”
2024年4月,北京互联网法院宣判全国首例“AI声音侵权案”,明确认定在具备可识别性的前提下,自然人声音权益的保护范围可及于AI生成声音。法院认为,未经权利人许可,擅自使用或许可他人使用录音制品中的声音构成侵权。
今年两会期间,全国人大代表、小米集团创始人雷军建议“加强‘AI换脸拟声’违法侵权治理”,并表示他本人也曾是“AI换脸拟声”的“受害者”。
早前短视频平台上曾出现大量“雷军AI配音”的恶搞视频,涉及堵车、调休、游戏等热门话题,雷军两会期间回应,“一开始我还觉得这是网民喜闻乐见的一种方式,但是随着内容越来越多,网友们也都在投诉。”为此,他呼吁尽快出台相关治理措施。
同样,全国政协委员靳东也回应了AI换脸导致的诈骗问题,并表示“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣,希望能建立更好的规则。”
此前,有网友向演员刘晓庆反馈有人在视频号AI生成视频假冒她。刘晓庆转发并配文:“天哪,我点进去看了一下,画面是我,声音很像我,但不是我!这是怎么做到的?大家以后不会搞不清楚哪个才是真的我了吧?我在各个平台都叫刘晓庆!”
4月18日,张馨予发文表示:“近期发现有品牌AI复制我的声音,未经授权编造剪辑广告视频,还有减肥药广告,我觉得这样的行为很恶劣。在此说明我从来没有推荐过任何减肥药,有商家利用Ai技术非法剪辑投放广告,我一定追究到底。”
河南泽槿律师事务所主任付建称,通过AI技术冒用他人声音的行为属于违法行为。根据《中华人民共和国民法典》,对自然人声音的保护参照适用肖像权保护的有关规定。而商家利用AI篡改专家说辞进行直播卖货既侵犯了专家有关声音的人格权益,也可能损害了专家的名誉权以及肖像权。
同时,这种打广告的行为也涉及虚假广告宣传,如果所卖商品没有宣传效果还构成消费者欺诈,违反了《反不正当竞争法》和《消费者权益保护法》有关规定,有可能面临罚款、吊销营业执照等行政责任以及相应的民事赔偿责任,情节严重的还涉及刑事犯罪。
“平台有权依据《互联网信息服务管理办法》《电子商务法》以及平台规则履行监管义务,对违法商家采取封禁账号、限流等处理措施。如果未及时采取合理措施导致损害扩大的,对扩大部分与不法商家承担连带责任。”付建表示。
从全红婵家里建房、古天乐“被游戏代言”、张馨予“卖减肥药”,这些事件背后,都是不法分子在利用AI技术,明目张胆地伪造公众人物的形象和声音,或者生造出来某个人物形象,蓄意欺骗消费者,以谋取非法收益。
具体到“全红婵家人事件”,声音作为具有个人标识性特征的信息,未经本人授权就被随意用于商业行为,这已构成对个人肖像权、名誉权以及声音相关权益的侵犯,相关伪造者的行为涉嫌违法犯罪。
而消费者在不知情的情况下,基于对全红婵及其家人的信任和支持下单购买商品,结果却发现自己上当受骗,不仅蒙受经济损失,更会对类似网络信息的真实性产生怀疑。从长远来看,此类事件冲击的将是整个短视频平台消费市场的信任环境。
AI合成技术是一把双刃剑。一方面,它极大提升了信息生产与传播的效率;另一方面,技术滥用导致信息真假难辨,给监管带来巨大挑战。AI合成信息易误导公众,干扰判断与决策,还增加了监管部门发现和查处虚假信息的难度,容易引发社会乱象。
同时,由于网络信息传播迅速且范围广泛,虚假信息一旦发布,难以有效控制,溯源和处理成本很高,这对传统监管模式和技术手段提出了新的更高要求。
面对AI合成技术被滥用这一新难题,国家互联网信息办公室等四部门联合发布了《人工智能生成合成内容标识办法》,定于2025年9月1日起正式施行。该办法为AI生成内容设定了明确的标识规范,让以往难以辨别的AI作品必须“持证上岗”,清晰标注其AI生成身份,相当于在源头上为AI合成信息套上了“紧箍咒”。
在此基础上,还要加大对侵权行为的惩罚力度,让违法者付出高昂代价,才能让他们畏于造假售假。
对平台而言,当务之急是提升技术手段,对AI合成内容进行识别和标注,“用AI打败AI”,及时清理虚假信息,对违规账号进行封禁处理。
而作为普通消费者,在AI合成日益被滥用的趋势下,尤其要提高辨别能力和防范意识,不要轻信、传播未经证实的消息,更不要轻易地“一键下单”。
总之,只有让AI合成技术的应用真正规范起来,才能避其短、扬其长,营造健康、真实、可信的网络环境和消费市场,让AI真正服务人,而不是成为骗子的工具。
来源:封面新闻、九派新闻、新京报、网友评论
Here we go!罗马诺:利兹联签米兰前锋奥卡福,转会费超2000万欧
本站08月19日讯罗马诺用标志性的Herewego宣布,利兹联签下米兰前锋奥卡福,转会费超2000万欧。罗马诺称,奥卡福将签署一份为期四年的合同,并可选择续约1年,在利兹联主帅法尔克的电话沟通过后,奥卡福已经准备好转会至 2025-08-20 16:10:30🐑变🐼了!媒体人:杨瀚森在训练中被肘到眼睛
图转自@我嘞个胡豆er本站8月20日讯据媒体人@我嘞个胡豆er透露,杨瀚森在训练中被肘到眼睛。其配文写道:“🐑变🐼了!要不给我说是训练被肘到眼睛,我还以为是太欠被谁揍了。”夏联四战杨瀚森场均可以得到10.8分5.3篮板3 2025-08-20 16:10:08欧文一家近照,大伤后签1.1亿肥约,超模妻子绝美,儿女双全幸福
随着沃尔的退役,不少球迷感慨,当年东部两大天才控卫,也都是十足的老将了。沃尔告别了NBA舞台,欧文也已经33岁了,并且今年遭遇了大伤。不过他依旧是才华横溢,所以跳出合同后,仍然可以签下1.1亿美元的肥约。这位当年的花花公 2025-08-20 16:09:32穆里尼奥:梅西是让我成长最多的球员 每次对阵他我都得绞尽脑汁
8月20日消息,8月19日,现年62岁的土耳其费内巴切主教练穆里尼奥接受了SportyNet采访,在谈到让自己成长最多的球员时,穆里尼奥直接提到了梅西的名字。SportyNet的美女记者提问道:“请问哪名球员让您作为教练 2025-08-20 16:08:57开赛在即!这支队伍将代表淄博参赛!
8月18日,淄博市足球运动协会发布《关于俱乐部招募、选拔情况的公示》,公示显示将选派淄博齐稷联合足球俱乐部参加2025赛季齐鲁超赛。 2025-08-20 16:08:531.8%奇迹后,独行侠瞄准41岁詹姆斯!名记曝5队大交易方案
最近两个赛季的达拉斯独行侠,就像在坐过山车:2024年刚闯入NBA总决赛,让球迷对“东契奇+欧文+克莱”的核心阵容充满期待;2024-25赛季却急转直下,前半程表现低迷,交易截止日又曝出惊天操作,卢卡·东契奇被送往湖人, 2025-08-20 16:06:34WTT战报:女单16强出8,国乒4席日本3席,中国名将出局,日本全胜
WTT瑞典大满贯女单的比赛打完了几场,8月20号凌晨的消息是,16强已经定了8个位子。咱们国乒占了4个,日本队拿了3个,还有一个是中国澳门的朱雨玲。这次比赛,日本女队的劲头是真的足。一道绕不开的战术难题北京时间8月20日 2025-08-20 15:56:58孙颖莎太累,马琳激情替喊!台湾解说建议休息,球迷喊话王励勤!
WTT瑞典大满贯女单1/32决赛,中国选手孙颖莎3比1战胜埃及小将汉娜·高达,拿下了这次赛事的第一场胜利。四局比分是3比11、11比7、11比6、11比7。这场胜利的背后,是一场起起伏伏又不断调整的比赛。比赛打到第二局, 2025-08-20 15:51:58就在今天!8月20日凌晨!传来库里、新秀的最新动态
布兰登·詹宁斯这个名字,不知道还有多少老球迷记得。曾经他是全美瞩目的天才高中生,是NBA历史上最年轻的55分先生,可短短八年之后,这位本该在巅峰期的球员,却连一份NBA合同都拿不到,只能黯然离开。很多人一提詹宁斯,总爱说 2025-08-20 15:49:01瑞典大满贯之际,刘国梁赴瑞典乒联高层会议 他现在算ITTF几把手?
北京时间8月20日凌晨,国际乒联(ITTF)在瑞典召开执行董事会会议。主席佩特拉·索林、第一副主席刘国梁、首席执行官史蒂夫·丹顿等核心高层悉数出席。这场借WTT瑞典大满贯赛事之机举行的会议,核心目标是平息今年5月因主席选 2025-08-20 15:37:59NBA直播吧所有直播信号和视频录像均由用户收集或从搜索引擎搜索整理获得,NBA直播吧自身不提供任何直播信号和视频内容,如有侵犯您的权益请通知我们,我们会第一时间处理,谢谢!
备案号:滇ICP备2021003622号