AI合成名人明星声音虚假带货，不能如此无下限
“大家好，我是婵宝，叔叔阿姨可以下单试试”“我是全红婵哥哥全进华，为大家准备了2000单的蜂蜜，16块9发两斤”……近期，社交平台上多个账号利用全红婵及其家人声音合成AI视频为商品带货。对此，全红婵的家人明确表示均系伪造视频，不少消费者听闻直呼上当。
随着AI合成技术发展，仿冒名人明星虚假带货频频出现。这些不法商家利用公众对名人明星的情感投射和信任心理，为博流量通过AI技术生成以假乱真的带货视频，或张冠李戴，或无中生有，或故弄玄虚，手法多端、套路变换，既没有真假底线，也没有对法律的敬畏，目的就是收割消费者。
AI合成名人明星虚假带货，与AI虚假营销乱象背后的黑产链条密切相关。一些利用AI新技术实施的虚假宣传中，往往存在同一产品链接跳转至不同网店的情况。加之AI技术造假成本低，让批量炮制、快速传播、随时换壳的欺诈营销容易得逞，陷入“造假-流量-变现-更多造假”的恶性循环。此外，短视频平台对一些账号的入驻资质、带货视频内容等审核流于形式，冒用账号取证难、追责难，也为AI虚假营销的蔓延“推波助澜”。
技术理应向上向善，AI合成技术的使用应有边界。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等在内容审核、信息标识上对生成式AI的规范使用提出了要求。对于滥用AI技术虚假宣传“无底线博流量”的乱象，相关部门应严厉打击，加重赔偿性惩罚处置。短视频平台应主动加强对AI生成内容审核，建立AI带货可追溯标识，既实现侵权行为的实时预警，也实现虚假侵权行为的快速“倒查倒追”。消费者也应主动学习相关知识，提高防骗意识。
人们乐见AI技术助力网络消费，但绝不允许AI骗术“张牙舞爪”，侵蚀网络消费的信任与成色。多方发力、守土有责，让AI合成技术的应用真正规范起来，让违法违规博流量的行为受到应有处罚，才能更好维护互联网数字消费的健康环境。
（原题为《AI合成名人明星声音虚假带货，不能如此无下限》来源 人民日报）