齐鲁晚报·齐鲁壹点评论员 孔雨童 绘画 徐进

近日，有媒体曝出，多个社交账号利用AI技术合成全红婵及其父亲、哥哥等家人的声音，编造“为庆祝建房低价促销”等虚假剧情，附带骆驼奶粉、土鸡蛋、蜂蜜等商品链接进行带货，不少账号销量惊人。

全红婵及其家人不是首批受害者，此前，张馨予、刘晓庆等人就分别遭遇过AI造假，来推荐减肥药等商品。对于这种有社会影响力的名人进行“造假”，其实很容易被“揪住”并曝光，但此类行为仍然层出不穷，能短时间带来的热度和销量当然是主因——此次事件中，一个名为“全妹福利号”的账号带货的农家土蜂蜜已经热卖80万件；其次不可忽视的是，在当下这种Al造假的代价依然较小，全红婵父亲就表示对AI造假“没有办法”，只能通过媒体辟谣。

从法律上来说，此类行为涉嫌侵犯肖像权、声音权，当事人可以通过诉讼维权。但实际情况中，维权成本并不低，2024年4月，北京互联网法院刚刚才宣判全国首例“AI声音侵权案”，近年来相关胜诉的案例也不多。

当下，AI技术的滥用，不能仅依靠个体的力量去封堵，更要通过更强大的技术手段，增强平台的识别能力，完成更严密的筛选，从源头加强监管。

近日，国家互联网信息办公室等四部门联合发布了《人工智能生成合成内容标识办法》，并定于2025年9月1日起正式施行。该《办法》明确了服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识。这个强制“身份标签”的效果值得期待。

此外，还要尽快加大对AI侵权行为的惩罚力度，相关法律法规应当及时出台。今年两会期间，小米CEO雷军、TCL创始人兼董事长李东生等多位代表提出，要加快针对AI生成合成内容单行法的立法，明确技术应用边界、侵权认定标准与法律责任，尤其要加大对伪造相关文件、消费公众信任等情节的惩处力度。

AI技术在现实应用中的规范之路，还任重道远。但每一次类似的侵权事件，都在提醒着我们，规制手段要跟得上技术的步伐，托住人性底线，不让“新世界”成为伦理失序的荒野。