据央视新闻报道,现在一些AI数字人以“消费者”“医务工作者”“领域专家”等形象出现,推广药品、保健品等。这些虚拟人还动不动就说自己是“真实体验”,在视频里表演“科学实验”,将疗效吹得天花乱坠 ,堪称“神医”。
然而,这其中的问题至少有两层。
一是,虚构根本不存在的使用体验。比如,在美瞳的广告中,虚拟人物声称“我的美瞳戴了一天都很舒服”。问题是,一个没有真实身体和生理感知的数字人,何来所谓“亲测有效”?
二是,对医生、专家等专业身份的滥用。白大褂、诊室背景、专业术语、“科学实验”,这些元素组合起来,很容易让消费者产生专业人士正在提供健康建议的印象。如果不仔细辨别,消费者真有可能把他们当作“专家”,购买一个效果存疑的产品,延误常规的疾病治疗。
现有法律对此并非没有规定。比如《广告法》第二十八条就规定,广告以虚假或者引人误解的内容欺骗、误导消费者,构成虚假广告。《互联网广告管理办法》也规定,禁止以介绍健康、养生知识等形式,变相发布医疗、药品、医疗器械、保健食品、特殊医学用途配方食品广告。
由此可见,无论是无中生有的“亲测”,还是披着白大褂进行的“专业推荐”,其实都触碰了相关规定,难逃虚假广告之嫌。
客观来看,AI数字人并没有制造全新的问题——信口开河的代言人,冒充医学专家的演员,人们早都见怪不怪了。AI的问题在于,极大地拉低了制作门槛,相关广告可谓一键式批量生成。比如记者实测发现,只需要上传一张照片,几分钟就能生成一段数字人带货视频。而且,一张脸被识破,那就换一张脸;一个“神医”不够,就再生成十个……成本极低。
当虚假广告的生产从“手搓”变成“流水线”,其危害也随之被放大。成本越低、速度越快、数量越多,违规内容就越容易穿透传统审核和处置机制。如果治理仍停留在发现一条、删除一条,对相关账号挨个封禁限流,就很容易陷入被动追赶:这些账号运营者可能根本无所谓,点点手指就可以生成一条新的,马上就能卷土重来。
因此,对于汹涌的“信息倒灌”,平台不能再被动应战。首先就要提高识别能力,通过强化敏感词和高风险话术筛查等方式加强审核,对明显违规内容及时拦截,不能总等违规内容扩散后再行处理。
同时,也要建立全链条追责机制。数字人是假的,背后的生意却是真的。其实,顺着带货产品去追责源头并不难,关键是平台要打通账号、商品、投流和交易等环节的信息,真正找到获利责任人,再针对性地封禁,或是给相关部门同步线索,进行釜底抽薪的打击。
此外,AI生成软件同样不能只当工具、不问用途。对于“医生带货”“虚构体验”“夸大疗效”“去除水印”等明显具有违法违规风险的生成要求,应当设置必要的限制和安全规则;相关部门对于打擦边球的AI生成工具也应当强化监管,从内容生产的源头减少虚假内容的出现。
总之,平台治理如何跟上技术变化,把审核和追责机制同步升级,才是避免“AI假广告”泛滥的关键。
