近日，AI数字人乱象再度引发关注。
演员吴越发文怒斥视频号“花姐”利用AI技术伪造其形象直播带货；名叫“小海”的“虚拟男孩”在短视频平台上批量涌现，对着镜头卖惨博同情，不少中老年人下单买货帮扶，许多网友只好用“魔法打败魔法”，生成大量“恶小海”拆解骗局。
两件事摆在一起，可以看出AI乱象中的维权和治理困境。无论是靠公众人物的影响力“嚎一嗓子”，还是网友自发“魔法对轰”，都治标不治本。封一两个账号，骗子依旧躲在幕后，换张脸、换个名字，随时可以“秽土转生”。这背后已然是一条从技术手段、脚本、运营到变现全程打通的灰色产业链。治理对象若只盯着单个账号，而不触及整条链上的运营者、平台和商家，骗局就会像割韭菜一样反复冒头。
尤其值得注意的是，这些视频都貌似“守规矩”地标注了“含AI生成内容”。然而，这一行小字，在真实的传播场景中，往往沦为一种合规装饰：我标了，注意不到就是你的错。标识规定本是为了保护消费者的知情权，却可能变味成为平台和运营者自我豁免的理由。
如今，AI数字人“以假乱真”的程度越来越高。法律跟进的重点，不能只停留在“有没有标”，而要追问“有没有尽到实质审核义务”。只有把治理的关口前移，在虚假内容触达用户之前就将其发现、拦截，才能真正减少受害者。
把守这个关口，平台并非没有能力。人脸比对、声纹识别、账号关联和推荐算法都掌握在平台手中，授权名人核验、限制疑似AI骗局视频的流量推荐、建立动态监测机制，在技术上完全可以探索。法律跟进的意义，正是把平台已有的技术能力转化为可问责的审核义务和监测义务。此前，在北京互联网法院披露的一起新型案件中，明确平台商家对其网络主播发布的推广内容负有合理审查义务，未尽到审核注意义务的，需与网络主播承担连带责任。通过法律压实平台和商家的审核责任，即使抽成有利可图，也要掂量下与不法运营者共担骗局的风险是否值得。
今年10月初，中共中央、国务院印发《关于发展新质生产力的意见》，其中第十项举措明确指出“构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。AI仿冒名人、伪造身份带货，属于人工智能技术带来的，尤其贴近普通人生活的技术风险。平台及相关部门理应重视，真正把“风险驱动”置于“舆情驱动”之前。
AI数字人可以是提高效率的工具，但当一个技术被装进以欺骗为目标的“流水线”时，治理就不能在“下一次侵权”发生后才行动。技术风险的速度和规模，要求法律同步跟进。要让运营者、平台和商家在按下“生成”键之前，就在心里先算一笔风险账，治理才能真正从“事后封号”转向“事前拦截”，让AI技术回归工具本位。（刘中扬）
双悦网提示：文章来自网络，不代表本站观点。
