国家反诈中心APP新推出AI内容鉴定功能,目前已有部分电商交易双方成为该功能的首批使用者。该AI内容鉴定可用于鉴定电商交易内容真伪,在使用过程中暴露出电商交易的新问题。
有消费者通过AI内容鉴定功能,检测出部分商家展示的商品宣传图是AI生成产品图,存在商品货不对版的问题;也有部分商家检测出消费者发来的退换商品瑕疵照片是AI生成瑕疵图,疑似买家利用造假图进行恶意索赔。
针对电商平台AI生成内容管理问题,提出两点治理建议:一是平台需从根本上建立全新的审核推流机制,不能仅停留在公开表态层面;二是针对反复违规的商家与恶意违规的消费者,要建立失信名单,依据违规情节实施分级惩戒,形成长效约束机制。