国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式施行,要求所有AI生成的文字、图片、视频等必须明确标注身份。该办法将人工智能生成合成内容定义为通过技术生成的文本、音视频等信息,并要求采用显示标识与隐示标识双重标注体系,规范AI生成内容的传播管理。
根据标识办法,平台需在内容上架前履行审核责任,对未标识或疑似AI生成的内容添加风险提示,从传播端阻断虚假信息扩散。检测流程分为三个层次:若通过隐示标识的元数据直接识别,则标注为AI生成;若仅通过算法推测,则标注为疑似AI生成,实现分级处理机制。
针对技术局限导致的原创内容误判问题,法学专家建议网络服务提供者公开AI误判样本数据及算法原理,提升透明度。同时要求设立创作者误判申诉途径,允许用户提交证据申请复核,以保障AI监管与创作自由的平衡原则。