AI应用治理进入第二阶段,平台安全审核和内容标识成为重点

2026-07-30 福五牛科技整理 行业动态 3

摘要:中央网信办通报“清朗·整治AI应用乱象”专项行动第一阶段进展,下一步将聚焦虚假信息、仿冒侵权和未成年人保护等问题。

AI应用生态治理持续加码

中央网信办通报“清朗·整治AI应用乱象”专项行动第一阶段工作进展。专项行动聚焦未按规定履行大模型备案登记义务、AI平台安全审核能力不足、AI数据投毒、生成合成内容标识落实不到位等问题。

第一阶段已处置一批违规网站、应用程序、智能体等AI产品,并推动重点平台完善备案审核、数字指纹比对、多模态审核、恶意行为识别和数据异常检测等能力。

合规能力将影响AI产品上架和运营

随着治理进入第二阶段,利用AI制作虚假信息、假冒仿冒他人、侵害未成年人权益、网络水军等问题会成为重点。对AI应用开发者和平台方来说,安全评估、内容审核、合成标识、用户举报和风险处置机制将成为产品运营的基础能力。

行业启示

AI应用不是上线后再补合规。企业在产品设计阶段就应明确备案状态、数据来源、内容标识、审核机制和应急处置流程,避免因为治理要求变化影响业务连续性。

资料来源:中央网信办:“清朗·整治AI应用乱象”专项行动第一阶段工作