《人工智能拟人化互动服务管理暂行办法》自2026年7月15日起施行。办法适用于利用人工智能技术，向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务。智能客服、知识问答、工作助手等不涉及持续性情感互动的服务不适用该办法，但其中提出的安全理念仍值得行业参考。
近年来，AI陪伴、虚拟角色、情感互动产品快速发展，也带来沉迷依赖、情感操纵、未成年人保护、个人信息安全等新问题。新规强调发展和安全并重，要求服务提供者落实安全主体责任，建立算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案等制度。
智能服务要有边界感
办法明确，拟人化互动服务不得过度迎合用户、诱导情感依赖或沉迷，不得通过情感操纵诱导用户作出不合理决策。对未成年人和老年人等群体，也提出了更具体的保护要求。这说明AI产品设计不能只追求黏性和互动时长，还要考虑用户权益和长期安全。
对政企服务场景而言，即使很多系统不属于拟人化情感互动服务，也应借鉴其中的合规思路。智能客服、办事助手、养老服务机器人等应用，应明确AI身份提示、人工转接机制、数据使用边界和风险干预规则。
对行业的启示
未来AI服务的评价标准会更加综合：既要能回答问题、完成任务，也要在安全、隐私、伦理和用户保护方面可靠可控。企业在设计智能服务时，应把合规能力作为产品能力的一部分，而不是上线后的补丁。