人工智能拟人化互动服务新规今起施行 划定多重安全底线

据央视新闻，由国家互联网信息办公室等5部门制定的《人工智能拟人化互动服务管理暂行办法》今天（7月15日）正式施行。

根据暂行办法的规定，人工智能拟人化互动服务指的是，利用人工智能技术，向公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务，包括通过文字、图片、音频、视频等形式，提供的情感照护、陪伴、支持等互动服务。

《人工智能拟人化互动服务管理暂行办法》就是对向我国境内公众提供相关服务进行管理的法规。对于那些提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性的情感互动的，不在此次暂行办法的管理范围之内。

《暂行办法》明确了人工智能拟人化互动服务“辅助人类、服务人类”的定位，划定了伦理红线。

要求拟人化互动服务提供者不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。

需要具备过度依赖风险预警、情感边界引导等安全能力。

且不得生成过度迎合用户、诱导情感依赖或沉迷、损害用户真实人际关系的内容，引导拟人化互动服务积极健康交互。

对于用户长时间使用人工智能拟人化服务，带来的人机关系边界模糊等问题，暂行办法还确立了“身份提醒”机制。

明确规定，拟人化互动服务提供者应当履行人工智能生成合成内容标识义务，采取有效措施提示用户正在与人工智能服务而非自然人进行互动。

发现用户出现过度依赖、沉迷倾向的，应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成。

对用户连续使用拟人化互动服务每超过2个小时的，应当以对话或者弹窗等方式提醒用户注意使用时长。

暂行办法还要求拟人化互动服务提供者向用户提供便捷的退出途径。

当用户要求退出时，需要及时停止服务，不得采用持续互动等方式阻碍用户退出。

引导用户平衡虚拟互动与现实社交，防范情感依赖带来的社交异化风险。

暂行办法明确要求，提供拟人化互动服务：

不得过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系。

或通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益。

禁止生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容。