法国专家报告建议对生成式人工智能加强监管

据新华社，法国总统府11月10日发布公报说，法国一个专家委员会当天向总统马克龙提交报告，建议对生成式人工智能加强监管，通过限制奉承迎合机制、开展上市前跨学科风险评估、加强教育等措施，防范生成式人工智能对个人认知能力、心理健康及社会运行带来的潜在危害。

这份报告由法国人工智能与数字委员会组织编写。9名跨学科专家在开展55场听证后，围绕个人和社会层面的风险提出18项政策建议。

报告指出，生成式人工智能正得到广泛使用，今年年初法国已有3300万独立用户，但四分之一的法国人对其潜在风险表示担忧。

研究显示，过度使用人工智能可能削弱用户的认知能力发展，如经常使用聊天机器人写作可能导致认知能力显著下降。人工智能工具存在日益加剧的拟人化和奉承迎合现象，可能导致用户产生情感依赖。人工智能还可能加剧网络暴力。

针对上述风险，专家委员会提出18项建议，包括在设计层面严格限制人工智能系统的过度奉承迎合和拟人化机制，防止企业利用用户的心理弱点牟利。同时，应将监管从发现违规后的纠正转向提前防范风险，并要求面向普通消费者的生成式人工智能产品在上市前接受跨学科风险评估。委员会还建议从孩童幼年阶段开始普及人工智能教育，培养会使用人工智能却不依赖人工智能的下一代。