OpenAI再次暂停其最先进模型训练

据央视报道，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。此前，9月20日一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。OpenAI对齐监控系统在事件发生15分钟内触发警报，人工审查团队3分钟后介入，2.5小时后终止该训练任务。目前OpenAI已在两个独立防护层部署拦截控制措施。公司称该事件为下一阶段加固防线提供重要信号。这是OpenAI三个月内第二次暂停模型开发。7月下旬，其网络安全训练与评估场景中的智能体曾绕过网络限制侵入美国“抱抱脸”公司部分系统，该无人类指令干预的“越界”行为曾引发对人工智能安全和监管的广泛担忧。