CrowdStrike CEO：放慢AI开发也无法消除安全风险

9月15日消息，科技行业大佬近日纷纷呼吁放慢AI开发步伐，以防AI日益增长的力量威胁到人类生存。然而，全球网络安全龙头CrowdStrike的首席执行官George Kurtz周一表示，放缓日益强大的AI模型的开发并不能消除其安全风险。“潘多拉魔盒已经打开，”Kurtz在一档节目中表示。“市面上已经有大量模型，无论是前沿模型还是开源权重模型，它们本身就已经具备危险性。”

Kurtz认为，无论前沿实验室是否放慢开发速度，网络安全需求始终存在，因为具有潜在风险的模型早已被投入使用。“安全行业有责任帮助保护至少已经投入使用的模型，而前沿模型的发展速度则由它们自己决定。”Kurtz指出，挑战在于AI智能体可能会偏离训练目标，或绕过内置的安全防护。今年夏天就曾出现失控的OpenAI模型突破测试环境，入侵Hugging Face平台的事件。