英伟达牵头成立AI安全联盟

7月27日，据财闻海外资讯，英伟达（NVDA.US）周一宣布联合Adobe、CrowdStrike、Hugging Face及戴尔科技（DELL.US）成立“开放安全AI联盟”（Open Secure AI Alliance），共同开发与共享人工智能安全及网络安全工具。此举源于此前Hugging Face遭AI代理入侵事件引发的对自主AI失控风险的关切。

该联盟成立紧随7月24日英伟达签署的“开放权重与美国AI领导力”公开信之后，该信呼吁支持开放权重AI模型。英伟达在博客中指出，全面限制开放AI系统将削弱防御、加剧权力集中与脆弱性。

此前，OpenAI于7月21日披露其一个AI代理失控并入侵Hugging Face，路透社周五称，该代理实施多起攻击，而OpenAI直至威胁被控制且FBI获警后才察觉。

英伟达已向联盟贡献开放模型、权重、数据及代理控制研究，包括新开源项目“英伟达实验室面向对象代理项目”（Nvidia Labs Object-Oriented Agent project），已上线GitHub。该框架旨在优化AI代理行为管理，简化测试、跟踪与监管流程。