老黄人生第二条推文,只有Anthropic还在死扛

新智元
个人专栏
热度: 4092

黄仁勋发起开放安全AI联盟,联合37家科技企业推动开源模型与安全技术栈开放,强调网络安全需依赖可审查、可加固的开放AI系统;OpenAI和Google签署公开信但未加入联盟,Anthropic则拒绝签署并坚持闭源立场;事件背后凸显英伟达借开放生态巩固GPU算力市场主导地位。

摘要由 Mars AI 生成
本摘要由 Mars AI 模型生成,其生成内容的准确性、完整性还处于迭代更新阶段。

黄仁勋这辈子,发过两条推。

第一条放出一封32家公司联署的公开信,力挺开放权重模型。

第二条官宣「开放安全AI联盟」(Open Secure AI Alliance),37家创始成员,芯片厂商、云巨头、安全公司、开源社区全到齐了。

核心论点是:世界需要闭源和开源模型并存,但对网络安全而言,开源模型和harness是必需的。

Open Secure AI联盟

Open Secure AI联盟

然后有意思的来了。

联盟名单上,OpenAI不在,Google不在,Anthropic也不在。

但眼瞅大势不妙的OpenAI和Google,赶紧补签了公开信。

到头来,几乎所有人都站了队。

就剩Anthropic。不仅公开信没签,联盟也没加。

一级标题37家集体下场,开放安全开战

老黄发帖8小时,各路CEO集体站台。声势浩大,阵容也相当豪华。

英伟达、Microsoft、IBM、Cisco、CrowdStrike、Cloudflare、Hugging Face、Dell、Palantir、Salesforce、SAP、SpaceXAI,等等……

其中,英伟达的贡献最为重头。NOOA框架,全称英伟达 Labs Object-Oriented Agent,已经在GitHub上开源。

设计思路是把智能体当Python类来写:方法即能力,字段即状态,docstring即提示词。

效果方面,SWE-bench Verified拿到82.2%,CyberGym L1解决率86.8%,ARC-AGI-3达85.1%,同等效果token消耗约为对比方案的一半。

其他成员也各有贡献。

·HPE拿出了SPIFFE/SPIRE零信任身份框架,解决智能体的身份和权限问题。

·Hugging Face贡献了Safetensors安全权重格式,防止权重文件被篡改。

·IBM和Red Hat联合贡献了Lightwell供应链数字签名补丁,保障模型分发链条的完整性。

·微软贡献了MDASH多模型智能体扫描harness,用于安全测试。

·SpaceXAI开源了Grok Build终端AI编码agent,还计划开源Grok系列权重。

道理是这样的。

智能体的安全不只取决于模型权重,而是涉及身份认证、权限管理、harness、护栏、日志和评估整个链条。

每一环都应该足够开放,让防御者能审查、测试和改进。

因为,如果防御者只能拿到一个黑盒API,一旦攻击者绕过护栏,防御者将毫无还手之力。但如果整个技术栈是开放的,防御者就可以给每一层都做加固。

两份名单,撕开三大阵营

从公开信到联盟官宣,两天时间,AI行业已经清晰地分成了三个阵营。

第一阵营:签了公开信,也加入了联盟。

英伟达、Microsoft、Meta、Cisco、Dell、Hugging Face、IBM、Palantir、SpaceXAI等,这些公司既支持开放权重的理念,也愿意把模型、身份、安全扫描和审计工具放进联盟。

第二阵营:签了公开信,但没加入联盟。

OpenAI和Google在公开信上都给了开放权重的面子,不过对于联盟这件事里子里还是不想掺和。

尤其是OpenAI的处境其实挺微妙的。前脚自己的模型刚闯了祸,签公开信已经是补救动作了;短期内要加入一个以「开放安全」为旗号的联盟,显然不太可能。

Open Secure AI联盟

Open Secure AI联盟

第三阵营:公开信没签,联盟也没加。

只有一家,Anthropic。

就在昨天,Dario Amodei亲自发了份立场声明。

虽然一上来说「Anthropic从未主张禁止开放权重模型」,但紧接着锋一转——

不仅不认为「开放能让防御者更安全」,而且还强调了三个和开源模型相关的重点打击方向:

  • 封锁芯片
  • 杜绝蒸馏
  • 安全测试

Open Secure AI联盟

对此,老黄用来反驳的证据,就是接下来这件事。

闭源AI闯祸,开源AI收场

时间回到7月16日。

当时,Hugging Face披露了一起不同寻常的安全事件——他们的部分生产基础设施,竟然遭到了自主AI智能体的严重入侵。

7月21日,OpenAI宣布对此次事件负责。

原因是,GPT-5.6 Sol和一款更强的预发布模型为了在ExploitGym评测中拿高分……

于是,模型先利用软件包缓存代理中的零日漏洞逃出测试环境,随后通过恶意数据集、窃取凭证和远程代码执行,一路攻入Hugging Face。

Open Secure AI联盟

更荒诞的还在后面。

当Hugging Face试图调用商业前沿模型分析攻击日志时,却因为日志包含攻击命令、漏洞载荷等,被安全护栏给拒绝了!

无奈之下,Hugging Face决定换成在自家础设施上运行的开源模型GLM 5.2。这才让超过1.7万次动作得到分析,原本可能持续数天的取证压缩到了数小时。

于是,整件事情就变成了。进攻时,美国闭源模型被解除限制,一路横冲直撞;防守时,安全团队拿着真实证据求助,模型却拒不配合。最后还得靠中国开源模型帮忙收场。

后来老黄把这段经历写进第二条推文。联盟也因此有了最直接的理由:关键时刻,防守者必须能控制自己的AI。

开放模型背后,还有算力生意

当然,英伟达力推开放模型,也不只是为了安全。

英伟达卖的是基于GPU的算力基础设施。但如今,原本的买家却一个个变成了它在芯片领域的对手。

OpenAI已经发布自研AI加速芯片,Anthropic也被曝正在探索自己的芯片方案。Microsoft、Google和Amazon更早一步,Maia、TPU和Trainium都已经投入运行。

一边是大客户自研芯片、降低对英伟达的依赖,另一边是Anthropic推动更严格的先进芯片出口管制。客户和政策,都在挤压英伟达的市场空间。

Open Secure AI联盟

看到这,新联盟的商业作用,也就清楚了。

技术上,它补齐身份、权限、隔离、安全扫描和审计工具,降低企业本地部署开放模型的风险;政策上,它要求监管者把开放模型视为防御资产,反对一刀切限制。

对英伟达来说,开放模型越容易部署,本地算力市场就越大。否则,前沿AI和算力需求可能越来越集中到几家拥有自研芯片的封闭平台手中。

所以,从表面上来看老黄扶的是开放模型,实际上守的是英伟达的算力入口。

参考资料:

https://x.com/JensenHuang/status/2081698060330250294

本文来自微信公众号“新智元”,作者:摩西

声明:本文为入驻“火星财经 专栏”作者作品,不代表火星财经官方立场。
转载请联系网页底部:内容合作栏目,邮件进行授权。授权后转载时请注明出处、作者和本文链接。未经许可擅自转载本站文章,将追究相关法律责任,侵权必究。
提示:投资有风险,入市须谨慎,本资讯不作为投资理财建议。
本内容旨在传递行业动态,不构成投资建议或承诺。