众力资讯网

英伟达发布Open Agent Safety Platform,回应AI智能体越

英伟达发布Open Agent Safety Platform,回应AI智能体越界风险

一、核心定性
黄仁勋定调:AI智能体越界是工程问题,不是意识问题。
英伟达推出软硬一体智能体安全平台,不限制模型思考能力,只锁执行权限,解决AI Agent商业化最大卡点——失控、越权、安全风险,对冲市场AI威胁论,属于AI智能体时代的基础设施级突破。
二、核心技术架构(双层防护)
软件层 OpenShell
开源沙盒环境,最小权限管控所有工具调用、API、网络、系统操作,全程可审计、可拦截。兼容第三方模型、异构硬件,走通用标准路线。
硬件层 Nvidia Sentry(核心亮点)
部署在 BlueField DPU,独立带外硬件监控,脱离主CPU与模型体系,拥有独立信任根。毫秒级识别、隔离、阻断越界行为,解决“软件层被绕过”的致命漏洞。
三、产业影响
加速AI Agent规模化商用:解决安全合规焦虑,降低企业落地门槛。
开辟新赛道:AI软硬一体化安全:从模型对齐 → 权限管控+硬件可信安全,新增产业链机会。
强化英伟达生态霸权:开放兼容策略,意图成为全球智能体安全事实标准,绑定云厂商与AI开发者生态。
助推行业标准化、监管落地:提供可落地的安全框架,适配全球AI监管趋势。
四、现存短板和风险
无法防御合法工具组合间接越界,存在逻辑漏洞盲区。
安全攻防持续迭代,无永久防御方案。
仅解决技术安全,不完全匹配各国合规法规。
部署带来一定算力损耗与硬件成本压力。
五、重点跟踪指标
头部AI厂商、云厂商集成进度
绕过安全框架的攻击案例频率
监管条文是否引用该技术标准
开源生态活跃度与第三方适配速度

AI产业竞争正式从模型能力竞赛,进入安全治理+可信执行竞赛。
英伟达通过「算力底座+安全底座」双重卡位,进一步锁死AI生态壁垒,AI安全软硬一体化成为明确新增主线。