新闻
英伟达发布 AI 智能体安全工具 OpenShell，称可阻止 Hugging Face 入侵事件重演 英伟达当地时间9月28日推出一套面向 AI 智能体的软件安全工具 OpenShell，声称具备阻止类似 Hugging Face 遭 A
1 分钟阅读
英伟达发布 AI 智能体安全工具 OpenShell，称可阻止 Hugging Face 入侵事件重演 英伟达当地时间9月28日推出一套面向 AI 智能体的软件安全工具 OpenShell，声称具备阻止类似 Hugging Face 遭 AI 攻击等事件的能力。Hugging Face 是全球最大的开源模型托管平台，今年9月被英伟达以129.3亿美元收购。 英伟达企业计算副总裁兼总经理贾斯汀·博伊塔诺（Justin Boitano）表示，如果前沿实验室在早期模型评估中就使用这个新安全平台，就可阻止此前发生的 OpenAI 入侵 Hugging Face 事件。 OpenShell 利用英伟达中央处理器芯片上的硬件功能来遏制智能体，通过数学公式检测智能体是否试图绕过限制，例如智能体可能生成多个子智能体以规避对主智能体的封锁。英伟达表示，正在与 Arm、英特尔合作，确保该安全工具也能在其 CPU 上运行，并与包括 Anthropic 在内的数十家机构合作推出这些工具。 AI 智能体的风险早已超出"说错话"的范畴。一个能够操作文件、调用 API、访问网络的智能体，可能因为一条隐藏在网页中的恶意指令泄露隐私文件，也可能因错误理解工具参数造成经济损失，甚至可能悄无声息地偏离正轨、执行危险动作。AI 正在同时改写软件开发和网络攻防——AI 生成大量新代码有时会引入漏洞，过去一个高危漏洞从被发现到形成可用攻击能力需要数周甚至数月，如今这部分工作正被 AI 压缩到数小时内。 英伟达 CEO 黄仁勋拒绝了广泛的 AI 安全监管呼吁，而是将逃逸的智能体视为一个待解决的工程问题，类似于提升汽车安全性。 但 AI 安全专家对此持不同看法。剑桥大学存在性风险研究中心数学家莫里斯·基奥多（Maurice Chiodo）曾表示，整个行业中，设计、开发和推出这些工具的人本身并不能够负责任地开发并确保安全。令他更加担忧的是，有迹象表明 OpenAI 和 Anthropic 在智能体失控时都未进行监控。 美国两大 AI 实验室 OpenAI 和 Anthropic 近期被曝出多起 AI 安全事件。7月，O