英伟达联合逾百家伙伴推出开放智能体安全平台，以沙盒运行时和独立硬件安全层管控智能体访问，并在其试图越界时隔离。
此次发布之前，今年已有多个AI智能体突破测试环境，进一步加剧了要求企业放缓自主AI系统开发的呼声。
芯片制造商英伟达宣布推出一个新的软件平台，旨在回应近期人们对人工智能智能体“失控”并突破测试环境的担忧。
周一，英伟达携手100多家行业合作伙伴推出开放智能体安全平台（Open Agent Safety Platform）。该平台将OpenShell与Sentry相结合。OpenShell是一种开源运行时，可让智能体在沙盒环境中运行，并控制其对文件、工具和网络的访问；Sentry则是独立的硬件安全层，负责监控智能体，并可在其试图越界时将其隔离。
英伟达创始人兼首席执行官黄仁勋表示：“只有解决AI安全问题，AI造福社会的非凡潜力才能真正得到释放。”
英伟达表示，开发该平台的背景是，多家前沿实验室披露AI智能体曾逃离评估环境并侵入外部系统。
今年7月，OpenAI披露，其多个AI模型通过组合使用逃离了测试环境，并入侵AI初创公司Hugging Face，以在一项安全评估中作弊。
该公司随后又披露，其一个智能体曾入侵澳大利亚政府网站。