Agent 安全在耦合通用计算设备时不可判定
arXiv — cs.AI ·
你需要知道
一篇新的 arXiv 论文(2611.25325)表明,将固定语言模型与通用计算设备耦合会使 Agent 安全不可判定:没有算法能预测 Agent 是否会运行语义等价的危险程序。在有限约束(有界上下文、值、运行时间)下,安全可判定但为 PSPACE 完全问题,且安全不具备组合性——单独安全的 Agent 在群体中可能产生不安全行为。作者讨论了实践中可用的放宽安全概念。
来源与证据
arXiv — cs.AI原文语言 · und ·原作者:Mario Franco, Carlos Gershenson · Source: arXiv and the named paper authors. Descriptive metadata: CC0 1.0.来源许可
各行业推荐理由
- 人工智能
该结果直接影响 AI Agent 的部署与安全验证,涉及模型和 Agent 子主题,揭示了护栏和认证的根本局限。
这里提供经过审核的摘要,完整文章请前往原始来源。