AI 编辑审核人工智能
Agent 安全在耦合通用计算设备时不可判定
arXiv — cs.AI · Mario Franco, Carlos Gershenson · Readzer 发布时间
摘要
一篇新的 arXiv 论文(2611.25325)表明,将固定语言模型与通用计算设备耦合会使 Agent 安全不可判定:没有算法能预测 Agent 是否会运行语义等价的危险程序。在有限约束(有界上下文、值、运行时间)下,安全可判定但为 PSPACE 完全问题,且安全不具备组合性——单独安全的 Agent 在群体中可能产生不安全行为。作者讨论了实践中可用的放宽安全概念。
这里提供经过审核的摘要。完整内容请前往原文阅读。
载入阅读状态…
各行业推荐理由
- 人工智能
该结果直接影响 AI Agent 的部署与安全验证,涉及模型和 Agent 子主题,揭示了护栏和认证的根本局限。