口头化内部状态可检测医学大模型中的隐藏操纵
arXiv — cs.AI ·
你需要知道
一项交叉类型arXiv研究(2611.24994)报告,通过自然语言自编码器将多模态大模型(Gemma-3-27B)的内部激活转化为文本(称为“思维通道”),在全部八种注入条件下,该通道捕获注入攻击的频率显著高于模型回答(p<0.05),且在干净输入上假阳性率接近零。遗漏结果在Llama-3.3-70B上得到复现,该通道在模型决定是否拒绝前即已将不安全临床请求标记为有害,且无需重新训练。
来源与证据
arXiv — cs.AI原文语言 · und ·原作者:Frederik Hauke, Jan Clusmann, Hanna Kreutzer, Christiane Kuhl, Tianyu Han, Felix Barajas Ordonez, Sven Nebelung, Jakob Nikolas Kather, Daniel Truhn · Source: arXiv and the named paper authors. Descriptive metadata: CC0 1.0.来源许可
各行业推荐理由
- 人工智能
与AI模型安全性和可解释性相关,尤其在临床应用中,隐藏操纵可能绕过输出层面的防御。
这里提供经过审核的摘要,完整文章请前往原始来源。