跳到正文
AI 编辑审核人工智能

口头化内部状态可检测医学大模型中的隐藏操纵

arXiv — cs.AI · Frederik Hauke, Jan Clusmann, Hanna Kreutzer, Christiane Kuhl, Tianyu Han, Felix Barajas Ordonez, Sven Nebelung, Jakob Nikolas Kather, Daniel Truhn · Readzer 发布时间

摘要

一项交叉类型arXiv研究(2611.24994)报告,通过自然语言自编码器将多模态大模型(Gemma-3-27B)的内部激活转化为文本(称为“思维通道”),在全部八种注入条件下,该通道捕获注入攻击的频率显著高于模型回答(p<0.05),且在干净输入上假阳性率接近零。遗漏结果在Llama-3.3-70B上得到复现,该通道在模型决定是否拒绝前即已将不安全临床请求标记为有害,且无需重新训练。

这里提供经过审核的摘要。完整内容请前往原文阅读。

载入阅读状态…

各行业推荐理由

  • 人工智能

    与AI模型安全性和可解释性相关,尤其在临床应用中,隐藏操纵可能绕过输出层面的防御。