AI 编辑审核人工智能
口头化内部状态可检测医学大模型中的隐藏操纵
arXiv — cs.AI · Frederik Hauke, Jan Clusmann, Hanna Kreutzer, Christiane Kuhl, Tianyu Han, Felix Barajas Ordonez, Sven Nebelung, Jakob Nikolas Kather, Daniel Truhn · Readzer 发布时间
摘要
一项交叉类型arXiv研究(2611.24994)报告,通过自然语言自编码器将多模态大模型(Gemma-3-27B)的内部激活转化为文本(称为“思维通道”),在全部八种注入条件下,该通道捕获注入攻击的频率显著高于模型回答(p<0.05),且在干净输入上假阳性率接近零。遗漏结果在Llama-3.3-70B上得到复现,该通道在模型决定是否拒绝前即已将不安全临床请求标记为有害,且无需重新训练。
这里提供经过审核的摘要。完整内容请前往原文阅读。
载入阅读状态…
各行业推荐理由
- 人工智能
与AI模型安全性和可解释性相关,尤其在临床应用中,隐藏操纵可能绕过输出层面的防御。