Multimodal-SEA：多模态社会工程攻击下的AI智能体安全基准

摘要

研究人员推出交互式基准Multimodal-SEA，包含608个基于真实欺诈案例的专家设计任务，覆盖14个领域和152个攻击场景，并配有准备好的多模态内容。评估七种多模态模型后发现，所有模型均易受攻击，攻击成功率在7.1%至34.5%之间。添加多模态内容使攻击成功率从19.9%升至29.2%，而更强的安全指令虽降低成功率，但并未提升对欺骗性内容的识别能力。

这里提供经过审核的摘要。完整内容请前往原文阅读。

各行业推荐理由

• 人工智能

  该基准直接针对多模态社会工程攻击下AI智能体的安全问题，对于智能体在实际应用中的部署至关重要。