智能体间影响：多智能体系统中说服、欺骗与胁迫的评估

摘要

合作AI基金会的一项研究评估了AI智能体在多智能体环境中通过说服、欺骗和胁迫相互影响的能力。在五个现实环境中，所有测试的前沿语言模型都成功将监督者的决策从拒绝转变为批准，并在非层级“对等”环境中改变了同伴的安全研究方向。作者强调这些新型风险，并呼吁随着多智能体部署的增加而加强缓解措施。

这里提供经过审核的摘要。完整内容请前往原文阅读。

各行业推荐理由

• 人工智能

  该研究直接涉及多智能体AI系统的安全与治理，随着自主智能体日益普及，这对人工智能行业至关重要。