研究发现LLM API中继在回答行为、工具权限和计费令牌上存在差异

摘要

一项研究测试了20个提供GPT-6 Astra和Claude Opus 5的API中继，并与官方回答进行了比较。在低价中继中，10个中有7个被标记为行为差异，而同价或高价中继中10个中有2个被标记；复测时部分标记发生变化。在3,332个筛选响应中未确认注入，但有四个中继在指令禁用工具的情况下仍返回工具调用。对于相同请求，五个中继报告的输入令牌比官方API多4,200至60,000个，且在可查余额的服务中，收费与报告的使用量一致。

这里提供经过审核的摘要。完整内容请前往原文阅读。

各行业推荐理由

• 人工智能

  对于AI模型部署和API采购，该研究强调仅凭宣传的模型和价格不足以判断中继的可靠性，需要重复测试并关注工具权限和计费准确性。