在一项对120种AI智能体评估方法的调查中，希伯来大学、IBM和耶鲁大学的研究人员总结了近期趋势，并指出了四种可以改进测试以推动该领域发展的方式。

如果说“有一个应用可以做到”定义了智能手机时代，那么它的现代等价物——“有一个智能体可以做到”——或许可以概括这个时代。

从编程到客户服务，大语言模型（LLM（大语言模型））智能体正在承担越来越复杂的任务，这些任务涉及与真实世界的人和环境的交互。为了实现这一点，智能体正在磨练新的技能组合，从调用外部工具和其他智能体，到通过多步骤问题进行“推理”，以及对中间步骤进行“反思”以最小化错误并适应不断变化的条件。

评估这批新型LLM智能体的基准也在不断演进。为了对这一不断变化的格局有一个鸟瞰式的了解，IBM的研究人员与希伯来大学和耶鲁大学的同事合作，回顾了120个评估LLM智能体的框架。他们在提交给EMNLP会议的一篇新预印本研究中报告了他们的发现。

当今AI和自然语言处理领域的许多革命都可以追溯到严格的标准化基准。没有它们，研究人员将难以衡量进展、比较方法，甚至难以就什么是进展达成一致。

“设计良好的基准不仅仅是给系统排名；它们能突出差距、激发新的研究，有时还能揭示出令人惊讶的失败模式或意外行为，”该研究的合著者、耶鲁大学计算机科学助理教授Arman Cohan说。“对AI智能体进行稳健的评估尤为重要，这样才能在这些系统被广泛部署之前了解它们的能力、可靠性和安全性。”

就像AI智能体本身一样，智能体基准的质量也参差不齐。研究人员开展这项调查，旨在找出智能体和智能体评估可以改进的地方。

“评估可以被看作是一个指南针，”该研究的第一作者、专注于AI评估的IBM研究员Asaf Yehudai说。“如果你的指南针工作正常，它可以带你更快地到达你想去的地方。”

智能体SATs

随着LLM智能体成为AI发展的新焦点，理解它们的能力和局限性变得越来越重要。如今的基准针对的是目前被认为是LLM智能体核心能力的内容。

LLM智能体被期望将复杂问题分解成小块，并生成行动计划。开发者现在可以从PlanBench、MINT和IBM自己的ACPBench等基准中选择，来测试他们智能体的规划和推理能力。

工具调用是另一项基本能力，它使智能体能够执行真实世界的任务。曾经仅根据孤立的API调用来评估智能体的基准，现在已经增加了额外的挑战。伯克利的Gorilla排行榜V3根据智能体处理多步骤和多轮调用的能力进行评分，而IBM的NESTFUL基准引入了隐式、并行和“嵌套”调用，即一个调用的输出作为下一个调用的输入。

“我们的目标是帮助推动更强大、更可靠的自主智能体的发展，”IBM 研究员 Kinjal Basu 表示，他领导了 NESTFUL 背后的团队。

LLM 智能体的第三个标志是能够对来自环境的反馈进行“反思”，从错误中恢复，并在面对新信息时进行调整。微软的 LLF-Bench 衡量智能体在接收反馈以正确完成任务方面的能力。

LLM 智能体日益重要的第四个特征是其长期记忆能力，这可以帮助智能体超越训练数据中的示例，达到对世界更深入、基于经验的理解。通过增强记忆机制来提升能力的 LLM 智能体现在可以在 LoCoMo（“长对话记忆”的缩写）等基准上进行测试。

模拟企业环境

随着越来越多的 LLM 智能体承担专家任务，基准测试正在向更贴近专业人士在现实生活中所面临场景的方向转变。CMU 的 WebArena 中的购物智能体在模拟网络环境中导航以进行购买（IBM 的计算机使用通用智能体（CUGA）继续以 62% 的成功率保持第一）。普林斯顿的 SWE-bench 中的软件工程智能体拆解实际的 GitHub 问题，而在 OpenAI 的 SWE-Lancer 环境中导航的自由职业者则试图最大化实得收入。

客户服务和研究实验室环境也有所体现。Sierra 的 τ-bench 中的零售智能体与模拟客户互动以解决争议，而 OpenAI 的 PaperBench 中的科学智能体则试图复现最先进的 AI 研究，包括开发代码库、理解先前工作如何融入其中，以及执行实验等任务。

一组新兴的基准测试同时考察智能体的多项专家技能。在 OSWorld、AppWorld 和 CRMWorld 等环境中，智能体需要更新电子表格、在不导致系统崩溃的情况下执行代码，并分析月度销售数据。

这些新基准测试比之前的测试难度显著更高。“即使表现最好的智能体得分也低至 5%，”Yehudai 表示。

AI 智能体评估的未来

研究人员指出了四种可以改进评估的方式，以使 AI 智能体更安全、更稳健、性能更优。他们的建议如下：

评估应更加细粒度化。不应狭隘地关注智能体是否得出正确答案，而应更多关注中间步骤，以了解它们是如何得出答案的。正如一些老师只给不展示解题过程的学生部分分数一样，基准测试也应对智能体提出同样的要求。这样，研究人员就能更好地了解智能体仍在哪些方面存在困难。

基准测试应衡量成本效益。普林斯顿的一个团队是最早指出许多最先进智能体过于复杂和昂贵的团队之一。这并不令人意外，因为许多评估将准确性置于成本或效率之上，这可能导致高性能智能体在现实生活中难以甚至无法部署。API（应用程序编程接口） 成本、token 使用量、推理速度和整体资源消耗都应被测量和报告，以创造公平的竞争环境。

更多评估流程应实现自动化，以降低成本并加快审查速度。智能体可以通过“智能体作为评判者”的方法来评估其他智能体，从而减轻人工审查者的负担。IBM 刚刚推出了 EvalAssist，这是一款让使用大语言模型评估其他大语言模型变得更加容易的应用程序。AI 生成的数据也可以在更大程度上用于创建更多样化、更真实的任务场景。

最后，更多基准测试应关注安全性、可信度和政策合规性。其中一个基准测试——Gray Swan AI 的 AgentHarm——试图诱导智能体绕过其防护栏，去做诸如越狱 AI 系统或实施欺诈之类的事情，而 IBM 新推出的 ST-WebAgentBench 则模拟了安全性和可信度尤为关键的高风险业务应用场景。

“好的科学以证据为基础，AI 也不例外，”IBM 杰出工程师、AI 基准测试与评估团队负责人 Michal Shmueli-Scheuer 表示。“这项调查有助于验证我们正朝着正确的方向前进。”

转载声明：本文为转载整理，原文版权归原作者及原站点所有。

原文来源：IBM Research Blog

原创地址：https://research.ibm.com/blog/AI-agent-benchmarks