提升环境无关编码智能体:脚手架机制的关键作用
原文网页:https://arxiv.org/html/2610.22289v1
PDF链接:https://arxiv.org/pdf/2610.22289v1
arXiv编号:arXiv:2610.22289v1 [cs.AI]
摘要
更强的大语言模型或许可以自主构建任务所需流程,从而降低开发者提供的脚手架的价值。本文探究脚手架的收益依然存在的内在原因,以及能否在不针对特定环境做工程定制的前提下改进环境无关智能体。本文基于Codex智能体,设计两份仅有微小差异的提示变体,在ARC‑AGI‑3、AGI Maze、Terminal‑Bench三套基准上开展评测;两套变体的代码、提示、通用工具完全不变,仅将环境特有信息作为输入。仅增加一条指令:鼓励智能体报告困难并交还控制权以实现自动续跑,就可以提升ARC‑AGI‑3与AGI Maze上的平均得分,Terminal‑Bench得分变化微弱且方向不一致。即便使用GPT‑5.6‑sol,这套通用智能体性能依旧低于ARC‑AGI‑3的专用参考智能体;该参考智能体只是规定组织方式与控制逻辑,并没有提供新的游戏规则或者解决方案。
为探究该性能差距,本文将重置决策交给脚本控制器,控制器遵循已经告知智能体的约定;这一处微小改动就可以弥补一部分专用智能体带来的性能优势。配套的AGI Maze实验表明,额外的教程体验甚至会造成性能下降。以上结果凸显一个核心区别:拥有信息、工具,和有效使用信息、工具,是两回事。对于本文测试的模型,人工预置流程仍然具备实际价值。性能提升同时会带来更高token开销;本实验无法区分性能增益来自更高效利用信息流程,还是来自推理量的重新分配。
本文开源EnvTraverse评测框架与经过评测的基线智能体,用于进一步研究:在不造成其它环境性能退化的前提下,通过环境无关的改动提升智能体在部分环境中的表现。
关键词
编码智能体;环境无关智能体;脚手架;智能体评测;EnvTraverse;跨环境评估;LLM智能体
目录
- 引言
- 相关工作
- EnvTraverse环境无关框架
- 3.1 交互协议
- 3.2 实现细节
- 实验设计
- 4.1 被测智能体变体
- 4.2 测试环境与评价指标
- 实验结果
- 5.1 Stop‑and‑