摘要
代理系统是一种能够自主执行多步骤工作流以实现复杂目标的人工智能架构,通常通过重复调用大型语言模型(LLM)来完成封闭集决策任务,如路由、筛选、门控和验证。然而,这种设计由于累积延迟和令牌使用量导致部署缓慢且成本高昂。本文提出TabAgent框架,旨在通过在执行轨迹上训练的紧凑型文本-表格分类器,替代封闭集选择任务中的生成决策组件。TabAgent包含三个主要部分:从轨迹中提取结构化模式、状态和依赖特征(TabSchema),通过模式对齐的合成监督增强覆盖率(TabSynth),以及使用轻量级分类器对候选方案进行评分(TabHead)。在长期AppWorld基准测试中,TabAgent在保持任务成功率的同时消除了筛选阶段的LLM调用,将延迟降低了约95%,推理成本减少了85%-91%。此外,TabAgent还可推广到其他代理决策模块,为生产级代理架构中生成瓶颈的判别式替代提供了一种范式。
AI 推荐理由
论文聚焦于用分类器替代LLM的生成组件,优化Agent技能执行效率,属于技能学习与工具调用的核心研究。
论文信息