核心先给结论
“模型即Agent”:把Agent能力内化到大模型本身,模型原生会做规划、选工具、判断是否调用、校验结果,工具调用决策权从框架下沉到模型; Harness(测控/评估/约束工程,不是简单脚手架)的价值上涨:不是和模型自主权互斥,而是模型自主决策的“护栏、测评闭环、可信运行底座”; 二者共存关系一句话:模型负责“自主想出做什么、怎么调工具”,Harness负责“保证它这么做是安全、可观测、可收敛、可迭代的”; Agent框架未来不再是“帮模型写prompt、拼调用链的编排器”,核心价值转向:可信管控、评估闭环、环境抽象、状态与记忆治理、故障自治。
下面分层拆解,再讲演进路线。
一、为什么两个趋势不但不冲突,反而互为前提?
先澄清一个很常见的误解: 很多人以为“模型即Agent”= 干掉Agent框架、干掉中间层,模型自己直接调用工具,框架就没用了。这个理解混淆了决策层和执行/管控层。
1. 决策层:自主权交给模型
传统Agent范式(ReAct、LangChain早期): 框架是大脑:框架写死工具描述、路由规则、循环次数、退出条件;模型只是一个“输出Action字符串的生成器”。 工具调用逻辑是框架驱动:框架判断要不要继续、要不要重试、选哪个工具。
模型即Agent范式: 模型本身理解任务、理解工具能力、理解当前上下文,自主决定:
- 是否需要调用工具
- 调用哪个、参数怎么填
- 拿到结果后要不要继续查、要不要换工具、要不要直接回答
- 识别工具返回异常、歧义、信息不足 框架不再做业务决策,不再硬编码分支判断。决策权内收进模型。
这一层,框架从“决策编排者”退位。
2. Harness工程是“自主能力的代价对冲”
模型自主,会带来一堆新问题,恰恰是Harness要解决的:
- 不可控发散:自主规划容易无限循环、过度调用工具、跑偏到无关子问题;模型不知道资源配额、超时、成本上限。
- 不可观测:自主思考链路是隐式的,你看不到它为什么选这个工具、为什么放弃另一个;出问题没法定位是模型推理问题、工具返回脏数据、还是提示词歧义。
- 不可评估:同样一个任务,模型每次自主选择的工具路径不一样;样本不稳定,你没法量化优化、回归测试。
- 安全与权限风险:模型自主选择工具,意味着它有机会试探、越权调用敏感工具、构造恶意参数;自主越强,攻击面越大。
- 环境异构:企业里工具五花八门(数据库、内部API、ERP、MES、云接口),鉴权、限流、数据格式、错误规范各不相同,模型原生不可能全部理解。
Harness本质不是去抢模型的决策权,而是给自主决策套上一套可配置的运行边界、观测探针、校验回路、失败兜底。
共存模型可以这样分层(自顶向下):
用户任务
└── 原生Agent大模型(决策层:自主规划、工具选择、参数生成、结果判断)
├── 能力契约:模型知道Harness暴露哪些工具、约束是什么(约束作为上下文输入给模型)
└── Harness底座(执行&管控层,框架核心)
├── 工具网关、鉴权、限流、配额、超时熔断
├── 参数Schema校验、输入输出净化、敏感数据拦截
├── 轨迹埋点、全链路Trace、思考日志持久化
├── 结果校验器、断言、回滚机制、fallback兜底
├── 评估数据集、回归测试、红蓝对抗、指标看板
└── 环境抽象层:统一不同工具的错误语义、状态协议
关系总结:
- 没有Harness的“模型即Agent”:自主=失控,只能在玩具Demo跑,无法上生产;
- 没有模型自主决策的Harness:只是一套死板的工作流编排系统,就是传统BPM/低代码,没有Agent智能性;
- 趋势是:决策逻辑持续往模型迁移,但是约束、观测、评估、隔离、资源治理持续留在Harness,并且复杂度持续上升。
二、Harness到底在持续增重哪些工作?
很多人把Harness简单理解成评测脚本,在Agent语境下它范围更广:
- 运行时护栏(Runtime Guardrail) 不是硬拦截所有危险调用,而是把约束变成模型可以感知的规则(软约束)+ 底层强拦截(硬约束)。比如最大工具轮次、单任务成本上限、禁止访问某些资源、返回结果合规校验。模型自主,但在边界内自主。
- 轨迹标准化
模型每次自主路径不一样,Harness统一把
Thought / Action / ToolInput / ToolOutput / Observation结构化落盘;不管是哪个模型、哪个Agent版本,评估和排查用同一套格式。这是持续迭代的基础。 - 异构工具的语义适配层 内部工具返回码千奇百怪,有的报错是“-1”,有的返回自然语言异常;Harness做统一错误语义翻译,给模型稳定的反馈信号。模型只需要理解一套标准的“失败/超时/权限不足/结果为空”,而不是适配每个下游系统。
- 评估闭环(Evaluation as a Service)
因为路径非确定性,不能只看最终答案对错;要评估:工具选择合理性、调用次数效率、成本、是否规避幻觉、是否正确识别工具失败。Harness要支持批量回归、A/B测试、困难样本收集、SFT/RL数据回流。
模型越自主,评估越不能只看最终结果,必须看行为路径质量,这部分工作量是指数上涨的。
- 故障自治兜底 模型判断错的时候(比如参数写错、工具返回垃圾还信了),Harness提供独立校验层:数值校验、业务规则校验、hash/权限校验;兜底策略可以由框架触发,而不是依赖模型自己意识到错了。
一句话:Harness负责把“模型自主这种不确定行为”,转化成工程上可规模化交付的系统。
三、在“模型即Agent”浪潮下,Agent框架未来的核心价值
传统Agent框架(LangChain、LlamaIndex这类早期形态)的核心卖点:提示词模板、工具封装、ReAct循环、链式编排。这部分价值会持续贬值,逐步被模型原生Agent能力吃掉。
未来框架的核心价值,集中在5个方向:
1. 可信运行平面:权限、隔离、边界治理(最高优先级)
企业Agent最大痛点不是“能不能调用工具”,而是谁允许它调用什么、在什么上下文、能看到哪些数据。 框架不再是编排器,而是Agent的身份与权限代理层:细粒度工具权限、数据隔离、会话沙箱、临时凭证、最小权限、审计日志。 模型只拿到它有权看到的工具描述;它自主选择,但可选集合由框架管控。
2. 标准化状态、记忆与上下文生命周期治理
Agent自主长任务,天然面临状态爆炸、记忆污染、上下文窗口浪费、记忆漂移。 模型原生很难自己做好长期记忆的增删改查、记忆时效性、记忆可信度打分、跨会话隔离。 框架负责:短期上下文窗口管理、分层记忆(工作记忆/长期记忆/事实库)、记忆衰减、记忆冲突校验、状态持久化与恢复。
哪怕模型会自己规划,“记住什么、忘掉什么、什么时候加载哪段记忆”依然是系统级问题,不是生成问题。
3. 统一抽象层:抹平模型、工具、环境差异
以后会有大量原生Agent能力的模型,各家Agent协议不一样(OpenAI function calling、Anthropic tool use、自研模型原生Agent输出格式);内部工具生态又持续膨胀。 框架价值是做中间抽象:
- 一套工具描述协议,可以喂给不同原生Agent模型;
- 一套观测、校验、评估代码,不用跟着每个模型的输出格式重写;
- 支持随时替换底层模型,而不用重写全部Agent业务逻辑。 这是企业最看重的资产:业务逻辑和底座模型解耦。
4. 评估与优化闭环:数据飞轮底座
框架变成一个“生成行为-采集轨迹-标注评估-筛选样本-回流微调”的流水线。 重点不是评测几个case,而是持续收集模型自主决策的失败样本:选错工具、过度调用、误解工具返回、无法识别异常。这些是优化原生Agent模型最核心的数据。 未来Agent团队的核心资产,不是prompt库,而是高质量Agent轨迹数据集和评估套件,托管在框架Harness里面。
5. 复杂多智能体协同与资源调度
单Agent模型自主化之后,下一个复杂度来自多Agent:任务拆分、角色分工、资源抢占、冲突协商、结果合并。 单模型可以管好自己的工具调用,但跨Agent通信、角色契约、全局资源配额、冲突仲裁,依然是框架层面的系统问题,很难内化进单个基础大模型。
四、一条清晰的演进路线(方便你对齐判断)
- 阶段1:框架主导Agent(当前大量存量系统) 框架写死ReAct循环、路由、退出条件;模型只负责生成Action。框架强,模型弱。
- 阶段2:模型即Agent + 薄Harness(Demo/ToC轻量场景) 模型原生输出思考+工具调用;框架只做简单转发、参数校验、日志。适合简单任务,生产稳定性弱。
- 阶段3:模型即Agent + 厚Harness(企业生产主流) 模型全权负责工具选择与规划;框架重心转移到权限、隔离、观测、评估、记忆治理、兜底校验。也就是上面说的共存形态。
- 阶段4:Agent能力下沉到基础设施 模型原生Agent能力成为标配;框架产品不再主打“怎么写Agent”,而是主打Agent平台:租户管理、权限市场、工具市场、评估看板、SLA管控。
五、一个容易踩的认知陷阱:不要把“自主权”和“控制权”混在一起
- 决策权:交给模型 → 模型即Agent;
- 控制权:资源、安全、审计、SLA、评估、兜底 → 留在Harness/框架;
模型可以自主选择方案,但企业永远不会把全部控制权交给模型。这就是Harness价值持续上涨的底层商业与安全动因。
注意:本文归作者所有,未经作者允许,不得转载