Home > Experience > Article

同样用一个模型,为什么有的厂商的 agent 更好用?

2026-11-01  ·  Views: 365

同一个模型、同样的预算,半年后两家厂商的 agent 差距却越拉越大。文章借 LangChain 创始人 Harrison 的分享拆开 harness 这一层:工具、治理、上下文与基础设施,解释为什么管得住比选对模型更决定成败。

假设有两家企业,用的是同一个大模型,同一天接入,花的钱也差不多。半年以后,一家的 agent(能自己调用工具、自己完成任务的 AI)每天在生产环境里干活,另一家的还停在演示阶段,一碰到真实用户就出错。

差别出在哪里,LangChain 的联合创始人兼 CEO Harrison Chase 在伦敦的 Interrupt 大会开场时,用一整场的Time回答了这个难题。他的答案很直接:模型只是中间那一块,让 agent 真正管用的,是围在它外面的整个操作系统。这个系统里装的是你自己的行业知识,所以他觉得每家厂商都应该把它握在自己手里,也就是他反复强调的 own your intelligence。

下面我顺着这topics线,把他讲的信息重新理了一遍:为什么要拥有,拥有的到底是什么,怎样才算拥有,以及 LangChain 为此做了哪些东西。

同一个模型,agent 有的能上线有的不能,差别在模型外面

先看这几年是怎么走过来的。2023 年 LangChain 刚起步,大家做的是 agent 原型,什么都新,什么都在试。2024 年,应用开始上线,但都比较简单,一次模型调用,几次调用串起来,或者一个聊天机器人。2025 年,人们才第一次认真探索 agent。到了今年,agent 在App层真正活了过来,各个垂直行业都有人在做。

这些 agent 有一个共同点。中间当然是大模型(LLM),可让它们能用的,是模型周围的那一圈东西,包括技能、工具、上下文、各种控制和治理。Harrison 举了三家企业。monday.com 搭了一套靠测评(eval,用来衡量 agent 答得好不好)不断反馈的循环,一点点把 agent 改好。Harvey 针对专门的任务微调模型,所以它靠的也不只是模型,还有一整套微调的体系。Orange 做了一个专用的 harness(包在模型外面的运行框架,决定模型能用什么工具、按什么规则干活),里面带着治理。

这三个例子放在一起,我看到的是同一件事:换成哪个模型,在它们的故事里都不是重点。每家机构都在模型外面加了自己才有的东西,有的是评测标准,有的是微调数据,有的是Scopes规则。这些东西别人拿不走,也抄不来,因为它们来自公司对自己业务的了解。既然差别出在这一层,接下来的问题就是,这一层应该归谁。

拥有自己的智能化,是把General模型变成自己行业的专家

Harrison 对 own your intelligence 的解释很具体。你拿到一个General的模型,围着它搭一套系统,让它在你熟悉的领域里真的好用。这个从General变成专用的过程,就是专业化,发生在三个地方:模型层、harness 层、上下文层。把这三层的专业化握在自己手里,在他看来就是拥有自己的智能。

他看到三个风向在推着大家往这个方向走。第一是开销。AI 工具被用得越来越多,费用跟着涨,如果整个 agent 系统不在自己的控制之下,费用很容易GA控。第二是开放模型越来越多,NVIDIA、Kimi、DeepSeek 都放出了性能不错的开放权重模型,用起来更便宜,还可以在上面继续训练,让它更专。第三是数字的作用,他看来这是最大的推动力:你带来的统计结果、上下文和知识,决定了一个垂直商品和直接去用 ChatGPT 或 Claude 有什么不同。

我看来这里最容易被误会的,是“拥有”两个字。听上去像是每家企业都要自己训练一个模型,其实不是。Harrison 讲的拥有,是你能决定用哪个模型、规则怎么执行、哪些知识放GF去,而且这些决定不会被某一家供应商限制住。训练模型只是其中一种做法,More厂商真正拥有的,是自己那一套实测标准和工作方式。这样想,门槛就没有那么高了,也更接近他的判断:每家厂商都应该做到。

那具体怎样才算拥有,他给了三topics标准。

怎样才算真正拥有,要同时做到开放、会积累、管得住

第一topics是开放,对象有三样:模型、harness 和上下文。模型开放,指的不只是用开放权重的模型,更是可以自由选择,哪个最好、最快、最便宜、最适合你的领域,就用哪个。harness 要开放,也要能控制,因为让General模型按你的方式做事,靠的就是在 harness 里设规则,如果它调不动,这些规则就设不GF去,开源是做到可控的一个好办法。上下文可以来自任何地方,已有的数字源、各种Endpoint、慢慢攒下来的记忆,harness 要能接得上所有这些Source。

第二topics是会积累。第一版 agent 做出来不难,但它几乎不可能直接面对几百万客户。所以 agent 的能力要随着时段越变越强,可以靠人用观测工具发现状况再去改,也可以靠记忆让它自己攒经验。第三topics是管得住,这对厂商内部的 agent 尤其关键:它代表谁在做事,每跑一次花多少钱,现在到底发生了什么,这些都得有答案。Harrison 认为 agent 会大幅改变企业的运转方式,正因为如此,治理必须跟上。

这三topics里,我觉得最容易被低估的是第二topics。开放和治理,都是搭好一次就能立住的结构,会积累却是一个持续的过程,需要有人每天去看、去改。至于这个过程要怎么组织,他接下来讲到了人、流程和技术三件事。

做这件事要人、流程和技术手段一起动,最关键的是转得快的循环

想让公司往这个方向走,没有哪一件事能单独做成。先说人,他认为需要三圈人。最里面是核心的生成式 AI Draw台团队,他们是 agent 专家,Loss责把工艺搭起来,也常常定好流程给其他人用。中间是各个业务部门的 agent 工程师,把这些技术手段手段落到具体的场景里。最外面是不写代码的人。Harrison 特别强调这一圈,因为在一个领域里什么叫做得好,什么叫做得不好,往往是他们最清楚。

流程的核心是迭代。班底做出一个版本,很快测试,很快发给一小批用户,盯着它的表现,再把学到的东西带回去改。他把这个反复转起来的循环叫 flywheel(飞轮),并且觉得交付 agent 做得最好的队伍,都是把这个循环转得最快的。技术则分成三层:运行时,也就是怎么搭建、怎么部署 agent; 观测与评测,让你看见 agent 在做什么、做得好不好; 以及最近新加的一层,智能化,让 agent 帮着做一部分原本要人来做的改GF工作。

这个分法有一个好处,它把“谁来做”和“做什么”对上了。领域专家定义好坏,工程师把好坏写成代码,Draw台团队保证底下稳。LangChain 在这三层技术上各做了什么,我先从最底下的运行时说起。

agent 要从自己的电脑搬到云端,运行这一层得有人替你搭好

Harrison 把一个 agent 看成三层叠起来:最上面是业务逻辑,中间是 harness,最下面是基础设施。业务逻辑包括指令、工具、技能,还有用来修改 harness 的钩子,这是 LangChain 永远给不了的,只有懂行的人才写得出来。harness 则是模型周围所有把它接到外部统计结果、计算、上下文和业务逻辑上的东西。

This article is published by News for reference only.
123
Loading comments…

LinksApply

Alliance Network53