一次交流里,我卡在一句看似简单的话上:“我知道 Agent 的体感边界,但是不知道 Agent 具体的定义怎么样说。”
我能判断一个固定路径的 workflow 不太像 Agent,也能看出一个会根据工具结果改计划、必要时暂停或移交的系统更像 Agent。可当对方等我给出一句没有漏洞的定义时,我发现脑中的东西不是一句话。它更像许多正例、反例、相邻概念和行动后果叠出来的判别器。
这两种能力原来可以分开:我会辨认,却还不会把辨认依据完整地交给另一个人。前者只需在新案例出现时给出判断,后者必须说明哪些差别重要、为什么重要,以及这个判断将改变什么。那一刻暴露的是私人理解还没有公共接口,并非 Agent 知识量不够。
这次卡顿发生在我已经长期使用 AI 之后,反而更值得警惕。AI 读过前文,保留了大量上下文,常常能接住我没有说完的跳跃;普通交流者没有这些背景。AI 能继续生成,不代表我的表达已经可以协作。一个只在我和 AI 之间运行顺畅的概念,仍然可能是私人语言。
过去我很容易把这种顺畅当作“已经想清楚”:我丢出半句话,AI 补齐几个候选模型,我再指出哪个更像。整个过程可以继续向前,却跳过了最费力的一步——把我否掉其他候选的理由暴露出来。没有这一步,另一位参与者只能看到结论,无法复现我的判断。
我真正缺的不是另一句更权威的定义,而是把私人判别器编译成公共语言的能力:别人能够质疑它,团队能够据此做决定,系统能够按它执行,结果也能够证明它错。
我先拥有私人判别器,公共定义还没有
Anthropic 在讨论 Agent 的工程实践时,把 workflow 和 agent 作了一个有用的区分:前者沿着预先写好的代码路径编排模型与工具,后者让模型动态决定过程和工具使用。这条区分 能帮助人做架构选择,却没有结束所有定义争论,也不需要承担这个任务。
它至少逼我把“像不像”拆开:我在意的是路径由谁决定,中间结果会不会改变下一步,以及系统何时把控制权交回来。体感到了这里,才成为别人可以追问的主张。否则,“我就是觉得它像 Agent”和一个未经检验的偏见没有区别。
定义争论最容易忽略的,是定义本身也有任务。有人要决定产品能否承诺“交付目标即可完成任务”,有人要选择控制流,有人要审查生产权限,还有人要设计测试。四种讨论可以共享 Agent 这个词,却没有理由共享完全相同的信息密度。先问定义将控制什么,比先争哪一句最完整更接近问题。
如果当前只讨论一般工程架构,我可以先冻结一个版本:
Agent 是一个由模型根据目标和中间反馈决定后续路径、调用工具,并在完成、受阻或触发边界时停止或移交的系统。
这是一份工作定义。它服务于眼前的讨论,写明了我暂时关心的语义核心,却省略了状态能保持多久、可以影响什么环境、拥有多少权限。换成产品承诺、安全审查或评测设计,它就必须继续变化。工作定义的价值不在于宣称终极正确,而在于让同一轮协作不再随论证需要漂移。
“暂时”不意味着可以任意改口。一旦进入协作,这个版本就要带着作用域被冻结:这轮会议谈什么,不谈什么;哪一种案例算反例;出现什么证据时重新打开定义。它是一份可以修订的约定,不是一张免于承诺的通行证。
那次交流里还有另一句卡顿:“我会经验和知识区分,对方会觉得经验和知识的关系。”
现在看,我们给两个词的答案或许并不相反,回答的问题却不同。我关心它们在认识过程中承担什么功能,对方关心的可能是包含、来源或相互关系。继续各自补定义不会自动消除错位;更有效的问题是:这次区分要改变什么判断?只要行动焦点没有说清,词典越厚,公共语境也未必出现。
如果目的是整理知识系统,“经验何时形成能够指导下一次行动的判断”可能最重要;如果目的是讨论认识来源,“知识是否必须来自亲历”才是中心。原词没有变化,坐标轴和后果已经不同。这个小插曲让我意识到,公共定义首先要对齐句子准备参与的那一次行动,句子本身排在后面。
定义要经过行动,才知道它是不是理解
我现在只保留一条检查概念的路径:
私人判别器
↓ 用正反例暴露区分轴
有作用域的工作定义
↓ 写入权限、停止、成功与失败
可执行的协作契约
↓ 行动结果
修正判别器与定义
第一步先让体感暴露在反例前,暂时不美化它。我要拿出确定的正例、反例和灰区,指出哪一个差别改变了判断。关系、上下游和颗粒度都在这里发挥作用,但它们只是展开材料,还不能代替决定。
相邻概念的作用也在这里:chatbot、workflow、automation 不是一张术语关系图上的装饰,它们帮助我找到真正改变决定的差别。一个固定路径的系统即使调用很多工具,也可能仍适合用 workflow 的风险模型;一个能改路径的系统即使只运行几步,也可能已经需要额外的停止与移交设计。关系只有落实到后果,才不只是更复杂的命名。
接下来要做压缩。团队不可能把我脑中的全部关系一起加载,只能为当前任务冻结一份口径。参与者越多、自动化越深、行动越难撤回、失败代价越高,这份口径就越要靠近权限、阈值、验收和停止条件。定义不是越精确越好;它需要精确到足以承担眼前后果。
探索一个新产品时,“更像 Agent”或许已经够用,因为判断错了还能继续收集案例。一旦这个词开始决定谁能修改数据、是否可以无人值守、出错后由谁负责,同样的模糊就不再便宜。定义精度来自行动风险留下的账单,并非写作者的审美偏好。
假设一个客服系统遇到退款失败后继续重试。我最初可能只觉得它“过于自主”。这个感觉没有告诉工程师该改什么,也没有告诉安全负责人哪里越界。
把判别器展开后,真正相关的差别落在权限和人类介入。当前工作定义可以压成:“低于指定额度的退款失败后,系统最多自动重试一次。”再往下写,协作契约还要说明:第二次失败必须停止,保留过程证据,并把控制权交给人工。
此时,不同角色终于能围绕同一个对象工作。产品可以判断这条规则是否兑现用户承诺,工程可以实现重试计数与移交,安全可以审查额度和权限,评测可以构造第一次、第二次失败的任务。原来那句“过于自主”没有消失,它被拆成了各方都能检查的边界。
到了这一步,“过于自主”不再是形容词。系统是否多重试了一次,是否保存证据,是否按时移交,都可以被观察,也都可能失败。Anthropic 的 Agent eval 指南强调区分任务、重复试验、grader、执行轨迹和最终环境状态,并提醒不能只相信 Agent 对完成情况的自述。评测要检查外部结果,也要保留过程证据 ;这正是工作定义从句子进入现实的地方。
这里的 eval 不是给概念盖章。它只是把当前最重要的语义压成可以失败的测试。它会损失我脑中更多关于 Agent 的关系,但换来一种公共能力:参与者可以看到失败发生在哪里,并据此争论规则,而不是猜测彼此的体感。
如果新的失败表明“一次重试”仍会造成无法接受的后果,定义就要退回去修改。如果它在大量灰区里无法指导决定,我的原始区分轴也可能选错了。所谓可逆,要求行动拥有改写概念的权力,不能靠词义永远模糊来维持。
多维理解最终仍要接受二元裁决
把 Agent 拆成路径自主性、环境作用力、状态、权限和人类介入等维度,确实比争夺一个脱离场景的标签保留了更多信息。同一个系统可以在某根轴上很强,在另一根轴上很弱。这能解释灰区,也能避免只凭“调用了工具”就匆忙归类。
可是,多维画像只是判断的材料。工程现场仍要回答:这次退款能不能自动重试,这个系统能不能读取生产数据,这次结果能不能算通过。拒绝画线不会让风险消失,只会把决定和责任藏起来。
这也是我对“关系感”和“颗粒度”的限制。如果我每次都说“要看不同维度”,却不肯指出这次由哪根轴决定、在哪里停止,多维框架就成了逃避承诺的漂亮方式。一次二元裁决不会永久抹掉复杂性;它只是把当前选择公开,等待反馈来修订。
如果要检查一份 Agent 理解能否支持协作,我会把它放进一次具体语境:先看正反例和区分轴,再拿掉一个条件,观察结论是否改变;接着追问这个反事实会改变哪项产品或工程决策,并要求判断能从用户语言下沉到权限、停止与 eval,也能从失败结果返回定义。这里检验的是参与者在这次语境中拿出的模型——它能否说明决策后果、完成跨颗粒度翻译并保留改判条件;这不代表一个人的智力、人格或整体价值。
长期与 AI 共事,会积累公共表达债务
我的许多 AI 对话从模糊体感开始。AI 给出名称、分类和候选解释,我用“这像不像我的真实判断”筛掉一部分,再把留下的结构推得更完整。它既像外部工作记忆,也像概念编译器。
这种配合很适合探索。候选解释生成得足够快,我可以把注意力放在差异上:哪一句过度概括,哪一个例外被吞掉,哪一种结构虽然漂亮却不像我的实际判断。AI 帮我扩展搜索空间,我负责暂时裁决。问题是,这种裁决经常仍以“像”或“不像”结束,没有自动变成别人可见的标准。
我公开写过一个候选主命题:“围绕一个问题做工程:让上下文在工具切换之间不丢失。”在“Context 不是 Prompt” 里,我讨论怎样让正确的信息在正确时刻进入模型。现在我意识到,人与人的协作也有同样的问题:对方没有加载我与 AI 已经共享的历史,不能从半句话自动恢复我的边界、例外和价值取舍。
共享上下文会降低一次对话的解释成本,却也可能掩盖语义只在局部成立。AI 知道我过去如何使用“知识”“上下文”和“Agent”,会替我补全省略;第一次参与讨论的人只能依据眼前这句话。若一个判断离开私人上下文就失效,它还不足以成为公共接口。
这会产生一笔容易被忽略的公共表达债务。AI 越能接住我,我越可能高估自己已经说清楚;私人语义系统越精密,外部的人越难加载。沟通错位不能都归因于对方“不够深”,其中一部分责任属于我:我还没有交付一份别人可以反驳和使用的工作定义。
AI 的流畅还会制造完成感。一个概念刚被命名、画出箭头、排成几层,我就可能误以为自己已经想明白。可是自洽不等于真实,框架也不会替我承担一次错误重试。AI 生成候选模型的速度,完全可能超过人的裁决、公共协商和现实验证。
我当前的判断是,AI 时代可能会让定义以另一种方式重新变重。生成一句定义已经很便宜,但在我关注的自动化系统里,含糊的词会被放大成行动。过去一句“适当时重试”可能只造成会议里的误会;交给系统后,它会变成重试次数、金额范围、数据权限和人工确认点。至少在这类工程中,我看到定义正在从文章里的句子迁入接口与规则;这仍是一项需要更多实践检验的趋势判断。
所以我不把这种转换能力划为人类永久领地。AI 已经能够生成定义、rubric 和反例,未来也可能更可靠地选择颗粒度、设计 eval、吸收失败反馈。这里真正约束我的只是当下的结果:无论候选解释来自人还是 AI,只要它不能改变决定、不能暴露失败、不能被别人加载,它就还没有进入公共世界。
这套判断也应该允许被推翻。若这些转换长期没有提高协作质量,或者固定口径比反复编译更能预测陌生任务中的结果,我就应该降低对它的评价。把概念变复杂不算能力;能否减少错位、暴露风险并更快改判,才是它需要交付的证据。
概念是共享后果
回到开头,我仍然说不出 Agent 的终极定义。下一次交流里,我也不需要先解决本体论,才有资格继续讨论。
但我需要说清这次为什么使用这个词,哪几个正反例构成边界,当前定义控制什么决定,什么结果会迫使我改口。若它要进入自动执行,我还要把这条边界写成权限、停止、移交和失败证据。
这样做不会让分歧消失。它只是把分歧从“你到底懂不懂”移到可处理的位置:我们选错了区分轴,作用域没有写清,失败标准不够,还是新的现实已经让旧版本失效。争论不再需要猜测对方脑中的全部模型,而可以从一份公开对象继续。
一个概念真正进入公共世界,不是因为所有人背出了同一句话,而是因为大家知道谁能做什么、何时必须停、什么算失败、什么结果会迫使我们改口。概念到了这里,不再只是共享语言。
概念是共享后果。
参考资料
- Building effective agents — Anthropic
- Demystifying evals for AI agents — Anthropic





读者回响