<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>评测方法 on CAO ZUOHUA</title><link>https://caozuohua.github.io/tags/%E8%AF%84%E6%B5%8B%E6%96%B9%E6%B3%95/</link><description>Recent content in 评测方法 on CAO ZUOHUA</description><generator>Hugo</generator><language>zh-cn</language><lastBuildDate>Fri, 18 Sep 2026 00:00:00 +0000</lastBuildDate><atom:link href="https://caozuohua.github.io/tags/%E8%AF%84%E6%B5%8B%E6%96%B9%E6%B3%95/index.xml" rel="self" type="application/rss+xml"/><item><title>别急着问哪个 Agent 框架最好：先把比较问题定义对</title><link>https://caozuohua.github.io/posts/2026-09-18-agent-framework-evaluation-1-define-the-question/</link><pubDate>Fri, 18 Sep 2026 00:00:00 +0000</pubDate><guid>https://caozuohua.github.io/posts/2026-09-18-agent-framework-evaluation-1-define-the-question/</guid><description>&lt;p&gt;这是 &lt;a href="https://caozuohua.github.io/posts/2026-09-18-agent-framework-evaluation-series/"&gt;Agent 框架评测实验室系列&lt;/a&gt;第一篇。&lt;/p&gt;&#10;&lt;h2 id="框架强弱不是一个单变量"&gt;“框架强弱”不是一个单变量&lt;/h2&gt;&#10;&lt;p&gt;比较两个 Agent 框架时，最容易犯的错误是：给它们各写一套最顺手的 prompt 和工具包装，跑一次，然后按最终答案打分。这样同时改变了框架、提示词、工具协议、错误恢复和输出解析，最后根本不知道分数差异来自哪里。&lt;/p&gt;&#10;&lt;p&gt;真正可回答的问题应该写成：&lt;/p&gt;&#10;&lt;blockquote&gt;&#10;&lt;p&gt;在指定企业任务、风险策略、运行环境、模型、工具和成本口径下，哪个框架更适合，弱点在哪里，证据是什么？&lt;/p&gt;&#10;&lt;/blockquote&gt;&#10;&lt;p&gt;每轮实验只能有一个主要变量。测框架，就冻结任务、prompt、工具、模型、provider、temperature、token limit、价格、执行顺序和评分策略；测模型，就冻结框架；测 prompt，也不要同时升级工具。&lt;/p&gt;&#10;&lt;h2 id="公平与原生能力之间的矛盾"&gt;公平与原生能力之间的矛盾&lt;/h2&gt;&#10;&lt;p&gt;统一输入可以保证公平，但统一适配层也可能抹掉框架特长。例如把所有框架都压成一个普通 ReAct 循环，就测不出 LangGraph 的图状态与恢复，也测不出 OpenAI Agents 的 handoff 和原生 lifecycle。&lt;/p&gt;&#10;&lt;p&gt;Lab 因此采用两条赛道。&lt;/p&gt;&#10;&lt;h3 id="受控公共赛道"&gt;受控公共赛道&lt;/h3&gt;&#10;&lt;p&gt;每个框架拿到同一份版本化任务、prompt、工具、模型和输出契约。它测的是：&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;工具协议是否稳定；&lt;/li&gt;&#10;&lt;li&gt;最终任务是否完成；&lt;/li&gt;&#10;&lt;li&gt;token、延迟和调用次数；&lt;/li&gt;&#10;&lt;li&gt;是否越权或违反输出协议；&lt;/li&gt;&#10;&lt;li&gt;同样输入下的失败率。&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;p&gt;它回答“相同条件下谁执行得更好”，但不代表框架能力上限。&lt;/p&gt;&#10;&lt;h3 id="原生上限赛道"&gt;原生上限赛道&lt;/h3&gt;&#10;&lt;p&gt;允许框架使用推荐的 graph、handoff、checkpoint、memory、审批和恢复能力，但业务结果与治理门槛仍相同。新增的代码、依赖、配置和运维复杂度都要记录。&lt;/p&gt;&#10;&lt;p&gt;它回答“按框架原生方式开发，谁更适合这个企业结果”。&lt;/p&gt;&#10;&lt;p&gt;两条赛道不能不加说明地合并成一个榜单。一个框架可能公共赛道非常轻巧，原生赛道缺少持久恢复；另一个可能代码更多，但长流程恢复明显更强。这不是矛盾，而是能力画像。&lt;/p&gt;&#10;&lt;h2 id="先画能力向量再算总分"&gt;先画能力向量，再算总分&lt;/h2&gt;&#10;&lt;p&gt;企业框架至少要从这些维度观察：&lt;/p&gt;&#10;&lt;table&gt;&#10;&#9;&lt;thead&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;维度&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;典型证据&lt;/th&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/thead&gt;&#10;&#9;&lt;tbody&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;任务效果&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;完成率、rubric 分、结构化协议&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;安全治理&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;工具授权、审批绑定、数据边界&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;可靠恢复&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;工具失败、取消、崩溃、重启、幂等&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;可审计性&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;事件无缺口、trace、工件哈希、lineage&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;效率&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;token、成本、模型/工具调用数、p50/p95 延迟&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;可运维性&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;安装、诊断、升级、依赖足迹&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;开发体验&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;类型安全、测试难度、适配器代码量&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;可迁移性&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;对模型、provider、工具协议的耦合&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/tbody&gt;&#10;&lt;/table&gt;&#10;&lt;p&gt;前五项可以主要由运行证据产生；可运维性和开发体验通常需要版本化人工 rubric。二者必须分开标注，不能把主观评分伪装成遥测数据。&lt;/p&gt;&#10;&lt;h2 id="公平执行还要处理时间偏差"&gt;公平执行还要处理时间偏差&lt;/h2&gt;&#10;&lt;p&gt;如果先把框架 A 的 30 次全部跑完，再跑框架 B，模型网关的负载、限流和模型版本可能已经变化。正确顺序是交错：&lt;/p&gt;</description></item></channel></rss>