https://caozuohua.github.io/tags/uncertainty/Recent content in Uncertainty on CAO ZUOHUAHugozh-cnWed, 01 Jul 2026 00:00:00 +0000https://caozuohua.github.io/posts/2026-07-01-agent-uncertainty-planning/Wed, 01 Jul 2026 00:00:00 +0000https://caozuohua.github.io/posts/2026-07-01-agent-uncertainty-planning/<h2 id="计划赶不上变化">计划赶不上变化</h2> <p>前面五篇文章讨论的问题都有相对明确的对策——幻觉可以加 RAG，工具错误可以强 Schema，崩溃可以做检查点，协调可以共享状态，治理可以定规则。但有一个问题是本质性的：<strong>未来不可预测，而智能体必须做决策</strong>。</p> <p>这就是规划失效问题：智能体基于当前信息制定了完美的执行计划，但执行过程中环境变了、信息更新了、前提不成立了——计划从&quot;最优解&quot;变成了&quot;最蠢路径&quot;。</p> <p>这不是 AI 的特殊问题，是人类也在天天面对的。区别在于人类有丰富的经验来应对不确定性，而智能体的&quot;经验&quot;只有训练数据和当前上下文。</p> <h2 id="不确定性的三个来源">不确定性的三个来源</h2> <h3 id="来源一环境动态性">来源一：环境动态性</h3> <p>外部环境在 Agent 执行任务期间发生了变化。</p> <h4 id="典型场景">典型场景</h4> <pre tabindex="0"><code>Agent 计划：查库存 → 下单 → 发货 现实发生：查库存时有货 → 下单时库存已变（另一位客户买了）→ 发货失败 </code></pre><p>动态环境中的&quot;信息时效性&quot;问题：</p> <ul> <li><strong>查询时信息准确</strong> ≠ <strong>行动时信息准确</strong></li> <li>信息和行动之间的时间差越大，规划越可能失效</li> <li>有些环境变化不可预测（突发需求、系统故障、外部政策调整）</li> </ul> <h4 id="特殊难点agent-自身改变了环境">特殊难点：Agent 自身改变了环境</h4> <p>Agent 的行动可能改变了它所处环境的条件，导致后续计划的前提不再成立：</p> <pre tabindex="0"><code>Agent 分析了市场数据 → 基于分析推荐了 A 股票 → 1000 个用户跟随买入 → A 股价被推高 → Agent 原有的&#34;低估&#34;判断不再成立 </code></pre><p>这就是反身性（Reflexivity）——观察行为本身改变了被观察对象。 Soros 讲了几十年的金融哲学，在 Agent 时代以新形态重现。</p> <h3 id="来源二信息不完备性">来源二：信息不完备性</h3> <p>Agent 做决策时所依据的信息不完整。</p> <h4 id="已知的不确定-vs-不确定的不确定">已知的不确定 vs 不确定的不确定</h4> <ul> <li><strong>已知的不确定</strong>：Agent 知道自己不知道什么。比如&quot;我不知道今天的库存量，需要先查询&quot;</li> <li><strong>不确定的不确定</strong>：Agent 不知道自己不知道什么。比如 Agent 以为自己了解退货政策，但政策上周刚改了，它不知道</li> </ul> <p>后者更危险——Agent 在错误的前提下做出自信的决策，和幻觉类似但根源不同：幻觉是模型编造事实，信息不完备是真实事实缺失但 Agent 假装拥有。</p> <h4 id="隐性约束">隐性约束</h4> <p>很多约束没有写在文档里，是行业惯例或组织内部的不成文规则：</p>