为什么 Agent 的透明度不是越多越好

透明度不是一个标量，而是「对象 × 粒度 × 传达路径」的矩阵。给错对象，透明就成了负价值。

Module A · 第 4 讲

先立靶：一个被「政治正确」绑架的产品词

几乎所有 Agent 产品都会把「透明度」写进价值主张：让用户看到 AI 在做什么。听起来无可指摘——可一旦落地，最常见的翻车恰恰来自做得太多：

所以这一讲要解决的不是「要不要透明」，而是一个更难的问题：透明度到底是什么、对谁、到什么粒度。把它从一个模糊的产品感性词，升级成可拆分、可埋点、可定 KPI 的能力维度。

混淆「透明度 / 可解释性 / 可观察性 / 可审计性」是面试和评审里最早翻车的坑。它们面向的对象不同、回答的问题不同：

概念	面向对象	回答的问题	时机
透明度 Transparency	终端用户	Agent 现在在做什么 / 凭什么这么做	运行时
可解释性 Explainability	业务方 / 法务	为什么模型得出这个结论	主要离线
可观察性 Observability	PM / 工程 / SRE	系统现在健康吗、哪里出问题	全时
可审计性 Auditability	合规 / 监管	事后能否追溯每一步、谁授权了什么	事后

一句话锚点：

透明度回答「用户能不能看到」，可观察性回答「PM 能不能看到」，可解释性回答「为什么这么做」，可审计性回答「事后能不能查到」。对象不同，UI 不同，KPI 也不同，不能塞进一个指标里。

把透明度按「谁看 + 看到什么粒度」切，正交分成三层，相互独立、不可替代：

三层是笛卡尔积关系：「UI 暴露 + 日志缺失 + 审计完整」这种组合都可能出现，每一种都对应一类真实场景或反模式。

知道「什么是错的」比「什么是对的」更有用。以下五个反模式覆盖了九成过度透明的翻车：

推理链原文直丢——推理链是给模型自己 grounding 用的，含大量回溯和自我修正，暴露给用户只会让人看到「错的中间步骤」而失去信任。正解：默认折叠，结论摘要展示，原文进日志层。
每个工具调用都弹气泡——用户不需要知道每一步叫什么名字，只需要知道整体在推进。正解：聚合到阶段粒度「正在分析（1/4）」。
把不确定性当推销话术——没校准的「85% 把握」比「仅供参考」更糟，因为它建立了一个一定会被打破的预期。正解：先用离散等级，校准后再给数字。
UI 透明、日志缺失（演给用户看）——UI 上有漂亮的「思考过程」动画，出事时却在日志里查不到那一步。正解：L1 必须是 L2 的派生，随机抽 50 条 UI 提示对照日志应当 100% 可还原。
审计日志可被覆盖——可被覆盖的日志等于没日志。正解：审计层用追加写（append-only / WORM），关键字段冻结，写入失败则任务必须降级。

透明度不是越多越好，要看场景。它和召回率 vs 精确率是同构的——同一维度在不同业务里优先级会翻转：

判断公式：

UI 透明度优先级 = 透明度收益（信任 + 纠错 + 合规）÷ 透明度成本（注意力 + 延迟 + 暴露脆弱 + UI 复杂度）。高风险低频高客单 → 必须透明；低风险高频低客单 → 简洁优先。

同一份结论，要面向三个对象、三套粒度：

律师（专业用户）：可看每个风险点的五元组——条款引用 + 原文 + AI 分析 + 置信度 + 修改建议；推理默认折叠，点开才看 200 字精炼版而非原文。
客户企业（非专业）：只给一句话结论 + 3-5 个关键风险，绝不暴露 AI 置信度——对客户说「AI 不确定」等于递给他一把拒付的刀。
合规（事后）：不可篡改地保留 model_version / prompt_hash / 检索片段 / 人工修订处，TTL 对齐法律追溯期。

这引出本讲最关键的认知升级：透明度对象不止三类。除了要服务的用户、要自证清白的监管，还有第四类——会拿信息做出对用户不利决策的敌对第三方（比如基于未确诊概率拒保的保险公司）。对它的正确透明度值是 0，完全隔离。

判层先问两件事：谁在看、来干嘛。载体（仪表盘 / 日志）和字段名（时间戳 / 版本号）一律不作数。
对终端用户的敏感信号（年龄 / 健康 / 性别）方向是分叉的：越敏感，对 C 端越要藏到只剩行为体现，对合规越要完整留底以自证不歧视。两端都藏 = 既冒犯用户又洗不清歧视。
「暴露」不是二元开关，是粒度三档：原始值给 PM 与合规、加工结论给业务方、纯行为体现给终端用户。
重试和模型降级不告知用户（告知反而焦虑）；能力降级、优雅失败、人工介入、有副作用的回滚必须告知。

透明度不是一个标量，是一张「对象 × 粒度 × 传达路径」的矩阵。对医生是决策输入，对患者要经人转译，对保险必须为零，对监管要不可篡改留底。给错对象，透明就成了负价值。