AI 越好的奇怪之处在于，它可能不会减少对人类判断的需求。它可能会倍增它。
一旦 Agent 有用，公司不会 sparingly 使用它们。它们会在各处使用：起草客户邮件、更新工单、标记流失风险、总结销售电话、推荐代码变更、升级支持问题、准备决策。每个动作都更便宜，但每个 consequential 动作仍然需要有人站在它后面。
这就是瓶颈移动的地方：智能变便宜，上下文变便宜，但责任不会。 这是企业 AI 内部隐藏的 Jevons 悖论。
问题在理论之前就已可见
想象一个 AI 系统执行 1,000 个 consequential actions，错误率 5%。产生 50 个错误。现在模型改进，错误率降到 1%，但公司运行 100,000 个 AI-mediated actions，因为系统终于有用了。错误率改善了，但组织现在处理 1,000 个错误。
模型变好了，liability surface 变大了。 这就是为什么"模型有多准确？"作为企业问题是不够的。更难的问题是：模型出错时谁负责，以及那个人在批准、忽略或委派 action 时有什么上下文。
大多数 AI 对话假设智能是稀缺资源。这在方向上暂时是对的。更好的模型会让更多工作成为可能，每次能力跳跃都会扩展人们愿意委派的东西。但在公司内部，智能本身不够。一个上下文错误的非常聪明的系统仍会产生错误答案，一个不愿拥有结果提供商的非常聪明的系统，无法在没有人类或组织接受责任的情况下对任何 consequential 事情采取行动。
无论智能来自 OpenAI、Anthropic、其他模型提供商还是内部 Agent 团队，这都适用。模型可以起草邮件、更新工单、推荐代码变更、标记流失风险或写客户跟进。但一旦 action 重要，公司内部必须有人拥有决策。必须有人说："我理解这个 action 的基础，我准备站在它后面。" 那个人可能是经理、律师、运营人员、工程师、账户负责人或高管。除非提供商愿意吸收错误的后果，否则不会是提供智能的人。
Jevons 悖论的形状
William Stanley Jevons 观察到，让蒸汽机更高效并没有减少煤炭消耗；它让煤炭驱动的工作更便宜，从而在经济中扩展了煤炭使用。简单版本现在很熟悉了：当资源使用变得更便宜时，总使用量可能上升而非下降。
对于 AI，问题不是使用量是否上升。问题是什么成为新的瓶颈。
电子表格是比煤炭更好的类比。 电子表格没有消灭财务判断。它让建模便宜到企业要求更多建模、更多场景、更多决策前论证。VisiCalc 之前，改变财务模型中的假设意味着手动重新计算模型并等待下一版。之后，经理可以问"what if"问题、测试假设、快速分析对费用、销售、利润、投资、库存和预算的影响。快速重新计算鼓励更多实验和业务计划的微调。
重要的是接下来发生了什么。当模型成本崩溃时，公司要求更多场景、预测、差异解释、敏感性表、董事会 deck 和决策前论证。电子表格移除了一些算术工作，但它创造了对能解释模型、捍卫假设和决定做什么的人的更多需求。
计算机对智力劳动整体做了类似的事情。劳工统计局报告说，计算机减少了对常规工作的需求，同时增加了对非常规分析和人际工作的需求或报酬。让机械部分更容易通常会增加对其上判断层的需求。
公司上下文将遵循同样模式
今天，公司 ration 上下文，因为重建它很昂贵。客户成功负责人不会调查每个微弱的流失信号，因为把电话、工单、Slack 线程和 CRM 笔记拼凑在一起需要时间。产品负责人不会追溯每个路线图分歧回到客户对话和旧决策。CEO 无法检查每个执行漂移的早期迹象，除非把公司变成报告机器。
原始材料存在，但散落在从未被设计为一起解释自己的 artifact 中：电话中的客户承诺、Slack 中埋藏的变通方法、Salesforce 中的官方状态、会议中的决策。跟进可能变成了工单，也可能消失了。组织 quietly 决定许多问题太贵而无法问。
公司大脑改变了这些经济学。 如果系统能在几分钟内组装账户历史、客户承诺、未解决阻塞、所有权变更、先前决策、来源证据和当前状态，值得调查的数量就会上升。同样的人，以前无法证明时间的合理性，突然想要上下文，因为成本已降到询问变得理性的阈值以下。
需求出现在具体地方
- 销售会在小型续费前拉取上下文，就像大型企业交易一样
- 客户成功会在整本书中寻找风险痕迹
- 产品会在路线图辩论期间想要实时客户证据，而非已经 flatten 细微差别的季度综合
- 工程会在普通风险变更前想要决策和失败上下文
- 领导层会在指标移动前想要微弱信号，因为指标移动后公司已经晚了
Agent 让反弹更强。一旦它们能起草、路由、调查和推荐带有公司上下文，AI-mediated 工作就不再是一小组 demo，而成为公司运营表面的一部分。支持升级可以附带账户历史到达；销售跟进可以携带先前承诺；产品 brief 可以包含客户证据；工单更新可以对照承诺检查。每个 action 可能更便宜，但 action 总数上升。
组织智能的 Jevons 效应很简单：当上下文变便宜时，公司会使用更多上下文。 它们会通过问更多问题、检查更多决策、期望更多证据来花费节省下来的资源——这些工作过去在部分信息上推进。这把公司大脑变成问责基础设施，不只是生产力基础设施。
surfaced 的承诺 = 强制的人类选择
一个 surfaced 的客户承诺迫使人类选择：兑现、拒绝或重新谈判。路线图计划与销售承诺之间的矛盾迫使决定哪个真相获胜。起草的客户邮件仍需要有人站在事实声明、承诺和语气后面。
AI 可以准备战场，但除非智能提供商愿意承担责任，否则它不能吸收组织责任。短期内看不到这种情况。在此之前，责任流回公司，通常流向经理、所有者、审查者、运营人员、律师、账户负责人、工程师或高管——他们必须决定公司准备站在什么后面。
"我们不知道"变成更弱的借口
公司记忆改变了组织能合理声称不知道的东西。当上下文昂贵时，无知在操作上通常可接受：错过的承诺藏在会议记录中，糟糕的假设活在旧规划文档中，客户风险坐在三个系统中而没人看到整个模式。当上下文变便宜时，标准改变。如果系统本可以显示承诺、风险、矛盾或陈旧决策，自然的问题是：谁看到了、谁忽略了、谁拥有下一个 action？
E-discovery 是最接近的企业类比，因为它显示了找到证据变容易时会发生什么。自动化减少了发现、过滤和组织大量文档的一些负担，同时提高了对可辩护性的期望。自动化 e-discovery 系统可以维护监管链记录、跟踪决策理由、在司法审查下展示流程完整性。
教训令人不安：一旦证据变得更容易找到，人们期望你找到它。一旦流程可以被追踪，人们期望你捍卫它。一旦上下文变便宜，"我们不知道"变成更弱的借口。
结构性修复
这并不意味着系统应该向每个人 surface 一切。一个向整个组织广播每个微弱信号的公司大脑会把它淹没在噪音和合规噩梦中。结构性修复不仅仅是智能综合；它需要严格的来源追溯和访问控制的组织记忆。
一个有用的系统必须显示什么改变了、确切的来源证据、谁被授权查看和解决它。一些信号变成任务，其他保持观察项。困难的部分是确保正确的上下文只流向公司准备站在其判断后面的特定人类。
核心洞察
人们经常错过 Jevons 悖论在 AI 中的这部分。反弹是使用量、期望、审查、可追溯性和责任一起到来。当智能变便宜时，上下文成为约束。当上下文变便宜时，责任成为约束。
企业赢家不会是自动化最多决策的公司。它们会是知道哪些决策可以委派、哪些需要人类所有权、每个人站在什么证据后面的公司。 这就是为什么公司大脑不仅仅是生产力层。它是让 AI-mediated 组织能委派工作而不丢失责任的记忆基础设施。
作者 Ashwin Gopinath 是 Reflex 创始人，正在构建"公司大脑"——一个共享智能/记忆层，坐在所有通信渠道、知识库、action 和 Agent trace 之上，实时理解组织中的每个人如何实际工作以及工作如何实际完成。