Agency Over Automation：为什么 AI 的终极目标不是取代人类

核心洞察

我们发现了可能是历史上最民主化的技术，但主要关注点似乎是 figuring out how to replace ourselves with it。

Seb Goddijn 在 Ramp spearhead "Internal AI" initiative 一年多后，提供了一个反硅谷主流叙事的观点。

全自动化在大多数公司声称的层面实际上不可行。

以「给潜在客户写邮件」为例：

能自动化这种决策意味着存在某种客观正确的结果，但大多数真实世界场景根本没有。问五个人该发什么邮件，会得到五个不同答案。

人的工作是自身和独特世界理解的反映，这个 nuance 才是区分最好和普通的关键。

避免这个 nuance 的唯一方法是把人类完全移出对话，让 AI 拥有交易两边的全部购买权——但这带来新问题：如果我们不是叙事的一部分，如何确保决策符合我们想要？

人在回路 (human in the loop) 不应被视为通往完全取代的过渡状态——它就是终态，而且对所有参与者都是更好的结果。

第一次意识到你也能成为 builder 的魔力难以描述。

Seb 作为热爱创造但舞台天赋不足的人，幸运地 stumble into 计算机科学并发现软件创造的 joy。看到 AI 把同样的礼物给许多同事后，他更坚定相信：this 才是 AI 故事中真正历史性的部分——不是某个底层 KPI 被改善，而是生产资料变得任何有笔记本电脑的人都能获取。

这是印刷机或个人电脑级别的转变，不是生产力提升。

历史上第一次，创造能力不再被大量资本、正规教育或出生社交网络所 gate。

现有玩家不会解决这个问题，这是结构性问题。

前沿实验室筹集了 absurd 的资金，需要 significant（且 growing）的收入线来支撑估值。这导致他们专注于高资本化的科技公司——这些公司愿意 huge personal expense 来 underwriting usage 以保持竞争优势。

** inefficiency 对他们实际上是 great outcome。** 你用越多 token 他们赚越多，所以没有巨大动力推更便宜模型或 highlight inefficiency。

思考题：

实验室是生意，没有责任打折提供技术。但当你有 incredibly steep 收入目标和依赖消耗的商业模式时，激励可能与理想消费者结果不完全对齐。

Opus 4.6 和 GPT 5.4 可能标志着 AI 已经足够好做大多数事的时刻。

DeepSeek 和 Kimi 等开源竞争者已经 nearing 或 past 这个成熟度点。

这意味着：现在有了为 significant 全球人口提供 real value 的产品空间，价格只是现有巨头的一小部分，而且即使模型继续改进也有机会维持这个优势。

优先扩散 (diffusion)、 targeting 低支付意愿和低技术素养客户的策略开始变得可行——但不会由 OpenAI、Anthropic 或其他百亿实验室驱动。

将由相信人类增强比取代更高尚的新一代创业者驱动。

我期待一个技术 leveling the playing field 的世界。无论经济情况或其他不可控因素，将想法变为现实并与世界分享的能力。那才是值得构建的 AI 版本，而且没什么好焦虑的。