a16z 合伙人 Michael Mignano 最近陷入了一个矛盾的思考:他正在自己的电脑上主动安装「本质上就是间谍软件」的东西——AI Agent。
从 Verizon 泄露到主动交出一切
十年前,Mignano 的社会安全号码泄露,被人拿去注册了十几个 Verizon 无线账户。当时他以为不会有比这更糟的安全事件了。
现在,他让 Agent 帮自己买东西、给朋友家人发消息、辅助职业决策。他交出的私人信息和代理权,比当年那个被 Verizon 事件吓到的自己敢想象的还要多。
两种极端的隐私选择
Mignano 观察到他身边的人在做截然不同的选择:
- 完全气隙隔离 — 一位朋友设置的机器几乎不接触任何真实个人信息
- 完全 YOLO — 另一位接受 Agent 会成为自己的虚拟双胞胎,给了它们所有个人账户、信用卡的访问权
他自己还没确定立场。但有一件事很清楚:这个世界正在走向一个与十年前完全不同的方向。
显而易见的未来 vs 逆向押注
主流观点(Dario Amodei 几个月前论证过):控制模型 + Harness 的实验室会赢。更强的模型 → 更好的 Harness → 更多用户数据 → 更强的模型,飞轮持续转。作为追求便利的普通用户,我们会交出越来越多的个人数据。
逆向押注:人们终将意识到,自己最敏感的上下文正坐在别人的数据中心里,训练着别人的下一个模型,受制于别人的服务条款,甚至可能被用来做自己从未要求的事。就像人们最终要求掌控健康数据和金融数据一样,他们终将要求掌控自己的数字足迹。
关键洞察:便利驱动的自主权
Mignano 指出,人们要求健康数据可移植,不单纯是因为抽象的数据权利意识。真正的原因是:换了医生,记录没跟过来,太麻烦了。Agent 领域也会出现类似的时刻——当你想从一个 Agent 换到另一个 Agent,却发现你的记忆、偏好、关系图谱全锁在之前的平台里。
到那时,价值不会流向模型实验室。它会流向提供用户可控、可信、可移植的记忆基底的层。
终极问题
Mignano 坦诚自己甚至不确定想要那个「自主可控」的未来。毕竟,便利总是赢家。更轻松的路是继续交出去,相信激励最终会对齐。
但和 Agent 相处的时间越长,他越忍不住想问:
At some point, I'd like to know who they're really working for.