Agent时代的认知保护

我推荐所有认为自己仍然需要培养或保护自己认知的朋友去读Addy Osmani的blog: Critical thinking when agents do the work

这是一个对于科学发展最好的时代，但是对于研究者，或者说正在成为研究者的学生来说，这个时代充满了最严峻的挑战。特别对于junior researchers来说，尚未具备足够的认知水平和批判思维，“认知投降”可能会在agent浪潮中失去所有竞争力。

1. 认知投降和认知卸载

可以试着回答这几个问题：

• Agent会主动遵循TDD（测试驱动开发），但是测试全绿能多大程度代表真的是一个好工作？
• 即使有agent帮助，你能否说明某一行代码到底是在干什么？
• 当agent给出一个调研报告/分析时，你多大程度完全信任这个输出作为你的输入？
• 当没有agent辅助时，你是否还能为你的观点&工作辩护？

对于研究者来说认知和见解可能是最重要的。我们在研究的过程中培养我们的思维：带着谦逊的好奇心和适度的怀疑去接触新信息，吸纳不同观点，然后形成自己的见解。在过去没有agent的时代，这个过程是漫长和辛苦的，因为没有一个生成式的助手可以委托。而现在所有中间的步骤都可以被省略了，生成式的助手可以完成e2e的任务，认知加工不再主动发生。

Addy把agent时代这种认知关系分为一个三层的光谱：

1. 最顶端是认知卸载(cognitive offloading)：将任务委托给AI，但自己依然对最终结果保有所有权（addy的做法，也是我们应该保持的认知关系）；
2. 中间是认知顺从(cognitive deferral)：工具的输出直接变成了你的新输入。此时，输出结果不再被视为一种有待验证的假设；
3. 最底端是认知投降(cognitive surrender)：AI的输出悄无声息地变成了你自己的观点，你觉得根本没有必要去核实它。

经常和agent协作的朋友肯定深有感触，随着信任（或者惰性）的增加，人们会沿着这个光谱向下滑落。这种转变很少被察觉，因为每一步都是渐进的，且看似合情合理。你仔细读了上一个回答，觉得不错，于是下一个回答你就只是略读；再下一个，你只会扫一眼框架。直到有人问起其中某一行代码或某一句话，哪怕有智能体帮忙，你也解释不出来了。

我有一个更简单的判断标准：prompt的详细程度。如果你能写的最详细的prompt下，还需要opus5.5才能做出来，而k3或者deepseek-v4.1-flash做不出来，那多半就证明你在认知投降了。这是我大量使用token和搭建harness得出的经验，loop在人没有想清楚所有事情的时候才work，人能想清楚所有事情的话，我们不需要loop engineering，也不需要最强的模型。

2. 如何保护认知

2.1 消除理解债务

在过去的10个月里，我观察到大量的researchers & engineers开了超过自己可以理解上限的agent数目（包括我自己），这带来的就是大量的编排税：agent产出工作的速度超过了我们理解的速度。

编排税本身代表我们应该降低我们并行的agent数目，或者想办法减少需要我们人工去理解和审阅的部分。更严重的是编排税长期积累导致的另一个问题：理解债务。换言之只处在在agent产出但是我们尚未理解范围内的，都是欠下的理解债务。而这些债务，会损害我们的认知水平。

在当下，理解债务是完全隐形的，代码库看起来干净漂亮，测试也全部通过。直到你必须对系统进行修改，才猛然发现已经没有任何人真正理解这套系统了。当你只读了策略文档或技术规范的目录就签字批准时，情况也是如此。对应到research来说，同样是隐形的，因为组会汇报、写一篇论文、甚至现在中一篇论文，都不需要你真正理解这个研究。但是你想要进一步研究、给talk分享insight的时候，会猛然发现脱离agent自己甚至无法很好表述自己的研究。

简单来说，研究者很重要的一点是在研究中不能存在理解债务。Addy列了几个问题，我觉得很不错，或许我们可以每次做研究的过程中都问问自己：

1. 在提问agent之前，我形成自己的假设了吗? Addy: 在让智能体执行任何非琐碎任务之前，我都会写下(哪怕只是在脑子里过一遍)我认为可能的答案。猜错了也没关系，面对新信息时你随时可以改变主意。但一旦你先读了一篇文笔极佳的AI回答，就很难再想象出其他可能性了。如果你实在毫无头绪，可以让模型做一次“盲点扫描(blind spot pass)”:把你已知的信息交给模型，让它帮你找出那些“你不知道自己不知道”的盲区。
2. 我是在让它帮我思考，还是在把思考推卸给它? 两者都没问题，只要你清楚自己正在做的是哪一种。
3. 如果这个结论是错的，前提条件会是什么? 然后去验证它。模型对自身置信度的评估，远不如你实际执行一次测试有价值，所以给它安排一次测试吧。
4. 我是否听过来自不同角度的反方观点?当我对某个具有开放性的问题持强烈立场时，我会让不止一个模型来为反方观点辩护，然后审视这些输出，再形成我自己的意见。这虽然耗时更长，但最终会让我对这个课题有更深入的理解。
5. 我敢在负责后续维护的人面前，拿这个结果打赌吗?这适用于代码，也适用于你交付的任何其他成果。这就是“可担责性”的底线。
6. 有哪些技能是我不再练习的? 也许是一些日常的调试工作。我不介意放手一部分这类工作，但我希望这种放手是有意识的、主动的选择。

2.2 从实践做起的7件小事

Addy的一些建议：

1. 保持刻意与主动: 智能体可以考你、访谈你、向你展示证据，但前提是你得主动去设置这些环节。
2. 诚实面对自己在光谱上的位置: 如果一个答果案哪怕有智能体帮忙你也解释不清楚，说明你已经陷入了”认知投降”。
3. 先有假设:在提问之前先形成自己的假设，唉那怕是个糟糕的猜测也没关系。
4. 寻找客观证据:在看总结汇报之前，先看它实际运行了什么命令、返回了什么原始结果。
5. 带着“摸清决策”的目的去读:看看它在背后替你做出了哪些决定?
6. 精心打磨提示词:你编写提示词的方式，直扣接暴露了你对问题的理解深度。
7. 设定底线并坚守它: 如果你不愿在上面署自己已的名字，就别让它发出去。

2.3 慢就是快

现在agent能做的很快，不代表人类也要做的很快。研究者可以慢慢去培养自己的认知水平，这才是真正的瓶颈和agent时代的竞争力。另一个方面来说，慢工作，也是更健康的选择，不能被agent快速的工作速度裹挟。

我上周六吃饭的时候和朋友谈到这一圈观点，她刚好在看《寂静的春天》，里面有句一模一样的话：“我们所需要的是更高层次的判断力和更为长远的眼光，但是多数研究人员的身上缺乏这种素质。”

共勉，Agent时代，思维锻炼可能是最后，也是唯一需要培养的东西。