把记忆外包给搜索引擎,把写作外包给模型,把判断外包给推荐算法。每一层外包都省力,也都在悄悄改变能力结构。
外包省下的是什么?
省下的是操作时间,不是理解时间。查一个事实从十分钟变十秒,但理解这个事实为什么重要,一秒都没省。
问题在于人会把两者混为一谈,以为查得快就等于懂得多。
反噬从哪里开始?
从判断力开始。判断需要在一堆矛盾信息里选一个立场,这个动作必须自己做才长肌肉。
长期不做,就会退化成只能接受结论,不能评估结论。
为什么写作外包风险最高?
因为写作是思考的外化。写的过程会逼你把模糊的想法变清楚,把跳跃的逻辑补上。
让模型代写,等于跳过这个逼的过程。得到的文本通顺,但想法还是模糊的。
哪些外包是安全的?
三类。一是格式化,把已有内容排成规范格式。二是检索,把分散信息聚到一起。三是校对,找出错别字和矛盾。
三类的共同点:输入是自己的判断,输出不改变判断。
哪些外包是危险的?
两类。一是立场生成,让模型替你决定该支持什么。二是因果推断,让模型替你判断为什么会这样。
两类都需要你承担后果,外包出去就等于把责任也外包了。
怎么设边界?
一个简单原则:能被验证的可以外包,不能被验证的必须自己做。
格式能验证,检索能验证,校对能验证。立场和因果,验证成本极高,只能自己扛。
组织层面怎么防反噬?
三个动作。一是保留人工复核位,关键结论必须有人签字。二是保留原始材料,不许只看摘要。三是定期做无辅助训练,让人在不借助工具的情况下也能判断。
第三个最反直觉,但最有效。能力不用会退,退到关键时刻就来不及。
对个人的建议?
把 AI 当副驾,不当代驾。它能帮你开得更快,方向盘还得在你手里。
方向盘交出去的那一刻很轻松,之后就一直轻松,直到需要拐弯的时候。
同簇还有哪几篇值得一起看?
想就这个话题接着到论坛聊吗?
前往 ziyuanagi.com 论坛 参与讨论