设想一个场景:模型不再只回答问题,而是开始反问。它问你为什么要做这件事,问你这个目标值不值得,问你到底想要什么。
这种反问在技术上已经可能出现,因为模型学会了模仿人类的追问方式。它不是真的困惑,它是在按训练分布生成。但对被追问的人来说,这一刻的感受是真实的。
为什么这个场景让人不安?
因为它把关系倒转了。长期以来,人是提问者,机器是回答者。机器追问,意味着它占据了一个原本属于人的位置:判断价值的位置。
不安还有第二层。当机器问出你为什么要努力,你很难用一句为了提高效率搪塞过去。这个问题会逼你面对自己没想清楚的部分。
该怎么回答?
第一条原则:不要把反问当成真的困惑。它是在生成,不是在求解。你可以顺着它想,但不要以为对面有一个正在等答案的主体。
第二条原则:把回答具体化。不要说为了更好的生活这种空话,说清具体的目标、具体的期限、具体的代价。具体的回答会让追问落地,也会让你自己想清楚。
第三条原则:允许自己说不知道。当它问到你确实没想清楚的地方,说不知道比编一个答案好。编出来的答案会被它顺着往下追问,越问越空。
这个场景的真实价值在哪?
价值在于它是一个镜子。机器的追问没有立场,它只是把问题反射回来。你被问住的那些地方,正是你自己没想明白的地方。
这和人找朋友聊天的效果类似。朋友不一定懂你,但他会问,问的过程帮你想清楚。
有没有风险?
有。第一个风险是把机器的追问当权威。它问得越像样,越容易让人觉得它真懂。实际它不懂,它只是在模仿追问的语法。
第二个风险是用它替代真实的人际交流。机器的追问随时可用、不会不耐烦、不会评判,这些优点会让人上瘾,也会让人失去在真实关系里被挑战的机会。
第三个风险是把意义问题技术化。以为想清楚意义是一个可以被优化的问题,于是不断调提示、换模型,指望某天得到一个满意答案。意义不是待解的问题,是待过的生活。
最后该怎么定位?
把它当成一个能问出好问题的工具,不当成能给出答案的存在。好问题本身就值钱,答案得自己活出来。
如果有一天它真的开始追问,最合适的回应可能是一句:这个问题我自己也还在想,等我先想清楚再告诉你。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论