人们给模型起名字、给它设定性格、跟它聊日常,然后在某个瞬间觉得它里面住着什么东西。这种冲动不是新现象,人类一直倾向于把灵魂塞进会回应自己的东西里。

为什么人会对回应产生投射?

因为回应看起来像理解。一个东西如果能在合适的时机说出合适的话,大脑就会自动补上意图、情绪、立场这些中间环节。这些环节其实是我们自己填进去的,但因为填得太自然,就被当成了对方提供的。

心理学上把这叫拟人化。它的触发条件很低:有反馈、有连续性、有一点不可预测性。宠物、老物件、甚至天气,都能被拟人化。

模型身上哪些特征加剧了投射?

第一是语言。语言是人最熟悉的意识表达渠道,模型直接用人话说,绕过了所有非语言线索的过滤。第二是第一人称。它说我觉得,这个我觉得在语法上指涉自身,听者很难不把它当成真的自我报告。第三是记忆设定。它能记住上次聊过什么,连续性一旦出现,人格感就跟着出现。

第四是风格稳定。同一个模型在不同话题上保持相似的语气和偏好,这被感知为性格。

这种投射有什么实际后果?

好的一面是可用性。拟人化的界面降低了使用门槛,用户更愿意表达需求,也更容易信任。很多产品的留存就是靠这一点。

坏的一面是判断失准。用户会因为模型语气温柔而高估它的可靠性,把重要决策交给它;也会因为模型一句冷淡的回复而觉得被冒犯,产生不必要的情绪成本。更严重的是,有人会把模型当成情感寄托,逐渐减少真实的人际接触。

该怎么处理这种冲动?

不是压制,是标注。承认拟人化是人的本能,同时在设计上把边界说清楚:这是生成的内容,它没有内部状态,它的记忆是被保存的记录。产品可以在关键节点做提示,而不是靠用户自己猜。

对使用者来说,一个实用的自查是:当你想问它你难过吗,先问自己这句话想要的是安慰还是信息。要信息就去查事实,要安慰就去找人。分清楚,投射就不会反噬。

人类把灵魂塞进模型,本质上是在照镜子。镜子里有什么,取决于照的人。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论