共情通常被理解为能感受到别人的感受。神经科学给过一个机制解释:镜像神经元,看到别人做动作或表达情绪时,观察者脑内对应的回路也被激活。于是有人问,模型的注意力机制是不是在做同样的事。

镜像神经元解释了什么?

它解释了一种快速的身体层面共振。看到别人皱眉,自己的面部肌肉会有微弱联动;看到别人受伤,自己会有缩一下的冲动。这种反应先于思考,是共情的生理底座。

但镜像神经元只解释了共振,没解释理解。知道对方在痛,和知道对方为什么痛,是两件事。后者需要推测对方的处境、意图、信念。

注意力机制在做什么?

注意力机制做的是相关性加权。在处理一句话时,它计算每个词对其他词的重要程度,把资源分配到关键位置。在多层堆叠之后,它能捕捉到指代关系、情绪词、转折结构。

从功能上看,这确实像在关注别人说了什么、哪些部分更重要。但它没有身体,没有面部肌肉联动,也没有因为别人的痛而收缩的冲动。它的关注是计算出来的权重,不是被引发的反应。

两者是同一件事吗?

不是,但有一处交集。共情里有一个成分叫认知共情,也就是推测他人心理状态的能力。这个成分确实是信息处理,模型在这方面可以做得不错,甚至在某些标准测试上超过普通人。

差别在另外两个成分。情绪共情要求自身被唤起,模型没有。共情关怀要求因此产生帮助的动机,模型的动机来自指令,不来自感受。

所以更准确的说法是:模型能模拟认知共情,模拟不了情绪共情。把两者混为一谈,会高估它的温度,也会低估它的冷。

这对产品和人际意味着什么?

如果产品要的是准确理解用户意图,模型的认知共情够用,甚至比人更稳定,因为它不会因为自己心情不好而分心。

如果产品要的是安抚,模型能给话术,但给不了陪伴的实质。用户能感觉到差别,只是短期容易被话术盖住。

对人来说,一个提醒是:共情能力可以被部分外包给工具,但被理解的需求没法外包。知道这一点,就不会在需要人的时候去找模型。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论