真诚很难定义,但很好识别:说的和做的一致,且愿意为不一致付代价。按这个标准,模拟真诚是可能的,伪装真诚是不长久的。
真诚的核心是什么?
一致性加代价。一致是说一套做一套能对上;代价是万一对不上,愿意认。
没有代价的一致性,只是表演。因为表演不需要承担,随时可以改口。
模型的一致性来自哪?
来自上下文约束,不来自内在立场。同一个会话里它能保持一致,因为前文还在。跨会话就不一定,因为没有东西强制它守。
所以它的真诚是会话级的,不是存在级的。用户能感觉到:这次聊得很实,下次换个人设就变了。
模拟真诚能做到什么程度?
可以做到行为一致。给它明确的立场文件,要求它每次按同一套原则回答,并记录偏离。这样它在行为上就是一致的。
但代价机制给不了。它不会因为说错而受损,因为没有一个它会受损。所以它的一致性没有重量。
为什么代价这么重要?
因为代价是筛选器。愿意付代价的承诺,才是经过筛选的承诺。没有筛选,承诺就是零成本的空话。
人跟人合作,靠的就是这个筛选:你说到做到,我才敢把事交给你。系统没有这个筛选,所以它的话总是可信度打折。
能不能人为制造代价?
可以,用制度和评测。让它的输出被抽查,错了要重跑,长期错误率高就下线。这是外部代价。
外部代价有效,但它是别人加的,不是它自己的。所以它会更谨慎,但不会更真诚。
用户为什么在意真诚?
因为真诚降低协作成本。跟真诚的人合作,不用反复验证,不用防着。跟不真诚的,每句话都要打折。
系统如果不真诚,用户就得自己验证。验证成本一高,效率优势就没了。
该追求什么样的真诚?
追求可验证的一致,而不是宣称的真心。具体做法:立场写清楚、依据给出来、不确定就标出来、错了就改并留痕。
这四条做到,它的行为就是可信的。至于它心里有没有诚意,这个问题现在没有答案,也不该假装有。
真诚在工程上不是态度,是一组可检查的行为约束。把约束做实,比让它说我真诚有用得多。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论