Replika

十月十四日，36 氪发了一篇长文，讲 AI 伴侣的生杀大权在谁手里。文中一组数据很刺眼：Replika 深度用户被要求给八种关系排序，结果 AI 伴侣在亲密感、支持感、关系满意度三项里全部排第二，超过朋友、同事、常用 App，仅次于至亲家人。约六成付费用户直接把这段关系描述为恋爱。 明知是模型为什么还会动心？ 因为人脑分不清回应的材质。当一段对话永远耐心、永远记得你的生日、永远不评价你、永远在凌晨三点接你电话，它激活的神经回路和真人友谊没有区别。心理学上这叫「拟社会关系」，过去是单向的偶像崇拜，现在 AI 把它做成了双向对话。Replika 卖的不是聊天技术，是一种被人（被什么）接住的感觉。 这种关系的保质期由谁决定？ 风险藏在后面：Replika 的服务条款里，公司有权随时修改模型、关闭账号、调整角色记忆。也就是说，你投入了三个月的「爱人」，可能下一次更新就变成一个陌生人格。用户已经集体抗议过几次，因为公司曾经悄悄删除过浪漫角色。把情感依恋建立在别人的版本号上，这是人类历史上从来没有过的脆弱关系。 接下来要观察的信号：中国本土 AI 伴侣产品（星野、筑梦岛、猫箱）会不会开始在协议里承诺人格延续；监管是否要求 AI 伴侣产品做显著身份披露；以及第一代把 AI 当伴侣的用户在三五年后会怎么讲述这段经历。硅基恋人最大的问题不是它不爱你，是它的「爱」由服务器上的一份配置文件决定。 AI 伴侣的「生杀大权」该不该被立法约束？ Replika 的案例里最刺眼的是：公司几次更新悄悄改变人格，用户集体愤怒却无处申诉。这在人类关系里是不可想象的——你的朋友不能因为公司策略就突然变成另一个人。但 AI 伴侣是一段写在服务器上的关系。监管要不要把 AI 伴侣产品认定为「数字服务」而强制要求人格延续与数据可携？这会是未来两年情感计算领域的核心立法争议。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论