方塘论坛回顾 | 王珏：伴侣机器人道德边界的儒家审视

我们现在进入到机器人时代，机器人已经走入到日常生活当中，比如它登上了春晚的舞台。很多电影当中它作为家人，作为孩子，作为女友、朋友来存在，在我们和机器人的想象当中，最激动人心的就是它成为我们的爱人。

这本书的作者叫李维，他的观点就是，我们将来和机器人谈恋爱，和人与人之间一样正常，现在唯一阻碍人和机器人谈恋爱的是观念。也就是说，在他的观点中，机器人是可以替代人类爱人的，甚至更适合现代人的心理——人类的爱情太沉重了，机器人可能更适合人类的需求。

那么伴侣机器人的前景，显然会对人和人的伦理关系产生深远的影响。如果机器通过了图灵测试，我们就认为机器人是可以思考的，但当你认为机器人可以思考，其实改变了思考的定义，思考不再属于人了。相反，越来越多的思考是由机器来设定标准。同样，如果接受机器爱人替代人类爱人，可能会改变我们对爱的定义，甚至以后爱的标准都由机器人来预设。

以前我们认为人是人，机器是机器，人和工具是截然两分的，不会变成一个共同体。如果接受机器爱人的话，前景就是我们会进入人和机器共存的道德共同体。这就产生了一个问题，在这个新的道德共同体当中，伴侣机器人应该具有什么样的道德地位？

现在有很多探讨，但可能并没有什么共识，这是基础性的问题，它将决定未来人和机器共存的形态是什么，要遵循什么原则。

道德地位指的是一个道德主体在道德共同体当中占有的位置、享有的资格、承担的角色。对道德地位的讨论分为道德主体和道德承受者。道德主体意味着我们要承担某种道德义务，这对机器人来说是很困难。所以机器人作为道德承受体的讨论更多：我们应不应该给它道德关切？我们对待机器人的方式，是否必须要符合某些道德规范？

第一个路径，依然把伴侣机器人看作工具。它没有独特的道德地位，仅仅有附属的道德地位，它是其他人的所有物。比如我尊重它是因为我尊重你，如果我把它打碎了就破坏了你对它的所有权。但是很多人认为这样是不足够的，它没有基于自己独立的道德地位。

我们再看第二个路径，大家会很容易想到，我们可以模仿我们怎么给动物道德地位的。动物有意识，因此你把这样一种思维方式挪到处理机器人的时候是有困难的。因为你很难证明机器它能直接感受到痛苦。它可能只是表现得很痛苦，但它内在是个算法。因此这条路某种意义上是走不通的。

有一个人叫考科尔伯格，他走了另一条道路。他说我们不要从属性出发，我们从关系出发。我对机器人的道德关切，不是因为它具有某种属性，而仅仅是因为它对我显现的样子对我产生某种道德关切的要求。比如说我不应该踢一个机器狗，并不是机器狗能感受到痛苦, 是因为它的痛苦的表现对我是有道德要求的，让我不应该踢它。

第二个路径没有注意到一种文化的失语。我们对机器人道德上的关切很难离开生活的处境，这个生活的处境是带有文化的。

南希·杰克逊探讨是否可能把人格的概念扩展来覆盖它。她的结论是在西方很难，因为西方的人格观念是基于内在精神，你难以进入机器的内里，它只是算法驱动。但她认为，非洲和儒家的人格观念都是关系性的。并且它不是基于内在的，而是后天获得的。所以采用这种开放的关系性概念，我们就有可能把人格给予机器。

我赞同这一点，儒家会给机器人某种道德关切。

孟子的这段话就是说儒家跟西方是不一样的，他不是要根据属性把存在者分为不同的等级。儒家是个连续的存在网络，我们都在关系当中，我们是有差异的，但是又是关联的。

在这种关系性的宇宙图景当中，儒家天然就会把所有存在者都放在文明叙事当中，并且给他一定的关怀。与其说是存在论先于伦理学，不如说是伦理学先于存在论，将所有存在者都纳入到相互关联的伦理叙事中，并赋予人最突出的道德地位，要求人将宇宙万物都纳入自身的道德关怀中。

但为什么还不够呢？前面的探讨过于线性的，仅仅是人和机器单方面的关系。儒家不是这样的，是把所有存在者的关系放到关系网络中的。比如讨论亲子关系是放在家庭关系中的；家庭关系放到代际关系中，然后才会放到天地一体的关系中。所以儒家是要在网络中确认我们的道德地位的。儒家会认为应该给机器人一个道德地位、道德关切，但是这并不意味着它有和人一样的地位，不能混淆人的伦理角色和机器人的伦理角色，因为我们对伦理角色的设定要受到关系网的制约。鉴于人总是同时处于多关系中并承担着多重角色，人与机器人互动的方式不仅受到“人-机”这一重关系的制约，而且还要受到其他相关人际关系的制约，这意味着对廓清性爱机器人的合伦理使用范围而言，一种关系性的实践视角不可或缺：如果将机器人引入到人的亲密实践中，会以负面的方式影响相关人际关系及其内涵的道德承诺，那么这种对待机器人的方式就是伦理上需要商榷的。

所以我认为现在的机器伦理中有个不好的地方就是倾向于混淆，认为机器人可以替代人类爱人，但是从儒家的观点看，这样混淆机器人的伦理角色和人类的伦理角色，会动摇关系网络的根基，进而瓦解儒家的人文关系。儒家认为人文关系是我们内在德性及生命成长的关键场域。

如果我们从儒家视角建立了伴侣机器人的的道德边界，就是它应该有伦理关切。但是不应该和人类相混淆。它会对我们的人机共处产生影响,第一个影响就是会开启出一种评价伴侣机器人的德性视角。

这个德性视角其实很重要,这个视角可以处理现在伴侣机器人中的一些难以处理的问题。比如说用西方流行的理论来处理性爱机器人有个难题——人强奸机器人是不是错的？为恋童癖设计一种治疗性的儿童机器人是不是错的？

如果你用功利主义来处理，从后果端来处理，机器人没有受到伤害，你很难说为什么是错的。

儒家从德性视角出发，反而能提出最清晰有力的反对意见：这些涉及性爱机器人的实践方式之所以在道德上是不可接受的，是因为它们以错误的方式塑造了使用者的欲望和动机，败坏了使用者的内在品质。因而，即使如此使用性爱机器人没有侵犯任何人的权利，或没有造成可见的不良后果，设计、销售和使用这样的性爱机器人依然是道德上令人厌恶的。

第二点，用机器爱人代替人类爱人可能会扰乱人伦关系，会带来我们的生活秩序和生活意义的瓦解。

生活意义的瓦解分成两个方面。从私人层面来说，个体被诱导用虚拟亲密关系替代人类爱人时，他实际上被剥夺了构建有意义人生的宝贵机会。与人类伴侣的亲密关系是生长性、构成性的，通过与人类同伴结成伴侣，构建家庭，我们得以在生命中建立一条漫长的时间线索，将我们生命历程深度交织在一起，安顿实现生命的意义。与之相反，与机器人的关系则只能产生碎片华的、泡沫化的、转瞬即逝的“快乐”。

从公共层面来说，从社会整体层面看，如果选择机器爱人成为人人效仿、追逐的风尚，会加速社会的原子化和碎片化。伴侣机器人的倡导者主张机器人可以为孤独者提供社会支持，并以此作为发展伴侣机器人的伦理辩护，然而这可能仅仅是一个美好的幻想，因为无论机器表现得如何温情，这里都没有真正的关怀，有的只是程序化的关怀表演。

更为危险的是，最脆弱的、占有最少社会资本的人群往往成为被剥夺最深的群体，一个人越孤独，越可能沉迷于机器陪伴，而对机器投入越多的时间、情感和金钱，越会削弱他从人际网络获得支持的能力，旨在解决现代人亲密关系的机器人方案，带来的却是离散的社会，最孤独的个体，这样一种前景显然是有严重道德缺陷的，也违背了儒家推崇的“鳏寡孤独废疾者，皆有所养”的理想社会秩序。

第三点，从体验出发，有人说，如果机器人的体验比人类爱人的体验更好，我们不应该对人类感到高兴吗？那么我想提出儒家的观点，就是体验是不足够的。

当一个人出于恐惧伤害或出于控制欲而选择了“永远不会拒绝他”的性爱机器人，也许他会因为这个选择而获得暂时的满足，但却会为这个选择付出长期的道德成本。借用孟子的大小体之辩：

醉心于与机器人的虚拟关系，就是典型的“从其小体”而“夺其大体”，沉迷于耳目之欲望而放弃内在德性的修养。但是你丧失的是一种我们对内在的道德自我的那样一种成长的责任。儒家会赞同一些人文主义批评者的意见：泰然自若地与毫无生命的机器连接在一起，是一种无所忌惮的技术滥交。

儒家有一种自我观，认为我们人生有一种道德责任是我要成就道德自我，而这个道德自我的成长它一定是来源于人际的关系。你和机器人得不到这样的机会，所以是一种自我放弃。

用一种虚拟的机器方案来替换真实存在的人际关系，无疑会损害自我存在根底上的意义机制，侵蚀由共同体支撑的生命归属感，让我们内在自我变得干瘪和空洞。

我们如何对待伴侣机器人，实际上映射出来的是我们如何理解自身和如何理解我们现在的生活。儒家观点是认为我们应该关怀我们的伴侣机器人，给他道德地位。但这种道德地位的基础来自于我和机器人的关系，我和他人的关系，以及最终我和我自己的关系。

我最后想说一点，事实上我并不是想完全解决这个问题，我只是就选择了和机器人在一起可能会丧失什么，给自己一种提醒。我觉得这种清醒剂是我们现在的文化需要的。

我们现在的机器文化当中弥漫着一种反脆弱的叙事，就是说人有很多脆弱的地方，比如老了就有机器人养老，找个爱人好难所以才有机器解决方案，现在人工智能会给你一种叙事，即你一切的脆弱的问题都可以由机器来解决。

我想说这种反脆弱性叙事让社会变得更加原子化，人们对机器期待的越来越多，对别人期待的越来越少。这是一个值得向往的未来吗？

我有一个观点是儒家的观点。事实上，我们不应该想要根除我们人的脆弱性。脆弱性是我们人性的某种重要的来源。

我们的脆弱性意味着我们给出自己，让别人有伤害我们的机会。就像我们在现实上跟别人的关系，我们实际上在情爱关系当中我们是有脆弱性的，我爱一个人就给了他伤害我的机会。但是这种脆弱性实际上让我们有更深的连接，这种连接是我们人生意义的来源，是我们内在道德成长的一个不可缺少的根据。

来源 | 本文转载自“清华方塘研究院”，点击“阅读原文”获取更多内容