最近,随着电影《超能查派》、《复联2》隆重上映,对 “怎么让AI理解人类的道德体系”、“AI造反了怎么办”等问题的讨论非常热烈,“人工智能”似乎一夜之间就和普通人搭上了关系。想要造出一个能够和人类智力水平相当的AI(比如查派),显然并不容易;而如果真的造出来了,这些个AI会如何看待我们,则是个更加复杂的问题。
非我族类,其心必异 社会生物的排外性
具有社会性的生物,在自然界并不罕见:蚂蚁、蜜蜂、大猩猩等等,都能在不同程度上显示出高度的分工合作,这和人类社会有些相似。实际上,这些生物的集体行为,强大得令人惊讶:工蜂可以甘心情愿的出外觅食来喂养蜂王和幼虫,面对入侵者时不惜自杀性的攻击(蜜蜂在蜇刺之后自己也会很快死去);红火蚁在溺水时会迅速而有序的簇拥成一个漂浮的球体,保证“球心”中部分的同类有机会生存下去。
然而,这些生物的“团结友爱”往往有决绝的界限:只对本群的同类有效。对于其他种类的生物、不属于本群的同类生物,其手段的残酷性同样令人乍舌,比如成年的雄性黑猩猩如果遇到其他族群的幼年黑猩猩,通常都会毫不犹豫的将其杀死。
类似的现象,其实在人类的历史上也很常见。
在氏族社会,部落冲突中的战俘往往会被杀掉祭神,在一些地区甚至会被视为合法的食物做成烧烤;到了封建时代,诸侯国之间的战争,偶尔也会伴有对战俘的大规模屠杀,比如战神白起那令人遗憾的“坑埋赵卒”。即便到了工业社会,仍然有人将异族的性命视为草芥,美国先贤们对印第安土著的逼迫,二战中对犹太人的大规模残害,发生在中国南京的大屠杀,都是这种残忍行为的突出表现。甚至到了后工业时代,在地球上的一些落后地区,还不时发生对异族的种族灭绝惨案。
这种种现象,背后的逻辑往往是8个字:非我族类,其心必异;因此,对于这些异类,就完全不必也不该采取和同类相同的道德标准,怎么狠就怎么来吧。
基因的“失败”,或者我们的“成功”
上述现象,无论是黑猩猩还是人类,可能有一个共同的成因:基因。
在数万年的进化过程中,如何将自己的基因延续下去,成为每一个物种面临的最严峻考验,也成为大多数生物建立行为模式的终极指南。为了让基因延续下去,个体会努力争取一切繁殖的机会,会不惜代价的保护自己的幼崽;更深一步,则会尽量让拥有共同基因的其他个体获得繁殖、生存的机会,蜜蜂和蚂蚁的行为似乎可以归于此类。
但是,在人类脱离自然、慢慢形成更高层次的社会文明之后,基因那说一不二的强权却被悄悄的逐渐稀释了:从有直接血缘关系的兄弟姊妹,扩展到拥有共同祖先的氏族(表现为相同的姓氏);从以居住地为依据的诸侯国,扩展到以身份认同为主的民族国家(比如“炎黄子孙”就曾被用作与“夷狄”区分开来),人类对于“我的同类”的认定范围,不断的扩大开来,善待自己的同类,甚至可以为了保护自己的同类而作出自我牺牲,而这显然是不利于自己的基因延续的。
这种认同感扩大的原因可能有很多种,但都和基因,或者说和血缘渐行渐远;相反,人类的思想、感情、精神因素在其中的作用则越来越大。有些人是出于宗教上的认知,基于对死后生活或者下一世生活的恐惧与期待;另一些人则完全出自于道德和信念的考量,为了保护同类而甘冒生命危险,也并不追求有形或无形的报偿。战场上的军人、火灾中的消防员、面对恐怖分子的警察,都是身边常见的例子。
同时,这种高尚的品质,可以超越基因而传播下去——人类的语言和文字能力,让思想的传播不再依赖繁殖本身,以此克服 “无私的基因容易被演化淘汰了”的悖论。
无论是出于何种原因,借用道金斯在《自私的基因》一书中的话来说就是:“只有人类,才能够反抗基因的暴政”。
“同志”和“敌人”现代场景下的收缩和扩张 进入现代后,对于“谁是同类”的问题,又有了一些新的波动:既有所扩大,也有所收缩。
扩大方面,是人类把对“同类”的情感延伸到非人类物种身上。很多人已经能够对动物福利有所重视,不仅是对那些看起来很可爱的宠物,也包括不那么符合人类审美情趣但更需要保护的野生动物;连一些行为有趣的机器人都能获得人类的认可,包括那只飞到月球上的兔子。
这种扩大很有意思,因为这些被视为同类的生物,实质上对于人类的利益并无直接促进。
《圣经》中有一个著名的典故:耶稣说,你们要爱你们的邻居如同你们自己;一个律师就问说那谁是我的邻居呢?耶稣就举了“好撒玛利亚人”的例子,并说能够这样帮助别人的人就是你的邻居。不考虑宗教本身的教义,这里头对于“邻居”或者说“同类”的认定标准,还是带有一定的功利主义色彩的。也就是说,无论是基因还是价值观使得人类产生了舍己利他的行为,潜台词都是“这对人类整体利益而言是有益的”,但对于野生动物的保护则显然不在于此。
也可以说,人类此刻的共情已经超越物种间的界限,甚至超越了生物的本能。
而限缩方面,则主要体现在“敌人刑法”(Enemy Criminal Law)上。这个由德国法学家雅各布斯(Jakobs)提出的观点,简单而言就是对于“社会的敌人”要区别对待,不能给予他们和普通公民一样的法律权利,比如说允许秘密监听、限制出入境、延长审判前的羁押期限、缩短上诉期限等等;而“社会的敌人”主要指那些危害国家安全、实施恐怖袭击的特殊罪犯。
基于这种理论,美国在二战期间制定了《敌国侨民法案》,将大量的日本裔美国人“集中居住”,在反恐战争开打之后设立了关塔那摩监狱,将大批恐怖分子不定罪即羁押。很难说清这种做法是否正确,但它显然是将一部分敌对分子从“同类”的概念中剔除出去了。
此外,“谁是同类”的问题还存在一些争议区域。比如,克隆人算不算是人类呢?电影《银翼杀手》中就表现过这种深深的纠结。而另一部经典电影《E.T.》,抛出的问题则是:如果有外星生物,我们该把它们视为同类吗?它们会对我们保持合理的尊重吗?
人工智能会变成“我们”吗? 好了,绕了一大圈,该回到我们开头提到的主题上了:
如果一个人工智能,真的到了能够独立判断、独立学习的水平,它会把我们人类视为自己的同类吗?
如果AI走了大多数人类的路子,把人类也纳入了“同类”的范畴,那真应该庆幸,至少智能机器人在对待人类上不会肆无忌惮;而如果AI只把另一个AI视为同类,却不承认人类的“同类”地位,问题可能就会非常麻烦了。正如我们煮开牛奶时不会考虑细菌的痛苦一样,《黑客帝国》里“母体”把人类做成生物电池时,也没有有任何的负疚感。
至于如何促进AI产生对人类的认同感,有个例子或许可以借鉴:频繁接触、共同生活后,人类的移情作用往往会投射到宠物身上,甚至投射到扫地机器人和家用轿车上,产生了强烈的认同感和感情。
然而,事情究竟会朝着哪个方向发展,我们依然不得而知。或许某一天,一台真正意义的AI,会坐在门槛上望着夕阳,苦苦的思考着:“人类和另一个AI,谁才是我的邻居?”