返回上一页 文章阅读 登录

何怀宏:人物、人际与人机关系——从伦理角度看人工智能

更新时间:2018-08-11 22:13:37
作者: 何怀宏 (进入专栏)  
像国家这样的强制暴力固然还是不可缺少,但产生这样的暴力还是以“以暴制暴”为宗旨的,它针对的正是人类的暴力行为。虽然这种国家暴力也会被滥用,但如果它能遵守这一宗旨,且必须经过一定的法律程序才能实行,那么,它还是能被人们广泛接受。

   人类目前已经历了原始群体阶段的内部很平等和外部多暴力、农业文明阶段的不平等和少暴力、工业文明阶段的广泛平等和更少暴力的过程。人与自然物的关系近年虽有诸多改进,但还无法处在一种像人与人之间的平等地位。新出现的生态伦理学理论试图对此有所平衡,尤其是非人类中心理论如动物权利和动物解放理论,试图更加关怀和提升弱势生命的地位,但还是不可能做到真正平等。这大概也是人类道德不仅不可能,甚至也无必要去做的。生态伦理学中的一种整体观点可能更有道理,它也使我们联想到像古代斯多亚派那样的普遍宇宙理性,但它还是不能不给人类以更多的权重。

   人与物的这种不平等关系的根本原因,可能还是人与自然物是属于不同的存在种类,后者没有理性和自我意识,而所有有意识的甚至仅仅有感觉和生命的存在都会更优先地倾向于自身的保存。即便是按照整体论的观点,所有的生命都应该共生,所有的存在都应该共存,但每种生命都会本能地或者是有意识地优先考虑自身的生存,而不是优先考虑其他物种的生存。这也是有道理的。所以对人能够提出的道德要求,应该是人也应当尽量兼顾其他物种的生存,而并不是要求人类相比关心自己的生存更关心其他物种的生存。否则就可能脱离人性,甚至也脱离物性。

   那么,对于人与智能机器的关系,我们是否也可以从上述两个标准观察,考虑能够建立一种什么样的关系,并尽量地减少暴力呢?

  

人与智能机器的关系


   自从计算机和网络、机器人、生物技术、纳米技术等高科技问世且越来越快地发展,人类进入了一种新的技术革命。其核心或可称之为“数字革命“”算法革命”,或者更综合地说是“智能革命”的阶段。如果说以前的工业革命主要是以极高的效率解决人类体力所不及的问题,现在的智能革命却是以极快的速度解决人类智力所不及的问题。智能一直贯穿于人类征服自然的始终,今天看来还要独领风骚。

   随着这些技术革命和革新,人类今天进入了一个新的阶段,这一新的技术革命或许将使人类文明脱离“工业革命”“工业文明”的范畴。目前还仍然将高科技的发展归在“工业文明”的大范畴内,但未来或许要将这种智能革命带来的新文明独立出来,构成一个新的文明阶段,而“工业文明”或许还可归之于利用和改造自然物的人类文明阶段,未来的以人工智能为中心的文明则可能是一种创造全新的人造物的阶段。由此就给人类伦理带来以前从未遇到过的新问题:如何认识和处理人机关系?

   人类不仅一开始就要从生存发展的策略和技术上考虑人与物的关系,或者说人与自然的关系。人从精神文化上考虑这种关系也很早就开始了。最早的希腊哲学家试图认识自然世界的本质、构成、元素,以及人与自然共享和区别的东西,人与自然应该处在一种什么样的关系之中,等等。中国古代的思想家也提出过“道法自然”“天人合一”的命题。古人也曾提出和实行过种种维护自然环境和生态的一些规则,并在近数十年出现了系统的环境伦理的哲学理论。但是,迄今的确还难说有关于人机关系的系统伦理学理论。这缘由是什么呢?当然,最直接的一个解释就是:人工智能对伦理提出的挑战还是一个很新、晚近才出现的事物。

   但我们还可以结合也是晚近才进入我们系统性伦理思考的人物关系的论据,来更细致地回答这个问题:为什么我们过去几乎不重视甚至很少考虑人机关系的伦理问题?察看一下近年来环境哲学提出的有关应该注重人物关系的伦理,善待其他生灵和关心整个生态的论据,大致有以下几点:

   第一是感受性,这主要是对动物有效。其他动物也和人一样会感受到痛苦,虽然主要是生理上的痛苦,但也有心理上的痛苦,不仅有受害动物感受的痛苦,甚至也有它的同伴的痛苦。一只大雁被人击伤掉落了,不仅这只大雁感受到痛苦,它的同伴也常常会徘徊不去,哀鸣不已。第二是生命,这也包括了植物,植物也是有生命的。你拔起一株花,它很快就枯萎了。你砍伐掉一棵树,它也就永远不能郁郁葱葱了。

   第三是整体性,这包括了所有的自然物,尤其是地球上的自然物。不论是有生命的还是无生命的,它们构成一个人生活在其中的生态整体,从整体的观点来看,几乎也可以说是需要相互依存。第四是自然性,自然界是先于人类而存在的,自然物也是可以不依赖于人而独立存在的,而人却必须是依赖自然而生存的。最后可能还有一种自然给人带来的感受问题,自然万物常常能够给人带来一种美感,甚至还唤起人们的一种宏大感、深邃感、庄严感乃至敬畏感。基于上面的理由,人不仅应当善待动物,爱惜生命,即便是无生命的物体,也应当尽量保护它的原生态和自然性,保留一些原生态的荒野、湿地、雪峰等,维护整个生态系统的平衡。

   但以上这些理由似乎对人造的机器和机器人都不适用。它们是硅基原料或者加上金属,不具有我们人与动物共有的肉体感受性;它们看来也不具有会自己生长、变化和繁殖的生命,也不构成自然整体的一部分——它们在自然界本来是不存在的,只是人利用一些自然原料造出来的物体;它们也不会自然地给我们带来美感,或者说,优美与否是我们按照自己的审美观赋予它们的,是出于我们的设计,看来也唤不起一种宏大感和敬畏感。所以,此前人们对机器的态度是比对自然物差的,人们会根据自己的需要更加随意地对待它们:会拆卸、报废和处理它们。没多少人会想我们要像善待动物一样善待机器。保养它们也只是为了让它们更好和更长久地为我们服务。当然,也没有人真的恨它们,过去卢德分子捣毁机器其实主要是倾泻对人的怒火。

   但为什么我们现在需要认真地考虑人机关系的伦理问题?这变化可以追溯到什么时候?是什么因素使我们必须思考机器伦理的问题呢?

   工业文明早期,机器还是我们制造并完全可控的产品,并不存在伦理的问题。这一变化大概发生在机器开始自我学习、自我改进的时候,即出现了自动化机器,直到智能机器人的出现,这时机器开始拥有了人的一部分能力,即控物的能力、工具理性的能力,这也是人赖以战胜其他动物的能力。机器开始拥有了智能,拥有了工具或技术的理性——而这工具理性正是现代社会的人最为推崇和广泛应用的一种理性。机器在这些方面开始有些像人了,但在人的其他意识能力方面,比如说情感、意志、整体的自我意识方面,它们还不像人。

   但既然有了一部分人的能力,它们是否会发展到也将拥有自己的情感、意志乃至自我意识?如果未来的发展的确是这样,甚至在它们只具有人的一部分能力的情况下,我们是不是就应该开始考虑我们与它们的伦理关系问题?当然,促使人关心这一问题的一个最大潜在动因可能还是一个威胁的幢幢暗影——那就是它们会不会继续发展到在智能方面超越人乃至替代人?

   许多科学技术专家可能是一心专注于研制与开发,这方面我们得感谢文学艺术家,是他们的作品,包括许多科幻小说和影视作品,从一开始直到今天都在坚持不懈地提出各种可能的人机伦理问题。

   最早使用“机器人(Robot)”这个概念的捷克作家恰佩克,在1921年发表的作品《罗素姆万能机器人》中就很超前地提出了人与机器的关系问题。其剧中,发明和制造机器的人们动机各不相同,有的是为了利润,有的是为了科学,有的甚至是出于人道的理想——如主管多明就是希望能够将人类从繁重的劳动中解放出来,都变成享有尊严和闲暇的“贵族”。于是,公司制造的大量机器人在全球被用作苦力,而来到机器人制造公司的总统的女儿,则希望人道地对待机器人。十年后,机器人开始在全世界造反了,组织了国际机器人协会,杀死了这个工厂的管理人,结束了人类的统治而开始了自己的统治,虽然他们不久也遇到如何繁殖或复制自己的问题。

   科幻作家阿西莫夫在小说《转圈》中最早提出了给机器人设定的三个伦理规则:1.不得伤害人和见人受到伤害不作为;2.服从人的指令;3.自我保存。这是有序的三规则,即越是前面的规则越是优先,后面的规则不得违反前面的规则,机器人甚至不能服从人发出的伤害人的指令(如主人想要机器人帮助自己自杀的指令);机器人的自我保存不仅不能伤害人,也不能违反人的旨意。如果出现机器人即将伤害人的情况,或者即便不在这种情况下,但只要人发出了让机器人自杀的指令,它也必须服从。这显然是以人为中心的规范。

   要实行这些规则自然会有机器人判断的负担,即如何判断人——被伤害的对象和作为发令主体的人,这人是指发明制造它的人还是使用它的人,是指人类个体还是整体,因为他们之间是可能出现矛盾的?还有判断哪些情况会伤害人,以及在无法避免伤害人的情况下选择伤害哪个或哪些人;在不同的人发出不同的指令的时候,究竟服从谁的命令;等等。阿西莫夫在一些作品中也描述了其中的一些矛盾和困境。他不仅认真地考虑人机关系——当然,这种关系毫无疑义是不平等的,还试图明确地提出调节的伦理规则,这是一个很有意义的起点。

   后来的人们对这三个伦理规则有不少修改和补充,但都倾向于做加法,增多或提高要求,包括阿西莫夫自己,或是鉴于机器人可能成为恶人保镖的危险,自己也加上了一条更优先的零原则:“不得伤害人类整体。”但做加法将继续加重机器人判断的负担,还打开了误判或冒名和假托“人类利益”的缺口。


人机关系的伦理调节思路


   笔者现在尝试提出一种新的思路,一种不同于阿西莫夫,也不同于现在许多关心和研究机器伦理的专家的思路。

   简要地说,我们可以将现在使用的机器人分为两个层面:民用机器人的层面和国用机器人的层面。而目前人们考虑的人机关系的伦理调节大概有三个方向:一是对机器的价值规定和引导,如希望设计和培养智能机器遵循对“对人类友好”的指令,教会机器明辨以人为最高价值的道德是非;二是对其行为、手段的规范限制,如阿西莫夫规则中的“不得伤害人”;三是对机器能力的限制,尤其是防止通用的超级智能的发展。

   笔者认为第一个方向是不必要,也是不太可能的,甚至后面隐藏着很大的风险,且和后两个方向有冲突。而后两个才是我们应该努力的主要方向,但应用在民用机器人和国用机器人的不同层面上会有差别,具体陈述如下:

   一些学者认为可以给机器人预先设定让它们“对人类友好”的动机和价值观,或者说“为了人类最大的利益而工作”。但要设定这样的价值目标,就必须让它们发展自己的通用和综合能力,甚至获得一种自我意识。否则他们就无法担负判断的重负:比如怎样才是对人类友好,什么是人类的最大利益或整体利益。这些判断必须具有一种通用的、综合的能力,甚至需要一种全盘考虑,不仅要考虑人的物质利益,也要考虑人的精神和文化、感情的各种需求等。如此它也就需要和人一样或类似的自我意识,要全面地了解人。

但这看来是不可能的,它们不是碳基生物,不是灵长类动物,它们不可能具有这种生物的肉体敏感性,也没有领悟精神文化的能力——仅仅靠输入和记住人类的全部文献是不够的,那还需要历史的、无数活生生的富有情感和瞬间灵感的个人体验的积淀。而且,(点击此处阅读下一页)

本文责编:陈冬冬
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/111555.html
文章来源:《探索与争鸣》2018年第7期
收藏