返回上一页 文章阅读 登录

孙伟平:人工智能导致的伦理冲突与伦理规制

更新时间:2019-03-07 01:06:47
作者: 孙伟平  

   内容提要:人工智能是一种远未成熟的革命性、颠覆性技术,可能导致的伦理道德后果尚难准确预料。人工智能的应用范围极其广阔,人形智能机器人正在解构传统的人伦关系,数据搜集和分析、智能机器取代人工作正在引发各种伦理冲突,智能驾驶、虚拟现实正在带来各种伦理难题。我们必须立足时代和社会的重大变迁,对人工智能进行理智的价值评估,对人工智能的研发和应用进行有效的伦理规制。

   Artificial intelligence is a kind of revolutionary and disruptive technology which is far from mature.It is difficult to predict the ethical consequences that may lead to it.Artificial intelligence is widely applied.Humanoid intelligent robots are deconstructing traditional human relations.Data collection and analysis,intelligent machines replacing human work are triggering various ethical conflicts.Intelligent driving and virtual reality are bringing various ethical problems.Based on the great changes of the times and society,we must evaluate the intellectual value of artificial intelligence,and carry out effective ethical regulation on the research and development and application of artificial intelligence.

   关键词:人工智能/智能机器人/伦理冲突/伦理原则/伦理规制/artificial intelligence/intelligent robot/ethical conflict/ethical principles/ethical regulation

  

   人类正在迈入新颖别致、激动人心的智能时代、智能社会。人工智能不是以往那样的普通技术,而是一种应用前景广泛、深刻改变世界的革命性技术,同时,也是一种开放性的、远未成熟的颠覆性技术,其可能导致的伦理后果尚难准确预料。人工智能的研发和应用正在解构传统的人伦关系,引发数不胜数的伦理冲突,带来各种各样的伦理难题,在社会上引发了广泛关注和热烈讨论。如何准确把握时代变迁的特质,深刻反思人工智能导致的伦理后果,提出合理而具有前瞻性的伦理原则,塑造更加公正更加人性化的伦理新秩序,是摆在我们面前的一个重大课题。

  

   一、智能驾驶的道德责任归属

   智能驾驶是目前人工智能最典型、最引人注目的应用领域之一。智能驾驶通过导航系统、传感器系统、智能感知算法、车辆控制系统等智能技术,实现了自主无人驾驶,包括无人驾驶汽车、无人驾驶飞机、无人驾驶船舶等。

   智能驾驶是一种“新事物”,可能产生的经济和社会效益十分显著。以无人驾驶汽车为例,无人驾驶汽车的安全系数更高,据世界卫生组织提供的数据,目前全世界每年都会发生大量车祸,造成120多万人死亡,而大多数车祸都是由于司机的驾驶过错所致,智能驾驶更“冷静”、更“专注”、不易疲劳,这或许可以拯救许多人的生命;对于没有能力驾车的老年人、残疾人等,无人驾驶能够提供巨大的便利,在相当程度上重塑他们的生活轨迹。此外,以大数据为基础的自主无人驾驶还可以通过自动选择行驶路线、让更多人“分享”乘用,实现更少拥堵、更少污染,提高乘用效率等目的。当然,智能驾驶也并非“尽善尽美”,例如,不可能完全不产生污染,不可能“消灭”城市拥堵,不可能杜绝安全事故……在无人驾驶领域充当急先锋的特斯拉公司已经报告了多起事故。2016年5月7日,美国佛罗里达州一辆特斯拉电动汽车在“自动驾驶”模式下与一辆大货车尾部的拖车相撞,导致特斯拉电动汽车的司机不幸身亡。虽然无人驾驶导致的事故率相较普通汽车低,但事故隐患的存在仍然令人心怀忧虑。

   智能驾驶本身难以破解既有的道德难题,同时还导致或强化了一些恼人的“道德二难”。有人设想了这样一个场景:一辆载满乘客的无人驾驶汽车正在高速行驶,突遇一位行动不便的孕妇横穿马路。这时,如果紧急刹车,可能造成翻车而伤及乘客;但如果不紧急刹车,则可能撞倒孕妇。无人驾驶汽车应该怎么做呢?如果司机是自然人,这时完全取决于司机的经验,特别是当时本能的直觉或判断。可当智能驾驶陷入人类“伦理困境”的极端情形时,由于其行为是通过算法预先设定的,而事先的编程受制于没完没了的功利论和义务论之争,根本就没有给予类似的设定,它只能从大数据库中选取相似的案例进行类推。如果遇到的是完全陌生的情形,就只能随机地选择一种方案。众所周知,未知的领域总是无限大的,不可能将所有可能性都设想到,陌生的情形无论如何都难以避免,那么应该基于什么伦理原则对智能驾驶进行规范呢?

   对问题进一步思考我们会发现,智能驾驶颠覆了传统的人车关系、以及不同车辆之间的关系,突出了价值评价、选择中的一系列伦理难题。例如,智能驾驶颠覆了传统驾驶的伦理责任体系,令以驾驶员的过错责任为基础建立的“风险分配责任体系”陷入了困境。因为在智能驾驶导致的交通事故中,归责事由只有结果的“对与错”,既不存在驾驶员主观上的“故意”,也不存在驾驶员酒后驾驶、疲劳驾驶、情绪驾驶之类“过错”。又如,道德和法律规范的对象也变得复杂、难以确定了。假如无人驾驶汽车在行驶中发生交通事故,造成了一定的生命、财产损失,那么应该由谁——无人驾驶汽车的设计者、制造者,还是使用者,抑或是无人驾驶汽车自身——来承担相应的道德和法律责任呢?或者更尖锐地,智能系统本身是否可以作为道德、法律主体,承担相应的道德或法律责任呢?如果承认其主体地位,它又如何“承担”这种责任呢?

  

   二、虚拟智能技术的伦理后果

   “虚拟”是人的意识的功能之一。但人的意识的“虚拟”存在自身的局限性,如人脑能够存储的信息量有限,信息处理速度有限,思维的发散性有限,人与人之间“虚拟”镜像的交流比较困难,等等。符号、语言、文字、沙盘等技术都在不同程度上外化了人的意识中的“虚拟”功能,但“虚拟现实”却是现代信息技术、特别是虚拟技术发展的产物,智能技术的突破更是将虚拟拓展到了一个崭新的阶段。利用智能技术,机器能够自发地将人的语言、手势、表情等转化为机器指令,并依据这种已“读懂”的指令,通过“逻辑思维”和“类形象思维”进行判断,在此基础之上的“虚拟技术”能够令人身处“灵境”之中,产生身临其境的交互式感觉。

   虚拟现实可能带给人们神奇的虚拟体验。一个人甚至可以选择在身体上和精神方面成为一个不同的人,这是过去难以想象的。但这也可能导致一些新颖的伦理问题。人工智能医生可以基于医疗大数据、通过远程医疗方式进行诊断,甚至操控微型智能机器人钻进人的身体,在患者身上准确地实施各种专家手术。与此同时,传统医患之间那种特别的心理感觉——例如无条件的信任、无助时的托付感、温情的安慰等——往往荡然无存,医患心理上甚至可能形成一定的隔阂。智能秘书、教师、保姆、护理员等也可能导致类似的问题。

   在各种虚拟的电子游戏中,充斥着无视道德底线的色情、暴力等。例如,在一些暴力性游戏中,人们为了“生存”或者获胜,必须千方百计获取致命性的智能武器,肆无忌惮地进行伤害和杀戮,但在虚拟的电子时空,却根本感觉不到其中的血腥、残酷与非人性。因为没有面对面的愤怒对峙,没有物理意义上的肢体冲突,看不见对手的痛苦表情,此外,似乎也没有造成什么物理上的损害,游戏者往往不会产生任何犯错的意识和愧疚感。久而久之,这难免助长人的“精神麻木症”,影响个体人格的健康发展,甚至令人泯灭道德感,忽视甚至拒绝承担道德责任。典型的案例是:伴随电子游戏长大的一代美国士兵在航空母舰或飞机上发射了导弹,杀伤了大量对方的士兵或平民,却感觉若无其事、如同玩游戏一般。

   人们越来越多地生活在三维的电子空间里,终日与各种智能终端打交道,智能设备就像人自身的身体器官,人们越来越多地借助它、依赖它,或者说,离开了它,感觉难以正常的学习、工作和生活。这种虚实一体的虚拟生活充满了不可靠、不真实的幻象,令人难免产生荒诞、无聊的感觉。有些人特别是年轻人过度沉溺于此,觉得虚拟世界才是真实、可亲近的,而现实社会既落后又“麻烦”,现实社会中的人既“没有意思”又虚伪狡诈,从而变得日益孤僻、冷漠和厌世,产生人际交往、沟通的各种新障碍……有人感叹,虚拟交往既使人从来没有如此的接近,同时又令人觉得一切都是那么遥远——那种接近可能仅仅只是夸张的利益一致或趣味相投,那种遥远则可能是心灵之间亲密沟通的遥不可及。

   虚拟智能技术还在不断尝试突破,应用前景不可限量。虽然任何虚拟都具有一定的现实基础,但是,当意识虚拟被技术外化时,人所面对的是一个“虚拟”与“现实”交错、“现实性”与“可能性”交织的奇妙世界。虽然智能化的虚拟实在拓展了人们的生存与活动空间,提供了各种新的机会和体验,但同时,传统的道德观和道德情感正在被愚弄,伦理责任与道德规范正在被消解,社会伦理秩序濒临瓦解的危险。

  

   三、隐私权受到前所未有的威胁

   隐私权是一项基本的人格权利,有学者甚至认为,隐私是“人权的基础”。一般而言,隐私权是指自然人享有的私人生活安宁与私人信息秘密依法受到保护,不被他人非法侵扰、知悉、收集、利用和公开的一种人格权,而且当事人对他人在何种程度上可以介入自己的私生活,对自己的隐私是否向他人公开以及公开的人群范围和程度等具有决定权。隐私权被“侵犯”,是指未经当事人的许可而窥探、采集、泄露、使用了当事人的个人信息,影响了其合法权益和正常生活。

   现代社会对于个人隐私的保护已经形成共识。但以互联网、大数据、物联网、云计算为基础的人工智能对隐私权等基本人权造成了前所未有的威胁。生活在智能社会中,一切都可能被当作大数据而被记录,记录可能详尽、细致到出人意料的程度,隐私权已经陷入了风雨飘摇的困境。例如,各类数据采集设施、各种数据分析系统能够轻松地获取个人的各种信息,如性别、年龄、身高、体重、健康状况、学历、工作经历、家庭住址、联系方式、社会身份、婚姻状况、亲属关系、同事关系、信仰状况、社会证件编号,等等。在个人信息采集、各种安全检查过程中,例如机场、车站、码头等常见的全息扫描三维成像安检过程,乘客的身体信息乃至隐私性特征“一览无余”,隐私泄露、公开往往令当事人陷入尴尬境地,并常常引发各种纠纷。

在人工智能的应用中,云计算已经被配置为主要架构,许多政府部门、企业、社会组织、个人等将数据存储至云端,这很容易遭到威胁和攻击。而且,一定的智能系统通过云计算,还能够对海量数据进行深度分析。将学习和工作经历、网络浏览记录、聊天内容、出行记录、医疗记录、银行账户、购物记录等或直接或看似没有什么关联的数据整合在一起,就可能“算出”一个人的性格特征、行为习性、生活轨迹(点击此处阅读下一页)

本文责编:陈冬冬
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/115394.html
文章来源:《教学与研究》第20188期
收藏