返回上一页 文章阅读 登录

段伟文:面向人工智能时代的伦理策略

更新时间:2022-02-18 09:47:33
作者: 段伟文  

  

   一、人工智能来了,未来需要我们吗?

   21世纪刚刚来临时,当时著名的太阳微系统公司的创始人、首席科学家比尔·乔伊(BillJoy)发表了一篇《为什么未来不需要我们》(WhytheFutureDoesn’tNeedUs)的文章。他指出,在21世纪,人类拥有的最强大的三种技术——机器人技术、基因工程技术和纳米技术——正在使人类自身成为濒危物种。1与此同时,雷·库兹韦尔(RayKurzweil)在《灵魂机器的时代》2《奇点临近》3等书中则乐观地指出,人类将在机器的帮助下获得永生。在当前的人工智能热潮中,机器人和人工智能会不会超过人类智能,是否会取代人的问题再次备受关注。乐观主义者认为,全面超越人类智能的超级人工智能一旦出现,将为人类带来新的文明跃迁。悲观主义者则认为,人工智能对人类智能的超越将打破人类智能在地球的绝对优势,即便不会出现“机器觉醒”——机器人和人工智能统治人的情形,人工智能的发展也可能使人类自身变成多余的物种或无用的人。不论这些观点所描述的未来是乌托邦还是反乌托邦,可以都以它们为参照,立足人工智能发展的现实,系统地展开人文或哲学社会科学的反思,以此深入思考人工智能等未来科技发展的上限和下限,找到人类可以普遍接受的深度科技化的前景。

   人类未来究竟会是一幅怎样的图景?未来图景一是融合科技与后人类发展。依照这一图景,除了人工智能可能发展出超级人工智能之外,纳米、生命、认知和信息等融合科技将使人类的认知与智能增强成为可能,甚至与人工智能和机器人融为一体,乃至可以通过意识上传和身体替代而获得永生。例如,可以通过药物、基因技术等实现认知与智能增强,如服用聪明药可以使人的智能得到改善。此外,可以通过读心术、读脑术、认知介入技术、人机融合的“赛博格”技术等,走向超人类或后人类。例如,不仅人的而且动物的记忆都有可能被移植。但这些技术若能得到开发并付诸应用,必将带来一些难以回避的问题。人类不得不思考的是,人之所以为人,一个最重要的因素是具有自主性,认知介入技术的发展会不会使人的自主性受到冲击?人还有没有认知上的自由?把别人的记忆移植到某人的大脑以后,怎么知道认知是移植过来的还是自身的?

   未来图景二是机器掌控世界。机器智能超越人类智能,机器可以在无人监督的情况下自主学习、自行决策甚至自动升级,人类的命运因此可能在很大程度上为机器所掌握。如果机器智能在功能上超越人类智能,甚至从其心智中涌现出意识和自我意识,人类是否会被机器消灭,取决于人类赋予机器智能的伦理架构是否能在终极意义上,使智能机器遵循机器人三定律等伦理义务或绝对的道德命令。如果机器智能在功能上超越人类,但不可能生成意识和自我意识,人类很可能因为对机器的依赖越来越强,而将越来越多和越来越复杂的任务交给机器处理,最终越来越无力掌控维持人类社会运转的复杂决策和行动,不得不逐渐将命运在事实上完全托付给机器。在此不可逆的未来情境中,即便人类认识到不应该由机器掌控世界,也会因为对机器的高度依赖而无法通过关闭机器重获主导权。

   未来图景三是人类依然保持对机器的控制,但出现了难以消弭和日渐扩大的智能化鸿沟。在此未来情境中,机器和社会为少数掌握权力、资本和创新的精英所控制,人口中的大多数越来越多地放弃工作而成为社会系统中不必要的“累赘”,即所谓“无用阶层”的出现。而“无用阶层”无疑会对社会治理带来巨大的挑战。如何对其进行心理疏导和社会管控?如何从心理和精神层面对其进行智能化的引导和校正?由此也可能会带来更为复杂的问题,特别是可能出现智能算法的非人格化权力在对不同群体的赋能和授权上的不平等,以及由此形成的渐行渐远的智能化鸿沟等根本性分歧。

   透过这些可能的情景构想,人工智能和智能化的未来发展将呈现诸多不易解决的难题。首先,人工智能与智能化发展可能会导致社会不平等的激化与极端化。与以往的自动化及网络信息技术一样,人工智能和智能化的发展日益呈现出对就业的冲击,“机器换人”可谓愈演愈烈,而这一冲击很可能加剧甚至激化社会群体的不平等。一般而言,自动化与信息化的发展替代了一些劳动力,其创新红利也带来了就业的增加。从作为智能化先导的自动化与信息化的发展可以看到,的确出现了低报酬的简单技术职位与高报酬的高新科技职位同时增加的现象。但问题是,一方面,资本对利润的追逐使得高收入与低收入之间的差距越来越大。在巨大的资本投入的影响下,网络与金融结合下的科技金融进一步放大了这种不平等,使得互联网和金融等行业的分配体系十分扭曲。在网红经济中,网红与明星不合理的高收入,也是拜当下网络媒体或智能化的发展背后的巨大资本投入所赐。当前的大数据、人工智能热潮与互联网的发展一脉相承,在很多人工智能的应用领域,收入的差异与不平等也呈现出类似的两极化趋势。另一方面,智能化的发展将使职业变更日益频繁,由于低报酬的简单技术职位的知识与科技含量不高,相关从业者的学习能力有限,转换新职业的能力较弱。因此,人工智能等智能化技术的发展对就业适应能力差的低收入从业人员的冲击尤其值得关注。

   其次,人工智能对就业的冲击难免进一步引发人们对智能化未来带有一种根本性的忧思:面对人工智能与智能化的发展,人类还剩下哪些不会被机器取代的优势?这也可以说是一种危机意识。为此,不妨列一个所谓的“人类剩余优势清单”:智能化时代来临以后,到目前为止,人类至少在创造性与变通性、社会知觉、谈判艺术和论证能力等方面胜机器一筹。

   最后,信息化与智能化的发展已经或可能会带来一系列困扰人类的疾患,如虚拟现实成瘾、辨别现实障碍、身份认同焦虑、机械移植排异、超智能精神失常、机器人恐惧症、自我刺激成瘾、寿命延长倦怠等。在这些问题背后更为根本的一个问题是,近半个多世纪以来,多元主义与反基础主义等思想的滥觞固然有治疗激进主义与独断论之功效,人类文明似乎已经在思想层面放弃了对人的发展和演进具有一定之规的统一陈述。毫不夸张地说,面对深度科技化的冲击与挑战,人类的各种利益纷争和价值纠结愈益盘根错节,人类在整体上其实已经迷失了发展的目标和方向,而只能一边在经验主义、功利主义和实用主义的裹挟下盲目前行,一边祈祷宙斯和雅典娜继续赋予人类得以幸存的好运气。笔者无意回应这一重大问题,而仅就面向人工智能时代的伦理策略论述一二。

   二、数据智能的兴起与解析社会的来临

   从科幻和未来图景回到现实,人工智能当下发展的主要特征是数据智能兴起与解析社会的来临。当前的人工智能热主要得益于数据智能即数据驱动的智能发展,各种人工智能应用方兴未艾的基础是对数据的认知计算和机器学习。所谓数据就是一切可以以电子化形式对人和世界的记录。随着移动智能终端、监控与传感技术、普适计算、身体与生物信息采集、大型科学装置与数据密集型科学等方面的发展,各种类型的数据呈指数级增长,数据对人的状态和行为的记录无处不在,不管是主动还是被动,每个人和各种事物都是数据的贡献者。由此,数据与存在如影随形,甚至可以说“数据就是存在”“世界等同于数据”。

   数据智能的实质就是透过对数据的自动化、智能化认知分析人的行为,建立在数据智能分析之上的人类社会可以称之为解析社会。就像17世纪,笛卡尔提出解析几何这一精确地分析运动轨迹的方法一样,数据智能可以对人的行为轨迹加以记录和解析并实施相应的引导和调控。一切都将被记录,一切都将被分析,建立在数据智能之上的社会正在走向解析社会。

   数据智能对人类社会的洞察如同透镜对自然界的透视,可以称之为数据透镜。13世纪时,人们发明了透镜,后来又用它制造出了望远镜和显微镜,从微观到宇观天体系统,整个世界的自然图景得以呈现和改变。17世纪时,统计学的早期倡导者威廉·配蒂(WilliamPetty)写了本名为《政治算术》(PoliticalArithmetic)的小册子,将数据的价值提升到了统治基础的高度。如今,人们开始运用数据智能这一数据透镜从各种可量化的层面,对个体和群体进行社会计算,在记录、解析、引导和调控人的行为的基础上,对个人和社会进行管理和治理。基于数据智能的计算社会学和新社会物理学认为,通过数据智能的解析,甚至可以站在“上帝的视角”来看整个社会和组织是怎样来发展的。在城市管理中,数据智能的发展使网格化管理向“城市大脑”的方向发展。在组织管理中,对包括微表情在内的人的行为数据的记录,可以监测并建议人们在讲堂或会议中如何更加集中注意力,如何互动,而这种调控对人的控制力应该是很强的。换句话说,借助数据透镜可以对人的行为进行智能化的调节。

   在数据智能的应用中,数据成为计算、分析、评价、预测人的行为的素材与资源。虽然各种数据在采集时本来只有单一的目的,而一旦记录下来以后,根据需要就可以有多重目的与各种各样的用途。不同的数据整合后会带来意想不到的效果。比如,把一个人的医疗数据和他的犯罪数据结合在一起,可以判断这个人可能是真的因为有某种精神疾患才去犯罪。有人在一些网站点击了某些商品,马上就会有推销的电话打过来,对方知道某人的电话可能是因为某人在注册时登记的,也可能由网络服务商或第三方的不当个人数据泄露所致。通过对不同的数据整合与分析,就使得它们成为反映和折射事实的素材,用于评价人的状况和行为。因此,数据智能所带来的解析社会首先表现为每个人的行为都会得到量化的评价。

   在基于数据智能的评价型社会中,人类所产生的各种数据被当作事件和过程加以分析和调控,即数据智能通过对人的行为的评价来调节人类自身的行为。在网络购物和网约车的使用中,各种应用软件会对使用者进行评分,如果频繁取消“滴滴”的叫车服务,软件会“记仇”——因为评分下降,在特别需要叫车时,可能会得不到派车。软件还可以根据某人是否愿意在着急的情况下加价支付以及每次加多少,评价某人的性格特征,甚至难免用于对某人的算计。由于各种数据都可以从不同侧面反映人的人格与行为特征,信贷、保险等行业已经开始使用行业之外的大数据评价客户。假如一个人有不当的路怒行为或在某些场所与他人发生过冲突,保险公司有可能获得这些事件的记录数据并对其加以分析,某人很可能就要交数额较高的保费。其实,这种评分体系一直就有,只不过是在数据智能出现以后,使用的大数据资源更广,分析与评价的自动化和智能化程度更高,其应用越来越朝着规模化的方向发展。

   美国的一些法院已经在使用一些特定的算法预测犯人再次犯罪的概率,并据此决定是否假释。随着各种大数据集的建构以及数据智能的普遍应用,这种预测犯罪概率的算法将更为智能化和普及,甚至用于对潜在的嫌疑对象没有实施的犯罪的预测、控制和打击,而这种治未罪的做法显然不同于一般对嫌疑犯无罪推定的做法。但问题是实行这些评价的数据模型和智能算法一般被当作行业和部门的机密,被评价者往往不知道它们的存在,对于非专业人员来说它们如同黑盒,对其一无所知。评价一旦出现偏差,不仅很难加以纠正,而且会被视为一种合理的结论,使偏差持续强化而造成恶性循环,甚至会通过数据的跨领域运用导致附加伤害。

近年来,基于数据智能的智能化生活已经初现端倪。其一是量化自我,在可穿戴技术的推动下,量化自我运动的实践者运用运动手环等各种可穿戴设备,对人们的健康状态和运动情况进行量化评价和管理,并在微信等社交软件上展示。但这在一定程度上也是人屈从于机器的一种表现,而实际上有很多东西是不可量化的。其二是智能陪伴,随着人工智能和机器人技术的发展,各种陪伴机器人、智能音箱、记忆管家将得到普遍应用。由于这些技术还在发展之中,难免出现体验不佳、言行误导和成瘾等负面后果。尤其值得关注的是,智能陪伴将使个人的所有活动数据得到全面的采集,这些数据的采集与使用无疑将在法律和伦理层面带来巨大的挑战。(点击此处阅读下一页)


爱思想关键词小程序
本文责编:admin
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/131561.html
收藏