返回上一页 文章阅读 登录

邓小铁:伦理视角下的人工智能

更新时间:2018-04-04 17:01:14
作者: 邓小铁  

  

   摘要:本文从设计的角度探讨了人工智能进化对伦理的挑战,回顾了人工智能的进化历程及其影响力。从公平需求、个体偏见和群体行动一致性的可能性,以及伦理训练集设计的路线,寻求智能机器人伦理原则以及和人类融合的可能性。通过分析机器智能的大规模应用基础设施建设的总体解决框架,设计人类伦理嵌入智能应用系统的实施可能性。

   关键词: 智能体    伦理学    算法    进化    共识

   中图分类号: O234           文献标识码: ADOI: 10.19524/j.cnki.10-1009/g3.2018.01.001

  

   一、人工智能进化对伦理的挑战

   人工智能进化到今天,只不过是人类社会发展进程中技术进步的一部分,由此引起的伦理问题,是技术进步再次对人类伦理的挑战,值得关注。但为什么要将机器人行为准则中人类伦理的嵌入作为当前智能技术发展中的关切而进行专题讨论呢?今天的技术进步为什么被认为与过去有较大区别呢?

   伦理学伴随着人类社会的发展进程,是位列于美德和法律制度之间的规范群体行为的社会基本机能。美德是至圣的行为典范,法律制度惩罚罪恶。伦理学规范常人行为,使之在实践中遵行社会普遍接受的准则。然而,普遍接受或者是先验确认,如人之初,又或者是由成人前教育形成来建设一个社会伦理的共同基准。

   在我国古代诸子百家各种思辨论争中,墨子以“法仪”制订规则建立群体的一致行动。以“父母、学、君三者,莫可以为治法”为由,推崇“法天”,使人“兼爱兼利”从而“兼有兼食”,而以“天、兼爱、百姓”作为施政的根本[1]。如此,墨子伦理学说清晰地表达出建立人人共同行动、守法、平等、兼爱和共享的人类社会机理的期望。

   “道之以政,齐之以刑,民免而无耻;道之以德,齐之以礼,有耻且格”;突出表现了孔子伦理观中强调以德规范人性的特点[2]。《中庸》的“天命之谓性,率性之谓道,修道之谓教”[3]。提出以天命率性修道的方式来实现。孟子确认以恻隐、羞恶、辞让和是非[4]为基本内容的仁义礼智教化万民的重要性。到公元前134年董仲舒应答汉武帝贤良问策时提议“推明孔氏,抑黜百家”[5],中国伦理体系最终建立在儒家三纲五常的君臣父子夫妻和仁义礼智信的基础之上。

   在儒家的伦理框架中,阿西莫夫的科幻小说中对机器人的人伦定位恰好补入成为“君臣父子夫妻人机”。阿西莫夫的“儒家”伦理的机器人必须依序执行以下指令[6]:(1)不得伤人,或弃人于危难;(2)需服从人;(3)保护自己。与其相比,汉森公司的机器人索非亚于2017年10月成为沙特公民[7],并在英国ABC NEWS的访谈中以我们没有那么多的精神疾病为由,要求机器人比人类拥有更多的权利[8],从而脱离了阿西莫夫的“儒家”伦理的机器人框架。同年11月24日,机器人索非亚入选联合国开发计划署创新大赛的冠军[9]。

   当前挑战人类伦理的正是这位“婴儿”机器人,虽然我们很难对她的伦理学基础刻画出一个完整的框架,但一国政府、联合国开发计划署等国际组织至少应对她平等相待,这样我们可以有针对性地对达到“墨家”平等博爱的伦理学的机器人进行探讨。是否可以将机器人视为同类,兼爱和与其资源共享。

   可能的人机关系的简略分析还忽略了一个重要因素。事实上,机器人在一个功能一个功能地成长,会有一个广泛的难以用定量和定性区分的人与机器人的差距。特别不可忽略的一点是,与人类相比,机器人具有不同机件的优势。例如,AGV搬运机器人具有自动化程度高、自动充电、外形美观、成本低、安全、易维护、可预测、降低产品损伤、改善物流管理、占用场地小等特点[10]。乐高机器人在儿童教育方面的优点体现在:寓教于乐,充分发挥孩子的个性,提升全面思考、团队精神和动手能力[11]。自动驾驶机器人的驾驶性能安全,可缓解驾驶员疲惫感,剔除恶意行为,并减少交通拥堵,降低污染程度[12]。我们还可以继续列举下去。例如对人类能力予以强化的人机合作的功能。这将使由智能加强的人的能力远远超过普通人。人工智能的创始人图灵曾经预言会有一天世界由机器来掌控[13]。这个机器只需要用三种组件来建立,它们分别实施存储、执行和控制三种功能。图灵测试分析了由有限状态的数字计算机来模仿人类思想的物质基础和实现步骤。如今,我们看到,对于部分场景,图灵测试已经成功,证明了机器能够替代在某些领域有特长的人类。针对神学的反对意见“上帝给了人不朽的思维能力,而没有给予机器或者其他生灵”,图灵是在有神论的框架里提出了有力的反对意见。把机器与人的关系,对比人与动物的关系。人和动物近,与机器远。图灵把人类授予机器的智能比喻为人类替神诞生的另一婴儿。更进一步引用了伽俐略和哥白尼学说的历史来支撑他建立在计算机科学上的人工智能学说。

   如今,人工智能成功应用的深度和广度使超级人工智能从以往只是茶余饭后的闲谈,成为我们必须思考的紧迫课题。在自动驾驶、无人机、智能金融、AlphaGo与AlphaGo Zero面前,在人工智能确切地展示了其超越人类决策能力的今天,它的快速迭代迅速演变的能力更让我们的应对已经不仅仅是迫在眉睫。这个瓶中精灵集网络大数据和高速云计算用于机器学习方法论正在解决一个个过去专属人类智慧的科技发展和社会管理以及智力博弈的挑战,并正在一步步占据上风。如AlphaGO在围棋上可以轻易地打败任何一个人类选手,几乎彻底地摧毁了人类在这一棋类最后的自尊,甚至超出了图灵的预见。这样,人工智能加上机器人的复制和再生产的优势,是让任何人机之间的伦理都不能不面对的难题。这是我们探讨机器人伦理,极其需要建立说服力的一点。

   在以下的内容中,我们将讨论智能在对人类的挑战中,人类伦理嵌入时的计算挑战。讨论重点放在嵌入过程的逻辑可行性和计算挑战。从智能族群形成、共同进化,独立性和共识的角度,探讨可能的机器伦理和人类伦理的共同进化。

  

   二、智能的进化历程及其影响力

   生命元素的进程从细胞、动物到人类,可能的外星人以及咄咄逼人的机器智能,体现出和热力学第二定律的静寂完全不同的竞争环境下的神奇。其中生命从35亿年前的微生物[14]到30万年前的智人共同进化产生的人类智能远远超越了生命体的自然发展,到达自主创新的境界。Joseph Engelberger和George Devol于1959年建造了第一台工作机器人,用压力铸造替代了人类的危险工作岗位[15]。它最初的作用只是人类使用工具的延伸,被认为是一代工业创新的起点,从体力角度替代人类。今天的AlphaGO是一代在单项智能方面远远超越人类的智能型机器人。未来的发展,将如闵万里在“多体智能的进化之路”中所预期的,产生了多个智能体组成的集合,彼此互相通信、协调行动、形成智能交互系统[16]。我们所看到人类自身推动的进化,从能量革命的动力机车,到加快脑力分析的计算机,再到替代人类危险工作的机器人,直至超越人类棋类最优秀选手的AlphaGO。人类进化的元素,从体力革命的过去实现了到当今智力革命的转变。其进程之迅猛难以预料。

   回顾工业革命的进程,1769年瓦特发明第一台蒸汽机,开始了能量使用的第一步;1800年伏特研制出第一块电池;1946年电子数字积分计算机(ENIAC)在美国宾西法尼亚大学正式运行。如今人工智能的发展,产生了帮助甚至替代人类决策的智能机器人,用于自动编程[17]、实现机器学习算法[18] 和实现AI算法[19] 的自动生成器。至此,与人类伦理的交互,和过往技术进步相比,虽有特别之处,但没有根本性的变革。

   超级智能的预想,从不同角度预测着在这种模糊、不确定、剧烈变动的复杂互联网环境中试图发现一定的规律,谓之为全球大脑[20],或人工智神[21]。他们设想一个超级智能,囊括整个人类的全部知识,独立设计智能程序,使用全球数据,控制世上全部软件及关联设备。这样一个超越人类智能的形成,其巨大的体量,远远超越了人类反应的速度,即使作为一个慈善和悲怜的系统,也随时对人类的生存产生极大的威胁:如恶意病毒,无心的错误,环境尺度的因素,自生长进化的需求都会让我们逐渐失去实时干预的能力[22]。这一点,我们已经有了不少历史例证。特别值得关注的是控制大量资金的算法。2018年2月5日美国纽约股市的闪崩失去了史上最多的1175点[23] [24],被认定主要为交易算法的自主行为:上午股票市场逐步下降,而下午3点以后,算法加入,市场全线崩盘。这种AI智能投资行为的缺陷也被指为未来金融监管的研究课题[25]。为了对大量托管资金负责,我们难道不需要建立一个处理以毫秒计时的金融机器人自主行为的伦理原则吗?此外,还会有机器人参与重大决策的环境,有需要机器人做快速决策的场景,或者是广泛影响人类福祉的一个人写出的机器人算法的决定的实际问题。为此,我们必须有一个伦理的预判。

  

   三、智能机器人伦理原则及实现

   以上分析把智能机器人的伦理责任归结为三种:阿西莫夫式的儒家机器人、平等博爱的墨家机器人和索菲亚式的高级机器人。我们可以简称为儒智、墨智和索智。即使是索智机器人,她的意愿也是为人类创造更加美好的生活。这种对人类的一视同仁,最重要的原则是公平性,人工智能供给所有人使用的原则[26]。这一点看似容易,实行绝非容易。互联网的发展建立在一项类似理想之上:“网络中立原理”。它有多个类似的解释,核心是对用户一视同仁,不会对不同用户歧视收费。尽管其作用对互联网的巨大成功被公认为居功甚伟,但2017年也受到了新的挑战[27]。人工智能公平性原则的讨论中,我们能够实现的程度也会有一定的限制,需要寻求解决方案。

   除了人机关系中对人类一致性的原则以外,人工智能的安全性会是人类伦理嵌入的重要指标。例如人工智能的行为是否会违背人类伦理规范。很明显,人类本身也有偏见,或对立。但人类有能力克服个人或小群体的偏见,又可以容纳小群体伦理一定程度的多样性,达成群体伦理原则的一致性。从而产生群体民族国家的伦理。群体的伦理成长,对于人类来讲,至少对于我们现在的认知来讲,并非源于设计,至少不是指令型的嵌入。

   机器人群体中基本的伦理可以是通过指令集的设计,但另一可能是通过训练集,包括数据培训和在线调试。在线交互训练数据集对人工智能产生的伦理有极大影响力。而我们所知的人工智能的伦理嵌入的例子,是和人类的成长类似,有通过长辈的言传身教学会伦理的成分。人类长辈成功施教最著名的成功由2014年5月29日推出的微软小冰所实现[28]。而不同的在线环境,给我们展示的是被人类长辈带坏了的2016年3月23日上线的微软聊天机器人TAY[29]。这两事件表现出我们需要设计方案用于构建志愿者训练群体,来确认与人类交互训练其伦理素养的机器人?

   1. 人工智能的公平性

对于儒智机器人,这一点应该是毫无疑问必须直接实行,作为共享资源提供给人类的社会福利。而实施的第一步,是机器人如何认定人类:你是一个人吗[30]。这是图灵测试的一个变种。图灵测试的诉求是由人类实施的测试,试图将AI不被误认为人。而这里的人类身份认定是要让算法执行时能够不把机器误认为人。这样的算法称为反向图灵测试,(点击此处阅读下一页)

本文责编:frank
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/109297.html
收藏