返回上一页 文章阅读 登录

周剑铭 柳渝 李红萍:智能哲学:在AI前沿上人类伦理学的挑战与应战

更新时间:2017-04-11 18:12:23
作者: 周剑铭   柳渝   李红萍  

  

   周剑铭 柳渝 ( yu.li@u-picardie.fr ) 李红萍

  

   一、AI的伦理学问题成为了时代的焦点

  

   今天的AI已经把过去一些认为是耸人听闻的话题变成了无法回避的严肃研究,不仅传统的科学理论与技术实践以及两者的关系正在重构,而且在“科学”与“人文”两大分别的领域之间产生了挑战性的融合问题,面对AI的咄咄逼人的发展,一线科学家们不得不做出权宜的回答,由“生命的未来研究所”(Future of Life Institute,FLI) 牵头制定的“阿西洛马人工智能原则” (Asilomar AI Principles),就可以看作是一线科学家的一个伦理学的应急纲领。另一方面,传统的哲学、人类学、伦理学等却无法迅速进入到一线前沿,而迫不急待的工业、经济、金融、社会领域所激发的狂潮已经上升到一种国家意识,各国政府开始把AI的发展和工业创造力等作为全球竞争的战略问题提出并付诸行动。

  

   与西方国家对AI的研发不同的方面是,中国文化重视人和人性的中心地位,这使我们能在“中西文化” 和“科学与人文”的相对性中处于一种特殊的文化地位,我们能否在这样两种“两种文化”的交织中不失机缘?我们想在此提出这个问题,面对悠关人类自身利益的人、机伦理关系,期望在一种大格局下研究 AI 平台的伦理学问题。

  

   AI和Robot的发展对人类自身的地位和价值产生了影响,对此担忧由来已久,稍前一些,多家基金、各种研究机构都在关注AI伦理问题,其中由一些著名的人工智能问题专家、教授以志愿者的身份创立的“生命的未来研究所”,于2015 年1月11日发表了一封公开信:Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter(公开信:为稳健性和利益性的人工智能而进行研究),提出“我们的人工智能必须只做我们要它们做的”(our AI systems must do what we want them to do),即“有益的人工智能”(Beneficial AI)的口号。同样对这样的问题的高度关注,此前已经引起了业内外的广泛注意和严肃讨论并有所行动,如:IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems (IEEE 关于人工智能及自主系统的伦理考虑的全球倡议), AAAI 2008-09 Presidential Panel on Long-Term AI Futures( AAAI 2008-09 人工智能未来总统委员会), Partnership on Artificial Intelligence to Benefit People and Society(人工智能合作惠及人与社会) ,AI100 ( 人工智能百年研究计划 ),Ethics and Governance of Artificial Intelligence Fund( 人工智能伦理与治理基金会),Allen Institute for Artificial Intelligence (艾伦人工智能研究所 )等等。

  

   而更早的时候,在实体机器人出现之前的上世纪四十年代,就有了科幻小说家阿西莫夫(Isaac Asimov)著名的“机器人学三大法则”和以后的多种补充原则:

   LawⅠ:A Robot may not injure a human being or, through inaction, allow a human being to come to harm.

   第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;

   LawⅡ: A robot must obey 0rders given it by human beings except where such orders would conflict with the first  law.

   第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;

   Law Ⅲ: A robot must protect its own existence as long as such protection  does  not conflict with the first or second law.

   第三定律:机器人在不违反第一、第二定律情况下要尽可能保护自己的生存。

  

   这三条法则实际是把机器对人的服从作为机器的设计和制造的原则,并没考虑具有“自主能力”、甚或“自我意识”等超级人工智能的问题,而现在那种“高度自主的人工智能系统”(Highly autonomous AI systems)或被称为“强人工智能”或“通用人工智能”(Artificial General Intelligence ,AGI)等似乎已在敲门了,人类如何应对?

  

   在这个意义上,现在可以说,任何一家人工智能研究和开发的大公司、大企业或学术组织所进行的最尖端、最前沿的研究,实际上都是本质地相关人工智能的伦理问题。

  

   二、“阿西洛马人工智能原则”的核心思想:Beneficial AI

  

   2017年1月在美国加州Asilomar召开的“阿西洛马会议”(the 2017 Asilomar conference),包括844名人工智能和机器人领域的专家们联合签署了称之为“阿西洛马人工智能原则”(Asilomar AI Principles),呼吁全世界的人工智能领域工作遵守这些原则,共同保障人类未来的利益和安全。“阿西洛马人工智能原则”核心思想是Beneficial AI,我们解读为 “为了人和人类的AI”。

  

   在这些复杂和紧迫的形势面前,人类能够做出响应的只有基于人类历史中形成的基本伦理信念和长期的伦理学研究成果。面对人工智能迅速发展的现实所面临的伦理学上的迫切问题, 非专业伦理学的一线科学家做出的一个权宜的回答:“阿西洛马人工智能原则”,他们出于科学家传统的职业道德,基于人类的良知和对人类未来的理性关切,把人工智能直接参与的研究者、机构的伦理学问题作为主要对象,把Beneficial AI这个伦理学理念分散地表现在“阿西洛马人工智能原则”23条中, 其中具有纲领性的条目如下:

   第1项“研究目的”确定了人工智能研究的目的是创造服务于人、并为所控的AI和Robot这个原则,这个原则是人机之间的基本伦理保证,而这个保证最先由研究和开发人员的伦理意识体现和在研发中遵守;所以第16项“人类控制”表达了一种深切的期望。

   第2项“研究经费”中对人类资源、意志、价值体系的前提地位的保守和保护。

   第10项“价值归属”、第11项“人类价值观”、进一步提高为机器对人的价值的归属是高级人工智能的设计原则第9项“责任”则将这种人机伦理关系作为责任明确地加在研究人员身上;第12项“个人隐私”和第13项“自由和隐私”体现了人的尊严。

   第6项“安全性”是为研究工作设定的机器对人的保障的条件,第7项“故障透明性”、第8项“司法透明性”,是对人工智能现有研究、开发的工作制度和法制方面的伦理要求。

   第14项“分享利益”、第15项“共同繁荣”第17项“非颠覆”、第18项“人工智能军备竞赛”,这些是人类社会的伦理原则在人工智能研究领域中的体现。

  

   上述的这些内容都是基于人和人性理解的人、机伦理关系,“阿西洛马人工智能原则”最后一条23条“共公利益”甚至包括了“超级智能”(super intelligence),但这仍是在作为全人类整体利益的考虑,就是为了人类价值和利益的人工智能(beneficial AI),这种把维护人的伦理地位这个前提放在人工智能领域不同层次上多次予以申明,都是基于人的道德和人类尊严的朴素性,但机器或人工智能这个在发展中产生的不同于“自然”又不同于人类自身的东西究竟有何种本质、有何种伦理地位,仍是一个不确定的问题。

  

   “阿西洛马人工智能原则”是世界剧烈变化中古老的人类伦理学精神的觉醒,是剧烈变化和世界中人为捍卫人的地位和尊严的一种努力。“阿西洛马人工智能原则”实际上是所有关注AI和Robot的发展所产生的对人类难以估量的影响的长期观察和思考的一次集中性表达,在更深远的意义上,可以看作是科学家所代表的知识群体和人类的良知对人类自身的性质、地位和价值的一次严肃思考。

  

   三、AI平台上的伦理学基础理论问题

  

   人工智能的伦理学中最根本的问题是人、机的伦理学关系,而这种人、机伦理关系又取决于对“人”的意义、价值和地位的理解,这是一个最古老、最深刻的哲学问题,实际上这也是以伦理学问题成为东西方哲学思想中最根本的问题。哲学学科和众多的知识学科,特别是近现代以来的科学技术的发展使哲学、伦理学不断地分化、消散于名目繁多的学科理论之中,当现代人几乎淡忘了这些古老的智慧时,人工智能所面临的巨大预期、困惑甚至是恐惧迫使我们把人工智能的伦理学问题推到一个最重要的位置上。

  

   在人工智能研究最前沿领域中,最困惑人的问题是:有没有高于人的智能的“人工智能”,所谓的 “通用人工智能”、“强人工智能”、“高级人工智能”或“超级人工智能”,甚至于人与超级智能融合新的“超人”(尼采)、“变成神的这种动物”(尤瓦尔·赫拉利)……? “阿西洛马人工智能原则”第19项“能力警惕”中承认、但认为这是一个不能确定的问题,把这个问题归结为“不确定性”只是一种机智的回避,就是说,这个问题的实质是:在人与人工智能的关系之中,存不存在这种基于人类基本伦理信念的人、机之间的伦理关系?因此,一切似乎又回到最古老的哲学和伦理学问题,我们的伦理学基本信念和知识是什么?

  

迄今为止,人工智能的实体建构主要是建立在物理定律的基础上,物理实体不存在服不服从伦理学原则的问题,但建立在物理实体上的人工智能与基于生命实体上的人的智能有何本质不同,这一直是人类知识理论中最困难的问题,人们一直在等待回答,但今天,人工智能的伦理学问题已经迫使科学家做出一个权宜的回答,以应对作为科学技术研究活动的人工智能作研发中的基本伦理学问题,“阿西洛马人工智能原则”只是一个应急的解决,哲学、伦理学、人类学等专门理论必须直接研究人工智能的一般性质,(点击此处阅读下一页)

本文责编:zhenyu
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/103925.html
文章来源:爱思想首发,转载请注明出处(http://www.aisixiang.com)。
收藏