返回上一页 文章阅读 登录

郑戈 :人工智能与法律的未来

更新时间:2017-11-11 10:00:42
作者: 郑戈  

   第四,这些掌握人工智能应用技术的企业,可以用人工智能来分析任何数据,包括消费者行为数据、政府决策数据、立法数据和法院判决数据,并生成对策。这些对策有些要求线下的人际沟通,而有些则完全可以通过线上操控来完成,比如谷歌和百度的搜索结果排序,京东、亚马逊和淘宝的有针对性的商品推荐,等等,从而诱导个人消费行为和政府决策行为、立法行为。而这种诱导往往以非常隐秘的、合乎人性的方式展开,不会让人觉得有什么不好的事情正在发生。

   由此导致的结果便是,人们都“自愿服从”于某种他们看不见的力量,而这种力量借助“人工智能”的超强“脑力”使得法律和监管完全找不到对象,乃至被它牵着鼻子走。用脸书(Facebook)创办人扎克伯格的话来说,我们正在进入“算法”而不是法律统治人的时代。而算法在表面上就缺乏法律的无偏私性和一般性:它毫不遮掩地服务于设计者植入其中的目的。

   第五,一旦人工智能被应用于本来就充满流动性、风险与不确定性的金融市场,便可能带来既无创新价值,又危害巨大的灾难性后果。2010年5月6日,美国股市发生了“闪电崩盘”,一万亿的资产价值瞬间蒸发,股价齐跌9个百分点,道琼斯指数急落1000点。美国证券交易委员会(SEC)花了半年的时间才搞清楚发生了什么:原来是不同炒家的计算机程序在相互竞争的过程中导致了失控,在这个被称为高频交易的神秘世界里,这些系统可以“迅雷不及掩耳”地收割小型获利机会,还可以相互探测和利用彼此的交易策略。

   像这样的人工智能对决不仅存在于股票市场,还存在于任何投机性的多方博弈市场。事后追责型的法律对策,无法阻止人们在巨大利益的引诱下,利用人工智能进行这种损害范围无法控制的赌博式行为。

   在人工智能所带来的人类生活世界的一系列改变中,以上只是几个比较突出的直接挑战传统法律应对模式的例子。随着人工智能应用领域的不断扩大(这是必然会发生的),它对现代法律体系的冲击会越来越强烈。

   然后,习惯于在固定的思维框架(法律教义)中来思考问题的法律人,很难跳出这种框架去面对和理解日新月异的社会事实。在下面一节,我将以欧盟的“机器人法”立法建议以及美、德两国的无人驾驶立法为例,来说明这种传统思维方式在应对人工智能问题时的局限性。

  

   人工智能对法律职业的冲击

   (一)人工智能的“法律人格”

   1942年,美国科学家和科幻小说作家伊萨克·阿西莫夫,在短篇小说《转圈圈》中提出了“机器人的三条律法”:第一,一个机器人不得伤害一个人类,也不能因为不作为而允许一个人类被伤害;第二,一个机器人必须遵守人类施加给它的规则,除非这些规则与第一律法相冲突;第三,一个机器必须保护自己的生存,只要这种自我保护不与第一或第二律法相冲突。但机器人发现自己无法同时遵守第二和第三条律法,因此它陷入了不断重复自己先前行为的循环。

   这种情况不会发生在人身上,也不会发生在其他生命体身上,因为,正如霍布斯所说,自我保存是第一自然法。人会本能地在自我保存与勿害他人之间选择前者。逆此而行的利他主义行为有时也会发生,但要么是道德教育或宗教信仰的结果,要么是出于保护后代的延伸性自我保存目的。只有严格按照人类植入其程序(算法)之中的规则来行事的机器人,才会陷入这种无解的怪圈。

   在阿西莫夫提出机器人三大律法的前一年,德国工程师康拉德·楚泽刚刚发明世界上第一台能执行编程语言的计算机Z3,这套继电器式计算机只能存储64个单词的内容,而且运行速度极其缓慢。显然,阿西莫夫还很难想象今天任何一部普通个人电脑的计算能力和存储空间,更不用说互联网和云计算了。因此,他把机器人想象为一个具象化的、能够伤害人的身体也能被人伤害的物体是可以理解的,而且实际上已经是非常有远见的。但如今的法学家们仍然以这种拟人化的想象来理解机器人,试图制定规范来约束它们的行为,甚至赋予它们法律主体资格,这便显得有些不合时宜了。

   2016年,欧洲议会向欧盟委员会提出报告,要求制定民事规范来限制机器人的生产和市场流通。其中第50(f)项建议:“从长远来看要创设机器人的特殊法律地位,以确保至少最复杂的自动化机器人可以被确认为享有电子人(electronic persons)的法律地位,有责任弥补自己所造成的任何损害,并且可能在机器人作出自主决策或以其他方式与第三人独立交往的案件中适用电子人格(electronic personality)。”

   但在如何落实这种“法律人格”所必然带来的民事行为能力和责任能力规则时,这份报告并没有提出具体的方案。如果机器人对人造成了损害,究竟是适用罗马法中的“缴出赔偿”(noxoe deditio)原则(即把机器人交给受害者或其家属处置),还是让机器人支付赔偿金或坐牢(在这种情况下,最终承担责任的仍然是机器人的“主人”,因为机器人不可能有独立的收入,限制它的“自由”则等于剥夺了其“主人”的财产权)?

   由此可见,机器人无论以何种方式承担责任,最终的责任承担者都是人,这使得它的“法律人格”显得多余和毫无必要。

   实际上,这份报告在具体的规则设计部分也自动放弃了适用机器人“法律人格”的努力,比如,它提议制造商为他们的机器人购买强制性保险。此外,还要设立专门的基金来补充保险机制,主要的出资人也是制造商、经销商和其他利益相关者。这套保险机制的覆盖范围不仅是机器人,还包括机器管家、无人驾驶汽车和无人机等。该报告还提议设立专门的“欧洲机器人和人工智能局”来管理被归类为“智能机器人”的机器。这体现了传统的官僚机构思维方式。

   这份报告指出,机器人的销售在2010—2014年间增加了17%。涉及机器人的专利申请在十年间增加了三倍。德国人均拥有机器人的数量已位居全球第三,仅次于韩国和日本。仅在2015年,全球销售的机器人就达到50万个左右。预计到2018年,全球将有230万个机器人在活动。但它并没有提供这些机器人实际造成损害的数量和类型。

   德国主要的工程和机器人行业协会VDMA发表了反驳声明,指出政治家的担心是科幻小说看多了的结果,目前人工智能给人类带来的好处远远多于坏处,立法者不应该仓促出台规制措施来阻碍工业4.0的发展。在具有无限潜力的人类发展领域,充分的讨论是有必要的,但没有必要制定出详细的法律规则。

   (二)自动驾驶汽车

   2017年5月,德国联邦议会和参议院通过了一部法案,对《道路交通法》进行了修改。它允许高度自动化和完全自动化的汽车作为交通工具上路。但为了符合1968年《维也纳道路交通公约》第八条“每一部车辆在行驶时都必须有驾驶员在位”的规定,它没有允许自动驾驶汽车变成“无人驾驶”汽车。它规定,当自动驾驶系统启动之后,司机可以转移注意力,比如去读书或上网,但她必须保持足够的警觉,以便在系统发出请求时恢复人工控制。它还要求高度或完全自动化汽车安装记录驾驶过程的黑匣子,在没有卷入交通事故的情况下,黑匣子信息必须保存半年。如果自动驾驶模式正在运行过程中发生了事故,责任在于汽车制造商。但如果自动驾驶系统已经发出了请求人工控制的信号,责任便转移到了汽车上的驾驶人员身上。

   在这部法律通过之前,法学家弗尔克·吕德曼(Volker Ludemann)教授曾经在联邦议会发表专家意见,指出法律草案有四个缺陷,这些缺陷虽然后来部分得到了修正,但其给司机带来的不确定性以及隐私问题却仍然存在。

   在新法下,司机不知道该怎样做才能避免法律责任,自动驾驶汽车无法实现真正的“无人驾驶”,也就是车上只有乘客而没有驾驶员,阻碍了自动驾驶汽车的商业化发展。试想,如果一个人花比传统汽车贵得多的价钱购买了自动驾驶汽车,却时刻必须保持警觉,而且要在自动驾驶系统控制汽车操作一段时间后瞬间介入,应付紧急情况,这实际上对驾驶员提出了更高的要求。

   新法把自动驾驶汽车造成人身伤亡的最高赔偿额度提高到1000万欧元,比原来的最高赔偿额度增加了一倍。虽然这笔赔偿在多数情况下将由保险公司支付,但保险公司无疑会提高保费,这也增加了自动驾驶汽车车主的负担。此外,黑匣子信息保留半年的规定也增加了个人数据和隐私被滥用的风险,因为自动驾驶汽车上遍布的传感器和摄像头会记录下非常多的个人私密信息。

   与德国立法模式相对照,2017年9月在美国众议院通过的《自动驾驶法》(Self Drive Act)则采取了一种完全不同的思路。它没有改变现有的道路交通规则和与事故责任相关的侵权法规则,而是用宪法和行政法的思维方式划分了联邦与各州之间在规制自动驾驶汽车方面的责任,明确了交通部在确立自动驾驶汽车硬件安全标准、网络安全标准、公众知情标准等方面的具体义务和履行时间表。

   其中第12条强化了隐私权保护,要求制造商和经销商只有在提出了满足一系列具体要求的“隐私权保障计划”的前提下,才可以供应、销售或进口自动驾驶汽车。这些要求旨在确保自动驾驶汽车的车主和使用者对自己的个人数据和隐私有充分的控制能力,不至于在自己不知情的情况下任由制造商或程序设计者使用自己的个人数据。这部法律目前还没有在参议院获得通过,其内容还可能会有进一步修改,但基本框架应该不会有大的改变。

   (三)算法设计者必须遵守的伦理规范

   与上述约束自动驾驶汽车制造者和使用者的规范不同,德国交通部长任命的伦理委员会最近提出的一个报告,展现了一种完全不同的思路:要求算法(即软件)编写者遵守一系列伦理法则。其中提出了20条伦理指导意见,核心是把人的生命放在首位。比如,其中第七条要求:在被证明尽管采取了各种可能的预防措施仍然不可避免的危险情况下,保护人的生命在各种受法律保护的权益中享有最高的优先性。因此,在技术上可行的范围内,系统必须被编程为在权益冲突时可以接受对动物和财产的损害,如果这样可以防止人身伤害的话。第八条规定,诸如伤害一个人以避免对更多人的伤害这样的伦理难题不能通过事先编程来处理,系统必须被设定为出现这种情况下请求人工处理。

  

   法律如何更加“智能”地应对人工智能

   正如尼古拉斯·卡尔所指出的那样,人工智能是历史悠久的人类工程学的最新发展,而人类工程学是艺术和科学结合的产物,它是为人类追求真善美的目的而服务的。人类不能被人工智能不断增长的能力牵着鼻子走,乃至被带入完全不受人类控制的未来。在笔者看来,为了更好地应对人工智能带来的新风险,在保护创新的同时确保人类生活的美善品质,可能的法律发展包括以下几个向度。

   首先,现有的法律模式没有摆脱传统的具象化乃至拟人化思维方式,仅仅将有形的智能化机器或“机器人”纳入规制范围。但是,正如本文已经明确指出的那样,这些有形的机器只是人工智能的一种表现形态,即“人造劳动者”,它们都受一种无形的、弥散化的智能的控制,这种被称为“合成智能”的由算法、网络和大数据组成的无形、无界的存在,才是人工智能的智能所在。

   正如李彦宏等敏锐地指出的那样:“……也许真要靠算法的顶层设计来防止消极后果。人工智能技术可能不只是理工科专业人士的领域,法律人士以及其他治理者也需要学习人工智能知识,这对法律人士和其他治理者提出了技术要求。法治管理需要嵌入生产环节,比如对算法处理的数据或生产性资源进行管理,防止造成消极后果。”这种“顶层设计”,我们可以称之为“人工智能社会的宪法”,它的制定或生成需要法律人和程序员、人工智能专家的合作,以便使算法进入法律,法律进入算法,从而使人工智能的基础操作系统符合人类的伦理和法律。

   其次,为了做到这一点,政府应当在发展人工智能方面加大投入,吸收更多的人工智能人才参与立法、行政和司法工作,避免使自己远远落后于商业力量。这在我国比较容易做到,因为顶尖的大学和科研机构都是国家资助和管理的。如果这些人才中大多数都转而为商业机构服务,不仅无法体现社会主义的优越性,也不利于让人工智能向服务于社会公共利益的方向发展。

   再次,从现有的各国立法模式来看,欧盟和德国直接修改民事规则和交通法规的做法,是在事实不清、需要解决的问题不明朗的情况下做出的仓促选择,既不利于鼓励创新,也不利于保障公民的权利。在目前这个阶段,比较稳妥的方案是美国式的公法模式,指定一个现有的政府部门负责确立相关的行业技术标准、安全标准和个人数据保护标准,而这个标准不应当是自上而下武断强加的,而应当是对行业自身所发展出来的标准与公共利益、个人权利保护原则的综合考量,其制定程序应当遵循公共参与、听证等行政程序规则。

   最后,德国的自动驾驶汽车程序设计伦理规范是一个可取的思路。由于人工智能的核心在于算法,算法的设计决定着智能化机器的“行为”。而对于普通人和大多数立法者、执法者和司法人员来说,算法是一个“黑箱”,人们只能看到它所导致的结果,却无法看到它的运作过程。

   制定相关规则来约束算法设计者的行为,在发生可疑后果的时候要求程序员用自然语言来解释算法的设计原理,并且追究其相关责任,这显然是一种治本之法。但正如德国模式也只是把这种思路落实为建议性的伦理规范一样,这种规则变成法律仍有很大难度,需要立法者、执法者、司法者和公众都有一定的人工智能知识,能够及时发现可能由算法导致的危害性后果。

   在人工智能知识像“普法”一样被普及开来之前,一个过渡性的做法是设立由相关领域专家和法律职业人士共同组成的伦理委员会或“人工智能法院”,按照风险防范而不是纠纷解决的思路来处理相关规则的落实问题。

  

本文责编:frank
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/106807.html
文章来源:《探索与争鸣》2017年第10期
收藏