返回上一页 文章阅读 登录

陈泽宪:刑法学视野下的人工智能问题

更新时间:2018-12-03 01:20:08
作者: 陈泽宪  

   编者按:本文系陈泽宪研究员在上海政法学院“刑法论坛”(2018)——“人工智能的刑法规制及相关法律问题研讨会”开幕式上的致辞。作者认为,从刑法学角度来看人工智能,需要探讨人工智能体能否成为犯罪主体并承担相应的刑事责任、人工智能体可否作为犯罪工具、人工智能可否成为犯罪对象、人工智能潜力的开发、以及人工智能研发者和控制者的相关法律责任等问题。面对人工智能技术的突破性发展,法律人能做的,就是设定“阿喀琉斯之踵”条款,要求技术人员确保未来人工智能的安全发展。

  

  

   大家上午好!很高兴来沪参加上海政法学院“刑法论坛”。首先是因为主题——“人工智能的刑法规制及相关法律问题”吸引了我。最近两三年来,对人工智能的话题讨论很多,我觉得现在应该是引起法律界关注的时候。其次是上海政法学院开始有了长足的进步和发展,之前没来过,所以想来看看,“眼见为实”,果然是名不虚传。中国-上海合作组织国际司法交流合作培训基地这个重大项目落户上政,是一个很难得的发展机遇。基地与上政融为一体,上政可以充分利用基地硬件、软件和人力资源,这对上政而言既是宝贵资源又是发展驱动力。

   从刑法学角度来看人工智能,主要涉及以下问题:

   一是人工智能体能否成为犯罪主体并承担相应的刑事责任。这可能是最尖锐也是最令人困惑的问题。就我个人来说,过去认为这样的讨论权当一席笑谈。但是,最近几年人工智能技术取得突破性的进展,比如智能机器人AlphaGo Zero通过无监督自主学习,能够轻松战胜顶尖围棋国手,这在过去是难以想象的。从单纯具有超强的计算能力蜕变到它可以进行自我学习和自我提高,而且进展神速,从某一个方面超越人类智慧。这使得人类不敢掉以轻心,探讨将人工智能体纳入刑法规制的可能性,也将成为一个严肃话题。刑法对行为主体成为犯罪主体的基本要求并不高,即具有辨认和控制自己行为的能力。有朝一日当人工智能发展到强人工智能阶段,具有辨认、选择、控制、决策等行为能力时,其成为犯罪主体恐怕并非完全不可能。所以我们现在需要认真地加以研究。如果未来人工智能发展到超高水平,可能会面临脱离人类控制的危险,霍金的担心并非杞人忧天。这就涉及相关的法律伦理问题,就像以往的克隆问题一样,国际社会普遍禁止克隆人类。人类在设计研发人工智能之初是否应当留下“阿喀琉斯之踵”,以确保人类可以对其进行最终控制,这是技术人员需要研究的问题。法律人能做的,就是设定“阿喀琉斯之踵”条款,要求技术人员确保未来人工智能的安全发展。

   二是人工智能体可否作为犯罪工具。这显然是没有问题的,如利用无人机杀戮等。不过,利用人工智能犯罪还可能会牵扯到共犯的问题。如果某一天人工智能拥有辨认和控制自己行为的能力,当其被它的控制者、使用者用于犯罪时,是犯罪工具还是共犯?这些都是可以拓展讨论的话题。

   三是人工智能可否成为犯罪对象。这是完全可能的。人工智能和计算机系统、智慧网络一样,都可以成为犯罪对象。同时,人工智能体在某种意义上是非常有价值的财产,也会成为犯罪侵害的对象。

   四是人工智能潜力的开发,可以成为预防和控制犯罪的有力神器。执法、司法层面对大数据的适用,对犯罪进行分析、判断、预防,均可充分利用人工智能。人工智能在社会治安和犯罪控制领域,有着更广泛的应用前景。

   五是人工智能的研发者和控制者的相关法律责任问题。人工智能在使用过程中,其本身的缺陷和漏洞可能会被人利用去实施犯罪,那么研发者和控制者应当承担怎样的责任?如果人工智能有漏洞,之后应及时补漏而未及时采取行动弥补漏洞和缺陷,研发者和控制者是否应当对所造成的危害结果承担相应的责任呢?这在研究人工智能的法律问题时,也应当给予必要的关注。

  

  

本文责编:陈冬冬
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/113773.html
收藏