陈泽宪:刑法学视野下的人工智能问题

选择字号:   本文共阅读 469 次 更新时间:2018-12-03 01:20

进入专题: 人工智能  

陈泽宪  

编者按:本文系陈泽宪研究员在上海政法学院“刑法论坛”(2018)——“人工智能的刑法规制及相关法律问题研讨会”开幕式上的致辞。作者认为,从刑法学角度来看人工智能,需要探讨人工智能体能否成为犯罪主体并承担相应的刑事责任、人工智能体可否作为犯罪工具、人工智能可否成为犯罪对象、人工智能潜力的开发、以及人工智能研发者和控制者的相关法律责任等问题。面对人工智能技术的突破性发展,法律人能做的,就是设定“阿喀琉斯之踵”条款,要求技术人员确保未来人工智能的安全发展。



大家上午好!很高兴来沪参加上海政法学院“刑法论坛”。首先是因为主题——“人工智能的刑法规制及相关法律问题”吸引了我。最近两三年来,对人工智能的话题讨论很多,我觉得现在应该是引起法律界关注的时候。其次是上海政法学院开始有了长足的进步和发展,之前没来过,所以想来看看,“眼见为实”,果然是名不虚传。中国-上海合作组织国际司法交流合作培训基地这个重大项目落户上政,是一个很难得的发展机遇。基地与上政融为一体,上政可以充分利用基地硬件、软件和人力资源,这对上政而言既是宝贵资源又是发展驱动力。

从刑法学角度来看人工智能,主要涉及以下问题:

一是人工智能体能否成为犯罪主体并承担相应的刑事责任。这可能是最尖锐也是最令人困惑的问题。就我个人来说,过去认为这样的讨论权当一席笑谈。但是,最近几年人工智能技术取得突破性的进展,比如智能机器人AlphaGo Zero通过无监督自主学习,能够轻松战胜顶尖围棋国手,这在过去是难以想象的。从单纯具有超强的计算能力蜕变到它可以进行自我学习和自我提高,而且进展神速,从某一个方面超越人类智慧。这使得人类不敢掉以轻心,探讨将人工智能体纳入刑法规制的可能性,也将成为一个严肃话题。刑法对行为主体成为犯罪主体的基本要求并不高,即具有辨认和控制自己行为的能力。有朝一日当人工智能发展到强人工智能阶段,具有辨认、选择、控制、决策等行为能力时,其成为犯罪主体恐怕并非完全不可能。所以我们现在需要认真地加以研究。如果未来人工智能发展到超高水平,可能会面临脱离人类控制的危险,霍金的担心并非杞人忧天。这就涉及相关的法律伦理问题,就像以往的克隆问题一样,国际社会普遍禁止克隆人类。人类在设计研发人工智能之初是否应当留下“阿喀琉斯之踵”,以确保人类可以对其进行最终控制,这是技术人员需要研究的问题。法律人能做的,就是设定“阿喀琉斯之踵”条款,要求技术人员确保未来人工智能的安全发展。

二是人工智能体可否作为犯罪工具。这显然是没有问题的,如利用无人机杀戮等。不过,利用人工智能犯罪还可能会牵扯到共犯的问题。如果某一天人工智能拥有辨认和控制自己行为的能力,当其被它的控制者、使用者用于犯罪时,是犯罪工具还是共犯?这些都是可以拓展讨论的话题。

三是人工智能可否成为犯罪对象。这是完全可能的。人工智能和计算机系统、智慧网络一样,都可以成为犯罪对象。同时,人工智能体在某种意义上是非常有价值的财产,也会成为犯罪侵害的对象。

四是人工智能潜力的开发,可以成为预防和控制犯罪的有力神器。执法、司法层面对大数据的适用,对犯罪进行分析、判断、预防,均可充分利用人工智能。人工智能在社会治安和犯罪控制领域,有着更广泛的应用前景。

五是人工智能的研发者和控制者的相关法律责任问题。人工智能在使用过程中,其本身的缺陷和漏洞可能会被人利用去实施犯罪,那么研发者和控制者应当承担怎样的责任?如果人工智能有漏洞,之后应及时补漏而未及时采取行动弥补漏洞和缺陷,研发者和控制者是否应当对所造成的危害结果承担相应的责任呢?这在研究人工智能的法律问题时,也应当给予必要的关注。



    进入专题: 人工智能  

本文责编:陈冬冬
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 法学 > 法学演讲
本文链接:https://www.aisixiang.com/data/113773.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统