返回上一页 文章阅读 登录

贾开 蒋余浩:人工智能治理的三个基本问题:技术逻辑、风险挑战与公共政策选择

更新时间:2018-09-03 16:28:21
作者: 贾开   蒋余浩  
便可能遭遇窘境:如果将人工智能所造成的侵权行为归咎于其设计者,无疑不具有说服力;但如果要归咎于人工智能本身,我们又该如何问责一个机器呢?由此,如何应对以算法、数据为核心的技术主体所带来的公共责任分配问题,是当前面临的第二个治理挑战。

   最后,治理范围的狭隘性,即对于受人工智能发展冲击而引发的新的社会议题,需要构建新的治理体系和发展新的治理工具。人工智能发展所引发的治理挑战不仅仅体现在现有体系的不适应上,同时还有新议题所面临的治理空白问题。具体而言,这又主要包括以下议题:算法是否能够享有言论自由的宪法保护,数据的权属关系究竟如何界定,如何缓解人工智能所可能加剧的不平等现象,以及如何平衡人工智能的发展与失业问题。在人工智能时代之前,上述问题并不存在,或者说并不突出;但伴随着人工智能的快速发展和应用普及,它们的重要性便日渐显著。以最为人所关注的失业问题为例,就技术可能性来说,人工智能和机器人的广泛应用代替人工劳动,已是一个不可否定的事实了。无论是新闻记者,还是股市分析员,甚至是法律工作者,其都有可能为机器所取代。在一个“充分自动化(Full Automation)”的世界中,如何重新认识劳动与福利保障的关系、重构劳动和福利保障制度,便成为最迫切需要解决的治理挑战之一。[16]

   上述三方面共同构成了人工智能时代崛起所带来的治理挑战。面对这些挑战,各国也做出了相应的公共政策选择。本文第三部分将对各国人工智能的治理政策进行对比性分析。在此基础上,第四部分将提出本文的政策建议。

  

   三、各国人工智能治理政策及监管路径综述

  

   人工智能时代的崛起作为一种普遍现象,其所引发的治理挑战是各国面临的共同问题,各国也陆续出台了相关公共政策以试图推动并规范人工智能的快速发展。

   美国于2016年同时颁布了《国家人工智能研究与发展战略规划》和《为人工智能的未来做好准备》两个国家级政策框架,前者侧重从技术角度指出美国人工智能战略的目的、愿景和重点方向,而后者则更多从治理角度探讨政府在促进创新、保障公共安全方面所应扮演的角色和作用。就具体的监管政策而言,《为人工智能的未来做好准备》提出了一般性的应对方法,强调基于风险评估和成本-收益考量的原则以决定是否对人工智能技术的研发与应用施以监管负担。[17]日本同样于2016年出台了《第五期(2016~2020年度)科学技术基本计划》,提出了“超智能社会5.0”的概念,强调通过推动数据标准化、建设社会服务平台、协调发展多领域智能系统等各方面工作促进人工智能的发展和应用。[18]

   尽管美国和日本的政策着力点不同,但其共有的特点是对人工智能的发展及其所引发的挑战持普遍的包容与开放态度。就当前的政策框架而言,美日两国的政策目标更倾斜于推动技术创新、保持其国家竞争力的优势地位;当涉及对人工智能所可能引发的公共问题施以监管时,其政策选择也更倾向于遵循“无需批准式(permissionless)” 的监管逻辑,即强调除非有充分案例证明其危害性,新技术和新商业模式默认为都是被允许的。[19]至于人工智能的发展对个人数据隐私、社会公共安全的潜在威胁,尽管两国的政策框架都有所涉及,却并非其政策重心——相比之下,英国、法国则采取了不同的政策路径。

   英国政府2016年发布了《人工智能:未来决策制定的机遇与影响》,对人工智能的变革性影响以及如何利用人工智能做出了阐述与规划,尤其关注到了人工智能发展所带来的法律和伦理风险。在该报告中,英国政府强调了机器学习与个人数据相结合而对个人自由及隐私等基本权利所带来的影响,明确了对使用人工智能所制定出的决策采用问责的概念和机制,并同时在算法透明度、算法一致性、风险分配等具体政策方面做出了规定。[20]与英国类似,法国在2017年发布的《人工智能战略》中延续了其在2006年通过的《信息社会法案》的立法精神,同样强调加强对新技术的“共同调控”,以在享有技术发展所带来的福利改进的同时,充分保护个人权利和公共利益。[21]与美日相比,英法的公共政策更偏向于“审慎监管(precautionary)”的政策逻辑,即强调新技术或新的商业模式只有在开发者证明其无害的前提下才被允许使用。[22]

   在本文看来,无论是“无需批准式监管”还是“审慎监管”,在应对人工智能时代崛起所带来的治理挑战方面都有其可取之处:前者侧重于推动创新,而后者则因重视安全而更显稳健。但需要指出的是,这两种监管路径的不足却也十分明显。正如前文第二部分所指出,一方面,快速迭代的技术发展与商业模式创新必将引发新的社会议题,无论是算法是否受到言论自由的权利保护还是普遍失业对社会形成的挑战,它们都在客观上要求公共政策做出应对,而非片面的“无需批准式监管”能够处理。更重要的是,“无需批准式监管”的潜在假设是事后监管的有效性;然而,在事实上,正如2010年5月6日美国道琼斯工业指数“瞬间崩盘”事件所揭示的,即使单个电子交易程序合规运行,当各个系统行为聚合在一起时反而却造成了更大的危机。[23]在此种情形下,依赖于合规性判断的“事后监管”基本上难以有效实施。另一方面,人工智能本身的自主性和主体性使得建立在人类行为因果关系基础上的“审慎监管”逻辑存在天然缺陷:既然人类无法预知人工智能系统可能的行为或决策,开发者又如何证明人工智能系统的无害性?

   正如本文所反复强调的,人工智能与其他革命性技术的不同之处,正是在于其所带来的社会冲击的综合性和基础性。人工智能并非单个领域、单个产业的技术突破,而是对于社会运行状态的根本性变革;人工智能时代的崛起也并非一夜之功,而是建立在计算机革命、互联网革命直至数字革命基础上的“奇点”变革。因此,面对人工智能时代崛起所带来的治理挑战,我们同样应该制定综合性的公共政策框架,而非仅仅沿袭传统治理逻辑,例如只是针对具体议题在“创新”与“安全”这个二元维度下进行艰难选择。本文在第四部分从承认技术的主体性、重构社会治理制度、推进人工智能全球治理这三方面提出了政策建议,并希望以此推动更深入地围绕人工智能时代公共政策选择的研究与讨论。

  

   四、人工智能时代的公共政策选择

  

   《新一代人工智能发展规划》明确提出了到2030年我国人工智能发展的“三步走”目标,而在每一个阶段,人工智能法律法规、伦理规范和政策体系的逐步建立与完善都是必不可少的重要内容。面对人工智能时代崛起的治理挑战,究竟应该如何重构治理体系、创新治理机制、发展治理工具,是摆在决策者面前的重要难题。本文基于对人工智能基本概念和发展逻辑的梳理分析,结合各国已有政策的对比分析,提出以下三方面的改革思路,以为人工智能时代的公共选择提供参考。

   第一,人工智能发展的基石是算法与数据,建立并完善围绕算法和数据的治理体系与治理机制,是人工智能时代公共政策选择的首要命题,也是应对治理挑战、赋予算法和数据以主体性的必然要求。(1)就算法治理而言,涉及的核心议题是算法的制定权及相应的监督程序问题。算法作为人工智能时代的主要规则,究竟谁有权并通过何种程序来加以制定,谁来对其进行监督且又如何监督?长久以来公众针对社交媒体脸书(Facebook)的质疑正体现了这一问题的重要性:公众如何相信脸书向用户自动推荐的新闻内容不会掺杂特殊利益的取向?[24]当越来越多的人依赖定制化的新闻推送时,人工智能甚至会影响到总统选举。也正因为此,包括透明要求、开源要求在内的诸多治理原则,应当被纳入到算法治理相关议题的考虑之中。(2)就数据治理而言,伴随着人工智能越来越多地依赖于大规模数据的收集与利用,个人隐私的保护、数据价值的分配、数据安全等相关议题也必将成为公共政策的焦点。如何平衡不同价值需求、规范数据的分享与应用,也同样成为人工智能时代公共政策选择的另一重要抓手。

   第二,创新社会治理制度,进一步完善社会保障体系,在最大程度上缓解人工智能发展所可能带来的不确定性冲击。与历史上的技术革命类似,人工智能的发展同样会导致利益的分化与重构,而如何保证技术革命成本的承受者得到最大限度的弥补并使所有人都享有技术发展的“获得感”,不仅是社会发展公平、正义的必然要求,也是促进技术革命更快完成的催化剂。就此而言,在人工智能相关公共政策的考量中,我们不仅应该关注产业和经济政策,同时也应该关注社会政策,因为只有后者的完善才能够控制工人或企业家所承担的风险,并帮助他们判断是否支持或抵制变革的发生。就具体的政策设计来说,为缓解人工智能所可能带来的失业潮,基本收入制度的普遍建立可能应该被提上讨论议程了。“基本收入”是指政治共同体(如国家)向所有成员不加任何限制条件地支付一定数额的收入,以满足其基本生活的需求。尽管存在“养懒汉”的质疑,但有研究者已指出,自18世纪就开始构想的基本收入制度很有可能反过来促进就业。[25]芬兰政府已经于2017年初开始了相关实验,美国的一些州、瑞士也做出了一定探索。在人工智能时代尚未完全展现其“狰容”之前,创新社会治理机制、完善社会保障体系,可能是平衡技术创新与社会风险的最佳路径。

   第三,构建人工智能全球治理机制,以多种形式促进人工智能重大国际共性问题的解决,共同应对开放性人工智能生产模式的全球性挑战。人工智能的发展具有开放性和不确定性的特征,生产门槛的降低使得人工智能技术研发的跨国流动性很强,相关标准的制定、开放平台的搭建、共享合作框架的形成,无不要求构建相应的全球治理机制。另一方面,跨境数据流动在广度和深度上的快速发展成为了人工智能技术进步的直接推动力,但各国数据规制制度的巨大差异在制约跨境数据流动进一步发展的同时,也将影响人工智能时代的全面到来。[26]故此,创新全球治理机制,在承认各国制度差异的前提下寻找合作共享的可能性,便成为人工智能时代公共政策选择的重要考量之一。就具体的机制设计而言,可以在人工智能全球治理机制的构建中引入多利益相关模式;另一方面,为防止巨头垄断的形成,充分发挥主权国家作用的多边主义模式同样不可忽视。作为影响深远的基础性技术变革,互联网全球治理机制的经验和教训值得人工智能发展所借鉴。

   上述三方面从整体上对人工智能时代的公共政策框架做出了阐述。与传统政策局限于“创新”与“安全”之间做出二维选择不同,本文以更综合的视角提出了未来公共政策选择的可能路径。就其内在联系来讲,建立并完善围绕算法和数据的治理体系是起点,其将重构人工智能时代的规则与制度;创新社会治理机制并完善社会保障体系是底线,其将缓解人工智能所带来的影响与波动;构建全球治理机制则成为了制度性的基础设施,推动各国在此之上共同走向人工智能时代的“人类命运共同体”。

  

   五、结语

  

在经历了60余年的发展之后,人工智能终于在互联网、大数据、机器学习等诸多技术取得突破的基础上实现了腾飞。在未来的人类生活中,人工智能也必将扮演越来越重要的角色。对于这样的图景,我们自不必惊慌,但却也不可掉以轻心。对于人工智能的治理,找到正确的方向并采取合理的措施,正是当下所应该重视的政策议题。而本文的主旨也正在于此:打破长久以来人们对于人工智能的“笼统”式担忧,指出人工智能技术发展的技术逻辑及其所引发的治理挑战,(点击此处阅读下一页)

本文责编:limei
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/112088.html
文章来源:中国行政管理 公众号
收藏