返回上一页 文章阅读 登录

马长山:智慧社会背景下的“第四代人权”及其保障

更新时间:2019-10-20 22:53:43
作者: 马长山  

  

   内容提要:随着数字经济和智慧社会的深入发展,人权形态正在经历着深刻的数字化重塑,从而打破了既有的“三代”人权发展格局,开启了以“数字人权”为代表的“第四代人权”。它在发展动因上,源于信息革命;在内涵逻辑上,发生了根本转向;在价值内核上,实现了品质升级;在关系构架上,呈现关联义务的社会延展。这就需要确立全新的“数字人权”观,构建相应的人权保护机制,塑造尊重人权价值的“道德基础设施”,从而为“数字人权”提供有效的法治化保障。

  

   随着网络技术、信息技术和人工智能技术的加速融合发展,人类已经从工商业时代跨入了数字经济时代,开启了智慧社会,“其影响力足以与工业革命相媲美”,这必然会促发人权的发展与变革。事实表明,既有的“三代”人权发展格局被逐渐打破,“第四代人权”已经应运而生,如何加强其法治化保障已成为一个迫切而重要的时代课题。

  

一、智慧社会背景下的人权问题与挑战

  

   智慧社会的网络化、数字化、智能化发展,使得传统人权领域遭遇了很多尴尬。比如隐私权保护就面临着双重张力。一方面,“9·11”事件后“棱镜门”事件的效应凸显,各国监控技术不断强化、范围不断扩大。而在全球商业领域,无处不在的数据分析、数据画像和精准推送,已经扯开了传统隐秘空间上的面纱,制造了“无隐私的公众”;另一方面,公众的隐私保护诉求则出现了爆发性增长——“应当肯定存储于政府、商业组织、网络运营商等‘数据库’中的个人数据完全属于个人隐私范畴,公民对此享有使用知情权、编辑管理权、删除不当权等权限”。这似乎意味着,信息技术飞跃发展所带来的巨大进步和增益空间,已成为个人权利、社会权力与政府权力之间同步扩张、博弈增长的广阔“飞地”。再如,算法歧视使得社会歧视获得了全新的形式,在人脸识别、商业推送、大数据杀熟、甚至公共服务系统中,都曾出现过这类问题。这意味着,“在数据集中,杂乱无序的各种相关性暗含着隐秘的规律性,其中很可能就存在某些偏见。”

  

   在新兴人权问题上,一是黑箱“暗算”现象日益严重,“用户们无法看清其中的规则,无法提出不同意见,也不能参与决策过程,只能接受最终的结果”,那么,算法就“不仅仅是在预测,还有助于控制用户的行为”。这自然会形成黑箱的各种“暗算”、歧视、不公,不当牟利甚至欺诈便在所难免了,人权保护也自然面临着重大的、全面的威胁。二是无方向的监控扩张,无论是商业组织还是一些国家的政府,都经常以各种名义来对个人数据信息进行随时监控和检视。最近,欧洲经济和社会委员会就深刻指出:“监视贯穿整个社会,且没有方向性,在社会的各个层级,包括层级内部,监视无处不在。”三是数据掌控的严重不对称问题十分突出,“所有的数据都由我们自身产生,但所有权却并不归属于我们。”于是,一面是越来越透明的个人,普通公众各种信息被收集和了解的情况甚至超过了其本人;另一面则是越来越幽暗的数据掌控者,普通公众基本无从知道自己在多大程度、多少数量上的个人数据和信息已被他人掌控。这就意味着,当下日益加剧的巨大“信息垄断”和“信息鸿沟”,并不是一般性地加剧社会不平等和两极分化,而是明显危及到个人隐私、自由平等和人格尊严,严重地损害数字时代的机会公平、社会教育、劳动就业和社会保障等各项人权。为此,2014年联合国人权高专办在《电子时代下的隐私权》报告中就强调合法性、比例性、必要性和非歧视原则,要求保护个人信息数据不受国家和任何私主体的干预。可见,数字时代的人权威胁与保护面临着全新的时代挑战。

  

   首先,侵权的机制化。当前,人类生活越来越多地依赖数据、信息和算法,进入所谓“数据说话、算法为王”的时代。而一旦人脑决策过度依赖算法决策,甚至算法决策替代了人脑决策的话,人权遭遇侵犯以及人权保护的样态也将会发生重大改变。其实,以往的人脑决策也是一个“黑箱”,而且一直不能排除歧视、控制、不公平等价值偏好,但二者无疑存在着重大的差别。人脑“黑箱”基本都是个别性的、随机性的、不断变化的,而算法黑箱则是普遍性的、连续性的、稳定性的;人脑“黑箱”是一种难测的自主判断,算法黑箱则是一种可控的必然选择,“其核心是用可控的主观概率代替未知的客观概率,不同的主观概率则来源于对描述客观世界的不同算法的反向推演”;人脑“黑箱”是现实场景互动中的一个或几个即兴片段,而算法黑箱则是一种自动化系统,会形成自动化的歧视和侵权“决策”,甚至还可能通过自主学习获得升级延展。也就是说,算法黑箱是一个建模系统,是一种完整机制,它一旦存在算法歧视、信息控制、侵犯隐私等问题,就会成为连续性的常规动作,产生系统化和机制化的侵权后果,这是人脑“黑箱”所不具备的。因此,它对人权的侵蚀范围更广、程度更深,人权保护的难度也会更大,成为巨大的人权挑战。

  

   其次,侵权的“客观”化。技术进步带来的新奇、便捷、效率、安全等诸多社会福利无疑会让人欣喜;大数据挖掘和算法决策,又承诺比人脑决策更为迅速、更为客观、更为准确、不带任何偏见。但技术公司却往往在软件下载使用过程中不设菜单式选择而只有概括式同意,隐私政策和用户协议有意用晦涩繁琐冗长的表述来“迫使”用户作出无奈的勾选默认,以及通过隐藏界面甚至在软件升级中设置“后门”等方式,来表明当代神奇的科技是一种晦涩难懂的技术,让人们切身感受到人类世界已经被植入了计算机逻辑,因此“技术可以从本质上了解你,而你无须了解技术”,只要你输入了数据,就能得到相应的结果。可问题是,一旦打开黑箱,“设计者与用户面对的将是一堆可以得出某种答案的主观偏见与程序。而合上之后,它体现的就是客观性——一种无须满足任何更多的条件即可生成‘是’与‘否’的二元选项的机器”。这使得隐私侵犯、身份歧视、社会不公、自由限制等情况正在或隐或现却越来越多地发生在日常生活之中,并“以产品工程设计的表象去掩盖社会工程设计的实质”。可见,一些技术发展无形中对人权产生了严重威胁,而且它们隐藏在进步和福利的身后,披上了技术的客观性外衣,从而呈现出“客观”发展后果的形式,这就使人权保护任务变得更为艰巨。

  

   再次,侵权的耐受化。在智慧发展时代,人们很清楚,“大部分的系统都必须使用我们的信息或者将我们与它们的信息相结合,才会顺利运转”,力图没有任何牺牲,“啥都想要”似乎不现实;而规避隐私风险的代价又太高、费时费力,何况很多时候人们还期待在朋友圈中进行信息分享和再分享的过程中来获得价值实现;当然还有一个担心,就是过于严苛的权利保护,很可能阻碍科技创新和进步,而人们几乎无法拒绝技术进步和舒适生活的巨大诱惑,也几乎无人愿意退回到田园牧歌、与世隔绝的生活中去。这样,就好像有一种心照不宣的默契交换,“人们用失去隐私、丧失个人生活和失去批判精神的代价换取可预测性、安全性,以及人类寿命的延长”。另一方面,在当今信息科技加速发展的时代,绝大多数公众都是“技术盲”,只是被动地“接受”技术进步带来的舒适便捷;他们都是“透明”的数据提供者和被分析预测的对象,而对作为数据收集者、持有者、使用者的运营商和政府却知之甚少,“我们甚至不知道,他们是否知道我们的事”。由此看来,即便是普通百姓有心想维护自己的个人隐私、数据权利、信息自由或者反抗歧视,他们也没有足够的能力、方法和路径。因此,与普通民众相比,掌握“技术霸权”的技术公司、商业平台和政府部门拥有着巨大的优势,彼此之间具有明显的不对称性,这就使得人们具有超出以往的耐受心理,人们不得不为了享受进步福利而无奈放弃一些既有的价值和权益,于是,人权侵蚀现象蔓延、人权保护乏力的情况就日渐突出了。

  

   最后,侵权的覆盖化。在数字经济、智慧发展的主导形态下,社会生产、商业交易和日常生活也就越来越多地被置于数字建模、量化分析和算法决策的总体性框架之中。特别是如今平台经济所构造的是一种复合式、多环状的、“赢者通吃”的庞大商业生态圈,它所带来的是要么覆盖他人、要么被他人覆盖的“覆盖者之战”。由此引发的人权侵蚀问题也会随着“覆盖者之战”而扩展、蔓延和覆盖,比如信息隐私遭遇的挑战就“覆盖”了传统隐私权保护领域,算法歧视也“覆盖”了性别歧视、种族歧视、身份歧视等传统领域,数据鸿沟严重侵蚀公平机会,“覆盖”了社会教育和劳动就业等传统领域,不一而足,它使得“很多旧有的习惯将被颠覆,很多旧有的制度将面临挑战。”

  

二、当代人权变革与“第四代人权”的形成

  

   人们常说,在20世纪,谁控制了石油,谁就控制了全世界;而如今进入智慧社会,谁拥有了大数据和信息,谁就会成为新时代的主宰。事实上,“历史已经向我们表明重大的技术变迁会导致社会和经济的范式转换”,这必然会引起人权领域的深刻变革,并日渐打破前三代人权的属性和范围。为此,近年来国际社会作出了一些重要努力和探索。2011年联合国就宣布互联网接入权是一项基础性人权, 2016年联合国又宣布互联网相关的权利是人权的重要组成部分。2018年联合国社会发展研究机构(UNRISD) 在其《从颠覆到转型?将技术与人权联合起来促进可持续发展》的报告中,系统讨论了新技术对于传统三代人权的颠覆,以及如何在全球范围内面对技术驱动的变革来对人权概念和实践进行更新。有学者则进一步提出,基于第四次工业革命以及生物和数字技术的融合,“第四代人权”的提出时机已经成熟。同样,国内一些学者也对“第四代人权”进行了积极讨论,并形成了和谐权、美好生活权、数字人权等不同主张。然而,无论国际还是国内,目前都尚处于学理讨论阶段,还没有官方的结论或者制度上的肯定,也恰因如此,积极关注当下人权的深刻变革与转型升级,进而深入研究和诉求“第四代人权”,才更显重要和紧迫。

  

   (一)人权形态的数字化重塑

  

   智慧社会是一个高度联通、高度数字化、高度精准计算、高度透明和高度智能化的社会,它深刻改变着人的生存条件、生活环境、行为方式和价值观念,人权也日益受到了前所未有的改造和重塑。

  

   1.人的信息存在方式赋予了人权的数字属性

  

   众所周知,人权是指作为一个人而应该拥有的权利,它“显然以人或者人性作为其来源”,而这里的人,无疑是具有生物属性的、自然法意义上的“自然人”,并构成了人权的天然基础和基本前提。然而,随着网络化、数字化、智能化时代的到来,则使自然人的生活状态和生存方式发生了空前甚至颠覆性的变革。

  

   一是从自然人到“信息人”的转变。大数据和算法主导了经济和社会生活,“网上的个人信息全方位覆盖了你从摇篮到坟墓的全部私人生活,慢慢地积累所有数据,直至在计算机数据库中形成一个‘人’”。于是,智慧社会中的人们,就逐渐从工商业时代那种生活于单一现实空间、以物理方式存在的自然人,转变成生活于现实\虚拟双重空间、以数字信息方式存在的“信息人”。

  

二是数字人性的表达和建构。以往在公共空间和私人生活中固化的、封闭性的物理个体,(点击此处阅读下一页)

本文责编:limei
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/118639.html
文章来源:《中国法学》2019年第5期
收藏