返回上一页 文章阅读 登录

任剑涛:人工智能与社会控制

更新时间:2020-02-13 18:01:04
作者: 任剑涛 (进入专栏)  
—进而在两端之间展开社会愿意接受的控制过程,并在这一基点上使用可加利用的各种价值引导、制度安排和技术手段。再一方面,社会控制不是国家权力单方面的强加,而是构成广义上的国家各个方面的力量,如国家权力方面、市场组织方面与社会公众方面共同展开的控制互动。构成一个社会的诸要素之间,必须就此处在一个相对均衡的态势中,任何一方都不能占据绝对控制优势,以至于对其他各个方面实施一种控制威慑,并据此独占社会受到有效控制情况下的一切好处——如政治稳定情况下的权力、市场顺畅运转情形下的获利、 社会井然有序情况下的礼赞等等。

   仅从控制的直接视角看,社会控制得以实施的前提是“社会”接受控制。这不是同义反复的说辞。“社会”接受控制,需要从两个视角得到理解:一个视角就是加上引号的那个具有特殊含义的“社会”。这个“社会”是与国家相对而言的建制,是一个公民个体将加入政治共同体必须交付的权力给予国家以后,保留下来的特殊空间。生命、财产与自由是“社会”中活动着的公民个体不可褫夺的基本人权,他们的隐私不受侵犯,他们享受宪法和国家赋予的一切合法权利,他们保有国家提供生存发展资源并享有公平对待的兜底福利。就此而言,私权的公共维护与公权的私人限制相对而在,不可偏废。与国家权力的以法治理相比较,“社会”的依法自治是其特点。在国家权力发挥社会控制作用的时候,其控制的目的旨在保护“社会”,让一个受到保护、因此保有理性精神且秩序良好的“社会”与国家权力积极互动,从而有力维护现存社会系统。可见,国家的社会控制目的不是扼制、挤压或扼杀“社会”,恰其是培育、激活和扶持“社会”。

   另一个视角则是“控制”。这里的“控制”,是一个中性词,而不是贬义词。作为中性词的控制,是指因势利导,让社会在一些管控举措下生成自生自发秩序,并由此形成更有利于社会安宁和谐与持续发展的扩展秩序。作为贬义词的控制,则是指国家权力以高压手段约束和强控社会,让社会全无抵抗能力、博弈能力与自治能力,只能臣服于权力的强制方式。就此而言,中性化的社会控制,便是能够发挥良好的社会作用的控制机制:一方面是因为社会意识到相应的控制机制对社会是有利的,即有利于维护社会秩序,有利于保障社会成员的安全,有助于社会成员寻求发展,让社会处于一个安宁有序、未来可期的状态。因此,“社会”愿意接受“控制”。另一方面是因为社会意识到相应的控制机制是人们可以忍耐的。社会控制无疑会触及社会成员的隐私,当人们认为被触及的隐私不影响正常生活的时候,他们对之是可以接受的;一旦人们认为自己的生活曝光于天下,自己成为一个全无秘密的行为体的时候,他们的忍耐程度就会下降,并且在心中郁积不满。假如社会出现一定程度的动荡,这种不满就会让人付诸行为,促成颠覆社会秩序的从众行动——其循序呈现为守规的社会运动到破坏性的社会运动多种形式。因此,控制“社会”必须严格把握可控的范围,而不至于越界而为,触发与社会控制初衷相反的、破坏与颠覆社会秩序的结果。

   人工智能广泛用于社会控制,是社会控制技术飞跃性发展的结果。社会控制的智能化,会收到人们此前意想不到的控制效果。在社会控制可能发挥 作用的三个领域,即价值引导、制度建构与生活塑造三个领域中,其一,在价值世界里,软性的价值引导、也即是对人们的内在心灵世界的引导,仅从目前人工智能技术来讲,还显得有些无能为力。因为,人工智能还无法对人的内心世界发挥管控作用,除非人脑神经科学有了全面和实质的突破,人工智能才可能在这一领域发挥作用。但硬性的价值引导,人工智能已经能够发挥人类智能难以发挥的作用。所谓硬性的价值引导,指的是经过全面的技术监控,让人信守规矩、不耽于胡思乱想,从而在社会主流价值体系面前循规蹈矩。这就是前述的社会内化控制方式可能达到的效果。这对社会秩序的维持来说,已经凸显了一个不同于人力控制的、采取人工智能控制的完全不同往昔的结果。

   其二,在社会制度设置及其守持上,人工智能已经发挥出重要的作用。仅就前述“天眼”所及的领域来看,它在维护社会基本秩序上的作用,已经大大弥补了人类智能与体能的不足,而发挥出全天候、不停歇、无伤害、无失误的守护规则、维护秩序的作用。再如连锁店的监控明显强化了顾客的守规, 大大减少了偷盗行为。幼儿园的监控明显有助于杜绝教师的不合规行为,保护了儿童受到周全照顾的权益。家居中的监控对财产、人身安全发挥了积极作用,降低了入室偷窃或其他不合规则行为的几率。工厂的监控不仅监督偷懒工人,促使工人合规工作, 惩戒不合规行为的员工,而且有利于保护合规或积极工作的工人的权益。公安消防监控有利于防火安全、消防灭火。银行监控有助于保护客户利益、保证雇员合规作业。军事设施监控有利于保证提高军事安全水平、保障国家安全。高速公路监控促使人们合规驾驶、减少交通事故,提升交通事故处置速率。余此类推。可以结论性地讲,人工智能引入社会控制,确实可以发挥维护社会秩序的正面作用。至于在惩罚违法犯罪上发挥的积极作用,近期案例前已论及,不再赘述。

   其三,在生活世界的秩序制定与维护上,人工智能也已经发挥了有力维护日常秩序的作用。由于人工智能监控体系的运作,在日常生活的公共空间中,人们深知自己的一言一行都受到监督,因此会对公共空间的规则保有高度的警觉。在这种情况下,人们会在全方位、高技术的“他律”环境中,谨言慎行, 从而形成一种至少在形式上合规、以至于秩序井然的公共空间行为态势。相对于没有监控的公共空间而言,人们处在于一种自然、放松的状态中,可能在生活细节上更自我纵容,容易逾越公共规则的边界,带给他人以不便,造成公共规则的松弛,带来一些虽无重大伤害但却无益良风美俗的不利后果。

   尽管人工智能对社会控制发挥了相当积极的作用,但它并不能直接保证社会受到全面、有效的控制——既维护社会秩序,同时也保有社会活力。原 因在于,社会控制的“社会”接受状态,对社会控制效果发挥着决定性的影响。一个接受控制的“社会”,大致可以区分为三种社会存在情形:一是社会处在常态之下,公众接受社会控制的程度最为正常。这种常态可以简单描述为,社会处在既定社会系统自我维持的正常情形,没有遭遇社会风险与危机,而且社会控制出自理性设计,旨在维护公众利益、社会秩序和公平正义,因此公众心悦诚服地接受一般意义上的控制,并自觉践行相关控制规则。以此为前提,就会让社会控制处在国家权力、社会公众各方都满意的状态。可以说,社会常态是社会控制的先设条件。这是社会控制设计,也是人工智能引入社会控制的原初预期——社会常态,既是社会控制的起点,也是社会控制过程的着力点,更是社会控制的目的性所在。

   二是社会处在一定失序情境中,公众接受社会控制的程度有所降低。这种情况可以区分为两大类:一者,少数地区、一些领域,因为一些事件,导致抗拒或反对社会控制的情绪浮现。二者,不同地区、不少领域,因为相类事件,引发社会骚动,让社会控制处于废弛状态,并可能诱导社会公众抵制或颠覆社会控制。部分地区与领域的社会失序不是社会无序。但由于这些地区与领域无法保持社会常态,社会控制的效果会明显下降。在这种情况下,即便是高效的人工智能控制系统,所发挥的作用也会明显下降,甚至在失序的部分地区与领域,显得无效。可以说,失序社会让人工智能也难有作为。譬如常态下商店的电子眼可以有效约束顾客的偷窃欲望,但在失序状态下,不仅无法防止偷盗,甚至对公开的抢掠也无可奈何,只能听之任之。除非国家暴力介入,除暴安良,才能恢复社会秩序。

   三是社会处在严重失序情况下,社会拒绝接受任何控制,控制基本失效。一个社会只要不受全方位、高强度的持续挤压,以至于无法维持常态秩序, 社会是不会拒绝接受控制的。如果社会控制长期处在高压控制之下,社会无法自我维持,失序无法自我修复,改革无法从容展开,那么,社会就会滑向一个逐渐失常、失控并最终丧失秩序的轨道。在社会动荡、暴乱或者革命的状态下,人们已经陷入了反对、拒斥、破坏和颠覆现存秩序的狂热之中,既定秩序会丧失它曾经发挥的社会整合能力,曾经循途守辙的人们此时满心期盼的是新的社会秩序。在社会动乱的情况下,技术监控体系完全无法发挥常态下的作用,并且国家权力方面会担忧这一体系被反抗活动的组织者与行为者所利用,甚至会关闭监控体系,直至下重手关闭互联网。人工智能的社会控制系统就此丧失它的社会效用。

   可见,在社会控制的智能化时代,并不见得就降低了社会控制的难度。相反,因应于社会运转、社会变迁与社会周期调整社会控制,做到张弛有度、理性有效,才有希望保证社会控制智能化的满意效果。

  

   三、驾驭风险

   与所有社会控制手段一样,人工智能的社会控制方式,是着眼于人们普遍守法状态下的管控绩效而设计出的社会控制系统。这样的社会控制本身, 需要经过预效性和实效性的检验,才能成为真正有利于维护社会秩序,激发社会活力的社会控制机制。对社会控制的人工智能机制来讲,其预效性、即预期的有效性,依赖于两个先设的条件:一是技术的有效性,二是社会接受人工智能控制的自愿性。就前者言,技术的有效性是与社会控制的适宜性内在联系在一起的。这一适宜性,指的是与社会当下的控制需求比较一致的人工智能系统,它在技术上足以解决人力所不及的控制需要,并且不存在明显的技术风险,能够保证收到人力控制所不及的预期效果。就后者论,社会自愿接受人工智能的监控机制,是指让社会公众感受到这一控制机制带给人们的好处或便利,其所必然存在的侵犯个人隐私的风险不至于赤裸表露并引起人们的普遍反感,因此愿意接受无处不在、无时不有的人工智能监控。

   就社会控制的人工智能技术来看,它有一个不断进步的技术发展过程。换言之,一个阶段上使用的人工智能控制技术,总是存在着便利性与缺陷性相形而在的特点。因此,当监控对象适应了这一控制技术并且发现其缺陷,或者社会公众活动方式发生了明显的重构,那么人工智能技术就必须在相应的技术进步条件下做出改进。否则,人工智能监控技术的有效性就会明显下降,以至于在技术上完全失效。这不是在社会发生动荡、失序与革命的情况 下出现的技术风险,而是技术本身的发展风险。加之一种社会控制的人工智能技术本身,就存在反向的技术模仿,从而化解技术监控的控制力道,因此不仅降低技术监控的有效性,而且让一项技术成为反监控手段,甚至成为反向谋取利益的技术手段。银行支付系统中使用的人脸识别,就已经被人脸的仿真制造所突破,失去了完整保证法律意义上的真实支付者利益的屏障作用,这项技术就此可能异化为侵害本应保护的合法网络支付者利益的违法犯罪手段。

   就社会控制的人工智能引入所关联的社会公众自愿性来讲,试图保证他们对这种无处不在、无时不有的高技术监控心存的自愿心理,也是一个非常微妙、复杂的事情。社会心理并不是一个高度稳态的存在。相反,社会心理的变化速率之快,常常出乎人们的意料。尤其是在一个社会心理比较敏感的现实环境中,一个牵动社会公众的小事件,就很可能引发十分意外的社会震动、社会动荡,乃至于引发大规模的社会暴乱。先撇开人工智能因素来看这样的社会心态变化,就很容易为人们所理解。突尼斯2010年爆发的“茉莉花革命”,就是因为一个大学毕业生找不到工作而失业,他只好上街摆水果摊,但因警察认定他无照经营,并且没收了他的货物,他愤而自焚。结果引发了民众大规模的抗议,最后导致政府解体、总统流亡。 而引入人工智能因素来看,突尼斯民众对社交媒体推特、脸书的利用,可以说是反向利用人工智能技术的一个例证。可见,社会是否自愿接受控制并不是一个定数,而是一个变数。这个变数从接受控制的数量上的变化,可以迅速演变为拒绝接受 控制的实质性变化。因此,智能化的社会控制所依托的社会资源,是一个需要小心谨慎应对的问题。

社会的智能化控制,存在着种种需要认真面对的交错风险。(点击此处阅读下一页)

本文责编:frank
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/120146.html
收藏