返回上一页 文章阅读 登录

杨爱华:人工智能中的意识形态风险与应对

更新时间:2021-01-29 09:59:28
作者: 杨爱华  
但也不能忽视弱人工智能阶段智能机器主导劳动过程,人成为机器的辅助者,在人类自身解放的同时逐步丧失部分劳动能力,人与机器主客体关系被颠倒的异化问题。机器的独立性越强、自主性越明显,人的依赖性就越严重、被动性就越突出,人的某些能力就越容易退化。在智能机器主导的自动化经济中,人让位于智能机器或者被智能机器剥夺其劳动岗位,劳动者失去了本应该从劳动过程中获得的愉悦感、幸福感、满足感,低技能劳动者的一些基本劳动技能逐步退化,高技能劳动者的创造力逐步消失。人工智能在未来军事领域的应用完全可能实现完全自主武器系统,这种武器系统“在激活后可自主进行搜索、识别、决策和打击,无须人类干涉其进程”。在这种态势下,战场的指挥权可能完全由智能机器掌控。人的主体性、创造性在智能机器时代面临前所未有的危机。

   马克思认为:“人的本质不是单个人所固有的抽象物,在其现实性上,它是一切社会关系的总和。”人是按照一定的交往方式进行生产活动的人,是发生在一定社会关系和政治关系中的个人。传统机器化生产中人与人相互配合、相互补充、统一调配的工作方式在人工智能时代完全可能由一名程序员设计的自动程序取代。无人化的工作环境与工作方式很容易使人的生活方式发生变化,人与人之间的关系不再那么社会化,越来越多的人倾向于选择离群索居、孤立生活,甚至将来与机器人女友或男友相伴一生也不是没有可能。此外,人工智能时代物联网技术也使更多的人常常沉迷于虚拟世界,与周围的现实世界之间横亘着一道无形的鸿沟,对身边的世界漠不关心、疏远冷漠,手机依赖症已是最普遍的一种现实映照,人的社会性正逐步被消解。

   第三,资本对人工智能的开发与应用将加剧社会分工的不平等。与以往的机器化大生产不同的是,人工智能的高度自动化、智能化一方面虽然有利于人从体力与脑力劳动中进一步解放,甚至实现人的全面自由发展;但另一方面也将不断排斥劳动者,甚至完全替代劳动者,实现“零工经济”。由此导致的结果是:首先,社会分工体系中的主导角色将不再是人,而是机器人。劳动力在生产要素中的竞争力不断下降,最终甚至让位给机器人,失业率将大大增加。其次,社会分层、社会断裂问题更加严重。资本与人工智能的联手,将使掌握了前沿技术、高精尖技术、颠覆性技术的行业更容易走向社会的金字塔顶层,甚至带来行业垄断。“随着算法将人类挤出就业市场,财富和权力可能会集中在拥有强大算法的极少数精英手中,造成前所未有的社会及政治不平等”。低技能劳动者、廉价原材料在整个社会产业链中的比例将越来越低,低技能劳动者的失业风险将远远高于高智能劳动者,社会顶层与社会底层之间的鸿沟将进一步加剧,而且这一断裂将更加难以逾越。

   三、人工智能发挥意识形态功能的风险及应对

   自从德国社会学家乌尔里希·贝克于20世纪80年代提出风险社会理论,风险一词逐渐成为现代化的标签之一。贝克认为工业社会的科技发展、政治体系、法律制度等使得社会开始转化为风险社会,“风险通过与科学、科学实践和公共领域的紧密相互作用构造自身”。当今社会属于一定的风险社会,其风险很大一部分是由技术风险组成的。人工智能承载意识形态功能的风险属于高技术风险带来的升级风险范畴,高技术风险是不可避免的,只能提前筹划,制定有效应对策略。

   (一)风险

   人工智能发挥意识形态功能带来的风险主要包括(但不限于)以下三方面:政治风险、法律风险、伦理风险。

   第一是政治风险。政治风险主要是指人工智能技术内嵌于政治系统,以“算法黑箱”为掩护,通过算法歧视、算法操控等方式影响政治体制运行、冲击社会公平正义的风险。公平正义是民主政治的基本原则,正如罗尔斯所说的,“正义是社会制度的首要价值”。算法歧视普遍渗透在社会的就业、教育、社交等各个子系统之中。2016年美国发布的《大数据报告:算法系统、机会和公民权利》,考察了大数据与获得信贷、就业、高等教育、刑事司法四个领域之间的算法歧视问题。算法歧视已成为一个普遍的政治问题,特别随着机器深度学习能力的进一步提升,算法已经成为一种新的权力形态,算法即权力。算法歧视与算法操控损害政治的正义,“算法黑箱”遮蔽政治的公平透明,必将带来政治的权威化危机与合法化危机。作为权力的算法如果不消除算法歧视,那将对人类政治文明带来极大的风险与灾难。

   第二是法律风险。以数据和算法为基础,利用分析工具进行自我学习,通过互联网、云技术等跨时空、跨地域对获取的信息进行传播和扩散,人工智能在将大数据的经济价值挖掘到最大化的同时,也带来泄露敏感信息、侵犯个人隐私的法律风险。传播速度快、侵权方式简单、侵权手段隐蔽、侵权范围广等是人工智能技术侵犯隐私权的新特点,人工智能时代人们的生活变得透明化。麦肯锡全球研究所预测到2025年全球物联网(IoT)市场规模可以达到11.1万亿美元,这可能意味着届时我们的周边到处都是信息收集器,而在人工智能技术的覆盖范围内,这些信息收集器都可能具备自主思考、自主判断、自主开启传感器的功能,人工智能与物联网的融合将把隐私权被侵犯的风险提升到一个更高指数级。

   第三是伦理风险。随着人工智能和自主系统嵌入政治、经济、文化等社会各个领域,人与机器的关系变得越来越复杂,责任承担及责任分配的问题受到严重挑战。在人工智能表现出越来越强的自主性的时候,是否意味着机器人就可以作为道德主体承担相关责任?一种观点认为计算机系统在智能技术的推动下,已经由一种工具变为一种代理,“计算机系统具有某种道德代理,并且这种道德代理和代理的角色不应该被忽略”。应用伦理学专家黛博拉·约翰逊明确指出,大多数情况下人们应对技术的使用负责,当人工智能成为道德代理人后,没有人会对人工智能体的行为负责。此外,有的学者认为即便机器系统不具备完全意义的道德主体属性,不能作为第一责任人,至少也应该承担“准责任(quasi-responsibility)”。与之对立的观点则认为机器终究只是一种工具,不具备自我意识,其责任理当由系统设计者、程序员、系统维护者等人类主体承担。控制论之父维纳早就警示,人类如果把责任丢给机器,最终只会自食其果。

   (二)应对

   人工智能意识形态功能带来的风险是源于技术的应用所带来的社会风险,马克思认为:“这些矛盾和对抗不是从机器本身产生的,而是从机器的资本主义应用产生的!”在技术哲学家芒福德看来,“它只是人类文化中的一个元素,它起的作用的好坏,取决于社会集团对其利用的好坏。机器本身不提出任何要求,也不保证做到什么。提出要求和保证做到什么,这是人类的精神任务”。技术的进步是不可阻挡的,技术带来的风险也是不可避免的,我们不能因为人工智能承载意识形态功能的风险就放弃其发展,而是“要学会把机器和机器的资本主义应用区别开来”。为此,只有加强顶层研判、提前筹划,制定应对策略,才能将其风险尽量减低,推动人工智能持续健康发展。

   第一是制度层面。凡事预则立,不预则废。任何一种新事物的出现,都可能冲击现有的社会秩序与制度体系,这就需要制度体系与之更新。“我们所体验到的那种无能为力并不是个人失败的标志,而是反映出我们的制度无能为力。我们需要重构我们曾经有过的这些制度,或者建立全新的制度”,不管是弱人工智能阶段已经凸显的算法风险,还是强人工智能阶段或将凸显的机器思维统治风险,人类都需要提前预警,各国应从顶层设计开始,提前筹划,规范从业人员的职业行为与道德准则。当前,世界各国正在积极推出人工智能伦理规范准则。美国电气电子工程师协会(IEEE)2016年发布世界首个《人工智能设计伦理准则》,2017年发布更新版“Ethically Aligned Design Version 2”,其宗旨就是使人工智能系统能够遵从人类的道德价值和伦理准则。日本人工智能学会伦理委员会2016年起草了面向科研人员的伦理纲要草案,该草案中制定了防止人工智能被恶意利用的相关条款。英国标准行业协会2016年发布《机器人和机器系统的伦理设计和应用指南》,其目标是制定智能机器人融入社会的道德规范。2019年欧盟委员会发布《可信赖AI的伦理准则》,提出可信赖人工智能的整个生命周期系统必须具备三点:“首先应是合法的,遵守所有法律法规;其次应是道德的,要尊重人类主权、防止伤害,公平且可解释;再次应是健康可靠的,避免因技术造成无意伤害。”中国于2017年发布《新一代人工智能发展规划》,提出要建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力。截至2020年7月,全球已有38个国家制定国家层面的人工智能战略政策、产业规划文件。此外,与人工智能相关的法律规范也需要同步建立并完善。

   第二是技术层面。技术引发的风险问题很大程度上仍然需要依靠技术手段来预防与解决。基于深度神经网络和机器学习的人工智能系统是目前最复杂的系统之一,“算法黑箱”是系统自身不可理解性的一种典型表现。尽管面临无法避免的正常事故,但系统设计者、程序员等在设计、应用的各个不同阶段,都必须同步加强堵住技术漏洞、维护信息安全的防范、补救与保护技术。在设计阶段应努力规避技术被误用或滥用的技术可能性,增强技术自身的“人类可控”性。在应用阶段,通过加密技术、匿名化技术、屏蔽技术等严防技术漏洞,设置系统内部纠错机制,以防危害扩散。在售后阶段,研发新的技术工具对已经产生的技术问题进行改进或弥补。比如,麻省理工学院科学与人工智能实验室的科学家们开发出了一种新颖的、半监督的可调算法,通过重新采样来自动消除数据偏见与算法歧视。目前,新兴的算法纠偏工具正逐渐被研发出来,有望帮助消除算法歧视,实现更加公正的人工智能。

   四、结语

   科学技术前进的步伐是不可阻挡的,我们必将生活在一个人机交融的时代,人类与机器的矛盾和冲突是不可避免的,人工智能负载意识形态功能也是必然的。迄今为止,没有任何一项新技术导致人类真正失去自我或者走向灭亡,我们同样无须对人工智能的意识形态功能过分担忧,当然也不可忽视。辩证审视人工智能的生产力功能与意识形态功能,有效防范化解人工智能负载意识形态功能的风险,寻求人工智能工具理性与价值理性的合理张力,作为颠覆性技术领头雁的人工智能,必将引领人类走向一个更加崭新更加美好的未来世界。

  

   注释略。

  

   杨爱华,国防科技大学文理学院教授、博士生导师。

   来源:《求索》2021年第1期,第66-72页。

  

  


爱思想关键词小程序
本文责编:admin
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/124816.html
收藏