返回上一页 文章阅读 登录

杨爱华:人工智能中的意识形态风险与应对

更新时间:2021-01-29 09:59:28
作者: 杨爱华  

  

   摘要:作为引领未来世界的颠覆性技术,人工智能不仅广泛应用在自然科学领域,而且广泛渗透到政治、文化、法律等人文社会科学领域,被用来判断、干预甚至操控社会问题与社会现象,由此负载着意识形态功能。人工智能或以技术工具嵌入,或以资本逻辑操控的路径隐蔽而巧妙地发挥着意识形态的功能。人工智能的意识形态功能为社会带来了一定的政治风险、法律风险和伦理风险,但我们不能因风险而阻挡人工智能前进的步伐,而是要从制度与技术两个层面制定应对策略,推动人工智能持续健康发展。

   关键词:人工智能;意识形态;风险;应对

  

   人工智能是当今时代最有可能改变未来世界的颠覆性技术,人工智能对未来世界的颠覆性效应不仅表现为可以深刻改变人们的生产生活方式、推动经济社会发展,而且还可以改变甚至颠覆人们的思维方式、价值观念、伦理体系等上层建筑的元素。当人工智能的触角逐步渗入人们生活的每一个角落,社会领域内的各种活动几乎都离不开人工智能时,人工智能就不可避免地拥有了一种可以改变人、支配人、操控人的无形力量,人工智能不再仅仅承载技术的生产力功能,而且以隐约或张扬的方式发挥意识形态的功能。

   一、科学技术承载意识形态功能的学理基础

   关于什么是意识形态,一直以来缺乏一致的定义。一般来说,意识形态是与一定社会的经济、政治等相联系的意识与观念的集合,主要包括政治、法律、道德、哲学、宗教等。马克思认为意识形态的含义是多维度的,其中心内涵是作为思想或观念的上层建筑的意识形态,即“从市民社会出发阐明意识的所有各种不同的理论产物和形式,如宗教、哲学、道德等等,而且追溯它们产生的过程”。科学的形式同样是多元的,英国科学社会学家贝尔纳认为,“科学在全部人类历史中确已如此地改变了它的性质,以致无法下一个合适的定义”。通俗来说,科学技术是对客观世界及其规律的探索,主要表现为知识体系、工具产品、方式方法等。在马克思看来,科学技术是一种生产力,“资本是以生产力的一定的现有的历史发展为前提的—在这些生产力中也包括科学”。

   (一)马克思主义科技异化论

   马克思主义科技思想中并没有直接专门论述科学技术与意识形态关系问题,关于这一问题的理论基础可以溯源到马克思的科技异化论。马克思认为,科学技术在发挥其生产力功能、推动经济发展与社会进步的同时,对自然、社会及人类自身造成了一定的负面影响,作为人类创造物的技术,甚至在某种程度上反过来变成了奴役人统治人的异己力量。“在我们这个时代,每一种事物好像都包含有自己的反面。我们看到,机器具有减少人类劳动和使劳动更有成效的神奇力量,然而却引起了饥饿和过度的疲劳……技术的胜利,似乎是以道德的败坏为代价换来的。随着人类愈益控制自然,个人却似乎愈益成为别人的奴隶或自身的卑劣行为的奴隶,甚至科学的纯洁光辉仿佛也只能在愚昧无知的黑暗背景上闪耀”。在马克思看来,技术异化的根源不在于技术自身,而在于技术的资本主义应用。“这些矛盾和对抗不是从机器本身产生的,而是从机器的资本主义应用产生的!因为机器就其本身来说缩短劳动时间,而它的资本主义应用延长工作日;因为机器本身减轻劳动,而它的资本主义应用提高劳动强度;因为机器本身是人对自然力的胜利,而它的资本主义应用使人受自然力奴役”。在资本主义条件下,科学技术与资本权力相互帮衬、一路凯歌,破坏自然环境,干预社会政治体制,操控人类精神意识与伦理道德框架。

   (二)法兰克福学派的科学技术意识形态论

   关于科学技术与意识形态的关系问题,法兰克福学派倾注了很大的精力,构建了独树一帜的科学技术意识形态论。法兰克福学派早期代表人物霍克海默指出:“不仅形而上学,而且还有它所批评的科学,皆为意识形态的东西;后者之所以也复如是,是因为它保留着一种阻碍它发现社会危机真正原因的形式。”在霍克海默看来,科学技术通过其完善的工具理性手段,使公众陶醉于其带来的物质财富,蒙蔽公众双眼,阻碍公众反思社会问题与批判社会危机,从而发挥其意识形态功能。之后的代表人物马尔库塞认为,发达工业社会是一部纳入了技术架构的工艺装置,“技术中立”的科技价值观被打破,科学技术被嵌入政治统治的框架之中,带有明确的政治倾向性,从而成为一种新的社会控制手段与形式。他在代表作《单向度的人》中断言:“社会控制的现行形式在新的意义上是技术的形式。不错,在整个近代,具有生产性和破坏性的国家机器的技术结构及效率,一直是人们服从已确立的社会分工的主要手段。而且,这种结合往往伴随着更为明显的强制形式”,“科学—技术的合理性和操纵一起被熔接成一种新型的社会控制形式”。法兰克福学派第二代中坚人物哈贝马斯专门阐述了科学技术与意识形态的关系问题。哈贝马斯以科技进步为新的坐标系,不仅明确指出,在资本主义社会中,科技进步本身已经成了“第一位的生产力”,而且认为,技术与科学作为新的合法性形式,已经成为一种以科学为偶像的、不同于传统意识形态的新型意识形态。“因为现在,第一位的生产力—国家掌管着的科技进步本身—已经成了[统治的]合法性的基础。[而统治的]这种新的合法性形式,显然已经丧失了意识形态的旧形态”。哈贝马斯认为,国家加强对经济社会的干预以及科学技术日益取得合法统治地位是后期资本主义的发展趋势。“至少从生产力的连续提高取决于科技的进步—科技的进步甚至具有使统治合法化—的功能以来,不再是解放的潜力,也不能引起解放运动了”。如果说霍克海默对于科学技术承载意识形态功能的描述还是隐约的,那么马尔库塞旗帜鲜明地指出科学技术已经成为一种新型的社会控制手段,发挥着意识形态功能。哈贝马斯则以“作为‘意识形态’的技术与科学”为题系统阐述了科学技术就是一种意识形态,并对此进行哲学拷问与深层反思。

   科学技术在本质上不属于意识形态的范畴,但在其应用过程中,常常与意识形态相互交织在一起,产生了千丝万缕的联系。当科学技术的工具理性张扬到极致,超越其生产力功能,被广泛应用并深入渗透到人们的日常生活及社会政治、文化等各个领域时,科学技术就具备了作为一种隐性意识形态的良好条件,有可能承载并发挥着意识形态功能。

   二、人工智能发挥意识形态功能的路径

   与传统意识形态相比,科学技术是一种新的隐性的意识形态,但是其渗透领域更广,统治手段更隐蔽有效,操控力更令人难以抗拒。“一方面,技术统治的意识同以往的一切意识形态相比较,‘意识形态性较少’,因为它没有那种看不见的迷惑人的力量……另一方面,当今的那种占主导地位的,并把科学变成偶像,因而变得更加脆弱的隐形意识形态,比之旧式的意识形态更加难以抗拒,范围更为广泛”。人工智能,或以技术工具嵌入、或与资本权力携手,隐蔽巧妙地发挥着其意识形态功能。

   (一)作为技术工具的嵌入

   随着数据的海量增长、数据处理及运算能力的提升、机器深度学习技术的快速发展,人工智能不仅被广泛应用于自然科学领域,同样涉足于政治、文化、法律等人文社会科学领域,被用来广泛采集用户信息、分析用户特征,以此为基础判断、干预甚至操控社会问题与社会现象。作为技术工具的人工智能被有效嵌入社会的政治体系、制度框架等上层建筑的各个子系统之中,或干预社会政治文化体系,或引发社会问题与社会危机,算法歧视与算法操控就是最明显的表现形式。

   “算法歧视(Algorithmic Bias)指的是人工智能算法在收集、分类、生成和解释数据时产生的与人类相同的偏见与歧视,主要表现为年龄歧视、性别歧视、消费歧视、就业歧视、种族歧视、弱势群体歧视等现象”。比如,人脸识别技术凸显的算法偏见与算法歧视问题非常明显。2015年谷歌曾将黑人程序员上传的自拍照贴上“大猩猩”标签,雅虎平台也曾将黑人的照片标记成“猿猴”。美国警方的犯罪数据识别系统自动认定黑人社区的犯罪概率更高,2016年当研究人员将一套算法模拟应用于加利福尼亚州时,该系统反复派遣警方人员到少数族裔比例高的地区巡逻执勤。与求职就业相关的算法向男性推荐的工作岗位整体工资要高于向女性推荐的工作岗位。随着人工智能技术的进一步发展,算法歧视将带来越来越严重的社会问题,英国学者指出,“随着算法决策系统的普及以及机器学习系统的结构复杂化……算法在人们日常生活中的应用与影响越来越广泛,如果不加以控制的话,算法歧视冲击社会公正与公平的风险将进一步加剧”。

   机器学习技术与基于自动识别数据模式的统计技术的交融,为人工智能时代的标签“算法制胜”打下了坚实基础,算法制胜被嵌入意识形态领域带来的丰厚回报就是算法操控。通过大数据技术与机器学习的嵌入助力人工智能“参政议政”已被西方政治家们“有效实践”。算法可以对我们的政治人格进行大规模的回归分析,为政治操控每一种情感。与社会歧视相比,算法歧视与算法操控具有更加隐蔽与更加多元的特点。首先,传统的种族歧视、性别歧视等是被社会反对或被法律禁止的,但算法歧视与算法操控由于披着科技的外衣更加隐蔽,人们不会提出明确反对,即便提出质疑,也会因“算法黑箱”这一冠冕堂皇的理由而谅解。其次,社会歧视往往是依据人的肤色、性别、家庭出身、学历等显性特征做出判断,但算法可以依据消费记录、网页浏览记录、行程记录等属于个人隐私的数据作为统计与分析的依据,因而更加多元,其渗透力与影响力也更大。

   (二)作为资本逻辑的操控

   人工智能作为资本逻辑对意识形态的操控主要表现在:最大限度地助力实现资本增值;消解人的主体性与社会性;加剧社会分工的不平等。

   第一,在资本主义社会,人工智能是实现资本增值的基本工具。关于资本,马克思认为,资本的本质不是物,而是能够带来剩余价值的价值,“资本只有一种生活本能,这就是增殖自身,创造剩余价值,用自己的不变部分即生产资料吮吸尽可能多的剩余劳动”。作为统治权力表征之一的资本,只有对生产工具、产业部门直至生产方式、生产关系不断变革,才能有效实现资本的本能增值。“资产阶级除非对生产工具,从而对生产关系,从而对全部社会关系不断地进行革命,否则就不能生存下去”。机器化时代,科学技术渗透在产业链的每一环节,是助力实现资本增值的有效手段。相比传统技术,人工智能的资本应用显然能够更快实现资本增值。麦肯锡全球研究所2018年9月发布的研究报告认为,“到2030年人工智能可能为全球带来13万亿美元额外的经济产出,助推全球GDP每年增长1.2%……这种影响可以与历史上其他通用技术相媲美,比如1800年代的蒸汽机技术”。近年来,世界各主要大国纷纷加快人工智能政策部署与战略规划,2016年美国发布《为人工智能的未来做准备》和《国家人工智能研究与发展战略计划》,2018年德国发布《联邦政府人工智能战略要点》,2018年法国发布《法国人工智能发展战略》等,各国纷纷正式将发展人工智能上升到国家战略层面。一方面,我们不可否认人工智能对社会发展与人类文明带来的巨大推动作用;另一方面,“在资本主义条件下,人工智能实际上是资本谋取剩余价值进而维持整个资本主义制度体系存活的技术工具”。

第二,资本与人工智能的交融消解人的主体性与社会性。人工智能带来的自动化、智能化延伸了大脑的功能,让人进一步从体力脑力劳动中解放出来,但也在一定程度上消解了人的主体性。自从AlphaGo战胜李世石以来,关于机器人未来能否代替甚至超越人的争论就从未停止。以霍金、库兹韦尔等为代表的科学家认为人工智能今后会超越人类智慧,甚至导致人类灭绝;以松尾丰等为代表的人工智能专家认为人工智能征服人类的可能性在现阶段看来根本不存在。即便我们目前不必过多担忧强人工智能与超人工智能时代机器智慧等同或超越人类智慧引发的危机,(点击此处阅读下一页)


爱思想关键词小程序
本文责编:admin
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/124816.html
收藏