返回上一页 文章阅读 登录

彭兰:生存、认知、关系:算法将如何改变我们

更新时间:2021-08-27 11:15:16
作者: 彭兰 (进入专栏)  

   摘要:今天,算法已经渗透到社会的各方面,对人的影响也不断深化。算法社会中的人,被全程、全息数据化,算法也推动了人的标签化、评分制,这些都对人们的思维、行为产生影响。算法作为一种中介,构建了一种数据化界面,重塑了人们对世界的认知方式,同时算法也以匹配、调节与控制等方式建构了各种对象间的关系,算法的权力也因此不断增加。算法对社会关系的另一种影响,是强化既有共同体的边界,或推动新的共同体的形成,因此,算法对社会结构的影响也会走向深层。

   关键词:算法; 算法社会; 人的数据化; 算法中介; 算法权力; 共同体

  

   在计算机专家看来,算法是“一种有限、确定、有效并适合用计算机程序来实现的解决问题的方法,是计算机科学的基础”。[1]通俗地说,今天的算法可以看作是用计算机程序实现的、基于数据分析、面向特定目标的一套指令或方案。算法即是规则,它不仅确立了机器所试图实现的目标,同时也指出了实现目标的路径与方法[2]。

   算法与数据的分析、加工技术相关,也与数据采集技术相关。近些年社会化媒体、移动终端、大数据、云计算、人工智能、物联网等一系列技术的发展,从不同方向推动了算法的应用,也因此,算法这个本来有些深奥的专业名词频频出现在我们的生活中,算法不仅改变着人们的生活,形塑着人们的行为,也将引发更多变革。

  

   一、算法渗透的社会

  

   今天的社会,算法正日益渗透社会生活的各个方面。在人们的信息获取中,推荐算法已成为信息过滤的一种重要手段,无论是商品信息的获取,还是新闻或知识性信息的获取。推荐算法对于人们认知的影响,也将进入深层。而人们在各种平台阅读的内容,很多是由算法驱动下的机器自动完成。算法正在成为信息环境建构的重要力量。

   在人们的日常生活中,价格算法影响着人们购买商品的价位,导航算法、网约车平台算法和未来的自动驾驶汽车的算法影响着人们的出行,外卖平台算法在决定人们收到外卖的时效同时,也在控制着骑手们的劳动。一些婚恋网站,则用算法来进行姻缘匹配。

   从经济角度看,算法推动了新经济模式的发展,特别是诸如共享经济这样的新经济模式,也改变着传统经济模式,进一步,有研究者提出了算法经济的概念,即将生产经验、逻辑和规则总结提炼后“固化”在代码上,使生产经营活动无须人工干预、自动执行的经济模式,其目标是通过算法的应用大幅改善供需匹配效率和交易成本。[3]

   牛津大学教授阿里尔·扎拉奇等人在《算法的陷阱:超级平台、算法垄断与场景欺骗》一书中,也应用了算法经济的概念(algorithm-driven economy),虽然他们对于算法经济的界定与上文的定义不尽相同,但同样也是从算法的视角关注新经济及其影响。在书中,作者指出:通过精妙的计算机算法,互联网的兴起与普及的确在某种程度上深化了市场竞争并为民众带来了诸多便利与实惠,但这种由信息技术演进带来的市场经济模式的转变也导致了社会资源发生了不公正的再分配。[4]

   无论是个体,还是机构,越来越多的认知与决策,是在算法的辅助甚至主导下完成。而通过算法来判断舆情态势、社会风险,也正在成为各类机构和管理部门常用手段。在法律界,甚至出现了用“风险评估工具”算法来确定罪犯刑期的做法,这种算法参考了数十年的量刑判例,结合了十几个参数,来评估被告在一定时期内重新犯罪的可能性。[5]

   算法越来越多地左右着对个体的评价,影响着个体的社会形象,甚至影响着人们在社会中的位置及流动可能性。各种网络平台的评分机制,大多是基于数据与算法。新冠疫情期间启用的健康码,也是一种综合算法,它可以计算出人们是否具有病毒传播风险。人力资源部门可能利用算法来决定人员聘用、升迁,银行利用算法来决定贷款发放。数据、算法以及由此形成的评分,成为今天社会一种重要的评价思维。这种评价思维,也对人的行为产生了越来越大的调节作用。可以想象,算法也将成为个人的社会信用评价体系的重要基础。

   除了个人的社会信用评价,算法还将全面进入社会治理体系,研究者期待,将社会治理具体规则融入人工智能算法模型,使智能设备“掌握”规则知识、并根据管理目标自动感知、自动识别、自动预测、自动判断与自动处置。[6]利用大数据、数据分析、人工智能和机器学习的可能性,围绕算法开发数据驱动的综合管理结构[7]。在实践层面,健康码的实施便是算法治理的一次重要实践,它意味着建立在数字城市性、算法化社会性、大数据主义这三大要素之上的算法治理,系统性地升级了面向人口的“安全技术”。[8]算法治理将一切可能的因素都变成了算法上可以控制的元素,并将各种可预知的风险降到了最低,从而最大限度地保障了共同体和国家的“安全”和“稳定”。但与此同时,数字政治下的算法治理不仅仅将活生生的生命变成了档案和数据,也变成了受算法掌控和支配的行动者(agents)。[9]

   未来,随着物联网等技术的发展,数据采集维度更为多元,基于数据和相关算法进行的社会管理、社会控制也必将进一步深化,形成所谓的智慧社会。智慧社会可以基于各种信息采集、处理系统形成一种社会的“数字神经系统”,它能感知社会状态,将之与需求和动态反应模型相结合,并用得到的结果来校正系统。[10]这种感知、反馈与校正,离不开算法的支持。虽然有研究者认为智慧社会将推动传统的中央集权、信息非对称、交互不对等的社会管理结构向权利平等、信息对称、位置对等的创新社会管理结构的转变[11],但另一方面,智慧社会的管理权力将向数据与算法的拥有者倾斜,新的权力不平衡甚至集权也可能会形成,在社会管理日益便利、高效的同时,个人权利的保障却可能变得更为困难。

   无论我们是否愿意接受算法的统治,我们已经进入了一个随时可能被算法算计的社会。而算法的基础———人的数据化,也正在改变我们的生存与生活。

  

   二、算法社会人的数据化、标签化与评分制

  

   算法与数据、算力是人工智能共同的基础,算法离不开数据,因此,算法社会的前提是万物数据化,这也包括人的数据化。算法的广泛应用,更是强化了人的数据化。

   在算法推荐中,无论是内容的推荐,还是电商产品的推荐,都需要描绘用户画像,也就是通过各种渠道收集的用户数据来建立用户模型,使其成为算法分析的对象。早期的数据主要是用户在各种平台提供的注册数据,以及在网络中发布的内容、浏览痕迹、购买记录等行为数据,但随着移动终端、智能物体的发展,身体的数据化,也开始变得普遍。身体的运动轨迹、身体状态等数据,也成为用户数据的重要构成部分。

   未来算法和其他技术的发展,甚至有可能基于不同的场景和目标,建立用户的动态数字化映射模型。例如,通过人脸识别来辨识个体的身份,通过定位系统了解人的空间位置或轨迹变化,通过智能眼镜了解人的视线的移动及关注焦点以分析人在现实空间中的需求,通过人的心跳、分泌的汗液、脑电波等生理层面的数据来感知人的情绪变动,人的全息、全时数据化将成为可能。

   全息、全时的数据化构建了人的一种“虚拟实体”,这不仅为网络服务提供更多的动态依据,更是成为了人的数字化生存的一种新形态。“虚拟实体”能更真实、直接地反映个体的身体状态、行为等现实化存在,人们的身体及现实行为与数据之间的对应关系变得更为直接,人们通过数据进行自我控制,特别是身体控制,也会更为普遍。

   而社交媒体的普及,也在进一步推动人们以文字、图片、短视频和直播等各种形式进行媒介化表达,这种表达的结果同样也是数据,这些数据与虚拟实体一起,共同构成了个体的数据化生存。数据化的个体与他人的交往也是数据化的,基于数据的互动,体现着个体的存在感,也成为社交“表演”的一部分,影响着人的自我表达、自我认知与社会关系。

   对个体来说,数据化生存,也带来了一种数字化的“人格”。有研究者将数字化人格定义为“通过个人信息的收集和处理勾画一个在网络空间的个人形象———即凭借数字化信息而建立起来的人格”。[12]也有研究者将其界定为基于算法对数据本体的个人先前行为轨迹进行数字化描摹并进行信用评级由此生成的数字化个人镜像,数字人格意在勾勒出数据本体在社会活动中的可信任程度。[7]虽然研究者对数字人格的关注重点有所不同,但从数字画像到数字人格的概念的变化,说明了人与数据关系从表层走向深层,数据成为人及人格的一个必不可少的组成部分,“我们被数据化,我们自身以及行动被记录下来,数据调节和塑造我们的行为。”[14]

   学者蓝江指出,个体的数据化,也意味着生命的“档案化”,这意味着个体生命已经进入生命政治的治理装置之中,个体数据成为治理层面维系社会安全和运作的基本方式。同时也让每一个参与共同体和国家活动的个体,都必须按照这种可治理的方式来重新生产自身。[9,15]除了政治力量外,在商业领域,算法也在加剧对个体数据的利用与控制,“算法与商业资本结合形成监视资本主义,用户被嵌入数据生产链条,变成被算法支配调控的客体。”[16

   数据可以通过外部力量对个体的作用,也会通过自我传播产生影响。

   人类的“自我传播”(内向传播),是“主我”与“客我”之间的对话,有时它也需要一些外在的中介,例如日记和社交媒体,而今天包括传感器、可穿戴设备在内的智能物体成为了另一类重要的中介。智能物体甚至使得过去被认为是不可量化的精神层面的反应,如情绪与心理状态等被量化,这些数据也会作用于个体。借助各种外化的数据,自我传播也会成为精神自我与物质自我的一种对话,带来一种“反身性”运动。

   后人类学者海勒认为:“反身性就是一种运动,经由这种运动,曾经被用来生成某个系统的东西,从一个变换的角度,被变成它所激发的那个系统的一部分。”[17]从控制论的角度看,这意味着“信息从系统流向观察者,但是反馈回路也可能回溯到观察者,将他们变成被观察的系统之一部分”。[17]作为观察者与被观察者一体、传者与受者一体的人,其自我传播就是一种反身性运动,是“行动的反身性”,即作为观念动物的主体拥有反过来针对自身并监控自身行动的能力。[19]而传感器的作用,是将过去人很难量化的一些状态变为数据,这使人对自身的观察与反身控制进入一个新的层面。

   但也需要看到,这种基于数据的自我观察也并非完全是个人化的“反身运动”,某些时候,它会被公开并成为自我表达、社交互动的一种手段,例如,社交平台上人们晒出的自己的行走步数。出于表演、竞争等目的,人们往往要获得更“漂亮”的数据,并可能因此改变自己的行为。原来属于“精神自我”与“物质自我”的反身性对话,也会变成个人与他人、环境之间的一种互动。数据化在深化人的自我传播的同时,也推动了人与外界的互动。

当人们的身体不断映射为数据化的虚拟实体时,也会出现一种可能性,就是因为设备问题或数据采集、处理方法的不当,虚拟实体与实体之间会出现偏差甚至冲突。随之而来的问题是,“当数字身体与物理身体发生偏差,谁才是真实性的依据呢?……技术作为工具,是便捷了主体,还是捆绑了主体?”[20]这种人的实体与虚拟实体之间的冲突在未来显然不会罕见,(点击此处阅读下一页)


爱思想关键词小程序
本文责编:hanzhirui
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/128252.html
文章来源:《新闻界》2021年第3期
收藏