返回上一页 文章阅读 登录

刘晓春:对数字社会数据公共治理的建议

更新时间:2020-12-23 22:03:32
作者: 刘晓春  

   随着新基建的加快建设,5G和物联网的应用,数字技术的应用将从经济领域扩展到整个社会领域,极大地改变人们的生活方式和社会运行方式。在憧憬数字社会巨大的正面效用的同时,更需要充分认识和评估数据互联互通可能带来的风险,高度重视数字社会的数据公共治理。由于数字技术的特殊性,风险传播的广泛性和渗透性,数据的风险不仅仅局限在个人隐私范围,而是具有广泛的破坏性,需要未雨绸缪制定防范策略。

  

   数据互联互通存在的问题与风险

  

  

   破除信息孤岛与数字安全的平衡问题

  

   万物互联、数字化社会治理,无论是产业链、商业新模式,还是城市治理等,都需要打破信息孤岛。

   一方面,需要明确数据互联由谁主导的问题。是政府、科技公司还是其他机构?比如智能城市建设,需要的数据包罗万象,涉及多个行业和部门,这些数据应该由谁牵头收集,需要予以落实。

   另一方面,数据如何分类、如何管理,也是一个新课题。在数字化城市治理过程中,每时每刻都在生成各种各样的新数据。各政府部门、各类机构的数据不上网、不上链,智能城市建设、工业互联网建设、数字中国建设就不可能实现。但所有数据上网上链,如果管理不慎,可能会对安全、公安、部队等数据产生威胁,甚至造成对社会和国家稳定的冲击。公共数据管理,不仅政府治理需要考虑,工业物联网等各类产业物联网系统都需要考虑。

   算法模型推动无意识羊群效应的风险

   人工智能技术是数字化社会建设的重要技术。虽然人工智能技术本身具有非常大的想象空间和发展前景,但其所需要的算法模型依然是人根据对相关事物的运行规律的研究进行设计的,算法所采用的要素始终有限,运算逻辑是单一并一贯的。面对突发情景不会调整运算逻辑,改变应对策略和行动,更容易把事物的发展推向极端。

   在金融领域,智能投顾、量化投资、高频交易等,已经多次发生使市场脱离经济基本面,某个信息的影响会不断放大,推动市场单向发展,最终导致市场崩溃的事件。

   在商业领域,精准推送广告、媒体精准推送内容,也都是类似逻辑的极致应用。一些视频、新闻、商品的广泛传播,都是运用算法进行强行推广,与传统的传播方式有极大区别。传统传播是传播方有意识的行为和操作,但在算法模式下,传播完全脱离传播方的操作,由算法模型自动传播,不仅传播能力和速度远远超过人为操作,其结果往往会超出原有设计的控制范围。

   在传统模式下,对于谣言,可以追查整个传播路径,找到源头、分析原因、化解风险。在算法模型下,传播什么信息、如何传播、传播给谁,是依据算法进行的,是无意识的。算法会依据自我发出的信息、放大影响,创造羊群效应,造成原本可能不会发生的传播效果,网红现象就是典型表现。如果在新闻传播中,一个本来没有什么意义的小新闻,甚至只是一个词语,由于触发算法要素,无限放大传播,在传播过程中,词语不断演化成话语和舆论,就可能造成严重的社会事件。但最后调查,发现事件的产生可能没有原因,也没有责任人。

  

   社会机构无序采集信息的风险

  

   自互联网经济发展以来,各类机构都在采集信息,采集信息范围越来越广泛。但目前我国对机构采集信息的权力没有约束和管理。特别是新冠疫情发生以来,个人信息在越来越多的场合被采集,而被采集人也无法追溯信息采集源是什么机构什么人。甚至景点售票也要采集游客的身份证号码、电话号码、面部信息。本来,利用数字技术改进售票方式,是为了提高效率,改善游客体验,但这类信息采集的泛滥,增加了额外的购票环节,降低了效率和游客体验。

   过去,由于个人信息自我保护不慎,造成的损失由个人自己承担。从目前情况来看,造成个人信息泄漏的场合太多,个人也不知道有哪些部门和机构保存自己的信息,更不知道这些部门和机构是否具有保护这些信息的法定责任,更无力举证这些部门和机构是否履行应尽的法律义务。

  

   大型科技平台企业赢者通吃的垄断风险

  

   各类数字科技平台打着“去中心化”的旗号,实际上是要成为垄断性平台,形成新的中心,进而赢者通吃。但是,新的赢者通吃与传统的垄断不同。

   传统的垄断,一般体现为一个产品或一类产品的垄断,最多是一个行业的垄断。新的赢者通吃,是平台企业试图对平台上所有可能业务的垄断。更有甚者,这些平台企业打着创新、打通信息孤岛的名义,掌握了海量的社会数据,包括个人、企业、政府等部门的信息,同时平台本身又具有非常强的公共物品属性。即使不考虑商业上的垄断对其他市场参与者的挤出效应和对市场的扭曲,这样的企业,无论是出现经营风险、运营风险、技术风险、道德风险,对社会的危害都是灾难性的、系统性的,比传统意义上的“大而不能倒”的机构影响更大。随着5G和物联网的发展,不同领域的这类平台还会增加。

  

   数据风险具有全局性 需上升至国家治理层面

  

   数字社会与数据有关的风险,不是单纯的行业风险、企业风险和业务风险,而是全局性的风险。因此,相应的治理,也要从全局的角度来着眼,上升到国家治理的层面。

  

   需要从立法层面解决数据的分类管理

  

   现在各方都在关注个人数据的隐私保护问题,提出了立法建议。这是非常必要的。与此同时,也需要对整个数字社会的数据管理进行立法。

   首先需要对数字经济、数字社会背景下的数据进行分类。可以根据数据的性质、安全级别、社会层级等进行分类。数据分类管理中,特别要明确在国家、政府层面,事关军事、公安、金融等与国家和人民安全有关的数据应该如何保管、如何上网上链、如何应用。

   其次需明确数据所有权、使用权。所有者、使用者的管理职责。

   再次需要明确数据使用、交易过程中的法律责任。

   第四,社会数据管理作为一个新生事物,又事关国家安全、社会稳定和经济有序运行,可以考虑建立专门的监管部门或监管机制。

  

   加强对不同人工智能应用的监管

  

   对面向社会公众的人工智能应用程序,需要有一套监管机制。企业及机构内部用于生产、管理、运营的人工智能,主要作用是提高效率、质量和综合协同能力;大多数产品中的人工智能应用,如无人汽车等,亦是如此。但面向社会公众的人工智能应用,往往具有更强的营销性质,因而也具有更强的扩散性和放大效应,会对市场和社会秩序造成负面冲击。比如金融领域的智能投顾、量化交易、高频交易等,商业领域的算法推送营销,媒体的算法内容推送等。

   在金融领域,智能投顾、量化交易、高频交易等业务模型,一般由专业业务人员设计,业务人员通常具备专业从业资格。鉴于这类人工智能的特点,监管应该在一般技术安全监管的基础上,再对这些技术应用实行人格化监管,即每一个算法模型上线,必须经监管认定资质,好比交易人员必须经过资格考试,持证上岗。持证上岗不能完全保证办理业务没有风险,因此在经营业务中依然需要持续监管,一旦发现问题就要取消资格。对人工智能算法模型也要持续监管,一旦触发监管红线,即做下线处理,同时对机构和设计人员进行相应处罚。金融机构内部,亦需依据监管要求制订管理办法,强化对这类算法模型和有关人员的管理。

   其他商业机构面向社会公众的人工智能算法模型,同样需要研究相应的监管办法,落实监管部门;机构内部也需要制定管理办法。

  

   数据采集和保存的管理

  

   随着数字社会的建设发展,便不再需要各类部门和机构都参与采集个人核心信息和数据。建议在第一条立法建议的基础上,对各类部门、机构采集个人核心信息和数据、使用这些信息和数据做出规定,如无必要,应当明令禁止采集个人核心信息和数据。部门和机构因业务需要采集个人核心信息和数据,应将采集原由、采集内容、采集方法、信息应用范围、信息保管、内部相关制度等内容报备相关部门,以备监管。报备本身可视作对信息安全的法律承诺。

   制度建立后,应该对各类机构现在已经采集的个人核心信息和数据进行一次全面清理。

  

   建立超级数字平台监督管理制度

  

   一方面,我们需要要客观认识超级数字平台的垄断问题。平台本身具有公共性,与一般的商业垄断、工业垄断不同。平台的集中,既是平台企业商业竞争的主动结果,也是平台具备提高社会运行效率的必然结果。以第三方支付为例,为保障支付畅通,市场各参与方必然会集中到共同的支付平台上。类比电信平台的逻辑,如果不同电信公司之间的电话互相不能接通,电信平台最后就只能集中到一家。监管向第三方支付平台发了那么多牌照,实际成功的却不多,就是这个原因。而第三方支付平台在相互封锁的情况下,仍有几家共存,其原因包括两方面:一是背后有统一的银行支付结算系统的支撑;二是一些聚合支付公司提供聚合服务解决了第三方支付公司互相封锁的问题。随着物联网、数字社会的发展,不同领域这类平台还会产生。不能因为存在垄断,就简单地加以拆分。应该看到,平台的集中是数字化转型的必要条件。

   另一方面,也应该看到,现在的超级数字平台,与传统的服务型垄断平台不同,它们不仅为平台上的机构和个人提供服务,采集和占有平台上机构和个人所产生的海量数据,同时还应用这些数据和资源与平台上的机构和个人竞争业务。电信为社会提供电信服务,也在提供电信服务的过程中采集信息,但它们并不办理其他业务;同时,因为不同的电信公司在更大的电信频谱平台上竞争,它们对客户的挤压还是有所节制的。再比如SWIFT,为银行提供信息传输服务,同样占有着海量的银行业务往来信息,但它并不办理银行业务,也不利用这些信息去开展其他业务。而现在的一些超级数字平台则完全不同,同时与被服务对象形成竞争,而且是垄断性竞争,于是就出现了赢者通吃的现象。不能不说,这个现象对数字社会的发展,特别是对数字社会条件下经济和市场的有序发展是不利的,一定程度上可能会引起大的经济动荡。

   这些超级数字平台企业应该如何与市场、其他机构以及社会相处?这个问题难以单纯靠企业的道德自律解决,必须建立相应的监督机构和监督管理制度进行有效管理。建议参考金融控股集团和金融业分业监管的理念和方式,对超级数据平台企业集团内部不同业务板块进行风险和利益隔离。

   在金融领域,不仅有分业监管制度、金融控股集团监管制度,即使对同一机构内部的一些特殊业务也有风险和利益隔离规定。比如在一些发达市场,对银行内部的金融市场交易业务,要求与其他业务部门有物理隔离和信息隔离,否则就有可能触犯内幕交易规定。以债券业务为例,公司客户部门可以投资客户的债券,资金交易部门可以买卖同一债券,但两个部门不能就这个债券互通信息。当资金交易部门在市场上获得该债券发行人的负面消息,可以决定自己是否减持该债券,但不能把这个消息通报给公司客户部门。

   此外,平台所采集和占有的各类数据具有相当的公共性,不能单纯看作是公司的资产;同时,由于平台运行的特征,难以与所有被采集人签订保密协议。因此,对数据的采集、应用、保管、销毁等亦需要纳入监管范围,承担法律责任;企业自身则需要制定经监管审核的管理办法和操作流程。

   作者刘晓春系上海新金融研究院副院长,本文为作者向中国金融四十人论坛独家供稿,未经许可不得转载。

  

  


爱思想关键词小程序
本文责编:陈冬冬
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/124039.html
收藏