返回上一页 文章阅读 登录

万志前 陈晨:深度合成技术应用的法律风险与协同规制

更新时间:2021-12-02 13:35:33
作者: 万志前   陈晨  
若不及时消除风险,将使人们长期处于真假难辨的社会环境之中,对所见所闻都产生怀疑和不信任,进而冲击官方媒体、政府机构的公信力,引发社会信任危机,扰乱社会中原本良好稳定的公共秩序[20]。

  

   (三)信息泄露风险

  

   目前,高科技犯罪已成为社会治理的重要问题,滥用深度合成技术最为直接的风险之一是信息的过度搜集和泄露,蕴含着极大的安全隐患。

  

   以深度合成技术为代表的人工智能科技以数据搜集和计算为运行基础,其中又以个人信息为最有价值的数据资源,且个人信息是一项包含精神权利和财产利益的综合性新型权利,保障个人信息安全就是保护个人权利、维护社会稳定的前提,其重要性不可小觑。在信息化时代下,个人信息已深度卷入技术风险之中,新技术把社会上各个领域的信息予以数据化和可视化,并通过数据画像进行精准营销和信息投放,具有巨大的财富价值,一旦信息数据泄露,将在整个网络系统曝光和扩散,所有信息都存在被轻易获取的风险[21]。同时,对于脸部、视网膜等包含个人生物特征的生物识别信息也是深度合成技术极易侵犯的对象。这类信息具有防伪、私密、便携、难遗失等特征,并具有唯一对应性和不可更改性,相较于其他类型的个人信息而言更具敏感性,对其收集、使用和存储的安全要求更高,一旦发布将很难被消除或修改[22]。而深度合成技术恰恰是利用生物特征予以数据化处理的运作模式,其通过四通八达的网络线路广泛搜集拟合成对象的脸部神态、声音强调等个性化信息,并存入数据库中,若出现技术漏洞被黑客入侵窃取,或被技术使用者不当利用,大量的生物识别信息将面临被泄露和滥用的风险,严重威胁个人安全和社会稳定。

  

   四、深度合成技术应用的协同规制

  

   根据技术社会建构理论,分析新技术所带来的影响时应当寻求其有益途径,遏制其消极方面,并着眼于其潜在的正面应用和有效的监管方式[23]。据此,为了防止技术被利益驱动而破坏社会秩序,应当积极寻求规制技术的方法和出路。美国是最先对人工智能技术作出回应的国家,其主要从平台规范、技术对抗和立法监管三个方面进行规制[24],欧盟则制定了一系列的条例和方案将深度合成技术纳入到规制框架之中。也有学者提出以“R.E.A.L.”模式规范深度合成技术的应用,即记录原始内容以确保内容的真实性(Record original content to assure deniability)、提前曝光深度合成内容(Expose deepfakes early)、提倡法律的保护作用(Advocate for legal protection)、使用信用机制调节(Leverage trust)[25]。综合已有研究,本文拟从技术、伦理、法律三个层面寻求深度合成技术的规制路径。

  

   (一)以技术规制技术

  

   技术作为社会规范的一种形式,与道德、习惯、纪律、法律互为补充,共同规制人们的社会行为。技术规制的优势在于其能够更加直接、准确、高效、经济地发挥规范和调节作用,它不仅可以为人们树立相应的行为准则,还可以使人们不得不依据该准则行事,更直接地实现规范的目的。正因如此,人们对技术规范的需求甚至会超过法律规范,且技术规范的影响力可以打破时间和空间的束缚,不受国界限制,这对于网络环境下人们寻求维权之道尤具有吸引力[26]。对于新技术所带来的问题,需要通过发展新技术加以解决,即通过技术解决技术所来的问题。

  

   深度合成技术呈高速发展的趋势,相应的识别和破解技术必须及时跟进甚至是超越深度合成技术的发展速度,才能及时防范因技术滥用所引发的风险。对此,布法罗大学人工智能研究所所长大卫·德曼将这场技术的竞争比喻成“猫抓老鼠的游戏”[27]。目前,对深度合成技术的规制主要集中在溯源防伪和反向破解两项技术:前者是对原始视频添加“数字水印”,从创作源头保证视频的真实性,以清晰地辨识视频的真假;后者是针对深度合成技术含量高的视频和图像进行代码破解,撕开技术层面的“面纱”以揭露伪造视频。

  

   在溯源防伪技术上,主要是区块链技术应用,即运用数据加密、时间戳、分布式共识和经济激励等手段,在节点无需互相信任的分布式系统中实现去中心化信用的点对点交易与协作[28]。防篡改记录、数据编辑日志等都是可以公开查询的,有效保证了用户身份信息和网络行为的真实性和不可篡改性,使得任何伪造数据的行为都暴露无遗,区块链技术在数据资产的真实性和原始性保护方面发挥了重要作用[29]。在国外已有公司开始借助区块链技术为原著的照片、音频、视频等添加时间戳等“数字水印”,在分布式账本上形成永久的元数据记录[30]。这类似于版权领域中的技术保护措施,版权人可以运用特殊的印刷方式和技术保证正版版权作品的质量,使人们不得不遵守版权人设定的消费正版版权作品的规则,从而防止盗版、伪造,提高正品的销售额,减少了大规模的版权侵权现象[26]。在关于深度合成技术方面的法律法规尚未健全的情况下,通过溯源防伪技术添加“数字水印”的方式可以保护原版照片、音频、视频等媒体不被轻易修改,即使被用于制作虚假视频,也可以在新视频中显示“数字水印”标识,从而提醒观看者注意辨别视频的真假,防止不法分子制作和散布不实信息。

  

   在反向破解技术上,国外已开展多项先进技术的研发。如美国加州大学伯克利分校和南加州大学合作研发可以识别生物标签的人工智能系统[31],甚至还有研发人员能通过血液进入皮肤时的细微变化来识别视频中人物是否被深度合成技术进行了篡改[32]。2020年9月2日,微软公司还推出一款新视频认证工具,通过检测合成内容的混合边界,以及人眼无法看出来的微妙褪色或灰度元素,从而识别利用深度合成技术所制作的虚假视频[33]。通过提升反向破解技术,能为人们识别相关作品是否为深度合成所做提供科学的鉴别手段。

  

   (二)以商业伦理治理技术

  

   商业伦理是提供判断主体行为是否合乎道德与真理的一种规则、标准 、规范或原则[34]。其本身虽不具有法律意义上的强制性, 但有道德上的导向性和自我约束性[35]。当前,我国人工智能企业的现状是各企业的发展水平和进度参差不齐,导致诸多行业乱象,原因之一便是缺乏商业伦理的规范与引导。

  

   商业伦理规范就是按照符合道德的标准和规则进行行业自律。行业自律是一种重要的自主治理形式,能够构建良性的行业合作秩序、促进行业健康发展,是风险治理机制的重要手段[36]。一方面,行业内部可以在国家立法基础上,结合本行业自身发展特点制定更为清晰适用的准则规——形成统一的商业伦理;另一方面,还能有效缓解技术过快发展而引起的立法供给不足问题,为后续立法提供可参考的经验,避免盲目和超前立法扼杀技术创新的活力[37]。在人工智能飞速发展的势头下,为消除技术异化可能对人类造成的风险,科学技术研发者必须及时对价值诉求、道德期望和安全满足作出回应,否则将会导致行业失范的危机。为了更好地建立行业自律体系,商业伦理不可缺位。通过商业伦理,企业之间可以建立信任关系,降低交易成本,树立良好形象,获得长期绩效等。且随着全球经济市场竞争的愈演愈烈,商业伦理在原有的价值评判基础外,添加了关于企业如何更有效地实施市场行为的引导要素,并从利益相关者视角出发,有助于构建多元化商业伦理系统,以加强企业的社会责任感[38]。

  

   面对日新月异的人工智能技术发展,相对于政府机构的后续监管而言,企业处于获取行业发展最新动态和解决新技术复杂多变问题的最前沿,因此有关行业协会或组织联盟通过确立自律规范实现对内部成员的管理和约束,将更有利于引导行业的正向发展,从而实现与外部的国家强制监管的良性互动和补充。以英国的行业自律模式为例,该国的行业组织包括网络观察基金会(IWF)、互联网服务提供商协会(ISPA)、移动宽带集团(MBG)等,对入会要求、行业竞争、非法言论和虚假信息等制定了详细的互联网自律业务守则。而作为全球最大的人工智能行业组织——人工智能伙伴关系联盟(Partnership on  AI,簡称PAI联盟)是一个由美国企业发起的非营利性联盟,其成员包含Google、Facebook、Amazon、IBM等企业,该联盟在汇聚全球先进技术力量促进人工智能的发展、防止人工智能技术滥用、完善人工智能道德伦理等方面都对世界IT行业作出了巨大的贡献。同时,发挥行业领军企业的带头作用亦有助于引领整个行业良性发展。如Twitter公司发布首个反Deepfake策略草案、Google公司发布的《谷歌AI的原则》、国内腾讯公司提倡的“科技向善”理念等都为行业遵守技术伦理起到了表率作用。

  

   (三)以法律规范技术

  

   法律是最具有明确性、确定性和国家强制性的社会规范,其通过指引、评价、教育等作用以实现调整社会关系和维护秩序的目的[39],这些特征使法律成为风险治理机制的重要手段,立法者必须重视控制风险功能的法治化[40]。具体而言,深度合成技术在法律层面上的规制可以从技术的使用边界、技术的使用程序、滥用技术的法律后果三方面予以规范。

  

   在技术的使用边界上,明确应当予以禁止的不当使用深度合成技术的行为。如美国为应对深度合成技术带来的挑战,美国联邦与各州共计提出了12项立法法案对该技术予以规制[41],其中尤以弗吉尼亚州、德克萨斯州、加利福尼亚州为代表的州级立法最为严格。例如,弗吉尼亚州将未经授权而传播利用深度合成技术制作的图像和视频的行为定为犯罪,加利福尼亚州禁止深度合成技术用于色情传播和政治助选[24]。而在技术发达的欧洲,欧盟的《一般数据保护条例》被称为“史上最严数据保护条例”,该条例对深度合成技术使用边界作出了十分严苛的规定,如第9条要求数据控制者对涉及数据主体“识别自然人的生物性数据”都应当禁止使用[42]。在我国立法中,如《中华人民共和国民法典》(以下简称《民法典》)第1019条,即是针对新技术侵害肖像权所制定的保护措施[43],第1024条也规定了任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。

  

在技术的使用程序上,制定能够涵盖各个应用环节的使用规范。如2020年3月12日,美国华盛顿州出台的首部人脸识别法案《SB 6280法案》规定了严格的责任报告制度,主要是对政府机关使用人脸识别服务的行为予以规范,防止公权力对人脸识别技术的滥用[44]。欧盟则更强调自上而下的监管,对深度合成技术予以统一管理。欧盟理事会于2018年6月28日通过的《欧盟反虚假信息行为守则》将利用深度合成技术制作的不实内容纳入虚假信息管理范畴,增加有关抵御虚假信息的保护措施[45]。我国《民法典》第1035条规定,对个人信息处理应当征得信息主体的同意,需明示处理的规则、目的、方式和范围,且遵循合法、正当、必要原则。2021年6月10日通过的《中华人民共和国数据安全法》(以下简称《数据安全法》)第三章“数据安全制度”中明确提出了国家要对数据进行分级分类的保护,(点击此处阅读下一页)


爱思想关键词小程序
本文责编:陈冬冬
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/130050.html
文章来源:科技与法律 2021年5期
收藏