返回上一页 文章阅读 登录

谭泰成 闫雪枫 周颖 刘永谋:以人民为中心:科技伦理治理的价值追求

更新时间:2022-07-13 17:01:41
作者: 谭泰成   闫雪枫   周颖   刘永谋 (进入专栏)  
不同的伦理原则在不同的技术中或具体情境中可能存在价值冲突,产生取舍的困境。对此,维贝克曾将调节理论和价值设计相结合,提出了价值发挥重要作用的方法来加以应对。简言之,将利益相关者的价值观动态地转化并内嵌到技术物中。以健康码为例,最初以保护公众健康和尊重生命权利为首要原则,在实施过程中逐步显现出隐私泄漏、不公平、不透明等伦理隐患,在修复调节中就需要加以着重考虑,将之置于价值矩阵的前端。

  

   3、伦理责任:以正确价值导向规范科技实践

  

   主持人:要形成多方参与、协同共治的科技伦理治理格局,需要各方主体履行怎样的伦理责任?

  

   闫雪枫:形成多方参与、协同共治的科技伦理治理格局,首先需要科技工作者在进行研究的过程中主动加强伦理意识,自觉遵守科技伦理原则,积极与科技伦理学者进行对话和合作。对科技伦理研究者来说,需要以科学事实为依据开展对诸如知情同意、自主性等伦理问题的研究,为相关政策和原则的制定提供符合实际情况的理论支持。相关政府部门和决策者需要广泛听取来自自然科学、社会科学、人文科学的专业人员的意见建议,对特定技术的潜在风险效益以及伦理问题进行评估,建立可靠的监督机制。

  

   周颖:就数据伦理治理而言,主体包括政府部门、数据专家、大数据技术设计者、数据伦理学者、公众、企业、高校、科研机构、社会团体等。为形成多方参与、协同共治的数据伦理治理格局,一方面,各方主体需要进行跨学科、跨范式的有效沟通,加强合作共建,凝聚力量,合力推进伦理治理实践。另一方面,各方主体应当积极履行各自的伦理责任,如政府部门,应当进一步完善相应的管理、监管制度建设;各个创新主体应当接受政府部门的管理和监督,主动学习数据伦理知识,自觉遵守数据伦理要求,依法合规地开展研究工作;伦理学者应当拓展研究的广度和深度,对比各国的研究成果,发表符合我国国情的伦理研究成果。

  

   谭泰成:要各方履行好伦理责任并非易事。在智能治理背景下,伦理责任的首要主体是处在创新和研究一线的算法工程师和数据科学家。他们应当克服算法理性主义的狂妄,保持科技谦逊主义的态度,提升对于数据样本、算法解释的伦理敏感性。从更大的角度来看,人工智能研究的科学共同体既要勇攀科技高峰,也要敏锐地意识到创新与研究活动的潜在伦理风险和挑战。当前,技术治理的智能化趋势集中反映在公共行政领域。对于公共治理者而言,最基本的伦理责任就是要慎用手中的数据和算法治理手段,合理约束这种“技术权力”。

  

   主持人:在人类社会深度科技化的背景下,伦理责任的难点与痛点有什么?

  

   谭泰成:结合算法伦理的现状,与伦理责任有关的难点在于:伦理问题侧重于关切如何达成基本的共识性原则,治理问题则倾向于从公共治理角度来妥善解决技术引发的社会问题。显然,对于当下的算法治理而言,难点并不在于缺乏共识性的伦理原则,而是如何将这些原则贯彻到算法治理中。仅仅依靠顶层的适度设计是不够的,还需要配套的底层设计。在智能治理领域,与伦理责任相关的最大痛点在于:人们往往为获取服务便利,或觉得维权成本太高,不愿意与相关企业、公共部门或服务业的一些算法歧视或侵权行为进行抗争。一个重要原因是,不同年龄段、不同地区、不同学历层次的人群,对于风险感知程度不一样,这种差别反过来会影响他们采取相应行动的意愿。另一个原因是,缺乏制度化的治理参与途径,既有的维权手段也不尽如人意。

  

   闫雪枫:新兴技术中普遍存在的伦理责任痛点与难点主要包括责任的归属、伦理审查实施的有效性,以及如何把握不同价值观之间的平衡、技术发展与伦理之间的平衡。在基因编辑的基础研究和临床试验中涉及包括科技工作者、患者、监督机构,以及政府部门等在内的多个主体。各主体的责任范围、责任权重在不同的案例中不尽相同,因此需要具体情况具体分析。此外,即便有了伦理监督审查机构,也可能存在伦理审查理解偏差、尺度不严或走过场等情况,导致审查监管方面的伦理责任不能得到切实履行。落实伦理审查,需要从多方吸纳审查人员、平衡各主体间的利益,从而保障审查是透明、客观和公正的。最后需要明确的是,伦理责任应当是科技工作者开展科研活动时的底线,不应反过来限制科技的发展。

  

   周颖:人类深度数据化的背景下,难点与痛点之一在于仍有一部分群体游离在数据应用带来的便利之外,被数据技术拒绝,更不必说承担相应的伦理责任。以新冠应用程序中的技术拒绝现象为例,表现为一部分人游离在新冠应用程序之外,人从过去对技术的拒绝主体地位掉落下来,变成被技术拒绝的对象。表现为技术物质条件上的拒绝、技术知识和信息来源上的拒绝以及技术自身的不完善、技术漏洞或者非开放性技术权限的拒绝。该问题实质上使人与技术间的严格边界被逐步消解。技术权利提升、伦理意蕴增强的同时,人的主体性地位、权利相对就被削弱了,从而,过去人对技术“呼之则来挥之则去”的自主性不复存在,而当技术不仅成为人的生活方式,且主导了人的生活方式时,几乎无法为人所拒绝,然而却有了拒绝人类进入的能力,这是技术发展的必然结果,因此也是未来值得关注和深入思考的问题。

  


爱思想关键词小程序
本文责编:陈冬冬
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/135248.html
文章来源:《光明日报》( 2022年07月04日 15版)
收藏