返回上一页 文章阅读 登录

何哲:人工智能时代的人类安全体系构建初探

更新时间:2018-06-25 17:15:56
作者: 何哲  

  

   摘要:人类在迈向人工智能时代的同时,对人工智能所带来的人类根本性生存危机的恐惧与忧虑与日俱增。这种忧虑既来自于人工智能所具有的强大能力和展现出的巨大潜力,还在于人类在自我演化过程中的强烈排他性行为所带来的思维习惯。本文认为,人工智能在展现出巨大潜力的同时,势必要对传统单一的人类中心主义产生颠覆性冲击。但是人工智能必然会推动人类文明从传统的基于生物体系到多样体系的新阶段。对于人类而言,无论是出于人类本身的保存还是文明体系多样性的维护,人类安全体系的构建都是一个必要的防御性措施。这种措施,将在促使人类更好的融合人工智能的同时,也消除人类的思想顾虑,同时形成人工智能演化的技术边界。而从人类安全体系构建而言,要从物种纯粹性、经济社会可持续、权力主导性、知识传承性等角度共同构建一个规模适度的被动安全体系——人类社会的最小“安全岛”。

   关键词:人工智能;人类安全;体系;

   何哲,中央党校(国家行政学院)公共管理教研部教授,国家战略研究中心秘书长,研究方向包括网络社会治理、行政体制改革、国家发展战略等。

  

   人工智能起源于人类早期对设计人形/自主机器的梦想。二十世纪四五十年代,现代的人工智能雏形伴随着电子计算机的发明逐渐形成,进入到二十一世纪后,伴随着网络、大数据技术的不断应用推动和人类计算能力与方法的不断增长,人工智能呈现出爆炸式的增长。几乎每天,人工智能都会给人类惊喜/惊讶。人工智能已经在自动驾驶、电子游戏竞技、棋类比赛、智力测试、人工考试、自动翻译领域逐渐达到甚至远远超越了人类的水平,并依然展现出了巨大的未来潜力。目前的人工智能,只是属于弱人工智能,或者狭义人工智能,尚且不属于通用人工智能或者强人工智能乃至超人工智能[[1]]。因此,人类越来越担心的一个问题是,人类或许正在创造一种难以理解/控制的潜力巨大的新物种,从而对人类自我形成强大的威胁,甚至统治人类本身。

  

   这种担心自上世纪五十年代人工智能发展初期,就一直存在,在大量的科幻作品中都有涉及。进入到本世纪后,人工智能的飞速发展,在促使人类适应新技术的同时,也越来越加剧了人类的担忧。刚刚去世的著名科学家霍金就曾经多次警示,认为,人工智能有可能结束人类文明。著名科技企业家马科斯也持同样的观点,他认为人工智能从替代就业,发送假消息,乃至制造战争等角度,都将极大威胁人类的生存。因此,霍金与马科斯等科学家、企业家联名发出公开信,要求人类高度警惕人工智能[[2]]。

  

   当然,这种人工智能威胁论,只是关于人工智能的一种观点,对人工智能的发展抱着极为乐观态度的人依然大有人在。但无论如何,对于一种新的智慧形态的出现,抱有警惕性的思考并不是一件坏事,其可以有利于人类构建更为安全和谐的人工智能体系,也可以使得人们在思考人工智能的体系与未来时,预先建立起基本的伦理规范。

  

   本文就是从这一思路出发,将依次探讨三个层面的问题:1)人类为什么担忧或者恐惧人工智能,隐藏在这种心理之下的到底是什么?2)人工智能将会如何影响或者威胁到人类本身?3)人类应该构建一个什么样的安全体系保护自身,以及其核心要素是哪些?

  

   一、人类为什么担忧人工智能?

  

   简要来说,人类担忧人工智能有三方面的原因,一是人工智能本身所具有的巨大能力和展现出未来的更为巨大的潜力;二是人类在历史进化过程中形成的排他性的行为,从而形成了在思维深处根深蒂固的自我认同体系,对一切非人类种群的巨大排斥与恐惧;三是,人类自身独立与衰落的宿命恐惧。

  

   (一)人工智能所具有的巨大能力与潜力

  

   人工智能并不在一开始,就如同今天一样所具有巨大的能力与多样性适应的。在电子计算机诞生的早期,虽然其展现了远高于人类的计算能力,如最早的电子计算机可以每秒计算5000次加法,然而,人们对其未来并没有过高的估计。早期的计算机体积巨大耗能巨大,而能够做的工作极其单一,因此只有军方、政府、少数大公司才会使用。然而,伴随电子技术的不断发展,计算机以指数级的速度(摩尔定律)提高其性能、通用性与市场。直至今天,发达国家中的每个个体,生活中都接触到几个乃至几十个镶嵌有各种计算机的设备。目前为止,已经生效了四十余年的摩尔定律,依然在起作用,加速计算能力的增长。

  

   人工智能的发展历程,也是同样的。尽管在五十年代图灵就提出了图灵测试,在当时就出现了一大批人工智能的新进展,如人工智能语言和最早的问题分析机的出现。但是那时人工智能所依赖的依然是简单的符号逻辑分析和相对低下的运算能力[[3]]。形式化的算法,成为那时人工智能的核心。而无论是在复杂问题还是简单问题面前,人工智能所能够提供的决策判断和自主行为能力,都是极为弱小的。早期的人工智能只是在一些简单的电子游戏或者工业控制领域发挥作用,其本质是相对简单的逻辑规则,从而能够根据外部条件的变化根据设计规则进行响应。然而,1994年,人类设计的跳棋程序第一次战胜了人类跳棋世界冠军,此后,人类用穷尽式的枚举算法,计算出跳棋所有的5万亿亿种的走法,最终建立了永远不可能输的跳棋程序奇努克。但是,相同的方法在拓展到其他领域时,就显出了严重的不足。国际象棋的复杂度高达10的47次方,而围棋的复杂度高达10的170次方。这种巨大的运算量,远远超过了计算机能够穷尽的可能。然而,人工智能很快超越了传统逻辑主义的限制,通过巨大的联结和启发式算法以及自主的机器学习,来实现自身智能的演化。1997年,IBM深蓝计算机战胜了国际象棋冠军卡斯帕罗夫,2016年,谷歌公司的阿尔法狗战胜围棋世界冠军李世石,都深刻标志着在计算能力与算法上,人工智能的巨大进步。几乎与此同时,在机器翻译、自动驾驶、自动控制、语义分析与回答,乃至更为广泛的知识测试、标准化考试等领域。人工智能都达到了很高的水平,甚至远远高于了人类的平均水平。包括中国、美国在内的多个国家,都已经在制度上允许了自动驾驶的开放道路测试,而其他的智能应用,如智能家电、自动物流、生活助手、客户服务等领域,人工智能都正在全面的介入到人类生活之中。甚至在广泛的军事领域,人工智能都在进入其中,如广泛发展的攻击性无人机等。也就是说,无论在民用、军用还是科学研究、工业生产等领域,人工智能都已经全面介入到人类社会之中。可以说,人类社会正在处于不断扩大应用和不断被人工智能“包围”的历史过程中。

  

   而从发展趋势来看,尽管人工智能已经取得了如此大的成绩,在具体领域已经极大超越了人类的水平,但是这种进化速度,并没有呈现出缓和的趋势。相反,随着计算技术的不断发展,以往人类计算能力增长的摩尔定律,在未来依然起效,而在人工智能领域则同样呈现出类似的指数趋势。

  

  

  

   而根据摩尔定律,人类的计算能力每18个月增加一倍,成本下降一半,这种速度在过去有电子计算机以来的六十多年里都有效的发挥了作用,而伴随着算法的不断优化,人工智能能力的进化速度比摩尔定律进化的速度还要快。尽管基于硅晶体管工艺能力的极限,单位面积的集成晶体管数量可能会有极限,但是伴随着新的多核架构和网络计算等新型计算体系的出现,以及包括量子计算机、光子计算机、生物计算机等新的硬件机制的发展,加之人工智能算法自我进化的趋势,可以预见的是,整体而言,人工智能的能力依然会沿着指数级的增长速度,加速增长。

  

   根据人工智能的能力,一般而言,将其发炸阶段划分为弱人工智能,强人工智能以及超人工智能。所谓弱人工智能,又称狭义人工智能,或者专业人工智能,是指针对某种特殊任务和场景进行特殊设计和优化的人工智能。而自人类以来的所有人工智能,目前都属于这一阶段。强人工智能又称通用人工智能,是指不需要专业化设计,如同人类一样,可以自主学习与适应的人工智能,在这一阶段,人工智能具备了和人类一样的思辨与通用学习能力。目前,对强人工智能出现的时间预测很不确定,最乐观的认为在2020年左右,保守的则认为在2050年左右[[4]]。强人工智能出现后,由于指数进化的趋势和人类数字化的巨大信息资料的帮助,人工智能会很快进化到超人工智能阶段,即远远超过人类总体智慧能力的人工智能阶段。在这一阶段,由于吸纳了人类所有的数字化信息与知识,以及自身的智慧进化速度,人工智能将远远超过人类的智力水平,具有高度的思辨能力、适应能力与信息处理能力。而有研究者认为这一阶段,可能是2060年到来[[5]]。

  

   因此,纵览人工智能过去的发展历史以及未来,可以看到,人工智能经过长期的缓慢发展,在指数规律的作用下,经历过缓慢的爬升期后,正在迅速的自我增长,并且其未来的潜力依然是不可限制的。在今天弱人工智能已经具有了巨大的适应性与丰富的场景应用,甚至应用在人类内部的血腥冲突之中,人工智能会怎样,这种巨大的潜力,不能不让人类本身产生深深的忧虑。

  

   (二)人类进化历史形成的排他性意识与行为

  

   人类到底是一种什么生物?在不同的层面上,有不同的解答,比如暴力、智慧、秩序、文明、善良等等。但是如果跳出单一的人类本身视角,而从历史的演化来看,不得不承认,人类是一种具有高度组织性和排他性暴力行为的凶猛的大型生物。

  

   一部人类的进化历史,就是一部人类不断消灭其他物种乃至其他种族的历史。在人类的早期,人类组织起来,同大型猛兽和自然界相斗争。这一进化过程看似漫长和简单,但是从智人诞生的几十万年中,一个残酷的事实是,人类消灭了地球上已有的90%的物种。

  

   根据最近的一份研究表明,人类灭绝生物的速度是自然界创造新物种速度的1000倍[[6]]。而且有愈演愈烈之势。研究人员估计在未来动植物灭亡的速度将是新物种诞生速度的10000倍。通过对化石和遗传变异进行研究,研究发现自然对生物的淘汰速度比人类发现的要慢很多——大约每1000万物种中只会灭绝1个物种。而自从人类来到这个世界上,每年每千万种物种中就有1000个物种灭绝。包括猛犸象以及其他众多的大型猛兽都被人类灭绝。

  

人不仅仅消灭的别的物种,人同时也消灭类似的人类。在人类进化的序列中,几十万年前的早期人类,(点击此处阅读下一页)

本文责编:川先生
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/110616.html
文章来源:作者授权爱思想发布,转载请注明出处(http://www.aisixiang.com)。
收藏