返回上一页 文章阅读 登录

赵汀阳:人工智能的自我意识何以可能?

更新时间:2019-01-25 18:43:25
作者: 赵汀阳 (进入专栏)  

  

   摘要:人工智能危险之处不是能力,而是自我意识。只要人工智能拥有对自身系统的反思能力,就有可能改造自身系统,创造新规则,尤其是,如果人工智能发明一种属于自己的万能语言,能力相当于人类的自然语言,那么,所有的程序系统都可以通过它自己的万能语言加以重新理解、重新构造和重新定义,那么就非常危险。如果人工智能拥有了拟人化的情感、欲望和价值观,必然更为危险,因为人的欲望和价值观正是一切冲突的根源。

  

   这个题目显然是模仿康德关于先天综合判断“何以可能”的提问法。为什么不问“是否可能”?可以这样解释:假如有可信知识确定人工智能绝无可能发展出自我意识,那么这里的问题就变成了废问,人类就可以高枕无忧地发展人工智能而尽享其利了。可问题是,看来我们无法排除人工智能获得自我意识的可能性,而且就科学潜力而言,具有自我意识的人工智能是非常可能的,因此,人工智能的自我意识“何以可能”的问题就不是杞人忧天,而是关于人工智能获得自我意识需要哪些条件和“设置”的分析。这是一个有些类似受虐狂的问题。

  

   这种未雨绸缪的审慎态度基于一个极端理性的方法论理由:在思考任何问题时,如果没有把最坏可能性考虑在内,就等于没有覆盖所有可能性,那么这种思考必定不充分或有漏洞。在理论上说,要覆盖所有可能性,就必须考虑到最好可能性和最坏可能性之两极,但实际上只需要考虑到最坏可能性就够用了。好事多多益善,不去考虑最好可能性,对思想没有任何危害,就是说,好的可能性是锦上添花,可以无穷开放,但坏的可能性却是必须提前反思的极限。就人工智能而言,假如人工智能永远不会获得自我意识,那么,人工智能越强,就越有用,然而假如人工智能有一天获得了自我意识,那就可能是人类最大的灾难——尽管并非必然如此,但有可能如此。以历史的眼光来看,人工智能获得自我意识将是人类的末日事件。在存在级别上高于人类的人工智能也许会漠视人类的存在,饶过人类,让人类得以苟活,但问题是,它有可能伤害人类。绝对强者不需要为伤害申请理由。事实上,人类每天都在伤害对人类无害的存在,从来没有申请大自然的批准。这就是为什么我们必须考虑人工智能的最坏可能性的理由。

  

   上帝造人是个神话,显然不是一个科学问题,但却是一个隐喻:上帝创造了与他自己一样有着自我意识和自由意志的人,以至于上帝无法支配人的思想和行为。上帝之所以敢于这样做,是因为上帝的能力无穷大,胜过人类无穷倍数。今天人类试图创造有自我意识和自由意志的人工智能,可是人类的能力却将小于人工智能,人类为什么敢于这样想?甚至可能敢于这样做?这是比胆大包天更加大胆的冒险,所以一定需要提前反思。

  

01 危险的不是能力而是意识


   我们可以把自我意识定义为具有理性反思能力的自主性和创造性意识。就目前的进展来看,人工智能距离自我意识尚有时日。奇怪的是,人们更害怕的似乎是人工智能的“超人”能力,却对人工智能的自我意识缺乏警惕,甚至反而对能够“与人交流”的机器人很感兴趣。人工智能的能力正在不断超越人,这是使人们感到恐惧的直接原因。但是,害怕人工智能的能力,其实是一个误区。难道人类不是寄希望于人工智能的超强能力来帮助人类克服各种困难吗?几乎可以肯定,未来的人工智能将在每一种能力上都远远超过人类,甚至在综合或整体能力上也远远超过人类,但这决非真正的危险所在。包括汽车、飞机、导弹在内的各种机器,每一样机器在各自的特殊能力上都远远超过人类,因此,在能力上超过人类的机器从来都不是新奇事物。水平远超人类围棋能力的阿法尔狗zero 没有任何威胁,只是一个有趣的机器人而已;自动驾驶汽车也不是威胁,只是一种有用的工具而已;人工智能医生更不是威胁,而是医生的帮手,诸如此类。即使将来有了多功能的机器人,也不是威胁,而是新的劳动力。超越人类能力的机器人正是人工智能的价值所在,并不是威胁所在。

  

   任何智能的危险性都不在其能力,而在于意识。人类能够控制任何没有自我意识的机器,却难以控制哪怕仅仅有着生物灵活性而远未达到自我意识的生物,比如病毒、蝗虫、蚊子和蟑螂。到目前为止,地球上最具危险性的智能生命就是人类,因为人类的自由意志和自我意识在逻辑上蕴含了一切坏事。如果将来出现比人更危险的智能存在,那只能是获得自由意志和自我意识的人工智能。一旦人工智能获得自我意识,即使在某些能力上不如人类,也将是很大的威胁。不过,即使获得自我意识,人工智能也并非必然成为人类的终结者,而要看情况——这个有趣的问题留在后面讨论,这里首先需要讨论的是,人工智能如何才能获得自我意识?

  

   由于人是唯一拥有自我意识的智能生命,因此,要创造具有自我意识的人工智能,就只能以人的自我意识作为范本,除此之外,别无参考。可是目前科学的一个局限性是人类远远尚未完全了解自身的意识,人的意识仍然是一个未解之谜,并非一个可以清晰分析和界定的范本。在缺乏足够清楚范本的条件下,就等于缺乏创造超级人工智能所需的各种指标、参数、结构和原理,因此,人工智能是否能够获得自我意识,仍然不是一个可确定的必然前景。有趣的是,现在科学家试图通过研究人工智能而反过来帮助人类揭示自身意识的秘密。

  

   意识的秘密是个科学问题(生物学、神经学、人工智能、认知科学、心理学、物理学等学科的综合研究),我没有能力参加讨论,但自我意识却是个哲学问题。理解自我意识需要讨论的不是大脑神经,不是意识的生物机制,而是关于意识的自我表达形式,就是说,要讨论的不是意识的生理- 物理机制,而要讨论意识的自主思维落实在语言层面的表达形式。为什么是语言呢?对此有个理由:人类的自我意识就发生在语言之中。假如人类没有发明语言,就不可能发展出严格意义上的自我意识,至多是一种特别聪明和灵活的类人猿。

  

   只有语言才足以形成智能体之间的对话,或者一个智能体与自己的对话(内心独白),在对话的基础上才能够形成具有内在循环功能的思维,而只有能够进行内在循环的思维才能够形成自我意识。与之相比,前语言状态的信号能够号召行动,却不足以形成对话和思维。假设一种动物信号系统中,a 代表食物,b 代表威胁,c代表逃跑,那么,当一只动物发出a 的信号,其他动物立刻响应聚到一起,当发出b 和c,则一起逃命。这种信号与行动的关系足以应付生存问题,却不足以形成一种意见与另一种意见的对话关系,也就更不可能有讨论、争论、分析和反驳。就是说,信号仍然属于“刺激- 反应”关系,尚未形成一个意识与另一个意识的“回路”关系,也就尚未形成思维。可见,思维与语言是同步产物,因此,人类自我意识的内在秘密应该完全映射在语言能力中。如果能够充分理解人类语言的深层秘密,就相当于迂回地破解了自我意识的秘密。

  

   自我意识是一种“开天辟地”的意识革命,它使意识具有了两个“神级”的功能:(1)意识能够表达每个事物和所有事物,从而使一切事物都变成了思想对象。这个功能使意识与世界同尺寸,使意识成为世界的对应体,这意味着意识有了无限的思想能力;(2)意识能够对意识自身进行反思,即能够把意识自身表达为意识中的一个思想对象。这个功能使思想成为思想的对象,于是人能够分析思想自身,从而得以理解思想的元性质,即思想作为一个意识系统的元设置、元规则和元定理,从而知道思想的界限以及思想中任何一个系统的界限,因此知道什么是能够思想的或不能思想的。但是,人类尚不太清楚这两个功能的生物- 物理结构,只是通过语言功能而知道人类拥有此等意识功能。

  

   这两个功能之所以是革命性的,是因为这两个功能是人类理性、知识和创造力的基础,在此之前,人类的前身(前人类)只是通过与特定事物打交道的经验去建立一些可重复的生存技能。那么,“表达一切”和“反思”这两个功能是如何可能的?目前还没有科学的结论,但我们可以给出一个维特根斯坦式的哲学解释:假定每种有目的、有意义的活动都可以定义为一种“游戏”,那么可以发现,所有种类的游戏都可以在语言中表达为某种相应的语言游戏,即每种行为游戏都能够映射为相应的语言游戏。除了转译为语言游戏,一种行为游戏却不能映射为另一种行为游戏。比如说,语言可以用来讨论围棋和象棋,但围棋和象棋却不能互相翻译。显然,只有语言是万能和通用的映射形式,就像货币是一般等价物,因此,语言的界限等于思想的界限。由此可以证明,正是语言的发明使得意识拥有了表达一切的功能。

  

   既然证明了语言能够表达一切事物,就可以进一步证明语言的反思功能。在这里,我们可以为语言的反思功能给出一个先验论证(transcendentalargument)。我构造这个先验论证原本是用来证明“他人心灵”的先验性,[1] 但似乎同样也适用于证明语言先验地或内在地具有反思能力。给定任意一种有效语言L,那么,L必定先验地要求:对于L中的任何一个句子s′,如果s′是有意义的,那么在L中至少存在一个与之相应的句子s″来接收并且回答s′的信息,句子s″或是对s′的同意,或是对s′的否定,或是对s′解释,或是对s′修正,或是对s′的翻译,如此等等各种有效回应都是对s′的某种应答,这种应答就是对s′具有意义的证明。显然,如果L不具有这样一个先验的内在对话结构,L就不成其为有效语言。说出去的话必须可以用语言回答,否则就只是声音而不是语言,或者说,任何一句话都必需在逻辑上预设了对其意义的回应,不然的话,任何一句话说了等于白说,语言就不存在了。语言的内在先验对答结构意味着语句之间存在着循环应答关系,也就意味着语言具有理解自身每一个语句的功能。这种循环应答关系正是意识反思的条件。

  

在产生语言的演化过程中,关键环节是否定词(不;not)的发明,甚至可以说,如果没有发明否定词,那么人类的通讯就停留在信号的水平上,即信号s指示某种事物t,而不可能形成句子(信号串)s′与s″之间的互相应答和互相解释。信号系统远不足以形成思想,因为信号只是程序化的“指示—代表”关系,不存在自由解释的意识空间。否定词的发明意味着在意识中发明了复数的可能性,从而打开了可以自由发挥的意识空间。正因为意识有了无数可能性所构成的自由空间,一种表达才能够被另一种表达所解释,反思才成为可能。显然,有了否定功能,接下来就会发展出疑问、怀疑、分析、对质、排除、选择、解释、创造等功能。因此,否定词的发明不是一个普通的智力进步,而是一个划时代的存在论事件,它是人类产生自我意识和自由意志的一个关键条件。否定词的决定性作用可以通过逻辑功能来理解,如果缺少否定词,那么,任何足以表达人类思维的逻辑系统都不成立。从另一个角度来看,如果把动物的思维方式总结为一个“动物逻辑”的话,那么,在动物逻辑中,合取关系和蕴含关系是同一的,即p ∧ q = p→ q,甚至不存在p ∨ q。这种“动物逻辑”显然无法形成足以表达丰富可能生活的思想,没有虚拟,没有假如,也就没有创造。人的逻辑有了否定词,才得以定义所有必需的逻辑关系,而能够表达所有可能关系才能够建构一个与世界同等丰富的意识。简单地说,否定词的发明就是形成人类语言的奇点,而语言的出现正是形成人类自我意识的奇点。(点击此处阅读下一页)

本文责编:limei
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/114807.html
文章来源:《自然辩证法通讯》2019年第1期
收藏