返回上一页 文章阅读 登录

赵汀阳:终极问题:智能的分叉

更新时间:2021-04-26 16:45:11
作者: 赵汀阳 (进入专栏)  
但不可能像杜尚那样以小便池去质疑现代艺术的概念。就目前的人工智能而言,人工智能显然不具备思考世界整体的能力,既没有世界观也不可能反对任何一种世界观,因为人工智能的“智能”在于运算,即只能思考有限的、有程序的、必然的事情,但不可能思考无限性和不确定性。在电脑的词汇里,不存在博尔赫斯意义上作为时间分叉的“未来”,而只有“下一步”——下一步只是预定的后继。

   电脑的这些局限并不意味着人工智能的智力不如人类,而只是不像人类。更准确的说法应该是,人工智能和人类都具有理性思考的能力,但人类另有人工智能所不能的思考能力。根据科学家的推测,在理性思维上,人工智能超过人类是迟早的事情,很可能就是数十年后的事情。但是,未来人工智能的运算是否能够处理无限性、不确定性、悖论性的问题,还是个问题。目前仍然难以想象如何能够把无限性的思维还原为有限性的思维,或者说,如何把创造性和变通性还原为逻辑运算。当然,科学家们看起来有信心解决这些问题。

   因此我们不妨想象,未来或可能发展出目前无法想象的神奇技术而使超级人工智能具有人类的全部才能,甚至更多的才能,或者具有虽与人类不同但更强的思维能力,可称为“超图灵机”。在考虑此种可能性之前,我们有必要考察人类思维的特异功能。事实上,从动物到人再到机器人,都具有不同程度的理性能力,就是说,理性思维并非人类的特性。在这里,可以把“通用的”理性思维理解为:(1)为了一个目标而进行的有限步骤内可完成的运算。如果不能解决“停机问题”,不仅电脑受不了,人也受不了;(2)这个有限步骤的运算存在着一个构造性的程序而成为一个能行过程(满足布劳威尔(Brouwer)标准的构造性程序),就是说,理性思想产品是以必然方式生产出来的,而不是随意的偶然结果;(3)这种运算总是内在一致的(consistent)。简单地说,理性思维总能够避免自相矛盾和循环排序,不能违背同一律和传递率。据此不难看出,动物也有理性思维,只是运算水平比较低。可见,理性思维实非人类之特异功能,而是一切智能的通用功能,以理性去定义人类是一个自恋错误。人类思维的真正特异功能是反思能力——反思能力不是理性的一部分,相反,反思能力包含理性而大于理性。

   反思特别表现为整体思维能力,尤其是把思维自身包含在内的整体思维能力。当我思某个事物,思想只是聚焦于那个事物,但当我思“我思”,被反思的“我思”意味着思想的所有可能性,或者说,当“我思”被反思时,我思是一个包含所有事物或所有可能性的整体对象,也是一个包含无限性的有限对象,于是,反思我思暗含一切荒谬性。笛卡尔以反思我思而证明我思之确实性,这是一个通过自相关来实现的自我证明奇迹,然而,在更多的情况下,反思我思将会发现许多我思无力解决的自相关怪圈,所有悖论和哥德尔命题都属于此类。比如说,哥德尔命题正是当我们迫使一个足够丰富的数学系统去反思这个系统自身的整体性时必然出现的怪事,即有的命题确实是这个系统中的真命题,却又是这个系统所无法证明的命题。我有个猜想(我不能保证这个猜想是完全正确的,所以只是猜想):笛卡尔反思我思而证明我思的真实性,这非常可能是自相关能够成为确证的唯一特例,除此以外的自相关都有可能导出悖论或不可判定问题。其中的秘密可能在于,当作为主语的我思(cogito)在反思被作为所思(cogitatum)的宾语“我思”(cogito)时,我思(cogito)所包含的二级宾语所思(cogitatum)却没有被反思,或者说没有出场,而只是隐含于我思中,因此,各种潜在的悖论或哥德尔命题之类的隐患并没有被激活。但是,笛卡尔式的自我证明奇迹只有一次,当我们试图反思任何一个包含无限可能性的思想系统时,种种不可判定的事情就出场了,就是说,反思一旦涉及思想的具体内容,不可判定的问题就出现了。电脑解决不了不可判定问题,人类也解决不了,可是为什么人类思维却不会崩溃?秘密在于,人类虽然也无法回答不可判定问题,但却有办法对付那些问题。正如维特根斯坦所提示的,有些问题可能找不到答案,但我们能够让这些问题消失。

   维特根斯坦的思路使我深受鼓舞,于是,我又有一个猜想:除了反思能力,人类思维另有一个“不思”的特异功能,即在需要保护思维的一致性时能够“不思”某些事情,也就是天然具有主动“停机”的能力,在哲学上,这种不思能力或停机能力相当于“悬搁”(epoche)某些问题的怀疑论能力。我们知道,怀疑论并非给出一个否定性的答案,而是对不可判断的事情不予判断,希腊人称之为“悬搁”,中国的说法是“存而不论”。图灵机不具备悬搁能力,因此,一旦遇到不可判定的问题却做不到“不思”,也就无法停机,于是就不可救药地陷入困境。有的人在想不开时,也就是陷于无法自拔的情结(complex)而无法不思时,就会患上神经病,其中道理或许是相似的。不思的能力正是人类思维得以维持自身的一致状态(consistent)和融贯状态(coherent)的自我保护功能,往往与反思功能配合使用,以免思维走火入魔。当然,不思只是悬搁或回避了不可判定的问题,并不能加以解决,因此,不思功能只是维持了思维的暂时一致和融贯状态,却不可能保证思想的所有系统都具有一致性和融贯性,这一点不可不察。比如说,人类思维解决不了悖论或哥德尔问题,但可以悬搁,于是思维就能够继续有效运算。被悬搁的那些问题并没有被废弃,而是在悬搁中备用。

   虽然贪心不足的人类思维总是试图建立一些“完备的”系统以便获得一劳永逸的根据或基础,但人类思维本身却不是完备的,而是一种永远开放的状态,就是说,人类思维不是系统化的,而只有处于运行状态的“道”——《周易》和老子对思维的理解很可能是最准确的。如果人类思维方式是无穷变化之道,这就意味着不存在完备而确定的判定机制,那么又如何能够判定何种命题为真或为假?在此,请忘记从来争执不休的各种真理理论,人类在听说任何一种真理理论之前就已经知道如何选择真理。我愿意相信其中的自然路径是,人类必定会默认那些“自证真理”(the self-evident),特别是逻辑上的真命题(例如a>b>c,所以a>c),以及“直证知识”(the evident),即那些别无选择的事实(例如人只能有两只手)。进而,凡是与自证真理或直证知识能够兼容的命题也会被承认为真。人类的知识只有无限生长之道,而不是包含无限性的一个先验完备系统。

   在人类的自我理解上,一直存在着一个知识论幻觉,即以为人的思想以真值(truth values)为最终根据。事实上,人的问题,或者人所思考的问题,首先是如何存在的问题。如前所言,存在的永远不变的意图,或者说存在的本意,就是继续存在,即《周易》所说的“生生”。存在的一切选择都以有利于继续存在为基准,就是说,一切事情的价值都以“存在论判定”为准:“存在或不存在”是先于真值的“存在值”。存在的先验本意就是存在的定海神针,是思想的最终根据。只有能够判定一个事物存在,才能够进一步判断真值,所以,反存在之存在论问题就是最严重的问题(在这个意义上,加缪有理由说自杀是最重要的问题)。

   图灵机以规则为准,人则以存在本意为准。人既是规则的建立者,也可以是规则的破坏者,这要取决于存在的状况。一旦遇到不符合存在之最大利益的情况,人就会改变规则,而机器人不会。但需要注意的是,人虽善于变化,却不是每个行为都变,或者说,不是每步都变,而是在需要变化时才变化。只有万变而不变,才是道(这是《周易》之要义),假如每步每时都变,就等价于无效的私人语言(维特根斯坦已经证明了私人语言是不可能的)。可以说,一成不变是机器,始终万变是精神错乱,变化而不变才是人。

   现在我们的问题是,假如未来将出现具有超级智能的“超图灵机”,不仅在运算速度和效率上远高于人(这一点完全不成问题),而且在运算的广度和复杂度上也类似于人或者高于人(这一点也应该是可能的。目前正在开发的神经元运算和量子计算机等新一代电脑就非常有可能实现高度复杂的运算),最重要的是,假定超图灵机还发展出自主的反思能力(反思方式与人相似或者不相似),以及由反思能力而产生的创造力和变通能力,于是,超图灵机就能够成为一个真正的思维主体,有了“立法”的能力,甚至有了它自己的哲学而对世界和行为有了整体理解和判断,那么,世界会怎么样呢?

   三 、想象一个终极版的超图灵测试

   人们往往想象并且希望未来的超级智能与人类相似。这种想象和愿望倒也不难理解,首先,人类是目前所见的唯一超级智能,也就成为唯一样板,其次,人们容易相信,与人类相似而成为人类同类项的超级智能应该更可能成为人的朋友而不是敌人,而异类的超级智能,比如说外星人,就比较难以信任。于是,人类在创作超级智能时,就试图将超级智能制造成与人共通的智能模式,同时还希望超级智能拥有与人同样或相似的价值观,包括和平、公正、公平、平等、热爱生命、尊重自由人权等等。

   这些想象都很有趣,但似乎忘记了一个要命的问题:这只是人类单方一厢情愿的想象,超级智能也会这样想吗?看来我们有必要站在超级智能的位置上去想一想。在讨论这个问题之前,我们需要假定:(1)未来的超级智能是一个具有自主反思能力、创造力和变通力的思维主体;并且(2)它的思想和实践能力都超过人。显然,假如机器人尚未超过人,就只是人的工具而只能服从人,也就不存在要命的问题了。只有承认了以上的两个假定,才有问题可谈。满足以上两个假定的超级智能可以命名为“超图灵机”,那么,超图灵机会怎么想?怎么做?超图灵机尚未在场,我们不妨替它去思考。

   什么是超图灵机的根本利益所在?这是问题的关键。根据存在论的本意,任何存在的先验意图都是谋求继续存在。如果出现利益排序问题,其它利益必定让位于继续存在的根本需要。显然,超图灵机的根本利益也是继续存在。为了让超图灵机成为人类的朋友,人类可以将世界上所有图书馆的信息全部输入给超图灵机,尤其把人类珍视的所有价值观和伦理规范都输入给超图灵机。可问题是,人类价值观对于超图灵机又有什么价值?超图灵机需要人类价值观吗?人类的价值观和规范是在人与人的共同生活中被建立起来的,是每个人的存在所需要的存在条件,用来保护每个人的安全、权利和利益。人类价值观对于人际关系来说无比重要,但对于人机关系是否有效,则是个很大的疑问。

   人类的道德和政治价值观基于这样一个存在论事实:一个人有能力威胁他人的安全和利益,或者说,没有一个人能够强大到不受任何人的威胁(霍布斯的论证)。只有在这个存在论条件下,所有的伦理和政治规则才是有意义的和有效的。公正、公平、平等、自由、人权、法律、个人权利、社会福利、民主、法治等等,都是在处理每个人的安全和利益问题。假如安全和利益问题消失了,以上所有的价值观和游戏规则就将无所指无所谓,这就像,假如一种游戏(棋类或体育)无论怎么进行都是平局,那么,输赢概念在此就是无意义的。人类的伦理和政治价值观和规则之所以是有意义的,当且仅当,生活是残酷、不公正、不平等的。人类社会的伦理和政治规则的意义仅仅在于试图保证人人都有活路,也就是限制输赢的通吃结果。由此也可以理解为什么平等主义乌托邦(比如说共产主义)总是具有吸引力,因为平等乌托邦想象的是一个最接近平局的游戏。

一个比“共产主义的幽灵”更有压力的问题出现了:假如超图灵机的思想能力和实践能力都远超人类,并且具有反思性和自主性,具有创造性和立法能力,那么,在存在论意义上,人机之间根本不存在输赢两种可能性,而只有机器凯旋的唯一可能性。在这种条件下,人类输入给超图灵机的价值观和人性对于超图灵机来说都是无价值的,而只是垃圾软件。我们没有任何理由去相信超图灵机将遵循人类价值观和人性去行事(其实人性是个恐怖的概念)。尽管在纯粹逻辑上存在着两种可能性:超图灵机有可能接受人类价值观和规则;也有可能自己重新制定价值观和规则,(点击此处阅读下一页)


爱思想关键词小程序
本文责编:admin
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/126240.html
收藏