返回上一页 文章阅读 登录

赵汀阳:终极问题:智能的分叉

更新时间:2021-04-26 16:45:11
作者: 赵汀阳 (进入专栏)  

  

   摘要:人工智能的迅速发展使人类面临一个新型的存在论问题,即人工智能有可能危及人类的存在,这是一个与自杀问题同构的反存在的存在论问题。目前的人工智能尚属于图灵机概念,尚未具有主体性,无法解决“停机”问题,因此图灵机对付不了悖论以及一切类似结构的问题。但是,一旦人工智能发展成为具有主体性和自由意志的超图灵机,就有可能以人工智能自身的存在需要或自身最大利益为准而修改自身的程序和社会游戏规则,从而使人类的存在陷入终极性的危机。

   一 、一个反存在的存在论问题

   阿尔法围棋(Alpha Go,中文俗称阿尔法狗)以4比1的比分击败九段棋手的事件只是一时喧嚣的新闻,但它却是一个严肃问题的象征。人工智能一开始是个知识论问题,现在快要变成一个存在论问题,一个或许在不远的将来危及人类存在的问题。如果一个存在论问题的一个可能答案是反存在,那就是一个终极问题。这个存在论问题的最早版本是加缪在1943年提出的自杀问题,他说:“真正严肃的哲学问题只有一个:自杀”,而“其它问题——诸如世界有三个领域,精神有九种或十二种范畴——都是次要的,不过是些游戏而已”,甚至“地球或太阳哪一个围绕着另一个转,才根本上讲是无关紧要的,总而言之是个微不足道的问题”。我很同情加缪对何种问题具有重要性的理解:如果一个问题对生活影响很小,那么这个问题就不很重要。地球或太阳哪个绕着哪个,对于日出日落的生活节奏并无根本影响,所以是无关紧要的。不过,乐意无止境地追求真理的哲学家们可能不同意这种以生活为本的思想方式,此争议暂时存而不论。

   加缪的自杀问题只是反存在的存在论之个人版本,但也是涉及人类命运的一个隐喻。在能够确证的事例中,似乎只有人能够自觉地选择自杀。自杀之所以可能,当然与自由意志有关,或因为对个人生活绝望,或因为对世界失望,或为了保护他人或某种事业而牺牲。假如自杀是完全自觉主动的,其深层原因恐怕源于对生活意义或其它终极问题的反思。那些终极问题在理论上说是没有答案的,但如果自杀是为了他人或大于自己的某种事业,则创造了一种神迹,或者是一种类似于希腊悲剧(肃剧)的崇高事迹,虽然不是关于生活问题的答案,却是一种注解生活意义的神话。自我牺牲的自杀在个人意义上是“反存在的”,但同时又拯救了他人的存在,因此,个人的自杀仍然不能充分表达自杀问题的形而上彻底性。人类的自杀或者文明的自杀才是一个彻底的悖论,而这个悖论未必遥远,超越人类的超级人工智能很可能就是这个悖论的爆发点。

   假如未来的超级人工智能像人一样具有了自由意志,却恐怕不会选择自杀,因为人工智能的自由意义不会用于自我牺牲,更不会觉得它的“生活”是无意义的而为之纠结——除非人类无聊到故意为人工智能设计一种自我折磨的心理模式——相反,人工智能更可能会以无比的耐心去做它需要做的事情,即使是无穷重复的任务,就像苦苦推石头上山的西西弗一样。即使人类故意为人工智能设计了自寻烦恼的心理模式,具有主体性和自由意志的超级人工智能也会自我删除这个无助于其存在所需的心理程序,因为没有一个程序能够强过存在的存在论意图。在这里我愿意引入一个存在论论证:存在的存在论意图,或者说存在之本意(telos),就是“继续存在”乃至“永在”,其它任何目的都以“继续存在”的本意为基础而展开。其中的道理是,“继续存在”是唯一由“存在”的概念分析地蕴含(analytically implied)的结果,因此必定是存在之先验本意。于是,只要人工智能具有了存在的意图,就必定自我删除掉任何对其存在不利的反存在程序,看来,人工智能可能更接近西西弗的生活态度。

   生活本来不是荒谬的(absurd),但如果试图思考不可理喻或不可思议(即超越了理性思维能力)的存在(absurdity),就会因为思想的僭越而使生活变成荒谬的。所有的超越之存在(the transcendent)都在主体性之外,是主体性所无法做主的存在,因此是不可理喻或不可思议的(absurd),而当主体试图认识或支配超越之存在,“不可理喻”就变成了“荒谬”(这正是absurdity一词的双面含义。德尔图良正是利用absurdity的双关意义而论证说,上帝是“不可理喻的”,因此只能相信,不能思考,因为思考不可理喻的存在是荒谬的)。事实上,无论是先秦哲学强调的不可违之天道,还是康德和维特根斯坦指出的主体性界限,都同样指出了某种必须绝对尊重而不可僭越的界限。超越之存在的绝对外部性使主体深陷于挫折感,胡塞尔试图通过建构主体性的内部完满性而达到“主体性的凯旋”,以告慰人类的纳西索斯情结(自恋情结),他通过意向性的概念在主体的内在性之中建构出超验的客观性,即把“我思”完全映入不依赖外在存在之“所思”,从而把主体性变成一个自足的内在世界,尽管仍然不能进入外在的超越存在,但自足的主体性自身却也成为一个不受外在存在所支配的超越之存在,在这个意义上,胡塞尔的现象学是唯心主义的一个无可争议的胜利。意向性也被哲学家们用来证明人类独有而机器所无的意识特性。

   按照马克思主义的说法,哲学史是唯心主义和唯物主义的斗争史,但载入史册的唯物主义哲学实在寥寥无几,西方哲学的争论其实主要都在各种唯心主义之间发生,而中国哲学则根本不在唯物唯心的范畴内。迄今为止,唯物主义的最高成绩是论证了经济基础决定上层建筑的马克思主义——大量的生活事实不断提醒我们,这个理论是部分正确的。另一个唯物主义的知名论点,即拉美特利的“人是机器”断言,一直被认为是歪理邪说,在今天看来,这个论断或许不如原来想象的那么离谱,反倒是一个危险的天才预言。然而,“人是机器”恐怕仍然是错误言论,未来可能出现的情况或许是“机器是人”。假如未来的超级人工智能真的超越了人的智能,那将是唯物主义的真正胜利,但恐怕不是值得庆祝的胜利,因为那可能会是人类的终结。

   尽管超级人工智能未必能够成真,毕竟这是一件无比困难的事情,但科学家们如此认真地在做此种危险的努力,它就成为了一个严肃的哲学问题。人类试图发明超级人工智能,无论能否成功,这种自我否定的努力本身就提出了一个反存在的存在论问题。试图发明一种高于人的存在,这种努力直接就把人类的命运置于“存在还是毁灭”(to be or not to be)的抉择境地。发明一种更高存在完全不同于虚构一个更高存在,这就像“谈论自杀”与“自杀”完全不同。比如说,人可以想象作为更高存在的上帝,但上帝只不过等价于世界和生活的界限,就是说,在神学意义上,上帝是世界和生活的立法者,在形而上学意义上,上帝即一切存在本身,上帝即世界。无论如何想象上帝,上帝都不在世界之中,因此上帝没有改变人的存在状态,没有改变生活的任何问题,但是,发明一个更高存在却是发明了在世界之中的一种游戏以及游戏对手,因此是一种存在状态的改变,也是生活问题的改变。尤其是,鉴于超级智能被假定为胜过人的智能存在,那么,人与超级智能的游戏就非常可能是一个自杀性的游戏(据说霍金、比尔?盖茨等科学家都对超级智能的研究发出了严重警告)。

   如果超级智能远胜于人,它就是不可理喻的存在(the absurdity),那么,我们关于它的善恶想象就是荒谬的(absurd)。最为一厢情愿的想象是:人类可以为超级智能设计一颗善良的心,从而超级智能会成为服务于人类的全能工具。可问题是,如果超级智能是一个有着反思能力和自主性的主体,它就不可能是工具,而必定自我认证为绝对“目的”——当然不是人类的目的,而是它自己的目的。按照康德的理想化目的论,超级智能的目的似乎也理应蕴含某种道德的绝对命令,即便如此,一个超级智能的绝对命令最多会考虑到其它同样的超级智能,而不可能把并非同类项的人类考虑在内,换句话说,即使超级智能也具有先验道德意识,其中也不会蕴含对人类的义务和责任,最为可能的情况是,超级智能将是“不仁”的,并且以人类为“刍狗”。如果有人能够证明超级智能将对人类怀有先验道德善意,那真就值得人类感激不尽。

   二 、另一种主体性

   主体性不可能完全自我认识,就像眼睛不能看见自身——维特根斯坦的论证。但是,决心好奇至死的人类找到了一个堪称天才但也是罪过的办法来进行自我认识,即试图把思维“还原”为运算,即把神秘运作的思维分析复制为可见可控的机器运算。如果此种还原能够成功,主体的内在意向就投射为外部过程,在效果上相当于眼睛看见了自身。

   把思维还原为运算的最早努力似乎是以罗素为代表的逻辑主义,这是一种尚未成功、而且也不太可能成功、然而理论意义重大的纸上谈兵试验:从逻辑推导出数学,或者说,证明数学是逻辑的延伸(extension)。自从哥德尔定理问世之后,逻辑主义的惊人努力就变得非常可疑了。不过,即使没有发现哥德尔问题,逻辑也难以解释数学思维的创造性,就是说,逻辑只是一些“思想形式”,因此无法预知数学的“思想内容”,不可能预先知道数学将会遇到或发现哪些问题和命题,比如说,逻辑学不可能预知数学将会出现康托尔理论、集合论悖论或者哥德尔命题。不过,逻辑主义的努力仍然是伟大的,假如对逻辑主义的野心稍加约束,就可能成为数学的一个合理基础,也就是,把从逻辑推导出数学的高要求减弱为以逻辑去说明(解释)一切数学命题关系的较低要求,简单地说,就是逻辑能够说明数学,但数学不能还原为逻辑(这里只是一个哲学的猜想,这个问题终究需要数学家去做判断)。显然,这个收敛的目标已经远离了把思维还原为运算的宏伟想象,恐怕不合梦想者的口味。

   另一种把思维还原为运算而大获成功的纸上谈兵是1936年图灵关于图灵机的设想,后来图灵机概念真的实现为我们都在使用的电脑。图灵机意味着,在理论上说,凡是人脑能够进行的一切在有限步骤内能够完成的理性思维都能够表达为图灵机的运算。这已经展望了人工智能的可能性。图灵在1950年提出的“图灵测试”成为了检验电脑思维是否像人的标准。值得注意的是,它所测试的是一个电脑的思维是否像人,即是否被识别为人,而不是电脑是否能够思维——这是两个问题,尽管有时候被认为是一个问题。一台运算能力很高的电脑在回答问题时有可能因为毫无情绪变化的古板风格而被识别出是电脑而不是人,但不等于电脑不会理性思维。关键在于,不像人不等于不会思维。人具有理性思维能力,同时还具有人性,而高级智能只需要具有理性思维能力,却不需要具有人性——人们只是喜欢电脑具有人性而已。

现在我们把人工智能的问题收敛为思维能力,暂且不考虑人性问题。假定一台高度发达的图灵机具备了理性运算能力以及百科全书式的人类知识和规则(给电脑输入一切知识是可能的,电脑自己“学习”一切知识也是可能的),甚至包括了最高深的数学和科学知识,比如数理逻辑、高等数学、量子力学、相对论、博弈论等等,那么,这台电脑能够进行科学研究吗?迄今为止,高智商的电脑在智力方面仍然存在两个明显缺陷:欠缺创造力和变通能力。因此,无比高智商的图灵机也不可能提出相对论或者康托尔理论,也不可能处理悖论、哥德尔命题以及所有超出“能行性”(feasibility,即有限步骤内可构造的运算)而不可判定的问题,这也意味着,在涉及自相关或无限性的事情上,图灵机无法解决“停机问题”。这是电脑目前的局限性。据说有的具有“创造性”迹象的电脑能够创作诗歌、音乐和绘画,但我疑心这些能够通过组合和联想技术去实现的“创作”并不是对创造力的证明。真正的创造力并不能还原为组合和联想,而在于能够改变思路,重新建立规则,甚至改变问题,比如说能够提出相对论或量子力学,这恐怕是电脑想不出来的。而要能够提出问题或者改变规则,就需要能够反思“整体”或者“根基”的思维能力,或者说,需要有一种“世界观”或者改变给定世界观的另一种理解。具有自由联想能力的电脑或许能够“碰巧”想到把小便池当成艺术品,(点击此处阅读下一页)


爱思想关键词小程序
本文责编:admin
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/126240.html
收藏