返回上一页 文章阅读 登录

赵汀阳:人工智能提出了什么哲学问题?

更新时间:2021-06-10 14:57:49
作者: 赵汀阳 (进入专栏)  

  

   “以浪漫之心观之,技术都有去魅之弊而导致精神贫乏”

   远在技术预示致命危险之前,敏感的思想家们就对技术的后果深感忧虑。众所熟知,庄子谓“有机械者必有机事,有机事者必有机心”,应该是对技术的最早批判,其理由是,技术是投机取巧躲避劳动,违背自然之道,而投机取巧之心必定心怀叵测。庄子的技术批判在尚未温饱的时代几乎不可理喻,但在理论上却有难以置信的前瞻性。当现代技术开始明显地消解生活意义之时,人们对技术开始了严重的批判。韦伯指出技术导致自然的“去魅”,即技术剥夺了一切事物的精神性,除了工具或经济价值,任何事物都失去内在价值。海德格尔进一步发现,技术导致生活诗意的消失,不仅是美学经验的退化,更是对存在的遮蔽,当失去印证存在的本真方式,生活就失去依据,精神无家可归。这些批判虽有形而上的深度,但限于浪漫主义理解。在技术中乐不思蜀的人们并不担心失去对存在本身的虚无缥缈理解,也未必为此感到遗憾。

   前现代的生活或许比现代更有诗意,也更有真实感和精神依据,所以古代人更多地感慨命运,而不会像现代人那样迷惑于找不到“生活的意义”。在一次私下讨论中,李泽厚老师说,解决了温饱问题之后,生活就很容易失去确定的意义,或者说,超越了生存所需就很难确定什么是无疑的生活意义了。这个激进唯物主义的见解令人心惊,其中确有灼见,但我仍然愿意相信,在生存需要之外肯定存在着精神性的生活意义,以至于有人为之舍生忘死。古代人有着更多舍生忘死的精神理由,那时万物都有赋魅的传说,事事具有精神性。毫无疑问,嫦娥的月亮一定比阿姆斯特朗的月亮更有魅力。

   老一代的技术批判都具有某种怀旧色彩,都认为技术破坏了生活的精神性。的确如此,然而无可否认的是,现代技术创造了对于生活极其重要的无数事物,比如青霉素等抗生素、外科手术、疫苗接种、抽水马桶、供暖系统、自来水系统、电灯等等,还有许多便利工具如汽车、火车、飞机、电脑之类。以浪漫主义之心观之,技术都有去魅之弊而导致精神贫乏。但我记得李泽厚问过一个类似于罗尔斯无知之幕的问题:如果不能选择人物角色,你会选择什么时代?难道会选择古代吗?对这个超现实主义问题真是无言以对,但这个问题提醒了一个事实:人性倾向于贪图便利省力、摆脱劳动、安逸享受和物质利益,因此绝大多数人宁可选择物质高于精神的技术化生活。老一代技术批判想象的人们“原有的”诗情画意生活同时也是艰难困苦的生活,什么样的精神才能拯救饥饿的肉体呢?当然也可以反过来问,物质能变精神吗?显然,物质是问题,精神也是问题。

   老一代的技术批判揭发了技术对精神的伤害,却尚未触及技术的终极危险所在,在今天,我们已经可以想象技术对生存的根本挑战。可以模仿马克思说:哲学家只是不同地批判了技术,可问题是,技术改变了世界。

   人工智能是否将导致文明野蛮化?

   当技术问题同时成为存在论问题,真正要命的可能性就显现出来了。

   存在论一向受制于单数主体的知识论视域(horizon),即以人的视域来思考存在,而且默认人的视域是唯一的主体视域,所以,存在论从来没有超越知识论。基于人类知识论的自信,康德才敢于宣称人为自然立法。也可以循环论证地说,人是自然的立法者,所以人的视域是唯一视域。不过,人们曾经在神学上设想了高于人的绝对视域,比如莱布尼茨论证了上帝能够一览无穷多的所有可能世界。然而,这种理论上的绝对视域无法为人所用,人不可能想象看清无穷多可能世界的绝对视域到底什么样。人能够有效使用的唯一视域还是人的主体性视域,如维特根斯坦所言,这是思想的界限。

   思想没有能力超越自身,就像眼睛看不见眼睛自身(维特根斯坦的比喻),但思想做不到的事情却在实践中可能实现。人工智能就有可能成长为另一种主体,另一种立法者,或者另一种眼睛。这意味着一个存在论巨变:单向的存在论有可能变成双向的存在论(甚至是多向的)。世界将不仅仅属于一种主体的视域,而可能属于两种以上的主体,甚至属于非人类的新主体。人工智能一旦发展为新主体,世界将进入新的存在论。

   人工智能有着多种定义。科学上通常将属于图灵机概念的人工智能标志为AI,将等价于人类智能的人工智能称为AGI(通用人工智能,artificial general intelligence),而全面超越人类智能的高端智能称为SI(超级智能,super intelligence)。

   这个科学分类描述的是在技术上可测量的智能级别,但我们试图讨论智能的哲学性质,即是否具备“我思”的主体性,因此,请允许我在这里将人工智能按照其哲学性质进行划分,一类称为AI,即尚未达到笛卡儿“我思”标准的非反思性人工智能,覆盖范围与科学分类的AI大致相同,即属于图灵机概念(包括单一功能的人工智能,例如阿尔法狗,以及尚未成功的复杂功能人工智能);另一类称为ARI,即达到或超越笛卡儿“我思”标准的反思性人工智能(artificial reflexive intelligence)。ARI约等于超级人工智能,或超图灵机,我也称之为“哥德尔机”,以表示具有反思自身系统的能力。

   需要注意的是,ARI必定包括但不一定成为AGI或SI,这意味着,ARI未必具备人类的每一种才能,但必须具有自主的反思能力以及修改自身系统的能力,于是就具有自律自治的主体性,就成为无法支配的他者之心,也就成为世界上的另一种主体。

   以主体性为准的分类试图突出地表达人工智能的可能质变,即奇点。目前看来,人工智能发生质变的奇点还很遥远,预言家们往往夸大其词,但问题是,人工智能的奇点是可能发生的。智能的要害不在于运算能力,而在于反思能力。人的主体性本质在于反思能力,没有反思能力就不是思维主体。如果人工智能没有反思能力,那么,运算能力越强就对人类越有用,而且没有致命危险,比如AlphaGo Zero运算能力虽强却不是对人的威胁。反过来说,即使人工智能在许多方面弱于人,但只要具备反思能力,就形成了具有危险性的主体。假设有一种人工智能缺乏人类的大多数技能,既不会生产粮食也不会生产石油,如此等等,只会制造和使用先进武器,而它却发展出了自主反思能力,那么后果可想而知。至今人工智能只具有算法能力或类脑的神经反应能力,尚无反思功能,甚至不能肯定是否能够发展出反思功能,仍然属于安全机器,即使将来可能出现的多用途并且具有灵活反应能力的人工智能,只要缺乏反思功能,就仍然不是新主体,而只是人类的最强助手。

   大多数技术都只是增强或扩展人类能力,比如生产工具和制造工具的机器,从蒸汽机到发电机,从汽车、飞机到飞船,还有电话、电脑、互联网到量子科技等等,图灵机人工智能也属于此类。无论技术多么强大,只要技术系统本身没有反思能力,就没有存在论级别的危险。从乐观主义来看,此类技术所导致的社会、文化或政治问题仍然属于人类可控范围。当然其中存在一些高风险甚至恶意的技术,比如核电站就是高风险的,至今尚无处理核废料的万全之策,又如核武器,其功能是大规模屠杀。人工智能和基因技术的发展却在超出增强能力的概念,正在变成改变物种或创造新物种的技术,就蕴含着人类无力承担的风险。尽管“神一般的”能力目前只是理论上的可能性,但已经先于实践提出了新的存在论问题,也连带提出了新的知识论和新的政治问题。需要注意的是,这些新的哲学问题并不是传统哲学问题的升级版,而是从未遭遇的新问题,因此,传统哲学对技术的批判,包括庄子、韦伯和海德格尔之类,基本上无效,甚至与新问题不相干,就是说,人文主义的伦理观或价值观对于技术新问题基本上文不对题。

   人工智能和基因技术都提出了挑战人的概念的存在论问题,但相比之下,人工智能的危险性似乎大过基因技术。人工智能是真正的创造物,因此完全不可测,而基因技术是物种改良,应该存在自然限度。这个断言基于一个难以证明却可能为真的信念:对于一个整体性和封闭性的系统来说,内部因素的革命能力不能超越整体预定的物理或生物限度,假如内部变化一旦超出整体限度,就是系统崩溃。在这里意味着,基因技术的革命性不可能超越生命的生物限度。也许基因技术能够成为物种优化的方法,但无论什么物种,作为生命都有其整体所允许的变化极限。基因技术是否真的能够使人长生不老,仍是未知数。据说某些爬行类或鱼类生长缓慢而长寿,或如灯塔水母甚至有返老还童的特异功能以至于好像万寿无疆,但那些非常长寿的生物都是智力极低的,这是个令人失望的暗示。如果对人进行根本性的基因改造,是否会引起生命系统的崩溃?比如说,大脑或免疫系统会不会崩溃?试图通过基因技术将人彻底改造为神一般的全新物种,在生物学上似乎不太合理。更现实的问题是,基因优化哪怕是有限的就已经非常可能导致社会问题的恶化,以至于导致人类集体灾难,在此不论。

   就创造新物种的能力而言,人工智能比基因技术更危险。人工智能一旦突破奇点,就创造了不可测的新主体,而对于新主体,传统一元主体的知识、视域和价值观将会破产,而二元主体(甚至多元主体)的世界还很难推想。尽管许多科幻作品想象了恐怖的机器人或外星人而使人得到受虐的快感,但人类对技术化的未来并没有认真的思想或心理准备。且不说遥远的二元主体世界,即使对近在眼前的初级人工智能化或基因技术化的社会,人们也缺乏足够的警惕。先不考虑末日问题,高度技术化的社会也将高度放大本就存在的难题而使人类陷于不可救药的困境,比如贫富分化、阶级斗争、种族斗争、民族斗争、资源稀缺、大自然的萎缩和失衡。

   刘慈欣在论文式的短篇小说《赡养上帝》和《赡养人类》中想象了万事智能化的“暮年文明”令人绝望的故事。其中有两个切中要害的论点:

   其一,高度发达的人工智能几乎万能,全自动运行,于是形成让所有人丰衣足食的“机器摇篮”,正如宇宙中极其发达而名为“上帝文明”的人所说的:“智能机器能够提供一切我们所需要的东西,这不只是物质需要,也包括精神需要,我们不需为生存付出任何努力,完全靠机器养活了,就像躺在一个舒适的摇篮中。想一想,假如当初地球的丛林中充满了采摘不尽的果实,到处是伸手就能抓到的小猎物,猿还能进化成人吗?机器摇篮就是这样一个富庶的丛林,渐渐地,我们忘却了技术和科学,文化变得懒散而空虚,失去了创新能力和进取心,文明加速老去”,于是所有人都变成了“连一元二次方程都不会”的废物(《赡养上帝》)。这里提出的问题是,人工智能创造的幸福生活却事与愿违地导致了文明衰亡。

   其二,人工智能社会还有另一个更具现实性的版本。一个尚未达到“上帝文明”那么发达的智能化文明就已经陷入了文明的绝境。在小说中,比地球发达而文明类型完全相似的“地球兄弟文明”的人讲述了地球文明的前景:全面智能化的社会不再需要劳动,富人也就不再需要穷人,而阶层上升的道路也被堵死,因为富人垄断了“教育”。那不是传统意义上的教育,而是人工智能和生物技术合作而成的人机合一技术,购买此种极其昂贵的“教育”就成为超人,在所有能力上与传统人不在一个量级,其级差大过人与动物的差别,于是“富人和穷人已经不是同一个物种了,就像穷人和狗不是同一个物种一样,穷人不再是人了……对穷人的同情,关键在于一个同字,当双方相同的物种基础不存在时,同情也就不存在了”(《赡养人类》)。这说明,无须等到出现超级人工智能,智能化社会就已经足以把部分人类变成新物种,就是说,即使人工智能的奇点没有出现,人类文明的严重问题就可能来临。

且不说人工智能的奇点,近在眼前的问题就足够惊心动魄了。人类本来就未能很好地解决利益分配、社会矛盾、群体斗争或文明冲突等问题,这些问题之所以无法解决,根本原因在于人性的局限性,而不在于人谋的局限性。令人失望的是,(点击此处阅读下一页)


爱思想关键词小程序
本文责编:admin
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/126954.html
收藏