返回上一页 文章阅读 登录

徐英瑾:如何设计具有自主意图的人工智能体

———项基于安斯康“意图”哲学的跨学科探索

更新时间:2019-05-15 00:12:56
作者: 徐英瑾  
甚至可能是基于对于相关命令自身合法性的怀疑),或者说,机器甚至对于自己是否要继续效忠权贵产生了怀疑。换言之,实现“变种乙”所指涉的社会发展方向,势必会对技术权贵本身构成反噬效应。

   有的读者或许会对这种“反噬效应”真会发生有所怀疑。他们或许会说:足够狡猾的技术权贵可以让通用人工智能产品的技术水准达到“既能展现灵活性,又不至于破坏忠诚性”的地步,而由此压缩这种“反噬效应”产生的逻辑空间。笔者并不否认这种“小聪明”或许会有一定的施展空间。然而,从根本上看,智能的核心要素就是对于环境的高度适应性,而人类所处的自然与人文环境又是高度复杂的。从这两点中我们就不难推出,除非技术权贵能够严格控制通用人工智能系统的所有信息输入,否则我们便很难设想具有不同利益背景的不同技术权贵竟然会为自己的通用人工智能系统灌输同样的“价值观”——而具有不同“价值观”的通用人工智能系统之间的斗争(其实质是不同利益集团之间的斗争),显然也就会为弱势群体利用这种矛盾寻找更大的利益诉求空间提供可能。同时,在信息多元化的社会背景下,前面提到的“严格控制通用人工智能系统的信息输入”这一要求自身也是难以被满足的。此外,从技术角度看,对于输入信息的全面控制,自然会对通用人工智能系统自主获取信息的行为构成限制,而这种限制又反过来会使得机器在行为上缺乏足够的灵活性,并由此使得其变得不再那么智能。因此,要兼得鱼与熊掌,恐怕不是那么容易的。

   对于“变种乙”的分析,自然将我们导向“变种丁”。笔者看来,“变种丁”指涉的那种可能性实现的机会,甚至还要远远小于“变种乙”,因为用户环境使用的多样性,会立即造就不同的通用人工智能系统之间的差异性,并由此使得“机器联合起来对抗整个人类”的场面变得更为遥不可及。

   由本节的分析,我们不难看出,要阻止一部分技术权贵凭借人工智能技术奴役人类(即“变种甲”所指涉的那种可能性),最好的办法就是使得大量的机器产生彼此不同的自主意图,由此对冲掉大量机器被少数人的意图控制的恐怖场面。但这就牵涉到了一个更根本的问题:如何使得我们未来的人工智能系统具有自主意图呢?

  

   二、意图与信念之间的关系

  

   很显然,要回答“如何使得我们未来的人工智能系统具有自主意图”这个问题,我们就难以回避“关于意图的一般理论为何”这样一个问题。而考虑到我们的最终目的是将这个理论施用到目前还没有真正实现的通用人工智能系统上去,该理论就必定会具有一定的抽象性,以便使得它能够在面对不同的技术实现手段时都能够具有一定的覆盖力。这也就是我们在此一定要诉诸相对抽象的哲学讨论的原因。

   不过,有鉴于关于意图的哲学讨论在战后英语哲学圈中是非常兴盛的,而本文的工作语言又是汉语,因此,在正式展开本节的讨论之前,笔者还是有必要对“意图”在英文中与汉语中的区别与联系进行阐述。首先,在汉语与英文中,“意图”都可以作为名词出现。比如,我们既可以在汉语中说“玛丽抱着去喝水的意图而去拿起杯子”,也可以在英文中说“Mary picks up the cup with the intention of drinking water”。第二,作为名词的“意图”在英文中可以通过加上特定词缀成为副词“具有意图地”(intentionally),而在汉语中,“具有意图地”则是一个非常别扭的表达。如果我们将这个副词短语缩略为“有意地”的话,虽然语气上显得更顺了,但意思却改变了(汉语中“有意地做某事”包含了意图本身具有负面价值意蕴的语义,但英文中的“intentionally”的价值色彩则较为中立)。第三,“意图”可以在英语里轻松转化为动词“intend”,但在现代汉语中,“意图”必须与“做”联合成短语“意图做”,才能够承担动词的功能属性。第四,无论在汉语或英语中,“意图”虽然都与“欲望”有着深度的勾联,但都比单纯的欲望具有更明确的所指对象。欲望可以是某种前命题层面上的情绪(比如某种模糊的野心),但意图则必须被具体化为相关的命题内容才能变得有意义。比如,当孙权问张昭“曹贼进犯江东的意图是什么”的时候,张昭可不能笼统地回答说:“曹贼志向不小”(因为这是人尽皆知的废话),而要将意图的内容加以清楚地陈说。

   既然无论在汉语语境还是在西语语境中,“意图”都可以被视为某种对象被明确化了的欲望,那么,对于意图的讨论自然就会勾联到一个更为宽广的哲学史争议的背景,此即“理性一元论”与“欲望—理性二元论”之间的争议。具体而言,黑格尔便是典型的理性一元论者。他将“欲望”与“生命”视为被“概念”统摄的下层环节,并由此完成理性世界的大一统;而与之相对比,叔本华则在康德的启发下,将“生存意志”视为康德式“自在之物”的替代品,并以他独自的方式维护了康德在“现象界”与“自在之物”之间的二元对立(比如主张在现象界可以被感受到的“人生意义”,在自在之物的层面上乃是彻底的虚无;在现象界能够感受到的时空关系,乃是人类认知架构自我反射所导致的假象,而与自在之物无关,等等)。尽管全面地涉及这些哲学史争议的细节并非本文主旨,但上述提示足以向通用人工智能的研究者提出一个问题:未来的通用人工智能系统应当遵循的是黑格尔式的“一元论”的思路,即做出一个能够将信念系统与意图—欲望系统相互融合的某个统一的大系统,还是应当遵循叔本华式的“二元论”的思路,即先预设信念系统与意图—欲望系统之间的彼此独立,然后再做出一个将二者合成的混合式系统呢?

   笔者本人的立场是处在黑格尔与叔本华之间的。笔者同情叔本华的地方在于,笔者也认为终极生存欲望的产生具有个体认知架构无法解释的神秘性,因此只能将其作为给定事实而加以接受。而在研制通用人工智能系统的语境中,这些神秘的给定事实就包括:为何系统具有在物理世界中自我保护的倾向,而不是趋向于自我毁灭以及为何一台机器是以电力为驱动方式,而不是以蒸汽为驱动方式的,等等(很显然,不同的物理驱动方式就决定了机器将以怎样的方式来实现自我保护)。那么,为何说这些给定事实具有神秘性呢?这主要取决于我们评判时所采取的立场。如若我们采取的是系统设计者的立场,那么上述这些被给定事实的产生机制自然是毫无神秘性可言的。但若从机器自身的立场上看,情况就非常不同了。说得更具体一点,这些使得机器得以运作的基本前提,很可能并不会在机器自身的表征推理系统中出现,而很可能是作为一种隐蔽的思维逻辑而出现在机器的硬件配置之中的。举个例子说,一台由蒸汽推动的机器,未必会在操作界面上写明“本机器由蒸汽提供动力”这句话。这就使得整台机器运作的某种深层动力因与目的因,成了某种类似于“自在之物”般的存在者,并由此落在了系统的自主推理系统的视野之外。而意识到了这一点的人工智能设计者,也必须要试图通过机器硬件配置的方式来完成对于这些深层动力因与目的因的物理实现,而不能试图首先在代码编纂的层面上解决这些问题。

   不过,黑格尔的理性一元论依然有其可取之处。欲望必须与理性相互结合才能构成行动,而二者的结合显然需要一个结合点。这样的结合点便是作为欲望之具体化或命题化形式的意图。从这个角度看,虽然欲望本身的确是难以在系统的表征语言中以明晰的方式得到展现的,但是作为其替代者的意图却必须被明晰化,否则行动自身的统一性就无法达成。意识到这一点的通用人工智能研究者,也必须设法在编程语言的层面上构造一种能够使得信念系统与意图系统彼此无缝对接的推理平台。

   笔者的上述立场最后就导致了一个非常明显的行动哲学层面上的推论:信念与意图之间的界限是相对的,是一个统一表征系统内部的分界,而不是现象界与自在之物之间的那种隔绝式分界。与之相比较,在战后英美行动哲学圈中因研究“意图”而名声大噪的女哲学家安斯康(Gertrude Elizabeth Margaret Anscombe,1919-2001),则主张扩大信念与意图之间的裂痕。有鉴于安斯康的意图理论与笔者立论之间的竞争关系以及她的理论对于另外一些重要哲学家(如约翰·塞尔)的巨大影响,下面笔者将对她的理论进行一番批判性评估。

   安斯康的“意图”理论有如下几个要点(笔者将在每一要点后附加自己的批评性文字)③:

   1.意图乃是欲望驱动下做某事的理由。安斯康当然意识到意图与欲望之间的紧密联系与微妙差异。二者之间的联系,乃在于意图是欲望的具体化,而二者之前的差异则在于:意图必须具体到“理由”的层面,而欲望则否。举个例子来说,如果茶圣陆羽感到口很渴,并有解渴的欲望,而他相信喝茶能够解渴,那么他就会有理由去喝茶,或者说,“去喝茶”这一意图就成了陆羽去解渴的理由。很显然,在这种情况下,“喝茶”这个行动就作为意图的内容或对象而出现了。而如果外部环境没有任何因素阻止这样的行动得到展现的话,那么,陆羽就会去执行这个行动。与之相比较,倘若没有任何意图起到“将欲望本身加以具体化”的作用的话,那么,欲望就不会得到任何管道以便通向行动的。因此,我们也可以将意图视为欲望与行动之间的转换环节。

   现在我们就立即转入对于这一要点的简短评价。需要指出的是,虽然笔者对安斯康的意图理论的不少方面有所批评,但是对于“意图乃是欲望驱动下做某事的理由”这一点,笔者大致上也是赞同的。但需要注意的是,正因为意图在本质上是一种理由,而被意图持有人所意识到的理由显然就是一种信念状态,因此,安斯康的这一理论在客观上马上就会导致信念与意图之间界限的模糊化。比如,一个人所持有的信念自身的非理性状态,会立即导致在内容上与之相关的意图的可执行性(简言之,由一个愚蠢的信念所导致的意图肯定是不可被执行的,尽管一个不那么愚蠢的信念未必就一定会导致一个可以被执行的意图④)。这种模糊化状态当然不是说意图与信念之间是没有区别的,因为毕竟不是所有的信念都像意图那样既勾联着欲望,又牵连着行动(比如,“刘备意图娶孙尚香”是一回事,而“刘备相信他已经娶了孙尚香”又是一回事)。但尽管如此,二者之间的界限依然不能被绝对化,因为一个不基于任何信念的意图其实是不可能发生的。比如,“刘备意图娶孙尚香”这一点的确是基于“刘备相信他能够通过与孙尚香结婚巩固孙刘联盟”这一点的。

   现在的问题就冒出来了:虽然意图与非意图信念之间的区分是不容抹杀的,但我们又应当在多大程度上勘定二者之间分界带的宽度呢?正如前文所指出的,笔者的意见是尽量缩小这一宽度,而安斯康的意见是尽量拓宽之。而她进一步拓宽该分界带的理由,则又牵涉到她关于意图本质的另外几个观点(编号续前):

   2.意图并非预测。预测性信念,如刘备持有的“与孙尚香结婚有利于巩固孙刘联盟”这一信念,显然是与意图最接近的一类信念,因为二者的时间指向都是面向未来的。因此,对于预测与意图之间界限的勘定,显然有助于拓宽信念与意图之间的分界带。而安斯康用于区分意图与信念的基本理由如下:对于一个预测的支持,需要的是证据——比如,预测者若要评估孙刘联姻对于巩固孙刘政治联盟的作用到底有多大,他就需要观察历史上的政治婚姻的后效,并评估孙权这一特定结盟对象的政治信用,而所有这些评估都是基于证据的。但需要注意的是,上述评估活动与评估者本人的兴趣并无直接关系。也就是说,一个人即使对孙刘联盟没有直接兴趣,他也能够评估二者之间通过姻亲来结盟的可行性。与之相比较,如果刘备本人对孙刘联盟本身没有兴趣的话,那么,即使他相信自己能够通过与孙尚香结婚巩固孙刘联盟,他也无法产生“娶孙尚香”这一意图。换言之,作为“欲望驱动下做某事的理由”,意图自身与特定欲望的直接勾联,使得它能够有别于单纯的预测。

现在我们就立即转入对于这一要点的简短评价。很显然,正如安斯康所指出的,单纯的预期并不能构成意图,因为意图本身的确要有深层的欲望作为其基底。(点击此处阅读下一页)

本文责编:陈冬冬
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/116295.html
文章来源:《武汉大学学报:哲学社会科学版》第20186期
收藏