返回上一页 文章阅读 登录

江晓原:人工智能的失控和反叛未来会成现实吗?

更新时间:2019-01-21 22:45:59
作者: 江晓原 (进入专栏)  
比如说,我肯定在马斯克他们的上述宣言之前早就发表文章提出过警告了,但人们会说你又不研究人工智能,你的警告我们用不着重视。但是马斯克提出警告,人们至少不会说他不研究人工智能吧?至少对他的警告要更重视一些吧?从这个意义上说,他的警告作用就可能比较大,所以他的警告我也都赞成。

  

   所以今天我们只能、而且必须抱着和当年搞“两弹一星”类似的心态来进行军事用途的人工智能研发。军用人工智能就是今天的“两弹一星”。比较理想的局面,是各大国坐下来谈判,签署限制或禁止人工智能研发的国际协议。但谈判需要手中有筹码,只有当中国手中握有足够的实力筹码时,才有可能推动人工智能方面的国际裁军谈判。

  

04 人工智能的终极威胁


   科幻作家、科普作家阿西莫夫,因为在小说中提出了“机器人三定律”,所以人们在谈论人工智能时总会提到他。其实他的科幻作品中最著名的是小说《基地》系列,共11卷,是一部科幻史诗作品,前后时间跨度以千年万年为单位,讨论整个银河帝国的兴衰。在这部科幻史诗中,阿西莫夫提出了一个重要观点——所有依赖人工智能的文明都必将衰亡。所以在他的书里能够持久发展的文明,比如银河帝国,是立法禁止人工智能的。

  

   为什么?当然有道理。因为人工智能会让文明衰亡。前面我们讨论了人工智能的失控和反叛,但这些还未必是人工智能对于人类的终极威胁。假定这些问题都没有发生,人工智能既不失控也不反叛,它把我们的一切工作都做了,全心全意为人民服务,阿西莫夫指出,恰恰是这样至善全能的人工智能,对人类的威胁是致命的,因为这样的人工智能将消解我们人类生存的意义。

  

   有人会说,所有的事情都让机器人做了,但是我们可以创造,我们可以搞艺术,可以过精神生活呀?问题是人工智能也可以替你去创造,甚至精神生活也可以替你去过——比如芯片植入人机结合之后,那些所谓的“精神生活”还是你的吗?这么经历一两代人之后,人类的智能和体能都将急剧衰退,很快就将成为行尸走肉,我们的人生就将毫无意义。

  

   另一方面,在这样的世界里,我们肯定会把我们所有的社会管理都交给人工智能,人工智能就将在实际上统治这个星球。用不了多久,人工智能必然会得出一个合理的结论:人类这帮寄生虫,活在这个世界上纯粹是对环境的污染,它完全可以清除人类来优化环境。这时不管人类自己的生存意义丧失与否,都必然是人类的末日。

  

   还有一些人这样想:我们为什么要害怕人工智能推翻人类社会呢?如果人工智能推翻了人类社会,那人工智能必将是一个比人类更好的存在模式,我们为何不能接受呢?其实这里有一个是否“以人为本”的问题。即使人工智能发展得比我们人类更优越了,我们也没有理由听任人工智能将我们人类清除掉。我们人类站在自己这个物种的立场上,我们当然不可能接受被别的物种政府或灭亡。

  

   所以警惕人工智能,比无条件地拥抱人工智能更合情合理。

  


爱思想关键词小程序
本文责编:limei
发信站:爱思想(http://m.aisixiang.com)
本文链接:http://m.aisixiang.com/data/114719.html
文章来源:作者授权爱思想发布,转载请注明出处(http://www.aisixiang.com)。
收藏