当机器智能超越人类我们将会遇到什么危险？

2016年3月18日讯，无机生命（机器）会发展出与有机体类似的生存和竞争意识吗？有朝一日当机器智能超越人类并不受人类控制时，我们将会遇到什么危险？类似这样的话题或场景，我们常常在科幻小说和科幻电影中遇到。近年来，也有越来越多的科普图书涉及并被引进。

机器智能超越人类时的梦魇，随着《灵魂机器的时代：当计算机超过人类智能时》（雷·库兹韦尔著，上海译文出版社）一书的出版，又一次萦绕在人们心头。该书出版于1999年，作者系美国著名的发明家和思想家，在书中他做出了惊人的预言：到21世纪初，地球上将出现一种足以与人类智能抗衡的新型智能，最终它将远远超过人类的智能。作为人类发展史的一个最重大的进展，其重要性超过构成人类历史的任何重大事件，丝毫不亚于人类智能的产生。

2005年，《奇点临近：2045年，当计算机智能超越人类》（雷·库兹韦尔著，机械工业出版社）一书问世，并成为当年美国最畅销非小说类图书和亚马逊最佳科学图书。此书更为系统、全面地表达了库兹韦尔预测人工智能和科技未来的观点。特别是对“奇点”（Singularity，表示独特的事件以及种种奇异的影响）的概念和涵义进行了详细地阐释。他还预测了机器智能赶超人类智能之各个方面后发展的下一阶段：人类与机器的联合，即嵌入我们大脑的知识和技巧将与我们创造的容量更大、速度更快、知识分享能力更强的智能相结合。这种融合便是奇点的本质。

或迟或早，科学会产生一种和人类一样运作的人工生命形式。人工智能问题（或者说物种支配问题）将主宰新世纪的全球政治。“当机器以指数级‘进化’变得比人类聪明时，我对人类的未来生存不抱乐观态度。……我会为我的后代感到恐惧，因为我相信他们很可能会在本世纪晚期因为物种问题的大规模战争而被毁灭。”这是《智能简史——谁会替代人类成为主导物种》（雨果·德·加里斯著，清华大学出版社）一书所表述的主要观点，其作者是设计和制造“人工大脑”的专家，自称是“唯一一个预言超级人工智能会带来大战的人。”他用这样一句短语结束了本书：“我们是在制造上帝，还是在制造我们潜在的敌人？”

目前人工智能方面存在的显著风险，便与前述“智能爆发”相关，所以我们必须以最严肃的态度审视之——《超级智能：路线图、危险性与应对策略》（尼克·波斯特洛姆著，中信出版社）一书如是说。该书诠释了可能出现的超级智能带来的挑战，以及我们应该如何更好地应对。作者认为，这很可能是人类面对的最重要和最可怕的挑战；而且，不管我们成功与否，这大概都是我们将要面对的最后一个挑战。

看起来都太令人丧气了。不过，读读“人工智能之父”所著《情感机器》（马文·明斯基著，浙江人民出版社）一书，或许能够得到少许安抚。该书有力地论证了情感、直觉和情绪只是一种人类特有的思维方式，提出了塑造未来机器的六大维度——意识、精神活动、常识、思维、智能、自我，揭示了人与机器根本性的不同，以及人之所以独一无二、足智多谋的原因。

在《与机器人共舞：人工智能时代的大未来》（约翰·马尔科夫著，浙江人民出版社）一书中，作者对“智能机器讲成为我们的奴隶、伙伴还是主人”这一问题的过去与将来进行了深入的探讨。对业界多年的观察与思考让他认识到，人类还有好些工作是自动化力所不及、不能为机器所取代的。由此他日渐形成了让机器增强人类智慧而非取代人类的理念，以此掀起了一场“与机器人共舞”的革命。不过，他又指出，21世纪前50年内，社会将做出艰难的决策，允许智能机器拥有成为我们的仆人、伙伴或主人的潜力。

在20世纪中叶计算机时代的开端，美国应用数学家、信息论的创始人诺伯特·维纳曾对自动化的一种可能性提出警示：“我们可以谦虚地在机器地帮助下过上好日子，也可以傲慢地死去。”

身处已经或即将到来的智能机器时代，更重要的一点或许在于，我们再不能以看待过去的视野，去理解必将超越它的事物了。无机生命（机器）会发展出与有机体类似的生存和竞争意识吗？有朝一日当机器智能超越人类并不受人类控制时，我们将会遇到什么危险？类似这样的话题或场景，我们常常在科幻小说和科幻电影中遇到。近年来，也有越来越多的科普图书涉及并被引进。