人工智能会不会威胁人类文明？“发展科学”也可能“唤出恶魔”

“Master”的神勇表现，再次将人工智能推上风口浪尖，为此惊呼者有之，行业观察家吴明真认为，人工智能与人类之间一方面是仆主关系，人工智能会为人类在交通，在家庭，在教育等生活的各个方面提供更高级的服务，但人工智能与人类之间另一方面又是主仆关系，人类也在不断的为人工智能提供服务，人类创造它们改善它们，赋予它们反仆为主的能力夺走一部分人的决策权威和生存权威。在他看来，人工智能将是一场革命，它不是简单的改造行业，它会对我们的社会结构进行重构，重新定义经济体，重新定义我们的人生，未来，人工智能会取代我们所有纯技术和纯服务的职位。

作者蔡文清

著名机器学习专家吴恩达：“担心人工智能控制世界，等同于担心火星上人口过剩。”视觉中国供图

“这场革命有可能会让我们变的更好、更强、更有效，但同时也会让我们变的更差更弱更无效。现在，你还能凭着一门专业技能找到一份工作是幸运的，而未来有的人连被利用、被剥削的价值都没有了。”

面对阿尔法狗和Master，心态平和者亦有之，人工智能专家刘知青表示，即使围棋人工智能前进了一万步，人工智能不过多走了一步。因为如果要将阿尔法狗和Master的深度学习应用在其他领域，还需要多年时间。

专家们将人工智能分为弱人工智能和强人工智能。擅长完成单项任务的属于弱人工智能；科幻电影里独行天下的机器人则是强人工智能。按这个标准，阿尔法狗和Master还只是”弱者”。

“阿尔法狗如果化身为机器人去下棋，有一些难题它还无法克服。”人工智能领域专家汪兵介绍，机器人完成单项任务有很多应用，但让它使用人的工具完成日常任务，比如放下锅又拿起抹布擦桌子，可不容易。汪兵说，他估计2025年能够推出这样的住家通用机器人。

“现在业内一派认为人工智能要走向通用；一派认为应该垂直细分在教育、医疗等领域。”汪兵说，“后者比如IBM的Watson就用于肿瘤和眼底筛查，表现不错，但现在大家还在摸索阶段；而深度学习神经网络的通用化，我认为仍然有一个漫长过程。”

汪兵认为，目前全球IT巨头力拼人工智能，基本上是利用本公司的海量数据培训机器，让它解决某一具体问题，比如辨认照片上的花朵，或者提高订餐系统的效率。通用化的雄心壮志尚未落实。

人工智能发展方兴未艾，那未来能否跟人和平相处。

“担心人工智能控制世界，等同于担心火星上人口过剩。”著名的机器学习专家吴恩达这么说。

相比这种态度，上海交通大学科学史与科学文化研究院院长、讲席教授江晓原似乎更为警醒，“‘老虎还小’不构成养虎的理由”，人们担忧的是人工智能未来对人类的危害，要打消这个担忧，就必须论证“人工智能不会危害人类”，而不能将“人工智能还很初级”作为理由。

在江晓原看来，一些持“人工智能不会危害人类”观点的人是相信所谓的 “人造的东西不可能超过人”，“这是令人信服的论证吗？从来没有，事实上，这一论断只是一个盲目的信念。”

专业人士在试图打消公众对人工智能的忧虑时，经常提到一个说法：我们可以拔掉电源。对此，江晓原并不赞同，他认为，当对人工智能的想象停留在个体机器人阶段时，也许是成立的。更一般的说法可以是，只要人工智能还依赖有形的伺服机构才能实施行动，那我们也许还可以拔掉电源。但现实情形是，人工智能一旦与互联网结合，借用高度发达的定制、物流、快递等社会服务，几乎可以完全摆脱对所有伺服机构的依赖。这一点不仅在大量幻想作品中已经反复上演，而且在现实生活中也可以顺利实施了。当人工智能只是一个网上幽灵时，没有机体，没有形态，还谈什么拔掉电源呢。

有人将阿西莫夫提出“机器人三定律”搬出来反驳，对此江晓原反驳，阿西莫夫的时代还没有互联网，如今，我们必须特别关注人工智能和互联网的结合，即使就个体机器人而言，这种结合也将快速突破智能的物理极限。就无形的人工智能而言，还有更大的危险性，一旦和互联网结合，上述1、2、3、4级人工智能之间的界限还能不能存在？如果居心叵测的人工智能研发者，有意突破这些界限，社会如何监控？人工智能进化成超级人工智能可能只需弹指一挥间，到时人类将措手不及，完全无法掌控。

“发展科学”也可能“唤出恶魔”，人工智能必将威胁我们的文明，这就江晓原的观点。