很多科幻小说都会构想如下情节：当机器智能远超人类，这时候人会被机器反噬。吴博士您怎么看？

【基本观点】我们为了形容计算机的“智能”性，常常用了一些原本只用来描述人的行为的词来描述它们，比如“智能”、“电脑”、“学习”、“训练”等等，但是这些词用于计算机和用来描述人时，概念的内涵其实已经改变了。就拿机器学习来说，它通常是指计算机根据大量的数据，训练程序中一些数学模型的参数，使得这些数学模型可以变得越来越准确，使用后的效果可以越来越好，和我们人的学习是两回事。由于这些词的使用，很容易让计算机专业以外的人误以为机器可以像人一样进行思考。

回答：这是一个很有意思的问题，几十年前就有人有这个担心，但是这其实是对机器智能的一种误解。实际上，计算机专业或者电子工程专业的人反而没有这个担心，因为他们知道计算机有时看上去很聪明，但实际上它根本没有自主意识。


说起机器智能，我们要从图灵实验说起。在上个世纪50年代，计算机的老祖宗阿兰.图灵对机器是否有智能给出了这样一种评判标准：即如果我们向幕后的一个计算机和一个人同时提问，我们无法根据他们的回答判断哪一个是由机器做出的，哪一个是由人做出的，那么我们就认为机器具有（和人相同的）智能。至于它是如何做到这一点的，没有任何关系。


事实上计算机今天在解决很多智能问题（比如下象棋、机器翻译）时超过了人，但这并不是因为它们会像人那样去思考，而是因为它们算得快，这一点我在《数学之美》中有详细的描述。而近几年兴起的大数据使得计算机“显得”更加聪明了，但是计算机的工作方式和我们人类并没有多少相似之处。这就如同火箭可以比鸟飞得快得多、高得多，但是它们飞的方式完全不同。


计算机本身是一大堆开关电路组成的，它计算的过程，是靠外部的程序控制和改变这些开关电路状态而完成的。程序本身则完全靠人书写，而且每一种程序完成一种特定的功能，比如下象棋的程序，它可以让计算机象棋下得特别好，但是它不能让计算机回答问题，因为这些程序都没有复杂的推理能力。至于如果让程序解决智能问题，这在很大程度上要靠数学模型，我在《数学之美》中也有专门的介绍。


我们为了形容计算机的“智能”性，常常用了一些原本只用来描述人的行为的词来描述它们，比如“智能”、“电脑”、“学习”、“训练”等等，但是这些词用于计算机和用来描述人时，概念的内涵其实已经改变了。就拿机器学习来说，它通常是指计算机根据大量的数据，训练程序中一些数学模型的参数，使得这些数学模型可以变得越来越准确，使用后的效果可以越来越好，和我们人的学习是两回事。由于这些词的使用，很容易让计算机专业以外的人误以为机器可以像人一样进行思考。


对于人工智能，大家常有的另一个困惑就是，机器是否能自己写程序，以至于它自我进化，变得越来越聪明。这点担心其实也是不必要的。计算机在不久的将来就有可能根据人的描述自动生成程序，比如说将这样一句话写成程序：”从数据库中第三个表中根据第五项进行排序，然后取出最大的和最小的五行内容“，但是如果人不告诉计算机做这件事，它就无法自己去写出相应的程序。计算机更不能自己想出来自己需要做什么。


随着计算机能力变得越来越强，为它们编写程序的人（以及控制机器的人，比如网管）对世界的影响力和控制力会越来越大，这就如同武器越来越厉害后，使用武器的人会变得越来越危险。计算机本身并不会控制人类，但是它们可能会成为一些人（少数）控制其他人的工具。