目前，人工智能已经成为热点话题，在这里想首先讨论一个时常被忽略但很基本的问题：人工智能的定义。

目前广为人知的定义是图灵测试，但这只能被看作一种泛泛的描述，并不是严格和精确的定义。比如参与测试的人是什么样的人？向机器提出的问题的内容是什么等等都不明确。

上溯历史，我们发现人工智能的概念与自动化有着密切的关系，可以说自动化是这个概念的起源。在过去有一段相当长的时间，在人们的心目中，自动化就是人工智能。其实，人类制造和使用自动化装置的时间比我们想象的要早，远在电气时代之前。蒸汽机上就有自动调节蒸汽流量的装置，在更早的十六世纪，在伊丽莎白女王的宫廷里首次使用的抽水马桶也是自动化装置，如果向前追溯，肯定还有更早的例子。自动化大批出现是在电气时代，先是由模拟电路实现的自动化，后来电子管被晶体管所代替，再后来出现了集成电路，由日益复杂的软件所驱动。在今天，我们在生活中要与无数的自动化系统打交道，比如电子商务系统、网上银行系统和网上购票系统等。

毋庸置疑，自动化系统表现出了相当多的智能特征，像网上银行这类系统处理着相当复杂的业务，其效率和精准度已高于人类雇员。即使是抽水马桶这样最简单的系统，也表现出一定的智能行为，它能够在感知水箱的水位，适时开启和关闭给水阀门，这事它做的与人类一样好。但从抽水马桶到网上银行，我们都不把它们看作是人工智能。笔者曾经编写过一个写现代诗的软件，现在还在网上流行；而目前网上其他比较完美的自动作诗软件，所写出的中国古典诗词很难与人类所做的诗词区分开来。另外，近年来已经有不止一个系统在不同的实验室环境下通过了图灵测试。但这一切，我们都不把它们看成心目中的人工智能，为什么？

笔者在二十世纪八十年代最早参与开发的工业监控系统是以Z80处理器为核心的，用汇编语言编程。这个系统能够监测上百个机组参数，并根据参数的变化做出适当的调节，其功能是人工无法实现的。但在我们的眼中它也完全不是人工智能。汇编语言的特点就是透明性，它要在硬件层次手把手地教机器做每一步操作，比如把数据从这个存储器送往那个存储器，中断的调用和返回等等都一一写明，所以当我从外部看到系统的动作时，脑子中立刻有一幅明晰的流程图，立刻能知道哪几条指令被执行了。所以这个监控系统，在我看来与抽水马桶没有本质的区别。现在那些更复杂的系统，如网上银行和电子商务也一样，这些软件的编制者一定清楚所有的内部操作流程，他们知道系统的每一步操作在软件中是如何进行的，这同样也是抽水马桶更复杂的版本。至于那些电子诗人和通过图灵测试的系统也一样，程序员清楚地知道它们是如何根据逻辑树检索数据库，然后组合出诗和答案的，所以至少程序员们知道这不是智能。

这就涉及人工智能学术中高明的中文房间比喻，当我们意识到房间中那些忙碌的查找卡片的人的时候，智能的感觉就荡然无存了。

现在我们认为拥有人工智能的那些系统，比如进化算法和深度学习等，都有一个共同特点：它们都或多或少地表现出了黑箱的特点，虽然从理论上它们内部的运算步骤仍然可以追踪，但由于计算量的巨大，使这种追踪实际上很困难甚至不可能。于是，我们真的感觉它们有智能了。

到这里，我们仍然无法得出人工智能的准确定义，但能够看到它的一个重要特点：一个具有智能特性的人造系统，它产生输出的内部的运算过程是人类智能所无法解析的。换句话说，只有我们不知道机器在想什么，怎么想时，才认为它有智能。

看到这一点，每个人的心中应该都生出一股隐隐的寒意。是否人工智能的本质中，就隐含着它们最终失控的可能性？

这正是目前人们对人工智能关注的热点，用马斯克的话来说，人工智能正变成比核弹更危险的东西。媒体舆论给人一个印象，似乎机器的征途已经开始，AI征服世界指日可待。有本书的题目“让人工智能站在我们一边”就显现了这种担忧。库兹维尔甚至在《奇点临近》中给出了AI纪元到来具体年份：2045年，那时，现在读这篇文章的人有三分之二还活着。

但理智地考察目前人工智能领域的状况，我们就能发现智力远超人类的强AI仍然属于科幻的范畴。公众喜欢从科幻的角度看问题，比起平淡的现实，科幻确实能让人兴奋，任何从现实出发所进行的理智的预测都被斥为保守和没有想象力。但笔者作为科幻作家却只能说，与大家通常的印象不同，科幻小说中的预言真正变为现实的是少数，大部分要实现仍然遥遥无期。人们的潜意识中都认为，只要在理论上可能突破的技术障碍，在未来就一定能够被突破，但事实并非如此。在人工智能方面，强AI的实现面对着许多巨大的技术障碍，如非冯·诺依曼体系的新结构计算机、对人类思维机制的深刻认识等，现在都无法确知最终能否取得突破。另外一些看似有希望的技术，如量子计算等，距实用还相差甚远。