两句独白并不构成一段对话

两千年前，苏格拉底辩称书籍会摧毁一个人思考的能力。他笃信对话、交谈和辩论。但面对一本书，你不能同它辩论，书中的文字也不能回应你。如今，书是学问和知识的象征，难免使我们轻视这种说法。可是认真地想一想，尽管苏格拉底如是说，书面文字确有教诲功能。我们无须与作者辩论文字内容，但我们可以彼此辩论和探讨，或在课堂上，或参与讨论小组。如果探讨的话题很重要，我们还可以经由各种媒介工具来讨论。除此以外，苏格拉底的看法是对的：没机会给人讨论、解释或辩论的科技不是好的科技。

以我曾任职商业界高级主管和大学系主任的经验，我深知做决策的过程比决策本身更为重要。当一个人做决定时没有好好解释或多方征询意见，别人既不会相信也不会喜欢这个决定。即使同样的决定，如果是经过讨论和辩论后而做出的，效果就会大不一样。很多商界领导者会问：“既然最后的结果都是一样的，何必浪费时间开会？”但最后的结果并不一样，虽然最后的决定本身看起来是一样的，这些决定出台的过程、执行的方式却不尽相同，尤其当事情未按照原来计划发展的话，一个精诚合作、互相理解的团队与一个只听从指挥的团队，对事情的处理会有很大的不同。

尽管汤姆认为导航系统有时候会很有帮助，但仍然不喜欢它，他没有办法与该系统协商来满足自己的需要。即使他可以做些高层次的选择——最快的路线、最短的路线、风景优美的路线或避开收费站的路线——但他不能与导航系统讨论为什么选择某条路线。他不知道为何路线A比路线B好，是由于导航系统考虑到此段路线包含时间较长的交通信号灯和很多的“停车”标志吗？再说，假如两条路线只有些细微差异，如一小时的路程，只差一分钟？他也许偏爱某一路线，尽管会多花一点时间，可是系统没有给他这些选项。导航系统做决定的方法非汤姆所知，即使他有意要信赖这系统，系统的神秘和静默也增加了汤姆的不信任，就像商业中那些没有员工参与讨论的自上而下的决定，很难得到员工的信任。

假如导航系统能够与驾驶员讨论路线呢？假如它们可以将备选线路同时显示在地图上，还包括每一条路线的距离、预计行驶时间和费用，让驾驶员可以自行选择？有些导航系统已经这样做了。例如从加州的那帕溪谷（Napa Valley）的圣赫勒纳市（St.Helena）开车到帕洛阿托（Palo Alto）的路线可由下表显示：

从加州的圣赫勒纳到加州的帕洛阿托

这明显有改善，但仍然不是对话，导航系统说：“有三个方案，选择一个！”我不能要求更多细节或做某些改变。我熟悉这三条路线，所以我知道最快速、最短距离和最便宜的路线同时也是最没有景观的，实际上，景色最宜人的路线并不包括在内。假如驾驶员不像我那么熟悉这些路线，那这有限的资料就无法满足驾驶员的需要。事实上，以上的例子虽然还是很有限，比起同类却已经算是不错的导航系统了。这表示我们还有一条很长的改良之路要走。

如果我的车子判断即将发生车祸，就自动竖直座椅或自行刹车，在这过程中，车子既没向我询问也没同我商议，更不用说告诉我原因。毕竟，车子的判断是根据机械、电子的科技，那么就一定比人更正确吗？不，其实不然。计算或许没有问题，可是在计算之前，它必须根据路况、其他交通状况和驾驶者的能力做种种假设。专业驾驶员有时候会把自动系统关闭，因为自动系统不能让他们施展身手。也就是说，他们会关闭所有可能关闭的自动系统，但许多新车甚至强制性地不给驾驶员这种选择。

不要认为上述行为仅限于汽车，未来的用品会有类似且更广泛的问题。智能银行系统已被用来决定是否提供客户贷款；智能医疗系统可以决定病人需要接受何种治疗或服用什么药物。未来的系统能够监测你在饮食、阅读、音乐和电视节目方面的偏好。有些系统会监控你在哪里开车，如果你违反相关规定，它们会自动通知保险公司、租车公司，甚至警察。其他一些系统可以用于监控盗版，确定什么是规定内允许的。所有这些例子里，智能系统根据有限的行为事例，然后大致推测你的意向，如此一来所采取的行动难免有些武断。

所谓的智慧型系统也流于过度自满，它们自认为清楚什么对人们最好。然而，它们的智慧极为有限。而这有限性就是最根本的问题：一部机器不可能充分掌握影响人做决定的所有因素。但这并不妨碍我们接受智能设备带给我们的帮助。当机器逐渐能做更多的事，它们就需要与人有更多的社交；它们需要改善与人沟通和互动的方式，了解自身的限制。只有如此，它们才能真正有用。这就是本书的一个重要主题。

当我开始写这本书时，我以为使机器能与人沟通的关键是发展更好的对话系统。但我这想法并不对。成功的对话需要共通的知识和经验。它需要对四周环境、前后脉络、导致目前情况的历史背景以及当事人众多不同的目标和动机等都要有所领悟。现在我认为这正是当今科技的根本局限，这种局限阻碍了机器全面、拟人化地与人互动。人与人之间要建立共通的了解本来就很难，那我们如何寄望与机器建立这种关系？

为了与机器进行有效的合作，我们需要把人与机器间的互动多少看成人与动物之间的互动。虽然人和动物都有智慧，但我们不是同类，有不同的认知和能力。同样，即使最智能的机器也不是我们的同类，它们各有自己的长处和短处，有自己的一套认知系统和能力。有时我们需要追随动物或机器，有时它们需要听从我们。