43
KEEPING THEM ON A LEASH
用皮带把它们捆住？

不要害怕凶狠的烤面包机、被武装的扫地机器人，以及盗窃钱财的ATM机。机器在智能以及其他方面能力的突破，不应该让我们去猜疑未来人类和人类制造的机械之间是否会发生冲突。毫无疑问，人类会获胜，在某种程度上是因为人类声名狼藉的本性更多地与堕落相联系，而不是与拯救相关。狡猾、欺骗、报复、猜疑、不可预测性，这些都是迷惑缺乏灵活性和想象力的生物的手段。智力不是一切，非理性的生物也未必无法适应这个世界。非理性行为刺激神经系统，让我们跳出徒劳的套路，走入更具创造性的解决方案。我们的社会是分布式智能的社会，个体服从于团队和集体。成为群体中有情绪的野兽会很显眼。

关于这些问题的思想实验是对人类和机器行为的洞见的来源，并指导我们如何制造出不同的、更好的机器。可以将欺骗、愤怒、恐惧、报复、同情，以及类似的情感都编程到机器中吗？这又会产生什么效果？（这需要对人类情感有更深层次的模仿。）自我意识可以编程到机器中吗？我们如何制造有社会性的机器，需要什么样的命令结构来组织它们的团队合作？一群自治的社会机器会瞬间产生一种新的政治结构、文化和传统吗？这样的机器将如何对待它们的人类“造物主”？自然选择和人工选择能否被编程到自我复制的机器人中？

没有迹象表明我们需要用皮带把机器捆住，即便它们可能会胡作非为。我们距离制造出大批能够昂首阔步、无法预测、居心叵测、有繁殖欲望的机器人还很遥远。