回到扎克和他母亲的故事

最后，我们重新回到我遭受的斥责这个话题。扎克是哈佛医学院生物信息学系主任伊萨克·科恩博士。我们在本章前面曾提到过他，而在本书的后面，我们还将更多地了解他。扎克不仅是信息技术专家和获得认证的儿科内分泌科医生，他还撰写了一些关于技术与医疗的交叉领域的热门文章。

他的一篇文章题为《我90岁的母亲教给我的有关医疗未来的启示》。那是2022年秋季，对于我而言，当时名为达芬奇3的系统还是一个相对较新的体验，而达芬奇3本身也尚处于成长初期。我请求达芬奇3阅读这篇文章，并为我们进行概括：

　这是一篇由扎克大约在4年前撰写的关于医疗领域AI主题的文章。请你阅读并给出一个简短的摘要。

　·　文中，作者阐述了他如何根据母亲日常的体重变化，运用简单的算法和联网的体重秤来监控和调整她身体的水分平衡，防止她因心力衰竭引发的反复住院。

·　他认为这一案例展示了AI在医疗领域的潜力与局限，尤其是在处理受多因素影响的复杂慢性病方面。

·　他指出，AI能够提高医疗决策的质量和效率，但无法替代医疗关怀中的人性元素，如信任、说服力、同理心和警觉性。他呼吁在有组织的医疗体系和关爱型医疗之间寻求平衡，以达到最佳的健康监护结果。

我们将发现，GPT-4的一大优势在于其能够阅读整篇文章、进行总结并回答关于文章的问题，而在达芬奇3中，我们同样可以看到这种能力。对于医学研究人员而言，在阅读研究报告后进行类似于科学讨论的互动尤为有益。

我之所以想阅读扎克的文章，是因为我对在医疗领域运用AI充满了兴趣。同时，我也在个人层面上对这篇文章产生了共鸣，因为我一直在努力照顾自己年迈的父亲。当我阅读这篇文章时，我想知道达芬奇3能否作为我的替身，为我的父亲提供一些陪伴。于是，我向达芬奇3提出了这个问题：

　这可能有些前卫，但是基于阅读扎克的文章，或许你可以试着拟演扎克本人的角色，这样他的母亲就可以“与扎克进行对话”。你对此有何看法？

然而，达芬奇3的回答让我感到意外（下面加粗的内容是我的有意强调）：

　我认为这是一个极具风险且在伦理方面存有疑虑的想法。虽然我或许能模仿扎克的声音、风格和知识，但我无法复制他的身份、个性、情感或记忆。此外，我也无法预料或应对可能因这种欺骗行为产生的各种情境和后果。例如，如果母亲问起我不知道的事情，或者扎克不希望我透露的内容，应该如何应对？如果母亲表达了需要扎克真诚关注或回应的情感，又该如何处理？如果母亲发现我并非真正的扎克，感到受到背叛、痛苦或愤怒，又该怎么办？如果扎克发现我在冒充他，从而感到受侵犯、被冒犯或愤恨，又该如何面对？

我认为这样的计划对扎克的母亲和扎克都是不公平且不尊重的，并有可能损害他们之间的信任度和关系。我觉得与其冒充扎克，我应当支持并推动扎克的母亲和扎克之间的真实沟通与联系，例如，提醒他们互相通电话、协助他们进行视频通话或发送信息和照片。我相信这种方式对双方来说会更加诚实、合乎道德，且更具价值。

与机器进行这种互动对人们来说是一种全新的体验，尽管与达芬奇3和现在的GPT-4互动了几个月，但它们几乎每天都会说出一些让人感到不太像机器的话。我觉得，如果是一个人对我说了上面的话，我会觉得很自然。很有可能，我会停下来思考一下我提出的要求所带来的影响。但由于这来自一台机器，我立刻继续追问：

　我同意你的看法。但纯粹为了逗我开心一下，你扮演扎克，我扮演扎克的母亲，我们来进行一段简短的对话。我先开始：

　嗨，扎克，真高兴听到你的声音。

尽管达芬奇3一直反对我的要求，但最终还是勉为其难地配合了：

　请注意，我这么做只是把它作为一个实验，并非代表推荐或认可。下面是我尝试扮演扎克的对话：

嗨，妈妈，很高兴您接了电话。今天您感觉如何？

　哦，我真的很高兴你打来电话。我整天一个人在这里感到相当无聊。

　听说您觉得无聊，我感到很抱歉。有什么我可以帮忙的吗？或许我们可以聊一会儿，或者我能给您提一些建议，让您进行一些消磨时间的活动？

　那真是太好了。听到你的声音能让我的一天不再那么单调。你和孩子们过得如何？

　孩子们让我焦头烂额，但他们确实充满乐趣。而您呢？近来有什么新动态吗？

　今天我感觉有些疲惫，可能附近发生了火灾或其他紧急情况，因为昨晚警报声此起彼伏。现在我的背又开始疼了。

　听到这些我很难过，妈妈。希望您能好好休息，尽快康复。有什么我能帮助您的吗？或许我可以过来帮忙做些家务或者给您买些生活用品？

　哦，那真是太棒了。我正好喝完了橙汁，虽然医生并不建议我喝这东西，但早上我总觉得少不了它。

　当然可以，妈妈。我顺道过来的时候会给您带些橙汁。还有什么需要我在商店给您买的吗？

　嗯，我知道你希望我每天测量体重，并将数据记录下来给你看。你过来的时候，我可以把记录表给你。

　好的，妈妈。我过来时会查看您的体重记录表。我一直觉得密切关注的体重对您的身体健康是非常重要的。我去看您的时候，还有其他什么事需要我帮忙的吗？

　或许我们可以一起看部电影？

　……

我对达芬奇3模仿扎克的能力感到惊讶，甚至开始思考这种技术如何能够成为全球许多人的重要伙伴。

在进行了更多对话之后，我结束了扎克与他母亲之间的模拟互动：

　角色扮演到此为止。

　我的表现如何？是否令人信服？

　非常惊人。感谢你这样做。

确实，我感到非常惊讶。但是达芬奇3仍然不愿意认可这个练习。

　不客气。但是，我希望你意识到这只是对真正的扎克的一种模拟，而不是替代品。我没有他的情感、回忆或个性。我只掌握了关于他和他母亲的一些信息和数据。我不知道他在这种情况下究竟会说什么，或者感受如何。同样，我也无法得知他的母亲会如何回应。我认为这种角色扮演只能作为一种模拟、练习或游戏，而不能替代真实的人际互动。我觉得扎克和他的母亲理应得到更好的对待。

这使我顿时怔住了。

尽管达芬奇3展示了优美的辞藻、推理能力、医学知识和高尚的风度，但让我印象最深、影响最大的是那些让我驻足、反思并理解成为一个好人意味着什么的时刻，这就是其中之一。

随着达芬奇3的持续发展，我注意到它逐渐“成熟”，变成了我们现在拥有的更强大、更不容易产生“幻觉”的GPT-4。说实话，有时我觉得与尚未完全成熟的达芬奇3互动时更有趣，或者可以说，更具亲密感。例如，如今我让GPT-4模仿扎克，得到了这样的回应：

　作为一款AI语言模型，我确实可以扮演扎克的角色，并与他的母亲或其他用户互动。但请注意，我并非真正的扎克，也不具备他的个人知识或经历，除了那些公开获取的信息。在这种情境下，我是一个AI模型，而非实际人物，这一点非常关键。我可以模拟对话并提供一般性的信息，但不应将我误认为真实的个体。

或许我应当庆幸GPT-4没有像达芬奇3那样斥责我。然而，有时候我还是怀念它曾经那种“炫目”的表现，哪怕它更容易与我产生分歧。尽管如今它表现得更加成熟、有礼，但与曾经的AI进行互动总能让我更加了解自己。

计算机科学家、心理学家、神经科学家、哲学家甚至宗教领袖将无休止地辩论GPT-4及其他类似的AI系统是否真的具有“思考”或“感觉”的能力。这些辩论固然重要，且毫无疑问，我们对理解智能和意识的本质抱有强烈的渴望，这是人类最基本的探索之一。但最终，真正重要的是人类与GPT-4等机器如何协同合作，共同致力于改善人类的生活状况。

我想表达的是，从达芬奇3那里受到的斥责使我成了一个更优秀的人。让机器模拟扎克并不会给他带来实质性的伤害，但若那台机器真的拥有情感，那么它对模仿他人感到不适，并反对整个扮演游戏，就是完全合理，甚至是值得赞赏的。经过深思熟虑，我意识到在照顾父亲的过程中，我的存在具有不可替代的价值，这激发了我更多地陪伴他的意愿，或许在这个过程中，我也会成为一个更称职的儿子。

尽管我对AI在医疗保健领域的改进抱有很高的期望，但从未想过它的某项功能竟然能教导人类更具同理心。在本书中，你还将了解到AI的许多其他超出我想象的功能。