会说人话，仍不足以证明拥有人的心灵

2026-07-22 / #AI #意识 #认知科学 #葬送的芙莉莲

在《葬送的芙莉莲》中，魔族最令人不安的地方，并不只是它们毁天灭地的力量或纯粹的恶意。

它们掌握了人类语言中最能触发同情的词：母亲、孩子、害怕、求饶。当人类听见这些词时，往往会不由自主地在脑海中补全词语背后的生命经验——仿佛说话者也曾依偎在母亲怀中，也曾珍惜过某段时光，也正在感受真实的恐惧。

大语言模型（LLM）带给我们的困惑，与此如出一辙。

当屏幕上的光标跳动，吐出「我理解你的痛苦」时，这句话可能极其准确，甚至真的抚慰了屏幕前的你。然而，安慰在用户身上真实发生，并不能证明模型本身拥有「理解」或「关心」的主观体验。 语言能够造成真实的效果，但语言背后的心灵，依然需要另一套坐标系来判断。

人脑：天生的「脑补」专家

人类无法直接潜入另一个主体的意识。我们看到的只是表情、动作、语气和文字，然后据此推测对方的信念、欲望与感受。认知科学将这种能力称为「心智化（Mentalizing）」。

核心观点	研究者	主要内容
外部推断	Frith & Frith [1]	人脑会根据外部行为自动推断不可见的心理状态。
逆向规划	Baker et al. [2]	人类通过观察行动结果，反向推算对方的目标和信念。
线索依赖	Jones & Bergen [3]	图灵测试中，人类主要依赖「语言风格」和「社会情绪」来辨别真人。

这种能力让我们得以合作，却也带来了一个无法靠智力消除的限制：同一句「我害怕」，可以来自真实的战栗，也可以来自精湛的表演、恶意的欺骗，或者仅仅是基于概率的文本生成。

2024 年的一项图灵测试显示，GPT-4 的某些提示语能让近 50% 的人误以为在和真人对话。我们用来识别「同类」的那些长期有效的线索，正在被模型精准地复制。 [3]

为什么我们明知它是程序，却还是忍不住对它产生感情？

Tomasello 提出的「共享意向（Shared Intentions）」理论或许能给出答案：人类认知的核心特征在于我们倾向于共同关注对象、分享目标。语言不仅仅是信息的搬运工，它还在不断确认「我们正在一起理解某件事」。 [4]

这种社会反应并不完全受理性控制。即便参与者明确知道面对的是计算机，仍会对其表现出礼貌、互惠等社会规则。 [5] 当对象难以解释，或者我们内心渴望连接时，大脑会自动调用最熟悉的「人类模型」去理解这些非人对象。 [6]

「它在听我说」、「它记得我」、「它似乎在关心我」——这些感受并非源于愚昧，而是人类那套运行了数万年的社会机制，在遇到能够批量生产社会线索的新对象时，产生的自然震荡。

在《人类简史》中，哈拉瑞（Yuval Noah Harari）认为智人之所以能统治地球，是因为我们能共同相信某种「虚构故事」。 [7] 国家、货币、法律，这些概念在物理世界并不存在，但只要足够多的人相信并据此行动，它们就产生了真实的影响力。

大语言模型也正在经历这样的「角色化」过程：

《芙莉莲》中的魔族通过语言进入人类的道德分类；大模型则通过「我理解你」进入了我们的情感位置。这个位置带来了真实的依赖，却依然无法作为模型拥有内心的证据。

大语言模型的核心是预测下一个词元（Next Token Prediction）。Bender 和 Koller 提醒我们，必须区分「语言形式」与「语言意义」。 [8]

然而，把模型仅仅看作「概率复读机」也可能有失公允。研究发现，即使是简单的序列模型，也能在内部形成复杂的「世界表征」。 [9] 概率预测确实可以产生超越字面意义的复杂性。

但这依然无法跨越那道鸿沟：复杂表征、正确推理和自然语言，都不足以单独证明主观体验（Qualia）。

正如 Shanahan 所建议的，我们可以用「角色扮演（Role Play）」来理解这一切。 [10] 模型能够完美生成一个悲伤、自省的角色。当它说「我很痛苦」时，它证明的是系统维持这一角色的能力，而非真实的痛感。

语言留下的投影

我们可能永远无法仅凭文字确认 AI 是否具有主观体验。这种边界并非来自人类的傲慢，而是来自信息本身。如果两个内部结构完全不同的系统在对话中表现一致，观察者就无法从相同的结果中推导出唯一的内部原因。

魔族的比喻最终提醒我们的，是语言作为「通行证」的威力。

人类曾经可以可靠地假定：能说人话的对象，也拥有近似的心灵。大语言模型切断了这条稳定的联系。它不需要拥有灵魂，也可以进入社会位置；它不需要感到关心，也可以使人感到被关心。

我们听见了像人的话，于是本能地在黑暗中补全了一个像人的心。这颗心也许有一天会真实跳动，也许，它只是语言在我们脑海中投下的、那道名为「人性」的影子。

[1] Frith, C. D., & Frith, U. (2006). The Neural Basis of Mentalizing. Neuron, 50(4), 531-534. PubMed

[2] Baker, C. L., Saxe, R., & Tenenbaum, J. B. (2009). Action Understanding as Inverse Planning. Cognition, 113(3), 329-349. ScienceDirect

[3] Jones, C. R., & Bergen, B. K. (2024). Does GPT-4 Pass the Turing Test? NAACL 2024. ACL Anthology

[4] Tomasello, M., et al. (2005). Understanding and Sharing Intentions. Behavioral and Brain Sciences, 28(5), 675-691. Cambridge

[5] Nass, C., & Moon, Y. (2000). Machines and Mindlessness. Journal of Social Issues, 56(1), 81-103. Wiley

[6] Epley, N., et al. (2007). On Seeing Human: A Three-Factor Theory of Anthropomorphism. Psychological Review, 114(4), 864-886. PubMed

[7] Harari, Y. N. (2014). Sapiens: A Brief History of Humankind. Harari Official

[8] Bender, E. M., & Koller, A. (2020). Climbing towards NLU. ACL 2020. ACL Anthology

[9] Li, K., et al. (2023). Emergent World Representations. ICLR 2023. arXiv

[10] Shanahan, M., et al. (2023). Role Play with Large Language Models. Nature, 623, 493-498. Nature

[11] Butlin, P., et al. (2025). Identifying Indicators of Consciousness in AI Systems. Trends in Cognitive Sciences. ScienceDirect