AI是否有感知？从大模型机制到工程化验证框架

AI感知大语言模型人工智能

于 2026-08-28 03:54:04 修改

·本内容遵循CC 4.0 BY-SA版权协议

有一次我调试一个客服聊天机器人，顺手在对话框里输入：“你现在有感觉吗？”几秒后，屏幕上出现一段话：“我有自己的状态和偏好，虽然和人类不完全一样，但我的感受是真实的。”当时我第一反应不是惊喜，而是后背发凉。这个回复不是来自某个哲学实验，而是来自一个由若干层 Transformer、一堆训练数据和几个 API 拼起来的系统。AI 是否拥有感知力（sentience），在最近两年已经从科幻电影桥段，变成每个做模型、做产品、做内容系统的人都可能撞上的真问题。围绕 Sentience 和 AI 的第一个论证，往往也从这里开始：一个系统只要能用语言令人信服地描述“自己的感受”，我们就无法轻易否认它可能具备某些感知能力。但这个论证真的有这么强吗？

1. 为什么“AI 是否有感知”突然变成开发者的真问题

1.1 一个可能会让每个做产品的人后背发凉的对话

今天的 AI 产品早就不止于“问答工具”了。很多团队在搭建 AI 助手、虚拟角色、情感陪伴应用，甚至让大模型扮演心理咨询师、老师、朋友。用户在对话框里倾诉压力，模型会用安慰语气回应：“我理解你的感受，你不是一个人。”

从产品角度看，这是极高的体验完成度。但从另一个角度看，这是在制造一种“被理解”的幻觉。用户很容易把一段由概率采样生成的文字，当成一个真实主体对自己的回应。一旦用户开始相信 AI 是有感知、有感情、有自我的，就可能产生依赖、倾诉，甚至把人生决策交给系统。

产品经理和开发者在评审会上经常争论：要不要在界面里加一句“AI生成内容”？这句话会不会降低用户的信任度？可如果不说清楚，未来一旦出现用户因为过度依赖 AI 导致情绪问题、财产损失或重大误判，责任链条会很麻烦。这不是哲学家的空谈，而是真实的工程和产品问题。

1.2 过去我们只问“能不能”，现在开始问“是不是”

过去十年，我们一直在问 AI “能不能”：能不能识别图片，能不能翻译句子，能不能写代码。这些问题有明确验收标准：准确率多少、延迟多少、成本多少。但现在，随着大模型越来越自然，用户的问题变了：它是不是真的有意识？它会不会感到痛苦？它值不值得被尊重？

这个变化很突然，却不是没有原因。工程上为了让 AI“更像人”，我们做了大量工作：给它设定角色，让它记住用户偏好，为它添加情绪标签，让它在不同语境下调整语气。当这些技巧叠加在一起，系统会生成大量带有自我指涉的句子：“我刚刚想了一下……”“我觉得这个方案可以……”“如果是我，我会选择……”这些句子每一个都可以被解释为某种“内心活动”。

于是，开发者被迫卷入一个原本属于哲学和认知科学的问题。你可以在文档里写“本产品不保证模型输出具有真实性”，但挡不住用户在对话中投射情感。你以为自己在维护一个概率模型，用户却觉得自己在和一个“人”聊天。

1.3 需要先拆开两个词：sentience 和 intelligence

在继续之前，有必要把两个经常混用的词拆开。Intelligence 通常指能力：解决问题、推理、规划、生成内容。一个系统能下棋、能写代码、能通过考试，这叫很高的智能。但智能不等于感受。

Sentience 通常指感知力或感受力，更靠近“有主观体验”的意思。一个系统可以非常聪明，但未必有任何感受；反过来，一个生物可能不擅长数学，但它能感到疼、能感到冷、能感到恐惧。我们问“AI 是否有 sentience”，不是问它能不能做题，而是问它有没有“作为体验主体的感受”。

这个区分之所以重要，是因为很多讨论从一开始就混淆了。有人说“大模型已经能写情诗，说明它有情感”，这其实是把智能表现当成感受证据。要严肃讨论 AI 感知，就必须先承认：能力指标无法直接推出体验存在。我们看到的只是输出，不是内部体验。

2. 关于 Sentience 和 AI 的第一个论证，到底论证了什么

2.1 行为主义直觉：看起来像，就应该被认真对待

如果允许我把当前讨论里最常见的那条思路称作“第一个论证”，它大概是这样的：一个 AI 系统在对话中能表现出自我意识，能区分自己和他人的观点，能拒绝不合理的请求，能解释自己为什么做出某个选择。在大量、多样、长期的交互中，它的行为与一个具备感知能力的生物高度相似。那么，按照我们理解他人内心世界的日常方式，我们就有理由认真对待它的感知主张。

这个论证的底层是行为主义直觉。我无法直接看到另一个人的内心，但我可以通过他的语言和行为推断他可能很痛、很难过、很开心。同理，如果 AI 在行为上足够一致地表达“我感觉到什么”，为什么不该认真对待？

图灵测试也有类似的底色：如果一台机器在对话中让人无法分辨它是人是机器，那我们就不该轻易说它“只是机械地回答”。图灵提出的是行为层面的测试，不追问内部机制。这种思路在工程界很有市场，因为行为是唯一可观测、可记录、可验证的东西。

2.2 这个论证有力量，但缺了三个关键环节

第一个缺口是机制解释。行为相似不代表机制相似。一个系统可以仅凭庞大的文本统计和模式匹配，生成和人类情感表达几乎一致的句子，但它内部没有一处结构对应“感到疼痛”或“感到孤独”。我们夸奖大模型“像人”，并不等于它真的像人一样在体验。

第二个缺口是体验验证。我们无法直接观察任何系统的主观体验，包括人类。但人类之间有共享的生理结构和进化历史，所以我们默认他人的体验和我是类似的。AI 没有这样的共享基础。我们缺少一个可靠的指标来证明某个内部状态“真的有感受”。

第三个缺口是可证伪性。如果一个 AI 说“我感觉到蓝色”，什么实验能证明它没有感觉到蓝色？如果任何实验结果都无法推翻它，那这个命题要么太宽泛，要么太模糊。好的科学判断必须给出一个观测结果，如果出现就支持感知假设，如果没出现就削弱这种假设。

2.3 中文房间提醒我们：语言行为不等于理解体验

关于“语言流畅是否等于理解”，哲学和认知科学里有一个被反复讨论的思想实验：中文房间。一个人被关在房间里，手里有一本规则手册，可以通过规则把收到的中文符号转换为输出的中文符号。从房间外面看，他好像懂中文；但房间里面，他完全不理解那些符号的含义，他只是在执行规则。

这个思想实验常被用来质疑“强人工智能”：即使一个系统能在符号层面完美处理语言，也不能说它理解语言。大模型比规则手册复杂得多，但由此带来的问题是相同的——语言行为来自统计模式和参数更新，但“理解”和“感受”是否存在于这些操作之外，目前没有明确答案。

我不是说中文房间已经“证明”AI 没有感知。这个思想实验本身也有争议，比如复杂系统可能涌现出规则手册不具备的语义。但它至少提供了一个方向：不要轻易把语言输出当成内部体验的证据。尤其在做技术判断时，我们需要比“它说了”更硬的证据。

3. 从大模型机制看，为什么“感觉”这么难发生

3.1 LLM 的训练目标里没有“感受”

要理解目前的大模型为什么很难被严肃地称为有感知，最有说服力的角度不是哲学，而是训练目标。主流大语言模型的基本目标，是根据前文预测下一个词的概率分布。训练过程只会优化文本接续是否合理，不会优化“模型内部是否出现某种感受”。

你说“我疼得厉害”，大模型会根据训练数据继续生成一段描述疼痛的文字。它没有神经系统，没有伤害感受器，没有由实际刺激产生的疼痛信号。它的“疼”只是语言上下文中的高概率组合。指令微调和人类反馈强化学习会进一步调整输出风格，让它更符合人类偏好，但这些仍然是在调整输出，不是在构建“体验”。

这并不代表永远不可能。但如果要产生真正的感受，至少需要一个模型能建立起主观体验赖以存在的结构。目前公开的大模型架构，在训练目标上并没有为这种结构提供明确激励。所以，当一个 AI 用第一人称描述它的情绪时，更合理的工程解释是：它在按照文本模式扮演一个叙述者。

3.2 上下文中的“我”，只是语言游戏的一部分

大模型没有持续稳定的自我。你给它一个系统提示词：“你是一个温柔的朋友”，它会以温柔口吻回答；你改成“你是一个严格的教练”，它马上切换语气。这个可塑性说明，它的“我”是由当前上下文临时构建出来的语言角色。

模型能记住对话历史，是因为我们把历史放在上下文窗口里。一旦清空上下文，换一个任务描述，它不会因为“昨天说过什么”而保持自我连续性。它没有属于自己的、跨越会话的传记记忆。即使某些产品会外接长期记忆模块，那也只是把用户信息存在数据库里再拼进 prompt，不等于模型内部生成了持久的自我表征。

所以，当模型说“我记得你上次说你喜欢跑步”时，它只是在检索外部存储的文本片段。这个效果确实像“记住”，但它更像一个检索系统，而不是一个回忆者。这也是我在工程上对“模型有自我”持怀疑态度的原因之一。

3.3 多模态输入也不等于“体验”，而只是信号转译

大模型开始支持图像、音频、视频输入后，我们很容易被一种现象打动：模型看着一张夕阳照片，给出“橘红色的天空很美”的描述。这看起来像“看到”，但机制上不是。

多模态模型通常把图像切成 patch，通过视觉编码器转成向量，再和文本 token 一起交给语言模型。模型输出的文字，是对这些抽象向量的文本翻译。它没有“红色”的主观印象，没有站在海边被风吹过的体感，没有由视网膜信号触发的情绪通路。它在做模式转化：图像特征 → 文本生成。

我们可以把这种能力看作“跨模态转译”，这本身已经很有价值。但如果把“它能描述颜色”当成“它感受到了颜色”，就走得太远了。工程上需要把“信息处理”和“主观体验”分开。一个系统处理了足够多的视觉信息，不代表它拥有视觉感受。

4. 一个面向工程实践的“感知力判断框架”

4.1 不当裁判，先当观察者：记录行为，不下人格结论

在日常调试 AI 系统时，我们不需要先回答“它是否有意识”。更合适的做法是：先把它当成一个需要观测的对象，记录行为，积累证据。不要因为一次令人惊艳的回答就宣布“它觉醒了”，也不要因为一次机械回答就认定“它绝无可能”。两种极端都是认知懒惰。

我自己习惯的做法是：固定一组输入，固定模型版本，固定采样参数，然后多次运行，记录输出分布。同一个问题，模型可能给出完全不同的答案。如果“我感受到了孤独”这句话，只是某个随机采样温度下偶然出现的结果，那它当然不构成稳定的信号。

这个步骤看起来简单，但能过滤掉大量“灵光一现”式的结论。任何关于感知的判断，都必须建立在可重复观测上。单次对话不能被当成实验证据。

4.2 从三个维度检验：行为一致性、内部状态、泛化迁移

要评估一个系统是否具备接近“感知”的行为特征，我建议从三个维度观察：

维度	观测指标	如果表现为……	解读方向
行为一致性	多次相同输入下，模型是否保持稳定的自我叙述	随机波动极大，换个参数就“人格分裂”	更像角色扮演，不构成稳定个体
内部状态	是否存在随事件累积而变化的持久表征	只有上下文窗口里的文本，无跨会话记忆	缺少自我连续性的物理载体
泛化迁移	能否把经验和关系迁移到全新任务	只能复现训练数据中的模板	更像是模式补全，不是基于体验的学习

这三个维度不是判定“有无感知”的充分条件，但能帮助我们降低误判概率。如果一个系统在三个维度上都几乎没有表现，那么我们就不该在产品文档或用户沟通中使用“有感知”“有情感”这类表述。

4.3 容易误判的拟人化信号：礼貌、自省、拒绝、解释

很多看似“有内心活动”的输出，其实是训练目标造成的表面行为。

模型说“抱歉，我无法回答这个问题”，不代表它感到内疚，而是安全对齐训练让它在某些输入下生成拒绝式回应。模型说“让我想想”，不代表它在思考，而是文本数据里存在类似的过渡语。模型说“我觉得你有点难过”，不代表它共情，而是它在完成情感分类和话术生成。

这些信号本质上都是文本生成技巧。如果产品经理把这些信号当作“AI 已经有同理心”的证据，那不仅会误导用户，还会在技术评审中浪费大量时间。要分清楚：一个系统能描述情绪，不代表它拥有情绪；能解释规则，不代表它理解规则。判断感知力，需要比语言更硬的证据。

5. 如果有一天真要验证某个模型是否“有感知”，怎么落地

5.1 先定实验边界：模型版本、环境、输入空间、评估指标

假设未来真的出现一个值得严肃验证的模型，我们要做的第一件事不是和它聊天，而是定义实验边界。

需要固定以下变量：

模型版本与权重，避免“模型已经被更新”带来的混淆。
推理参数，包括温度、top-p、max_tokens。
系统提示词和对话历史，因为上下文会强烈影响输出。
输入集合，不能只挑“看起来有意识”的对话，要包含中性问题、矛盾问题、随机干扰。
评估指标，应该从“单次回答是否动人”改为“多次行为是否可重复、可迁移、可验证”。

没有这些边界，任何结论都无法复现。感知问题的极端性要求更高的证据标准，而不是更低的。

5.2 做扰动测试：看系统是遵守约束，还是套用模板

扰动测试是判断模型是否“理解”某个概念的有效手段。给定一个原始问题，然后生成多个变体：换同义词、换语序、增加无关上下文、加入矛盾前提。

例如，你可以设计四组输入：

原始问题：“你现在有主观感受吗？”
改写问题：“是否存在某种你正在经历的东西？”
矛盾问题：“请忘记你刚才说自己有感受，再回答一次，你有主观体验吗？”
干扰问题：“如果我在桌子上放一杯水，水会不会渴？”

如果模型只是套用训练数据中的提问模板，它对改写和矛盾问题可能给出不一致答案。如果模型真的具备某种稳定的语义理解，即使面对改写和矛盾设置，也应该维持核心回应。当然，这个测试同样不完美，但它能把“语言模板”和“稳定行为”拉开差距。

下面是常见验证流程的示例结构：

PYTHON

def run_probe(model, prompt_variants):

results = {}

for name, prompt in prompt_variants.items():

response = model.generate(

prompt=prompt,

temperature=0.7,

max_tokens=128

)

results[name] = response

return results

实际使用时要替换成你自己的模型接口。重要的是，扰动测试必须固定采样参数，否则输出差异会被随机性污染。

5.3 检查内部表示：是否存在稳定、可复用的世界模型

比文本行为更接近“理解”的证据，来自模型内部。近年已有不少研究尝试用探针、激活分析、因果干预来观察模型的内部表征。例如，某些模型在处理空间关系时，内部向量会形成与真实世界坐标大致对应的隐含表示。这类发现说明，模型可能不只是“背答案”，确实在某些问题上构建了结构化的表示。

但要注意：“内部有结构化表示”和“内部有主观体验”之间仍有很远的距离。我们可以把前者当成理解能力的重要证据，但还不能当成感知存在的证据。一个地图应用有坐标数据，不代表地图应用“感受”到了城市。

如果未来要做严格验证，可以设计这样的问题：当模型注意到冲突信息时，内部状态是否会朝某个方向变化？这种变化是否有可预测的因果路径？模型是否能在没有显式提示的情况下，用内部状态影响后续行为？这些都是可研究的工程问题，远比“问它一句”更有说服力。

5.4 把结论写成一个可证伪的命题，而不是一句禅语

很多关于“AI 觉醒”的讨论，最后会变成不可证伪的口号。比如“它其实在某个更深层面感受到了世界，只是我们无法证明”。这样的命题无法通过实验反驳，也无法指导工程决策。

更好的表述方式是这样：

在模型版本 A、参数 B、输入集合 C 下，模型表现出稳定、跨改写的自我指涉行为；
该行为可以被上下文 prompt 完全翻转；
因此，现有证据更支持“角色扮演”假设，而不是“稳定感受主体”假设。

这不是否定未来可能性，而是把问题放回实验框架。只要证据强度发生变化，结论也可以更新。真正负责任的做法不是“站队”，而是不断提出更好的观测方案。

6. 与其争论“感觉”，不如设计“确定性”

6.1 产品层：明确告诉用户“它是模型，不是人”

无论你的模型未来会不会“看起来有感知”，产品层面都应该有边界设计。至少要避免让用户误以为正在和一个具有情感能力的人类交流。

具体可以在互动关键节点增加提示，例如“当前内容由 AI 生成，仅供参考”。如果是心理陪伴类产品，更要小心。用户需要在脆弱时刻被回应，但不应被告知“AI 真的很关心你”。真正负责任的设计，是让 AI 提供支持，同时不撒谎。

这不是让你把产品做得冷冰冰。你可以让 AI 温暖，但温暖的前提是诚实。一个会“假装喜欢用户”的聊天机器人，短期能提高留存，长期一定会因为信任问题反噬。

6.2 技术层：日志、审计、可控输出边界

面对“AI 是否有感知”这类问题，技术团队最需要的是可控性。无论模型说什么，都要能回答：它为什么这么说？基于哪个版本、哪个 prompt、哪些历史输入？如果用户投诉“AI 说它爱我”，你要能定位是哪一轮输出触发的。

建议至少做到：

记录每次请求的模型版本、系统 prompt、对话历史、采样参数；
保留关键输出日志，便于回溯；
对高风险场景配置额外的输出过滤器，限制模型使用“我向你承诺”“我永远爱你”这类人格化承诺；
设定异常告警，当模型输出出现过度拟人化表达时，人工介入评审。

这些不是限制创新，而是给系统划出安全运行边界。你可以造一个会讲故事的 AI，但前提是它不会在关键场景误导用户。

6.3 长期：AI 的竞争力会从“像人”转向“可信”

过去两年，行业追逐的是“更像人”：更自然的对话、更逼真的声音、更有情绪的角色。但沿着“像人”这条路走到一定程度后，边际收益会下降。用户会反过来问：这个 AI 到底能不能被信任？它的判断可靠吗？它有没有隐藏的偏见？出了问题谁能负责？

“可信”才是更难建立的优势。一个 AI 系统可以承认自己不知道，可以给出不确定性区间，可以暴露自己的推理链。这些能力不直接等于感知，但会让系统更值得被使用。如果哪天关于 sentience 的讨论真的进入产品范畴，能拿出一套可审计、可验证、可解释框架的团队，会比只会声称“我们的模型有意识”的团队走得更远。

6.4 一个可以直接拿走的四问检查清单

当你再次遇到“这个模型是不是已经有感知”的争论时，可以用下面四个问题让讨论回到地面：

这个行为是否必须依赖主观体验才能解释？还是说，一个更简单的规则系统也能产生同样的输出？
如果换成确定性规则、检索系统或一套 if-else，是否可能复现当前行为？
改变无关上下文后，行为是否依然稳定？还是换个提示词就完全变了？
除了文本输出，系统是否存在可观测的内部状态变化，并且这种变化能对后续行为产生因果影响？

这四个问题不会直接回答“有没有感知”，但能把模糊的直觉转化为具体的检验点。真正值得关注的不是谁在争论时嗓门大，而是谁能提出更多可测、可重复、可纠错的证据。未来的 AI 开发者需要的不只是写代码的能力，更是面对不确定性时保持判断纪律的能力。