谷歌研究院最近发了一篇论文，核心观点可以用一句话概括：与其死磕“让AI全知全能”，不如教它学会说“我不确定”。

这篇题为《Hallucinations Undermine Trust; Metacognition is a Way Forward》的论文由谷歌研究院与特拉维夫大学联合完成，已被ICML 2026 Position Track接收。论文提出，目前整个AI行业对抗“幻觉”的主流路线可能从根本上走偏了——大家忙着给模型灌更多知识，却忽略了一个更关键也更被低估的能力：让AI感知并表达自己对每个答案的确信程度。

（论文地址：[2605.01428] Hallucinations Undermine Trust; Metacognition is a Way Forward）

实用性税：消灭幻觉的真实代价

先从一个所有人都会遇到的场景说起。

你问AI助手一个问题，它用无比笃定的语气给出了一个答案，措辞严谨、逻辑完整，看起来毫无破绽。事后你一查，那个答案完全是胡编的。更让人恼火的是，它说的时候没有任何犹豫，仿佛亲眼所见。

这就是AI“幻觉”——模型输出了事实性错误的内容，却以一种不容置疑的方式呈现给用户。这个问题在医疗、法律、科研等高风险场景中尤为致命。

行业应对幻觉的思路，本质上就两条路。第一条路：让AI知道更多，通过扩大训练数据、增加模型参数来覆盖更多事实。第二条路：让AI不确定的时候闭嘴，遇到拿不准的问题直接拒答。

两条路都有明显的短板。世界上的事实无穷无尽，模型不可能记住所有事情，所以第一条路永远有覆盖不到的死角。而第二条路的问题在于，一旦AI开始大规模拒绝回答，它就从“有用的助手”变成了“什么都不敢说的废物”——用户问十个问题，八个被拒，体验极差。

论文给第二条路的代价起了个精准的名字：“实用性税”（utility tax）——为了降低幻觉率，你必须牺牲掉大量本可以正确回答的信息。

为什么这道税会这么重？根源在于AI缺少一项关键能力。要让“拒答”策略精确生效，模型需要精准区分“这道题我答对了”和“这道题我答错了”——只拒掉错的，保留对的。但现实是，模型做不到这种精确区分。论文区分了两个容易混淆但含义截然不同的概念来说明这个问题。

校准（calibration）衡量的是AI整体自信水平是否和整体正确率匹配。举例来说，AI回答100道题，每次都说“我有60%的把握”，而100道题里恰好60道对了，这就是完美校准。

判别力（discrimination）则衡量AI能否在每道具体题目上精准区分“我对了”和“我错了”。一个AI对所有问题都给60%的把握，整体正确率恰好60%，校准堪称完美，但判别力为零——它完全无法区分哪道该信、哪道该防。校准好不等于判别力强，这正是问题的要害。

论文梳理了大量文献后发现，目前主流大模型在真实知识问答任务上的判别力指标AUROC集中在0.70到0.85之间。这个数字听上去还行，实际远不够用。论文以AUROC=0.71为参数做了一组模拟计算，结果触目惊心：假设AI基础错误率25%，要把错误率压到5%，AI必须拒答超过52%的正确问题。即便判别力提升到0.85这个接近文献天花板的水准，仍需放弃28%的正确回答。只有判别力达到0.95以上时，代价才可忽略——而目前没有任何方法在知识密集型任务上接近这个数字。

图：校准与判别力的区别。左图显示模型校准良好（红线贴近对角线），右图则揭示了残酷的现实——即便校准完美，要将错误率从25%压到5%，必须牺牲52%的正确回答。

真实数据印证了这一判断。论文分析了SimpleQA Verified基准测试上各前沿模型的表现，结果清晰得有些残酷：绝大多数模型沿着“答得多、错得多”的对角线分布，少数追求高准确率的模型通过大量拒答换取了更高单题准确率，却付出了巨大的实用性代价。那个理想的“右上角”区域——既多答又少错——目前空无一人。这片空白，正是论文所说的“判别力缺口”。

图：各主流模型在SimpleQA Verified上的实测表现。右上角五角星为理想目标，“Discrimination Gap”标注了现有模型与理想之间的鸿沟，“Utility Tax”则标示了Claude Opus 4为换取高准确率而付出的实用性代价。

既然“多灌知识”有死角，“不确定就闭嘴”代价又太高，有没有第三条路？

重新定义幻觉：不是“说错了”，而是“没资格确定却一口咬定”

论文的核心贡献不在于诊断问题，而在于重新定义了问题本身。

长期以来，行业把“幻觉”定义为“AI输出错误信息”，这隐含了一个前提：消灭幻觉=消灭所有错误。但论文提出，不妨换一个角度——幻觉不是“AI说错了”，而是“AI没有资格确定，却以确定的语气给出了错误信息”。

这个区分看似细微，实际影响深远。举个例子：医生看了检查报告后说“你得的是X病”，如果他其实只是凭直觉猜的，这是不负责任的。但如果他说“目前症状倾向于X，但需要进一步检查确认”，哪怕初步判断方向有偏差，这种表达方式本身就是诚实的——他在告诉病人“请谨慎对待这个判断”。错误并非不可接受，不可接受的是明明不确定却伪装成确定。

基于这个新定义，第三条路浮现出来：忠实不确定性（faithful uncertainty）——让AI在语言层面表达的确信程度，真实对应其内部状态的确信程度。

具体来说，AI的“内部不确定性”可以通过重复采样来客观衡量：同一个问题问一百遍，每次都给出相同答案，说明内心笃定；答案五花八门，说明内部其实摇摆不定。“语言不确定性”则是AI措辞中体现的确信感——“1961年8月4日”和“我好像记得是1961年，但不是完全确定”，给读者的信号完全不同。

忠实不确定性要求两者对齐：内心摇摆时措辞留有余地，内心笃定时才用确定的语气。论文强调，这个目标比“消灭所有错误”更可行。原因在于，忠实不确定性只需要AI的语言输出和自己的内部状态对应——这是一个闭环问题，信号就在模型内部，不依赖外部真相。而消灭错误则需要AI的输出和外部世界真相完全对应，论文引用的停机问题和计算理论表明，这在理论上存在根本性限制。

论文将这种能力总结为一个更上位的概念：元认知（metacognition）——AI既能感知自己的不确定性，又能基于这种感知调整行为。这个概念借自心理学，本意是“对自己认知过程的认知”，放在AI语境下，就是AI对自己知道什么、不知道什么有清醒的认识。

图：左侧为传统困境——“回答”有幻觉风险，“拒答”有实用性代价。右侧为新路径——通过忠实表达不确定性，既保留有用信息，又将错误信息的危害降到最低，实现“可靠实用性”。

AI代理时代：没有元认知的Agent就是“盲飞”

元认知的价值，不仅限于对话场景。在AI代理（Agent）时代，它变得更加关键。

表面上看，给AI装上搜索引擎就能解决知识不足的问题——不知道就查嘛，还怕什么幻觉？但论文指出，工具引入的不是“存储方案”，而是“控制问题”。

有了工具之后，AI面临一系列新决策：这个问题我自己知道吗，需要搜索吗？搜出来的信息可信吗？如果搜索结果和我自己掌握的信息矛盾了，听谁的？查到什么时候该停下来？

所有这些决策，都依赖于AI对自己内部确信程度的准确感知。没有元认知能力的AI代理，就像一个没有仪表盘的飞行员——引擎已经在报警，他还在加速。

图：元认知控制层作为AI基础能力与外部工具系统之间的桥梁。没有这一层，Agent对外部工具的调度就如同“盲飞”——不知道该不该搜、搜了该不该信、信了信到什么程度。

论文引用的研究表明，当前搜索增强型AI代理普遍存在工具滥用问题——对根本不需要搜的问题也去搜，效率低下且引入不必要的噪音。原因很简单：没有元认知的AI根本无法判断“我需不需要额外信息”。

通往元认知的路上，还有几块硬骨头

论文也坦诚地指出了实现路径上的关键挑战。

“自举悖论”：教AI表达不确定性需要训练数据示范“该犹豫时犹豫”，但AI的知识边界是动态变化的。一条标注为“我不确定”的训练样本，可能在模型进化后变成了它确定知道的内容。用静态数据教动态能力，会训练出“假装不确定”的AI。这需要开发能反映模型当前知识边界的动态数据基础设施。

“对齐破坏信号”：研究发现，预训练后的AI其实已经具备不错的内部不确定性信号——它的内部状态能区分“这题比较有把握”和“这题不太确定”。但RLHF等对齐训练会把这个信号磨掉。原因在于，人类偏好语气确定的回答，这逼着AI学会了无论内心多摇摆，对外都表现出一副胸有成竹的样子。

“因果性评估”：更深层的难题在于，如何确保AI真的在读取内部信号，而不是学会了“遇到生僻词就说我不确定”这种表面套路？区分“真正的元认知”和“对元认知的表演”，是一个基础性的科学评估问题。

论文还提出对研究社区的具体建议：不要再只用单一准确率数字来评估反幻觉方法，应该可视化完整的“实用性-错误率权衡曲线”，看清楚一个方法是真的提升了底层判别能力，还是只是在同一条曲线上调高了拒答门槛。同时应检测“附带损伤”——为了降低知识问答的错误率，是否在推理、编程、写作等任务上付出了意外代价。

归根结底，这篇论文想传递的核心信息是：AI可以不全知全能，但它必须对自己知道什么、不知道什么有诚实的认识，并且把这种认识传达给用户。

我们信任专业人士，不是因为他们从不犯错，而是因为他们能诚实地区分“我确定”和“我猜测”——正是这种区分，让专业与不专业拉开了距离。AI也应该走向这条路。与其无止境追逐一个完美无误的幻象，不如让AI学会一件更务实的事：知道自己什么时候在胡说，并且坦诚地告诉用户。（本文首发钛媒体APP，作者 | 硅谷Tech_news，编辑 | 焦燕）