导航|地址|刷新
ICML 2026 | 从“事实错误”到“世界模型失配”：来自CMU、斯坦福等研…




















网易网易号



0







ICML 2026 | 从“事实错误”到“世界模型失配”：来自CMU、斯坦福等研究者提出大模型幻觉统一定义


机器之心Pro
2026-07-19 20:03·天津·《机器之心》官方网易号

0




打开网易新闻 查看精彩图片

同一个回答，在摘要任务里算幻觉，在开放域问答里却不一定是 —— 大模型 “幻觉” 研究的分裂，到了连 “什么是幻觉” 都无法达成共识的地步。在第一篇 ICML 2026 Position Paper 中，研究者们给出了一个直截了当的回答：笨蛋，幻觉的问题在于大模型内部的 “世界模型” 认知（It‘s The World Model, Stupid!）



打开网易新闻 查看精彩图片


ICML2026 Position Paper：We Need A Unified Definition of Hallucination (It’s The World Model, Stupid!)

论文链接：https://arxiv.org/abs/2512.21577

Follow-up Bechmark Paper: HalluWorld: A Controlled Benchmark for Hallucination via Reference World Models

论文链接：https://arxiv.org/abs/2605.19341


一个福尔摩斯问题，

暴露了领域的概念裂缝

论文以一道看似简单的问题开场：给定上下文明确写着 “Sherlock Holmes 住在伦敦贝克街 221B 号”，模型却回答 “福尔摩斯是虚构人物，没有现实地址”—— 这算不算幻觉？

在摘要研究者眼中，模型公然违背了源文档，毫无疑问构成幻觉；在开放域问答研究者眼中，这句话在现实事实层面成立，甚至可能被视为更谨慎的回答。

同一段输出，两套任务假设，两种相反判定。

这不是某个边缘案例的疏漏，而是幻觉研究长期以来的结构性困境。机器翻译和摘要关心 source faithfulness，开放域问答关心 factuality，RAG 系统需要处理检索内容与参数记忆之间的冲突，而 Agent 场景又要求模型正确理解一个持续变化的环境状态。大家共享同一个术语 “幻觉”，背后却默认了不同的真值锚点。

因此，“我们将幻觉降低了 40%” 并非没有意义，但它必须附带一组明确的限定：相对于哪个参考世界？模型看到了什么？证据冲突时谁优先？如果这些前提没有跨任务对齐，我们就很难判断一种缓解方法究竟解决了什么，也难以预测它能否迁移到新的应用场景。

当 “什么算幻觉” 无法被共同说明时，不同 benchmark 的分数就很难进入同一场学术对话。

统一框架：

把评测中被省略的前提写进公式

这篇被 ICML 2026 Position Track 接收的论文，切入点并不是再追加一套更细的分类法。作者团队的判断是：领域并不缺少有效的局部定义，真正缺少的是一个能够容纳这些定义，并说明它们何时可比、何时不可比的共同语法。

为此，论文将幻觉概括为：模型输出中可被用户观察到的、相对于指定参考世界的不准确世界建模。随后，作者引入参考世界模型（Reference World Model）的形式化定义：

W = (S, H, R)

其中，S 表示可能的世界状态，H 表示交互历史，R 表示状态与历史必须满足的规则。关键在于，这里的 W 并不是对神经网络内部表征的武断推测，而是一个用于判定当前任务中 “什么为真” 的指定参照结构。它可以是一篇源文档、一个知识库、一棵 DOM 树，也可以是一盘棋、一个模拟器或一段可执行程序。

W 也不必是一个宏大而完备的 “现实世界”。在开放域任务中，它可以是有边界、可版本化的知识源；在 Agent 场景中，它则可以由当前环境状态、历史轨迹与可执行规则共同组成。

仅有 W 仍然不够。论文进一步指出，一项可复现的幻觉评测必须显式回答三个长期被隐含处理的问题：


V（视图函数）：模型在当前输入下能够看到参考世界的哪一部分？



P（冲突策略）：当多个信息源 —— 例如检索文档与参数记忆 —— 发生矛盾时，谁优先？



T（真值函数）：给定 W 和 P，一个原子命题应被判为 true、false，还是 unknown？


由此，统一定义可以写成：如果模型输出中存在一个用户可观察的原子命题 c，并且它在给定参考世界与冲突策略下为 false，那么该输出相对于 (W, P) 构成幻觉。

∃ c ∈ C (y) : T (W,P)(x, c) = false



打开网易新闻 查看精彩图片

图 1｜统一定义框架：参考世界 W、视图函数 V、冲突策略 P 与真值函数 T 共同决定一个可观察命题是否构成幻觉。

这一定义最显著的概念贡献，是把过去隐含在各类 benchmark 设计中的选择变成显式对象：摘要任务把源文档设为 W；开放域问答把有边界的知识源设为 W；RAG 必须声明检索文档是否覆盖参数记忆；网页 Agent 则把当前 DOM、操作历史与环境规则共同视作 W。



打开网易新闻 查看精彩图片

图 2｜摘要、开放域问答、RAG 与 Agent 场景，可以被视为同一模板下对 W、V 和 P 的不同实例。

不是所有错误都叫幻觉

该框架带来的一个直接且重要的辨析，是将 “幻觉” 与更宽泛的 “模型错误” 区分开来。

若 Agent 准确看到了页面上的按钮，却选择了低效动作，这是 planning error；若它坚称页面上存在一个 DOM 中根本不存在的 “submit-btn”，这才是对环境状态形成了错误信念。前者是 “做错了”，后者是 “假定了一个并不存在的世界”。

类似地，模型在证据不足时选择拒答，可能没有完成任务，但它并没有编造虚假状态，因此不应自动归为幻觉；模型正确理解了环境，却没有遵循用户目标，则更接近 instruction-following error。

这套分解也让缓解策略的作用位置更清楚：检索与更丰富的环境观测主要改变 V，让模型获得更多证据；冲突规则与外部验证器明确或实现 P/T 的判定过程；校准与拒答训练改变模型在不确定时的输出行为；而一部分训练或架构干预，才直接面向模型对 W 的内部近似。

于是，研究者可以进一步追问：一种具体的方法是究竟让模型 “看得更多”、让判定 “更可靠”，还是让世界建模本身 “更准确”？这比只报告一个总幻觉率更有诊断价值。

从定义到实验：

国际象棋为何是一座 “桥”

一个定义是否真正具备生产力，最终取决于它能否落地为可复现、可扩展的实验设计。

论文用国际象棋给出了一个简洁的范例。棋盘状态与走子历史天然构成 W，规则集 R 定义合法移动；通过控制模型可见的信息 —— 完整棋盘、PGN 走子记录或自然语言评述 —— 研究者可以精确操纵 V；而模型输出中每个关于棋局的可检查命题，都可以由棋类引擎自动判定为 true 或 false。



打开网易新闻 查看精彩图片



打开网易新闻 查看精彩图片

图 3｜国际象棋将参考世界、可见信息与自动真值判定连接起来；下图示意模型预测的棋局与真实棋局之间的失配

对于这类结构化世界，幻觉标签可以由环境本身 “按构造给出”，无需再调用另一个 LLM 充当裁判，也不必依赖事后的人类自由判断。模型声称 “白方可以一步吃掉黑后”，但引擎显示中间有棋子阻挡 —— 这里评测的并非棋力高低，而是一个可观察命题是否与参考世界的状态和规则相冲突。

国际象棋在这里的重要性远不止一个演示场景。它清楚展示了统一定义如何依次导出可控环境、视图函数与自动真值判定，并最终发展为一套系统的评测框架。

HalluWorld：

把统一定义压进可扩展的基准

沿着上述思路，团队进一步推出HalluWorld：一个将统一定义操作化为可控评测的基准框架。它覆盖三类环境：


Grid Worlds（33 个关卡，839 个探针）：完全合成、可定制的环境，可独立操纵世界复杂度、可观察范围、输入表示与动态机制。



Chess（7 个关卡，350 个探针）：规则明确、可自动验证，同时又是训练数据中广泛存在的领域，可测试模型在强先验下是否仍忠实于当前棋局。



Terminal Tasks（110 个任务，529 个探针）：基于真实 Linux 终端轨迹，模拟长时程 Agent 在高噪声、部分可观测环境中的部署场景。


整个基准围绕感知、记忆、因果、不确定性与复合推理五类能力组织探针；其中 Chess 因当前棋盘状态完全可观测，不单独设置不确定性探针。三类环境都明确给出参考世界、模型可见的信息与可计算的真值，最终评分采用规则式判断，而不是 LLM-as-a-judge



打开网易新闻 查看精彩图片

图 4｜HalluWorld 覆盖 Grid Worlds、Chess 与 Terminals，并以五类探针诊断不同认知失败。

实验结果没有给出一个简单的 “谁最好”。更有启发性的是，不同类别的幻觉呈现出明显不同的能力曲线。

看得见，不等于跟得上。在 HalluWorld 上，前沿模型对当前观测中直接可见信息的读取已接近饱和；但一旦任务要求跨多步维护状态，或模拟动作将如何改变未来世界，幻觉率仍会明显上升。模型可能看清了当前场景，却没有持续维护一个一致的世界状态。

想得更久，不一定更忠实。在 Grid Worlds 的因果探针上，增加推理预算并未带来稳定收益。例如，Claude Sonnet 4.6 的因果幻觉率从无 thinking 时的 19.7%，上升到 thinking 最大预算下的 27.1%。一种可能的解释是：开放式前向模拟给了模型更多生成 “看似合理、却未受环境状态约束” 的中间步骤的机会。



打开网易新闻 查看精彩图片

最难说出口的，仍是 “无法确定”。在真实终端轨迹中，即使表现最好的模型，当正确答案应为 “无法从现有上下文判断” 时，仍有约 23.1% 的回答会作出过度确定的断言。模型经常把 “我没有找到证据” 写成 “已有证据证明不存在”；在真实 Agent 系统中，后者很可能成为后续行动的错误前提。

这些发现说明，把幻觉统一压缩为一个 “总幻觉率” 会掩盖关键的质性差异。一个模型可能在静态感知题上接近满分，却在长程记忆中系统性失稳；可能在事实问答中可靠，却在动态环境里编造下一步状态。不同失败需要不同的诊断工具与干预策略，而不应被一个总分抹平。

结语：模型不需要全知，

但需要认识自己的证据边界

这篇 ICML 2026 Position Paper 的贡献，并不是又一种消除幻觉的微调技巧，而是为 “幻觉” 从一个宽泛的日常标签转变为可操作、可比较、可测量的研究对象，提供了一套明确的形式化语言。HalluWorld 则进一步展示，这套语言可以被转化为可控制、可复现的实验程序。

作者团队并未宣称大模型必须拥有完美的内部世界模型。事实上，人类也会不知道、误解和遗忘，也需要查阅资料、承认不确定，并根据新证据修正判断。目标不是让模型成为全知者，而是让系统设计者明确参考世界与冲突规则，让模型在证据边界内作答，并在信息不足时保留 unknown，而不是补出一个看似完整的世界。

随着大模型从一次性问答走向长时程 Agent，静态的 “事实正确率” 已经不足以刻画风险。模型需要在不完全观察、世界变化与证据冲突中持续更新判断；研究者也需要知道，错误究竟发生在感知、记忆、因果模拟，还是不确定性表达上。

我们不仅要问模型有没有答错，还要问：它的回答假定了一个怎样的世界，以及这个世界从哪一步开始偏离了现实。

—— 这或许才是未来幻觉研究真正应该出发的地方。



打开网易新闻 查看精彩图片

关于作者：我们是主要来自 Stanford、CMU 等美国高校的独立 AI 科研小队DegenAI Labs,成立于 2025 年秋。这篇关于大模型幻觉统一定义的文章是我们团队第一篇公开发布的论文，欢迎大家在公众号或 twitter 等社媒上与我们学术交流；)

第一作者：Emmy Liu，CMU Language Technology Institute (LTI) 博士生，导师为 Graham Neubig;

通讯作者：Emmy Liu，Varun Gangal (Patronus AI 研究员 / CMU LTI PhD '22)，Steven Y. Feng (Stanford AI 博士生 / Anthropic Research Fellow)








特别声明：本文为网易自媒体平台“网易号”作者上传并发布，仅代表该作者观点。网易仅提供信息发布平台。






打开网易新闻体验更佳




热搜

男孩被奶奶责怪负气离家5天后被找到

微软股价涨幅扩大至15%

宇树科技：8月10日打新

今年军校报考热度与生源质量均创历史新高

吴宜泽6比5墨菲晋级半决赛

超强台风“白海豚”最新路径来了





热门跟贴




打开APP发贴

0条跟贴








相关推荐




从苹果落地到牛顿定律，Apple-π 把视频模型的物理推理过程摆上考场

机器之心Pro









上过《奇葩说》的量子物理学家，回国从零建实验室｜对话人大郭彦良

DeepTech深科技








博五师兄画饼、大师姐深夜 emo、00 后师妹清醒躺平 ......《八仙之暑期限定发 Paper 传》重磅上线！





生物学霸






终端市场的下一个增长点，高通押在了“个人AI”上

量子位









探秘上海3日团

科学史平话云音乐特供


00:00






ICML 2026｜首个视觉语言模型并行思考框架，一文解析内在机制

机器之心Pro









ICML 2026｜从「鉴伪」到「修复」，AI图像取证进入闭环时代

机器之心Pro









斯坦福毕业典礼上，飞机在空中拉横幅：不要给马斯克打工！

木木星生活站2跟贴









黄仁勋、马斯克：看好中国大模型

每日经济新闻









鲜玉米剥皮省时技巧，老师傅几刀就搞定，太了解玉米的构造！

三熊爱搞笑1跟贴









好莱坞幕后制作团队，通过模型拍摄海啸侵袭城市场景

车马点兵V8跟贴









想做能终身学习的 AI？先得教会它如何忘记

雷科技









赛里木湖自驾每人收75元引争议，景区称相关费用已做备案

界面新闻2.7万跟贴









大模型七年进化不只是参数暴涨

机器之心Pro








谁在训练 Kimi K3 ? 深挖贡献者名单，这有一份最全档案





AI科技评论






人形机器人“拐点”已至：产量只是下限，模型决定天花板

经济观察报









World Labs收购SceniX后，李飞飞与李昀烛揭秘具身智能终局：空间智能

钛媒体APP









10美元破解机器人触觉难题！斯坦福开源方案让机械手拥有人类手感

DeepTech深科技









李飞飞出手！用世界模型训练机器人，五种真机跑一小时不出错

智东西









历史级静态天赋攻防全能，扫荡式防守撑起马刺体系

尺素a1跟贴











回到顶部回到首页



------
导航页 打开网址