0.2 幻觉：AI 为什么一本正经胡说
本讲是全站的「安全带」第一课。学会这一讲，你避开的坑比学会十个技巧都值。
本讲你将学到
- 「幻觉」（hallucination）是什么，为什么必然存在
- 学术界实测的严重程度：虚假引用一年涨了 12 倍
- 一条贯穿全站的使用原则：AI 是起草者，你是终审
- 反查文献真实性的具体方法
前置：0.1 三分钟搞懂大模型
1. 什么是「幻觉」
幻觉（hallucination）指 AI 一本正经地编造不存在的东西：不存在的论文、编造的作者、张冠李戴的数据、虚构的法条判例。
回忆上一讲的类比——大模型是「根据语言规律补全下一个字」的机器。它生成"参考文献"时，其实是在模仿参考文献的样子：作者名像真人、期刊名是真实存在的、年份页码格式齐全——唯独这篇论文可能从未存在。
记住这句话
它不是在撒谎（撒谎需要知道真相），它只是不知道自己不知道。所以幻觉无法靠"问它你确定吗"根除——它每次都答得很自信。
2. 这不是小概率事件：一组真实数据
医学顶刊 The Lancet 2026 年 5 月发表的通信研究（Fabricated citations: an audit across 2.5 million biomedical papers）审计了 PubMed Central 数据库约 250 万篇论文、9710 万条参考文献：
- 识别出 4046 条虚假引用，涉及 2810 篇论文；
- 虚假引用率自 2023 年以来增长超过 12 倍——正好是 AI 大规模普及之后。
（数据来源见 docs/01 调研汇总 §4.3，原标注发表时间有误，2026-09-24 更正为 2026-05 发表）
翻译成人话：已经有一批真的论文，因为引用了 AI 编的假文献，被期刊抓出来了。当事人轻则修改重写，重则撤稿、影响学位。这不是"AI 工具不好用"的问题，是学术生涯安全问题。
3. 为什么幻觉删不掉
这不是厂商偷懒，是原理性的：
- 训练目标决定了它：模型被训练成"接话接得像"，而不是"说的都是真的"；
- 它没有数据库可查：知识压缩在几百亿参数里（参数可以理解为模型内部的海量调节旋钮），回忆时是"凭印象"而非"翻档案"；
- 印象有模糊：模糊的地方，它会用「最像的样子」填上——于是凭空出现了一篇《某某学报》2019 年第 3 期的完美论文。
好消息
幻觉有聚集性：虚构引用、精确数字、小众领域事实是重灾区；概念解释、改写润色、通用写作几乎不涉及。把 AI 用在后一类任务上，风险天然就小。
4. 使用原则：AI 是起草者，你是终审
这是本站最重要的一条原则，后面每一篇都会反复出现：
| 角色 | 负责什么 |
|---|---|
| AI（起草者） | 初稿、框架、素材、备选方案、第一遍翻译 |
| 你（终审） | 核实事实、核对引用、判断质量、决定采纳 |
具体到操作层面，三句话：
- AI 给的每条参考文献、每个数据、每个链接，用之前必须核验；
- 拿不准的信息，换个 AI 或换个搜索引擎交叉验证（不同模型幻觉的地方不一样）；
- AI 说什么不影响你的判断力——署你名字的东西，责任就是你的。
5. 反查文献真实性 SOP（标准操作流程）
学校交作业、写论文引用前，按这个流程过一遍：
- 拿到 AI 给的文献条目（作者/标题/期刊/年份）；
- 打开知网（校园网内免费）或 Google Scholar（需特殊网络，校内替代：知网/万方/百度学术）；
- 用标题精确搜索——搜不到？基本可判定是编的；
- 搜到了？核对作者、期刊、年份、页码是否与 AI 给的一致（AI 也爱"移花接木"：真论文配假作者、真作者配假标题）；
- 核验通过的文献，从数据库里下载/记录原始条目再引用，别直接抄 AI 的格式。
红线提醒
把未经核验的 AI 引用写进作业或论文，是最容易被判定为「AI 代写/AI 滥用」的实锤——查重系统对"假文献"的识别远比对学生文风敏感。各校具体红线见规范篇 6.1 学术红线地图。
跟做练习
实践（约 10 分钟）——亲手抓一次幻觉
- 让 AI「给我 3 篇关于『大学生社交媒体使用与学业倦怠』的中文核心期刊论文，附作者、期刊、年份」；
- 按上面第 5 节的 SOP，去知网逐条反查；
- 数一数几条是真的、几条是编的，把编的截图记下来。
做过一次，你对"核验"两个字的体感会完全不同。
下一步
认知篇完成！你已经超越大多数 AI 用户，知道了它的能与不能。接下来认识本站的主线模型：小米 MiMo——为什么选它、学生党怎么零成本/低成本用上 → 1.1 认识主角：小米 MiMo（主线模型）