学到一点就写一点 · AI 大白话 用具体例子，把 AI 的原理和用法讲清楚。
用放大镜检查书籍卡片依据的概念封面 · 点击放大
上一篇说过，模型可以用训练材料练习预测后面的文字。训练时要预测的是原文接下来写什么，并不是逐条判断这些话是真是假。
这次，我们看看一个很常见的问题：AI 明明说得头头是道，为什么内容还是可能错？
书名、作者、引用都有，为什么还是不可靠？
假设你想了解怎样做读书笔记，问 AI：
推荐一本讲读书笔记方法的书，再引用一句书里的话。
它回答：
推荐《把阅读装进口袋》，作者是“纸页先生”。书中介绍了摘录、分类和复习的方法。第三章写道：“每一条笔记，都是留给未来自己的路标。”
书名听着像那么回事，作者名也像个笔名，那句话还挺有道理。连“第三章”都说出来了，看着很完整。
可在这个例子里，这些细节全是编的。真要按它说的去找书、核对引文，就会发现这些信息没有依据。
一句话读着顺，和它说的内容是真的，是两回事。
会写一本书的介绍，不等于核实过这本书
前几篇讲过，模型会利用上下文，一步步生成词元。词元就是它处理文字的小单位，不一定恰好是一个字或一个词。
经过训练，它可以学会怎样写书籍介绍：先给书名和作者，再讲内容，最后引用一句话。
你请它推荐一本书，它可以按这种写法回答。但写出了书名、作者和引文，不代表它已经查过出版记录，或者翻过原书。
把错误或没有依据的内容当成事实说出来，这类情况通常叫作 AI 的“幻觉”。
如果你本来就要求“编一本虚构的书”，生成书名和作者是在完成创作任务。问题出在：你想找一本真实的书，它却把虚构信息当成真实资料给了你。
模型确实能学到知识，也能答对很多问题。但这不意味着它每次生成回答时，都会把所有细节核对一遍。
学过那么多材料，为什么还是会答错？
首先，材料本身就可能有错误，也可能混着小说、猜测和互相冲突的说法。
上一篇的预测练习，是看原文接下来写了什么。这种练习能帮助模型学会接着写，但不能保证它学到的每种说法都符合事实。
其次，会写某类内容，也不等于准确掌握了其中的每个细节。
我们大概知道，一本讲读书方法的书会介绍些什么。但仅凭这些，推不出它叫什么、谁写的、第三章有什么原话。这些信息，都得查到相应的依据。
模型也可能把这些信息弄错：书名是真的，作者却写成了另一个人；内容介绍听起来合理，引用的那句话却不在书里。一段回答可能大部分是对的，却在几个不起眼的细节上出了错。
前几篇还提到过“概率”。生成回答时，模型会计算各个候选词元接下来出现的概率。这些概率，不能直接当成整句话真实的概率。
模型可以生成一个听起来很合适的书名，但这并不能说明现实中真有这本书。
所以，不能只把幻觉归结为“材料有错”或“没学过”。即使学过有关内容，也可能在联系信息、处理问题和生成回答时出错。
这些都是可能出错的原因。只看一段错误回答，还不能确定模型内部究竟哪一步出了问题。
不确定时，为什么不直接说不知道？
既然依据不够，为什么不直接回答“我无法确认”？
可以先看一个假设的评分办法：答对得一分，答错和不答都得零分。
遇到一道没把握的题，不答肯定没有分；猜一个，至少还有答对的机会。按这种办法评分，承认“我不知道”并没有优势。
有研究用这个思路分析模型的训练和评估：如果改进模型时主要追求这类分数，模型就可能更倾向于猜出一个答案，而不是说明自己无法确认。
这是一种研究解释，不代表所有模型都按这一套评分训练，也不是幻觉的唯一原因。后续训练也可以帮助模型减少错误，在依据不足时说明无法确认。
这也提醒我们：模型能写出肯定的语气，不代表回答已经核实。
“这本书的第三章明确写道”，听起来比“我无法确认”更有把握。但我们不能只凭语气坚定、细节具体，就认定它说的是对的。
给了出处，就能放心了吗？
再回到那段找书回答。
如果你追问“给个出处”，它又补上一个网页地址，事情就解决了吗？
还得核对。它给的网页地址也可能是错的。 要实际打开，看看有没有对应的书籍信息。
即使网页能打开，也还要往下检查：页面介绍的是不是这本书？作者是否对应？有没有那句原话？
还有一种更隐蔽的情况：资料是真的，引文也是真的，结论却说过头了。
假设一份材料只说“整理笔记可能方便日后查阅”，回答却写成“这证明只要记笔记，就一定能记住所有内容”。前一句并不能支持后一句。
出处存在、引文准确、结论有依据，要分别检查。
让 AI 搜索资料，或者把原文交给它参考，都可以为回答提供依据，减少一些错误。但搜到的资料可能不相关；即使资料找对了，模型也可能读错意思，或者加上原文没有说的细节。
所以，“已经联网”不是每句话都正确的保证。搜索和资料怎样配合，我们留到后面的篇目展开。
关键内容，沿着证据查一遍
遇到找书和引用这类任务，可以按下面三个问题逐项核对：
第一，书与作者是否对应？ 在出版社页面或图书馆目录中核对；只看到相近书名，还不能认定就是同一本。
第二，书里是否真有这句话？ 找到能查阅的原文，核对句子和位置；版本不同，页码也可能不同。如果暂时找不到，只能先记为“尚未核实”。一次没搜到，还不能证明它不存在。
第三，原文是否支持这个结论？ 把前后文一起读，看看有没有条件或限制，回答是否把“可能”改成了“一定”。
从回答中的说法出发，找到对应资料，对照原文，再判断是否支持结论 · 点击放大
教学示意：这是读者核对回答的方法，不是模型内部的计算流程。找不到依据，先记为“尚未核实”；发现与原文不符，再修正说法。
提问时，也可以交代：
请区分原文、你的概括和推测。引用时给出能核对的位置，无法确认的内容直接说明，不要补齐细节。
这样提问，有助于把需要核对的地方列清楚，但最后还得对照实际资料。让同一个 AI 再检查一遍，可能找出问题，也可能继续重复原来的错误。
回到开头的找书任务：书籍信息和引用核对过了，再拿来使用；暂时没有依据，就先留着这个疑问，别急着把它当成事实。
下一篇，我们接着看另一种困惑：除了有时答错，为什么聊了这么久，AI 还是会忘记前面说过的话？
配图说明：封面由 AI 生成，是检查依据的视觉隐喻；正文图为程序绘制的教学示意。找书对话、书名、作者名、所谓原文、错误结论与评分办法均为假设例子，不是用户经历、真实引文或模型实测。本文聚焦事实回答的可靠性，不把虚构创作视为事实错误。
