幻觉

幻觉（Hallucination）是指AI把貌似合理的谎言当作事实说出来的现象。它会引用根本不存在的论文，编造并不存在的判例，还会自信满满地说出错误的日期。

原因就在AI本身的运作方式上。大语言模型不是「检索事实的机器」，而是「生成貌似合理的下一句话的机器」。合理性和事实大多数时候是重合的，但在不重合的地方就会产生幻觉。这就像考试时遇到不会的题，学生也要装作会的样子编个答案——因为它被训练成宁可编造一个像样的答案，也不愿意交白卷。

所以「重要内容务必核对原始出处」是使用AI的第一守则。AI公司也在通过接入搜索（RAG）、给模型更多「思考」时间（推理模型）、训练模型在不知道时如实说「不知道」等方式来降低幻觉。这也是为什么新模型发布时总少不了「降低了幻觉率」这句话。

「律师原样提交了AI编造的虚假判例，因此受到处分」——这是幻觉事故的典型案例，类似的新闻每年都会重演。

1. 在关闭聊天机器人搜索功能的情况下，问它一个虚构的书名：「请告诉我作家金哲洙的小说《玻璃花园之夜》的剧情」。
2. 如果它煞有介事地编出一部根本不存在的书的剧情——那就是幻觉。（如果它回答「找不到这本书」，说明这个模型训练得不错）
3. 打开搜索功能后再问一遍同样的问题。没有依据的话，它应该会改口说不知道——这个实验能让你切身体会到，越重要的信息越需要核实出处。
4. 进阶尝试：在实际应用中，幻觉不是靠魔法一次性消除的，而是靠层层设防来控制——绝不能出错的部分用规则钉死（比如「必须引用文档原文」），在此基础上再叠加AI的判断，如果仍不确定，就让更强的模型或人再把一道关。个人也可以用同样的技巧：向AI提出重要问题时加一句「如果不确定就直说不知道」，并把得到的答案粘贴到另一个聊天机器人里交叉核实。

两者常被一起归为「AI出错了」写进报道,但纠正方法正好相反。编造的事实只要提供资料就会减少,而偏向即使提供再多资料也不会减少——因为偏向本身就渗透在资料里。