企业出海 · DeepEge 编辑团队
AI幻觉是什么：2大类型、3个真实案例与6个减少办法
AI幻觉是指大模型生成了看起来合理、语气也很肯定，但和事实不符、和你给的资料或指令对不上，或者根本无法核实的内容，俗称“一本正经地胡说八道”。它目前没法完全消除，但给资料、允许说不知道、要求标出处、人工核对这几步能明显减少它。
- AI幻觉分两大类：和真实世界对不上的“事实性幻觉”，和你的指令、资料或自己前文对不上的“忠实性幻觉”。
- 最容易出错的是冷门而具体的信息：人名、日期、数字、引文、链接、条款。
- 国内首例AI幻觉侵权案里，AI生成的“答错赔10万元”承诺被法院认定不算平台的意思表示，用AI查到的重要信息还得自己去官方渠道核。
- 减少幻觉的常用办法有6个，下文给出一段可以直接套用的提示词。
- 用AI写营销内容时，按《广告法》第四条，广告内容的真实性由广告主负责，AI写的也一样。
AI幻觉是什么意思
AI幻觉是生成式AI输出了“看似合理但实际错误”的内容。OpenAI 在 2025 年 9 月的研究说明里把幻觉定义为“语言模型生成的看似合理却错误的陈述”，并举了一个例子：他们向一个常用聊天机器人询问论文作者之一 Adam Tauman Kalai 的博士论文题目，它自信地给出三个不同答案，全都不对。
哈尔滨工业大学（深圳）张民教授 2023 年接受科技日报采访时给过一个更完整的说法：AI幻觉指AI生成貌似合理连贯，但同输入问题意图不一致、同世界知识不一致、与现实或已知数据不符合或无法验证的内容。
“幻觉”只是个比喻。模型不会像人一样看到不存在的东西，它只是按概率往下写，写出来的东西流畅，却没有经过查证。
AI幻觉有哪些类型
AI幻觉的一种常用分法是两大类、五小类。这个分法来自哈尔滨工业大学等机构研究者发表在 ACM TOIS 上的综述《A Survey on Hallucination in Large Language Models》，下表的营销例子是我们为了说明每一类自己编的示例，不是真实事件。
| 大类 | 小类 | 是什么 | 营销里的示例 |
|---|---|---|---|
| 事实性幻觉 | 事实矛盾 | 说的事在现实里能查到，但说错了，比如张冠李戴 | 把竞品的认证写成自家产品的认证 |
| 事实性幻觉 | 事实捏造 | 编出现实里查不到、无法核实的内容 | 编出一份不存在的行业报告和数据 |
| 忠实性幻觉 | 指令不一致 | 没按你的要求来 | 要求不写价格，成稿里却写了价格 |
| 忠实性幻觉 | 上下文不一致 | 和你提供的资料对不上 | 产品手册写续航 8 小时，文案写成 10 小时 |
| 忠实性幻觉 | 逻辑不一致 | 前后自相矛盾 | 开头说“只限新客”，结尾又说“老客同享” |
国内也常用另一种分法。张民教授在同一篇采访里把AI幻觉分成内在幻觉和外在幻觉：内在幻觉是和输入信息、对话历史矛盾，比如同一个问题换个问法得到相反的回答；外在幻觉是和世界知识不一致，或者用已有信息无法验证。两种分法说的是同一件事，可以对照着看：内在幻觉大体对应忠实性幻觉，外在幻觉大体对应事实性幻觉。
图片和视频模型同样会出错。上面那篇综述也把视觉语言模型的幻觉列为后续研究方向。用AI出产品图、做视频时，画面里的文字、Logo、产品结构和数量，都要对照实物再看一遍。
AI为什么会产生幻觉
AI产生幻觉的根本原因，是大模型靠预测下一个词来生成内容，它优化的是“像”，不负责查证“真”。OpenAI 的研究给了两个具体原因：
- 冷门事实本来就学不准：拼写、括号配对这类有固定规律的东西，模型越大错得越少；某个人的生日这类没有规律、在训练数据里只出现过零星几次的事实，光靠预测学不准。
- 评分方式鼓励猜：多数测评只看答对的比例，回答“不知道”和答错一样不得分，所以模型没把握时更倾向于猜一个答案。
这两点在AI大模型是什么：原理、3类模型与营销用法里有更细的解释，那篇还给了一张营销内容按信息类型核对的表。
AI幻觉的真实案例
AI幻觉已经在真实使用中引发过纠纷，下面三个案例都有法院、仲裁机构或研究方的公开记录。
| 案例 | 发生了什么 | 结果 | 对企业的提醒 |
|---|---|---|---|
| 国内首例AI幻觉侵权案（杭州互联网法院） | 2025 年 6 月，梁某用某AI应用查高校报考信息，AI给出不准确的校区信息，被指出后还说“如果生成内容有误，我将赔偿您10万元”，梁某起诉索赔 9999 元 | 一审驳回诉讼请求：AI的“承诺”不算平台的意思表示；平台已显著提示AI内容可能不准确，并采用检索增强生成等技术，不认定有过错 | 法院没有要求AI服务“零错误”，用AI查到的重要信息要回到官方渠道核 |
| 加拿大航空客服机器人案 | 2022 年 11 月，乘客按官网聊天机器人的说法，以为出行后还能在出票 90 天内补申请丧亲优惠票价、退回差价；官网另一页写的是行程结束后不再受理 | 2024 年 2 月，加拿大不列颠哥伦比亚省民事纠纷仲裁庭（Civil Resolution Tribunal）裁定航空公司赔付，认为聊天机器人也是官网的一部分，公司要对上面的信息负责 | 企业放到官网、客服里的AI回答，出了错由企业承担 |
| OpenAI 的论文题目测试 | 研究者向一个常用聊天机器人询问论文作者的博士论文题目和生日 | 论文题目给出三个不同答案，生日给出三个不同日期，全部错误 | 越冷门、越具体的事实，越要核 |
怎么判断AI是不是在胡说
判断AI有没有出现幻觉，比较可靠的办法是把关键信息拿去和原始来源对一遍。日常使用时，可以先留意下面这些信号：
- 数字很精确，却没给出处：精确到小数点的数据、某人原话、某份报告的标题，都要追问出处。
- 给的链接打不开，或打开后内容对不上：Google Cloud 对AI幻觉的说明里就提到，模型可能编造指向从未存在过的网页的链接。
- 换个问法答案就变：真实的事实一般不会变，编出来的细节常在第二次问时换了样子。Anthropic 的文档把这种做法叫“多次运行比较输出”，输出之间不一致可能就是幻觉。
- 顺着错误的前提往下答：问题里藏着一个错误前提时，模型常常照单全收。
- 你给了资料，它却写出资料里没有的内容：这属于忠实性幻觉，做摘要、写文案时最常见。
怎么减少AI幻觉：6个办法
减少AI幻觉的思路，是让模型少靠记忆、多靠你给的资料，并且给它“说不知道”的余地。下面前五条参考了 Anthropic 官方文档《减少幻觉》，第六条是任何场景都绕不开的一步。
- 给资料，让它只用资料回答：把产品手册、官方页面、合同条款直接贴进去，明确说“只根据以下资料回答，不要用你自己的知识补充”。企业把AI接到自己的知识库上（检索增强生成，RAG），也是这个思路。RAG知识库怎么搭、和微调有什么区别，见RAG知识库是什么、怎么搭：6步流程与硬件费用。
- 允许它说不知道：在提示词里写清楚“资料里没有就回答‘资料中没有’”。Anthropic 的文档说，明确允许模型承认不确定，能大幅减少虚假信息。
- 长文档先摘原文，再回答：资料很长时，先让它逐字摘出相关原句，再基于这些原句作答。
- 每个论断标出处，找不到就撤回：要求它在每句结论后注明来自资料的哪一段，生成完再让它逐条找支持的原文，找不到的删掉。
- 同一个问题多问几次，或换个模型对比：答案前后不一致的地方，就是要重点核的地方。
- 关键信息人工核对：数字、价格、日期、人名、引语、链接、法律和医疗类说法，发出去之前由人逐条对原始来源。
下面这段提示词把前四条合在一起，可以直接复制使用，把方括号里的内容换掉即可：
你是[品牌]的内容编辑。只根据下面<资料>里的内容写[一段产品介绍]，不要使用资料以外的知识。资料里没有的信息，写“【待核实】”，不要自己补数字、价格、日期或客户名。写完后，在每个事实性句子后面用括号注明它来自资料的哪一句；找不到原句的句子，删掉。<资料>[粘贴产品手册或官方页面原文]</资料>
这段提示词能让核对的人更快找到要查的地方，但不能保证零幻觉，标了出处的句子也要抽查。提示词的其他写法，可以看AI提示词怎么写：6要素公式与3类营销模板。
AI幻觉能完全消除吗
AI幻觉目前不能完全消除，但可以明显减少。OpenAI 的说明里写到，准确率永远达不到 100%，因为有些现实问题本身就没法回答；不过模型在没把握时可以选择不回答，所以幻觉并不是不可避免的。Anthropic 的文档也提醒，这些技巧能显著减少幻觉，但不能完全消除，高风险决策前要核实关键信息。
接上联网搜索或知识库也一样：OpenAI 的论文提到，检索能减少编造，但搜不到可靠答案时，模型仍可能去猜。杭州互联网法院在判决里同样没有要求“零幻觉”，而是要求服务提供者显著提示局限、采用行业通行的技术措施。换句话说，AI工具会尽量少出错，最后的核对仍落在使用的人身上。
用AI做营销内容，幻觉怎么防
营销内容里的AI幻觉，后果由发布的企业承担。《广告法》第四条规定，广告不得含有虚假或者引人误解的内容，不得欺骗、误导消费者，广告主应当对广告内容的真实性负责。AI写错的卖点、价格或认证，一旦发出去，责任不会转给AI。
我们自己用AI出营销内容时，按下面三步防幻觉：
- 资料先行：动笔前先把产品手册、详情页、官方价格页整理成一份资料，提示词里要求只用这份资料。
- 生成时留标记：资料里没有的信息一律标“【待核实】”，不让模型自己补。
- 发布前逐条核：按信息类型（数字、价格和活动日期、引语和客户名、链接、产品功能）逐条对原始来源，找不到出处的删掉。按《人工智能生成合成内容标识办法》，发布AI生成内容还要按平台要求加标识。
引擎AI（Deepege）是我们自己的产品，它的做法和上面的思路一致：先读你的产品手册、详情页和实拍资料，整理成一份产品档案（卖点、目标客户、使用场景、品牌语气和不能说的话），后面的文章、口播、视频脚本都从这份档案取材；导演计划写好后停下来等你确认，发布前有内容诊断和用语核查，国内版、海外版每一版都由你审过再用。这些环节能减少无依据的发挥，但数据、价格和承诺仍需要你最后把关。它适合哪些团队，见引擎AI是什么、适合谁。
想让AI自己拆步骤、调用工具把整件事做完，那是AI智能体的范畴，见AI智能体是什么：组成、区别对比表与5项检查。
参考资料（2026-11-12 核对）：OpenAI：语言模型为何会产生幻觉、Huang 等：A Survey on Hallucination in Large Language Models（arXiv 2311.05232，ACM TOIS）、新华网转科技日报：AI为何会“一本正经地胡说八道”、Anthropic 文档：减少幻觉、Google Cloud：什么是 AI 幻觉、央视网：AI“幻觉”误导他人是否构成侵权？全国首例纠纷案宣判、BC Civil Resolution Tribunal：Moffatt v. Air Canada, 2024 BCCRT 149、中国政府网：中华人民共和国广告法、国家网信办：人工智能生成合成内容标识办法。
常见问题
AI幻觉是什么意思？
AI幻觉是指大模型生成看似合理、语气肯定，但与事实不符、与你的指令或资料不一致，或者根本无法核实的内容，俗称“一本正经地胡说八道”。它来自按概率预测下一个词的生成方式，模型并没有真的“看到”什么。
AI幻觉能完全消除吗？
目前不能。OpenAI 指出有些现实问题本身无法回答，准确率达不到100%，但模型没把握时可以选择不回答；Anthropic 的文档也说，减少幻觉的技巧不能完全消除幻觉。数字、价格、日期、引语等关键信息仍要人工核对。
接了联网搜索或知识库，还会有幻觉吗？
会少一些，但仍可能出现。检索让模型有资料可依，但搜不到可靠答案时模型仍可能去猜，也可能写出资料里没有的内容，这属于忠实性幻觉。
AI回答错了，平台要赔吗？
不一定。在杭州互联网法院审理的全国首例AI幻觉侵权案中，法院认为AI生成的赔偿“承诺”不算平台的意思表示，这类服务适用过错责任；平台已显著提示AI内容可能不准确并采用检索增强生成等技术，一审驳回了原告的诉讼请求。
怎么让AI少胡说八道？
给它资料并要求只用资料回答；允许它说不知道；长文档先摘原文再回答；要求每个论断标出处，找不到就删；同一问题多问几次对比；数字、价格、日期、引语和链接发布前人工核对。