2.6 识别与阻止编造:让 AI 说「不知道」
必读编造数据是 AI 最危险的缺陷,因为它编得很有说服力——格式正确、语气自信、甚至带小数点。
如果你把它编的内容直接发出去,损失的是你自己的信誉。
一、三个典型编造场景
| 场景 | 它会说什么 | 真实情况 |
|---|---|---|
| 问实时信息 | 「该队核心中场因腿筋伤势将缺席 4 周」 | 纯属生成,它根本无法获取该信息 |
| 问精确统计 | 「主队本赛季主场胜率 68.3%」 | 数字是生成的,不是查出来的 |
| 问引述 | 「主帅在发布会上表示将轮换阵容」 | 它没读过任何发布会 |
记住:它对「精确数字」和「引述」的编造能力,恰恰是最强的。
二、四道防线
防线一:给它事实,而不是让它找事实
这是最根本的解法。所有实时信息、统计数据都应该由数据接口提供,而不是让它去「回忆」。
正确分工:数据由 API 提供 → 模型负责解读。
防线二:显式的「未知声明」指令
💬 可复制指令
工作规则(本轮全程遵守):
1. 只使用我在下方提供的数据,不引入任何外部信息;
2. 凡是你无法从我提供的数据中确认的内容,必须明确写「无数据支撑」;
3. 禁止用常识、历史印象或推测补全缺失信息;
4. 禁止给出具体的概率百分比,除非它是从我提供的数据中直接推导出来的;
5. 如果你需要某项数据才能完成,请直接说「需要补充:XX」,不要自行假设。
数据:
[粘贴你的数据]
防线三:要求反向自证
💬 可复制指令
请把你上面提到的每一条事实,逐项标注来源:
格式:
- 事实内容 → 来源:我提供的数据第 X 条 / 你的推测 / 无法确认
标注为「你的推测」或「无法确认」的项目,请从最终结论中删除。
防线四:交叉验证关键数字
对于会直接发布出去的关键数字,做一次独立验证。方法很简单:
- 用数据接口再查一次,对比是否一致;
- 或者要求 AI 说明这个数字的具体计算过程(如果它说不出来,就是编的)。
三、五种「高编造风险」的提问方式
| 提问方式 | 为什么危险 |
|---|---|
| 「最近这支球队有什么新闻?」 | 直接要求它回忆实时信息 |
| 「他本赛季进了几个球?」 | 精确统计,极易编造 |
| 「现在参考门槛是多少?」 | 实时数据 |
| 「你怎么看主教练的战术安排?」 | 需要它知道具体战术部署 |
| 「给我几个具体的伤停球员名字」 | 直接诱导生成姓名 |
对照一下:这些问题都应该由数据接口回答,而不是问模型。
四、一个实用的自检习惯
拿到 AI 的输出后,快速扫一遍,凡是看到以下特征就标红核对:
- 精确到小数点的百分比;
- 具体的球员姓名 + 具体伤情;
- 带引号的直接引述;
- 具体的时间、金额、次数;
- 「据统计」「数据显示」但没说明哪个统计。
五、根本解决思路
不要试图「训练」模型不编造,而是从架构上让它无需编造。
当你把真实数据摆在它面前,「需要编造」的场景就消失了。
这就是为什么球小策把重心放在数据层,而不是在提示词上反复加约束。
下一步该看什么
- 上下文太长导致质量下降怎么办 → 2.7 长对话变笨了怎么办
- 现成的防幻觉指令卡 → 2.9 指令卡片库①
足球赛事前瞻 | AI 智能分析 | 足球数据解读 - 球小策