☰
别再在提示词里写“不要编造数据“了——我们用三道护栏解决 AI 内容的事实错误
2026/10/10 6:48:40 网站建设 项目流程

首发于和毅智能官网:https://ai.hitech.xin/insights/ai-content-number-guardrails/
标签:AI应用 大模型 内容生成 提示词工程 企业级AI

摘要:企业用 AI 生成对外内容,最大的风险不是写不出来,而是编数据、串产品、踩广告法。本文用一套真实交付的系统说明:把"别编造"从提示词搬到系统规则里,用数字白名单做事实校验,护栏只提示不拦截,并且——AI 自己的产出永远不能进入白名单,否则编造会自我繁殖。上线 7 周,257 篇稿件没有一篇由系统自动发出。


在提示词里写"不得编造数据",是没有用的。

模型照样会写出"效率提升 80%"这种素材里根本不存在的数字。在企业对外内容里,这类数字一旦发出去,就会被客户当面核对。

我们给一家 B2B SaaS 企业交付过一套营销内容生成系统。这家客户的上一代文章生成器已经停用了——停用原因不是写不出来,是内容质量差、误植了第三方企业名,被投诉了。

所以这个项目从第一天起要解决的问题就不是"能不能生成",而是"怎么不出事"。

三道护栏分别管什么

护栏怎么判
编造数字从「写作规范 + 素材 + 参考资料」三类有据来源抽出所有带单位的数字,构成白名单;正文出现白名单之外的即报
产品串台正文提到了本次没选的其他产品名或简称即报
广告法与第三方名绝对化用语、第三方企业名词表命中即报

三道都只标出可疑点,不拦截发布;另有 9 类取材与配置缺口提示。

为什么"编造数字"要用白名单,而不是叮嘱

最直觉的做法是在提示词里加一句"请勿编造数据",实测压不住。原因不复杂:对模型来说,"效率提升 80%"在语言上非常自然,它不知道这个 80% 在你的素材里不存在。

所以我们换思路——不问模型"你编没编",而是由系统核对"这个数字有没有出处":

  1. 只认带单位的数字(“80%”“3 天”“9.5 篇”),纯数字不查。
  2. 白名单来源只有三类:写作规范、素材库、本次选中的参考资料。
  3. 正文里每个带单位数字都去白名单里找,找不到就标出来。

这里有个关键决定:

同一主题里"上一篇已生成文章的标题",不计入数字白名单。

因为如果上一篇是 AI 写的、里面有个编出来的数字,系统又把它当成有据来源,那么下一篇就能"合法"引用这个编出来的数字——编造被洗白了。

同理,从范文反推写作规范时,范文里的客户名与业务数字一律剔除,只抽写法、不抽事实。否则等于给编造开后门。

为什么护栏"只提示、不拦截"

拦截听起来更安全,但实际是:挡住一篇的代价是人多看一眼;误报几次的代价,是这套提示从此没人看。

一旦审核的人习惯性忽略提示,护栏就从安全措施退化成界面噪音——这比没有护栏更危险,因为大家以为有。所以设计目标不是"拦得住",而是"让人愿意看"。

误报治理:护栏自己会误报

一份好的写作规范里必然写着"禁用’最’'第一’等绝对化用语"。如果广告法检查直接扫全文,每次都会把这句禁令本身报成违规;文章里写"第一段""第一部分"也照样中。

我们做的:

  • 检查前先剔掉被禁的词本身(禁止句不是违规使用)
  • "第一"排除序数与篇章量词
  • 数字只认带单位的
  • URL 与文件名里的数字先去掉

原则只有一句:宁可漏报,也不要满屏误报。

缺口宁可留着,也不拿别的凑

写作规范要求引用一个案例,但案例库里没有匹配项时,系统不会拿别的产品线案例凑数,而是在审核提示里明确写"本文未引用案例,建议人工补充"。配图同理:模型写配图标记,系统按名字回填;匹配不上就删标记、写进提示,绝不硬塞不相关的图。

让模型做语义判断,让系统做事实填充。静默的错误比显式的缺口危险得多。

成本极低但收益很高的一点:留痕

每篇文章存下:实际发给模型的完整提示词(占位符已替换为真实素材值)、读了哪几份参考资料、配图怎么选的、用了哪个版本的写作规范。出稿不满意时能直接翻出"当时到底喂了什么进去",而不是对着结果猜。

结果

统计区间内(2026-07-16 至 09-02,约 7 周):

  • 产出257 篇,覆盖 27 个产出日,日均约9.5 篇(改造前约一两天一篇)
  • **52%(134 篇)**被护栏标出可疑点交人工核对
  • 257 篇全部经人工过目后才取用,没有一篇由系统自动对外发出
  • 写作规范从 0 份到21 份

52% 这个比例说明护栏在真实工作,不是装饰。

我们不说的:阅读量、留资、搜索排名不在统计范围内,没有数据支撑所以不写;也不承诺"零错误"——护栏只提示,最终判断在人。

三条可以直接拿走的结论

  1. 把"别编造"从提示词搬到系统里。提示词是请求,白名单是规则。
  2. 先治误报,再谈覆盖率。一个没人看的护栏等于没有。
  3. AI 的产出永远不进白名单,否则编造会自我繁殖。

能生成从来不是难点,不出事才是。


*作者:苏州和毅智能科技有限公司(HEYI),做企业定制化软件与 AI 系统交付落地,一支 4 人全员 FDE(前置部署工程师)团队。完整案例:https://ai.hitech.xin/cases/ai-marketing-content/

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询