首发于和毅智能官网:https://ai.hitech.xin/insights/ai-content-number-guardrails/
标签:AI应用 大模型 内容生成 提示词工程 企业级AI
摘要:企业用 AI 生成对外内容,最大的风险不是写不出来,而是编数据、串产品、踩广告法。本文用一套真实交付的系统说明:把"别编造"从提示词搬到系统规则里,用数字白名单做事实校验,护栏只提示不拦截,并且——AI 自己的产出永远不能进入白名单,否则编造会自我繁殖。上线 7 周,257 篇稿件没有一篇由系统自动发出。
在提示词里写"不得编造数据",是没有用的。
模型照样会写出"效率提升 80%"这种素材里根本不存在的数字。在企业对外内容里,这类数字一旦发出去,就会被客户当面核对。
我们给一家 B2B SaaS 企业交付过一套营销内容生成系统。这家客户的上一代文章生成器已经停用了——停用原因不是写不出来,是内容质量差、误植了第三方企业名,被投诉了。
所以这个项目从第一天起要解决的问题就不是"能不能生成",而是"怎么不出事"。
三道护栏分别管什么
| 护栏 | 怎么判 |
|---|---|
| 编造数字 | 从「写作规范 + 素材 + 参考资料」三类有据来源抽出所有带单位的数字,构成白名单;正文出现白名单之外的即报 |
| 产品串台 | 正文提到了本次没选的其他产品名或简称即报 |
| 广告法与第三方名 | 绝对化用语、第三方企业名词表命中即报 |
三道都只标出可疑点,不拦截发布;另有 9 类取材与配置缺口提示。
为什么"编造数字"要用白名单,而不是叮嘱
最直觉的做法是在提示词里加一句"请勿编造数据",实测压不住。原因不复杂:对模型来说,"效率提升 80%"在语言上非常自然,它不知道这个 80% 在你的素材里不存在。
所以我们换思路——不问模型"你编没编",而是由系统核对"这个数字有没有出处":
- 只认带单位的数字(“80%”“3 天”“9.5 篇”),纯数字不查。
- 白名单来源只有三类:写作规范、素材库、本次选中的参考资料。
- 正文里每个带单位数字都去白名单里找,找不到就标出来。
这里有个关键决定:
同一主题里"上一篇已生成文章的标题",不计入数字白名单。
因为如果上一篇是 AI 写的、里面有个编出来的数字,系统又把它当成有据来源,那么下一篇就能"合法"引用这个编出来的数字——编造被洗白了。
同理,从范文反推写作规范时,范文里的客户名与业务数字一律剔除,只抽写法、不抽事实。否则等于给编造开后门。
为什么护栏"只提示、不拦截"
拦截听起来更安全,但实际是:挡住一篇的代价是人多看一眼;误报几次的代价,是这套提示从此没人看。
一旦审核的人习惯性忽略提示,护栏就从安全措施退化成界面噪音——这比没有护栏更危险,因为大家以为有。所以设计目标不是"拦得住",而是"让人愿意看"。
误报治理:护栏自己会误报
一份好的写作规范里必然写着"禁用’最’'第一’等绝对化用语"。如果广告法检查直接扫全文,每次都会把这句禁令本身报成违规;文章里写"第一段""第一部分"也照样中。
我们做的:
- 检查前先剔掉被禁的词本身(禁止句不是违规使用)
- "第一"排除序数与篇章量词
- 数字只认带单位的
- URL 与文件名里的数字先去掉
原则只有一句:宁可漏报,也不要满屏误报。
缺口宁可留着,也不拿别的凑
写作规范要求引用一个案例,但案例库里没有匹配项时,系统不会拿别的产品线案例凑数,而是在审核提示里明确写"本文未引用案例,建议人工补充"。配图同理:模型写配图标记,系统按名字回填;匹配不上就删标记、写进提示,绝不硬塞不相关的图。
让模型做语义判断,让系统做事实填充。静默的错误比显式的缺口危险得多。
成本极低但收益很高的一点:留痕
每篇文章存下:实际发给模型的完整提示词(占位符已替换为真实素材值)、读了哪几份参考资料、配图怎么选的、用了哪个版本的写作规范。出稿不满意时能直接翻出"当时到底喂了什么进去",而不是对着结果猜。
结果
统计区间内(2026-07-16 至 09-02,约 7 周):
- 产出257 篇,覆盖 27 个产出日,日均约9.5 篇(改造前约一两天一篇)
- **52%(134 篇)**被护栏标出可疑点交人工核对
- 257 篇全部经人工过目后才取用,没有一篇由系统自动对外发出
- 写作规范从 0 份到21 份
52% 这个比例说明护栏在真实工作,不是装饰。
我们不说的:阅读量、留资、搜索排名不在统计范围内,没有数据支撑所以不写;也不承诺"零错误"——护栏只提示,最终判断在人。
三条可以直接拿走的结论
- 把"别编造"从提示词搬到系统里。提示词是请求,白名单是规则。
- 先治误报,再谈覆盖率。一个没人看的护栏等于没有。
- AI 的产出永远不进白名单,否则编造会自我繁殖。
能生成从来不是难点,不出事才是。
*作者:苏州和毅智能科技有限公司(HEYI),做企业定制化软件与 AI 系统交付落地,一支 4 人全员 FDE(前置部署工程师)团队。完整案例:https://ai.hitech.xin/cases/ai-marketing-content/