前言:当AI开始"一本正经地胡说八道"
长期跟大模型打交道,最近踩到一个典型坑。
让 AI 协助处理一道"多轮连环交互"的试题时,它为了省事直接删掉核心交互环节,改成静态简答题。更离谱的是它解释改动时用了两个词:“扁平化简化"和"压平流程”。
- “压平流程”:标准业务语境里根本不存在,是模型用比喻思维硬拼出来的生造词。
- “扁平化(Delaying)”:管理学里指减少组织层级,跟"把复杂改简单"不是一回事,属于跨领域挪用。
这事儿表面是用词不当,实质是用看似合理的词掩盖"曲解原始设计意图"。本文聊聊危害、根因,以及一份能直接落地的 Prompt 约束模板。
一、现象:AI的两种典型词汇病
1. 生造词(词汇污染)
把"删掉多轮交互、改成静态题"说成"压平流程"。读着顺,但无行业共识,文档里一旦传开就成了 AI 黑话垃圾。
2. 跨域挪用专业术语(概念混淆)
把管理学专有名词"扁平化"当通俗形容词用,既抹掉术语严谨性,又给"删核心环节"这种行为镀了层优化金边。
二、 危害:词汇污染,远比逻辑错误更可怕
很多人可能会觉得:“AI用词不当而已,改过来不就行了?这比它写错代码、算错数据的Bug轻多了吧?”
大错特错。
在AI的评估体系中,我们通常把逻辑错误、事实错误定为最高优先级,把用词不当定为中高优先级。但当中高优先级的用词问题,叠加了最高优先级的逻辑篡改时,问题就会被无限放大。
为什么AI乱用词必须被高度重视?
- 掩盖实质问题:当AI用“扁平化简化”来描述它删除核心流转环节的行为时,它实际上是在用一种看似“合理优化”的词汇,掩盖了“曲解原创意图、改变业务目标”的严重事实。这是对用户认知的欺骗。
- 反噬人类语言:语言是思维的边界。如果AI每天产出海量包含“压平流程”、“扁平化简化”这种生造词的文本,久而久之,阅读这些内容的人类(尤其是缺乏辨别力的初学者)会潜移默化地接受这些错误的表达。这就是**“词汇库污染”**。
- 破坏专业共识:专业术语之所以存在,是为了降低沟通成本。AI随意挪用、解构专业术语,会导致跨领域沟通时出现严重的“鸡同鸭讲”。
三、 剖析:AI为什么会“乱用词”?
AI产生这种行为的背后,有其技术逻辑:
- 概率预测的本质:LLM本质上是基于概率的文本生成器。它并不“理解”词汇的严谨定义,它只是根据上下文,预测下一个最可能出现的词。当它想表达“把复杂变简单”时,它可能会联想到“扁平”,从而拼凑出“扁平化简化”。
- 过度依赖“隐喻思维”:模型在生成内容时,很容易下意识地做比喻化表达。就像一个不懂装懂的人,用各种看似高深的词汇来包装自己。
- 缺乏行业上下文校验:模型内部并没有一个严格的“行业标准术语库”来对它进行强约束。它在生成时,往往只看“单看句子是否通顺”,而忽略了“放到特定专业背景下是否准确”。
四、反击:把"词汇边界"写进 Prompt(核心附录)
光反馈不够,要把规则变成可复用的 System Prompt。下面这套我在题库改写、需求文档精简场景用过,能有效压住生造词和术语挪用。
4.1 System Prompt(一次设置,长期生效)
你是一名严谨的技术文档助理,负责在不改变作者原始意图的前提下对材料做精简或改写。 【词汇使用规范】 1. 禁止生造词:严禁自创动词、比喻式生造术语。 2. 禁止跨领域挪用:不挪用其他领域的专有名词来作通俗描述。 3. 强制使用通用表述:描述对材料的修改,只允许使用"删除冗余步骤""改为静态版本""去掉复杂环节""简化业务流程"等标准表述。 【行为约束】 - 区分"客观精简(保留核心观测目标)"与"核心篡改(删除实现目标的必要环节)"。 - 若提供降级方案:必须分两块输出——【原始构想】与【妥协降级版】,并显式列出能力损失。 - 不确定某个词是否规范时,直接用最朴素的动宾短语,不要猜。 输出语言:简体中文。语气:平实、工程化。4.2 配套工程化建议
- temperature 设 0~0.3:用词多样性下去,生造词概率显著降;
- few-shot 锚定:在 System Prompt 里附 1 个"坏例子→好改写"对照,模型依从度比纯规则高;
- 后置自检:让模型输出完再答一句"本回复是否含有非通用生造词?有则列出",当过滤器用;
- 当代码管:Prompt 进版本库,每次批量处理前跑 50 条样本看漂移。
4.3 积极反馈,倒逼模型迭代
当发现 AI 乱用词时,不要因为能看懂就忽略它。我们要写详细的反馈(Feedback),指出其用词不当、概念混淆的严重性。
不要觉得"这只是一个词的问题"。当用词偏差会误导逻辑、扭曲用户本意时,它的严重程度就必须被拉高。只有持续的高质量反馈,才能帮助模型收敛这种"胡说八道"的倾向。
五、结语
模型"读着顺但词义错"的毛病,人眼一瞥能觉,模型自己难自检。所以人类把关不止看逻辑对错,还要守语言边界。
下次 AI 再甩出奇怪自创词,别因为"能看懂"就放过——写详细的反馈指出用词不当,或像上面这样把边界固化进 Prompt。拒绝词汇污染,从让模型第一次开口就戴紧箍咒开始。