企业官网建设流程全解析

如何用生成式AI数据增强扩展训练样本：一份从零上手的完整指南

【免费下载链接】awesome-generative-ai-guideA one stop repository for generative AI research updates, interview resources, notebooks and much more!项目地址: https://gitcode.com/GitHub_Trending/aw/awesome-generative-ai-guide

训练数据不够，是很多人做 AI 项目时最先撞上的墙。开源项目 awesome-generative-ai-guide 把提示工程、微调、RAG 和评估的免费课程与资料整理在一起，本文以它为地图，带你完整走一遍生成式AI数据增强的落地路径：从生成第一批文本样本，到验证它们是否真的有用。

样本太少时，传统增强为什么失灵

先说清楚"增强"这个词在两类任务里的差别。

图像任务里的传统增强是旋转、裁剪、调色。它的逻辑是：一张猫的照片转 90 度，还是那张猫，所以这些变体可以安全地当成新样本。

文本任务不成立。把同一句客服对话同义替换一百遍，模型看到的还是同一道题。数量上去了，考点没变，泛化能力不会真正提升。

生成式AI数据增强换了个思路：与其反复变换一道旧题，不如请模型按同一考点出新题。保留知识点，更换行业、措辞、细节和语气。打个比方，学生刷题时，把一道题换个数字重做，和做一道全新的同考点题，效果完全不同——你要的是后者。

这个项目把完成这件事所需的材料分成了几个环节，下面按使用顺序讲。

用提示词批量生成第一批文本样本

场景：你手里只有二十条标注好的样本，想扩到几百条。

做法：先给模型一份交代清楚的"工单"。提示工程课程把提示拆成四个要素：指令、背景、输入数据、输出格式。批量生成样本时，把这四样写进同一段提示，再让模型基于种子样本改写、扩写。

一个可以直接改用的提示长这样：

你是数据标注员。基于下面这条种子样本，生成 5 条新的客服对话。 要求：行业各不相同，语气从礼貌到不耐烦，问题都围绕"退款"， 每条包含 3 轮对话，最后一行用【标签】标注情绪（positive/negative/neutral）。 种子样本： 顾客：我的订单还没到，什么时候能退？ 客服：预计明天送达。如果你今天取消，可以全额退款。 【标签】neutral

效果：跑一次就能拿到几十条格式一致的文本数据增强样本，成本只有 API 调用费。生成后抽查格式是否统一、标签是否合理，不合格的那一批重跑即可。

想系统学习这一步，可以看课程第 2 周的 提示工程章节。

把生成内容整理成可训练的指令-输出对

场景：你打算做指令微调，但语料散落在文档、工单、聊天记录里，格式互不统一。

做法：按第 3 周微调课程的做法，把每条数据统一成"任务说明 + 正例 + 反例 + 输入 + 预期输出"五段。让模型做转换：喂一段零散语料，让它输出符合这个结构的一条训练样本。转换本身也是一次合成样本生成，只是产物更结构化。

下面这张图来自课程，左边是"出题"任务、右边是"填空"任务，每条数据都能看清任务定义、注意事项、正反例和标准答案：

效果：数据从"能看"变成"能训"。关键动作是抽检预期输出——模型生成格式没问题，但答案对不对，得靠一小批人工检查确认。

微调章节 和 微调专题页 可以对照着看。

知识不够时，用检索增强生成给样本兜底

场景：你要生成的样本涉及具体产品参数、法规条文或公司内部规范。模型记不住这些，容易凭空编。

做法：先把可信资料建成知识库——文档切块、做嵌入、存入索引。生成每条样本前，先按主题检索出相关段落放进提示，要求模型"只依据这些材料来写"。这就是 RAG 的三个环节：摄取、检索、合成，第 4 周课程有完整拆解。

效果：合成样本里的事实有了出处，编造的概率明显下降。对知识密集型的任务，这一步往往比换更强的模型更划算。RAG 章节 和 RAG 专题页 可以继续深入。

用评估集验证合成样本是否真的有用

场景：你生成了一千条样本。下一步不是直接开训，而是先回答一个问题：它们到底有没有用？

做法：

1. 留出一小份纯真实数据的参考评估集，不参与任何生成。
2. 分别在"只用原始样本"和"原始样本 + 合成样本"两个条件下训练或评测。
3. 对比关键指标的变化，再看几个典型错例，判断提升来自哪里。

AI Evals for Everyone 这门课专门讲评估怎么落地：基准怎么建、指标怎么选、人工评估怎么结合。下图的公开模型榜单展示的就是同一思路：用固定基准横向比较不同配置的表现。

效果：你得到的是一个可以复述的结论——"合成样本让某项指标提升了 X 个百分点"，而不是一句"感觉好点了"。

方法怎么选，坑怎么避

一张表选好方法

四个容易踩的坑

1. 合成样本彼此雷同。模型倾向于反复输出相似结构。生成时更换种子和设定，事后抽样看重复率，别只看数量。
2. 错误答案被放大。模型生成的标签本身可能错，直接入训练集等于把错误焊进模型。用原始标注样本做锚点，或请更强的模型复核后再入库。
3. 生成数据污染评估集。评估集必须只用真实数据，否则你测的是模型的记性，不是能力。
4. 合成占比一路加高。全部用合成数据训练，容易过拟合模型自己的表达风格。保留一定比例的真实数据，先小配比验证再上调。

下一步

生成式AI数据增强的本质，是把"数据不够"从死局变成一道工程题：先批量生成，再整理成训练格式，用检索补知识，用评估兜底。完整课程材料在 Applied LLMs Mastery 2024，其中 第 7 周"构建 LLM 应用" 会把本文讲到的环节放进完整的应用流程里，适合作为收尾读物。

【免费下载链接】awesome-generative-ai-guideA one stop repository for generative AI research updates, interview resources, notebooks and much more!项目地址: https://gitcode.com/GitHub_Trending/aw/awesome-generative-ai-guide