企业官网建设流程全解析

简介：基于深度学习的文本摘要自动生成毕业设计资料包，面向自然语言处理方向的本科生，聚焦Transformer模型实现摘要生成。资源共34个文件，体积约360KB，包含18个Python脚本、5个Shell脚本、模型配置、词汇表及Docker部署文件等，覆盖数据处理、模型构建、训练评估与Web演示等完整流程。已有3662人学习，适合需要快速搭建文本摘要项目的毕设学生。通过该资源可掌握分词、词表构建、Transformer编码器-解码器架构、ROUGE与BLEU指标评估等关键环节，同时了解TensorFlow/PyTorch框架下的工程化实现。配套的脚本与配置便于直接运行和二次开发，能帮助读者从理论走向实践，为NLP领域深入研究打下基础。

1. 基于深度学习的文本摘要自动生成：这个毕业设计到底在做什么

基于深度学习的文本摘要自动生成是自然语言处理方向里最典型的“看起来容易、做起来难”的课题。不少本科生选这个题目时，以为把新闻语料丢进模型就能吐出像样的摘要，实际跑下来面对的却是整段重复、事实张冠李戴和一直涨不上去的评估分数。这个方向真正要解决的核心问题，是让模型在压缩原文信息的同时保持语义连贯和事实一致，而这两点恰恰是入门阶段最容易翻车的地方。如果你正在做或者打算做这个毕业设计，下面从数据、模型、训练到避坑的完整路径，基本就是围绕这个目标展开的；哪怕你只有一张普通显卡，也完全能在两周内跑出一个能看的效果基线，剩下的时间再去啃难点、做对比实验。

2. 从抽取式到生成式：摘要模型的技术路线怎么选

2.1 两类方法的本质区别：抽取式省事但天花板低，生成式难但值得做

文本摘要经过多年发展，核心分成了两条路线：抽取式（Extractive）和生成式（Abstractive）。抽取式的思路是从原文里挑出最重要的若干句话，按顺序拼成摘要；生成式则是让模型读懂全文后，重新组织语言写出新的句子。用一个例子说明：原文是“某公司昨天在总部召开新品发布会，会上公布了新一代处理器，官方称性能比上一代提升40%”，抽取式摘出来的可能是“某公司昨天在总部召开新品发布会，会上公布了新一代处理器”，而生成式给出的可能是“某公司发布新一代处理器，性能提升40%”。后者读起来更像人写的摘要，信息密度也更高。

本科毕设选哪条路，直接决定了你后面要面对的问题复杂度。抽取式实现简单，用 TF-IDF、TextRank 这类传统方法就能跑通，加上深度学习做句子排序也不难，但摘要的上限明显受限——它永远跳不出原文句子的框，无法像人一样做概括和转述。生成式才是“基于深度学习的文本摘要自动生成”这个标题真正指向的方向，它有独立的编码器-解码器结构，能生成原文里没出现过的表述，但要处理重复、幻觉、长文本遗忘等问题。我的建议是：既然标题里写了“生成”，就主攻生成式路线，再拿一个抽取式方法（比如 TextRank）当基线做对比，这样论文章节也好展开。

2.2 生成式模型从 Seq2Seq 到预训练微调：不用从零造轮子

生成式摘要的模型基础是序列到序列（Sequence-to-Sequence）结构。早期的做法是用双向 LSTM 做编码器、单向 LSTM 做解码器，中间靠注意力机制把原文信息传递给解码器。这种结构在短文本上有效果，但长文本上信息丢失严重，训练也不稳定——梯度消失、注意力分散都是常见问题。后来 Transformer 结构出现，彻底改变了这个局面：它用自注意力取代了循环网络，每个词都能直接看到全文里所有词，长距离依赖不再打折扣。几乎所有现代生成式摘要模型都是在 Transformer 基础上做的，只是改造方式不同。

到了本科毕设这个阶段，完全没有必要从零训练一个 Transformer。社区里已经有大量成熟的预训练模型，比如 BART、Pegasus、T5 这类专门为生成任务设计的模型，它们在数十亿词的语料上完成了预训练，你只需要用摘要数据做微调。所谓微调，就是在预训练参数的基础上，用你的训练数据继续更新参数，让模型适应“输入长文本，输出短摘要”这个具体任务。这个做法能极大降低训练成本——从零训练可能需要几十张显卡跑几周，微调则只需要一张普通显卡跑几小时。这也是为什么我坚持认为生成式摘要是本科毕设计算力范围内真正可做的方向。

2.3 本科毕设选型：算力、数据、时间三个约束下的最优组合

毕设选型不能只看技术先进性，更要看你的实际资源。先说算力：如果你有 6GB 以上显存的显卡（比如常见的消费级显卡），就可以跑中小规模预训练模型的微调；如果只有 CPU 或者 4GB 显存，也有应对方案，后面会讲怎么用梯度累积和序列截断来压缩资源需求。再说数据：中文可以用公开的短文本摘要数据集，英文可以用 CNN/DailyMail 这类经典数据集，数据量从几万条到几十万条不等，完全够毕设用了。最后是时间：从环境搭建到跑出可对比的实验结果，一个完整流程应该控制在两到三周内，剩下的时间用来调参、做案例分析、写论文。

模型选型上，我推荐直接锁定生成式预训练模型的微调路线，并且优先选择针对摘要任务优化过的模型。具体到中英文场景，英文直接用 BART 或 Pegasus，中文则找对应的中文预训练模型——社区里有多家机构开源过中文摘要预训练版本，基于 BART 架构的在中文新闻摘要上效果都不错。如果你担心模型太大跑不动，优先选 base 尺寸而不是 large 尺寸，效果差距在毕业设计场景下是可以接受的。另外，不要忽略一个老牌的抽取式强基线 TextRank，它不需要训练、几行代码就能跑出结果，拿来做对比和兜底都很有价值。

3. 数据集与预处理：把原始语料变成模型能吃到的输入

3.1 数据集怎么选：中文用公开短文本集，英文用 CNN/DailyMail 还是其他

文本摘要方向可用的公开数据集不多但也不算少。中文场景最常用的是某个高校实验室发布的短文本摘要数据集，规模在 200 万条以上，每条数据是一篇短新闻和对应的一句话摘要；它有一个特点——摘要长度很短，普遍在 30 到 50 字，适合做短文本摘要入门。英文场景的经典选择是 CNN/DailyMail 数据集，包含新闻正文和人工写的摘要，正文平均长度在 30 到 40 句话，摘要平均长度在 3 到 4 句话，属于中长文本摘要的基准数据集。对比下来，中文数据集的单条文本更短、启动更快，适合验证模型能否跑通；英文数据集更接近真实摘要任务，适合做深入分析。

还有一个实际考量：本科毕设一般要求用中文写论文，如果你的实验基于中文数据集，论文里的示例、案例分析都更方便展开。但要注意中文数据集的来源问题——公开版本虽然容易拿到，可是里面混着大量短文本噪声，有的原文本身就类似摘要，模型学到的可能是“压缩短文本”而不是“理解长文本后概括”。相比之下，英文数据集虽然需要更长的输入序列，但数据质量更稳定、学术论文里引用最多，方便你查资料对照。我的建议是：如果时间紧，选中文数据集打底；如果想把实验做得扎实，可以中英文数据集各跑一组。选数据集时优先找带标准训练/验证/测试切分的版本，这样和已发表论文对比时不会因为划分方式不一致而吃亏。

3.2 文本清洗与长度截断：哪些预处理不做后面一定会后悔

数据预处理是整个流程里最枯燥但最影响结果的一环。常见做法是：先把原始数据从 JSON 或其他格式解出来，去掉 HTML 标签和无意义字符，再把连续空格合并；英文要做分词和小写化，中文不需要分词但要去掉全角空格；接着统一处理特殊符号，比如把“&”还原成“&”，把多余换行符删掉；最后按最大长度截断或过滤超长样本。这里有一个容易忽略的点：中文数据集里混了大量繁体字和异体字，正常简体语料里不应该出现，最好做一个简繁转换或直接过滤掉，否则模型会生成夹杂繁体字的摘要。

有了清洗逻辑，紧接着就是长度截断策略。模型对输入序列长度有上限，比如 512 或 1024 个 token，超过长度就会报错或做截断。有人为了参数“够用”直接把正文头尾截掉，这是很粗糙的做法。更合理的策略是：先在句子级别去掉 HTML 标签留下的空段落，然后按句子顺序从前往后填充，到上限附近停止；摘要端同样要做长度控制，过长的摘要会被截断，过短的应该过滤掉，因为“嗯”“好的”这类几乎无信息的样本会让训练信号变脏。清洗完的数据务必重新统计一下长度分布和样本总量，你会发现过滤后有效数据可能只剩原来的八成，这个信息要写进论文的数据处理章节。

import json import re def clean_text(text): # 去 HTML 标签，去控制字符，压缩连续空白 text = re.sub(r"<[^>]+>", "", text) text = re.sub(r"[\x00-\x08\x0b\x0c\x0e-\x1f]", "", text) text = re.sub(r"\s+", " ", text).strip() return text def process_one_line(line): obj = json.loads(line) content = clean_text(obj["content"]) summary = clean_text(obj["summary"]) # 句子级过滤：正文过短或摘要过短直接丢弃 if len(content) < 30 or len(summary) < 5: return None return {"content": content, "summary": summary} with open("raw_data.jsonl", "r", encoding="utf-8") as f: samples = [] for line in f: result = process_one_line(line) if result is not None: samples.append(result) print("有效样本数:", len(samples))

这段代码做的事很直接：读取 JSONL 格式的原始数据，对正文和摘要分别做清洗，然后按长度阈值过滤。代码里的clean_text用了三个正则——第一个去 HTML 标签，第二个去掉 ASCII 控制字符，第三个把多个空白压缩成一个空格。过滤条件content < 30和summary < 5是经验值，你可以根据自己的数据集分布调整；如果不确定阈值是否合适，先统计长度的分位数再定。这一步做完，数据才能安全地交给 tokenizer。

3.3 数据划分和防止数据泄漏：验证集别拿训练集里的新闻来糊弄

数据划分不是简单按比例随意切分就结束了，摘要任务有一个独特的泄漏风险：同一话题的多篇新闻可能在语料里出现多次。比如某条新闻被不同媒体转载，正文几乎一样，摘要措辞略有差异；如果这些相似样本同时出现在训练集和验证集里，验证分数会虚高，论文里的实验数据经不起复现。处理办法是：先按正文内容做去重，用简单哈希或判重逻辑把高度相似的样本排除，再做正式划分。哈希去重不完美，但对毕设来说足够了。

常见做法是按 8:1:1 切分训练、验证、测试集，但要注意切分方式。不是随机切，而是先对样本做全局洗牌，再按顺序切；洗牌要设定固定随机种子，保证每次运行结果一致。验证集的作用是每次训练完看模型效果、决定是否调参，测试集只在最终评估时用一次。你在论文里报告的 ROUGE 分数应该来自测试集，而不是验证集。还有一个习惯值得养成：单独固定一批测试样本，训练过程中反复拿它们生成摘要查看输出文本，直观感受模型在变好还是变差——指标有滞后性，肉眼观察往往能更快发现模型崩溃的迹象。

4. 模型训练的全流程：从加载预训练模型到计算 ROUGE

4.1 微调代码框架：用不到一百行代码跑通训练闭环

训练部分的代码完全可以基于社区成熟的框架来做。推荐直接用 Transformers 库，它把模型结构、tokenizer、训练器都封装好了，你只需要写数据处理和评估逻辑。整体流程是：加载预训练模型和分词器 → 把原始文本编码成 input_ids 和 attention_mask → 构造 PyTorch Dataset → 配置训练参数 → 启动训练。下面这段代码是我给某本科生改过的快速启动模板，从加载模型到开始训练不超过八十行。

import torch from torch.utils.data import Dataset, DataLoader from transformers import ( BartForConditionalGeneration, BartTokenizer, Seq2SeqTrainingArguments, Seq2SeqTrainer, ) pretrained_model_path = "your_model_path" # 换成你实际使用的预训练模型路径 tokenizer = BartTokenizer.from_pretrained(pretrained_model_path) model = BartForConditionalGeneration.from_pretrained(pretrained_model_path) class SumDataset(Dataset): def __init__(self, data, tokenizer, max_src_len=512, max_tgt_len=64): self.data = data self.tokenizer = tokenizer self.max_src_len = max_src_len self.max_tgt_len = max_tgt_len def __len__(self): return len(self.data) def __getitem__(self, idx): item = self.data[idx] src = self.tokenizer( item["content"], max_length=self.max_src_len, truncation=True, padding="max_length", return_tensors="pt", ) tgt = self.tokenizer( item["summary"], max_length=self.max_tgt_len, truncation=True, padding="max_length", return_tensors="pt", ) return { "input_ids": src["input_ids"].squeeze(0), "attention_mask": src["attention_mask"].squeeze(0), "labels": tgt["input_ids"].squeeze(0), } train_dataset = SumDataset(train_data, tokenizer) val_dataset = SumDataset(val_data, tokenizer) training_args = Seq2SeqTrainingArguments( output_dir="./results", num_train_epochs=3, per_device_train_batch_size=4, per_device_eval_batch_size=4, learning_rate=5e-5, warmup_steps=500, weight_decay=0.01, logging_dir="./logs", logging_steps=100, save_steps=1000, evaluation_strategy="steps", eval_steps=1000, predict_with_generate=True, report_to="none", fp16=True, ) trainer = Seq2SeqTrainer( model=model, args=training_args, train_dataset=train_dataset, eval_dataset=val_dataset, tokenizer=tokenizer, ) trainer.train()

代码看起来长，但核心逻辑集中在三块。第一块是SumDataset，它把每一条样本的正文和摘要分别交给 tokenizer 转换成模型输入：input_ids是正文的 token 编号，attention_mask标记哪些位置是真实 token（padding 位置为 0），labels是摘要的标准答案。第二块是Seq2SeqTrainingArguments，所有训练行为都由它控制，参数含义后面展开。第三块是Seq2SeqTrainer，它把模型、数据、参数组装在一起，train()一行就能启动训练。

有几个参数值得特别说明。predict_with_generate=True表示在验证阶段用生成方式（解码）而不是直接计算损失来评估模型，这一步很关键；如果不打开，验证分数只反映语言模型损失，不能直观看出摘要质量。fp16=True启用混合精度训练，显存占用能省不少，但需要显卡支持，CPU 环境跑不了。per_device_train_batch_size=4是每个显卡的批大小，如果你的显存只有 4GB，建议改成 2 或 1，后面会讲显存不够时怎么调整。

4.2 训练参数到底怎么设：学习率、batch size、epoch 和显存策略

参数设置是微调阶段最容易困惑的地方，也是论文里必须交代的实验细节。学习率方面，预训练模型微调一般用 3e-5 到 5e-5 这个范围，太小收敛慢，太大容易把预训练学到的知识冲掉。我习惯先试 5e-5，如果训练 loss 震荡明显就降到 3e-5；这个调整要在训练的前几百步里观察，不要等跑完一个 epoch 才回头改。epoch 数量看数据量，中文短文本摘要数据集有几十万条样本时，2 到 3 个 epoch 就足够，跑多了会过拟合——一个常见判据是训练 loss 持续下降但验证 loss 开始回升，这时候就该停了。

batch size 的设置受到显存限制，但要注意它不只影响显存，还影响模型收敛质量。更大的 batch size 通常让梯度的估计更稳定，但也会让模型更难跳出局部最优；小 batch size 加适当学习率在摘要微调里往往效果更好。实际的做法是：先设 batch size 为 4，如果显存溢出，减到 2，同时把gradient_accumulation_steps设为 2 或 4。梯度累积的意思是：攒够多个小 batch 的梯度后再统一更新一次参数，模拟大 batch size 的效果。比如 batch size=2、accumulation=4，等效于用 8 条样本计算一次梯度更新，显存占用却和 batch size=2 一样。下面是一个典型的小显存配置。

per_device_train_batch_size=2 gradient_accumulation_steps=4 fp16=True max_source_length=384 max_target_length=48

这套配置是我在 4GB 显存下跑过的组合。max_source_length=384把输入序列缩短了一些，配合max_target_length=48让单条数据占用的显存明显下降。代价是如果数据集里有些长文本，超过长度的部分会被截掉，模型看不到完整内容，摘要质量会略降。在做实验的时候，长文本截断这个问题需要你单独写出来讨论，不能假装不存在；处理方式可以是按比例统计被截断的样本数量，并在论文里说明这个限制。

4.3 生成与评估：beam search 的陷阱和 ROUGE 分数的正确打开方式

训练结束后，真正用于生成摘要的阶段和解码策略强相关。所谓解码，就是模型在每一步预测下一个词，不断重复直到生成结束符。最简单的贪心解码是每一步都取概率最大的词，但这样容易陷入局部重复；更常用的 beam search 会同时保留多个候选序列，最终选整体得分最高的。Beam size 一般取 4 到 6，太小效果接近贪心，太大会让生成变得保守甚至重复。控制重复的核心参数是no_repeat_ngram_size，设置为 3 表示禁止任何三个连续词重复出现，这个参数几乎必开，能解决大部分重复问题。

def generate_summary(model, tokenizer, input_text, device): inputs = tokenizer( input_text, max_length=512, truncation=True, return_tensors="pt", ).to(device) outputs = model.generate( **inputs, max_new_tokens=64, num_beams=4, no_repeat_ngram_size=3, length_penalty=2.0, early_stopping=True, ) summary = tokenizer.decode(outputs[0], skip_special_tokens=True) return summary

这段生成代码里，num_beams=4是效果与速度的折中点，no_repeat_ngram_size=3是防重复的实用参数，length_penalty=2.0是给输出长度一个正向激励——大于 1 会鼓励模型生成更长的摘要，小于 1 则倾向于短摘要。设置 length_penalty 的经验是：如果你的数据集摘要普遍偏长，用 1.5 到 2.0；如果摘要普遍很短，用 0.8 到 1.0。这里没有标准值，需要拿验证集试跑几次，观察输出长度分布再定。early_stopping=True表示 beam search 在足够好的候选出现后提前终止，能省时间。

评估指标方面，文本摘要几乎统一使用 ROUGE 系列指标，核心是 ROUGE-1、ROUGE-2 和 ROUGE-L。ROUGE-1 衡量模型生成的摘要与标准摘要之间单字/单词的重叠情况，ROUGE-2 衡量连续两个词的重叠，ROUGE-L 则基于最长公共子序列计算。对于中文，因为分词方式不同，ROUGE 分数会受影响——按字计算和按词计算的结果差别很大。我建议统一按字级别计算 ROUGE，并明确写在论文里，方便和已有工作对比，中文摘要研究中按字计算也是更常见的做法。如果拿不准用什么工具，找社区里常用的 ROUGE 计算库，输入生成结果文件和标准答案文件，输出三个分数就能直接用到论文里。

5. 本科毕设里最常见的五个训练坑：现象、原因和解决

5.1 坑一：显存溢出，一个 batch 都跑不动

现象：训练刚开始几十步就报 CUDA out of memory，整个进程直接退出。我见过不少同学卡在这一步，代码本身没有问题，纯粹是显存不够。

原因主要有三个：序列太长、batch size 太大、模型太大。很多人拿到模型不修改默认的 1024 序列长度，一条样本就占掉大量显存；还有人为了“训练稳”把 batch size 设成 8 或 16，显存自然扛不住。解决思路不是二选一，而是多项组合：把模型换成 base 尺寸而不是 large；把max_source_length降到 384；batch size 降到 2；打开fp16；再加上gradient_accumulation_steps=4。这套组合下来，4GB 显存基本能跑。还有一个常常被忽略的点：PyTorch 默认会为每个张量分配缓存，训练前执行一次小的前向和反向传播，让显存预分配到位，能减少运行中的碎片问题。另外，如果你开了evaluation_strategy="steps"，验证阶段也会占显存，可以把eval_steps调得稀疏一些，比如 2000 步评估一次。

5.2 坑二：生成的摘要全是重复词，一段话来回绕

现象：模型输出的摘要读起来像一个复读机，“某某表示某某表示某某表示……”或者连续几个句子共享同样的开头结构，完全不连贯。

原因有两个层面。第一是解码阶段的重复问题，训练时用 teacher forcing（把标准答案喂给解码器），生成时模型只能靠自己预测的词继续生成，一旦某个词概率偏高就会陷入自我强化。第二是训练数据里的摘要本身质量差，尤其是中文短文本数据集里，部分“摘要”是从原文里原样复制的，模型学到了复述而不是概括的坏习惯。解决的先后顺序是：先在解码端加no_repeat_ngram_size=3和num_beams=4，这能立刻缓解大部分重复；如果还不行，不要急着调参，而是去检查训练数据——统计摘要里 n-gram 重复的比例，发现异常样本就清洗掉。有些同学把全部精力放在调 beam search 上，折腾几天还是治标不治本，就是因为没意识到数据才是根源。

5.3 坑三：ROUGE 分数上不去，或者比论文里的结果差一大截

现象：训练正常收敛，生成的摘要肉眼看着还行，但算出来的 ROUGE-2 不到 5，或者跟已发表论文差了好几个点。

原因有多种，最常见的是评估口径不一致。有人用字符级计算，有人用词级计算；有人做中文分词后按词计算，有人直接按字计算——不同口径下分数差异非常大，跟论文对比时根本没有意义。另一个常见问题是，测试集里标准摘要本身的风格就和模型生成风格不对齐。比如标准摘要是一个人写的概括语，模型生成的是原文关键句改写，语义上接近但字面重叠率低，ROUGE 分数就不会高。解决方法是：先确认你的 ROUGE 计算方式和对比论文一致，使用同一套工具和相同口径；然后看几个具体的测试样本，判断分数低是“真不行”还是“指标没测对”。这里我特别想强调——ROUGE 指标对用词重叠极其敏感，生成式摘要换一种表达方式分数就会大幅波动，所以论文里除了报告 ROUGE，还要放几个生成示例做定性分析，这是摘要论文的通行写法。

5.4 坑四：loss 不降或者收敛极慢，训练好几个小时没反应

现象：训练日志里 loss 在某个数值附近小幅浮动，甚至前几百步几乎不动，生成的结果像是随机词语的组合。

原因往往是学习率和数据噪声的组合问题。学习率设得过低会让模型几乎不更新；batch size 太小会让梯度方向剧烈震荡；而数据清洗不彻底，正文里带着大量 HTML 残留、广告噪声，模型会把注意力浪费在学习“识别噪声”上。排查顺序：第一步看训练 loss 的绝对数值——如果初始 loss 就异常高（比如远大于 5），先检查 tokenizer 和模型是否匹配，预训练模型和它的分词器必须配对使用。第二步看数据，随机抽五十条训练样本，人工读一遍，确认正文是不是干净的新闻文本。第三步调学习率，在训练日志里对比 5e-5 和 1e-4 前 200 步的 loss 曲线，选下降更平滑的那个。第四步检查是否该用 warmup——预训练模型微调通常需要 warmup 让模型适应新数据分布，warmup_steps=500是一个合理的起点。

5.5 坑五：中文特殊符号、繁体字和空摘要让模型生成“四不像”

现象：生成的摘要里夹杂繁体字、全角标点混乱，甚至出现 URL 片段或“amp;”这类 HTML 实体残留。

原因很直接——预处理没做干净。数据里本身就有繁体字，或者清洗正则漏掉了 HTML 实体比如&，模型看到什么就学什么。这个问题在跑中文短文本数据集时尤其普遍，因为这类数据集是用爬虫抓取的，原文里各种符号都有。解决方法是把清洗规则补完整：加一条简繁转换处理或过滤规则，把全角字符统一转半角，把&、<等常见 HTML 实体显式还原，把包含 URL 的样本清洗掉。做完这一步，重新统计清洗前后数据的字符分布，你会发现特殊符号占比明显下降。另外还要注意一个隐蔽的问题：空摘要。有些样本的摘要字段是空字符串或者只有空格，这类样本单独过滤掉即可；但不要只过滤“长度小于 5”的摘要，这个阈值能把噪声样本挡在门外，但也会误伤真实的高质量短摘要，需要结合你的数据分布来决定。

6. 让摘要效果更进一步的三个技巧：定性和定量一起抓

到了这个阶段，你已经能跑通完整流程并拿到还算正常的 ROUGE 分数了。接下来要做的不是盲目调参，而是建立一套“验证-修正-记录”的闭环。第一个技巧是建立一个小型人工评估集，从测试集里随机抽 30 到 50 条样本，把原文本、标准摘要、模型生成的摘要放在一起，打印成对照表，每隔几次训练就看一轮。你会很快发现哪些问题是 ROUGE 反映不出来的——比如事实错误、代词指代混乱、关键数字丢失。这些发现写进论文比单纯堆一堆指标更有说服力。

第二个技巧是针对生成长度做后处理校验。模型经常会生成过短或过长的摘要，一个实用的习惯是在生成后检查 token 数量，对明显过短的输出做二次生成（调低length_penalty），对明显过长的输出做截断并补充结尾标点。这个处理不需要训练，只需要在推理阶段写一个小函数。

第三个技巧是用两个不同随机种子训练同配置模型，对比验证集的 ROUGE 稳定性。如果两次实验分数差距超过 0.5 个点，说明训练过程还不够稳定，可以在论文里如实说明并取平均值报告；如果差距很小，说明你的实验配置可靠。这个方法成本低，但对结论的可信度提升很有帮助。

我最早做这个方向时，只盯着 ROUGE-2 一个数字调参，结果分数涨了零点几个点就以为自己取得了突破，后来某导师让

本文还有配套的精品资源，点击获取