企业官网建设流程全解析

1. 为什么这18个损失函数值得你花一整晚逐个敲一遍

PyTorch的torch.nn模块里，损失函数（Loss Function）不是工具箱里可有可无的螺丝钉，而是整个模型训练过程的“方向盘+油门+刹车”三合一控制器。我带过不少刚从Keras或TensorFlow转过来的开发者，第一反应往往是：“不就是nn.CrossEntropyLoss()和nn.MSELoss()两个够用吗？”——结果在做多任务联合优化、异常值鲁棒建模、细粒度排序、医学图像分割边界精调时，全卡在loss不收敛、梯度爆炸、指标虚高实低上。根本原因不是模型结构不行，而是损失函数选错了，就像给越野车装了赛车胎，再强的引擎也跑不稳泥地。

这18个损失函数，不是随便凑数的清单。它们覆盖了监督学习中95%以上的典型场景：分类任务从单标签到多标签、从硬标签到软标签、从类别不平衡到长尾分布；回归任务从L2平滑到Huber鲁棒、从MAE线性到LogCosh平滑；还有专门对付分割边界的DiceLoss、处理排序的TripletMarginLoss、支持自监督对比学习的InfoNCELoss……每一个都对应着一类真实业务问题的数学解法。比如某医疗影像项目中，模型在肿瘤区域Dice系数高达0.87，但临床医生反馈“边缘模糊、边界漂移”，最后把nn.BCEWithLogitsLoss()换成SoftDiceLoss，只改一行代码，边界IoU直接提升12.3%——这不是玄学，是损失函数对几何结构敏感性的本质差异。

你不需要死记硬背公式，但必须理解每个损失函数的“脾气”：它对异常点是否宽容？梯度在什么区间最陡？输出logits还是prob？是否内置了sigmoid/softmax？要不要加label smoothing？这些细节决定你调试模型时是“30分钟搞定”，还是“三天两夜怀疑人生”。本文不讲推导，只讲实操：每个损失函数我会给出最小可运行代码片段、典型适用场景一句话判断法、参数调参经验阈值、踩坑现场还原，全部基于我在工业级CV/NLP/时序项目中的真实复现。如果你正在训一个新模型，建议先花10分钟扫完这18个名字，再动手写第一行loss = ...——省下的不只是GPU时间，更是被误导向的模型架构探索成本。

2. 损失函数选型逻辑：从问题本质出发，而非API文档

2.1 分类任务损失函数的三层决策树

分类任务的损失函数选择，核心是回答三个递进问题：

第一层：输出是单标签还是多标签？

• 单标签（一张图只属于猫/狗/鸟中一个类别）→ 优先考虑CrossEntropyLoss（隐含softmax+负对数似然）
• 多标签（一张图同时有“天空”、“云”、“飞机”）→ 必须用BCEWithLogitsLoss（sigmoid+二元交叉熵），因为每个标签独立判断

提示：CrossEntropyLoss输入是raw logits（未归一化），target是class index（如tensor([1])）；BCEWithLogitsLoss输入也是logits，但target是0/1张量（如tensor([0,1,1])）。混用会导致loss值异常甚至NaN。

第二层：标签质量如何？是否存在噪声或不确定性？

• 标准标注（ImageNet级质量）→CrossEntropyLoss足够
• 存在标注噪声（如众包数据、弱监督）→ 加label_smoothing=0.1，让模型不迷信hard label
• 标签是概率分布（如专家打分0.7猫/0.3狗）→ 改用KLDivLoss，输入模型输出的log_softmax，target是log(soft_label)

第三层：类别是否严重不平衡？

• 常规不平衡（正负样本比1:5）→WeightedCrossEntropyLoss（传入weight参数）
• 极端长尾（头部类占比80%，尾部类<0.1%）→FocalLoss（αγ双参数调节，γ=2.0是工业默认值）
• 需要动态平衡（如在线学习场景）→CB_loss（Class-Balanced Loss），需额外计算有效样本数

我实测过某电商商品识别项目：原始CrossEntropyLoss下，小众品类（如“珐琅锅”）召回率仅31%；换FocalLoss(γ=2.0)后升至68%；再叠加CB_loss微调，达到79%——但训练时间增加40%，所以最终上线选了折中的FocalLoss。这就是选型的权衡：没有银弹，只有最适合当前数据分布的解。

2.2 回归任务损失函数的“鲁棒性光谱”

回归损失函数的本质差异，在于对异常值（outlier）的容忍度。下图是同一组预测值与真实值的loss对比（真实值y=10，预测值y_hat从0到20）：

看到没？当预测值偏离真实值达15个单位（y_hat=25），MSE惩罚飙升到225，而MAE只涨到15。这就是为什么在金融风控预测逾期金额时，用MSE会导致模型过度关注少数极端坏账案例，反而降低对主流用户（逾期1-30天）的预测精度。此时HuberLoss是更优解：当|y-y_hat|≤δ时用MSE（保证小误差区间的平滑梯度），>δ时自动切换为MAE（抑制大误差的过度惩罚）。

SmoothL1Loss（即Faster R-CNN中使用的loss）是Huber的特例（δ=1.0），但PyTorch实现中做了数值稳定优化，梯度在0点连续可导。而LogCoshLoss则更进一步：log(cosh(x)) ≈ x²/2（小x时），≈|x|-log(2)（大x时），天然具备MSE的平滑性和MAE的鲁棒性，且二阶导存在，适合二阶优化器（如Newton法）。某自动驾驶项目中，用LogCoshLoss替代MSELoss预测车辆偏航角，测试集RMSE下降18%，且训练过程更稳定——因为传感器偶尔的瞬时噪声（如激光雷达短暂遮挡）不再拖垮整个batch的梯度更新。

2.3 特殊任务损失函数的“场景触发器”

有些损失函数不是通用解，而是为特定问题定制的“手术刀”。识别它们的关键，是记住三个触发词：

• “分割”→ 立刻想到DiceLoss、TverskyLoss、FocalTverskyLoss
  Dice系数本质是交并比（IoU）的变体，对前景像素占比极低的场景（如医学图像中的肿瘤区域）极其友好。DiceLoss = 1 - DiceCoefficient，但注意：它不满足梯度单调性，单独使用易震荡，工业实践必与BCEWithLogitsLoss加权组合（如0.5:0.5）。

• “排序”→TripletMarginLoss、ContrastiveLoss、MarginRankingLoss
  这类loss不关心绝对分数，只关心相对顺序。例如推荐系统中，“用户点击的商品A”应比“未点击的商品B”得分更高。TripletMarginLoss要求输入(anchor, positive, negative)三元组，margin参数设为0.3~1.0（太小导致无效约束，太大导致梯度稀疏）。某短视频项目用它做embedding相似度学习，将margin从0.1调到0.5后，线上完播率提升7.2%。

• “生成”→GANLoss（虽非PyTorch原生，但nn.BCEWithLogitsLoss可构建）、PerceptualLoss（需加载VGG特征）
  GAN的判别器loss本质是二元分类，用BCEWithLogitsLoss即可；生成器loss则需结合判别器输出（fake_logits）和目标（label=1），即criterion(fake_logits, real_labels)。而PerceptualLoss通过预训练网络提取高层特征计算MSE，能捕捉人眼感知的相似性，比像素级MSE更适合超分、风格迁移。

3. 18个损失函数逐个拆解：参数、代码、场景、避坑

3.1 分类损失函数（8个）

3.1.1nn.CrossEntropyLoss：单标签分类的基石

• 核心参数：weight（类别权重）、ignore_index（忽略标签索引）、label_smoothing（标签平滑系数，0.0~1.0）
• 最小代码：

  import torch import torch.nn as nn loss_fn = nn.CrossEntropyLoss(weight=torch.tensor([1.0, 2.0]), label_smoothing=0.1) logits = torch.tensor([[2.0, 1.0, 0.1], [0.5, 2.5, 1.2]]) # shape: [2,3] target = torch.tensor([0, 1]) # class indices loss = loss_fn(logits, target)

• 适用场景：标准单标签分类（ImageNet、CIFAR）、类别不平衡（设weight）、标注噪声（设label_smoothing）
• 避坑指南：

  注意：target必须是long类型（torch.int64），若为float会报错Expected object of scalar type Long。常见错误是target = torch.tensor([0.0, 1.0])，需显式target = target.long()。
  实测心得：label_smoothing=0.1在大多数视觉分类任务中稳定提点0.3%~0.8%，但NLP任务中可能降低困惑度（perplexity），需AB测试。

3.1.2nn.BCEWithLogitsLoss：多标签分类的标配

• 核心参数：weight（每个标签的权重）、pos_weight（正样本权重，处理单标签内不平衡）
• 最小代码：

  loss_fn = nn.BCEWithLogitsLoss(pos_weight=torch.tensor([1.0, 5.0, 2.0])) # 第2个标签正样本少，权重高 logits = torch.tensor([[2.0, -1.0, 0.5], [-0.5, 3.0, 1.2]]) # shape: [2,3] target = torch.tensor([[1, 0, 1], [0, 1, 1]], dtype=torch.float32) # 0/1 tensor loss = loss_fn(logits, target)

• 适用场景：多标签分类（场景识别、属性检测）、单标签内正负样本不平衡（如“是否含广告”标签中99%为负）
• 避坑指南：

  提示：pos_weight是标量或与target同shape的tensor，用于放大正样本loss贡献。若target是[2,3]，pos_weight可为[3]（每个标签独立权重）或标量1.0（全局权重）。
  实测心得：在某新闻标签系统中，pos_weight设为各标签正样本倒数（如标签A正样本占比10%，则pos_weight=10），F1-score提升11.5%，但需注意过高的pos_weight会导致模型对正样本过拟合。

3.1.3nn.KLDivLoss：软标签与知识蒸馏的桥梁

• 核心参数：reduction（求和/均值/无）、log_target（target是否已取log）
• 最小代码：

  loss_fn = nn.KLDivLoss(reduction='batchmean', log_target=False) pred_log_prob = torch.log_softmax(torch.tensor([[2.0, 1.0], [0.5, 2.5]]), dim=1) # log_softmax output soft_target = torch.tensor([[0.7, 0.3], [0.2, 0.8]]) # soft labels target_log = torch.log(soft_target) # KLDiv expects log(target) if log_target=False loss = loss_fn(pred_log_prob, target_log)

• 适用场景：知识蒸馏（teacher模型输出soft target）、标签平滑（替代label_smoothing）、概率分布匹配
• 避坑指南：

  注意：KLDivLoss输入是log-probabilities（log_softmax输出），target是probabilities（需torch.log(soft_target)）或log-probabilities（设log_target=True）。混淆会导致loss为负值。
  实测心得：蒸馏时，temperature=3.0的soft target比temperature=1.0（即hard softmax）更有效，因高温使概率分布更平滑，保留teacher的“暗知识”。

3.1.4nn.MultiLabelSoftMarginLoss：多标签的另一种解法

• 核心参数：weight（类别权重）
• 最小代码：

  loss_fn = nn.MultiLabelSoftMarginLoss() logits = torch.tensor([[2.0, -1.0, 0.5], [-0.5, 3.0, 1.2]]) target = torch.tensor([[1, 0, 1], [0, 1, 1]], dtype=torch.float32) loss = loss_fn(logits, target)

• 适用场景：多标签分类，但target为{-1,1}编码（-1表示忽略该标签），不过实际中BCEWithLogitsLoss更灵活常用。
• 避坑指南：

  提示：此loss内部对每个标签独立计算log(1+exp(-x*y))，当target=-1时该项loss为0。但现代项目基本被BCEWithLogitsLoss取代，因其支持pos_weight等更细粒度控制。

3.1.5nn.SoftMarginLoss：二分类的平滑版

• 核心参数：无关键参数
• 最小代码：

  loss_fn = nn.SoftMarginLoss() logits = torch.tensor([2.0, -1.0, 0.5]) # 1D tensor for binary classification target = torch.tensor([1.0, -1.0, 1.0]) # +1/-1 labels loss = loss_fn(logits, target)

• 适用场景：二分类任务，target为+1/-1格式（如SVM风格），但BCEWithLogitsLoss更主流。
• 避坑指南：

  注意：target必须是+1或-1，若为0/1会计算错误。转换方式：target_11 = 2 * target_01 - 1。

3.1.6nn.CosineEmbeddingLoss：度量学习的入门款

• 核心参数：margin（相似度阈值，0.0~1.0）、reduction
• 最小代码：

  loss_fn = nn.CosineEmbeddingLoss(margin=0.5) input1 = torch.tensor([[1.0, 2.0], [2.0, 1.0]]) input2 = torch.tensor([[1.1, 2.1], [1.0, 0.5]]) target = torch.tensor([1, -1]) # 1=similar, -1=dissimilar loss = loss_fn(input1, input2, target)

• 适用场景：人脸验证、文本语义匹配，要求同类别embedding余弦相似度>margin，异类别<margin。
• 避坑指南：

  提示：margin设为0.4~0.6较稳妥。过小（0.1）导致约束太松，过大（0.9）使异类别loss饱和（梯度消失）。某金融反欺诈项目中，margin=0.5时设备指纹聚类准确率最高。

3.1.7nn.MarginRankingLoss：排序任务的基础

• 核心参数：margin（排序间隔）、reduction
• 最小代码：

  loss_fn = nn.MarginRankingLoss(margin=1.0) input1 = torch.tensor([0.5, 0.2]) # score of item A input2 = torch.tensor([0.3, 0.7]) # score of item B target = torch.tensor([1, -1]) # A should rank higher than B for first pair loss = loss_fn(input1, input2, target)

• 适用场景：Learning to Rank（LTR）、推荐系统排序，输入为成对item的score。
• 避坑指南：

  注意：target为1表示input1应大于input2，为-1则相反。若input1[i] - input2[i] + margin < 0，loss为正，否则为0。因此需确保score尺度合理（如归一化到[0,1]）。

3.1.8nn.TripletMarginLoss：深度度量学习的主力

• 核心参数：margin（三元组间隔）、p（距离范数，默认2）、swap（是否启用semi-hard mining）
• 最小代码：

  loss_fn = nn.TripletMarginLoss(margin=0.5, swap=True) anchor = torch.tensor([[1.0, 2.0], [2.0, 1.0]]) positive = torch.tensor([[1.1, 2.1], [2.1, 1.1]]) negative = torch.tensor([[0.5, 0.5], [3.0, 3.0]]) loss = loss_fn(anchor, positive, negative)

• 适用场景：人脸识别、图像检索，要求d(a,p) + margin < d(a,n)。
• 避坑指南：

  提示：swap=True启用semi-hard mining（用d(a,n)替换d(p,n)），能加速收敛。margin通常设为0.3~1.0，某安防项目中margin=0.6时top-1检索准确率最优。

3.2 回归损失函数（5个）

3.2.1nn.MSELoss：回归的起点

• 核心参数：reduction
• 最小代码：

  loss_fn = nn.MSELoss() pred = torch.tensor([1.2, 2.5, 3.1]) target = torch.tensor([1.0, 2.0, 3.0]) loss = loss_fn(pred, target)

• 适用场景：误差服从高斯分布、无显著异常值的标准回归。
• 避坑指南：

  注意：对异常值极度敏感。某房价预测中，一套天价别墅（真实价1亿，预测5000万）使batch loss暴涨10倍，拖慢整体收敛。

3.2.2nn.L1Loss（MAE）：鲁棒回归首选

• 核心参数：reduction
• 最小代码：

  loss_fn = nn.L1Loss() loss = loss_fn(torch.tensor([1.2, 2.5]), torch.tensor([1.0, 2.0]))

• 适用场景：存在异常值、关注平均绝对误差（如销量预测）。
• 避坑指南：

  提示：梯度恒为±1，不如MSE平滑。常与MSE组合（如0.5*MSE + 0.5*MAE）兼顾平滑性与鲁棒性。

3.2.3nn.SmoothL1Loss：Faster R-CNN的遗产

• 核心参数：beta（平滑阈值，默认1.0）、reduction
• 最小代码：

  loss_fn = nn.SmoothL1Loss(beta=1.0) loss = loss_fn(torch.tensor([0.5, 2.0]), torch.tensor([0.0, 1.0]))

• 适用场景：目标检测框回归（xywh）、需要梯度连续的回归任务。
• 避坑指南：

  注意：beta越小，越接近MAE；越大越接近MSE。beta=0.5在小目标检测中表现更好。

3.2.4nn.HuberLoss：可调鲁棒性的工业标准

• 核心参数：delta（阈值，默认1.0）、reduction
• 最小代码：

  loss_fn = nn.HuberLoss(delta=1.0) loss = loss_fn(torch.tensor([0.5, 2.0]), torch.tensor([0.0, 1.0]))

• 适用场景：金融风控（逾期金额）、工业传感器读数预测，需平衡小误差精度与大误差鲁棒性。
• 避坑指南：

  提示：delta应设为数据误差的标准差（σ）。实测某电力负荷预测中，delta=std(y_true - y_pred)时RMSE最低。

3.2.5nn.GaussianNLLLoss：概率回归的正规军

• 核心参数：full（是否加常数项）、eps（方差下界）、reduction
• 最小代码：

  loss_fn = nn.GaussianNLLLoss() pred_mean = torch.tensor([1.0, 2.0]) pred_var = torch.tensor([0.1, 0.2]) # predicted variance target = torch.tensor([1.2, 1.8]) loss = loss_fn(pred_mean, target, pred_var)

• 适用场景：需要预测不确定性（如自动驾驶轨迹预测）、贝叶斯神经网络。
• 避坑指南：

  注意：pred_var必须>0，故常加eps=1e-6。某气象预测项目中，用此loss输出温度预测区间，覆盖率（coverage）达92%（接近理论95%）。

3.3 特殊任务损失函数（5个）

3.3.1nn.DiceLoss（需自定义）：分割任务的灵魂

• 核心参数：smooth（平滑项，防止除零）、multiclass（是否多类）
• 最小代码：

  class DiceLoss(nn.Module): def __init__(self, smooth=1.0, multiclass=False): super().__init__() self.smooth = smooth self.multiclass = multiclass def forward(self, logits, target): probs = torch.sigmoid(logits) if not self.multiclass else torch.softmax(logits, dim=1) if self.multiclass: target = F.one_hot(target, logits.shape[1]).permute(0,3,1,2).float() intersection = (probs * target).sum((2,3)) union = probs.sum((2,3)) + target.sum((2,3)) dice = (2. * intersection + self.smooth) / (union + self.smooth) return 1 - dice.mean() loss_fn = DiceLoss() logits = torch.randn(2, 1, 64, 64) # binary segmentation target = torch.randint(0, 2, (2, 64, 64)) loss = loss_fn(logits, target)

• 适用场景：医学图像分割、遥感图像提取，前景占比极低。
• 避坑指南：

  提示：必须与BCEWithLogitsLoss组合使用（如0.5*BCE + 0.5*Dice），否则易陷入局部最优。某病理切片项目中，纯DiceLoss导致模型输出全黑mask。

3.3.2nn.BCELoss：BCEWithLogitsLoss的兄弟

• 核心参数：weight、reduction
• 最小代码：

  loss_fn = nn.BCELoss() probs = torch.sigmoid(torch.tensor([2.0, -1.0])) # must be probabilities target = torch.tensor([1.0, 0.0]) loss = loss_fn(probs, target)

• 适用场景：已手动计算sigmoid后的二分类，但强烈建议用BCEWithLogitsLoss（数值更稳定）。
• 避坑指南：

  注意：输入必须是[0,1]概率，若输入logits会因sigmoid饱和导致梯度消失。BCEWithLogitsLoss内部融合了sigmoid + BCE，避免此问题。

3.3.3nn.CTCLoss：语音识别与OCR的基石

• 核心参数：blank（空白符索引）、zero_infinity（是否将inf loss置0）
• 最小代码：

  loss_fn = nn.CTCLoss(blank=0, zero_infinity=True) log_probs = torch.log_softmax(torch.randn(50, 16, 28), dim=2) # T,N,C targets = torch.tensor([1,2,3,4]) # no blank input_lengths = torch.tensor([50]) target_lengths = torch.tensor([4]) loss = loss_fn(log_probs, targets, input_lengths, target_lengths)

• 适用场景：语音识别（ASR）、手写文字识别（HTR），输入序列长于输出序列。
• 避坑指南：

  提示：targets不能含blank索引，input_lengths必须≥target_lengths。某OCR项目中，zero_infinity=True避免了因长度不匹配导致的inf loss中断训练。

3.3.4nn.PoissonNLLLoss：计数数据的专属

• 核心参数：log_input（输入是否为log）、full、eps
• 最小代码：

  loss_fn = nn.PoissonNLLLoss(log_input=False, full=True) pred = torch.exp(torch.tensor([1.0, 2.0])) # Poisson mean λ target = torch.tensor([3, 5]) # count data loss = loss_fn(pred, target)

• 适用场景：网页点击量预测、服务器请求数预测，数据服从泊松分布。
• 避坑指南：

  注意：pred应为泊松分布的均值λ（>0），若输入logλ，设log_input=True。某广告系统中，用此loss预测每小时曝光量，MAE比MSE低22%。

3.3.5nn.HingeEmbeddingLoss：小众但关键

• 核心参数：margin、reduction
• 最小代码：

  loss_fn = nn.HingeEmbeddingLoss(margin=1.0) input = torch.tensor([[0.5, 1.2], [2.0, 0.8]]) # embedding norms target = torch.tensor([1, -1]) # 1=valid, -1=invalid loss = loss_fn(input, target)

• 适用场景：度量学习中约束embedding范数，如要求正样本norm<margin，负样本>margin。
• 避坑指南：

  提示：target=1时loss为input，target=-1时loss为max(0, margin - input)。适用于需要控制embedding尺度的场景。

4. 工业级实战：损失函数组合与动态调度策略

4.1 多任务学习中的损失加权艺术

单模型多任务（如同时预测商品销量、用户评分、退货率）时，各任务loss量纲不同，直接相加会导致主导任务压制其他任务。某电商中台项目中，我们采用不确定性加权（Uncertainty Weighting）：

class MultiTaskLoss(nn.Module): def __init__(self, num_tasks=3): super().__init__() # 每个任务一个可学习log-variance参数 self.log_vars = nn.Parameter(torch.zeros(num_tasks)) def forward(self, losses): # losses: list of scalar losses total_loss = 0 for i, loss in enumerate(losses): precision = torch.exp(-self.log_vars[i]) total_loss += precision * loss + self.log_vars[i] return total_loss # 使用 multi_loss = MultiTaskLoss() losses = [mse_loss, bce_loss, huber_loss] # 各任务loss total = multi_loss(losses) # 自动学习各任务权重

原理：log_var[i]学习任务i的噪声水平，高噪声任务（如退货率预测）获得更低权重。实测中，相比固定权重（1:1:1），uncertainty weighting使退货率预测MAE下降15.3%，且销量预测不受影响。

4.2 损失函数的动态调度：Warm-up与Annealing

固定loss在整个训练周期并不最优。某自动驾驶项目采用渐进式loss调度：

• 前10个epoch：loss = 0.8 * BCE + 0.2 * Dice（快速建立分割基础）
• 10-30 epoch：loss = 0.5 * BCE + 0.5 * Dice（平衡优化）
• 30+ epoch：loss = 0.3 * BCE + 0.7 * Dice（聚焦边界精度）

代码实现：

def get_loss_weights(epoch): if epoch < 10: return 0.8, 0.2 elif epoch < 30: return 0.5, 0.5 else: return 0.3, 0.7 # 训练循环中 bce_weight, dice_weight = get_loss_weights(epoch) loss = bce_weight * bce_loss + dice_weight * dice_loss

效果：最终边界IoU比固定权重提升9.1%，且训练曲线更平滑，无明显震荡。

4.3 损失函数的梯度裁剪与稳定性保障

某些loss（如TripletMarginLoss）在batch内难样本挖掘时，梯度可能爆炸。我们在所有loss计算后统一裁剪：

loss.backward() torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm=1.0) optimizer.step()

max_norm=1.0是经验值：太小（0.1）导致训练过慢，太大（5.0）无法抑制梯度爆炸。某NLP实体链接项目中，加入梯度裁剪后，训练崩溃率从12%降至0.3%。

5. 常见问题与排查技巧实录

5.1 Loss为NaN的7种根因与速查表

实测心得：90%的NaN问题源于数据，而非模型。养成习惯：在dataloader返回前加assert not torch.isnan(batch).any()，早发现早解决。

5.2 Loss不下降的5大陷阱与破局点

陷阱1：Loss函数与任务不匹配

• 表现：分类任务用MSELoss，loss缓慢下降但acc不上升
• 破局：立刻换CrossEntropyLoss，观察acc是否跳升

陷阱2：Label格式错误

• 表现：CrossEntropyLossloss=10+，BCEWithLogitsLossloss≈0.693（-log0.5）
• 破局：打印target.dtype, target.min(), target.max()，确认格式

陷阱3：学习率与loss scale不匹配

• 表