☰
计算机视觉考点地图:从卷积、SIFT到R-CNN目标检测
2026/11/2 9:59:24 网站建设 项目流程

简介:《2024年北京交通大学计算机视觉课程必考知识点汇总》面向备考期末、系统梳理课程框架的本科生与复习者,围绕图像滤波、边缘检测、特征匹配、分类器、卷积网络和目标检测等高频考点组织问答式复习线索。文档以40个核心问题串联相关、卷积与内积三种滤波定义,高斯核参数、双阈值与细边缘、角点检测、尺度选择与描述子、视觉词典、朴素贝叶斯与近邻及线性分类、交叉熵与铰链损失、感受野与权值共享、残差模块,以及区域卷积网络到更快区域卷积网络的演进、候选区域生成、非极大值抑制和转置卷积等难点,并附简明解释与推导思路。资源包为1个PDF文件,约9.69MB,内容紧凑,适合打印批注或按专题检索;已有667人学习,可用于考前定位薄弱环节,对照课堂笔记查漏补缺,并按章节复盘重点概念与典型题型。

1. 先搭一张计算机视觉考点地图:从像素响应到检测框的复习主线

2024 计算机视觉课程必考知识点,真正的主线不是三十多道简答题的简单堆叠,而是一条从像素到语义的链:滤波把像素变成响应,特征把响应变成可匹配的描述子,分类器把描述子变成得分,CNN 把得分学习端到端化,两阶段检测再把候选区域与分类回归串起来。复习时如果只背定义,遇到高斯核尺寸、SIFT 双塔简化、RPN 输出维度、NMS 阈值这类题就容易断片。这份计算机视觉课程资源按“底层视觉—尺度描述—模型训练—检测上采样”四层整理,适合已经上过课、需要系统梳理和考前查漏补缺的人。

2. 底层视觉的计算骨架:相关卷积、高斯核、Canny 与 Harris

底层视觉常被当成名词课,实际每条公式都对应一个可考操作。复习时先抓住“滤波三定义—三用途—高斯核—高斯偏导核—Canny—滤波器组—Harris”这条链,后面 SIFT 和 CNN 的卷积才不会悬空。这里的重点不是背术语,而是知道每个操作改变了图像的什么量:响应、梯度、边缘还是角点。

2.1 相关、卷积、内积:三种定义和三种用途

相关是模板覆盖区域内元素逐一相乘再累加,模板中心对应图像位置得到新值;卷积是把同样模板旋转 180 度后再做相关;内积是把模板和图像对应区域按行或列扫描成向量,逐元素相乘后求和得到一个标量。三者常被混着说,考试里只要给的是非对称核,相关和卷积的结果就会不同,这一点最容易翻车。

操作是否旋转模板输出形态典型理解
相关不旋转模板覆盖区域的加权和模板匹配中最直观的滑动匹配
卷积旋转 180 度数学卷积响应图像增强、CNN 中的卷积核响应
内积不涉及滑动模板旋转两个展平向量的标量相似度解释匹配、投影和响应强弱

三种用途要能各举一例。模板匹配是人为定义一个目标原型,再与测试图像做卷积,响应越大越匹配,手势识别里可以定位特定手势;图像增强包括平滑和锐化,平滑用高斯核去噪,锐化用拉普拉斯算子或梯度算子增强边缘和细节,美颜相机里的磨皮和对比度增强就是同一类思路;特征提取是把边缘、角点等视觉线索抽出来,Canny 用高斯偏导核提取边缘,Harris 找角点,SIFT 找尺度不变关键点。

# 3x3 模板的相关与卷积,省略边界处理 def correlate(image, kernel): h, w = len(image), len(image[0]) out = [[0] * (w - 2) for _ in range(h - 2)] for i in range(h - 2): for j in range(w - 2): s = 0 for u in range(3): for v in range(3): s += image[i + u][j + v] * kernel[u][v] out[i][j] = s return out def rotate180(kernel): return [row[::-1] for row in kernel[::-1]] def convolve(image, kernel): # 卷积 = 模板旋转180度后做相关 return correlate(image, rotate180(kernel))

这段代码只保留核心逻辑:image是二维灰度图,kernel是 3×3 模板,rotate180先翻转行再翻转列。相关和卷积的差别全部落在rotate180上;如果核本身关于中心对称,比如常见高斯核,两者结果一样,这也是很多人忽略旋转步骤的原因。考试写定义时先判断核是否对称,再决定要不要写“旋转 180 度”。

2.2 高斯核与高斯偏导核:σ、核尺寸和去噪边缘一起算

高斯核服从正态分布,满足 3σ 原则。核尺寸不同但 σ 相同时结果类似,原因是高斯核做平滑本质上是某一范围内的加权积分,工程上核宽通常取约 6σ,也就是width = 2 * (3 * σ),这个范围已经覆盖绝大部分权重,再增大核尺寸,新增部分的权重非常小,积分结果趋于稳定。设置参数时,σ 控制平滑程度,噪声大就取大一些;核尺寸取约 6σ 且通常取奇数,保证中心对称。

高斯偏导核的用途是去噪并提取边缘,设计原理是把“先高斯平滑再求梯度”合并成一步:先对高斯核求一阶偏导,再与图像卷积。这样减少一次显式平滑后的计算,复杂度更低,效率更高。这里要分清一个概念:高斯偏导核得到的是梯度分量,Canny 后面还要算梯度幅值和方向,不能把偏导核输出直接当成最终边缘。

参数含义设置建议考点
σ高斯分布标准差噪声越大取值越大决定平滑尺度和特征尺度
kernel size模板覆盖范围约 6σ,取奇数尺寸增大后结果趋稳
偏导方向x 方向或 y 方向分方向求梯度得到水平和垂直梯度分量

注意:高斯偏导核不是“高斯核加一个边缘检测算子”的简单拼接,而是把求导作用在高斯函数上,再与图像做卷积。

2.3 Canny 的细边缘与双阈值:非极大值抑制和连通性

Canny 获取“细边缘”的关键是非极大值抑制。遍历像素点,把当前像素梯度值与梯度方向上相邻两个点的梯度值比较,只有当前点最大才保留,否则丢弃。数字图像里相邻点不一定正好落在梯度方向上,常见处理有两种:角度量化,把梯度方向近似到 0、45、90、135 度;线性插值,用周围像素估计梯度方向上的值。前者好写,后者更细。

双阈值的设计思路是同时压住弱边缘和强噪声。设最大阈值maxVal和最小阈值minVal,梯度值大于maxVal的像素直接判为强边缘;小于minVal的丢弃;介于两者之间的弱边缘,只有与强边缘连通时才保留。这样做的重点不是“取中间值”,而是滞后阈值加连通性分析,避免边缘断裂。

步骤操作目的
平滑高斯核卷积降低噪声对梯度的干扰
求梯度高斯偏导核得到梯度幅值和方向
非极大值抑制沿梯度方向比较把粗边缘压成细边缘
双阈值强边缘保留、弱边缘看连通去掉噪声响应,补上断边

提示:梯度方向是边缘的法线方向,非极大值抑制比较的是沿梯度方向的相邻点,不是沿边缘方向。

2.4 滤波器组与 Harris:从边缘到角点的角色分工

滤波器组要能说清每类滤波器的图像处理作用、计算机视觉检测对象和数学视角。高斯滤波器用于图像平滑,在计算机视觉里检测斑点,数学上可理解为对图像求积分;LoG 用于图像锐化,检测斑点,数学上先做高斯平滑再对高斯求二阶偏导;高斯偏导核和高斯二阶偏导核用于边缘检测,检测边和条,数学上先对高斯求一阶或二阶偏导再卷积。复习时不要只背名字,要能把“平滑—锐化—边缘—斑点”对应起来。

滤波器图像处理作用视觉检测对象数学视角
高斯滤波器平滑、去噪斑点对图像求积分
LoG锐化、增强响应斑点高斯平滑后取二阶偏导
高斯偏导核边缘检测边高斯一阶偏导后卷积
高斯二阶偏导核边缘与条状结构检测边和条高斯二阶偏导后卷积

Harris 算子的数学原理从灰度变化公式E(u,v)出发,对I(x+u, y+v)做泰勒展开,把x、y与u、v解耦,最终得到二次型矩阵。对实对称矩阵 M 做特征值分解和相似对角化,U 决定图形方向,特征值 λ1 和 λ2 决定图形在两个方向上的变化强度。两个特征值都大是角点,只有一个大是边,都很小是平面。由于特征值分解代价较大,实际用trace(M)和det(M)构造角点响应强度 R:R 大于 0 且很大是角点,R 小于 0 是边,|R| 特别小是平面。这里的重点是 R 的判断替代了特征值分解,但符号和阈值仍要结合具体响应看。

3. 尺度与描述子:SIFT 双塔、方向投票和视觉词典

特征点复习要从“在哪”推进到“多大、朝哪、长什么样”。Harris 解决角点响应,自动尺度选择解决特征尺度,SIFT 解决尺度空间关键点、方向和描述子,视觉词典与纹理基元则把局部特征集合变成可用于分类的固定维表示。这一章的概念密度高,最稳的复习方式是沿着一条关键点流水线走:尺度空间找极值,DoG 近似 LoG,方向投票定主方向,4×4 子区域生成描述子,聚类得到视觉词。

3.1 自动尺度选择与特征尺度的物理意义

自动尺度选择的基本思想是构建尺度空间,由一系列从小到大的窗口组成,这些窗口逐渐覆盖图像中不同尺度的区域。若函数f(x,y,σ)在某个尺度 σ 上达到局部极大值,就把这个 σ 与窗口大小建立联系,认为该尺度对应特征的真实尺度。这里需要的函数 f 必须在尺度方向上有极值,否则无法自动选尺度。

特征尺度的物理意义要结合信号与滤波器的关系。函数 f 常用 LoG 实现,用不同尺度 σ 的 LoG 与信号做卷积,卷积响应可以理解为信号最高点与 LoG 图像围成区域的面积。当信号图像最高点刚好与 LoG 图像的零交叉点重合时,内积达到最大值,f 出现局部最大。也就是说,特征尺度不是图像分辨率,而是滤波器与局部结构匹配得最好的尺度。

概念作用复习抓手
尺度空间用不同 σ 观察图像窗口从小到大,找 f 的局部极大
LoG检测斑点与尺度极值高斯平滑后二阶偏导
特征尺度结构对应的最佳滤波器尺寸信号最高点与零交叉点重合时响应最大

3.2 SIFT“双塔”结构:四级简化计算链

SIFT 的“双塔”指高斯金字塔和高斯差分金字塔。人类视觉有近大远小、近清晰远模糊的特点,高斯金字塔用不同大小的高斯核从小到大对原始图像做平滑,再把不同平滑程度的图像堆叠起来;每组内相邻层相减得到高斯差分金字塔,用来检测极值点。DoG 是对 LoG 的近似,差分比卷积更快,这是 SIFT 能算得动的关键。

四处简化计算要能逐条说清。第一,大尺度平滑可以由小尺度平滑再做一次小尺度平滑得到,kσ 尺度的卷积结果可以由 σ 尺度卷积后的结果再用sqrt((kσ)^2 - σ^2)卷积得到。第二,跨组时为避免使用大尺度高斯核,可以把图像缩小,再用小尺度高斯核卷积。第三,Octave2 中的 2σ 层可以由 Octave1 倒数第三层的卷积结果下采样一倍得到。第四,用 DoG 代替 LoG,高斯金字塔相邻层做减法,每一片近似对应拉普拉斯核对图像的卷积结果,减法比卷积效率高。

简化点具体做法省下的计算
大尺度由小尺度组合σ 结果再卷sqrt((kσ)^2 - σ^2)避免直接构造大核
跨组缩小图像图像下采样后用小核避免大尺度高斯核
组间层复用Octave2 的 2σ 层由上一组倒数第三层下采样减少重复平滑
DoG 代替 LoG相邻高斯层相减用减法替代卷积
import math def next_sigma(sigma, k): # 由 sigma 尺度结果再卷积一次,得到 k*sigma 尺度 return math.sqrt((k * sigma) ** 2 - sigma ** 2) # 示例:sigma=1.0,k=2^(1/3),则补一次约0.26的卷积 sigma = 1.0 k = 2 ** (1 / 3) print(next_sigma(sigma, k))

这段代码只表达第一级简化的核心:已知 σ 尺度的平滑结果,要得到 kσ 尺度,不必重新用 kσ 大核卷原图,而是补一次等效尺度卷积。参数sigma是当前层尺度,k是相邻层尺度倍率,next_sigma给出补卷时的高斯标准差。考试写简化链时,把“组、层、下采样、DoG”四个词按顺序写出来,比只写“双塔”更稳。

3.3 关键点方向与描述子生成:投票和 4×4 子区域

SIFT 为关键点确定方向时,以关键点为圆心、1.5σ 为半径画圆,圆形区域反映不同点的权重特征。由这个圆确定一个正方形区域,对区域内每个像素计算梯度方向,把方向量化到[0, 360]中的 n 个区间,再进行权重投票:离关键点越近权重越大,梯度幅值越大权重越大。投票结果中频率最高的方向作为关键点主方向。

描述子生成假设关键点已确定。仍以关键点为圆心、1.5σ 为半径确定正方形区域,把区域分成 4×4 个小区域,共 m 个;每个小区域内的像素梯度方向量化为 n 个方向,箭头越长表示该方向投票票数越多,于是每个小区域得到一个 n 维直方图向量;把 m 个 n 维向量拼起来,形成 m×n 维描述子。常见设置是 4×4 个子区域、每个子区域 8 个方向,得到 128 维描述子。

环节关键操作目的
主方向1.5σ 圆内梯度方向投票让描述子具备旋转不变性
区域划分正方形区域分成 4×4 子区域保留局部空间结构
子区域直方图每个子区域统计 n 个方向形成局部梯度分布
拼接与归一化m×n 维向量归一化降低光照变化影响

注意:方向投票和描述子生成都用 1.5σ 圆,但前者是为了找主方向,后者是为了划定描述子区域,不要写成同一个步骤。

3.4 视觉词典与纹理基元:从局部特征到全局表示

构造视觉词典时,先用 SIFT 确定每幅图像的关键点和描述子,把每幅图像表示为一个局部区域或关键点特征的无序集合;再用聚类算法(如 K-means)对局部特征聚类,每个聚类中心看作词典中的一个视觉词汇,所有视觉词汇构成视觉词典,词典大小为聚类个数。重点是视觉词典把“每张图关键点数量不一样”的可变长集合,转成了固定维直方图,后续分类器才能处理。

纹理基元的构造过程要注意原料里的 48 维设定。图像中每个像素表示为一个 48 维向量,对这些向量聚类形成 k 个类别,构建包含 k 个视觉词汇的词典;用一定大小的窗口对图像中的关键点进行特征圈定,计算特征之间的距离,把窗口内每个特征映射到词典中的某个词;再用与词典维数相同的直方图向量统计每个视觉词出现次数;比较不同窗口的直方图,相似则可认为属于同一区域。这里的重点是“像素向量—聚类词典—窗口映射—直方图比较”这条链,考试给 48 维或给 k 类时照用,不要自行改参数。

4. 模型与检测:从 Wx、损失函数到 R-CNN 家族与转置卷积

从线性分类到 CNN,再到两阶段目标检测,复习重点从“手工特征”转向“可学习参数”。线性得分函数解释 W 的代数与几何含义,损失函数评价 W 好坏,梯度下降和小批量决定怎么更新,隐藏层解释非线性来源,CNN 把模板学习、权值共享和层级感受野结合起来,R-CNN 家族则把候选区域、特征共享、RPN 和 NMS 串成检测流水线。这一章计算题多,变量定义必须先写清楚。

4.1 线性得分函数 s=Wx:代数模板与几何决策边界

线性分类器写作s = f(x, W) = Wx。代数视角下,把 W 按行看,每一行是一个模板,代表一个类别的平均模式;输入图像与每个模板做匹配,匹配程度越高,得分越高。几何视角下,W 是得分函数中输入 x 前的系数,每个类别对应一条决策线或超平面,计算结果大于 0 表示位于该决策的正方向,n 个类别就有 n 条决策线,最后选得分最高的类别。

NB、KNN 和 LinCls 的理论联系要从生成式与判别式看。NB 先知道P(X,Y),再推导P(Y|X),两类朴素贝叶斯可推出线性边界;KNN 不做显式贝叶斯决策,直接用最近样本标签预测,结构风险不超过 2 倍贝叶斯误差;LinCls 跳过联合分布,直接学线性决策边界。三者都在做分类,但假设和误差来源不同,考试容易只写“都是分类器”而漏掉生成式与判别式的差别。

import numpy as np # 5个类别,每个样本展平成10维特征 W = np.random.randn(5, 10) x = np.random.randn(10) s = W @ x print(W.shape) # (5, 10):5行模板,10维特征 print(s.shape) # (5,):每个类别一个得分 print(np.argmax(s))

这段代码用形状说明 W 的代数含义:W的行数等于类别数,列数等于特征维数,W @ x得到每个类别的得分。几何上,每一行是一个超平面法向量,得分大小表示样本落在决策边界哪一侧、离边界多远。参数改法很直接:类别数变就改行数,输入特征维数变就改列数,偏置项可另加一列全 1 特征。

4.2 交叉熵与铰链损失:两种损失在评价什么

Softmax 交叉熵用于评价模型预测分布与真实标签的差异。真实标签是 one-hot 编码,只需取 one-hot 中为 1 的位置对应的模型输出,计算负对数概率。SVM 铰链损失则看正确类得分与其他类得分的间隔:yi是真实标签索引,S_yi是正确类得分,S_j是其他类得分,损失对每个错误类累加max(0, S_j - S_yi + margin)。前者关注正确类概率是否足够大,后者关注错误类得分是否被压到正确类之下并留出间隔。

损失核心形式关注点梯度特点常见搭配
Softmax 交叉熵正确类负对数概率概率分布拟合正确类概率低时梯度大多分类、CNN 分类头
SVM 铰链损失max(0, S_j - S_yi + 1)分类间隔只有违反间隔的类产生梯度线性分类、传统 SVM
import numpy as np def softmax_loss(scores, y): # scores: 类别得分向量;y: 正确类索引 scores = scores - np.max(scores) # 数值稳定 exp_s = np.exp(scores) prob = exp_s / np.sum(exp_s) return -np.log(prob[y]) def hinge_loss(scores, y, margin=1.0): # 对除正确类以外的每个类累加间隔损失 loss = 0.0 for j, s_j in enumerate(scores): if j != y: loss += max(0.0, s_j - scores[y] + margin) return loss

这段代码给出两种损失的玩具实现。scores是模型输出向量,y是正确类索引;softmax 先减最大值是为了防止指数溢出,交叉熵只取正确类概率的负对数;hinge 对每个错误类计算间隔损失,margin默认 1。考试写数学解释时,先把S_yi和S_j的符号定义写清,再写求和范围,能避免把正确类和错误类写反。

4.3 梯度下降与小批量:更新方向、批大小和训练噪声

确定参数 W 更新方向用梯度下降,沿梯度反方向更新,前提是更新时其他变量固定。批块不是越小越快,小到一定程度后单次时间差不多,反而可能因为频繁更新导致效率下降。小批量更新有助于训练,是因为全批量梯度下降时如果某部分梯度为 0,训练容易停滞;小批量每次计算的损失略有不同,噪声让下一次更新有机会突破停滞点,因此小批量在效率和泛化之间更平衡。

策略优点缺点适用场景
全批量梯度稳定容易卡在平坦区,内存压力大小数据集、理论分析
小批量有噪声,易突破停滞,效率较高批大小需调CNN 训练常用
单样本更新频繁,噪声最大抖动大,硬件利用率低在线学习或特殊场景
# 小批量 SGD 更新骨架 for x_batch, y_batch in loader: scores = W @ x_batch loss, grad = compute_loss_and_grad(scores, y_batch, W) W -= learning_rate * grad

这段骨架里loader按批吐出数据,learning_rate控制步长,grad是损失对 W 的梯度。批大小改的是loader的 batch size,学习率通常要随批大小调整;如果训练损失震荡,先看学习率是否过大,再看批大小是否过小。这里的血泪经验是:不要迷信“批越小越快”,先保证梯度估计别太抖。

4.4 隐藏层的能与不能:特征变换与分布式表示

隐藏层的第一层作用是特征转换,把原本线性不可分的数据从一个空间映射到另一个空间,使数据变得线性可分。没有隐藏层的线性分类器每个类别只能学出一个模板,表达能力强依赖输入特征本身是否已经线性可分。加入隐藏层后,模型可以先做非线性变换,再由输出层做线性分类,从而突破单层线性的限制。

从代数视角再看一次,隐藏层通过多个共享模板实现分布式表示。假设是 10 分类,原始线性分类每个类别只能学出一个w_i作为模板;单隐层可以学到 100 个模板,这些模板在 10 个类别间共享。表征一个类别时,可能要从 100 个模板里选几个组合起来,这就是分布式表示。模板多会让原始梯度下降显得麻烦,反向传播算法则提供了逐层求梯度的方式。重点是:隐藏层的“能”来自非线性激活和组合表达,“不能”在于它不会自动解决优化困难,层数加深仍要面对梯度与退化问题。

4.5 卷积输出尺寸与参数数量:感受野、权值共享的神经计算视角

CNNs 输出尺寸公式是output size = (N + 2P - F) / S + 1,其中 N 是输入宽或高,P 是 padding,F 是卷积核大小,S 是步幅。参数数量公式是(F * F * 输入图片厚度 + 1) * 卷积核个数,加 1 是偏置项。这里最容易漏的是输入厚度就是输入通道数,卷积核个数就是输出通道数;参数数量与图像空间尺寸无关,只与核大小、输入通道、输出通道有关。

感受野从一个神经元往回看,它连接到的输入区域就是感受野。权值共享指同一个滤波器在不同空间位置使用同一组系数,不同颜色的线对应不同滤波器系数,相同颜色的线权值相同。神经计算视角下,卷积层用局部连接减少参数,用权值共享减少参数并带来平移等变性,用多层堆叠扩大感受野。

def conv_output_size(N, F, P=0, S=1): # N: 输入宽或高;F: 卷积核大小;P: 单边填充;S: 步幅 return (N + 2 * P - F) // S + 1 def conv_param_count(F, C_in, C_out): # 每个输出通道一个偏置 return (F * F * C_in + 1) * C_out print(conv_output_size(32, 3, P=1, S=1)) # 32 print(conv_param_count(3, 3, 64)) # (3*3*3+1)*64

这段代码把两个高频计算题写成函数。conv_output_size中整除前要确认(N+2P-F)能被 S 整除,不能整除时实际框架会向下取整或报错;conv_param_count中C_in是输入厚度,C_out是卷积核个数。考试先写变量含义再代数,能避免把 F 当成输出通道、把 C_out 当成输入厚度。

4.6 AlexNet 到残差:训练技巧与结构设计

AlexNet 的特点集中在几个“第一次”和训练配置:使用 ReLU 抑制梯度消失,进行数据增广增加训练样本,Dropout 取 0.5,batch size 128 配合 SGD 和 Momentum 0.9 加速收敛。Sigmoid 容易引发梯度消失,是因为在 -5 到 5 区间内梯度值小于 0.25,其他区间梯度接近 0,反向传播连乘后结果趋近于 0。数据增广对 CNN 的意义在于 CNN 本身不具备 SIFT 那样的尺度和旋转不变性,增广能扩充样本、提升泛化。Dropout 提升预测精度,是因为它增加了模型不确定性,使模型不过度依赖某些特定输入,被迫学习更多特征。Momentum 的作用是引入“惯性”,不仅看当前梯度方向,还参考上一次迭代方向,加速收敛并降低陷入局部最小值或鞍点的风险。

小尺寸滤波器的好处要分四条:3×3 是能捕获像素八邻域信息的最小尺寸;两个 3×3 堆叠的感受野是 5×5,三个 3×3 堆叠的感受野是 7×7,可以用小核堆叠替代大核;多个 3×3 卷积层比一个大卷积层有更多非线性,因为每次卷积后都接激活函数;参数更少,输入输出通道都为 C 时,三个 3×3 卷积参数为3 * (3*3*C*C) = 27C^2,一个 7×7 卷积为49C^2。不足是反向传播时中间层可能占用更多内存。1×1 卷积在不改变感受野的前提下做线性形变,再经激活函数增加非线性;通过控制卷积核个数实现降维或升维,从而减少参数。

残差模块针对深层网络退化:层数增加,表现不一定提高,甚至更差。残差模块引入恒等映射和捷径连接,把输入直接传到输出,输出表示为F(x) + x,网络更容易学习F(x)=0的恒等映射。优点是梯度更易传播,缓解梯度消失和梯度爆炸;更易优化;在图像识别等任务中表现更好。训练 DNN 的指南在原料里只留了标题,按体系补全应覆盖数据清洗与增广、输入归一化、参数初始化、优化器与学习率调度、正则化、验证集监控和早停;这些不是孤立技巧,而是围绕“让梯度稳定、让泛化不崩”展开。

技巧解决的问题关键机制易错点
ReLU缓解梯度消失正区间梯度为 1负区间死亡 ReLU
数据增广CNN 缺乏尺度和旋转不变扩充样本分布增广过强破坏语义
Dropout过拟合、单特征依赖随机失活增加不确定性训练和推理模式不同
Momentum收敛慢、鞍点累积历史方向动量系数过大导致震荡
小卷积堆叠大核参数

本文还有配套的精品资源,点击获取

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询