☰
深度学习(一)
2026/10/12 3:55:41 网站建设 项目流程

一.线性回归

1.基本概念

(1)模型:相当于是一个数学公式,又分为确定的数学公式和模糊的即(数学思维)

(2)参数:函数中除了自变量和因变量之外的数

(3)训练集:用来寻找参数的数据集

(4)测试集:用来判断参数是否合理的数据集

(5)模型训练:寻找参数,使得模型在数据上的误差尽可能小的这个过程

(6)标签:相当于是因变量

(7)特征:自变量。特征是用来表征样本的特点

(8)损失函数:用来判断参数的误差是否够小(eg:平方损失)

(9)解析解:损失函数的解可以通过公式表达出来这样的解

(10)数值解 :没有解析解的就是,这类解只能通过多次迭代利用优化算法来尽可能的降低损失 函数的值

(11)超参数:在小批量梯度下降算法中人为给定的一些数值

(12)调参:调的是超参数不是上述的模型的参数

2.线性回归表示方法

(1)神经网络图

输⼊个数也叫特征数或特征向量维度

输出层中的神经元和输⼊ 层中各个输⼊完全连接。因此,这⾥的输出层⼜叫全连接层

(2)函数表示

其中w1和w2是权重,b是偏差(bias),且均为标量。它们是线性回归模型的参数。模型输出是线性回归对真实的预测或估计。我们通常允许它们之间有⼀定误差

(3) 损失函数(平方损失)

一般情况,我们会求该值的平均值来衡量模型预测的质量

(4)小批量梯度下降算法(目的也是用来求参数)

先随机选取模型参数的初始值,接下来对参数进行迭代,每一次迭代都会下降损失函数的值。

即:先随机均匀的在大量固定的训练数据样本中选取小批量的样本,这些样本训练出来的模型的损失函数的平均损失进行求梯度(求导)让后给他乘以一个人为的正数最后由w减去该数

代表每个小批量中的样本个数,称作学习率并取正数。这两个数就是上述的超参数

3.线性回归实战

过程:数据——模型——损失函数——梯度求导——利用梯度更新函数——设置训练轮次——更新后的参数进行推理预测

二.逻辑回归

1.sigmoid函数:将输入值转化为0-1之间

损失函数

梯度下降公式(对w)

(对参数B)

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询