正则化(Regularization)是一种在训练机器学习模型时,在损失函数中添加额外项,来惩罚过大的参数,进而限制模型复杂度、避免过拟合,提高模型泛化能力的技术。类型:L1 正则化(Lasso 回归):惩罚参数绝对值之和,使部分参数为 0,实现特征选择。L2 正则化(Ridge 回归):惩罚参数平方和,使参数值普遍较小,提高模型稳定性。L2 正则化是通过在损失函数中加入权重的平方和来惩罚大权重,目的是防止模型过拟合。ElasticNet:结合 L1 和 L2 正则化,平衡稀疏性和稳定性。